Критерий хи-квадрат Пирсона

Критерий хи-квадрат Пирсона (χ²-критерий) — это статистический критерий, используемый для проверки гипотез о распределении данных. Он относится к классу непараметрических критериев, то есть не требует знания параметров распределения генеральной совокупности (например, среднего или дисперсии). Критерий применяется для анализа таблиц сопряжённости и позволяет оценить, соответствуют ли наблюдаемые частоты некоторому теоретическому распределению, а также существует ли статистически значимая связь между двумя категориальными переменными. Разработан английским математиком Карлом Пирсоном в 1900 году.

История

Критерий был предложен Карлом Пирсоном в работе «On the criterion of a given system of deviations from the probable in the case of a correlated system of variables», опубликованной в журнале «Philosophical Magazine» в 1900 году. Пирсон обобщил идеи, высказанные ранее Фрэнсисом Гальтоном и Уильямом Сили Госсетом (Стьюдентом), и ввёл статистику, которая при определённых условиях подчиняется распределению χ² (хи-квадрат). Изначально критерий предназначался для проверки согласия эмпирического распределения с теоретическим, но впоследствии был адаптирован для анализа таблиц сопряжённости и проверки независимости признаков.

В 1924 году Рональд Фишер уточнил распределение статистики, указав, что число степеней свободы должно вычисляться с учётом числа оцениваемых параметров. В 1930-х годах Ежи Нейман и Карл Пирсон (младший) развили теорию проверки гипотез, в рамках которой критерий хи-квадрат получил строгое обоснование.

Основные виды применения

Критерий хи-квадрат Пирсона используется в двух основных ситуациях: для проверки согласия распределения и для проверки независимости (или однородности) признаков в таблицах сопряжённости.

Проверка согласия (Goodness of Fit)

В этом случае проверяется гипотеза о том, что наблюдаемые частоты соответствуют некоторому априорно заданному теоретическому распределению. Например, можно проверить, является ли распределение результатов бросания игральной кости равномерным, или соответствует ли распределение роста людей в выборке нормальному закону.

Формулировка гипотез:

• H₀ (нулевая гипотеза): наблюдаемые частоты соответствуют теоретическому распределению.
• H₁ (альтернативная гипотеза): наблюдаемые частоты не соответствуют теоретическому распределению.

Статистика критерия: \[ \chi^2 = \sum_{i=1}^{k} \frac{(O_i - E_i)^2}{E_i} \] где:

• \( O_i \) — наблюдаемая частота в i-й категории,
• \( E_i \) — ожидаемая (теоретическая) частота в i-й категории,
• \( k \) — число категорий.

Ожидаемые частоты вычисляются исходя из предполагаемого теоретического распределения и общего объёма выборки \( n \): \( E_i = n \cdot p_i \), где \( p_i \) — вероятность попадания в i-ю категорию по теоретическому закону.

Число степеней свободы: \[ df = k - 1 - m \] где \( m \) — число параметров теоретического распределения, оценённых по выборке (например, для нормального распределения оцениваются среднее и дисперсия, поэтому \( m = 2 \)).

Проверка независимости (Test of Independence)

Применяется для анализа таблиц сопряжённости размером \( r \times c \), где \( r \) — число строк, \( c \) — число столбцов. Проверяется гипотеза о том, что две категориальные переменные независимы.

Формулировка гипотез:

• H₀: переменные независимы.
• H₁: переменные зависимы.

Статистика критерия: \[ \chi^2 = \sum_{i=1}^{r} \sum_{j=1}^{c} \frac{(O_{ij} - E_{ij})^2}{E_{ij}} \] где:

• \( O_{ij} \) — наблюдаемая частота в ячейке (i, j),
• \( E_{ij} \) — ожидаемая частота в ячейке (i, j) при условии независимости.

Ожидаемая частота вычисляется как произведение маргинальных частот, делённое на общий объём выборки: \[ E_{ij} = \frac{( \text{сумма строки } i ) \times ( \text{сумма столбца } j )}{n} \]

Число степеней свободы: \[ df = (r - 1) \times (c - 1) \]

Проверка однородности (Test of Homogeneity)

Является частным случаем проверки независимости. Используется, когда нужно сравнить распределения одной и той же категориальной переменной в нескольких независимых группах (например, распределение предпочтений по цвету среди мужчин и женщин). Гипотеза H₀: распределения однородны (одинаковы) во всех группах. Статистика и число степеней свободы вычисляются так же, как для проверки независимости.

Условия применимости

Для корректного применения критерия хи-квадрат Пирсона необходимо выполнение ряда условий:

1. Независимость наблюдений. Каждый объект выборки вносит вклад только в одну ячейку таблицы сопряжённости. Повторные измерения на одних и тех же объектах не допускаются.
2. Категориальные данные. Переменные должны быть измерены в номинальной или порядковой шкале.
3. Достаточный объём выборки. Ожидаемые частоты в ячейках не должны быть слишком малыми. Общепринятое правило: не менее 80 % ячеек должны иметь ожидаемую частоту не менее 5, и ни одна ячейка не должна иметь ожидаемую частоту менее 1. При нарушении этого условия рекомендуется объединять категории или использовать точный критерий Фишера.
4. Случайность выборки. Данные должны быть получены в результате случайного отбора из генеральной совокупности.

Интерпретация результатов

После вычисления статистики \( \chi^2 \) и числа степеней свободы \( df \) определяется p-значение — вероятность получить такое же или более экстремальное значение статистики при условии истинности нулевой гипотезы. Если p-значение меньше выбранного уровня значимости \( \alpha \) (обычно 0,05 или 0,01), нулевая гипотеза отвергается. При \( p \geq \alpha \) нулевая гипотеза не отвергается, то есть нет оснований считать, что наблюдаемые частоты отличаются от теоретических или что переменные зависимы.

Важно: критерий хи-квадрат не позволяет установить направление или силу связи, а только её наличие. Для оценки силы связи используются дополнительные меры, такие как коэффициент сопряжённости Крамера (V Крамера) или коэффициент фи (φ).

Ограничения и критика

• Чувствительность к объёму выборки. При очень больших выборках даже незначительные отклонения от нулевой гипотезы могут приводить к статистически значимым результатам, хотя практическая значимость таких отклонений может быть мала.
• Неприменимость к малым выборкам. При малых ожидаемых частотах распределение статистики \( \chi^2 \) плохо аппроксимируется теоретическим распределением, что ведёт к завышению ошибки первого рода.
• Отсутствие информации о направлении связи. Критерий не различает положительную и отрицательную связь.
• Зависимость от способа группировки. Результаты могут меняться при изменении числа категорий (например, при объединении соседних интервалов в гистограмме).

Примеры использования

1. Медицина: проверка зависимости между курением и развитием рака лёгких (таблица сопряжённости «курит/не курит» × «болен/здоров»).
2. Маркетинг: анализ связи между полом покупателя и предпочтением определённого бренда.
3. Генетика: проверка соответствия наблюдаемых частот генотипов теоретическим ожиданиям по закону Менделя (например, расщепление 3:1).
4. Социология: изучение зависимости между уровнем образования и политическими предпочтениями.
5. Качество продукции: проверка равномерности распределения дефектов по дням недели.

Связанные критерии

• Точный критерий Фишера — используется для таблиц 2×2 при малых ожидаемых частотах.
• G-критерий (критерий отношения правдоподобия) — альтернатива хи-квадрат, основанная на логарифмическом отношении правдоподобия.
• Критерий Колмогорова-Смирнова — применяется для проверки согласия с непрерывными распределениями, но не требует группировки данных.
• Критерий Мак-Немара — для парных сравнений в таблицах 2×2.

Источники

1. Пирсон К. «On the criterion of a given system of deviations from the probable in the case of a correlated system of variables» // Philosophical Magazine, 1900, Series 5, Vol. 50, pp. 157–175.
2. Фишер Р. А. «Statistical Methods for Research Workers» (1925, многократно переиздавалась).
3. Кендалл М., Стюарт А. «Статистические выводы и связи» (русский перевод, 1973).
4. Орлов А. И. «Прикладная статистика» (учебник, 2006).
5. Агапов Г. И. «Теория вероятностей и математическая статистика» (учебное пособие, 2012).