Критерий хи-квадрат

Критерий хи-квадрат (χ²-критерий) — это собирательное название группы статистических критериев, основанных на распределении хи-квадрат (χ²-распределении). Наиболее распространённым является критерий согласия Пирсона, который используется для проверки гипотез о законе распределения генеральной совокупности, а также для анализа таблиц сопряжённости, то есть для оценки наличия и силы статистической связи между двумя или более категориальными (номинальными или порядковыми) переменными. Критерий позволяет определить, насколько наблюдаемые частоты событий отличаются от ожидаемых частот при условии справедливости нулевой гипотезы.

История

Метод был разработан английским статистиком, биологом и философом Карлом Пирсоном в 1900 году. В своей работе «О критерии того, что данная система отклонений от вероятного в случае коррелированной системы переменных такова, что можно разумно предположить, что она возникла вследствие случайной выборки» Пирсон ввёл статистику, которая впоследствии стала известна как χ². Он предложил использовать её для проверки соответствия эмпирического распределения теоретическому (например, нормальному или биномиальному). Работа Пирсона заложила основы современной теории проверки статистических гипотез и анализа качественных данных.

Математическая основа

Распределение хи-квадрат

Распределение хи-квадрат (χ²) — это непрерывное распределение вероятностей, которое описывает сумму квадратов k независимых стандартных нормальных случайных величин. Параметр k называется числом степеней свободы. Форма распределения зависит от числа степеней свободы: при малых k оно асимметрично, а при увеличении k приближается к нормальному распределению.

Статистика критерия

Основная формула статистики критерия согласия Пирсона выглядит следующим образом:

χ² = Σ ( (Oᵢ — Eᵢ)² / Eᵢ ),

где:

• Oᵢ — наблюдаемая (эмпирическая) частота в i-й категории;
• Eᵢ — ожидаемая (теоретическая) частота в i-й категории при условии справедливости нулевой гипотезы;
• Σ — знак суммирования по всем категориям.

Чем больше расхождение между наблюдаемыми и ожидаемыми частотами, тем больше значение χ². Если нулевая гипотеза верна, то вычисленная статистика имеет распределение χ² с определённым числом степеней свободы.

Число степеней свободы

Число степеней свободы (df) для критерия Пирсона рассчитывается по-разному в зависимости от задачи:

• Для проверки согласия с теоретическим распределением: df = k — 1 — r, где k — число категорий, r — число параметров теоретического распределения, оценённых по выборке.
• Для таблиц сопряжённости (проверка независимости): df = (r — 1) * (c — 1), где r — число строк, c — число столбцов.

Виды критериев хи-квадрат

Критерий согласия Пирсона

Используется для проверки гипотезы о том, что выборка взята из генеральной совокупности с определённым законом распределения (например, нормальным, равномерным, пуассоновским). Нулевая гипотеза H₀: эмпирическое распределение соответствует теоретическому. Альтернативная гипотеза H₁: не соответствует.

Критерий независимости (для таблиц сопряжённости)

Применяется для анализа связи между двумя категориальными переменными. Данные представляются в виде таблицы, где строки соответствуют значениям одной переменной, а столбцы — другой. Нулевая гипотеза H₀: переменные независимы. Альтернативная гипотеза H₁: существует статистически значимая связь между переменными.

Критерий однородности

Используется для проверки гипотезы о том, что несколько выборок (например, из разных групп населения) имеют одинаковое распределение по некоторой категориальной переменной. По сути, это частный случай критерия независимости, где одна из переменных — это принадлежность к группе.

Условия применения и ограничения

Для корректного применения критерия хи-квадрат необходимо соблюдение ряда условий:

1. Объём выборки: Теоретические частоты (Eᵢ) должны быть достаточно большими. Общепринятое правило: для таблиц 2×2 все ожидаемые частоты должны быть не менее 5; для таблиц большего размера допустимо, чтобы не более 20% ожидаемых частот были меньше 5, и ни одна не была равна 0.
2. Независимость наблюдений: Каждое наблюдение должно быть независимым от других. Критерий не применяется к повторным измерениям или связанным выборкам без специальных модификаций.
3. Категориальность данных: Переменные должны быть измерены в номинальной или порядковой шкале.
4. Случайность выборки: Данные должны быть получены в результате случайного отбора.

При нарушении условий (например, при малых ожидаемых частотах) рекомендуется использовать точный критерий Фишера (для таблиц 2×2) или объединять категории с малыми частотами.

Пример применения

Рассмотрим пример проверки независимости пола и предпочтения цвета (синий/красный) среди 100 человек. Наблюдаемые частоты:

Ожидаемые частоты при независимости (E = (строка итог * столбец итог) / общий итог):

• Мужчины, синий: (50*50)/100 = 25
• Мужчины, красный: (50*50)/100 = 25
• Женщины, синий: (50*50)/100 = 25
• Женщины, красный: (50*50)/100 = 25

Вычисляем χ² = (30-25)²/25 + (20-25)²/25 + (20-25)²/25 + (30-25)²/25 = 1 + 1 + 1 + 1 = 4.

Число степеней свободы: (2-1)*(2-1) = 1. Критическое значение χ² для уровня значимости 0.05 и df=1 составляет 3.84. Так как 4 > 3.84, нулевая гипотеза о независимости отвергается. Связь между полом и предпочтением цвета статистически значима.

Связь с другими методами

Критерий хи-квадрат тесно связан с:

• Коэффициентами сопряжённости (фи-коэффициент, коэффициент Крамера V, коэффициент Чупрова), которые измеряют силу связи на основе значения χ².
• Точным критерием Фишера, который является альтернативой для малых выборок.
• G-тестом (критерием отношения правдоподобия), который также использует распределение χ², но основан на другой статистике.

Критика и альтернативы

Основные ограничения критерия включают чувствительность к объёму выборки (при больших выборках даже слабые связи могут стать статистически значимыми) и требование к минимальным ожидаемым частотам. В некоторых случаях предпочтительнее использовать:

• Критерий Колмогорова-Смирнова для проверки согласия с непрерывными распределениями.
• Точный критерий Фишера для таблиц 2×2.
• Байесовские подходы для анализа таблиц сопряжённости.

Источники

1. Пирсон, К. (1900). "On the criterion that a given system of deviations from the probable in the case of a correlated system of variables is such that it can be reasonably supposed to have arisen from random sampling". Philosophical Magazine Series 5, 50(302), 157-175.
2. Кендалл, М., Стюарт, А. (1973). Статистические выводы и связи. М.: Наука.
3. Орлов, А. И. (2004). Прикладная статистика. М.: Экзамен.
4. Айвазян, С. А., Мхитарян, В. С. (2001). Прикладная статистика и основы эконометрики. М.: ЮНИТИ.