Критерий согласия

Критерий согласия — это статистический критерий, используемый для проверки гипотезы о том, что наблюдаемое распределение случайной величины соответствует некоторой теоретической модели (например, нормальному, равномерному, пуассоновскому распределению) или что два или более независимых распределения однородны, то есть принадлежат к одной генеральной совокупности. Критерии согласия относятся к классу непараметрических методов статистики, поскольку они, как правило, не требуют знания параметров распределения (среднего, дисперсии) и применимы к данным, измеренным в номинальной или порядковой шкале. Основная задача таких критериев — ответить на вопрос: можно ли объяснить расхождение между эмпирическими (наблюдаемыми) и теоретическими (ожидаемыми) частотами случайными колебаниями выборки, или же это расхождение свидетельствует о том, что гипотеза о распределении неверна.

История

Понятие критерия согласия восходит к работам Карла Пирсона, который в 1900 году опубликовал статью «О критерии, позволяющем проверить, является ли данное отклонение от вероятностного закона случайным». В этой работе был впервые предложен критерий χ² (хи-квадрат) Пирсона, ставший одним из самых распространённых инструментов проверки статистических гипотез. Пирсон разработал его для анализа таблиц сопряжённости и проверки соответствия эмпирических данных теоретическому распределению. Впоследствии, в первой половине XX века, были разработаны другие важные критерии согласия: критерий Колмогорова — Смирнова (1933 год, Андрей Колмогоров и Николай Смирнов), критерий Шапиро — Уилка (1965 год) и критерий Андерсона — Дарлинга (1952 год). Развитие вычислительной техники во второй половине XX века позволило применять эти критерии к большим массивам данных и использовать методы Монте-Карло для оценки точности p-значений.

Классификация критериев согласия

Критерии согласия классифицируют по нескольким основаниям: типу проверяемой гипотезы, характеру данных и мощности критерия.

По типу проверяемой гипотезы

• Критерии для проверки соответствия одному теоретическому распределению: проверяют, что выборка взята из совокупности с заданным законом распределения (например, нормальным, экспоненциальным, равномерным).
• Критерии однородности: проверяют, что две или более выборки извлечены из одной и той же генеральной совокупности (то есть имеют одинаковое распределение). Пример — двухвыборочный критерий Колмогорова — Смирнова.
• Критерии независимости: проверяют, являются ли две категориальные переменные независимыми. Часто реализуются через критерий χ² для таблиц сопряжённости.

По характеру данных

• Для категориальных (номинальных) данных: данные разбиты на непересекающиеся категории. Основной критерий — χ² Пирсона.
• Для порядковых (ранговых) данных: данные можно упорядочить. Используются критерии, основанные на эмпирической функции распределения (Колмогорова — Смирнова, Андерсона — Дарлинга).
• Для непрерывных данных: данные измерены в интервальной или относительной шкале. Применимы все перечисленные критерии, но наиболее мощными для проверки нормальности считаются критерии Шапиро — Уилка и Андерсона — Дарлинга.

По мощности

Мощность критерия — это вероятность отвергнуть неверную нулевую гипотезу. Критерии различаются по мощности в зависимости от типа отклонения от гипотезы. Например, критерий Колмогорова — Смирнова чувствителен к различиям в центре распределения, но слабо различает различия в хвостах, тогда как критерий Андерсона — Дарлинга придаёт больший вес хвостам распределения.

Основные критерии согласия

Критерий χ² (хи-квадрат) Пирсона

Это один из старейших и наиболее универсальных критериев. Он применяется для категориальных данных, когда наблюдения группируются по классам. Нулевая гипотеза H₀: наблюдаемые частоты (Oᵢ) в каждом классе i соответствуют ожидаемым частотам (Eᵢ), рассчитанным на основе теоретического распределения. Статистика критерия вычисляется по формуле:

\[ \chi^2 = \sum_{i=1}^{k} \frac{(O_i - E_i)^2}{E_i} \]

где k — число классов (категорий). При выполнении H₀ и при условии, что ожидаемые частоты не слишком малы (обычно Eᵢ ≥ 5), статистика χ² асимптотически распределена по закону χ² с числом степеней свободы (k — 1 — p), где p — число оцениваемых по выборке параметров теоретического распределения. Если рассчитанное значение χ² превышает критическое (из таблицы χ²-распределения), нулевая гипотеза отвергается.

Область применения: анализ таблиц сопряжённости, проверка соответствия распределения дискретной случайной величины (например, распределения Пуассона), проверка однородности нескольких выборок. Критерий чувствителен к объёму выборки: при больших выборках даже незначительные отклонения могут быть признаны статистически значимыми.

Критерий Колмогорова — Смирнова (КС)

Этот критерий основан на сравнении эмпирической функции распределения (Fₙ(x)) с теоретической функцией распределения (F₀(x)) для непрерывных данных. Статистика критерия — это максимальное абсолютное отклонение между ними:

\[ D_n = \sup_x |F_n(x) - F_0(x)| \]

Для проверки однородности двух выборок используется двухвыборочный вариант критерия, где сравниваются две эмпирические функции распределения. Критерий Колмогорова — Смирнова непараметрический, то есть не требует предположения о нормальности данных. Однако он менее чувствителен к различиям в хвостах распределения, чем, например, критерий Андерсона — Дарлинга. Он также требует, чтобы теоретическое распределение было полностью задано (без оценки параметров по выборке), хотя существуют модификации (например, критерий Лиллиефорса для проверки нормальности с неизвестными параметрами).

Область применения: проверка нормальности (с поправкой Лиллиефорса), сравнение двух выборок на однородность, проверка соответствия любому непрерывному распределению.

Критерий Шапиро — Уилка

Этот критерий специально разработан для проверки гипотезы о нормальном распределении выборки. Он считается одним из самых мощных критериев нормальности для малых и средних выборок (n < 50). Статистика W вычисляется на основе упорядоченных значений выборки и их ковариационной матрицы при нормальном распределении. Значение W близко к 1, если данные нормально распределены, и уменьшается при отклонении от нормальности. Критерий Шапиро — Уилка чувствителен к асимметрии и эксцессу.

Область применения: предварительная проверка нормальности перед применением параметрических методов (t-критерий, дисперсионный анализ). Для больших выборок (n > 50) часто используют более мощные критерии, такие как критерий Андерсона — Дарлинга или критерий Харке — Бера.

Критерий Андерсона — Дарлинга

Этот критерий является модификацией критерия Колмогорова — Смирнова, но придаёт больший вес хвостам распределения. Статистика A² вычисляется как взвешенное квадратичное отклонение между эмпирической и теоретической функциями распределения. Он более чувствителен к отклонениям в хвостах, что делает его предпочтительным для проверки соответствия распределениям с тяжёлыми хвостами (например, распределение Стьюдента, распределение Коши). Критерий существует для проверки соответствия многим теоретическим распределениям (нормальному, логнормальному, экспоненциальному, Вейбулла и др.).

Область применения: анализ надёжности и выживаемости, проверка соответствия распределениям, используемым в страховой математике, гидрологии, а также для проверки нормальности на больших выборках.

Применение

Критерии согласия широко используются в различных областях науки и практики:

• Биология и медицина: проверка соответствия распределения размеров клеток нормальному закону, анализ генетических данных (соответствие закону Харди — Вайнберга), оценка эффективности лекарств (сравнение распределений).
• Экономика и финансы: проверка гипотезы о нормальном распределении доходности активов (для оценки рисков), анализ распределения доходов населения, проверка однородности выборок в маркетинговых исследованиях.
• Техника и контроль качества: проверка соответствия распределения параметров продукции (например, диаметра деталей) заданному допуску, анализ надёжности изделий (распределение времени до отказа).
• Социология и психология: анализ результатов опросов (таблицы сопряжённости), проверка гипотез о распределении ответов респондентов.
• Геология и экология: анализ распределения размеров частиц в почве, проверка соответствия распределения концентрации загрязнителей.

Интересные факты

• Критерий χ² Пирсона был одним из первых примеров применения математической статистики в биологии: Пирсон использовал его для анализа данных о наследственности, в частности, для проверки гипотезы о независимости признаков.
• Критерий Колмогорова — Смирнова обладает свойством равномерной состоятельности: он способен обнаружить любое отклонение от нулевой гипотезы при достаточно большом объёме выборки, в отличие от некоторых других критериев, которые могут быть нечувствительны к определённым типам альтернатив.
• Для корректного применения критерия χ² необходимо, чтобы ожидаемые частоты в каждой категории были не менее 5. Если это условие не выполняется, категории объединяют, что снижает мощность критерия.
• В современной статистической практике для расчёта p-значений критериев согласия часто используют методы Монте-Карло, которые позволяют получить точные вероятности, не зависящие от асимптотических приближений.

Критика

Несмотря на широкое применение, критерии согласия имеют ограничения. Основная критика связана с тем, что при больших объёмах выборки (n > 1000) даже незначительные, практически несущественные отклонения от теоретического распределения могут быть признаны статистически значимыми. Это приводит к тому, что нулевая гипотеза о соответствии распределению часто отвергается, хотя на практике такое отклонение не имеет значения. Для решения этой проблемы рекомендуется оценивать не только статистическую значимость, но и практическую значимость (например, размер эффекта). Кроме того, многие критерии (особенно χ² и Колмогорова — Смирнова) чувствительны к выбросам, что может искажать результаты.

Источники

1. Пирсон, К. (1900). «О критерии, позволяющем проверить, является ли данное отклонение от вероятностного закона случайным». Философский журнал, 50(302), 157–175.
2. Колмогоров, А. Н. (1933). «Об эмпирическом определении закона распределения». Доклады Академии наук СССР, 1, 1–3.
3. Смирнов, Н. В. (1939). «Оценка расхождения между эмпирическими кривыми распределения». Доклады Академии наук СССР, 2, 3–6.
4. Шапиро, С. С., Уилк, М. Б. (1965). «Анализ дисперсии для проверки нормальности (полные выборки)». Биометрика, 52(3–4), 591–611.
5. Андерсон, Т. У., Дарлинг, Д. А. (1952). «Асимптотическая теория критериев «доброты согласия» на основе расстояния». Журнал Американской статистической ассоциации, 49(268), 765–769.
6. Леман, Э. Л. (1986). Проверка статистических гипотез. — М.: Наука.
7. Кобзарь, А. И. (2006). Прикладная математическая статистика. — М.: Физматлит.