Критерий Крускала-Уоллиса

Критерий Крускала-Уоллиса (также известный как H-тест Крускала-Уоллиса) — это непараметрический статистический критерий, предназначенный для проверки гипотезы о равенстве медиан трёх и более независимых выборок. Он является многомерным обобщением U-критерия Манна-Уитни и используется для сравнения распределений, когда нарушаются предположения о нормальности, необходимые для применения однофакторного дисперсионного анализа (ANOVA).

История

Критерий был разработан американскими статистиками Уильямом Генри Крускалом (William Henry Kruskal) и Уилсоном Алленом Уоллисом (Wilson Allen Wallis) в 1952 году. Работа была опубликована в журнале Journal of the American Statistical Association под названием «Use of Ranks in One-Criterion Variance Analysis». Исследователи стремились создать метод, который бы не зависел от предположения о нормальном распределении данных и мог применяться к порядковым данным. Впоследствии критерий стал одним из наиболее распространённых непараметрических аналогов ANOVA.

Назначение и область применения

Критерий Крускала-Уоллиса применяется для решения следующих задач:

• Сравнение трёх и более независимых групп по одному количественному или порядковому признаку.
• Анализ данных, которые не соответствуют нормальному распределению (например, при наличии выбросов или сильной асимметрии).
• Работа с данными, измеренными в порядковой шкале (например, рейтинги, баллы, уровни удовлетворённости).
• Сравнение выборок малого объёма, где применение параметрических методов некорректно.

Критерий широко используется в медицине, биологии, психологии, социологии, экономике и других областях, где требуется сравнение нескольких независимых групп.

Основные предположения

Для корректного применения H-теста Крускала-Уоллиса должны выполняться следующие условия:

1. Независимость выборок: Наблюдения в каждой группе не должны быть связаны друг с другом (например, разные пациенты, разные экспериментальные условия).
2. Измеримость: Данные должны быть измерены как минимум в порядковой шкале.
3. Однородность распределений: Распределения в сравниваемых группах должны иметь одинаковую форму (например, одинаковую дисперсию). Критерий чувствителен к различиям в форме распределений, а не только к сдвигу медиан.

Статистическая процедура

Вычисление статистики H

1. Ранжирование: Все наблюдения из всех k выборок объединяются в один общий массив и упорядочиваются по возрастанию. Каждому наблюдению присваивается ранг — его порядковый номер в этом общем ряду. При наличии совпадающих значений (связок) им присваивается средний ранг.
2. Суммирование рангов: Для каждой из k выборок вычисляется сумма рангов всех её элементов (R₁, R₂, ..., Rₖ).
3. Расчёт статистики H: Статистика критерия вычисляется по формуле:

H = (12 / (N (N + 1))) Σ (Rᵢ² / nᵢ) — 3 * (N + 1)

где:

• N — общее количество наблюдений во всех выборках;
• k — количество сравниваемых групп;
• nᵢ — объём i-й выборки;
• Rᵢ — сумма рангов в i-й выборке.

Поправка на связи

При наличии большого количества совпадающих значений (связок) вводится поправка, которая уменьшает значение H. Поправка вычисляется по формуле:

H_corr = H / (1 — Σ (tᵢ³ — tᵢ) / (N³ — N))

где tᵢ — количество наблюдений в каждой связке.

Принятие решения

• Нулевая гипотеза (H₀): Медианы всех сравниваемых выборок равны.
• Альтернативная гипотеза (H₁): Хотя бы одна медиана отличается от других.

Для проверки гипотезы вычисленное значение H сравнивается с критическим значением распределения χ² (хи-квадрат) с (k-1) степенями свободы. Если H превышает критическое значение для выбранного уровня значимости (обычно α = 0,05), нулевая гипотеза отвергается, что свидетельствует о статистически значимых различиях между группами.

При малых объёмах выборок (nᵢ ≤ 5) и небольшом количестве групп (k ≤ 3) используются специальные таблицы критических значений, разработанные Крускалом и Уоллисом, так как аппроксимация χ²-распределением может быть неточной.

Пример использования

Допустим, необходимо сравнить эффективность трёх методов обучения (A, B, C) на основе результатов теста (в баллах). Данные не подчиняются нормальному распределению.

1. Данные:

• Метод A: 5, 8, 9
• Метод B: 2, 3, 4
• Метод C: 6, 7, 10

1. Ранжирование: Объединяем все значения: 2, 3, 4, 5, 6, 7, 8, 9, 10. Присваиваем ранги:

• 2 → 1; 3 → 2; 4 → 3; 5 → 4; 6 → 5; 7 → 6; 8 → 7; 9 → 8; 10 → 9.

1. Суммы рангов:

• R_A = 4 + 7 + 8 = 19
• R_B = 1 + 2 + 3 = 6
• R_C = 5 + 6 + 9 = 20

1. Расчёт H:

N = 9; n₁ = n₂ = n₃ = 3. H = (12 / (9 10)) (19²/3 + 6²/3 + 20²/3) — 3 (9 + 1) = (12/90) (361/3 + 36/3 + 400/3) — 30 = 0,1333 (797/3) — 30 = 0,1333 265,67 — 30 ≈ 35,42 — 30 = 5,42.

1. Принятие решения: Критическое значение χ² для 2 степеней свободы (k-1=2) при α=0,05 равно 5,99. Поскольку H=5,42 < 5,99, нулевая гипотеза не отвергается. Статистически значимых различий между методами обучения на данном уровне значимости не обнаружено.

Апостериорные сравнения (Post-hoc)

Если H-тест показывает статистически значимые различия, необходимо определить, какие именно группы отличаются друг от друга. Для этого применяются апостериорные (post-hoc) тесты, такие как:

• Критерий Данна (Dunn’s test): Наиболее распространённый метод для попарного сравнения групп после H-теста. Учитывает ранги и корректирует уровень значимости для множественных сравнений (например, с помощью поправки Бонферрони).
• Критерий Неменьи (Nemenyi test): Альтернативный метод, основанный на распределении студентизированного размаха.

Сравнение с другими критериями

• Сравнение с ANOVA: ANOVA является более мощным параметрическим методом, но требует нормальности распределения и однородности дисперсий. Критерий Крускала-Уоллиса менее чувствителен к выбросам и может применяться к порядковым данным, но его статистическая мощность (способность обнаружить истинные различия) ниже, чем у ANOVA, при соблюдении её условий.
• Сравнение с U-критерием Манна-Уитни: U-критерий предназначен для сравнения только двух выборок. Критерий Крускала-Уоллиса является его прямым обобщением на случай трёх и более групп.
• Сравнение с критерием Джонкхира-Терпстра: Если существует априорная гипотеза о порядке медиан (например, μ₁ < μ₂ < μ₃), то критерий Джонкхира-Терпстра может быть более мощным, чем H-тест.

Ограничения

• Критерий не позволяет определить величину эффекта (размер различий) между группами напрямую. Для этого используются дополнительные меры, такие как эпсилон-квадрат (ε²).
• При наличии большого количества связок (одинаковых значений) точность аппроксимации χ²-распределением может снижаться.
• Критерий не является устойчивым к нарушению предположения об однородности распределений (одинаковой форме). Если распределения сильно различаются по форме, H-тест может давать ложные результаты.

Интересные факты

• Уильям Крускал и Уилсон Уоллис были коллегами по Чикагскому университету. Уоллис впоследствии стал президентом Университета Рочестера.
• Критерий Крускала-Уоллиса иногда называют «непараметрическим ANOVA», хотя это не совсем корректно, так как он проверяет гипотезу о медианах, а не о средних.
• В некоторых программных пакетах (например, R, SPSS, Python SciPy) реализована автоматическая поправка на связи.

Источники

1. Kruskal, W. H., & Wallis, W. A. (1952). Use of Ranks in One-Criterion Variance Analysis. Journal of the American Statistical Association, 47(260), 583–621.
2. Hollander, M., Wolfe, D. A., & Chicken, E. (2014). Nonparametric Statistical Methods (3rd ed.). John Wiley & Sons.
3. Siegel, S., & Castellan, N. J. (1988). Nonparametric Statistics for the Behavioral Sciences (2nd ed.). McGraw-Hill.
4. Dunn, O. J. (1964). Multiple Comparisons Using Rank Sums. Technometrics, 6(3), 241–252.