Критерий Андерсона-Дарлинга

Критерий Андерсона-Дарлинга — это статистический критерий, используемый для проверки гипотезы о том, что выборка данных принадлежит определённому теоретическому распределению вероятностей. Он относится к группе критериев согласия, наряду с критерием Колмогорова-Смирнова и критерием хи-квадрат Пирсона. Критерий Андерсона-Дарлинга является модификацией критерия Крамера — фон Мизеса, отличающейся повышенной чувствительностью к отклонениям в хвостах распределения, что делает его особенно полезным при проверке соответствия данных нормальному, экспоненциальному, логистическому и другим типам распределений.

История

Критерий был разработан американскими статистиками Теодором Уилтоном Андерсоном и Дональдом Алланом Дарлингом в 1952 году. В своей основополагающей работе «Asymptotic theory of certain «goodness of fit» criteria based on stochastic processes» (Асимптотическая теория некоторых критериев согласия, основанных на стохастических процессах) они предложили статистику, которая взвешивает квадратичное расстояние между эмпирической и теоретической функциями распределения. Идея заключалась в том, чтобы придать больший вес наблюдениям на краях распределения, где, как правило, наиболее вероятны ошибки моделирования. В последующие десятилетия критерий получил широкое распространение в прикладной статистике, особенно после появления вычислительных мощностей, позволяющих легко рассчитывать точные p-значения.

Определение и математическая формулировка

Пусть имеется выборка из n независимых и одинаково распределённых наблюдений \( X_1, X_2, \dots, X_n \), упорядоченных по возрастанию: \( X_{(1)} \le X_{(2)} \le \dots \le X_{(n)} \). Проверяется нулевая гипотеза \( H_0 \): выборка подчиняется непрерывному распределению с функцией распределения \( F(x) \).

Статистика критерия Андерсона-Дарлинга \( A^2 \) вычисляется по формуле:

\[ A^2 = -n - \frac{1}{n} \sum_{i=1}^{n} (2i - 1) \left[ \ln(F(X_{(i)})) + \ln(1 - F(X_{(n+1-i)})) \right] \]

где:

• \( n \) — объём выборки;
• \( i \) — порядковый номер наблюдения в упорядоченной выборке;
• \( F(X_{(i)}) \) — значение теоретической функции распределения в точке \( X_{(i)} \);
• \( \ln \) — натуральный логарифм.

Чем меньше значение статистики \( A^2 \), тем ближе эмпирическое распределение к теоретическому. Для принятия решения о принятии или отклонении нулевой гипотезы вычисленное значение \( A^2 \) сравнивается с критическим значением, зависящим от уровня значимости \( \alpha \) и типа проверяемого распределения. Если \( A^2 \) превышает критическое значение, гипотеза о соответствии распределению отвергается.

Связь с другими критериями

Критерий Андерсона-Дарлинга является взвешенной версией критерия Крамера — фон Мизеса. В последнем статистика \( W^2 \) вычисляется как интеграл квадрата разности между эмпирической и теоретической функциями распределения без весовой функции:

\[ W^2 = n \int_{-\infty}^{\infty} [F_n(x) - F(x)]^2 \, dF(x) \]

В критерии Андерсона-Дарлинга весовая функция \( \frac{1}{F(x)(1-F(x))} \) придаёт больший вес отклонениям в хвостах распределения, где \( F(x) \) близко к 0 или 1. Это делает критерий более мощным для обнаружения отличий именно в хвостовых областях, в отличие от критерия Колмогорова-Смирнова, который чувствителен к отклонениям в центральной части распределения.

Классификация

Критерий Андерсона-Дарлинга может быть классифицирован по нескольким признакам:

• По типу проверяемого распределения: существуют специализированные версии для нормального, экспоненциального, логистического, гамма-распределения и других.
• По полноте задания параметров: различают случай, когда параметры распределения полностью известны (простая гипотеза), и случай, когда они оцениваются по выборке (сложная гипотеза). Во втором случае критические значения статистики отличаются.
• По форме статистики: помимо стандартной формы \( A^2 \), существуют модификации, например, для проверки нормальности с поправками на малые выборки.

Применение

Критерий Андерсона-Дарлинга широко применяется в различных областях, где требуется проверка соответствия данных теоретическим моделям:

• Гидрология и климатология: для проверки соответствия данных о количестве осадков, температуре или уровнях рек нормальному или другим распределениям.
• Финансовая математика: для оценки пригодности распределений доходностей активов (например, нормального или t-распределения Стьюдента) при моделировании рисков.
• Биология и медицина: для проверки нормальности распределения биомаркеров или времени выживаемости.
• Промышленность и контроль качества: для проверки соответствия параметров продукции заданным стандартам (например, распределение прочности материалов).
• Эконометрика: для проверки гипотезы о нормальности остатков регрессионных моделей.

Интересные факты

• Критерий Андерсона-Дарлинга часто рекомендуется как более мощная альтернатива критерию Колмогорова-Смирнова, особенно при малых объёмах выборок (n < 50).
• Для случая проверки на нормальность с неизвестными параметрами (среднее и дисперсия) разработаны специальные критические таблицы, учитывающие смещение распределения статистики.
• В пакетах статистического анализа (например, R, Python (scipy), MATLAB) критерий реализован с автоматическим расчётом p-значений методом Монте-Карло или по аппроксимированным формулам.
• В 1974 году М. А. Стивенс показал, что критерий Андерсона-Дарлинга является наиболее мощным среди всех критериев согласия для проверки нормальности при альтернативах с тяжёлыми хвостами.

Критика

Основным недостатком критерия Андерсона-Дарлинга является его чувствительность к выбросам — одно или два экстремальных наблюдения могут существенно увеличить значение статистики и привести к ложному отклонению нулевой гипотезы. Кроме того, критерий требует, чтобы проверяемое распределение было полностью специфицировано (включая все параметры) или чтобы параметры оценивались по выборке с использованием корректировок. При неправильной спецификации распределения (например, использование нормального распределения, когда данные на самом деле подчиняются логнормальному) результаты могут быть ненадёжными. Также для некоторых распределений (например, смесей распределений) критерий может иметь низкую мощность.

Источники

• Anderson, T. W., & Darling, D. A. (1952). Asymptotic theory of certain «goodness of fit» criteria based on stochastic processes. Annals of Mathematical Statistics, 23(2), 193–212.
• Stephens, M. A. (1974). EDF statistics for goodness of fit and some comparisons. Journal of the American Statistical Association, 69(347), 730–737.
• D'Agostino, R. B., & Stephens, M. A. (1986). Goodness-of-Fit Techniques. Marcel Dekker.
• Thode, H. C. (2002). Testing for Normality. Marcel Dekker.