Критерий Крамера — фон Мизеса

Критерий Крамера — фон Мизеса (также известный как критерий ω², критерий Крамера — фон Мизеса — Смирнова) — это статистический критерий согласия, используемый для проверки гипотезы о том, что анализируемая выборка принадлежит некоторому полностью известному теоретическому закону распределения, или для проверки однородности двух независимых выборок. Критерий основан на измерении интегрального квадратичного расстояния между эмпирической функцией распределения и теоретической функцией распределения (или между двумя эмпирическими функциями распределения). В отличие от критерия Колмогорова — Смирнова, который оценивает максимальное отклонение, критерий Крамера — фон Мизеса учитывает отклонения по всей области определения функции распределения, что часто делает его более мощным, особенно при малых и умеренных объёмах выборок.

История

Критерий был предложен в 1928 году шведским математиком Харальдом Крамером и независимо от него — в 1931 году австрийским математиком Рихардом фон Мизесом. В 1936 году советский математик Николай Васильевич Смирнов обобщил критерий на случай двух выборок, что позволило применять его для проверки однородности распределений. В 1937 году Смирнов также вывел асимптотическое распределение статистики критерия, что сделало его пригодным для практического использования. Дальнейшее развитие критерия связано с работами Т. У. Андерсона и Д. А. Дарлинга, которые в 1952 году предложили модификацию, известную как критерий Андерсона — Дарлинга, придающую больший вес хвостам распределения.

Определение и статистика критерия

Пусть имеется выборка \( X_1, X_2, \dots, X_n \) из независимых одинаково распределённых случайных величин с непрерывной функцией распределения \( F(x) \). Эмпирическая функция распределения \( F_n(x) \) определяется как доля наблюдений, не превышающих \( x \). Для проверки гипотезы \( H_0: F(x) = F_0(x) \), где \( F_0(x) \) — полностью известная теоретическая функция распределения (без неизвестных параметров), статистика критерия Крамера — фон Мизеса имеет вид:

\[ \omega^2 = n \int_{-\infty}^{\infty} \left[ F_n(x) - F_0(x) \right]^2 \, dF_0(x) \]

На практике, для вычислений по выборке, статистика переписывается в удобной форме. Пусть \( z_i = F_0(x_{(i)}) \), где \( x_{(i)} \) — упорядоченные по возрастанию элементы выборки (порядковые статистики). Тогда:

\[ T = \frac{1}{12n} + \sum_{i=1}^{n} \left( \frac{2i-1}{2n} - z_i \right)^2 \]

где \( T \) — выборочное значение статистики. Для двухвыборочного случая (проверка однородности двух независимых выборок объёмов \( n \) и \( m \)) статистика Смирнова имеет вид:

\[ T_{nm} = \frac{nm}{n+m} \int_{-\infty}^{\infty} \left[ F_n(x) - G_m(x) \right]^2 \, dH_{n+m}(x) \]

где \( F_n \) и \( G_m \) — эмпирические функции распределения первой и второй выборок, а \( H_{n+m} \) — эмпирическая функция распределения объединённой выборки.

Распределение статистики и критические значения

Асимптотическое распределение статистики \( \omega^2 \) при справедливости нулевой гипотезы было найдено Н. В. Смирновым в 1937 году. Оно не зависит от вида теоретического распределения \( F_0(x) \) и имеет характеристическую функцию:

\[ \phi(t) = \prod_{j=1}^{\infty} \left(1 - \frac{2it}{\pi^2 j^2}\right)^{-1/2} \]

Функция распределения асимптотической статистики табулирована. Для малых объёмов выборок (\( n \le 40 \)) используются специальные таблицы критических значений, полученные методом Монте-Карло. При \( n > 40 \) асимптотические критические значения дают хорошее приближение. Для двухвыборочного критерия распределение также зависит от объёмов выборок, и для его использования применяют таблицы или аппроксимации.

Применение

Критерий Крамера — фон Мизеса применяется в различных областях, где требуется проверка согласия распределений:

• Проверка нормальности. Хотя существуют специализированные критерии (Шапиро — Уилка, Харке — Бера), критерий Крамера — фон Мизеса может использоваться как альтернатива, особенно при проверке сложных гипотез, когда параметры распределения оцениваются по выборке (в этом случае применяется модификация с поправкой на оценивание, например, критерий Лилиефорса для нормального распределения).
• Сравнение двух выборок. В медицине, биологии, социологии и технике для проверки, что две группы данных (например, контрольная и экспериментальная) взяты из одного распределения.
• Проверка равномерности. Для тестирования генераторов псевдослучайных чисел: если распределение данных значимо отличается от равномерного на отрезке [0,1], генератор считается некачественным.
• Анализ выживаемости. Для сравнения функций выживаемости в двух группах (в качестве непараметрической альтернативы логранговому критерию).
• Эконометрика и финансы. Для проверки гипотез о распределении доходности активов, остатков регрессионных моделей и других финансовых показателей.

Сравнение с другими критериями согласия

Критерий Крамера — фон Мизеса обладает рядом преимуществ и недостатков по сравнению с другими критериями:

• По сравнению с критерием Колмогорова — Смирнова: Критерий Крамера — фон Мизеса, как правило, более мощный (то есть с большей вероятностью отвергает ложную нулевую гипотезу) для альтернатив, отличающихся от нулевой гипотезы не только в одной точке, а по всему распределению. Однако критерий Колмогорова — Смирнова проще в вычислении и интерпретации, а также может быть использован для построения доверительных полос для функции распределения.
• По сравнению с критерием Андерсона — Дарлинга: Критерий Андерсона — Дарлинга является модификацией критерия Крамера — фон Мизеса, придающей больший вес отклонениям на хвостах распределения. Это делает его более чувствительным к различиям в хвостах, что часто важно в задачах анализа рисков и экстремальных значений. Критерий Крамера — фон Мизеса более чувствителен к различиям в центральной части распределения.
• По сравнению с критерием хи-квадрат Пирсона: Критерий Крамера — фон Мизеса не требует группировки данных, что позволяет избежать потери информации, связанной с выбором числа и границ интервалов. Однако критерий хи-квадрат может применяться для дискретных распределений, в то время как классический критерий Крамера — фон Мизеса предназначен для непрерывных распределений (хотя существуют и его дискретные аналоги).

Ограничения и особенности

• Критерий является непараметрическим, то есть не требует знания параметров распределения, если они не оцениваются по выборке. При проверке сложных гипотез (когда параметры оцениваются) необходимо использовать специальные модифицированные версии критерия, так как стандартное асимптотическое распределение перестаёт быть справедливым.
• Критерий чувствителен к выбросам, но в меньшей степени, чем критерий Андерсона — Дарлинга.
• Для малых выборок (\( n < 5 \)) мощность критерия может быть низкой, и его применение не рекомендуется.
• Существуют многомерные обобщения критерия, но они значительно сложнее в вычислительном и теоретическом плане и используются реже.

Интересные факты

• Статистика критерия Крамера — фон Мизеса является частным случаем критерия, основанного на \( L^2 \)-расстоянии между функциями распределения. В более общем виде рассматриваются интегралы от взвешенных квадратов отклонений, где весовая функция может быть выбрана для усиления чувствительности к определённым участкам распределения.
• В советской и российской статистической литературе критерий часто называют «критерием ω²» или «критерием Смирнова — Крамера — фон Мизеса», отдавая должное вкладу Н. В. Смирнова.
• Асимптотическое распределение статистики критерия совпадает с распределением суммы бесконечного ряда независимых случайных величин, что является типичным для многих интегральных критериев согласия.

Источники

1. Смирнов Н. В. О распределении ω²-критерия Мизеса // Математический сборник. — 1937. — Т. 2(44), № 5. — С. 973–993.
2. Cramér H. On the composition of elementary errors // Scandinavian Actuarial Journal. — 1928. — Vol. 1928, no. 1. — P. 13–74.
3. von Mises R. Wahrscheinlichkeitsrechnung und ihre Anwendung in der Statistik und theoretischen Physik. — Leipzig: Deuticke, 1931.
4. Anderson T. W., Darling D. A. Asymptotic theory of certain "goodness of fit" criteria based on stochastic processes // Annals of Mathematical Statistics. — 1952. — Vol. 23, no. 2. — P. 193–212.
5. Лемешко Б. Ю., Лемешко С. Б. Сравнительный анализ мощности критериев согласия при проверке сложных гипотез // Измерительная техника. — 2005. — № 8. — С. 15–21.
6. Кобзарь А. И. Прикладная математическая статистика. — М.: Физматлит, 2006. — 816 с.