Хи-квадрат распределение

Хи-квадрат распределение (χ²-распределение) — это непрерывное распределение вероятностей, являющееся одним из основных в математической статистике. Оно определяется как распределение суммы квадратов k независимых стандартных нормальных случайных величин. Параметр k, называемый числом степеней свободы, является единственным параметром, определяющим форму распределения. Хи-квадрат распределение широко применяется в статистических критериях, в частности, в критерии согласия Пирсона (критерий χ²), при проверке гипотез о дисперсиях, а также в анализе таблиц сопряжённости.

Определение и математическая формулировка

Пусть \(Z_1, Z_2, \dots, Z_k\) — независимые случайные величины, каждая из которых имеет стандартное нормальное распределение (среднее 0, дисперсия 1). Тогда случайная величина \(X\), определяемая как:

\[ X = \sum_{i=1}^{k} Z_i^2 \]

имеет распределение хи-квадрат с \(k\) степенями свободы, что обозначается как \(X \sim \chi^2(k)\).

Функция плотности вероятности для распределения хи-квадрат с \(k\) степенями свободы задаётся формулой:

\[ f(x; k) = \frac{1}{2^{k/2} \Gamma(k/2)} x^{k/2 - 1} e^{-x/2}, \quad x > 0, \]

где \(\Gamma(\cdot)\) — гамма-функция. Для целых значений \(k\) гамма-функция принимает вид \(\Gamma(k/2) = (k/2 - 1)!\) при чётных \(k\) и выражается через факториалы и \(\sqrt{\pi}\) при нечётных.

Свойства

Математическое ожидание и дисперсия

• Математическое ожидание: \(E[X] = k\).
• Дисперсия: \(\text{Var}[X] = 2k\).

Асимметрия и эксцесс

• Коэффициент асимметрии: \(\sqrt{8/k}\).
• Эксцесс: \(12/k\) (избыточный эксцесс относительно нормального распределения).

С ростом числа степеней свободы \(k\) распределение хи-квадрат приближается к нормальному распределению согласно центральной предельной теореме. При \(k > 30\) аппроксимация считается достаточно точной для многих практических задач.

Аддитивность

Если \(X_1 \sim \chi^2(k_1)\) и \(X_2 \sim \chi^2(k_2)\) — независимые случайные величины, то их сумма также имеет распределение хи-квадрат: \(X_1 + X_2 \sim \chi^2(k_1 + k_2)\).

Квантили

Квантили распределения хи-квадрат широко табулированы. Для заданного уровня значимости \(\alpha\) и числа степеней свободы \(k\) можно найти критическое значение \(\chi^2_{\alpha}(k)\) такое, что \(P(X > \chi^2_{\alpha}(k)) = \alpha\). Эти значения используются в статистических тестах.

История

Распределение хи-квадрат впервые было описано немецким математиком Фридрихом Робертом Гельмертом в 1876 году при исследовании ошибок измерений. Независимо от него, в 1900 году английский статистик Карл Пирсон вновь открыл это распределение и разработал на его основе критерий согласия, который теперь носит его имя. Пирсон показал, что распределение суммы квадратов отклонений эмпирических частот от теоретических стремится к \(\chi^2\)-распределению, что позволило создать инструмент для проверки гипотез о форме распределения.

Виды и модификации

Нецентральное распределение хи-квадрат

Если в определении суммы квадратов заменить стандартные нормальные величины на нормальные с ненулевым средним, то полученное распределение называется нецентральным распределением хи-квадрат. Оно имеет дополнительный параметр — параметр нецентральности \(\lambda\), равный сумме квадратов математических ожиданий исходных величин. Нецентральное распределение используется при оценке мощности статистических критериев.

Распределение хи-квадрат с дробными степенями свободы

Формально распределение хи-квадрат определено для любого положительного вещественного \(k\), хотя в классических приложениях \(k\) — целое число. Дробные степени свободы возникают в некоторых обобщённых моделях, например, в анализе выживаемости.

Применение

Критерий согласия Пирсона (критерий χ²)

Наиболее известное применение — проверка гипотезы о том, что наблюдаемые частоты соответствуют некоторому теоретическому распределению. Вычисляется статистика:

\[ \chi^2 = \sum_{i=1}^{n} \frac{(O_i - E_i)^2}{E_i}, \]

где \(O_i\) — наблюдаемые частоты, \(E_i\) — ожидаемые частоты. При справедливости нулевой гипотезы эта статистика асимптотически распределена как \(\chi^2\) с \((n - 1 - m)\) степенями свободы, где \(m\) — число оценённых по выборке параметров распределения.

Проверка гипотез о дисперсии

Для нормально распределённой выборки объёма \(n\) выборочная дисперсия \(s^2\) связана с распределением хи-квадрат:

\[ \frac{(n-1)s^2}{\sigma^2} \sim \chi^2(n-1), \]

где \(\sigma^2\) — теоретическая дисперсия. Это позволяет строить доверительные интервалы для дисперсии и проверять гипотезы о её значении.

Анализ таблиц сопряжённости

В задачах проверки независимости двух категориальных признаков используется критерий χ² для таблиц сопряжённости. Статистика вычисляется по аналогичной формуле, а число степеней свободы равно \((r-1)(c-1)\), где \(r\) и \(c\) — число строк и столбцов таблицы.

Критерий однородности

Используется для проверки гипотезы о том, что несколько выборок извлечены из одного и того же распределения. Применяется в медицине, социологии и маркетинге.

Другие области

• В теории надёжности — для оценки времени безотказной работы.
• В эконометрике — для проверки значимости регрессионных моделей (F-тест, основанный на отношении двух независимых хи-квадрат распределений).
• В криптографии — для оценки качества генераторов случайных чисел.

Таблица критических значений

Для практического использования распределения хи-квадрат составлены таблицы квантилей. Ниже приведены примеры критических значений для некоторых уровней значимости \(\alpha\) и чисел степеней свободы \(k\):

Ограничения и критика

Применение критериев, основанных на распределении хи-квадрат, требует выполнения ряда условий:

• Ожидаемые частоты в каждой категории должны быть не менее 5 (для таблиц 2×2 допускается 1–5 при использовании поправки Йейтса).
• Наблюдения должны быть независимы.
• Выборка должна быть случайной.

При малых объёмах выборок или редких событиях распределение статистики может существенно отличаться от \(\chi^2\), что приводит к ошибкам первого рода. В таких случаях рекомендуется использовать точные тесты (например, точный критерий Фишера).

Интересные факты

• Распределение хи-квадрат является частным случаем гамма-распределения с параметром формы \(k/2\) и масштаба \(2\).
• При \(k = 2\) распределение хи-квадрат совпадает с экспоненциальным распределением с параметром \(\lambda = 1/2\).
• Распределение хи-квадрат лежит в основе F-распределения (отношение двух независимых хи-квадрат величин) и t-распределения Стьюдента (квадрат t-статистики имеет распределение хи-квадрат с одной степенью свободы).

Источники

• Кендалл М. Дж., Стьюарт А. «Теория распределений». — М.: Наука, 1966.
• Крамер Г. «Математические методы статистики». — М.: Мир, 1975.
• Лагутин М. Б. «Наглядная математическая статистика». — М.: БИНОМ, 2009.
• Пирсон К. «On the criterion that a given system of deviations from the probable in the case of a correlated system of variables is such that it can be reasonably supposed to have arisen from random sampling» // Philosophical Magazine, 1900.