Теорема Чу¶
Теорема Чу (англ. Chu’s theorem) — утверждение в теории вероятностей и математической статистике, устанавливающее связь между свойствами независимости случайных величин и их распределениями. В наиболее общей формулировке теорема Чу гласит, что если для некоторой статистики, построенной по выборке, выполнено условие независимости от выборочного среднего, то распределение генеральной совокупности с необходимостью принадлежит определённому параметрическому семейству (как правило, нормальному). Теорема относится к классу характеризационных теорем, которые позволяют идентифицировать распределение случайной величины по наличию определённых вероятностных свойств.
¶История
Теорема была сформулирована и доказана американским математиком китайского происхождения Кай-Лай Чу (Kai-Lai Chu) в 1955 году. Работа Чу была опубликована в журнале «The Annals of Mathematical Statistics» и представляла собой развитие идей, заложенных в классических работах Джорджа Пойа, Харальда Крамера и других математиков, изучавших характеризацию нормального распределения. Чу обобщил известный результат о том, что независимость выборочного среднего и выборочной дисперсии (или другого квадратичного функционала) влечёт нормальность распределения, распространив его на более широкий класс статистик и на случай произвольного размера выборки.
Впоследствии теорема Чу была уточнена и дополнена в работах других авторов, в частности, в исследованиях Ю. В. Линника и его учеников, которые получили аналогичные результаты для более слабых условий. В современной литературе теорема Чу часто рассматривается как частный случай более общей характеризационной теоремы, известной как теорема Крамера — Линника.
¶Формулировка
Пусть \(X_1, X_2, \dots, X_n\) — независимые одинаково распределённые случайные величины с функцией распределения \(F(x)\). Обозначим выборочное среднее:
\[ \bar{X} = \frac{1}{n}\sum_{i=1}^{n} X_i. \]
Пусть \(T(X_1, \dots, X_n)\) — некоторая статистика, обладающая следующими свойствами:
- \(T\) является однородной функцией степени \(k\) (то есть \(T(aX_1, \dots, aX_n) = a^k T(X_1, \dots, X_n)\) для любого \(a>0\));
- \(T\) является симметричной функцией своих аргументов (не меняется при перестановке переменных);
- \(T\) не зависит от \(\bar{X}\) в смысле вероятностной независимости.
Тогда, если \(n \ge 2\) и \(k \neq 0\), то распределение \(F\) с необходимостью является нормальным (возможно, вырожденным) или же логарифмически нормальным (в случае, когда \(T\) — определённый функционал от положительных величин). В некоторых вариантах теоремы Чу дополнительно требуется, чтобы \(T\) была квадратичной формой или статистикой вида \(\sum (X_i - \bar{X})^2\).
¶Частные случаи
¶Независимость среднего и дисперсии
Наиболее известный частный случай теоремы Чу — утверждение о том, что если выборочное среднее \(\bar{X}\) и выборочная дисперсия \(S^2 = \frac{1}{n-1}\sum (X_i - \bar{X})^2\) независимы, то распределение генеральной совокупности является нормальным. Этот результат был впервые получен Дж. Пойа в 1920-х годах, а затем обобщён Чу. Для случая \(n=2\) условие независимости среднего и дисперсии эквивалентно тому, что распределение принадлежит к семейству нормальных законов.
¶Независимость среднего и других квадратичных форм
Теорема Чу также применима к статистикам, являющимся однородными квадратичными формами от центрированных величин, например, к статистике \(\sum_{i=1}^{n} (X_i - \bar{X})^p\) при \(p=2\). Для других значений \(p\) (например, \(p=1\) или \(p=3\)) условие независимости от среднего, как правило, не приводит к нормальному распределению, а может характеризовать иные семейства, такие как распределение Лапласа или распределение Коши.
¶Доказательство
Доказательство теоремы Чу основано на использовании характеристических функций. Основная идея состоит в том, что из независимости статистики \(T\) и выборочного среднего \(\bar{X}\) следует функциональное уравнение для характеристической функции \(\varphi(t)\) распределения \(F\). Решение этого уравнения, при наложенных условиях однородности и симметричности, приводит к тому, что \(\varphi(t)\) должна иметь вид \(\exp(-\sigma^2 t^2/2 + i\mu t)\), что соответствует нормальному закону. В случае логарифмически нормального распределения характеристическая функция не существует в замкнутом виде, поэтому доказательство для этого случая проводится отдельно с использованием преобразования Лапласа.
¶Применение
Теорема Чу имеет важное значение в математической статистике и теории оценивания. Она используется:
- Для обоснования нормальности: если по эмпирическим данным обнаружена независимость выборочного среднего и выборочной дисперсии, то это может служить косвенным подтверждением гипотезы о нормальном распределении генеральной совокупности.
- В теории достаточных статистик: теорема показывает, что в определённых условиях выборочное среднее не может быть независимым от других достаточных статистик, если распределение не является нормальным.
- В задачах проверки гипотез: на основе теоремы Чу построены некоторые критерии согласия, позволяющие проверять гипотезу о нормальности распределения.
¶Критика и ограничения
Теорема Чу, как и другие характеризационные теоремы, имеет ограниченную практическую применимость. Условие независимости статистики и выборочного среднего на практике редко выполняется точно, и его проверка требует большого объёма данных. Кроме того, теорема не даёт конструктивного способа идентификации распределения, если условие независимости не выполнено.
В математической литературе отмечалось, что теорема Чу не является «обратимой»: независимость среднего и дисперсии не только влечёт нормальность, но и обратное — для нормального распределения среднее и дисперсия независимы (теорема Фишера). Однако для других распределений такое свойство, как правило, не выполняется.
¶Обобщения
В 1960-х годах Ю. В. Линник и его школа обобщили теорему Чу на случай, когда статистика \(T\) является произвольной однородной функцией, не обязательно квадратичной, а также на случай многомерных распределений. Было показано, что для многомерного нормального распределения независимость выборочного среднего и выборочной ковариационной матрицы также является характеризационным свойством.
В 1970-х годах А. М. Каган и Я. Ю. Никитин получили аналогичные результаты для распределений, имеющих конечные моменты всех порядков, и для статистик, являющихся полиномами от выборочных моментов.
¶Интересные факты
- Теорема Чу является одним из немногих примеров, когда условие независимости двух статистик полностью определяет распределение генеральной совокупности.
- В русскоязычной литературе теорема Чу часто называется «теоремой Чу — Линника» или «теоремой Чу — Крамера», хотя вклад Линника и Крамера относится скорее к обобщениям, а не к первоначальной формулировке.
- Кай-Лай Чу впоследствии работал в области теории информации и кодирования, но его имя в математической статистике осталось связано именно с этой характеризационной теоремой.
¶Источники
- Chu, K. L. (1955). «On the characterization of the normal distribution by the independence of sample mean and sample variance». The Annals of Mathematical Statistics, 26(4), 617–626.
- Линник Ю. В. (1960). «О некоторых характеризационных теоремах для нормального распределения». Доклады АН СССР, 133(1), 25–28.
- Каган А. М., Линник Ю. В., Рао С. Р. (1972). Характеризационные задачи математической статистики. М.: Наука.
- Никитин Я. Ю. (1995). Асимптотическая эффективность непараметрических критериев. М.: Физматлит.