Закон больших чисел

Закон больших чисел — это фундаментальный принцип теории вероятностей, утверждающий, что эмпирическое среднее (среднее арифметическое) достаточно большой конечной выборки из фиксированного распределения сходится к теоретическому среднему (математическому ожиданию) этого распределения. Иными словами, при увеличении числа независимых испытаний (или наблюдений) среднее значение случайной величины стремится к её истинному математическому ожиданию. Закон больших чисел лежит в основе статистического вывода, страхования, теории массового обслуживания и многих других областей, где требуется предсказание поведения больших совокупностей.

История

Первые интуитивные представления о законе больших чисел восходят к работам математиков XVII—XVIII веков. Якоб Бернулли в своём трактате «Искусство предположений» (1713) сформулировал и доказал простейший случай закона — теорему Бернулли. Она гласит, что частота появления события в серии независимых испытаний стремится к его вероятности при неограниченном увеличении числа испытаний. Это был первый строгий результат, связавший эмпирические данные с теоретическими вероятностями.

В XIX веке Пьер-Симон Лаплас обобщил теорему Бернулли и применил закон больших чисел к астрономии и демографии. Симеон Дени Пуассон в 1837 году ввёл сам термин «закон больших чисел» (loi des grands nombres) в работе «Исследования о вероятности судебных приговоров». Он же рассмотрел случай, когда вероятности событий могут меняться от испытания к испытанию.

В XX веке теория была существенно развита. Андрей Николаевич Колмогоров в 1930-х годах создал аксиоматику теории вероятностей, в рамках которой закон больших чисел получил строгую математическую формулировку. Он же доказал усиленный закон больших чисел, который гарантирует сходимость не только по вероятности, но и почти наверное. Александр Яковлевич Хинчин и Павел Львович Чебышёв также внесли значительный вклад в обобщение условий применимости закона.

Формулировки

В современной теории вероятностей различают две основные формы закона больших чисел: слабый и усиленный.

Слабый закон больших чисел

Слабый закон утверждает, что для последовательности независимых и одинаково распределённых случайных величин \(X_1, X_2, \dots, X_n\) с конечным математическим ожиданием \(\mu\) и дисперсией \(\sigma^2\) выборочное среднее \(\overline{X}_n = \frac{1}{n}\sum_{i=1}^n X_i\) сходится по вероятности к \(\mu\). Формально:

\[ \forall \varepsilon > 0, \quad \lim_{n \to \infty} P(|\overline{X}_n - \mu| < \varepsilon) = 1. \]

Это означает, что с ростом \(n\) вероятность того, что среднее значение выборки отклонится от математического ожидания более чем на любую сколь угодно малую величину, стремится к нулю.

Усиленный закон больших чисел

Усиленный закон, доказанный Колмогоровым, является более сильным утверждением. Он гарантирует, что сходимость происходит почти наверное, то есть с вероятностью 1:

\[ P\left(\lim_{n \to \infty} \overline{X}_n = \mu\right) = 1. \]

Это означает, что для почти всех возможных последовательностей наблюдений (кроме множества меры нуль) выборочное среднее сходится к математическому ожиданию. Усиленный закон требует более строгих условий, в частности, существования математического ожидания и независимости величин, но он даёт более сильную гарантию.

Теорема Бернулли

Частный случай закона больших чисел для биномиального распределения. Пусть \(m_n\) — число успехов в \(n\) независимых испытаниях Бернулли с вероятностью успеха \(p\). Тогда частота успеха \(m_n/n\) сходится по вероятности к \(p\):

\[ \forall \varepsilon > 0, \quad \lim_{n \to \infty} P\left(\left|\frac{m_n}{n} - p\right| < \varepsilon\right) = 1. \]

Условия применимости

Закон больших чисел применим не ко всем последовательностям случайных величин. Основные условия:

• Независимость: случайные величины должны быть независимы (или, по крайней мере, слабо зависимы).
• Одинаковое распределение: для классической формулировки требуется, чтобы величины были одинаково распределены, хотя существуют обобщения для неодинаковых распределений при выполнении определённых условий (например, условие Чебышёва).
• Конечность математического ожидания: если математическое ожидание не существует (например, для распределения Коши), закон больших чисел не выполняется — выборочное среднее не сходится ни к какому фиксированному числу.

Примеры и следствия

Страхование

Закон больших чисел является основой актуарных расчётов. Страховая компания, собирая премии с большого числа клиентов, может с высокой точностью предсказать суммарный размер выплат по страховым случаям, поскольку средняя сумма выплат на одного клиента стремится к математическому ожиданию ущерба. Это позволяет устанавливать тарифы, обеспечивающие безубыточность.

Физика

В статистической физике закон больших чисел объясняет, почему макроскопические свойства систем (давление, температура) являются детерминированными, несмотря на случайное поведение отдельных молекул. Среднее значение энергии или импульса по огромному числу частиц практически не отклоняется от среднего.

Социология и опросы

При проведении социологических опросов увеличение размера выборки повышает точность оценок. Например, если опросить 1000 человек, доля сторонников определённого кандидата будет близка к истинной доле в генеральной совокупности (при условии репрезентативности выборки). Закон больших чисел обосновывает уменьшение погрешности с ростом \(n\).

Игровая индустрия

В азартных играх (рулетка, игровые автоматы) закон больших чисел гарантирует, что при большом числе ставок фактический выигрыш казино будет стремиться к математическому ожиданию, заложенному в правилах (обычно в пользу казино). Это обеспечивает долгосрочную прибыльность игорного бизнеса.

Связь с центральной предельной теоремой

Закон больших чисел и центральная предельная теорема (ЦПТ) являются двумя основными предельными теоремами теории вероятностей. Закон больших чисел описывает, куда стремится среднее (к математическому ожиданию), а ЦПТ описывает, как распределены отклонения среднего от этого ожидания. ЦПТ утверждает, что при больших \(n\) распределение нормированного выборочного среднего \((\overline{X}_n - \mu) \sqrt{n} / \sigma\) приближается к стандартному нормальному распределению. Таким образом, ЦПТ даёт более точную информацию о вероятности больших отклонений, в то время как закон больших чисел гарантирует лишь сходимость.

Критика и ограничения

На практике закон больших чисел часто неверно интерпретируется. Распространённое заблуждение — «закон малых чисел»: вера в то, что после серии неудач обязательно последует успех (например, в рулетке после десяти выпадений чёрного якобы возрастает вероятность красного). На самом деле, закон больших чисел не гарантирует компенсации в краткосрочной перспективе; он работает только при очень большом числе испытаний, и каждое следующее испытание независимо от предыдущих.

Другое ограничение — закон выполняется только для величин с конечным математическим ожиданием. Для распределений с «тяжёлыми хвостами» (например, распределение Парето с малым показателем) среднее может не сходиться, что делает закон неприменимым в некоторых финансовых и физических моделях.

Источники

• Бернулли Я. Искусство предположений (1713).
• Пуассон С. Д. Исследования о вероятности судебных приговоров (1837).
• Колмогоров А. Н. Основные понятия теории вероятностей (1933).
• Гнеденко Б. В., Хинчин А. Я. Элементарное введение в теорию вероятностей (1946).
• Феллер В. Введение в теорию вероятностей и её приложения (том 1, 1968).