Дисперсия в теории вероятностей¶
Дисперсия — это мера разброса случайной величины вокруг её математического ожидания, одна из основных характеристик вероятностного распределения. Вместе с математическим ожиданием дисперсия образует так называемый второй момент случайной величины и используется для количественной оценки «разброса» или «неопределённости» значений. Дисперсия обозначается как Var(X), D(X) или σ², а её квадратный корень — стандартное отклонение (σ) — имеет ту же размерность, что и сама случайная величина.
¶Определение
Для дискретной случайной величины X с вероятностями pᵢ значений xᵢ дисперсия определяется формулой:
D(X) = Σ pᵢ(xᵢ − EX)²
Для непрерывной случайной величины с плотностью вероятности f(x) используется интеграл:
D(X) = ∫ (x − EX)² f(x) dx
Эквивалентная вычислительная формула: D(X) = E(X²) − (EX)². Она удобна на практике, поскольку требует лишь первого и второго моментов.
¶Свойства
- Неотрицательность. D(X) ≥ 0 всегда; равенство достигается тогда и только тогда, когда X принимает единственное значение с вероятностью 1 (то есть X — постоянная величина).
- Линейность. D(aX + b) = a²D(X), где a и b — постоянные. Сдвиг b не влияет на разброс, масштабирование a меняет дисперсию в a² раз.
- Аддитивность для независимых величин. Если X и Y независимы, то D(X + Y) = D(X) + D(Y). Это свойство широко применяется в статистике и теории ошибок.
- Ковариация. В общем случае D(X + Y) = D(X) + D(Y) + 2Cov(X, Y), где Cov(X, Y) — ковариация.
¶Стандартное отклонение
Квадратный корень из дисперсии называется стандартным отклонением (среднеквадратическим отклонением). В отличие от дисперсии, оно имеет ту же размерность, что и исходная величина, поэтому его проще интерпретировать. В нормальном распределении стандартное отклонение σ определяет «ширину» колоколообразной кривой: около 68 % значений попадает в интервал EX ± σ, около 95 % — в интервал EX ± 2σ.
¶Примеры распределений
| Распределение | Математическое ожидание | Дисперсия |
|---|---|---|
| Равномерное на [a, b] | (a + b)/2 | (b − a)²/12 |
| Биномиальное B(n, p) | np | np(1 − p) |
| Пуассона с параметром λ | λ | λ |
| Нормальное N(μ, σ²) | μ | σ² |
| Экспоненциальное с параметром λ | 1/λ | 1/λ² |
¶Оценка дисперсии по выборке
На практике дисперсия генеральной совокупности неизвестна, поэтому по выборке вычисляют выборочную дисперсию. Различают смещённую и несмещённую оценки:
- Смещённая: s² = (1/n) Σ (xᵢ − x̄)²
- Несмещённая (дисперсия по Бесселю): s² = (1/(n − 1)) Σ (xᵢ − x̄)²
Деление на n − 1 (исправление Бесселя) компенсирует систематическое занижение дисперсии, возникающее из-за того, что среднее значение x̄ вычислено по той же выборке.
¶Применение
Дисперсия применяется в самых разных областях:
- Статистика и теория вероятностей — как характеристика распределения, в теоремах о предельных распределениях (центральная предельная теорема).
- Теория ошибок и метрология — для оценки точности измерений; дисперсия случайной ошибки характеризует разброс результатов измерений одного и того же объекта.
- Финансы — дисперсия доходности актива используется как мера риска в модели Марковица и в теории портфельной оптимизации.
- Машинное обучение — дисперсия модели (в паре с её смещением) характеризует разброс предсказаний на разных обучающих выборках; концепция «смещение — разброс» (bias–variance tradeoff) лежит в основе анализа качества алгоритмов.
- Физика — дисперсия применима к флуктуациям физических величин, например к разбросу энергий частиц в ансамбле.
¶Связь с другими характеристиками
Дисперсия является вторым центральным моментом случайной величины. Первый центральный момент всегда равен нулю, поэтому дисперсия — первая нетривиальная характеристика разброса. Третий центральный момент связан с асимметрией распределения (коэффициент асимметрии), четвёртый — с «остротой» пика (эксцесс). Совокупность всех моментов полностью определяет распределение (при выполнении условия единственности моментов).
¶История
Понятие дисперсии ввёл Рональд Фишер в 1918 году в работе о наследственности; термин «variance» был предложен им для обозначения квадрата стандартного отклонения, введённого ранее Карлом Пирсоном. В русскоязычной традиции закрепился термин «дисперсия» (от лат. dispersio — рассеяние), а также «среднеквадратическое отклонение».
¶Источники
- Феллер, В. Введение в теорию вероятностей и её приложения.
- Гнеденко, Б. В. Курс теории вероятностей.
- Ширяев, А. Н. Вероятность.
- Каплан, Д. Математическая статистика.