CDF

CDF (сокр. от англ. Cumulative Distribution Function) — это функция распределения вероятностей, одна из основных характеристик случайной величины в теории вероятностей и математической статистике. Для каждой случайной величины CDF определяет вероятность того, что её значение не превысит заданный порог. Функция распределения является универсальным способом описания как дискретных, так и непрерывных случайных величин, и широко применяется в статистике, физике, экономике, машинном обучении и других областях.

Определение и свойства

Функция распределения случайной величины \(X\) определяется как:

\[ F_X(x) = P(X \le x) \]

где \(P\) — вероятность, а \(x\) — действительное число. Для дискретных случайных величин CDF вычисляется суммированием вероятностей всех значений, не превышающих \(x\); для непрерывных — интегрированием плотности вероятности.

Основные свойства CDF:

• Неубывающая функция: если \(x_1 < x_2\), то \(F(x_1) \le F(x_2)\).
• Пределы: \(\lim_{x \to -\infty} F(x) = 0\), \(\lim_{x \to +\infty} F(x) = 1\).
• Непрерывность справа: для любой точки \(x_0\) выполняется \(\lim_{x \to x_0^+} F(x) = F(x_0)\).
• Вероятность попадания в интервал: \(P(a < X \le b) = F(b) - F(a)\).

Для непрерывных случайных величин CDF является непрерывной и дифференцируемой почти всюду, причём её производная равна плотности распределения: \(f(x) = F'(x)\).

История

Понятие функции распределения впервые было формализовано в конце XIX — начале XX века в работах русских и западных математиков. Основоположником современной теории вероятностей считается Андрей Николаевич Колмогоров, который в 1933 году в монографии «Основные понятия теории вероятностей» аксиоматически определил случайную величину и её функцию распределения. Ранее, в 1895 году, французский математик Анри Лебег разработал теорию меры и интеграла, что позволило строго обосновать CDF для произвольных случайных величин. В англоязычной литературе термин cumulative distribution function ввёл в 1940-х годах статистик Уильям Феллер.

Виды и классификации

По типу случайной величины

• Дискретная CDF: ступенчатая функция, возрастающая скачками в точках, соответствующих возможным значениям случайной величины. Высота скачка равна вероятности этого значения.
• Непрерывная CDF: гладкая (или кусочно-гладкая) функция, не имеющая скачков. Для неё плотность вероятности существует как производная.
• Смешанная CDF: комбинация дискретных и непрерывных участков, например, при наличии атомов (точек с ненулевой вероятностью) на фоне непрерывного распределения.

По форме распределения

• Симметричные распределения (например, нормальное, Коши): CDF имеет точку перегиба в центре.
• Асимметричные (логнормальное, экспоненциальное): CDF растёт быстрее с одной стороны.
• Многомодальные: CDF имеет несколько участков быстрого роста, соответствующих модам плотности.

Применение

Статистика и анализ данных

• Проверка гипотез: CDF используется для расчёта p-значений и построения доверительных интервалов.
• Критерии согласия: тест Колмогорова-Смирнова сравнивает эмпирическую CDF с теоретической.
• Квантильные преобразования: обратная CDF (функция квантилей) применяется для генерации случайных чисел и нормализации данных.

Машинное обучение

• Оценка вероятностей: в задачах классификации CDF позволяет интерпретировать выходы моделей как вероятности.
• Обучение с подкреплением: CDF используется для оценки распределения вознаграждений.
• Генеративные модели: в вариационных автоэнкодерах и нормализующих потоках CDF применяется для преобразования распределений.

Физика и инженерия

• Надёжность: CDF времени отказа (функция ненадёжности) описывает вероятность выхода устройства из строя до заданного момента.
• Гидрология: CDF осадков или уровней воды используется для расчёта паводковых рисков.
• Квантовая механика: CDF энергии частицы в потенциальной яме.

Финансы и экономика

• Управление рисками: CDF доходности активов позволяет оценивать Value-at-Risk (VaR) и ожидаемые потери.
• Ценообразование опционов: CDF нормального распределения лежит в основе модели Блэка-Шоулза.
• Кредитный скоринг: CDF дефолта заёмщика строится на основе логистической регрессии.

Примеры

Нормальное распределение

Для стандартного нормального распределения \(N(0,1)\) CDF имеет вид:

\[ \Phi(x) = \frac{1}{\sqrt{2\pi}} \int_{-\infty}^{x} e^{-t^2/2} dt \]

Функция \(\Phi(x)\) не выражается в элементарных функциях, но табулирована и реализована во всех статистических пакетах. Например, \(\Phi(0) = 0.5\), \(\Phi(1.96) \approx 0.975\).

Экспоненциальное распределение

Для экспоненциального распределения с параметром \(\lambda > 0\):

\[ F(x) = 1 - e^{-\lambda x}, \quad x \ge 0 \]

Эта CDF используется в теории массового обслуживания и надёжности.

Эмпирическая функция распределения

По выборке \(x_1, x_2, \dots, x_n\) строится эмпирическая CDF:

\[ \hat{F}_n(x) = \frac{1}{n} \sum_{i=1}^n I(x_i \le x) \]

где \(I\) — индикаторная функция. По теореме Гливенко-Кантелли \(\hat{F}_n(x)\) сходится к истинной CDF равномерно по \(x\) при \(n \to \infty\).

Интересные факты

• CDF является неубывающей функцией, но не обязательно строго монотонной — на участках с нулевой плотностью она может быть постоянной.
• Для дискретных распределений CDF может быть представлена в виде суммы ступенчатых функций Хевисайда.
• В квантовой механике CDF квадрата модуля волновой функции даёт вероятность обнаружения частицы в заданной области.
• Обратная CDF (квантильная функция) используется в методе обратного преобразования для генерации случайных чисел с произвольным распределением.
• В российской математической школе термин «функция распределения» часто используется как синоним CDF, в отличие от англоязычной традиции, где distribution function может означать и плотность.

Критика и ограничения

• CDF не даёт наглядного представления о форме распределения для многомерных случайных величин — для них используются совместные функции распределения, которые сложнее в анализе.
• При работе с выбросами CDF может быть менее информативна, чем плотность, поскольку сглаживает экстремальные значения.
• Для распределений с тяжёлыми хвостами (например, распределение Парето) CDF медленно стремится к 1, что затрудняет оценку вероятностей редких событий.

Источники

• Колмогоров А. Н. Основные понятия теории вероятностей. — М.: Наука, 1974.
• Феллер В. Введение в теорию вероятностей и её приложения. — М.: Мир, 1984.
• Ширяев А. Н. Вероятность. — М.: МЦНМО, 2017.
• DeGroot M. H., Schervish M. J. Probability and Statistics. — Pearson, 2012.
• Papoulis A., Pillai S. U. Probability, Random Variables, and Stochastic Processes. — McGraw-Hill, 2002.