Характеристическая функция¶

Характеристическая функция — это функция, однозначно определяющая распределение вероятностей случайной величины или случайного вектора. В теории вероятностей и математической статистике характеристическая функция случайной величины \( X \) определяется как математическое ожидание комплексной экспоненты \( e^{itX} \), где \( t \) — вещественный параметр. Она является полным аналогом преобразования Фурье для распределений вероятностей и широко используется для анализа свойств случайных величин, особенно в случаях, когда работа с плотностью или функцией распределения затруднена.

¶Определение

Пусть \( X \) — случайная величина, определённая на вероятностном пространстве \( (\Omega, \mathcal{F}, \mathbb{P}) \). Характеристической функцией \( \varphi_X(t) \) называется функция:

\[ \varphi_X(t) = \mathbb{E}[e^{itX}] = \int_{-\infty}^{\infty} e^{itx} \, dF_X(x), \]

где \( i \) — мнимая единица, \( t \in \mathbb{R} \), а \( F_X(x) \) — функция распределения случайной величины \( X \). Если \( X \) имеет плотность распределения \( f_X(x) \), то:

\[ \varphi_X(t) = \int_{-\infty}^{\infty} e^{itx} f_X(x) \, dx. \]

Для многомерного случая (случайного вектора \( \mathbf{X} = (X_1, \ldots, X_n) \)) характеристическая функция определяется как:

\[ \varphi_{\mathbf{X}}(\mathbf{t}) = \mathbb{E}[e^{i \mathbf{t} \cdot \mathbf{X}}] = \mathbb{E}[e^{i (t_1 X_1 + \ldots + t_n X_n)}], \]

где \( \mathbf{t} = (t_1, \ldots, t_n) \in \mathbb{R}^n \).

¶Свойства

Характеристическая функция обладает рядом фундаментальных свойств, которые делают её удобным инструментом в теории вероятностей.

¶Основные свойства

Существование: Характеристическая функция существует для любой случайной величины, поскольку \( |e^{itX}| = 1 \), и математическое ожидание всегда конечно.
Ограниченность: \( |\varphi_X(t)| \leq 1 \) для всех \( t \in \mathbb{R} \), причём \( \varphi_X(0) = 1 \).
Непрерывность: \( \varphi_X(t) \) равномерно непрерывна на всей вещественной прямой.
Симметрия: Если \( X \) имеет симметричное распределение (относительно нуля), то \( \varphi_X(t) \) — вещественная и чётная функция.
Сопряжение: \( \overline{\varphi_X(t)} = \varphi_X(-t) \), где черта обозначает комплексное сопряжение.
Линейное преобразование: Для \( Y = aX + b \), где \( a, b \in \mathbb{R} \), справедливо:

\[ \varphi_Y(t) = e^{itb} \varphi_X(at). \]

¶Связь с моментами

Если у случайной величины \( X \) существует момент \( k \)-го порядка (\( \mathbb{E}[|X|^k] < \infty \)), то характеристическая функция \( k \) раз дифференцируема, и её производные в нуле дают моменты:

\[ \mathbb{E}[X^k] = i^{-k} \varphi_X^{(k)}(0), \]

где \( \varphi_X^{(k)}(0) \) — \( k \)-я производная в точке \( t = 0 \). Например, математическое ожидание \( \mu = \mathbb{E}[X] \) выражается как \( \mu = -i \varphi_X'(0) \), а дисперсия \( \sigma^2 = \mathbb{E}[X^2] - \mu^2 = -\varphi_X''(0) - (\varphi_X'(0))^2 \).

¶Единственность и взаимная однозначность

Характеристическая функция однозначно определяет распределение: если две случайные величины имеют одинаковые характеристические функции, то их распределения совпадают. Обратно, каждому распределению соответствует единственная характеристическая функция. Это свойство является следствием теоремы единственности для преобразования Фурье.

¶Формула обращения

По характеристической функции можно восстановить функцию распределения. Для случайной величины с плотностью \( f(x) \) справедливо:

\[ f(x) = \frac{1}{2\pi} \int_{-\infty}^{\infty} e^{-itx} \varphi_X(t) \, dt. \]

В общем случае, для функции распределения \( F(x) \) в точках непрерывности:

\[ F(x) = \frac{1}{2} + \frac{1}{2\pi} \lim_{T \to \infty} \int_{-T}^{T} \frac{e^{-itx} - 1}{-it} \varphi_X(t) \, dt. \]

¶Примеры

Для наиболее распространённых распределений характеристические функции имеют простые аналитические выражения:

Распределение	Плотность или функция вероятности	Характеристическая функция
Нормальное \( N(\mu, \sigma^2) \)	\( f(x) = \frac{1}{\sqrt{2\pi\sigma^2}} e^{-\frac{(x-\mu)^2}{2\sigma^2}} \)	\( \varphi(t) = e^{i\mu t - \frac{\sigma^2 t^2}{2}} \)
Пуассоновское \( \text{Pois}(\lambda) \)	\( P(X=k) = \frac{\lambda^k}{k!} e^{-\lambda} \)	\( \varphi(t) = e^{\lambda(e^{it} - 1)} \)
Равномерное \( U(a,b) \)	\( f(x) = \frac{1}{b-a} \) на \( [a,b] \)	\( \varphi(t) = \frac{e^{itb} - e^{ita}}{it(b-a)} \)
Экспоненциальное \( \text{Exp}(\lambda) \)	\( f(x) = \lambda e^{-\lambda x} \) для \( x \geq 0 \)	\( \varphi(t) = \frac{\lambda}{\lambda - it} \)
Бернуллиевское \( \text{Ber}(p) \)	\( P(X=1)=p, P(X=0)=1-p \)	\( \varphi(t) = 1-p + p e^{it} \)

¶Применение

Характеристическая функция является мощным инструментом в различных областях теории вероятностей и математической статистики.

¶Доказательство предельных теорем

Одно из главных применений — доказательство центральной предельной теоремы (ЦПТ). Свойство непрерывности Леви-Крамера утверждает, что если последовательность характеристических функций \( \varphi_n(t) \) сходится к некоторой функции \( \varphi(t) \), непрерывной в нуле, то соответствующие распределения сходятся к распределению, задаваемому \( \varphi(t) \). Это позволяет доказывать сходимость сумм случайных величин к нормальному распределению.

¶Суммирование независимых случайных величин

Если \( X_1, X_2, \ldots, X_n \) независимы, то характеристическая функция их суммы \( S_n = X_1 + \ldots + X_n \) равна произведению характеристических функций:

\[ \varphi_{S_n}(t) = \prod_{k=1}^{n} \varphi_{X_k}(t). \]

Это свойство упрощает анализ сумм, особенно когда распределения слагаемых различны.

¶Анализ устойчивых распределений

Характеристическая функция используется для определения и классификации устойчивых распределений, которые не имеют замкнутой формы для плотности, но имеют простое выражение для характеристической функции. Например, распределение Коши с параметрами \( \gamma \) и \( \delta \) имеет характеристическую функцию:

\[ \varphi(t) = e^{i\delta t - \gamma |t|}. \]

¶Оценка параметров

В статистике характеристическая функция применяется для построения оценок параметров распределений, особенно в случаях, когда метод максимального правдоподобия сложен. Например, метод моментов может быть обобщён на основе эмпирической характеристической функции.

¶История

Понятие характеристической функции было введено в начале XX века. Французский математик Поль Леви (Paul Lévy) в 1920-х годах систематически развил теорию, включая формулу обращения и условия сходимости. Независимо от него, российский математик Александр Яковлевич Хинчин внёс вклад в изучение свойств характеристических функций и их применение в законе больших чисел. В 1930-х годах Харальд Крамер (Harald Cramér) и Герман Вейль (Hermann Weyl) продолжили развитие, связав характеристические функции с преобразованием Фурье и спектральным анализом.

¶Связь с другими функциями

Характеристическая функция является частным случаем преобразования Фурье от меры распределения. В отличие от производящей функции моментов (которая существует не для всех распределений), характеристическая функция всегда определена. Она также связана с кумулянтами: логарифм характеристической функции \( \ln \varphi_X(t) \) порождает кумулянты распределения.

¶Критика и ограничения

Несмотря на широкую применимость, характеристическая функция имеет ограничения. Во-первых, она является комплекснозначной, что усложняет интерпретацию в прикладных задачах. Во-вторых, восстановление распределения по характеристической функции требует численного интегрирования, которое может быть неустойчивым при наличии шума в данных. В-третьих, для некоторых распределений (например, с тяжёлыми хвостами) характеристическая функция может быть недифференцируемой в нуле, что затрудняет извлечение моментов.

¶Источники

Ширяев А. Н. Вероятность. — М.: МЦНМО, 2011. — Т. 1.
Биллингсли П. Сходимость вероятностных мер. — М.: Наука, 1977.
Леви П. Теория вероятностей. — М.: Иностранная литература, 1962.
Феллер В. Введение в теорию вероятностей и её приложения. — М.: Мир, 1984. — Т. 2.
Cramér H. Mathematical Methods of Statistics. — Princeton University Press, 1946.

BFOmetr — база данных и аналитика по компаниям России.

На главную BFOmetr →