Обратное гамма-распределение

Обратное гамма-распределение — это непрерывное распределение вероятностей, заданное на положительной полуоси вещественных чисел. Оно является распределением случайной величины, обратной к случайной величине, имеющей стандартное гамма-распределение. Обратное гамма-распределение широко применяется в байесовской статистике, в частности, в качестве сопряжённого априорного распределения для дисперсии нормального распределения, а также в актуарной математике и теории надёжности.

Определение

Пусть случайная величина \( X \) имеет гамма-распределение с параметром формы \( k > 0 \) и параметром масштаба \( \theta > 0 \). Тогда случайная величина \( Y = 1/X \) имеет обратное гамма-распределение. Параметры распределения обычно обозначаются как \( \alpha \) (параметр формы) и \( \beta \) (параметр масштаба), причём \( \alpha = k \) и \( \beta = 1/\theta \).

Функция плотности вероятности

Функция плотности вероятности (PDF) обратного гамма-распределения для \( y > 0 \) задаётся формулой:

\[ f(y; \alpha, \beta) = \frac{\beta^\alpha}{\Gamma(\alpha)} y^{-\alpha - 1} \exp\left(-\frac{\beta}{y}\right), \]

где:

• \( \alpha > 0 \) — параметр формы,
• \( \beta > 0 \) — параметр масштаба,
• \( \Gamma(\alpha) \) — гамма-функция.

Функция распределения

Функция распределения (CDF) выражается через регуляризованную неполную гамма-функцию:

\[ F(y; \alpha, \beta) = \frac{\Gamma\left(\alpha, \frac{\beta}{y}\right)}{\Gamma(\alpha)} = Q\left(\alpha, \frac{\beta}{y}\right), \]

где \( \Gamma(\alpha, x) \) — верхняя неполная гамма-функция, а \( Q(\alpha, x) \) — регуляризованная неполная гамма-функция.

Свойства

Моменты

\( r \)-й начальный момент обратного гамма-распределения существует только при условии \( r < \alpha \). Формула для \( r \)-го момента:

\[ \mathbb{E}[Y^r] = \frac{\beta^r \Gamma(\alpha - r)}{\Gamma(\alpha)}, \quad r < \alpha. \]

Отсюда следуют основные числовые характеристики:

• Математическое ожидание: \( \mathbb{E}[Y] = \frac{\beta}{\alpha - 1} \) при \( \alpha > 1 \). Если \( \alpha \le 1 \), математическое ожидание не существует (расходится).
• Дисперсия: \( \operatorname{Var}(Y) = \frac{\beta^2}{(\alpha - 1)^2 (\alpha - 2)} \) при \( \alpha > 2 \). При \( \alpha \le 2 \) дисперсия бесконечна.
• Мода: \( \operatorname{Mode}(Y) = \frac{\beta}{\alpha + 1} \).

Связь с другими распределениями

• Связь с гамма-распределением: Если \( X \sim \operatorname{Gamma}(\alpha, \beta) \), то \( 1/X \sim \operatorname{Inv-Gamma}(\alpha, \beta) \).
• Связь с обратным хи-квадрат распределением: Обратное гамма-распределение с параметрами \( \alpha = \nu/2 \) и \( \beta = 1/2 \) эквивалентно обратному хи-квадрат распределению с \( \nu \) степенями свободы.
• Связь с распределением Фришера — Снедекора: Если \( Y \sim \operatorname{Inv-Gamma}(\alpha, \beta) \), то \( \frac{\alpha}{\beta} Y \) имеет распределение, обратное распределению Фишера (с точностью до масштаба).
• Предельный случай: При \( \alpha \to \infty \) и фиксированном \( \beta \) распределение вырождается в точку \( 1/\beta \).

Применение

Байесовская статистика

Обратное гамма-распределение является сопряжённым априорным распределением для дисперсии \( \sigma^2 \) нормального распределения с известным математическим ожиданием. В модели \( X_i \sim \mathcal{N}(\mu, \sigma^2) \) с известным \( \mu \) априорное распределение \( \sigma^2 \sim \operatorname{Inv-Gamma}(\alpha, \beta) \) приводит к апостериорному распределению \( \sigma^2 \mid \mathbf{X} \sim \operatorname{Inv-Gamma}(\alpha + n/2, \beta + \sum (x_i - \mu)^2 / 2) \). Это свойство широко используется в линейной регрессии, анализе временных рядов и машинном обучении.

Актуарная математика

В актуарной науке обратное гамма-распределение применяется для моделирования размеров страховых убытков и резервов. Оно хорошо описывает данные с тяжёлыми хвостами, что характерно для катастрофических рисков. Параметр \( \alpha \) контролирует толщину хвоста: чем меньше \( \alpha \), тем тяжелее хвост распределения.

Теория надёжности

В теории надёжности обратное гамма-распределение используется для моделирования времени до отказа систем, особенно в случаях, когда интенсивность отказов не является постоянной. Оно также применяется в анализе выживаемости.

Физика и инженерные науки

В физике обратное гамма-распределение возникает при анализе спектров случайных процессов, в частности, в теории распространения волн и обработке сигналов. В инженерных науках его используют для оценки параметров систем с обратной связью.

Оценка параметров

Метод моментов

Оценки параметров \( \alpha \) и \( \beta \) методом моментов получаются из выборочного среднего \( \bar{y} \) и выборочной дисперсии \( s^2 \):

\[ \hat{\alpha} = \frac{\bar{y}^2}{s^2} + 2, \quad \hat{\beta} = \bar{y}(\hat{\alpha} - 1). \]

Эти оценки состоятельны, но могут быть смещёнными при малых выборках.

Метод максимального правдоподобия

Оценки максимального правдоподобия (МП-оценки) находятся численно, так как система уравнений не имеет аналитического решения. Логарифмическая функция правдоподобия для выборки \( y_1, \dots, y_n \):

\[ \ell(\alpha, \beta) = n\alpha \ln \beta - n \ln \Gamma(\alpha) - (\alpha + 1) \sum_{i=1}^n \ln y_i - \beta \sum_{i=1}^n \frac{1}{y_i}. \]

МП-оценки \( \hat{\alpha} \) и \( \hat{\beta} \) удовлетворяют уравнениям:

\[ \frac{\partial \ell}{\partial \alpha} = n \ln \beta - n \psi(\alpha) - \sum \ln y_i = 0, \] \[ \frac{\partial \ell}{\partial \beta} = \frac{n\alpha}{\beta} - \sum \frac{1}{y_i} = 0, \]

где \( \psi(\alpha) \) — дигамма-функция. Решение обычно выполняется итерационными методами, например, методом Ньютона — Рафсона.

Генерация случайных чисел

Для генерации случайных чисел из обратного гамма-распределения используется связь с гамма-распределением: если \( X \sim \operatorname{Gamma}(\alpha, \beta) \), то \( Y = 1/X \sim \operatorname{Inv-Gamma}(\alpha, \beta) \). Таким образом, алгоритм включает два шага:

1. Сгенерировать \( X \) из гамма-распределения с параметрами \( \alpha \) и \( \beta \) (например, используя метод Марсальи — Цанга или метод преобразования).
2. Вычислить \( Y = 1/X \).

Этот метод эффективен и широко реализован в статистических пакетах (R, Python SciPy, MATLAB).

Примеры

• Пример 1: Пусть \( \alpha = 3 \), \( \beta = 2 \). Тогда математическое ожидание \( \mathbb{E}[Y] = 2/(3-1) = 1 \), дисперсия \( \operatorname{Var}(Y) = 4/(2^2 \cdot 1) = 1 \). Мода равна \( 2/(3+1) = 0.5 \).
• Пример 2: В байесовском анализе нормальной модели с известным средним \( \mu = 0 \) и априорным распределением \( \sigma^2 \sim \operatorname{Inv-Gamma}(2, 1) \) для выборки из 10 наблюдений с суммой квадратов отклонений, равной 5, апостериорное распределение будет \( \sigma^2 \sim \operatorname{Inv-Gamma}(7, 3.5) \).

Источники

• Johnson, N. L., Kotz, S., & Balakrishnan, N. (1994). Continuous Univariate Distributions, Volume 1 (2nd ed.). Wiley.
• Gelman, A., Carlin, J. B., Stern, H. S., Dunson, D. B., Vehtari, A., & Rubin, D. B. (2013). Bayesian Data Analysis (3rd ed.). CRC Press.
• Casella, G., & Berger, R. L. (2002). Statistical Inference (2nd ed.). Duxbury Press.
• Klugman, S. A., Panjer, H. H., & Willmot, G. E. (2012). Loss Models: From Data to Decisions (4th ed.). Wiley.