Распределение Стьюдента

Распределение Стьюдента (также t-распределение Стьюдента) — это непрерывное распределение вероятностей, являющееся основой для статистических методов, связанных с оценкой среднего значения генеральной совокупности при неизвестной дисперсии и малом объёме выборки. Распределение симметрично относительно нуля и по форме напоминает нормальное распределение, но имеет более «тяжёлые» хвосты, что делает его более чувствительным к выбросам. Ключевым параметром распределения является число степеней свободы, которое обычно связано с объёмом выборки.

История

Распределение было впервые опубликовано в 1908 году английским статистиком Уильямом Сили Госсетом (William Sealy Gosset), работавшим на пивоваренную компанию «Гиннесс» (Guinness). Для публикации научных работ компания требовала от сотрудников использовать псевдонимы, чтобы избежать разглашения коммерческих секретов. Госсет выбрал псевдоним «Стьюдент» (Student). В своей статье «Вероятная ошибка среднего» (The Probable Error of a Mean) он вывел распределение для решения задачи малых выборок, с которой столкнулся при контроле качества пива. Позднее, в 1920-х годах, Рональд Фишер (Ronald Fisher) формализовал математические свойства распределения, ввёл термин «t-распределение» и разработал t-критерий.

Определение и свойства

Формальное определение

Пусть \( Z \) — стандартная нормальная случайная величина (среднее 0, дисперсия 1), а \( V \) — случайная величина, имеющая распределение хи-квадрат с \( k \) степенями свободы, причём \( Z \) и \( V \) независимы. Тогда случайная величина

\[ T = \frac{Z}{\sqrt{V/k}} \]

имеет распределение Стьюдента с \( k \) степенями свободы.

Функция плотности вероятности

Функция плотности вероятности (PDF) распределения Стьюдента с \( k \) степенями свободы задаётся формулой:

\[ f(t) = \frac{\Gamma\left(\frac{k+1}{2}\right)}{\sqrt{k\pi}\,\Gamma\left(\frac{k}{2}\right)} \left(1 + \frac{t^2}{k}\right)^{-\frac{k+1}{2}} \]

где \( \Gamma \) — гамма-функция.

Основные характеристики

• Математическое ожидание: при \( k > 1 \) равно 0; при \( k \leq 1 \) не определено.
• Дисперсия: при \( k > 2 \) равна \( \frac{k}{k-2} \); при \( k \leq 2 \) бесконечна или не определена.
• Асимметрия: при \( k > 3 \) равна 0 (распределение симметрично).
• Эксцесс: при \( k > 4 \) равен \( \frac{6}{k-4} \), что указывает на более тяжёлые хвосты по сравнению с нормальным распределением (эксцесс нормального распределения равен 0).

Связь с другими распределениями

• При \( k \to \infty \) распределение Стьюдента сходится к стандартному нормальному распределению.
• Квадрат случайной величины, имеющей распределение Стьюдента с \( k \) степенями свободы, имеет распределение Фишера с 1 и \( k \) степенями свободы.
• Если \( X \) имеет распределение Стьюдента с \( k \) степенями свободы, то \( X^2 \) имеет распределение, связанное с F-распределением.

Таблицы и квантили

До широкого распространения вычислительной техники для использования t-распределения применялись статистические таблицы, содержащие критические значения для различных уровней значимости и чисел степеней свободы. Таблицы t-распределения до сих пор публикуются в учебниках по статистике. Квантили t-распределения (значения, при которых функция распределения достигает заданной вероятности) обозначаются как \( t_{\alpha, k} \), где \( \alpha \) — уровень значимости, а \( k \) — число степеней свободы.

Применение

t-критерий Стьюдента

Основное применение распределения Стьюдента — проверка статистических гипотез о средних значениях с помощью t-критерия Стьюдента. Существуют несколько разновидностей t-критерия:

• Одновыборочный t-критерий: проверяет гипотезу о том, что среднее значение генеральной совокупности равно заданному значению. Тестовая статистика вычисляется как \( t = \frac{\bar{x} - \mu_0}{s / \sqrt{n}} \), где \( \bar{x} \) — выборочное среднее, \( \mu_0 \) — гипотетическое среднее, \( s \) — выборочное стандартное отклонение, \( n \) — объём выборки. При справедливости нулевой гипотезы эта статистика имеет распределение Стьюдента с \( n-1 \) степенью свободы.
• Двухвыборочный t-критерий: сравнивает средние двух независимых выборок. Различают критерий для равных дисперсий (критерий Стьюдента-Уэлча) и для неравных дисперсий (критерий Уэлча). Число степеней свободы в общем случае вычисляется по формуле Саттертуэйта.
• Парный t-критерий: применяется для сравнения средних в зависимых выборках (например, «до» и «после» обработки). Фактически сводится к одновыборочному t-критерию для разностей парных наблюдений.

Доверительные интервалы

Распределение Стьюдента используется для построения доверительных интервалов для среднего значения генеральной совокупности при неизвестной дисперсии. Доверительный интервал для среднего \( \mu \) с уровнем доверия \( 1-\alpha \) имеет вид:

\[ \bar{x} \pm t_{\alpha/2, n-1} \cdot \frac{s}{\sqrt{n}} \]

где \( t_{\alpha/2, n-1} \) — квантиль распределения Стьюдента.

Другие области применения

• Регрессионный анализ: t-статистики используются для проверки значимости коэффициентов регрессии (гипотеза о равенстве коэффициента нулю).
• Анализ остатков: распределение Стьюдента может применяться для моделирования ошибок в робастных статистических методах.
• Байесовская статистика: t-распределение используется как априорное распределение для параметров, когда требуется робастность к выбросам.

Интересные факты

• Псевдоним «Стьюдент» (Student) был выбран Госсетом не случайно: он считал, что его работа — это «ученическая» попытка решить практическую задачу.
• Компания «Гиннесс» разрешила публикацию статьи только после того, как Госсет убедил руководство, что метод не раскрывает коммерческих секретов пивоварения.
• Рональд Фишер, который позже систематизировал теорию t-распределения, был одним из немногих, кто знал настоящее имя Госсета.
• В современной статистике t-распределение часто называют распределением Стьюдента, отдавая дань псевдониму автора.

Критика и ограничения

• Чувствительность к выбросам: хотя t-распределение более робастно, чем нормальное, при наличии сильных выбросов в данных его применение может приводить к искажённым результатам. В таких случаях предпочтительнее использовать непараметрические методы.
• Предположение о нормальности: t-критерий предполагает, что данные в генеральной совокупности распределены нормально. При значительных отклонениях от нормальности (особенно при малых выборках) результаты могут быть ненадёжными. Для проверки нормальности используются критерии Шапиро-Уилка или Колмогорова-Смирнова.
• Неприменимость для малых выборок с неравными дисперсиями: двухвыборочный t-критерий в классической форме (с предположением о равенстве дисперсий) может давать неверные результаты при нарушении этого условия. В таких случаях рекомендуется использовать критерий Уэлча.

Источники

• Госсет, У. С. (Student). "The Probable Error of a Mean." Biometrika, 1908.
• Фишер, Р. А. "Statistical Methods for Research Workers." Oliver and Boyd, 1925.
• Кендалл, М., Стюарт, А. "Теория распределений." Наука, 1966.
• Боровков, А. А. "Математическая статистика." Наука, 1984.
• Кобзарь, А. И. "Прикладная математическая статистика." Физматлит, 2006.