Регрессия к среднему

Регрессия к среднему — это статистическое явление, заключающееся в том, что при повторных измерениях случайной величины её экстремальные значения (очень высокие или очень низкие) с высокой вероятностью сменяются значениями, более близкими к среднему арифметическому всей совокупности. Иными словами, за необычно большим отклонением от нормы обычно следует менее выраженное отклонение, и наоборот. Это фундаментальное свойство случайных процессов, которое не связано с причинно-следственными связями, а является следствием математической природы распределения вероятностей.

История открытия и терминология

Впервые явление регрессии к среднему было описано и формализовано в конце XIX века английским учёным сэром Фрэнсисом Гальтоном (1822–1911). Исследуя наследственность физических признаков, Гальтон заметил, что рост детей очень высоких родителей, как правило, оказывается ниже роста родителей, но всё же выше среднего по популяции. Аналогично, дети очень низких родителей в среднем оказываются выше своих родителей, но всё же ниже среднего. Гальтон назвал этот эффект «регрессией к посредственности» (англ. regression towards mediocrity). Позднее термин трансформировался в «регрессию к среднему» (англ. regression to the mean).

Гальтон разработал статистический метод, который он назвал «регрессионным анализом», для количественного описания этой закономерности. В 1886 году он опубликовал работу «Regression Towards Mediocrity in Hereditary Stature», где привёл данные о росте 928 взрослых детей и их родителей. Он построил диаграмму рассеяния и вывел линию регрессии, показав, что наклон этой линии меньше 1, что и отражает эффект регрессии.

Математическая основа и объяснение

Регрессия к среднему является прямым следствием свойств случайных величин и корреляции. Если две переменные (например, результат первого и второго измерения) коррелированы не идеально (коэффициент корреляции меньше 1), то при отклонении первой переменной от среднего значения, вторая переменная, в среднем, будет отклоняться меньше.

Формальное описание

Пусть \(X\) и \(Y\) — две случайные величины с одинаковым математическим ожиданием \(\mu\) и одинаковой дисперсией \(\sigma^2\), и коэффициентом корреляции \(\rho\). Тогда условное математическое ожидание \(Y\) при заданном значении \(X = x\) выражается формулой:

\[ E[Y | X = x] = \mu + \rho (x - \mu) \]

Отсюда видно, что если \(x\) отклоняется от \(\mu\) на величину \(\Delta = x - \mu\), то ожидаемое значение \(Y\) отклоняется от \(\mu\) на величину \(\rho \Delta\). Поскольку \(\rho < 1\) (для неидеально коррелированных величин), это отклонение меньше исходного. Таким образом, \(Y\) «регрессирует» (возвращается) к среднему \(\mu\).

Пример с подбрасыванием монеты

Рассмотрим серию из 100 подбрасываний монеты. Если в первой серии выпало 90 орлов (экстремальное отклонение от среднего 50), то во второй серии из 100 подбрасываний ожидаемое число орлов будет близко к 50, а не к 90. Это не означает, что монета «исправилась» или что существует сила, возвращающая результат к среднему. Просто вероятность выпадения 90 орлов во второй раз крайне мала, и наиболее вероятным результатом является значение, близкое к 50.

Примеры в различных областях

Спорт

Регрессия к среднему часто наблюдается в спортивной статистике. Например, футболист, забивший в одном сезоне необычно много голов (существенно выше своего среднего уровня), в следующем сезоне, скорее всего, забьёт меньше, приблизившись к своему типичному показателю. Аналогично, бейсболист, показавший в начале сезона аномально высокий процент отбивания, к концу сезона, как правило, «регрессирует» к своей средней многолетней статистике. Это явление часто ошибочно интерпретируется как «спад формы» или «проклятие новичка», хотя на самом деле оно объясняется статистической случайностью.

Медицина и психология

В клинических испытаниях эффект регрессии к среднему может приводить к ложным выводам об эффективности лечения. Если пациенты отбираются для исследования на основе экстремально высоких значений какого-либо показателя (например, артериального давления или уровня тревожности), то при повторном измерении (даже без лечения) их показатели, вероятно, снизятся просто за счёт регрессии. Это может быть ошибочно приписано действию лекарства или терапии. Для контроля этого эффекта в исследованиях обязательно используются контрольные группы и рандомизация.

Экономика и финансы

На фондовых рынках регрессия к среднему проявляется в том, что периоды аномально высокой доходности акций или секторов сменяются периодами более низкой доходности. Инвесторы, полагающиеся на экстраполяцию прошлых успехов, могут столкнуться с разочарованием. Этот принцип лежит в основе стратегий «стоимостного инвестирования» (value investing), предполагающих, что переоценённые активы со временем будут «регрессировать» к своей справедливой стоимости, а недооценённые — расти.

Образование и тестирование

Если студент получает на первом экзамене очень высокий балл (например, 98 из 100), то на следующем экзамене его результат, скорее всего, будет ниже, даже если его уровень знаний не изменился. Это связано с тем, что высокий балл мог быть частично обусловлен удачей, лёгкостью конкретных вопросов или другими случайными факторами. Аналогично, студент, проваливший первый экзамен, с большой вероятностью покажет лучший результат на следующем.

Связь с когнитивными искажениями

Непонимание регрессии к среднему является распространённым когнитивным искажением. Люди склонны искать причинно-следственные связи там, где их нет. Например, если после наказания (крика) ребёнок начинает вести себя лучше, родитель может заключить, что наказание эффективно. Однако с равной вероятностью плохое поведение было экстремальным отклонением, за которым последовала естественная регрессия к более типичному поведению. То же самое верно для похвалы: после неё поведение может стать хуже, что ошибочно интерпретируется как «избалованность», хотя это может быть просто статистическим эффектом.

Это явление тесно связано с так называемой ошибкой игрока (gambler’s fallacy) — ошибочным убеждением, что после серии неудач вероятность успеха возрастает. В действительности, при независимых испытаниях вероятность каждого следующего события остаётся неизменной, а регрессия к среднему относится к среднему значению по множеству испытаний, а не к компенсации прошлых результатов.

Статистический контроль и предостережения

При анализе данных необходимо учитывать эффект регрессии к среднему, чтобы избежать ошибочных выводов. Основные методы контроля включают:

• Использование контрольных групп: Сравнение изменений в экспериментальной группе с изменениями в группе, не подвергавшейся воздействию.
• Рандомизация: Случайное распределение участников по группам, что уравнивает вероятность экстремальных значений в обеих группах.
• Учёт регрессии при интерпретации: Понимание того, что часть наблюдаемого изменения может быть обусловлена статистическим эффектом, а не реальной причиной.

Регрессия к среднему не является неизбежным законом для каждого отдельного случая. Она описывает тенденцию для больших групп или повторяющихся событий. В единичном наблюдении результат может остаться экстремальным или даже стать ещё более экстремальным, но вероятность этого мала.

Источники

1. Galton, F. (1886). Regression Towards Mediocrity in Hereditary Stature. The Journal of the Anthropological Institute of Great Britain and Ireland, 15, 246–263.
2. Kahneman, D., & Tversky, A. (1973). On the psychology of prediction. Psychological Review, 80(4), 237–251.
3. Stigler, S. M. (1997). Regression towards the mean, historically considered. Statistical Methods in Medical Research, 6(2), 103–114.
4. Barnett, A. G., van der Pols, J. C., & Dobson, A. J. (2005). Regression to the mean: what it is and how to deal with it. International Journal of Epidemiology, 34(1), 215–220.