Регресс — понятие в статистике и науке¶
Регресс — это термин, обозначающий обратную зависимость между переменными, при которой изменение одной величины сопровождается изменением другой в противоположном направлении, а также название метода статистического анализа, основанного на моделировании этой зависимости. Понятие применяется в математической статистике, психологии, медицине, информатике и повседневном языке, где оно нередко используется в значении «возврата к прежнему состоянию» или «ухудшения».
¶Происхождение термина
Слово «регресс» происходит от латинского regressus — «возвращение, обратный ход», от regredi — «возвращаться». В современном научном значении термин закрепился благодаря работам британского учёного Фрэнсиса Гальтона, который в конце XIX века исследовал наследственность роста и умственных способностей. Гальтон заметил, что дети с исключительно высокими или низкими показателями, как правило, имеют показатели, близкие к среднему по популяции. Этот феномен он назвал «регрессией к среднему» (regression toward the mean), а сам метод моделирования зависимости — регрессионным анализом.
¶Регрессия к среднему
Регрессия к среднему — статистическое явление, при котором экстремальные значения случайной величины при повторных измерениях, как правило, оказываются менее экстремальными и ближе к среднему значению популяции. Оно объясняется тем, что наблюдаемое значение складывается из истинного показателя и случайной ошибки; при повторном измерении ошибка меняется, а истинный показатель остаётся прежним.
Явление имеет важное практическое значение: оно может приводить к ложным выводам, если не учитывается. Например, если группа людей с самым низким результатом в первом тесте проходит курс тренировок, а затем показывает более высокие результаты, часть улучшения может быть связана именно с регрессией к среднему, а не с эффективностью курса. Аналогично, после исключительно высокого результата последующие измерения, как правило, оказываются ниже — даже без каких-либо изменений в условиях.
¶Регрессионный анализ
Регрессионный анализ — раздел математической статистики, изучающий зависимости между случайными величинами. Основная задача метода — построить математическую модель, описывающую зависимость одной переменной (зависимой) от одной или нескольких других (независимых), и оценить параметры этой модели по данным наблюдений.
Наиболее распространённая модель — линейная регрессия, в которой зависимость описывается уравнением прямой:
y = a + b·x + ε
где y — зависимая переменная, x — независимая, a и b — оцениваемые параметры (свободный член и коэффициент регрессии), ε — случайная ошибка. Параметры обычно оцениваются методом наименьших квадратов, минимизирующим сумму квадратов отклонений наблюдаемых значений от модельных.
¶Виды регрессионных моделей
| Тип модели | Описание |
|---|---|
| Линейная регрессия | Зависимость описывается линейной функцией параметров |
| Полиномиальная регрессия | Модель включает члены с переменной в разных степенях |
| Логистическая регрессия | Зависимая переменная — бинарный признак, модель описывает вероятность события |
| Множественная регрессия | Несколько независимых переменных |
| Нелинейная регрессия | Зависимость описывается нелинейной функцией параметров |
Качество модели оценивается с помощью коэффициента детерминации (R²), показывающего долю дисперсии зависимой переменной, объяснённую моделью, а также по остаткам модели.
¶Применение
Регрессионный анализ применяется в самых разных областях:
- Экономика и финансы — прогнозирование спроса, оценка влияния факторов на цены, моделирование доходности активов.
- Медицина — изучение связи между факторами риска и заболеваниями, оценка эффективности лечения.
- Психология и педагогика — анализ связи между психологическими характеристиками и поведением, оценка прогресса обучающихся.
- Инженерия — калибровка приборов, прогнозирование износа оборудования.
- Машинное обучение — регрессия является одной из базовых задач supervised learning, наряду с классификацией.
¶Регресс в других значениях
Вне статистики слово «регресс» употребляется в нескольких значениях:
- В психологии — регресс (психическая регрессия) — возврат к более ранним, примитивным формам поведения или психической деятельности под воздействием стресса, болезни или конфликтных ситуаций. Понятие используется в психоаналитической теории (Зигмунд Фрейд).
- В медицине — регрессия заболевания — уменьшение выраженности симптомов или размеров патологического очага, например регрессия опухоли.
- В юриспруденции — регресс (regressio) — право требования, которое кредитор предъявляет к третьему лицу, исполнившему обязательство вместо должника (например, регрессный иск страховщика к виновнику).
- В информатике — регрессия (software regression) — появление ошибок в программном обеспечении после внесения изменений в код, что является одной из основных задач регрессионного тестирования.
- В повседневной речи — «регресс» часто используется как синоним отката, деградации или возврата к худшему состоянию.
¶См. также
- Корреляция
- Метод наименьших квадратов
- Статистическая гипотеза
- Регрессионный анализ
¶Источники
- Гальтон Ф. «Наследственный гений» (1869)
- Савин Н. В. «Эконометрика»
- Гмурман В. Е. «Теория вероятностей и математическая статистика»
- Фрейд З. «Толкование сновидений»
- Медведев В. А. «Математическая статистика»
