Авторегрессионная модель¶

Авторегрессионная модель (AR-модель, от англ. autoregressive model) — это статистическая модель временных рядов, в которой текущее значение переменной линейно зависит от её предыдущих значений (лагов) и случайной ошибки. Авторегрессионные модели широко применяются в эконометрике, анализе сигналов, прогнозировании финансовых и экономических показателей, а также в задачах машинного обучения.

¶Определение и математическая формулировка

Авторегрессионная модель порядка \( p \) (обозначается как AR(\( p \))) описывается уравнением:

\[ y_t = c + \phi_1 y_{t-1} + \phi_2 y_{t-2} + \dots + \phi_p y_{t-p} + \varepsilon_t, \]

где:

• \( y_t \) — значение временного ряда в момент времени \( t \);
• \( c \) — константа (свободный член);
• \( \phi_1, \phi_2, \dots, \phi_p \) — коэффициенты модели (параметры авторегрессии);
• \( y_{t-1}, y_{t-2}, \dots, y_{t-p} \) — значения ряда в предыдущие моменты времени (лаги);
• \( \varepsilon_t \) — белый шум (случайная ошибка), обычно предполагается, что \( \varepsilon_t \) имеет нулевое математическое ожидание и постоянную дисперсию.

Модель AR(1) — простейший случай: \( y_t = c + \phi_1 y_{t-1} + \varepsilon_t \). Модель AR(2) включает два предыдущих значения: \( y_t = c + \phi_1 y_{t-1} + \phi_2 y_{t-2} + \varepsilon_t \).

¶История

Идея авторегрессии восходит к работам британского статистика Джорджа Удни Юла (1927), который предложил использовать линейные модели для анализа временных рядов солнечных пятен. В 1930-х годах российский математик Евгений Слуцкий и норвежский экономист Рагнар Фриш развили концепцию, связывая случайные колебания с автокорреляцией. В 1970-х годах Джордж Бокс и Гвилим Дженкинс систематизировали методы построения, оценки и диагностики авторегрессионных моделей в рамках методологии ARIMA (авторегрессионное интегрированное скользящее среднее). С развитием вычислительной техники AR-модели стали широко применяться в эконометрике, метеорологии, обработке сигналов и других областях.

¶Свойства и стационарность

Для корректного применения авторегрессионной модели требуется, чтобы временной ряд был стационарным — то есть его статистические свойства (среднее, дисперсия, автоковариация) не зависят от времени. Для AR(\( p \))-модели стационарность обеспечивается, если все корни характеристического уравнения:

\[ 1 - \phi_1 z - \phi_2 z^2 - \dots - \phi_p z^p = 0 \]

лежат за пределами единичного круга на комплексной плоскости (по модулю больше единицы). Для AR(1) это условие эквивалентно \( |\phi_1| < 1 \). Если условие не выполняется, ряд может быть нестационарным (например, содержать тренд или взрывной рост), и требуется предварительное дифференцирование.

¶Оценка параметров

Параметры \( \phi_1, \phi_2, \dots, \phi_p \) и \( c \) обычно оцениваются методом наименьших квадратов (МНК) или методом максимального правдоподобия. Для МНК строится регрессия \( y_t \) на \( y_{t-1}, y_{t-2}, \dots, y_{t-p} \) с использованием доступных наблюдений. Оценки состоятельны и асимптотически нормальны при выполнении условий стационарности и отсутствия автокорреляции ошибок. Для выбора порядка \( p \) применяются информационные критерии (Акаике — AIC, Байесовский — BIC) или анализ частной автокорреляционной функции (PACF), которая для AR(\( p \)) обнуляется после лага \( p \).

¶Диагностика и проверка адекватности

После оценки модели проверяют:

• Автокорреляцию остатков: тест Дарбина-Уотсона или тест Льюнга-Бокса (Q-статистика). Отсутствие автокорреляции остатков свидетельствует о том, что модель адекватно описывает динамику.
• Нормальность остатков: тест Шапиро-Уилка или графический анализ (гистограмма, Q-Q plot).
• Стационарность остатков: визуально или с помощью теста Дики-Фуллера.

Если остатки не удовлетворяют допущениям, модель может быть расширена (например, добавлением скользящего среднего — ARMA) или изменена структура лагов.

¶Разновидности и расширения

• ARMA (авторегрессионное скользящее среднее) — объединяет AR и MA-компоненты.
• ARIMA (авторегрессионное интегрированное скользящее среднее) — включает дифференцирование для приведения ряда к стационарности.
• VAR (векторная авторегрессия) — многомерное обобщение для нескольких временных рядов.
• SARIMA (сезонная ARIMA) — учитывает сезонные компоненты.
• Нелинейные авторегрессионные модели (например, TAR — пороговая авторегрессия, STAR — гладкая пороговая авторегрессия) — допускают изменение коэффициентов в зависимости от состояния ряда.

¶Применение

Авторегрессионные модели используются в:

• Экономике и финансах: прогнозирование ВВП, инфляции, курсов валют, цен акций.
• Метеорологии: моделирование температуры, осадков, уровня воды.
• Обработке сигналов: анализ речи, сейсмических данных, биомедицинских сигналов (ЭЭГ, ЭКГ).
• Машинном обучении: как базовая модель для временных рядов, в том числе в комбинации с нейронными сетями (например, NARX — нелинейная авторегрессия с внешними входами).

¶Пример

Рассмотрим модель AR(1): \( y_t = 0.5 + 0.8 y_{t-1} + \varepsilon_t \), где \( \varepsilon_t \sim N(0, 1) \). Если начальное значение \( y_0 = 10 \), то:

• \( y_1 = 0.5 + 0.8 \cdot 10 + \varepsilon_1 \approx 8.5 + \varepsilon_1 \);
• \( y_2 = 0.5 + 0.8 \cdot y_1 + \varepsilon_2 \).

При \( |\phi_1| = 0.8 < 1 \) ряд стационарен, и его среднее значение стремится к \( \frac{c}{1 - \phi_1} = \frac{0.5}{0.2} = 2.5 \).

¶Критика и ограничения

• Линейность: AR-модели предполагают линейную зависимость, что не всегда адекватно для реальных данных (например, финансовых временных рядов с нелинейными эффектами).
• Стационарность: требуется предварительное преобразование ряда (дифференцирование, логарифмирование), что может усложнить интерпретацию.
• Выбор порядка: неправильный выбор \( p \) ведёт к смещению или избыточной сложности.
• Чувствительность к выбросам: оценки МНК неустойчивы к аномальным наблюдениям.

¶Источники

1. Бокс Дж., Дженкинс Г. Анализ временных рядов. Прогноз и управление. — М.: Мир, 1974.
2. Hamilton J. D. Time Series Analysis. — Princeton University Press, 1994.
3. Канторович Г. Г. Анализ временных рядов. — М.: Издательский дом ГУ-ВШЭ, 2002.
4. Chatfield C. The Analysis of Time Series: An Introduction. — 6th ed. — CRC Press, 2004.