Метод ARIMA

ARIMA (AutoRegressive Integrated Moving Average, авторегрессионная интегрированная скользящая средняя) — это класс статистических моделей, используемых для анализа и прогнозирования временных рядов. Модель описывает временной ряд через его собственную прошлую историю (авторегрессию), разности для устранения нестационарности (интегрирование) и скользящие средние ошибок прогноза. ARIMA является одной из наиболее распространённых и фундаментальных моделей в эконометрике, статистике и машинном обучении для задач прогнозирования.

История и развитие

Метод ARIMA был разработан в 1970-х годах британскими статистиками Джорджем Боксом и Гвилимом Дженкинсом. Их работа «Time Series Analysis: Forecasting and Control» (1970) заложила основы систематического подхода к идентификации, оценке и диагностике моделей временных рядов, который получил название методологии Бокса — Дженкинса. До этого прогнозирование временных рядов основывалось на более простых методах, таких как экспоненциальное сглаживание или линейные регрессионные модели.

В 1980-х годах модель была расширена для учёта сезонности (SARIMA — Seasonal ARIMA). Дальнейшее развитие привело к появлению вариантов, учитывающих внешние регрессоры (ARIMAX), нелинейные зависимости (например, ARCH/GARCH) и длинную память (ARFIMA). Несмотря на появление более сложных методов, таких как нейронные сети и градиентный бустинг, ARIMA остаётся популярным инструментом благодаря своей интерпретируемости, математической обоснованности и эффективности на коротких и средних горизонтах прогнозирования.

Теоретические основы

Модель ARIMA предполагает, что временной ряд является стационарным (или может быть приведён к стационарности) и что его будущие значения линейно зависят от прошлых значений и случайных ошибок. Формально модель ARIMA(p,d,q) описывается следующим образом:

\[ (1 - \sum_{i=1}^{p} \phi_i B^i) (1 - B)^d y_t = (1 + \sum_{j=1}^{q} \theta_j B^j) \varepsilon_t \]

где:

• \(y_t\) — значение временного ряда в момент времени \(t\);
• \(B\) — оператор сдвига назад (\(B y_t = y_{t-1}\));
• \(p\) — порядок авторегрессионной части (AR);
• \(d\) — порядок интегрирования (количество разностей, необходимых для приведения ряда к стационарности);
• \(q\) — порядок скользящей средней (MA);
• \(\phi_i\) — коэффициенты авторегрессии;
• \(\theta_j\) — коэффициенты скользящей средней;
• \(\varepsilon_t\) — белый шум (случайная ошибка с нулевым средним и постоянной дисперсией).

Компоненты модели

Авторегрессия (AR, p) — это часть модели, которая описывает зависимость текущего значения ряда от его предыдущих значений. Например, модель AR(1) имеет вид \(y_t = \phi_1 y_{t-1} + \varepsilon_t\). Параметр \(p\) определяет, сколько прошлых значений используется для прогноза.

Интегрирование (I, d) — это процедура взятия разностей для устранения тренда и сезонных колебаний, то есть для приведения нестационарного ряда к стационарному виду. Если ряд является стационарным изначально, то \(d = 0\) (модель ARMA). Если ряд имеет линейный тренд, то обычно достаточно одной разности (\(d = 1\)).

Скользящая средняя (MA, q) — это часть модели, которая описывает зависимость текущего значения от прошлых ошибок прогноза (шумов). Например, модель MA(1) имеет вид \(y_t = \varepsilon_t + \theta_1 \varepsilon_{t-1}\). Параметр \(q\) определяет, сколько прошлых ошибок учитывается.

Методология Бокса — Дженкинса

Процесс построения модели ARIMA по методологии Бокса — Дженкинса состоит из трёх основных этапов: идентификация, оценка и диагностика.

Идентификация

На этом этапе определяются порядки \(p\), \(d\) и \(q\) модели. Для этого используются:

• Визуальный анализ графика временного ряда — выявление тренда, сезонности, выбросов.
• Анализ автокорреляционной функции (ACF) — график корреляции между рядом и его лаговыми значениями. Для стационарного ряда ACF быстро затухает. Для MA(q) компоненты ACF имеет ненулевые значения только на первых \(q\) лагах.
• Анализ частной автокорреляционной функции (PACF) — график корреляции между рядом и его лаговыми значениями после устранения влияния промежуточных лагов. Для AR(p) компоненты PACF имеет ненулевые значения только на первых \(p\) лагах.
• Статистические тесты на стационарность — например, тест Дики — Фуллера (ADF) или тест Квятковского — Филлипса — Шмидта — Шина (KPSS). Если ряд нестационарен, его дифференцируют (\(d\) увеличивают) до достижения стационарности.

Оценка параметров

После выбора \(p\), \(d\) и \(q\) производится оценка коэффициентов \(\phi_i\) и \(\theta_j\). Наиболее распространённые методы:

• Метод максимального правдоподобия (MLE) — наиболее точный, но требующий вычислительных ресурсов.
• Метод наименьших квадратов (OLS) — применяется для AR-компонент, но менее точен для MA-компонент.
• Метод Юла — Уокера — используется для оценки AR-моделей.

Диагностика

После оценки модели проверяется её адекватность. Основные критерии:

• Анализ остатков — остатки (разница между фактическими и прогнозируемыми значениями) должны быть белым шумом (независимы, иметь нулевое среднее и постоянную дисперсию). Для проверки используются тест Льюнга — Бокса или тест Шапиро — Уилка.
• Информационные критерии — AIC (критерий Акаике) и BIC (байесовский информационный критерий). Чем меньше значение, тем лучше модель с учётом её сложности.
• Проверка на гетероскедастичность — например, тест ARCH.

Если модель не проходит диагностику, процесс возвращается к этапу идентификации для выбора других порядков \(p\), \(d\), \(q\).

Применение

Модели ARIMA широко применяются в различных областях, где требуется прогнозирование временных рядов:

• Экономика и финансы — прогнозирование ВВП, инфляции, курсов валют, цен на акции, объёмов продаж.
• Энергетика — прогнозирование потребления электроэнергии, нагрузки на сети, цен на энергоносители.
• Логистика и транспорт — прогнозирование пассажиропотока, грузооборота, загрузки складов.
• Метеорология — прогнозирование температуры, осадков, уровня воды в реках.
• Медицина — прогнозирование распространения заболеваний, нагрузки на больницы.

Ограничения и критика

Несмотря на широкое распространение, метод ARIMA имеет ряд ограничений:

• Линейность — модель предполагает линейную зависимость между прошлыми и будущими значениями. Для нелинейных процессов (например, с пороговыми эффектами) ARIMA может давать неудовлетворительные результаты.
• Стационарность — требуется приведение ряда к стационарности, что может быть затруднительно для рядов с множественными структурными сдвигами или долгосрочной памятью.
• Чувствительность к выбросам — модель может быть сильно искажена наличием единичных аномальных значений.
• Сложность выбора порядка — для рядов с высокой размерностью или сложной сезонностью идентификация \(p\), \(d\), \(q\) может быть трудоёмкой и требовать экспертного опыта.
• Отсутствие учёта внешних факторов — базовая модель ARIMA не учитывает влияние внешних регрессоров (например, рекламных кампаний, погодных условий, политических событий). Для этого используются расширения, такие как ARIMAX.

Интересные факты

• Модель ARIMA часто называют «моделью Бокса — Дженкинса» в честь её создателей.
• В 2011 году в журнале «International Journal of Forecasting» была опубликована статья, в которой утверждалось, что автоматизированные методы подбора ARIMA (например, алгоритм Hyndman-Khandakar) часто превосходят ручной подбор по точности прогнозов.
• ARIMA является частным случаем более общей модели ARMA (AutoRegressive Moving Average) для стационарных рядов.
• В России метод ARIMA активно используется в Центральном банке для прогнозирования макроэкономических показателей, а также в Росгидромете для долгосрочных метеопрогнозов.

Источники

1. Box, G. E. P., Jenkins, G. M., Reinsel, G. C., & Ljung, G. M. (2015). Time Series Analysis: Forecasting and Control (5th ed.). Wiley.
2. Hyndman, R. J., & Athanasopoulos, G. (2018). Forecasting: Principles and Practice (2nd ed.). OTexts.
3. Brockwell, P. J., & Davis, R. A. (2016). Introduction to Time Series and Forecasting (3rd ed.). Springer.
4. Shumway, R. H., & Stoffer, D. S. (2017). Time Series Analysis and Its Applications: With R Examples (4th ed.). Springer.