Среднеквадратичная ошибка

Среднеквадратичная ошибка (СКО, англ. Mean Squared Error, MSE) — это мера, используемая для оценки качества прогнозной модели, показывающая средний квадрат разности между фактическими значениями наблюдаемой величины и значениями, предсказанными моделью. Является одной из наиболее распространённых функций потерь в задачах регрессии, статистического оценивания и машинного обучения. Чем меньше значение СКО, тем ближе предсказания модели к реальным данным.

Определение и математическая формулировка

Пусть имеется выборка из \( n \) наблюдений, где \( y_i \) — истинное (фактическое) значение зависимой переменной для \( i \)-го объекта, а \( \hat{y}_i \) — предсказанное значение, полученное с помощью модели. Тогда среднеквадратичная ошибка вычисляется по формуле:

\[ \text{MSE} = \frac{1}{n} \sum_{i=1}^{n} (y_i - \hat{y}_i)^2 \]

В статистическом контексте, если \( \hat{y}_i \) является несмещённой оценкой математического ожидания \( y_i \), то MSE равна дисперсии ошибки оценки. В более общем случае MSE раскладывается на сумму дисперсии оценки и квадрата её смещения (bias-variance decomposition).

Свойства

Неотрицательность

MSE всегда принимает неотрицательные значения. Нулевое значение достигается только при идеальном совпадении всех предсказаний с истинными значениями.

Размерность

Поскольку ошибки возводятся в квадрат, MSE имеет размерность квадрата единицы измерения исходной переменной. Например, если \( y \) измеряется в метрах, MSE выражается в квадратных метрах. Это затрудняет интерпретацию MSE на практике, поэтому часто используют корень из MSE — среднеквадратичное отклонение ошибки (RMSE, Root Mean Squared Error), имеющее ту же размерность, что и исходные данные.

Чувствительность к выбросам

Из-за возведения разностей в квадрат MSE придаёт disproportionately большой вес крупным ошибкам. Одно наблюдение с аномально большим отклонением может существенно увеличить значение MSE, что делает эту метрику чувствительной к выбросам в данных.

Выпуклость

Как функция от параметров модели (например, весов линейной регрессии), MSE является выпуклой функцией. Это свойство обеспечивает наличие единственного глобального минимума и делает возможным применение градиентных методов оптимизации для нахождения оптимальных параметров.

Применение

Регрессионный анализ

В классической линейной регрессии MSE используется как критерий для оценки параметров модели методом наименьших квадратов (МНК). Минимизация MSE приводит к оценкам, которые при выполнении определённых предпосылок (гомоскедастичность, отсутствие автокорреляции ошибок) являются наилучшими линейными несмещёнными оценками (BLUE).

Машинное обучение

В задачах регрессии MSE является стандартной функцией потерь для обучения моделей, таких как линейная регрессия, нейронные сети, градиентный бустинг и случайный лес. При обучении нейронных сетей MSE часто используется в качестве целевой функции для обратного распространения ошибки.

Оценка точности прогнозов

MSE применяется для сравнения различных моделей на тестовой выборке. Модель с меньшим MSE считается более точной, однако при выборе модели необходимо учитывать также её сложность и склонность к переобучению.

Обработка сигналов и изображений

В задачах восстановления сигналов, сжатия изображений и фильтрации MSE используется как метрика искажения, показывающая, насколько восстановленный сигнал отличается от исходного.

Связь с другими метриками

Среднеквадратичное отклонение ошибки (RMSE)

\[ \text{RMSE} = \sqrt{\text{MSE}} \] Имеет ту же размерность, что и исходные данные, что упрощает интерпретацию.

Средняя абсолютная ошибка (MAE)

\[ \text{MAE} = \frac{1}{n} \sum_{i=1}^{n} |y_i - \hat{y}_i| \] В отличие от MSE, MAE не возводит ошибки в квадрат, поэтому менее чувствительна к выбросам. Выбор между MSE и MAE зависит от конкретной задачи: если крупные ошибки недопустимы, предпочтительнее MSE; если важна робастность к выбросам — MAE.

Коэффициент детерминации (\( R^2 \))

\[ R^2 = 1 - \frac{\text{MSE}}{\text{Var}(y)} \] где \( \text{Var}(y) \) — дисперсия истинных значений. \( R^2 \) показывает долю дисперсии зависимой переменной, объяснённую моделью, и является нормированной версией MSE.

Критика и ограничения

1. Чувствительность к масштабу. MSE не является нормированной метрикой, поэтому её значения нельзя напрямую сравнивать для разных наборов данных или переменных с разными единицами измерения.
2. Неинтерпретируемость в исходных единицах. Как уже отмечалось, квадратичная размерность затрудняет практическое понимание величины ошибки.
3. Асимметричность по отношению к выбросам. В задачах, где выбросы являются закономерной частью данных (например, в финансах), MSE может давать искажённую оценку качества модели.
4. Не учитывает структуру ошибок. MSE суммирует все ошибки одинаково, не различая систематические и случайные составляющие.

Интересные факты

• В теории статистического оценивания MSE является одним из ключевых критериев для сравнения несмещённых и смещённых оценок. Смещённая оценка может иметь меньшую MSE, чем несмещённая, если её дисперсия значительно ниже (например, в гребневой регрессии).
• В задачах машинного обучения MSE часто используется не только как метрика, но и как функция потерь при обучении, однако для классификации она неприменима — там используются кросс-энтропия и другие метрики.
• В российской научно-технической литературе термин «среднеквадратичная ошибка» может также обозначать среднее квадратическое отклонение оценки (стандартную ошибку), что иногда приводит к путанице. В англоязычной литературе для этих понятий используются разные термины: MSE (Mean Squared Error) и SE (Standard Error).

Источники

1. Hastie, T., Tibshirani, R., Friedman, J. (2009). The Elements of Statistical Learning: Data Mining, Inference, and Prediction. Springer.
2. Bishop, C. M. (2006). Pattern Recognition and Machine Learning. Springer.
3. Montgomery, D. C., Peck, E. A., Vining, G. G. (2012). Introduction to Linear Regression Analysis. Wiley.
4. James, G., Witten, D., Hastie, T., Tibshirani, R. (2013). An Introduction to Statistical Learning: with Applications in R. Springer.
5. Айвазян, С. А., Мхитарян, В. С. (2001). Прикладная статистика и основы эконометрики. ЮНИТИ.