Однофакторный дисперсионный анализ

Однофакторный дисперсионный анализ (ANOVA, от англ. Analysis of Variance) — это статистический метод, предназначенный для сравнения средних значений трёх и более независимых групп (выборок) по одному количественному признаку. Он позволяет определить, существует ли статистически значимое различие между средними этих групп, обусловленное влиянием изучаемого фактора, а не случайными колебаниями данных. Метод был разработан английским статистиком Рональдом Фишером в 1920-х годах.

Основная идея и предпосылки

Однофакторный дисперсионный анализ основывается на разложении общей дисперсии (вариативности) зависимой переменной на две составляющие:

1. Межгрупповая дисперсия — вариация, обусловленная действием изучаемого фактора (различия между средними группами).
2. Внутригрупповая дисперсия — вариация, обусловленная случайными причинами (различия внутри каждой группы, не связанные с фактором).

Если влияние фактора существенно, то межгрупповая дисперсия будет значительно превышать внутригрупповую. Для проверки этого используется F-критерий Фишера, который представляет собой отношение межгрупповой дисперсии к внутригрупповой. Если рассчитанное значение F-статистики превышает критическое значение (при заданном уровне значимости, обычно α = 0,05), нулевая гипотеза о равенстве средних всех групп отвергается.

Для корректного применения однофакторного дисперсионного анализа необходимо выполнение трёх основных предпосылок:

• Нормальность распределения: зависимая переменная должна быть распределена нормально в каждой из сравниваемых групп (или приближаться к нормальному распределению при больших объёмах выборок).
• Гомогенность (однородность) дисперсий: дисперсии зависимой переменной во всех группах должны быть примерно равны (проверяется с помощью теста Левена или Бартлетта).
• Независимость наблюдений: данные в разных группах и внутри групп не должны быть связаны между собой (например, один и тот же испытуемый не может входить в две разные группы).

При нарушении предпосылок (особенно гомогенности дисперсий) могут применяться непараметрические аналоги, такие как критерий Краскела — Уоллиса.

Математическая модель

Пусть имеется \( k \) групп с объёмами \( n_1, n_2, ..., n_k \). Общее количество наблюдений \( N = \sum_{i=1}^{k} n_i \). Обозначим \( x_{ij} \) — \( j \)-е наблюдение в \( i \)-й группе.

Модель однофакторного дисперсионного анализа записывается как: \[ x_{ij} = \mu + \alpha_i + \varepsilon_{ij} \] где:

• \( \mu \) — общее среднее (генеральное среднее) всех наблюдений;
• \( \alpha_i \) — эффект \( i \)-го уровня фактора (отклонение среднего \( i \)-й группы от общего среднего, \( \alpha_i = \mu_i - \mu \));
• \( \varepsilon_{ij} \) — случайная ошибка (остаток), которая распределена нормально с нулевым средним и постоянной дисперсией \( \sigma^2 \).

Нулевая гипотеза (\( H_0 \)): \( \alpha_1 = \alpha_2 = ... = \alpha_k = 0 \), то есть \( \mu_1 = \mu_2 = ... = \mu_k \). Альтернативная гипотеза (\( H_1 \)): хотя бы одно \( \alpha_i \neq 0 \), то есть не все средние равны.

Разложение суммы квадратов

Общая сумма квадратов отклонений (\( SS_{tot} \)) разлагается на межгрупповую (\( SS_{between} \)) и внутригрупповую (\( SS_{within} \)):

\[ SS_{tot} = \sum_{i=1}^{k} \sum_{j=1}^{n_i} (x_{ij} - \bar{x})^2 \] \[ SS_{between} = \sum_{i=1}^{k} n_i (\bar{x}_i - \bar{x})^2 \] \[ SS_{within} = \sum_{i=1}^{k} \sum_{j=1}^{n_i} (x_{ij} - \bar{x}_i)^2 \] где \( \bar{x} \) — общее среднее, \( \bar{x}_i \) — среднее \( i \)-й группы.

F-критерий

Средние квадраты (дисперсии) рассчитываются как: \[ MS_{between} = \frac{SS_{between}}{k-1} \] \[ MS_{within} = \frac{SS_{within}}{N-k} \] где \( k-1 \) — число степеней свободы для межгрупповой дисперсии, \( N-k \) — для внутригрупповой.

F-статистика: \[ F = \frac{MS_{between}}{MS_{within}} \]

Если \( F > F_{крит}(k-1, N-k, \alpha) \), то нулевая гипотеза отвергается.

Этапы проведения

1. Формулировка гипотез: \( H_0: \mu_1 = \mu_2 = ... = \mu_k \), \( H_1 \): не все средние равны.
2. Проверка предпосылок: оценка нормальности распределения и гомогенности дисперсий.
3. Расчёт статистик: вычисление \( SS_{between} \), \( SS_{within} \), \( MS_{between} \), \( MS_{within} \), F-статистики.
4. Принятие решения: сравнение рассчитанного F-значения с критическим (из таблицы F-распределения) или оценка p-уровня значимости.
5. Интерпретация: если \( H_0 \) отвергается, делается вывод о наличии статистически значимого влияния фактора. Для выявления конкретных различающихся групп проводятся апостериорные (post-hoc) тесты.

Апостериорные тесты (Post-hoc)

Если однофакторный дисперсионный анализ показал статистическую значимость, необходимо определить, какие именно группы различаются между собой. Для этого применяются множественные сравнения (post-hoc тесты). Наиболее распространённые:

• Критерий Тьюки (Tukey's HSD): используется для попарного сравнения всех групп, контролирует семейную ошибку первого рода (FWER).
• Критерий Шеффе (Scheffé's method): более консервативный, позволяет проводить любые линейные контрасты, не только попарные.
• Критерий Бонферрони (Bonferroni correction): корректирует уровень значимости для каждого сравнения путём деления α на количество сравнений.
• Критерий Даннета (Dunnett's test): используется для сравнения всех групп с одной контрольной группой.

Пример применения

Рассмотрим исследование влияния удобрения на урожайность пшеницы. Изучается три типа удобрения (фактор A): «Азотное», «Фосфорное», «Комплексное». Урожайность (зависимая переменная) измеряется в центнерах с гектара на 10 делянках для каждого типа удобрения (всего 30 наблюдений).

1. Гипотезы: \( H_0 \): средняя урожайность одинакова для всех трёх типов удобрений. \( H_1 \): хотя бы один тип удобрения даёт другую среднюю урожайность.
2. Проверка предпосылок: проверяется нормальность распределения урожайности в каждой группе и равенство дисперсий (например, тестом Левена).
3. Расчёт: вычисляются средние урожайности для каждого удобрения, общее среднее, суммы квадратов и F-статистика.
4. Результат: предположим, получено \( F(2, 27) = 5.8, p = 0.008 \). Поскольку p < 0.05, нулевая гипотеза отвергается. Это означает, что тип удобрения статистически значимо влияет на урожайность.
5. Post-hoc: применяется критерий Тьюки. Результат показывает, что «Комплексное» удобрение даёт значимо более высокую урожайность, чем «Азотное» (p = 0.006), но различия между «Фосфорным» и «Азотным», а также между «Комплексным» и «Фосфорным» статистически не значимы (p > 0.05).

Ограничения и критика

• Нарушение предпосылок: при сильном нарушении нормальности или гомогенности дисперсий результаты F-теста могут быть ненадёжными, особенно при малых и неравных объёмах выборок.
• Неспособность выявить, какие именно группы различаются: ANOVA отвечает только на вопрос «есть ли различие вообще?», но не указывает, между какими группами. Для этого требуются дополнительные тесты.
• Чувствительность к выбросам: наличие выбросов может существенно исказить средние и дисперсии, что приведёт к неверным выводам.
• Ограничение на количество факторов: однофакторный анализ рассматривает только один фактор, что может быть недостаточным для сложных систем, где действуют несколько факторов и их взаимодействия. В таких случаях применяется многофакторный дисперсионный анализ (MANOVA).

Программная реализация

Однофакторный дисперсионный анализ реализован во всех основных статистических пакетах и языках программирования:

• R: функция aov() (из базового пакета stats) или Anova() из пакета car.
• Python: функция f_oneway() из модуля scipy.stats, а также ols() из библиотеки statsmodels для построения более сложных моделей.
• SPSS: меню Analyze -> Compare Means -> One-Way ANOVA.
• Excel: надстройка «Пакет анализа» (Analysis ToolPak), инструмент «Однофакторный дисперсионный анализ».
• MATLAB: функция anova1().

Источники

1. Фишер Р. А. Статистические методы для исследователей. — М.: Госстатиздат, 1958.
2. Гласс Дж., Стэнли Дж. Статистические методы в педагогике и психологии. — М.: Прогресс, 1976.
3. Кендалл М., Стьюарт А. Статистические выводы и связи. — М.: Наука, 1973.
4. Шеффе Г. Дисперсионный анализ. — М.: Физматгиз, 1963.
5. Montgomery D. C. Design and Analysis of Experiments. — 9th ed. — Wiley, 2017.