Непараметрическая статистика

Непараметрическая статистика — это раздел математической статистики, методы которого не предполагают, что распределение генеральной совокупности, из которой извлечена выборка, принадлежит к какому-либо известному параметрическому семейству (например, нормальному, биномиальному, пуассоновскому). В отличие от параметрической статистики, где оценки и проверка гипотез основаны на параметрах распределения (среднее, дисперсия), непараметрические методы оперируют с порядковыми статистиками, рангами, знаками или частотами, что делает их менее чувствительными к выбросам и применимыми для данных, измеренных в порядковых или номинальных шкалах.

Основные принципы и отличия от параметрических методов

Ключевое различие между параметрической и непараметрической статистикой заключается в степени априорных предположений о данных. Параметрические методы (например, t-критерий Стьюдента, дисперсионный анализ ANOVA) требуют, чтобы выборка была взята из распределения, описываемого конечным числом параметров (обычно нормального). Нарушение этого условия, особенно при малых объёмах выборок, может привести к некорректным выводам.

Непараметрические методы свободны от этих ограничений. Они не требуют нормальности распределения, гомогенности дисперсий (равенства дисперсий в сравниваемых группах) или линейности связей. Вместо этого они используют порядок данных (ранги) или их категориальную принадлежность. Это делает их более устойчивыми к выбросам и применимыми к данным, которые не поддаются точному измерению (например, «высокий», «средний», «низкий» уровень удовлетворённости).

Однако платой за эту универсальность является снижение статистической мощности. При прочих равных условиях (объём выборки, величина эффекта) непараметрический критерий требует большего числа наблюдений для обнаружения статистически значимого эффекта, чем его параметрический аналог. Если данные строго соответствуют нормальному распределению, параметрический метод будет более чувствительным.

История развития

Истоки непараметрической статистики восходят к началу XX века. В 1914 году британский статистик Уильям Сили Госсет (известный под псевдонимом Стьюдент) заложил основы ранговых методов, хотя его работа не получила немедленного признания. Значительный прорыв произошёл в 1930-1940-х годах благодаря работам американского математика Фрэнка Уилкоксона. В 1945 году он опубликовал статью, в которой предложил два критерия: один для сравнения двух независимых выборок (критерий Уилкоксона-Манна-Уитни) и один для сравнения двух связанных выборок (критерий знаковых рангов Уилкоксона). Эти методы стали основой для многих последующих разработок.

В 1950-1960-х годах теория непараметрической статистики активно развивалась. Генри Шеффе, Эрих Леман и другие статистики разработали строгие математические основы для ранговых критериев, включая асимптотическую теорию. В 1970-1980-х годах, с ростом вычислительных мощностей, непараметрические методы стали широко применяться в прикладных областях, особенно в медицине, биологии и социальных науках, где данные часто не соответствуют нормальному распределению. В последние десятилетия развитие получили методы, основанные на перестановках (permutation tests) и бутстрепе (bootstrap), которые также относятся к непараметрическим подходам.

Классификация непараметрических методов

Непараметрические методы можно классифицировать по нескольким основаниям: по типу решаемой задачи, по типу данных и по используемому алгоритму.

По типу решаемой задачи

1. Критерии согласия: Проверяют, соответствует ли распределение выборки некоторому теоретическому распределению (например, критерий Колмогорова-Смирнова, критерий хи-квадрат Пирсона, критерий Андерсона-Дарлинга).
2. Критерии однородности: Проверяют, принадлежат ли две или более независимые выборки одному и тому же распределению (например, критерий Уилкоксона-Манна-Уитни, критерий Краскела-Уоллиса, критерий Ван дер Вардена).
3. Критерии для связанных выборок: Используются для сравнения измерений, выполненных на одних и тех же объектах в разных условиях (например, критерий знаков, критерий знаковых рангов Уилкоксона, критерий Фридмана).
4. Меры связи: Оценивают силу и направление связи между двумя переменными, не предполагая линейности (например, коэффициент ранговой корреляции Спирмена, коэффициент корреляции Кендалла, коэффициент конкордации Кендалла).
5. Методы регрессии: Используются для моделирования зависимостей без предположения о линейной форме (например, локально-взвешенное сглаживание LOESS, регрессия на основе ядерных оценок, регрессия методом опорных векторов с нелинейным ядром).

По типу данных

1. Методы для порядковых данных: Работают с рангами (например, критерий Уилкоксона, коэффициент Спирмена).
2. Методы для номинальных данных: Работают с частотами (например, критерий хи-квадрат, точный критерий Фишера).
3. Методы для интервальных данных: Могут применяться к данным, измеренным в интервальной шкале, но без предположения о нормальности (например, критерий Колмогорова-Смирнова).

По используемому алгоритму

1. Ранговые методы: Преобразуют исходные данные в ранги (порядковые номера) и затем анализируют эти ранги. Это наиболее распространённый класс.
2. Знаковые методы: Используют только знаки разностей между наблюдениями (например, критерий знаков).
3. Методы, основанные на перестановках: Вычисляют тестовую статистику для всех возможных перестановок исходных данных, что позволяет получить точное распределение статистики без асимптотических приближений.
4. Бутстреп-методы: Используют многократную выборку с возвращением из исходной выборки для оценки распределения выборочной статистики.
5. Ядерные методы: Используют ядерные функции для оценки плотности распределения или регрессионной зависимости.

Применение в различных областях

Непараметрические методы широко применяются в областях, где данные часто не соответствуют нормальному распределению:

• Медицина и здравоохранение: Анализ выживаемости (критерий Каплана-Мейера, лог-ранговый критерий), сравнение эффективности лекарств при малых выборках, анализ данных опросов пациентов (порядковые шкалы).
• Биология и экология: Анализ видового разнообразия, сравнение популяций по морфологическим признакам, оценка влияния факторов среды на распределение организмов.
• Социология и психология: Анализ данных опросов (шкалы Лайкерта), сравнение групп по уровню дохода или удовлетворённости, изучение корреляций между ранговыми переменными.
• Экономика и финансы: Анализ временных рядов с нестационарными распределениями, оценка рисков, сравнение доходности инвестиционных портфелей.
• Техника и инженерия: Анализ надёжности систем, контроль качества продукции, обработка сигналов с шумами, не подчиняющимися нормальному закону.

Примеры распространённых критериев

Критерий Уилкоксона-Манна-Уитни (U-критерий)

Используется для сравнения двух независимых выборок по уровню какого-либо признака, измеренного в количественной или порядковой шкале. Он является непараметрическим аналогом t-критерия Стьюдента для независимых выборок. Статистика критерия основана на подсчёте количества пар значений, в которых значение из первой выборки превышает значение из второй.

Критерий знаковых рангов Уилкоксона

Применяется для сравнения двух связанных (парных) выборок, например, измерений «до» и «после» воздействия на одних и тех же объектах. Он учитывает не только знак разности, но и её величину, ранжируя абсолютные значения разностей. Является непараметрическим аналогом парного t-критерия.

Критерий Краскела-Уоллиса

Является многомерным обобщением критерия Уилкоксона-Манна-Уитни и используется для сравнения трёх и более независимых выборок. Он является непараметрическим аналогом однофакторного дисперсионного анализа (ANOVA).

Коэффициент ранговой корреляции Спирмена

Оценивает силу и направление монотонной связи между двумя переменными. Он вычисляется на основе рангов наблюдений, а не их исходных значений. Принимает значения от -1 (строгая обратная монотонная связь) до +1 (строгая прямая монотонная связь).

Ограничения и критика

Несмотря на свою универсальность, непараметрические методы имеют ряд ограничений:

1. Потеря информации: Преобразование данных в ранги или знаки приводит к потере части информации о величине различий между наблюдениями. Это снижает статистическую мощность по сравнению с параметрическими методами при условии выполнения их предпосылок.
2. Сложность интерпретации: Результаты непараметрических тестов часто интерпретируются в терминах медиан или рангов, а не средних значений, что может быть менее интуитивно понятным для практиков.
3. Проблемы с многомерными данными: Многие классические непараметрические методы разработаны для одномерных данных. Для многомерного анализа требуются более сложные подходы (например, многомерные ранговые методы, ядерные методы).
4. Чувствительность к связкам (ties): При наличии большого количества одинаковых значений (связок) в данных некоторые ранговые критерии могут давать неточные результаты, требуя специальных поправок.
5. Асимптотическая природа: Многие непараметрические критерии основаны на асимптотической теории (при больших объёмах выборок). При малых выборках их точное распределение может отличаться от асимптотического, хотя существуют таблицы точных распределений для малых n.

Источники

1. Холлендер М., Вулф Д. Непараметрические методы статистики. — М.: Финансы и статистика, 1983.
2. Кобзарь А. И. Прикладная математическая статистика. Для инженеров и научных работников. — М.: Физматлит, 2006.
3. Леман Э. Проверка статистических гипотез. — М.: Наука, 1979.
4. Орлов А. И. Непараметрические методы статистики: учебное пособие. — М.: МГТУ им. Н.Э. Баумана, 2014.
5. Siegel S., Castellan N. J. Nonparametric Statistics for the Behavioral Sciences. — 2nd ed. — McGraw-Hill, 1988.