Гистограмма как способ представления данных¶
Гистограмма — способ графического представления количественных данных, при котором диапазон значений признака разбивается на интервалы, а частота или относительная частота попадания в каждый интервал изображается прямоугольником, высота которого пропорциональна этой частоте. Гистограмма применяется в статистике, эконометрике, обработке сигналов и изображений, инженерных расчётах и анализе данных для наглядной оценки формы распределения, плотности вероятности и структуры совокупности.
¶Основные понятия
Гистограмма строится по выборке или генеральной совокупности числовых значений. Процедура включает несколько шагов:
- определение диапазона значений — от минимального до максимального наблюдения;
- разбиение диапазона на k непересекающихся интервалов (бинов, корзин) обычно равной ширины;
- подсчёт числа наблюдений, попавших в каждый интервал (абсолютные частоты);
- построение прямоугольников, основания которых равны ширине интервала, а высота — частоте или плотности частоты.
Если высота прямоугольника равна абсолютной частоте, площадь фигуры зависит от ширины бина. Если высота равна плотности (частота, делённая на ширину интервала), суммарная площадь всех прямоугольников равна единице, что позволяет сопоставлять гистограммы с разным числом интервалов и накладывать на них теоретические кривые плотности распределения.
¶Отличие от столбчатой диаграммы
Гистограмму часто путают со столбчатой диаграммой, однако между ними есть принципиальное различие. Столбчатая диаграмма изображает значения категориального признака, и порядок столбцов может быть произвольным. Гистограмма же строится для непрерывного количественного признака, интервалы идут последовательно вдоль числовой оси и примыкают друг к другу без промежутков. Именно непрерывность оси абсцисс и соприкасающиеся прямоугольники являются отличительным признаком гистограммы.
¶Выбор числа интервалов
Число бинов существенно влияет на вид гистограммы. При слишком малом их числе картина огрубляется и теряются детали; при слишком большом — проявляются случайные колебания выборки, и форма распределения становится трудноразличимой. На практике используют несколько эмпирических правил:
- правило Стёрджеса: k ≈ 1 + log₂ n, где n — объём выборки;
- правило Райса: k ≈ 2·n^(1/3);
- правило квадратного корня: k ≈ √n.
Ширину интервала можно оценивать также по формуле Фридмана — Дьякониса, учитывающей межквартильный размах и объём выборки. Современные программные пакеты нередко применяют автоматический подбор числа бинов.
¶Виды гистограмм
Различают несколько модификаций:
- обычная (частотная) гистограмма — по абсолютным или относительным частотам;
- гистограмма плотности — с нормировкой на ширину интервала;
- кумулятивная гистограмма — накопленные частоты, аналог эмпирической функции распределения;
- двумерная гистограмма — прямоугольная сетка на плоскости, где цвет или высота столбика отражает число точек в ячейке;
- взвешенная гистограмма — каждому наблюдению приписывается вес.
В обработке изображений двумерная гистограмма яркости и цвета служит основой для методов выравнивания контраста и цветокоррекции.
¶Применение
Гистограмма — один из базовых инструментов разведочного анализа данных. Она позволяет:
- оценить симметричность и форму распределения, наличие мод, скошенности, «тяжёлых хвостов»;
- выявить выбросы и аномальные значения;
- сравнить несколько выборок между собой;
- подобрать теоретическое распределение для дальнейшего моделирования;
- контролировать качество производственных процессов в рамках статистического управления.
В метрологии и контроле качества гистограммы используют совместно с контрольными картами. В финансах и страховании они помогают анализировать распределение доходностей и убытков. В машинном обучении гистограммы применяются при конструировании признаков и в алгоритмах градиентного бустинга, где признаки дискретизируются по бинам.
¶История
Термин и метод связывают с работами Карла Пирсона начала 1890-х годов, который ввёл понятие гистограммы при изучении асимметричных распределений и предложил использовать её для графической оценки плотности вероятности. В дальнейшем метод развивался вместе с математической статистикой: уточнялись правила выбора ширины интервалов, изучались статистические свойства гистограммных оценок плотности, их сходимость к истинной плотности при росте объёма выборки. В XX веке гистограмма стала стандартным элементом статистических пакетов и систем визуализации данных.
¶Инструменты построения
Гистограммы строятся в электронных таблицах, статистических пакетах и языках программирования. В среде R используется функция hist(), в Python — matplotlib.pyplot.hist() и numpy.histogram(), в статистических пакетах — специализированные процедуры. Многие системы бизнес-аналитики включают гистограмму в набор стандартных визуализаций.
¶Ограничения
Гистограмма чувствительна к выбору числа и границ интервалов: одна и та же выборка при разных параметрах разбиения может выглядеть по-разному. Она не показывает отдельные наблюдения и плохо подходит для малых выборок. Для более гладких оценок плотности применяют ядерное сглаживание, а для точного сравнения распределений — квантиль-квантильные графики и критерии согласия.
¶Источники
- Математическая энциклопедия
- Теория вероятностей и математическая статистика, учебные издания
- Документация библиотек matplotlib, numpy, R
- Работы К. Пирсона по статистике
- Материалы по разведочному анализу данных