Квантование

Квантование — это процесс преобразования непрерывной величины (аналогового сигнала) в дискретную (цифровой код) путём разбиения диапазона её возможных значений на конечное число уровней и последующего округления каждого отсчёта до ближайшего уровня. Квантование является фундаментальной операцией в цифровой обработке сигналов, наряду с дискретизацией (дискретизацией по времени), и лежит в основе работы аналого-цифровых преобразователей (АЦП), систем цифровой связи, сжатия аудио, видео и изображений.

История

Первые теоретические основы квантования были заложены в середине XX века. В 1948 году Клод Шеннон в своей работе «Математическая теория связи» сформулировал теорему отсчётов (теорему Котельникова — Шеннона), которая определила условия дискретизации аналоговых сигналов без потерь. Однако квантование по уровню оставалось источником неустранимых искажений.

В 1950-х годах началось развитие теории оптимального квантования. В 1960 году Джоэл Макс (Joel Max) опубликовал работу, в которой предложил алгоритм построения оптимального квантователя, минимизирующего среднюю мощность шума квантования для заданного числа уровней. Этот алгоритм получил название «квантователь Макса» (или алгоритм Ллойда — Макса).

С развитием цифровой электроники в 1970—1980-х годах квантование стало повсеместно применяться в аудиотехнике (компакт-диски, цифровые магнитофоны), затем в видеотехнике (стандарты JPEG, MPEG) и телекоммуникациях (цифровая телефония, ISDN). Современные системы квантования используют адаптивные алгоритмы, позволяющие динамически изменять шаг квантования в зависимости от характеристик сигнала.

Основные понятия и определения

Квантование включает несколько ключевых параметров:

• Разрядность (битность) квантования — число бит, используемых для представления одного отсчёта. Определяет количество уровней квантования \( N = 2^b \), где \( b \) — разрядность. Например, 8-битное квантование даёт 256 уровней, 16-битное — 65536 уровней.
• Шаг квантования — разность между соседними уровнями квантования. При равномерном квантовании шаг постоянен: \( \Delta = (V_{\text{max}} - V_{\text{min}}) / N \), где \( V_{\text{max}} \) и \( V_{\text{min}} \) — границы диапазона.
• Динамический диапазон — отношение максимального уровня сигнала к минимальному различному уровню (шуму квантования). Выражается в децибелах (дБ). Для равномерного квантования динамический диапазон приблизительно равен \( 6.02b + 1.76 \) дБ.
• Шум квантования — ошибка, возникающая из-за округления истинного значения сигнала до ближайшего уровня. Представляет собой случайный процесс с равномерным распределением в пределах шага квантования. Среднеквадратическое значение шума квантования для равномерного квантователя равно \( \Delta / \sqrt{12} \).

Виды квантования

Квантование классифицируется по нескольким признакам.

По характеру распределения уровней

• Равномерное (линейное) квантование — уровни расположены на равном расстоянии друг от друга. Просто реализуется, но неэффективно для сигналов с неравномерным распределением амплитуд (например, речь, музыка). Шум квантования одинаков для всех уровней.
• Неравномерное (нелинейное) квантование — шаг квантования изменяется в зависимости от амплитуды сигнала. Обычно шаг мал для слабых сигналов и велик для сильных. Это позволяет улучшить отношение сигнал/шум для слабых сигналов за счёт увеличения шума на сильных. Применяется в цифровой телефонии (законы A-law и μ-law).
• Оптимальное квантование — уровни и пороги выбираются так, чтобы минимизировать среднюю мощность шума квантования для заданного распределения вероятностей входного сигнала. Реализуется с помощью алгоритма Ллойда — Макса.

По способу обработки отсчётов

• Скалярное квантование — каждый отсчёт сигнала квантуется независимо от других. Наиболее распространённый тип.
• Векторное квантование — группа отсчётов (вектор) квантуется как единое целое. Позволяет достичь более высокой степени сжатия, но требует больших вычислительных затрат. Используется в кодеках речи (CELP), сжатии изображений (JPEG 2000) и видео (MPEG-4).

По адаптивности

• Фиксированное квантование — параметры (шаг, число уровней) заданы заранее и не меняются.
• Адаптивное квантование — параметры изменяются в соответствии со статистическими свойствами сигнала (например, уровень громкости, дисперсия). Позволяет уменьшить шум квантования при сохранении разрядности.

Математическое описание

Процесс квантования можно представить как отображение непрерывной величины \( x \) в дискретную \( y \) по правилу:

\[ y = Q(x) = \text{round}\left( \frac{x}{\Delta} \right) \cdot \Delta \]

где \( \text{round} \) — операция округления до ближайшего целого, \( \Delta \) — шаг квантования.

Ошибка квантования \( e = y - x \) лежит в пределах \( [-\Delta/2, \Delta/2] \). Для равномерного квантования спектр шума квантования равномерен в полосе частот сигнала, что позволяет моделировать его как аддитивный белый шум.

Применение

Квантование является неотъемлемой частью множества технологий.

Аналого-цифровое преобразование

Любой АЦП выполняет дискретизацию по времени и квантование по уровню. Разрядность АЦП определяет точность измерения. Например, в измерительной технике применяются 12—24-битные АЦП, в аудиоинтерфейсах — 16—24 бита, в видеозахвате — 8—14 бит на канал.

Цифровая обработка сигналов

В цифровых фильтрах, спектральных анализаторах, системах управления квантование влияет на точность вычислений. Ошибки квантования могут приводить к нелинейным искажениям, появлению ложных частот (алиасинг) и ухудшению устойчивости систем.

Сжатие данных

Квантование является основным источником потерь при сжатии с потерями. В стандартах JPEG, MP3, AAC, MPEG-4 квантование применяется к коэффициентам преобразования (дискретного косинусного преобразования, вейвлет-преобразования). Путём выбора шага квантования регулируется степень сжатия и качество восстановления.

Цифровая связь

В цифровых системах передачи речи (IP-телефония, мобильная связь) квантование выполняется по нелинейным законам (A-law в Европе, μ-law в США и Японии) для обеспечения равномерного качества при различных уровнях громкости.

Обработка изображений и видео

Квантование цветовых компонент (RGB, YCbCr) и коэффициентов преобразования определяет визуальное качество. В современных кодеках (H.264, H.265, AV1) используются адаптивные матрицы квантования, учитывающие чувствительность человеческого зрения к разным частотам.

Критика и ограничения

Основным недостатком квантования является неустранимая потеря информации. Даже при высокой разрядности часть деталей сигнала теряется. При низкой разрядности (например, 1 бит) сигнал превращается в последовательность прямоугольных импульсов, что приводит к сильным нелинейным искажениям.

Квантование также может вызывать специфические артефакты:

• Шум квантования — слышимый или видимый шум, особенно на тихих участках аудио или в гладких областях изображения.
• Тональные искажения — при квантовании периодических сигналов с малой амплитудой шум квантования может быть коррелирован с сигналом, что приводит к появлению гармоник.
• Блокинг-артефакты — в сжатых изображениях и видео при сильном квантовании становятся заметны границы между блоками (например, в JPEG).

Для смягчения этих эффектов применяются методы:

• Дизеринг — добавление псевдослучайного шума малой амплитуды перед квантованием, что декоррелирует шум квантования и делает его более равномерным.
• Нойс-шейпинг — формирование спектра шума квантования так, чтобы он был сосредоточен в частотных областях, менее заметных для слуха или зрения.
• Адаптивное квантование — изменение шага квантования в зависимости от локальных свойств сигнала.

См. также

• Дискретизация
• Аналого-цифровой преобразователь
• Шум квантования
• Дизеринг
• Сжатие с потерями

Источники

• Шеннон К. Математическая теория связи. — 1948.
• Макс Дж. Квантование для минимального искажения. — IRE Transactions on Information Theory, 1960.
• Оппенгейм А., Шафер Р. Цифровая обработка сигналов. — М.: Техносфера, 2006.
• Гольдберг В. Цифровая обработка сигналов: учебное пособие. — М.: Радио и связь, 1990.
• Стандарты ITU-T G.711 (A-law/μ-law квантование), JPEG (ISO/IEC 10918), MPEG (ISO/IEC 11172).