Теорема отсчётов

Теорема отсчётов (также известная как теорема Котельникова, теорема Найквиста — Шеннона, теорема отсчётов Уиттекера — Найквиста — Котельникова — Шеннона) — фундаментальное положение теории информации и цифровой обработки сигналов, устанавливающее условие, при котором непрерывный (аналоговый) сигнал может быть точно восстановлен по его дискретным отсчётам, взятым через равные промежутки времени. Теорема утверждает, что если сигнал имеет ограниченный спектр (то есть его частотный состав не превышает некоторой максимальной частоты \( F_{\text{max}} \)), то он может быть полностью восстановлен по своим отсчётам, взятым с частотой, не менее чем вдвое превышающей эту максимальную частоту (то есть с частотой дискретизации \( F_s \ge 2F_{\text{max}} \)).

История

Предпосылки и ранние работы

Идея дискретного представления непрерывных сигналов восходит к математическим работам XVIII—XIX веков. В 1798 году французский математик Жозеф Фурье разработал теорию разложения функций в тригонометрические ряды, что позволило анализировать сигналы в частотной области. В 1848 году английский математик Джеймс Джозеф Сильвестр впервые сформулировал принцип, согласно которому синусоидальная волна может быть восстановлена по двум отсчётам на период. Однако строгое математическое доказательство появилось лишь в XX веке.

Вклад Эдмунда Уиттекера

В 1915 году английский математик Эдмунд Тейлор Уиттекер опубликовал работу «О функциях, представляемых разложениями по интерполяционным формулам», в которой ввёл понятие «кардинальной функции» — ряда, позволяющего восстановить функцию по её значениям в равноотстоящих точках. Уиттекер показал, что если функция \( f(t) \) ограничена по частоте, то она может быть представлена в виде: \[ f(t) = \sum_{n=-\infty}^{\infty} f\left(\frac{n}{2W}\right) \cdot \text{sinc}\left(2Wt - n\right), \] где \( W \) — максимальная частота спектра. Это фактически явилось первой формулировкой теоремы отсчётов, хотя Уиттекер не связывал её с задачами передачи информации.

Работы Владимира Котельникова

В 1933 году советский учёный Владимир Александрович Котельников в своей докторской диссертации «О пропускной способности эфира и проволоки в электросвязи» независимо сформулировал и доказал теорему, которая впоследствии стала известна в СССР как «теорема Котельникова». Котельников строго обосновал, что для точной передачи непрерывного сигнала по каналу связи достаточно передавать его мгновенные значения (отсчёты), взятые с частотой, вдвое превышающей верхнюю частоту спектра сигнала. Его работа была опубликована в 1933 году, однако за пределами СССР оставалась малоизвестной до 1950-х годов.

Вклад Клода Шеннона и Гарри Найквиста

В 1928 году американский инженер Гарри Найквист в статье «Certain Topics in Telegraph Transmission Theory» определил, что для передачи телеграфных сигналов без искажений необходимо, чтобы частота дискретизации была не менее удвоенной максимальной частоты сигнала. Найквист, однако, не дал полного доказательства возможности восстановления сигнала. В 1949 году американский математик и инженер Клод Шеннон в своей работе «Communication in the Presence of Noise» опубликовал современную формулировку теоремы, связав её с задачами цифровой связи и кодирования. Шеннон использовал математический аппарат теории вероятностей и показал, что при выполнении условия Найквиста сигнал может быть восстановлен с помощью идеального фильтра нижних частот. Именно эта работа сделала теорему широко известной на Западе, где она получила название «теорема Найквиста — Шеннона» или «теорема отсчётов Шеннона».

Формулировка

Математическая формулировка

Пусть \( x(t) \) — непрерывный сигнал, спектр которого ограничен частотой \( F_{\text{max}} \) (то есть \( X(f) = 0 \) для \( |f| > F_{\text{max}} \)). Если частота дискретизации \( F_s \) удовлетворяет условию: \[ F_s \ge 2F_{\text{max}}, \] то сигнал \( x(t) \) может быть точно восстановлен по последовательности его отсчётов \( x[n] = x(nT_s) \), где \( T_s = 1/F_s \) — интервал дискретизации, по формуле: \[ x(t) = \sum_{n=-\infty}^{\infty} x[n] \cdot \text{sinc}\left(\frac{t - nT_s}{T_s}\right), \] где \( \text{sinc}(u) = \frac{\sin(\pi u)}{\pi u} \) — функция отсчётов (синус-кардинал).

Частота Найквиста

Величина \( F_N = 2F_{\text{max}} \) называется частотой Найквиста (или границей Найквиста). Частота дискретизации \( F_s \) должна быть строго больше \( F_N \) для сигналов с ненулевой энергией на границе спектра; для сигналов, спектр которых обрывается точно на \( F_{\text{max}} \), теоретически возможно восстановление при \( F_s = 2F_{\text{max}} \), но на практике из-за неидеальности фильтров требуется запас.

Классификация и виды

Одномерная теорема отсчётов

Применяется к сигналам, зависящим от одной переменной (например, времени). Это классическая формулировка, описанная выше.

Многомерная теорема отсчётов

Для сигналов, зависящих от нескольких переменных (например, изображений — двумерных сигналов), теорема обобщается: частота дискретизации по каждой координате должна быть не менее удвоенной максимальной пространственной частоты по этой координате. Для двумерного случая (изображения) условие записывается как \( F_{sx} \ge 2F_{x,\text{max}} \) и \( F_{sy} \ge 2F_{y,\text{max}} \).

Теорема отсчётов для полосовых сигналов

Для сигналов, спектр которых сосредоточен в полосе частот от \( f_1 \) до \( f_2 \) (то есть не содержит низких частот), теорема может быть модифицирована: частота дискретизации может быть меньше \( 2f_2 \), но должна удовлетворять условию отсутствия наложения спектров (алиасинга). В общем случае для полосового сигнала с шириной полосы \( B = f_2 - f_1 \) минимальная частота дискретизации равна \( 2B \), при условии, что \( f_2 \) кратно \( B \).

Устройство и характеристики

Условия применимости

Теорема отсчётов справедлива при следующих допущениях:

1. Сигнал имеет строго ограниченный спектр (финитный спектр).
2. Дискретизация производится с бесконечно малым временем взятия отсчёта (идеальные отсчёты).
3. Восстановление осуществляется с помощью идеального фильтра нижних частот с прямоугольной амплитудно-частотной характеристикой.

На практике эти условия невыполнимы, поэтому реальные системы дискретизации и восстановления вносят погрешности.

Алиасинг (наложение спектров)

Если частота дискретизации \( F_s \) меньше \( 2F_{\text{max}} \), происходит наложение спектров — высокочастотные компоненты сигнала «маскируются» под низкочастотные, что приводит к необратимым искажениям. Это явление называется алиасингом (от англ. aliasing). Для его предотвращения перед дискретизацией сигнал пропускают через аналоговый фильтр нижних частот (антиалиасинговый фильтр), который подавляет частоты выше \( F_s/2 \).

Практическая реализация

В реальных системах цифровой обработки сигналов (ЦОС) используются:

• Аналого-цифровые преобразователи (АЦП) с фиксированной частотой дискретизации.
• Цифровые фильтры для восстановления сигнала (например, интерполяционные фильтры).
• Запас по частоте (обычно \( F_s \) выбирается в 2,5–5 раз больше \( F_{\text{max}} \)) для компенсации неидеальности фильтров.

Применение

Цифровая обработка сигналов

Теорема отсчётов является основой для всех цифровых систем, работающих с аналоговыми сигналами: аудио, видео, радиосвязь, медицинская диагностика (ЭКГ, ЭЭГ), сейсмология, радарные системы. Без неё невозможна цифровая запись звука (форматы WAV, MP3, FLAC), цифровое телевидение, сотовая связь.

Аудиотехника

В аудиосистемах стандартная частота дискретизации компакт-дисков составляет 44,1 кГц, что более чем вдвое превышает верхнюю границу слышимого диапазона (20 кГц). Это обеспечивает точное восстановление звука в пределах человеческого слуха.

Видеотехника

В цифровом видео частота дискретизации по горизонтали и вертикали выбирается из условия Найквиста для пространственных частот. Например, стандарт 1080p (1920×1080 пикселей) обеспечивает разрешение, достаточное для передачи деталей, не превышающих половину частоты дискретизации.

Связь и телекоммуникации

В системах передачи данных (например, в модемах, цифровых радиорелейных линиях) теорема используется для преобразования аналоговых сигналов в цифровой поток. Она также лежит в основе методов импульсно-кодовой модуляции (ИКМ).

Примеры

Пример 1: Аудиосигнал

Синусоидальный сигнал с частотой 1 кГц. Для его точного восстановления требуется частота дискретизации не менее 2 кГц. При дискретизации с частотой 1,5 кГц (ниже 2 кГц) возникнет алиасинг — на выходе появится сигнал с частотой 0,5 кГц (разность между частотой дискретизации и частотой сигнала).

Пример 2: Изображение

Чёрно-белое изображение с максимальной пространственной частотой 10 линий на мм. Для его цифрового представления требуется частота дискретизации не менее 20 отсчётов на мм (то есть 20 пикселей на мм). При меньшем разрешении возникнут муаровые узоры и потеря деталей.

Критика и ограничения

Неидеальность реальных фильтров

Идеальный фильтр нижних частот (с прямоугольной АЧХ) физически нереализуем, так как требует бесконечной задержки и некаузальности. На практике используются фильтры с конечной крутизной спада, что вносит погрешности восстановления.

Сигналы с неограниченным спектром

Реальные сигналы (например, шумы, импульсные помехи) имеют бесконечный спектр, поэтому условие ограниченности спектра никогда не выполняется строго. Для таких сигналов теорема применима лишь приближённо, с использованием предварительной фильтрации.

Квантование

Теорема рассматривает только дискретизацию по времени, но не учитывает квантование по уровню (округление значений отсчётов до конечного числа бит). Квантование вносит дополнительную погрешность (шум квантования), которая не устраняется даже при точном выполнении условия Найквиста.

Источники

• Котельников В. А. «О пропускной способности эфира и проволоки в электросвязи». — М.: Связьиздат, 1933.
• Shannon C. E. «Communication in the Presence of Noise». — Proceedings of the IRE, 1949, vol. 37, no. 1, pp. 10–21.
• Nyquist H. «Certain Topics in Telegraph Transmission Theory». — Transactions of the American Institute of Electrical Engineers, 1928, vol. 47, pp. 617–644.
• Whittaker E. T. «On the Functions Which are Represented by the Expansions of the Interpolation Theory». — Proceedings of the Royal Society of Edinburgh, 1915, vol. 35, pp. 181–194.
• Oppenheim A. V., Schafer R. W. «Digital Signal Processing». — Prentice-Hall, 1975.
• Лайонс Р. «Цифровая обработка сигналов». — 2-е изд. — М.: Бином-Пресс, 2006.