Теорема Котельникова

Теорема Котельникова (также известная как теорема Найквиста — Шеннона, или теорема отсчётов) — фундаментальное положение теории информации и цифровой обработки сигналов, устанавливающее условие, при котором непрерывный (аналоговый) сигнал может быть точно восстановлен по его дискретным отсчётам (выборкам). Теорема гласит: если аналоговый сигнал имеет ограниченный спектр (то есть не содержит частот выше некоторой максимальной частоты \( F_{\text{max}} \)), то он может быть однозначно восстановлен по своим отсчётам, взятым с частотой дискретизации \( F_d \), удовлетворяющей неравенству \( F_d \geq 2F_{\text{max}} \). Минимальная частота дискретизации, равная удвоенной максимальной частоте в спектре сигнала, называется частотой Найквиста.

История

Предпосылки и ранние работы

Вопрос о возможности представления непрерывных функций с помощью дискретных значений обсуждался в математике ещё в XIX веке. В 1840-х годах французский математик Огюстен Луи Коши исследовал интерполяцию функций. В 1915 году британский математик Эдмунд Тейлор Уиттекер опубликовал работу, в которой описал интерполяционную формулу, позволяющую восстановить функцию по её значениям в равноотстоящих точках, если функция ограничена по частоте. Эта формула позже стала известна как ряд Уиттекера — Шеннона.

Вклад Котельникова

В 1933 году советский учёный Владимир Александрович Котельников (1908—2005) в своей работе «О пропускной способности эфира и проволоки в электросвязи» строго сформулировал и доказал теорему о возможности точного восстановления непрерывного сигнала с ограниченным спектром по его дискретным отсчётам. Котельников, работавший в Московском энергетическом институте и Центральном научно-исследовательском институте связи, пришёл к этому результату, решая практические задачи передачи сигналов по каналам связи. Его работа была опубликована в 1933 году, а затем переиздана в 1946 году. В советской и российской научной традиции теорема носит его имя.

Зарубежные аналоги

Независимо от Котельникова, к аналогичным выводам пришли другие учёные. В 1928 году американский инженер Гарри Найквист опубликовал работу, в которой определил, что для передачи телеграфных сигналов без искажений частота дискретизации должна быть не менее удвоенной максимальной частоты сигнала. В 1949 году американский математик Клод Шеннон в своей работе «Связь при наличии шума» дал строгое математическое доказательство теоремы, используя теорию информации, и популяризировал её в западном мире. В англоязычной литературе теорема чаще всего называется теоремой Найквиста — Шеннона.

Формулировка

Математическая запись

Пусть \( x(t) \) — непрерывный сигнал, спектр которого ограничен частотой \( F_{\text{max}} \), то есть его преобразование Фурье \( X(f) = 0 \) для \( |f| > F_{\text{max}} \). Если частота дискретизации \( F_d = 1/T \), где \( T \) — интервал между отсчётами, удовлетворяет условию: \[ F_d \geq 2F_{\text{max}}, \] то исходный сигнал может быть точно восстановлен по его дискретным отсчётам \( x(nT) \) (где \( n \) — целое число) с помощью интерполяционной формулы: \[ x(t) = \sum_{n=-\infty}^{\infty} x(nT) \cdot \text{sinc}\left(\frac{\pi(t - nT)}{T}\right), \] где \( \text{sinc}(x) = \sin(x)/x \) — функция отсчётов (кардинальный синус).

Частота Найквиста

Величина \( F_N = F_d/2 \) называется частотой Найквиста. Она представляет собой максимальную частоту, которая может быть корректно представлена в дискретном сигнале при данной частоте дискретизации. Если сигнал содержит частоты выше \( F_N \), происходит наложение спектров (алиасинг).

Следствия и ограничения

Алиасинг (наложение спектров)

Если частота дискретизации меньше удвоенной максимальной частоты сигнала (\( F_d < 2F_{\text{max}} \)), высокочастотные компоненты сигнала «маскируются» под низкочастотные, что приводит к необратимым искажениям. Это явление называется алиасингом. Для его предотвращения перед дискретизацией применяют аналоговые фильтры нижних частот (антиалиасинговые фильтры), которые подавляют частоты выше \( F_N \).

Идеализация теоремы

Теорема Котельникова в своей классической формулировке предполагает:

• Сигнал строго ограничен по спектру (что невозможно в реальности, так как любой реальный сигнал имеет бесконечный спектр, хотя и с затухающей амплитудой).
• Бесконечное число отсчётов (на практике используется конечное окно).
• Идеальное восстановление с помощью бесконечного ряда sinc-функций (на практике применяются аппроксимирующие фильтры).

В реальных системах точное восстановление невозможно, но при соблюдении условия \( F_d > 2F_{\text{max}} \) (с запасом) и использовании качественных фильтров погрешность становится пренебрежимо малой.

Применение

Цифровая обработка сигналов

Теорема Котельникова является основой для всех систем цифровой обработки сигналов (ЦОС). Она позволяет преобразовывать аналоговые сигналы (звук, изображение, видео, данные с датчиков) в цифровую форму (АЦП) и обратно (ЦАП) без потери информации.

Аудиотехника

В звукозаписи и воспроизведении стандарт Audio CD использует частоту дискретизации 44,1 кГц, что более чем вдвое превышает максимальную частоту слышимого человеческим ухом диапазона (20 кГц). Это позволяет записывать и воспроизводить звук с высокой точностью.

Цифровая фотография и видео

В цифровых камерах и видеосистемах частота дискретизации пространственных координат (количество пикселей) должна быть не менее удвоенной пространственной частоты деталей изображения, чтобы избежать муара и других артефактов.

Телекоммуникации

В системах связи (цифровое телевидение, сотовая связь, интернет) теорема используется для сжатия и передачи сигналов. Например, в стандарте цифрового телевидения DVB-T частота дискретизации выбирается с учётом ширины полосы канала.

Медицина

В медицинской визуализации (компьютерная томография, МРТ, УЗИ) теорема применяется для реконструкции изображений по проекциям и дискретным данным.

Критика и обобщения

Теорема для сигналов с конечной энергией

Классическая теорема Котельникова справедлива для сигналов с конечной энергией и ограниченным спектром. Для сигналов с бесконечной энергией (например, стационарных случайных процессов) существуют обобщения, использующие спектральную плотность мощности.

Обобщение на многомерные сигналы

Теорема обобщается на двумерные (изображения) и многомерные сигналы. Для двумерного случая частота дискретизации должна быть не менее удвоенной максимальной пространственной частоты в каждом направлении.

Субдискретизация и сжатие

В некоторых приложениях (например, в сжатии изображений с потерями JPEG) используется субдискретизация, при которой условие теоремы нарушается, но потери информации минимизируются за счёт психофизических особенностей восприятия. Это не противоречит теореме, а является компромиссом между точностью и объёмом данных.

Интересные факты

• Владимир Котельников сформулировал свою теорему в 1933 году, когда ему было 25 лет. Впоследствии он стал академиком АН СССР и одним из основоположников советской радиофизики.
• В англоязычной литературе теорему часто называют «теоремой отсчётов» (sampling theorem), а в русской — «теоремой Котельникова».
• В 1999 году Международный союз электросвязи (ITU) признал вклад Котельникова, и теорема была официально названа «теоремой Котельникова» в документах ITU.
• На практике частота дискретизации выбирается с запасом (например, в 2,5—3 раза больше максимальной частоты), чтобы компенсировать неидеальность фильтров.

Источники

• Котельников В. А. «О пропускной способности эфира и проволоки в электросвязи» (1933).
• Шеннон К. «Связь при наличии шума» (1949).
• Найквист Г. «Определённые темы, касающиеся передачи телеграфных сигналов» (1928).
• Уиттекер Э. Т. «О функциях, представленных разложениями по интерполяционным формулам» (1915).
• Лэтэм А. В. «Цифровая обработка сигналов: теория и практика» (1989).
• Оппенгейм А. В., Шафер Р. В. «Цифровая обработка сигналов» (1975).