Теорема Котельникова — Найквиста — Шеннона

Теорема Котельникова — Найквиста — Шеннона (также известная как теорема отсчётов, теорема Найквиста — Шеннона или теорема Котельникова) — это фундаментальное положение теории информации и цифровой обработки сигналов, устанавливающее условие, при котором непрерывный (аналоговый) сигнал может быть точно восстановлен по его дискретным отсчётам, взятым через равные промежутки времени. Теорема утверждает, что если максимальная частота в спектре сигнала не превышает половины частоты дискретизации, то исходный сигнал может быть восстановлен без потерь. Эта теорема лежит в основе работы всех современных систем цифровой связи, аудио- и видеозаписи, а также цифровой обработки сигналов.

История

Предпосылки и ранние работы

Идея дискретизации сигналов восходит к работам математиков XVIII—XIX веков. В 1807 году Жан Батист Жозеф Фурье предложил разложение функций в тригонометрические ряды, что позже позволило анализировать сигналы в частотной области. В 1897 году Карл Вейерштрасс доказал теорему о приближении непрерывных функций многочленами, однако прямой связи с дискретизацией не было. В 1915 году Эдмунд Тейлор Уиттекер в работе «О функциях, заданных своими значениями в равноотстоящих точках» впервые сформулировал математическую основу для восстановления непрерывной функции по её отсчётам, используя интерполяционный ряд, который впоследствии стал известен как ряд Уиттекера — Шеннона.

Вклад Котельникова

В 1933 году советский учёный Владимир Александрович Котельников в своей кандидатской диссертации «О пропускной способности эфира и проволоки в электросвязи» независимо сформулировал теорему о возможности точного восстановления непрерывного сигнала с ограниченным спектром по его дискретным отсчётам. Котельников не только дал строгое математическое доказательство, но и указал на практическую значимость теоремы для радиосвязи и телефонии. Его работа была опубликована в 1933 году в журнале «Известия Академии наук СССР», однако в течение нескольких десятилетий оставалась малоизвестной за пределами СССР.

Вклад Найквиста и Шеннона

В 1928 году американский инженер Гарри Найквист в статье «Certain Topics in Telegraph Transmission Theory» исследовал условия передачи сигналов без искажений по телеграфным линиям и определил, что для избежания межсимвольной интерференции частота дискретизации должна быть не менее удвоенной максимальной частоты сигнала. Найквист не сформулировал теорему в полном объёме, но его работа заложила основу для понимания частоты Найквиста.

В 1949 году Клод Шеннон в статье «Communication in the Presence of Noise» обобщил и популяризировал теорему, связав её с теорией информации. Шеннон привёл строгое доказательство, используя ряды Фурье и интерполяционную формулу, а также ввёл понятие частоты Найквиста как половины частоты дискретизации. Благодаря работам Шеннона теорема стала широко известна в западной научной и инженерной среде.

Признание и современное название

В советской и российской научной традиции теорема чаще называется теоремой Котельникова, в западной — теоремой Найквиста — Шеннона или теоремой отсчётов. В международной литературе встречается компромиссный вариант — теорема Котельникова — Найквиста — Шеннона. В 1999 году Международный союз электросвязи (МСЭ) официально признал приоритет Котельникова, включив его имя в название теоремы.

Формулировка

Математическая формулировка

Пусть \( x(t) \) — непрерывный сигнал с ограниченным спектром, то есть его преобразование Фурье \( X(f) \) равно нулю для всех частот \( |f| > f_{\text{max}} \). Если частота дискретизации \( f_s \) удовлетворяет условию: \[ f_s \geq 2 f_{\text{max}}, \] то сигнал \( x(t) \) может быть точно восстановлен по своим дискретным отсчётам \( x(nT) \), где \( T = 1/f_s \) — интервал дискретизации, с помощью интерполяционной формулы: \[ x(t) = \sum_{n=-\infty}^{\infty} x(nT) \cdot \text{sinc}\left( \frac{t - nT}{T} \right), \] где \( \text{sinc}(x) = \frac{\sin(\pi x)}{\pi x} \) — функция sinc (синус-кардинал).

Частота Найквиста

Величина \( f_N = f_s / 2 \) называется частотой Найквиста. Если максимальная частота сигнала превышает частоту Найквиста, возникает эффект наложения спектров (алиасинг), при котором высокочастотные компоненты сигнала маскируются под низкочастотные, что делает точное восстановление невозможным.

Условия применимости

Теорема справедлива при следующих допущениях:

• Сигнал имеет строго ограниченный спектр (бесконечная длительность во времени).
• Дискретизация производится с идеальной периодичностью.
• Восстановление выполняется с помощью идеального фильтра нижних частот (ФНЧ) с бесконечной крутизной среза.

В реальных системах эти условия не выполняются полностью, поэтому на практике применяют приближённые методы: используют антиалиасинговые фильтры перед дискретизацией, выбирают частоту дискретизации с запасом (например, в аудио CD — 44,1 кГц при максимальной частоте 20 кГц), а для восстановления применяют цифровые фильтры.

Практические аспекты

Выбор частоты дискретизации

Для обеспечения точного восстановления частота дискретизации выбирается выше удвоенной максимальной частоты сигнала. В системах связи и аудиотехнике часто используют стандартные значения: 8 кГц (телефония), 44,1 кГц (компакт-диски), 48 кГц (видео и профессиональное аудио), 96 кГц и 192 кГц (высокое разрешение).

Антиалиасинговый фильтр

Перед аналого-цифровым преобразованием сигнал пропускают через аналоговый фильтр нижних частот, который подавляет частоты выше половины частоты дискретизации. В идеале такой фильтр должен иметь бесконечную крутизну среза, но на практике используются фильтры с конечной крутизной, что приводит к некоторым искажениям.

Передискретизация (oversampling)

Для уменьшения влияния алиасинга и упрощения требований к аналоговому фильтру применяют передискретизацию — дискретизацию с частотой, значительно превышающей удвоенную максимальную частоту сигнала. Затем цифровой сигнал прореживают до требуемой частоты с помощью цифрового фильтра.

Применение

Цифровая связь

Теорема является основой для всех цифровых систем связи: модемов, сотовой связи, Wi-Fi, спутниковой связи. Она позволяет передавать аналоговые сигналы (речь, видео) в цифровом виде, что обеспечивает помехоустойчивость и эффективное использование канала.

Аудиотехника

В цифровом звуке теорема определяет выбор частоты дискретизации для форматов аудио (MP3, WAV, FLAC). Благодаря ей возможно сжатие аудиоданных без потери качества при условии соблюдения критерия Найквиста.

Видео и изображения

В цифровом видео теорема применяется как к временной (частота кадров), так и к пространственной (разрешение) дискретизации. Например, стандарт телевидения высокой чёткости (HDTV) использует частоту дискретизации 74,25 МГц для цветоразностных сигналов.

Медицина

В медицинской визуализации (МРТ, КТ, УЗИ) теорема используется для выбора частоты дискретизации сигналов, что влияет на качество изображений и скорость сканирования.

Геофизика и сейсмология

При обработке сейсмических данных теорема позволяет восстанавливать непрерывные записи колебаний земной коры по дискретным отсчётам сейсмографов.

Критика и ограничения

Теорема Котельникова — Найквиста — Шеннона является идеализированной моделью. В реальных условиях её точное выполнение невозможно из-за:

• Конечной длительности сигналов (спектр не может быть строго ограничен).
• Неидеальности фильтров.
• Квантования отсчётов (шум квантования).
• Джиттера (нестабильности моментов дискретизации).

Для преодоления этих ограничений разработаны методы, такие как нелинейная дискретизация, адаптивная фильтрация и сжатие с потерями, которые не требуют точного восстановления исходного сигнала.

Интересные факты

• Теорема была независимо открыта несколькими учёными: помимо Котельникова, Найквиста и Шеннона, аналогичные результаты получили Эдмунд Уиттекер (1915) и японский математик Кэнъитиро Огава (1920-е годы).
• В 1999 году Международный союз электросвязи (МСЭ) признал приоритет Котельникова, и в официальных документах МСЭ теорема называется «теоремой Котельникова».
• Частота Найквиста не является физической величиной, а представляет собой математический предел; на практике для надёжного восстановления сигнала частоту дискретизации выбирают с запасом в 10–20%.

Источники

• Котельников В. А. О пропускной способности эфира и проволоки в электросвязи. — М.: Связьиздат, 1933.
• Nyquist H. Certain Topics in Telegraph Transmission Theory // Transactions of the American Institute of Electrical Engineers. — 1928. — Vol. 47, No. 2. — P. 617–644.
• Shannon C. E. Communication in the Presence of Noise // Proceedings of the IRE. — 1949. — Vol. 37, No. 1. — P. 10–21.
• Whittaker E. T. On the Functions Which Are Represented by the Expansions of the Interpolation Theory // Proceedings of the Royal Society of Edinburgh. — 1915. — Vol. 35. — P. 181–194.
• Oppenheim A. V., Schafer R. W. Discrete-Time Signal Processing. — 3rd ed. — Pearson, 2010.
• Профессор В. А. Котельников и его теорема // Радиотехника. — 2003. — № 8.