Теорема Найквиста — Шеннона¶

Теорема Найквиста — Шеннона (также известная как теорема Котельникова, теорема отсчётов, или теорема дискретизации) — фундаментальное утверждение в теории информации и цифровой обработке сигналов, устанавливающее условие, при котором аналоговый сигнал может быть точно восстановлен по его дискретным отсчётам. Теорема гласит, что если аналоговый сигнал имеет ограниченный спектр (то есть его частотный состав не превышает некоторой максимальной частоты \(F_{max}\)), то он может быть однозначно восстановлен по своим отсчётам, взятым с частотой (частотой дискретизации) не менее чем в два раза превышающей эту максимальную частоту (\(F_s \geq 2F_{max}\)). Эта минимальная частота дискретизации называется частотой Найквиста.

¶История

¶Предпосылки и ранние работы

Вопрос о возможности восстановления непрерывного сигнала по его дискретным значениям возник в начале XX века в связи с развитием телеграфии, телефонии и радиосвязи. В 1915 году американский инженер Гарри Найквист, работавший в компании Bell Telephone Laboratories, опубликовал работу, в которой исследовал условия передачи информации по телеграфным линиям. Он показал, что максимальная скорость передачи символов по каналу с ограниченной полосой пропускания пропорциональна ширине этой полосы. Это стало основой для понимания связи между частотой дискретизации и спектром сигнала.

¶Формулировка Найквиста

В 1928 году Гарри Найквист опубликовал статью «Certain Topics in Telegraph Transmission Theory», в которой сформулировал условие: для точной передачи сигнала с ограниченным спектром необходимо, чтобы частота дискретизации была не менее чем в два раза выше максимальной частоты в спектре сигнала. Найквист, однако, не рассматривал процедуру восстановления сигнала по отсчётам, а сосредоточился на анализе искажений при передаче.

¶Вклад Шеннона

Клод Шеннон, также работавший в Bell Labs, в 1948 году в своей знаменитой работе «Математическая теория связи» (The Mathematical Theory of Communication) дал строгое математическое обоснование теоремы. Он показал, что любой сигнал с ограниченным спектром может быть представлен в виде суммы бесконечного ряда отсчётов, взятых с частотой Найквиста, и восстановлен с помощью идеального фильтра нижних частот. Шеннон также ввёл понятие «частота Найквиста» и сформулировал теорему в её современном виде. Именно эта работа сделала теорему краеугольным камнем цифровой обработки сигналов.

¶Параллельные разработки в СССР

Независимо от Найквиста и Шеннона, советский учёный Владимир Александрович Котельников в 1933 году опубликовал работу «О пропускной способности эфира и проволоки в электросвязи», в которой привёл строгое доказательство теоремы отсчётов. В русскоязычной литературе теорема часто называется теоремой Котельникова. Котельников использовал её для анализа возможностей передачи сигналов по линиям связи. Его работа была опубликована раньше, чем работы Шеннона, но долгое время оставалась малоизвестной за пределами СССР.

¶Формулировка и математическое обоснование

¶Классическая формулировка

Пусть \(x(t)\) — аналоговый сигнал, спектр которого равен нулю для всех частот \(|f| > F_{max}\). Тогда сигнал \(x(t)\) может быть точно восстановлен по своим отсчётам \(x(nT_s)\), где \(n\) — целое число, а \(T_s\) — период дискретизации, при условии, что частота дискретизации \(F_s = 1/T_s\) удовлетворяет неравенству: \[ F_s \geq 2F_{max} \]

¶Частота Найквиста

Частота \(F_N = F_s/2\) называется частотой Найквиста. Она представляет собой максимальную частоту, которая может быть корректно представлена в дискретизированном сигнале без потерь. Если в аналоговом сигнале присутствуют частоты выше \(F_N\), они будут «маскироваться» под более низкие частоты, вызывая эффект, называемый наложением спектров (алиасингом).

¶Ряд Котельникова

Восстановление сигнала по отсчётам осуществляется с помощью интерполяционной формулы, известной как ряд Котельникова или ряд Шеннона: \[ x(t) = \sum_{n=-\infty}^{\infty} x(nT_s) \cdot \text{sinc}\left(\frac{t - nT_s}{T_s}\right) \] где \(\text{sinc}(u) = \frac{\sin(\pi u)}{\pi u}\) — функция sinc (синус-кардинал). Этот ряд показывает, что каждый отсчёт вносит вклад в восстановленный сигнал в виде sinc-функции, центрированной в момент времени отсчёта.

¶Практическое применение

¶Цифровая обработка сигналов

Теорема Найквиста — Шеннона является основой для всех систем цифровой обработки сигналов, включая:

• Аудио: В компакт-дисках (CD) частота дискретизации составляет 44,1 кГц, что позволяет точно воспроизводить звуки с частотами до 22,05 кГц (выше порога слышимости человека). В цифровом телевидении и радио используется частота 48 кГц.
• Видео: В телевидении стандартной чёткости (PAL, NTSC) частота кадров и строк выбирается с учётом теоремы для предотвращения муара и искажений.
• Измерения и сенсоры: Аналого-цифровые преобразователи (АЦП) в осциллографах, датчиках температуры, давления и других устройствах работают по принципу дискретизации с частотой, превышающей удвоенную максимальную частоту измеряемого сигнала.

¶Связь и телекоммуникации

В системах цифровой связи (модемы, сотовая связь, Wi-Fi) теорема используется для определения минимальной полосы пропускания канала, необходимой для передачи данных с заданной скоростью. Например, в стандарте GSM частота дискретизации голосового сигнала составляет 8 кГц, что соответствует полосе частот до 4 кГц.

¶Медицина

В электрокардиографии (ЭКГ) и электроэнцефалографии (ЭЭГ) частота дискретизации выбирается так, чтобы не потерять важные диагностические признаки (например, зубцы QRS имеют частоты до 100 Гц, поэтому частота дискретизации обычно составляет 250–500 Гц).

¶Ограничения и критика

¶Идеальные условия

Теорема предполагает, что сигнал имеет строго ограниченный спектр и что дискретизация производится бесконечно долго. В реальности сигналы редко имеют идеально ограниченный спектр (например, из-за шумов или импульсных помех). Кроме того, для восстановления требуется идеальный фильтр нижних частот с бесконечной крутизной спада, что физически невозможно.

¶Практические компромиссы

На практике применяются:

• Антиалиасинговые фильтры: Перед дискретизацией сигнал пропускают через аналоговый фильтр нижних частот, который подавляет частоты выше \(F_N\). Однако такие фильтры неидеальны, поэтому частота дискретизации выбирается с запасом (например, в 2,2–2,5 раза выше максимальной частоты).
• Передискретизация (oversampling): Используется частота дискретизации, значительно превышающая теоретический минимум, что позволяет снизить требования к аналоговым фильтрам и улучшить отношение сигнал/шум.

¶Неравномерная дискретизация

Теорема в классической формулировке предполагает равномерную дискретизацию с постоянным шагом. Существуют обобщения теоремы для неравномерной дискретизации, но они менее распространены на практике.

¶Варианты и обобщения

¶Теорема для комплексных сигналов

Для комплексных сигналов (например, в квадратурной модуляции) частота дискретизации может быть равна ширине полосы сигнала, а не удвоенной максимальной частоте.

¶Теорема для полосовых сигналов

Если сигнал занимает полосу частот от \(f_1\) до \(f_2\) (а не от 0 до \(F_{max}\)), то частота дискретизации может быть меньше \(2f_2\), но должна удовлетворять условиям, предотвращающим наложение спектров. Это используется в радиолокации и спутниковой связи.

¶Теорема в двумерном случае

Для изображений (двумерных сигналов) теорема формулируется аналогично: частота дискретизации по каждой координате должна быть не менее чем в два раза выше максимальной пространственной частоты в изображении. Это используется в цифровой фотографии и сканировании.

¶Интересные факты

• Парадокс Найквиста: Если частота дискретизации равна ровно удвоенной максимальной частоте, то фаза сигнала может быть неопределённой. Например, синусоида с частотой \(F_{max}\) может быть дискретизирована в нулевых точках, что приведёт к потере информации. Поэтому на практике частота дискретизации выбирается строго больше \(2F_{max}\).
• Применение в музыке: В цифровых синтезаторах и семплерах теорема используется для создания реалистичных звуков. Если частота дискретизации слишком низкая, возникают слышимые искажения (алиасинг), которые могут быть как нежелательными, так и использоваться как художественный эффект (например, в жанре «чиптюн»).
• Связь с теоремой Котельникова: В России и странах бывшего СССР теорема часто называется теоремой Котельникова, и её изучение входит в обязательную программу по радиотехнике и связи.

¶Источники

• Найквист, Г. «Certain Topics in Telegraph Transmission Theory» (1928).
• Шеннон, К. «Математическая теория связи» (1948).
• Котельников, В. А. «О пропускной способности эфира и проволоки в электросвязи» (1933).
• Оппенгейм, А. В., Шафер, Р. В. «Цифровая обработка сигналов» (1975, русский перевод 2006).
• Лайонс, Р. «Цифровая обработка сигналов» (2004, русский перевод 2006).