Парадокс Найквиста¶

Парадокс Найквиста — это теоретическое положение в теории информации и цифровой обработке сигналов, которое описывает кажущееся противоречие между скоростью передачи информации по каналу связи и полосой пропускания этого канала. В широком смысле парадокс связан с тем, что теорема Котельникова (в западной литературе — теорема Найквиста — Шеннона) утверждает возможность точного восстановления непрерывного сигнала по его дискретным отсчётам, взятым с частотой, вдвое превышающей максимальную частоту в спектре сигнала, однако при этом не накладывает ограничений на количество информации, которое может быть передано за единицу времени. Парадокс заключается в том, что, казалось бы, бесконечное количество информации может быть передано по каналу с конечной полосой пропускания, если использовать бесконечно малые уровни квантования, что противоречит интуитивным представлениям о физических ограничениях.

¶История возникновения

Парадокс был впервые сформулирован в контексте работ американского инженера и физика Гарри Найквиста в 1920-х годах. В 1928 году Найквист опубликовал статью «Certain Topics in Telegraph Transmission Theory», в которой исследовал вопросы передачи сигналов по телеграфным линиям. Он установил, что для безошибочной передачи сигнала с ограниченной полосой частот достаточно передавать его отсчёты с частотой, равной удвоенной максимальной частоте. Однако Найквист также заметил, что если рассматривать сигнал как последовательность дискретных значений, то при бесконечно малом шаге квантования по амплитуде можно передать бесконечное количество информации, что на практике невозможно из-за шумов.

Впоследствии, в 1948 году, Клод Шеннон в своей работе «Математическая теория связи» формализовал понятие пропускной способности канала и показал, что парадокс разрешается введением понятия шума. Шеннон вывел формулу, согласно которой пропускная способность канала с аддитивным белым гауссовским шумом (АБГШ) равна C = B log₂(1 + S/N), где B — полоса пропускания, S/N — отношение сигнал/шум. Это означает, что при наличии шума количество информации, которое можно передать, конечно, и зависит от уровня шума.

¶Суть парадокса

Парадокс Найквиста можно сформулировать следующим образом: если сигнал имеет ограниченную полосу частот (например, от 0 до F Гц), то по теореме отсчётов его можно восстановить по дискретным значениям, взятым с частотой 2F. При этом каждое значение сигнала можно закодировать с произвольной точностью, используя сколь угодно много битов. Таким образом, за одну секунду можно передать 2F отсчётов, каждый из которых может нести бесконечное количество информации, если не ограничивать точность квантования. Следовательно, скорость передачи информации может быть бесконечно большой, даже при конечной полосе пропускания.

Однако на практике это противоречит физическим законам: любой канал связи имеет шумы, которые ограничивают минимальный различимый уровень сигнала. Если шаг квантования сделать меньше уровня шума, то соседние уровни станут неразличимы, и информация будет теряться. Таким образом, парадокс разрешается тем, что бесконечная точность квантования невозможна из-за шума, а пропускная способность канала всегда конечна.

¶Математическая формулировка

Для формального описания парадокса используется модель канала с аддитивным шумом. Пусть сигнал x(t) имеет полосу частот B и передаётся по каналу с шумом n(t). На приёмной стороне наблюдается y(t) = x(t) + n(t). Согласно теореме Шеннона, максимальная скорость передачи информации R (в битах в секунду) не может превышать пропускной способности C:

C = B log₂(1 + P/N₀B),

где P — средняя мощность сигнала, N₀ — спектральная плотность мощности шума. Если P/N₀B → ∞, то C → ∞, но на практике отношение сигнал/шум всегда конечно. Если же P/N₀B → 0, то C → 0. Таким образом, парадокс Найквиста разрешается тем, что при стремлении шага квантования к нулю (то есть при бесконечной точности) мощность сигнала должна быть бесконечно большой, чтобы преодолеть шум, что невозможно.

¶Связь с теоремой Котельникова

Теорема Котельникова (теорема отсчётов) утверждает, что любой сигнал с ограниченным спектром может быть точно восстановлен по своим дискретным отсчётам, взятым с частотой, не меньшей удвоенной максимальной частоты. Парадокс Найквиста часто путают с этой теоремой, но на самом деле он является следствием неверного истолкования её практических ограничений. Теорема Котельникова не накладывает ограничений на точность квантования по амплитуде, но в реальных системах квантование всегда конечно, и ошибка квантования рассматривается как дополнительный шум.

¶Практические следствия

Парадокс Найквиста имеет важное значение для понимания фундаментальных ограничений систем связи и цифровой обработки сигналов. Он показывает, что:

• Пропускная способность канала всегда ограничена шумом, а не только полосой пропускания. Это означает, что для увеличения скорости передачи необходимо либо расширять полосу, либо повышать отношение сигнал/шум.
• Квантование сигнала вносит ошибку, которая эквивалентна шуму. Поэтому при проектировании аналого-цифровых преобразователей (АЦП) необходимо выбирать разрядность, достаточную для того, чтобы шум квантования был меньше шума канала.
• Теорема Шеннона даёт верхнюю границу скорости передачи, которая не может быть превышена ни при каком способе кодирования. Парадокс Найквиста иллюстрирует, что без учёта шума эта граница кажется бесконечной, что не соответствует реальности.

¶Критика и уточнения

Некоторые исследователи отмечают, что термин «парадокс Найквиста» не является общепринятым в научной литературе. Чаще его называют «парадоксом бесконечной информации» или «парадоксом дискретизации». В русскоязычных источниках он иногда упоминается в контексте обсуждения теоремы Котельникова. Критика парадокса сводится к тому, что он основан на идеализированной модели сигнала без шума, которая нереалистична. В реальных системах всегда присутствует шум, и поэтому парадокс не возникает.

¶Примеры из техники

В современных системах связи, таких как Wi-Fi, LTE или спутниковая связь, парадокс Найквиста учитывается при выборе параметров модуляции и кодирования. Например, в стандарте 802.11ac используется квадратурная амплитудная модуляция (QAM) с различным числом уровней (от 16 до 256). Чем больше уровней, тем выше скорость передачи, но тем более высокое отношение сигнал/шум требуется для надёжного приёма. Если шум слишком велик, то использование высоких порядков QAM становится неэффективным, и система переключается на более низкие уровни модуляции. Это прямое следствие разрешения парадокса Найквиста: бесконечная точность невозможна, и практическая скорость всегда ограничена шумом.

¶Интересные факты

• Парадокс Найквиста иногда называют «парадоксом бесконечной полосы», хотя это не совсем точно, так как он связан с бесконечной точностью квантования, а не с полосой.
• В 1949 году советский учёный Владимир Котельников независимо сформулировал теорему отсчётов, которая в России известна как теорема Котельникова, а в западной литературе — как теорема Найквиста — Шеннона. Парадокс Найквиста в русскоязычных источниках часто обсуждается именно в связи с этой теоремой.
• Парадокс разрешается в рамках теории информации, но интуитивно он остаётся сложным для понимания, так как противоречит повседневному опыту: никто не может передать бесконечное количество информации по конечному каналу.

¶Источники

• Найквист Г. «Certain Topics in Telegraph Transmission Theory», 1928.
• Шеннон К. «Математическая теория связи», 1948.
• Котельников В. А. «О пропускной способности эфира и проволоки в электросвязи», 1933.
• Прокис Дж. «Цифровая связь», 4-е издание, 2001.
• Галлагер Р. «Теория информации и надёжная связь», 1968.