Энтропия

Энтропия — физическая величина, являющаяся мерой неопределённости состояния системы, мерой хаоса, а также функцией состояния термодинамической системы, характеризующей направление протекания самопроизвольных процессов. В термодинамике энтропия определяется как отношение полученного тепла к абсолютной температуре, при которой происходит теплообмен. В статистической физике энтропия интерпретируется как мера вероятности реализации данного макроскопического состояния системы. Понятие энтропии широко используется в физике, химии, биологии, теории информации и других науках.

История понятия

Термодинамическая энтропия

Понятие энтропии было введено в 1865 году немецким физиком Рудольфом Клаузиусом. Он сформулировал второе начало термодинамики, согласно которому в изолированной системе энтропия не может убывать. Клаузиус дал название новой величине, произведя его от греческого слова «τροπή» (превращение), подчеркнув её связь с превращениями энергии. Он записал математическое выражение для изменения энтропии: dS = δQ / T, где δQ — элементарное количество тепла, полученное системой, а T — абсолютная температура.

Статистическая интерпретация

В 1870-х годах австрийский физик Людвиг Больцман разработал статистическую интерпретацию энтропии. Он связал её с количеством микросостояний (способов реализации) данного макроскопического состояния. Формула Больцмана: S = k * ln W, где S — энтропия, k — постоянная Больцмана, W — термодинамическая вероятность (число микросостояний). Эта формула выгравирована на надгробии Больцмана.

Энтропия в теории информации

В 1948 году американский математик и инженер Клод Шеннон ввёл понятие информационной энтропии в своей работе «Математическая теория связи». Он определил её как меру неопределённости источника сообщений. Формула Шеннона: H = - Σ p_i * log₂ p_i, где p_i — вероятность появления i-го символа. Эта величина измеряется в битах и используется для оценки количества информации, содержащейся в сообщении.

Термодинамическое определение

Классическая термодинамика

В термодинамике энтропия является функцией состояния, то есть её изменение не зависит от пути процесса, а определяется только начальным и конечным состояниями системы. Для обратимых процессов изменение энтропии равно интегралу от приведённого тепла: ΔS = ∫ δQ / T. Для необратимых процессов изменение энтропии больше этого интеграла. Второе начало термодинамики утверждает, что в изолированной системе энтропия может только возрастать (или оставаться постоянной для обратимых процессов). Это означает, что самопроизвольные процессы всегда идут в сторону увеличения хаоса.

Статистическая термодинамика

В статистической термодинамике энтропия интерпретируется как мера беспорядка в системе. Чем больше число микросостояний, соответствующих данному макроскопическому состоянию, тем выше энтропия. Например, газ имеет более высокую энтропию, чем твёрдое тело, так как частицы газа могут находиться в гораздо большем числе различных положений и иметь большее число возможных скоростей.

Свойства энтропии

• Аддитивность: Энтропия сложной системы равна сумме энтропий её независимых частей.
• Экстремальность: В состоянии термодинамического равновесия энтропия изолированной системы достигает максимума.
• Неубывание: В изолированной системе энтропия не может уменьшаться.
• Зависимость от температуры: При повышении температуры энтропия обычно возрастает, так как увеличивается тепловое движение частиц.

Энтропия в различных областях

Химия

В химии энтропия используется для оценки направления химических реакций. Изменение энтропии системы (ΔS) учитывается при расчёте энергии Гиббса (ΔG = ΔH — TΔS), которая определяет самопроизвольность протекания реакции. Реакции, сопровождающиеся увеличением энтропии (например, разложение сложных молекул на более простые), более вероятны при высоких температурах.

Биология

В биологии энтропия рассматривается как мера неупорядоченности биологических систем. Живые организмы являются открытыми системами, которые поддерживают свою упорядоченность за счёт потребления энергии из окружающей среды. Они уменьшают свою внутреннюю энтропию, увеличивая энтропию окружающей среды. Согласно некоторым гипотезам, старение организма связано с постепенным накоплением энтропии в клетках и тканях.

Теория информации

В теории информации энтропия Шеннона является ключевым понятием. Она определяет минимальное количество бит, необходимое для кодирования сообщения без потерь. Высокая энтропия источника означает, что его символы появляются с примерно равной вероятностью, и для их кодирования требуется больше бит. Низкая энтропия указывает на предсказуемость сообщения (например, текст на русском языке имеет энтропию около 1,5 бит на символ).

Космология

В космологии энтропия Вселенной рассматривается как мера её возрастающего хаоса. Согласно второму началу термодинамики, энтропия Вселенной постоянно растёт. Это связано с процессами излучения звёзд, расширения пространства и другими необратимыми явлениями. Некоторые модели предполагают, что в конечном итоге Вселенная может прийти в состояние «тепловой смерти» — состояния максимальной энтропии, когда все процессы прекратятся.

Критика и альтернативные интерпретации

• Парадокс Гиббса: Возникает при смешении одинаковых газов. Классическая термодинамика предсказывает увеличение энтропии, что противоречит экспериментальным данным. Разрешение парадокса связано с квантовой механикой и неразличимостью частиц.
• Демон Максвелла: Мысленный эксперимент, предложенный Джеймсом Максвеллом, в котором гипотетическое существо (демон) сортирует молекулы, уменьшая энтропию без затрат энергии. Позднее было показано, что демон должен получать информацию о молекулах, что приводит к увеличению энтропии в окружающей среде.
• Энтропия и время: Некоторые физики, такие как Карло Ровелли, связывают стрелу времени с ростом энтропии. Согласно этой гипотезе, направление времени определяется увеличением энтропии в ранней Вселенной.

Интересные факты

• Постоянная Больцмана k = 1,380649 × 10⁻²³ Дж/К была выбрана в качестве одной из семи основных констант для переопределения Международной системы единиц (СИ) в 2019 году.
• Энтропия чёрной дыры пропорциональна площади её горизонта событий, а не её объёму. Это было показано Стивеном Хокингом и Якобом Бекенштейном.
• В русском языке термин «энтропия» впервые был использован в 1860-х годах, но широкое распространение получил только в XX веке.

Источники

• Клаузиус Р. Механическая теория тепла. — 1865.
• Больцман Л. Лекции по теории газов. — 1896.
• Шеннон К. Математическая теория связи. — 1948.
• Ландау Л. Д., Лифшиц Е. М. Статистическая физика. — 1964.
• Пригожин И., Стенгерс И. Порядок из хаоса. — 1984.