Для ученых XIX в. не было естественным думать об энтропии как об информации. Сейчас, в разгар очередной информационной революции, нас уже не удивляет, что информация – не менее фундаментальная величина, чем энергия. В конце XIX в., однако, вообще не было очевидно, что информация является некоей величиной.
В середине XIX в. Джеймс Клерк Максвелл детально разработало теорию теплоты в терминах движения атомов. Он выяснил, как быстро движутся атомы в зависимости от температуры: как оказалось, кинетическая энергия атомов пропорциональна температуре. Чем выше температура объекта, тем быстрее движутся его атомы.
Эта «пляска» атомов также связана с энтропией: чем быстрее атомы движутся, тем больше нужно информации для описания их движений и тем большей энтропией они обладают. Температура – это мера компромисса между информацией и энергией: при высокой температуре атомам нужно больше энергии, чтобы записать один бит информации, а при низкой атомам нужно для этого меньше энергии. Температура – это, в сущности, энергия в расчете на один бит. Когда энергия в форме теплоты переходит от горячего объекта к холодному, энтропия увеличивается: то же самое количество энергии хранит меньше информации, когда объект горячий, чем когда объект холодный. Состояние максимальной энтропии достигается в том случае, когда температура всех объектов одинакова.
Максвелл понял, что если можно было бы получить информацию о поведении атомов газа на микроскопическом уровне, то можно было бы уменьшить его энтропию; значит, энтропия так или иначе связана с информацией. В своем знаменитом сочинении «Об уменьшении энтропии разумными существами» ( On the Decrease of Entropy by Intelligent Beings ) Максвелл описал крошечное разумное существо, так называемого «демона», который может направлять тепловые потоки от холодных тел к горячим, нарушая самым наглядным образом второе начало термодинамики.
Предположим, сосуд с гелием в виде газа разделен перегородкой на два отделения. В перегородке есть маленькая дверца, в которую могут одновременно протиснуться всего несколько атомов газа. Демон отслеживает атомы, находящиеся рядом с дверцей, и открывает ее всякий раз, когда атомы, приближающиеся к ней с холодной стороны, движутся быстрее (то есть они более горячие), чем атомы, приближающиеся к ней с горячей стороны. Каждый раз, когда демон открывает дверцу, более горячие атомы перемещаются на горячую сторону, а более холодные атомы перемещаются на холодную сторону. По мере того как демон пропускает все больше быстрых атомов на горячую сторону и все больше медленных атомов на холодную сторону, горячее отделение сосуда с газом становится горячее, а холодное отделение становится холоднее. Этот поддерживаемый демоном поток тепла из холодного отделения в горячее явным образом нарушает второе начало термодинамики, которое гласит, что тепловые потоки текут от горячих предметов к холодным, но не наоборот. Но только способность демона получать информацию об атомах позволяет ему добиться этого кажущегося нарушения физического закона .
Демон Максвелла – воображаемое существо, которое отклоняет быстрые, горячие, молекулы в одну половину сосуда, а медленные, холодные, молекулы – в другую его половину, нарушая явным образом второе начало термодинамики
Как мы увидим, на самом деле демон не может нарушить второе начало термодинамики, так как в правильной формулировке оно гласит, что энтропия/информация газа и демона, взятых вместе, уменьшаться не могут [13]. Второе начало термодинамики остается в силе. Тем не менее действия демона иллюстрируют очевидную связь между информацией и энтропией.
К концу XIX в. Больцман, Гиббс и немецкий физик Макс Планк уточнили формулы, описывающие энергию и энтропию систем, состоящих из атомов. В частности, они обнаружили, что энтропия системы пропорциональна количеству битов, необходимых для описания микроскопического состояния атомов, соответствующего некоторому макросостоянию. Этот результат был столь полезен для описания обмена между теплотой и энергией, что формула, которая его описывает, выгравирована на могиле Больцмана. Энтропия традиционно обозначается символом S , а число различных возможных микросостояний (или «цветов лица», complexions , как называл их Планк) – символом W . Здесь W может быть числом микросостояний отдельного атома или системы, состоящей из атомов.
Читать дальше
Конец ознакомительного отрывка
Купить книгу