Eduardo Perez - Вселенная погибнет от холода. Больцман. Термодинамика и энтропия.

Современная терминология в статистической физике была разработана Джозайей Уиллардом Гиббсом (1839-1903). Так, распределения энергии Больцмана сегодня называются макросостояниями, в том смысле, что это состояния, наблюдаемые с макроскопической точки зрения, а комплексиям было дано новое название — микросостояния, поскольку они не наблюдаются напрямую. В целом у каждого состояния есть некоторое число связанных с ним микросостояний, в том смысле что они порождают одни и те же наблюдаемые свойства, и их вероятность увеличивается прямо пропорционально их числу.

Формулу Больцмана, S = k logW, современным языком можно описать следующим образом: энтропия прямо пропорциональна логарифму числа микросостояний, совместимых с макросостоянием. Логарифм используется, поскольку, с одной стороны, он упрощает вычисление вероятности (так как большинство перестановок вычисляется на основе произведений), а с другой стороны, подчеркивает то, что энтропия связана с суммой в том смысле, что энтропия двух систем складывается, а не умножается, как это было бы с числом перестановок. Именно эта формула выгравирована на могиле Больцмана, а не та, которую он сам ввел в 1877 году.

Обычно говорят, что энтропия есть мера беспорядка системы. Этого понятия не было в формулировке Клаузиуса, и оно также, похоже, было не совсем применимо к первому определению Больцмана. Подход 1877 года делает возможным объяснение связи между энтропией и беспорядком вполне естественным образом. Первое, на что нужно указать, — это то, что беспорядок — довольно бессистемное понятие. В классическом примере с колодой карт говорят, что они упорядочены, если расположены так, что каждой карте предшествует другая непосредственно меньшего значения, а после нее следует другая непосредственно большего значения. В случае с газом считается, что он находится в упорядоченном состоянии, если у молекул имеется распределение энергии или положений, которое отклонялось бы от ожидаемого, если бы было произвольным, что в данном случае означает распределение Больцмана.

Определение энтропии Больцмана было столь общим, что было использовано в математике и науке о вычислениях. Самое известное применение — так называемая "энтропия Шеннона", названная в честь математика и специалиста по теории коммуникаций Клода Элвуда Шеннона (1916-2001), которая измеряет количество информации, содержащееся в сообщении.

Представим себе сообщение, состоящее из единиц и нулей. Если бы частота единиц и нулей не была произвольной, а в ней имелись бы некоторые тенденции к большему количеству нулей или единиц, наблюдатель, читающий цепочку по порядку, мог бы предсказать, до какой-то степени, следующее значение. Цепочка 1111111111111... довольно предсказуема: крайне вероятно, что следующим символом будет 1. В этом случае чтение этих данных предоставляет нам очень мало информации, поскольку уже известно все необходимое, до того как мы увидим сообщение: их энтропия Шеннона минимальна. И наоборот, энтропия Шеннона максимальна, когда цепочка — произвольный ряд нулей и единиц. В этом случае единственный способ узнать, каков следующий символ, — увидеть его. На практике большинство сообщений (например, на английском или на испанском языке) имеет относительно низкую энтропию Шеннона из-за статистического преобладания некоторых букв. Из-за этого они содержат мало информации, и их легко сжать. На этой идее основываются программы-архиваторы. Связь между энтропией Шеннона и энтропией Больцмана была не очень ясной до середины 1950-х годов. Было высказано предположение, что энтропия Больцмана может быть истолкована как частный случай энтропии Шеннона: когда она максимальна, тело, которое она описывает, находится в самом произвольном состоянии, то есть с очень высокой энтропией Шеннона. Так, энтропию Больцмана можно вычислить как информацию, необходимую для определения состояния каждой из молекул тела, если известны макроскопические детали. Энтропия Шеннона — не единственная интеллектуальная "дочь" энтропии Больцмана: в Linux (операционной системе со свободным кодом, благодаря которой появился Android) термин "энтропия" используется для определения произвольных данных, собираемых системой на основе движения мыши или клавиатуры.

В примере с картами легко увидеть, что большинство порядков соответствует неупорядоченному состоянию: если исходить из упорядоченной колоды и изменить положение десяти карт, то получится колода, отдаленная от предыдущего порядка. Если повторить операцию, выбирая каждый раз десять произвольных карт, колода все больше будет отдаляться от упорядоченного состояния, если только нам сильно не повезет. Это происходит потому, что существует намного большее число беспорядочных конфигураций, чем упорядоченных. Чтобы увидеть это, воспользуемся простой моделью с пятью картами, пронумерованными от 1 до 5.