Шрифт:
Интервал:
Закладка:
Для ученых XIX в. не было естественным думать об энтропии как об информации. Сейчас, в разгар очередной информационной революции, нас уже не удивляет, что информация – не менее фундаментальная величина, чем энергия. В конце XIX в., однако, вообще не было очевидно, что информация является некоей величиной.
В середине XIX в. Джеймс Клерк Максвелл детально разработало теорию теплоты в терминах движения атомов. Он выяснил, как быстро движутся атомы в зависимости от температуры: как оказалось, кинетическая энергия атомов пропорциональна температуре. Чем выше температура объекта, тем быстрее движутся его атомы.
Эта «пляска» атомов также связана с энтропией: чем быстрее атомы движутся, тем больше нужно информации для описания их движений и тем большей энтропией они обладают. Температура – это мера компромисса между информацией и энергией: при высокой температуре атомам нужно больше энергии, чтобы записать один бит информации, а при низкой атомам нужно для этого меньше энергии. Температура – это, в сущности, энергия в расчете на один бит. Когда энергия в форме теплоты переходит от горячего объекта к холодному, энтропия увеличивается: то же самое количество энергии хранит меньше информации, когда объект горячий, чем когда объект холодный. Состояние максимальной энтропии достигается в том случае, когда температура всех объектов одинакова.
Максвелл понял, что если можно было бы получить информацию о поведении атомов газа на микроскопическом уровне, то можно было бы уменьшить его энтропию; значит, энтропия так или иначе связана с информацией. В своем знаменитом сочинении «Об уменьшении энтропии разумными существами» (On the Decrease of Entropy by Intelligent Beings) Максвелл описал крошечное разумное существо, так называемого «демона», который может направлять тепловые потоки от холодных тел к горячим, нарушая самым наглядным образом второе начало термодинамики.
Предположим, сосуд с гелием в виде газа разделен перегородкой на два отделения. В перегородке есть маленькая дверца, в которую могут одновременно протиснуться всего несколько атомов газа. Демон отслеживает атомы, находящиеся рядом с дверцей, и открывает ее всякий раз, когда атомы, приближающиеся к ней с холодной стороны, движутся быстрее (то есть они более горячие), чем атомы, приближающиеся к ней с горячей стороны. Каждый раз, когда демон открывает дверцу, более горячие атомы перемещаются на горячую сторону, а более холодные атомы перемещаются на холодную сторону. По мере того как демон пропускает все больше быстрых атомов на горячую сторону и все больше медленных атомов на холодную сторону, горячее отделение сосуда с газом становится горячее, а холодное отделение становится холоднее. Этот поддерживаемый демоном поток тепла из холодного отделения в горячее явным образом нарушает второе начало термодинамики, которое гласит, что тепловые потоки текут от горячих предметов к холодным, но не наоборот. Но только способность демона получать информацию об атомах позволяет ему добиться этого кажущегося нарушения физического закона.
Демон Максвелла – воображаемое существо, которое отклоняет быстрые, горячие, молекулы в одну половину сосуда, а медленные, холодные, молекулы – в другую его половину, нарушая явным образом второе начало термодинамики
Как мы увидим, на самом деле демон не может нарушить второе начало термодинамики, так как в правильной формулировке оно гласит, что энтропия/информация газа и демона, взятых вместе, уменьшаться не могут[13]. Второе начало термодинамики остается в силе. Тем не менее действия демона иллюстрируют очевидную связь между информацией и энтропией.
К концу XIX в. Больцман, Гиббс и немецкий физик Макс Планк уточнили формулы, описывающие энергию и энтропию систем, состоящих из атомов. В частности, они обнаружили, что энтропия системы пропорциональна количеству битов, необходимых для описания микроскопического состояния атомов, соответствующего некоторому макросостоянию. Этот результат был столь полезен для описания обмена между теплотой и энергией, что формула, которая его описывает, выгравирована на могиле Больцмана. Энтропия традиционно обозначается символом S, а число различных возможных микросостояний (или «цветов лица», complexions, как называл их Планк) – символом W. Здесь W может быть числом микросостояний отдельного атома или системы, состоящей из атомов.
Эпитафия на могиле Больцмана гласит: «S = k log W», и это просто математически изысканный способ сказать, что энтропия объекта пропорциональна числу битов, записанных его микросостоянием. То же самое можно выразить и по-другому: энтропия пропорциональна длине числа возможных микросостояний, если записать его в двоичной системе счисления. В этой формуле k называют постоянной Больцмана.
Пауль и Татьяна Эренфест[14], которые сделали важный вклад на начальном этапе исследований энтропии, указывали, что эту формулу на самом деле впервые предложил Планк, и поэтому константу, которую мы называем «постоянной Больцмана», они называли «постоянной Планка». Но, как мы увидим, когда будем рассматривать квантовую механику, именем Планка уже названа довольно важная константа. Чтобы избежать путаницы, а также увековечить заслуги Больцмана, символу «k» дали его имя. (Больцман славился своим угрюмым характером – он покончил с собой вскоре после визита в Соединенные Штаты в 1906 г. Остается только гадать, что бы он сделал, если бы узнал, что на его могильном камне выбита чужая формула.)
Максвелл, Больцман, Гиббс и Планк обнаружили, что энтропия пропорциональна числу битов информации, записанной в микроскопических движениях атомов. Конечно, эти ученые XIX в. еще не думали, что их открытие относится главным образом к информации. В то время энтропию не измеряли в битах, и они считали, что их открытие корректно описывает термодинамическую энтропию – величину, которая ограничивает эффективность тепловых машин. Они были правы, разумеется, и поскольку тогда энтропию не измеряли в битах, полученную ими безразмерную величину log W нужно было умножить на постоянную Больцмана, чтобы преобразовать энтропию с точки зрения информации в обычную термодинамическую энтропию Клаузиуса. Неважно, осознавали они это или нет, но пионеры статистической механики вывели формулу для вычисления информации за пятьдесят лет до того, как возникла математическая теория информации.
Но как физическая система, например газ, записывает и сохраняет информацию? Возьмем детский воздушный шарик, заполненный гелием. Атомы гелия в воздушном шарике носятся с места на место, сталкиваясь друг с другом и с оболочкой шарика. Каждый атом гелия есть носитель информации, а именно – количества информации, необходимого для описания того, где он находится (положение), куда и как быстро он движется (скорость). Чтобы измерить количество информации, которую содержит атом, следует определить самый малый масштаб, то есть степень точности, с которой могут быть описаны положение и скорость атома. Тогда число битов, которые содержит данный атом, будет равно числу битов, необходимых для того, чтобы определить его положение и скорость с точностью, заданной этим самым малым масштабом. Позже мы увидим, что пределы точности, с которыми могут быть измерены положение и скорость, определяются квантовой механикой. С учетом этого естественного масштаба каждый атом в воздушном шарике содержит около 20 битов. Количество информации, записанной всеми атомами гелия в воздушном шарике, является произведением этой величины на количество атомов, а их примерно 6х1023. Таким образом, гелий в воздушном шарике содержит примерно десять миллионов миллиардов миллиардов (1025) битов информации.
Это очень много информации. Книга, которую вы держите в руках, содержит лишь несколько миллионов битов информации[15]. Миллионы книг библиотеки Конгресса содержат миллионы миллионов битов. Все компьютеры в мире в настоящее время содержат миллиард миллиардов битов, если не больше. И все же все биты информации, созданные человеком в письменном или электронном виде, все равно не могут сравниться с количеством информации, записанной атомами гелия в одном воздушном шарике.
Конечно, биты информации, которую содержат атомы гелия в воздушном шарике, не тянут на приключенческий роман. Как и тексты, напечатанные обезьяной на пишущей машинке, биты, запечатленные атомами, с очень высокой вероятностью представляют собой бессмыслицу. Даже если положения и скорости атомов гелия в какой-то момент времени вдруг можно расшифровать как полный текст «Гамлета» (а мы уже знаем, что это крайне маловероятно), секунду спустя эти биты снова «рассыплются» в случайную картину.
- Чингисиана. Свод свидетельств современников - А. Мелехина Пер. - Прочая научная литература
- Япония нестандартный путеводитель - Ксения Головина - Прочая научная литература
- Быть собой: новая теория сознания - Анил Сет - Прочая научная литература / Науки: разное
- Книга всеобщих заблуждений - Джон Ллойд - Прочая научная литература
- Введение в музыкальную форму - Юрий Холопов - Прочая научная литература
- Российский и зарубежный конституционализм конца XVIII – 1-й четверти XIX вв. Опыт сравнительно-исторического анализа. Часть 1 - Виталий Захаров - Прочая научная литература
- Шпаргалка по русскому языку и культуре речи - А. Зубкова - Прочая научная литература
- Введение в общую культурно-историческую психологию - Александр Александрович Шевцов - Прочая научная литература / Психология
- Проклятия и чудеса российского футбола - Владимир Алексеевич Колганов - Прочая научная литература
- Радость науки. Важнейшие основы рационального мышления - Джим Аль-Халили - Прочая научная литература / Самосовершенствование