Репортаж с ничейной земли. Рассказы об информации

Кто диктует «жителям» этот порядок? Что мешает молекулам «столпиться» в одной части сосуда, оставив свободными другие места? Почему все «жители» этого мира обречены быть серой, безликой массой? А что, если появятся среди них такие, кто захочет выделиться из «толпы»? Представьте себе картину: тихо движется огромная масса молекул, а среди общего плавного хоровода резвится несколько «привилегированных» микрочастиц. В чем заключаются их «привилегии»? Они расходуют слишком много энергии, и слишком мало достается ее на долю других. Тело изолировано от внешней среды. Энергия не убывает и не прибывает. Значит, чем больше резвятся «избранные», тем более медленным будет движение всех остальных. Такие явления совсем не типичны, потому что никто из «жителей» этого мира не в силах нарушить один непреложный закон: закон возрастания энтропии.

Энтропия будет расти до тех пор, пока в равных объемах не окажется равное число «жителей», имеющих близкие значения скоростей. Такое состояние является состоянием равновесия, и оно имеет наибольшую вероятность. Зато у таких событий, как «столпотворение» в одной части сосуда или слишком большая скорость отдельных микрочастиц, вероятность очень мала. Значит, с ростом энтропии тело стремится к более вероятному состоянию - вот та основная идея, которую дал физике Больцман. И на основе этой идеи он впервые связал понятие вероятности с понятием энтропии.

Сущность энтропии начала проясняться. Энтропия связана с вероятностью состояния. А наиболее вероятным является состояние равновесия, когда в любой части сосуда находится в среднем одно и то же количество сталкивающихся частиц.

Теория вероятностей знает немало подобных примеров. Если на ровную площадку брошено 100 одинаковых игральных костей, то сумма выпавших на них очков будет всегда близка 350. Почему именно этому числу?

Потому что оно является наиболее вероятным. Давайте рассуждать так. Наибольшая сумма очков равна 600. Она будет в том случае, если все кости упадут вверх «шестерками». Может ли случиться такое событие? Теоретически может. А практически нет, потому что его вероятность близка нулю. Точно так же не может случиться, чтобы все 100 костей выпали вверх единицами. Отсюда уже ясно, что выпавшая сумма должна находиться где-то между 600 и 100. Если хотите определить ее более точно, подсчитайте «математическое ожидание» этой суммы. Нам с вами уже приходилось делать подобный расчет. В данном случае он выглядит ничуть не сложнее:

M =

(

1

6

 ·1 +

1

6

 ·2 +

1

6

 ·3 +

1

6

 ·4 +

1

6

 ·5 +

1

6

 ·6

)

 ·100 = 350.

Мы взяли вероятность выпадения каждой из 6 граней (1/6), умножили ее на число очков каждой грани (1, 2, 3, 4, 5, 6), сложили полученные числа и умножили на количество игральных костей. 350 - это средняя сумма. Сколько бы мы ни кидали наши игральные кости, сумма очков будет всегда близка средней сумме, то есть числу 350.

То же самое происходит и в микромире. Как бы ни толкали друг друга молекулы, количество их в единице объема и скорости их движения всегда близки какой-то средней величине. Так будет до тех пор, пока газ находится в равновесии, пока в любой части сосуда одно и то же давление, одна и та же температура. И в этом случае энтропия тела, выражающая вероятность его состояния, равна наибольшей величине.

Вот теперь мы, наконец, подходим к тому моменту, когда все, что увидели мы в хаотическом мире молекул, можно будет свести к одной замечательной формуле:

S = - ∑ P_ilog P_i.

Узнаете ли вы эту формулу? Еще бы, ведь она так часто встречалась нам в Новом Городе! Только там не было знака «-», а вместо S стоял значок I. Шеннон взял эту формулу из теории Больцмана. Он применил ее для расчета количества информации, и потому в его формуле стоял значок I. А Больцман использовал в своих формулах предложенный Клаузиусом значок энтропии S. А в общем Больцман и Шеннон оценивали с помощью этой формулы одно и то же качество явлений - их неопределенность.

Согласно теории Больцмана наибольшая энтропия газа соответствует самому хаотическому движению молекул. Согласно формуле Шеннона наибольшей энтропией обладает самый «хаотичный» текст:

СУХТРБЬДЩ ЯЫХВЩИЮАЖТЛ...

Если температура постоянна и одинакова во всех частях тела, значит оно находится в равновесии. Кривая Максвелла покажет нам, как при этой температуре (на рисунке она обозначена через Т1) распределились вероятности скоростей. Если мы подогреем только одну часть тела (например, одну стенку наполненного газом сосуда), равновесие нарушится на какое-то время. Но вскоре находящиеся в сосуде молекулы газа восстановят привычный для них порядок, тепло распространится по всему объему, наступит новое равновесие при температуре Т₂.

Смотрите, что происходит с кривой Максвелла: она стала широкой и плоской, более близкими друг другу стали вероятности разных скоростей. А раз так, значит величина энтропии, подсчитанная по формуле S = - ∑ P_ilog P_i должна возрасти. Так же, как в тексте, где буквы имеют близкую вероятность, так же, как в опыте с равным количеством разноцветных шаров.