Если представить себе все возможные способы, которыми можно собрать атомы, то подавляющее большинство вариантов будут выглядеть как ржавые кучи. И гораздо меньшее число будет напоминать автомобиль. И даже среди последних, заглянув внутрь, вы, скорее всего, обнаружите ржавую кучу. Работающий автомобиль получится в исчезающе малом числе вариантов. Энтропия автомобиля и энтропия ржавой кучи как-то связаны с числом вариантов, которые будут восприниматься как автомобиль и как ржавая куча соответственно. Если перемешать атомы автомобиля, вы с гораздо большей вероятностью получите кучу ржавчины, потому что такая куча реализуется намного большим числом вариантов, чем автомобиль.
А вот другой пример. Обезьяна, стучащая по клавишам пишущей машинки, будет почти всегда печатать абракадабру. Очень редко ей удастся построить грамматически правильное предложение вроде такого:
Английский алфавит содержит двадцать шесть букв, но есть и более простые системы письменности. Азбука Морзе — очень простая система, использующая всего два символа: точку и тире. Строго говоря, в ней три символа — точка, тире и пробел, — но всегда можно заменить пробел специальной последовательностью точек и тире, которая в других случаях вряд ли встретится. Если игнорировать пробелы, на описание короля Кнуда и его бородавки азбукой Морзе уходит в целом 110 знаков[62]:
Сколько различных сообщений азбукой Морзе можно составить из 110 точек и/или тире? Всё, что нужно, — это перемножить 110 двоек и получить 2110, что составляет примерно миллион миллиардов миллиардов миллиардов.
Когда информация кодируется с помощью двух символов — это могут быть точки и тире, единицы и нули или любые другие пары, — такие символы называются
Зачем нам эти трудности с переводом информации в точки и тире, нули и единицы? Почему не использовать последовательность 0, 1, 2, 3,4, 5, 6, 7, 8, 9, а еще лучше буквы алфавита? Сообщения было бы проще читать, и они занимали бы гораздо меньше места.
Суть в том, что буквы алфавита (как и десять обычных цифр) — это человеческое изобретение, которые мы обучаемся распознавать и хранить в памяти. Но каждая буква или цифра несет сразу много информации за счет весьма тонкой разницы между буквами А и Б или цифрами 5 и 8. Телеграфисты и компьютерщики, которые полагаются только на простейшие математические правила, предпочитают — на самом деле они просто вынуждены — использовать
Вернемся к королю Кнуду. Сколько из 110-битных сообщений будут
ОРКЫУРООЛО ДАДВЛБОНБРЕ ДКБКАУАОЯНАОКДПА
Допустим, вы перемешивали буквы совсем недолго. Сообщение лишь слегка утратит связность. «У кролоя Кнуда была бородавка а подбородкен». Но постепенно буквы будут превращаться во все менее осмысленную мешанину. Бессмысленных комбинаций так много, что сползание к абракадабре неизбежно.
Теперь я могу дать определение энтропии.