В устной речи также много избыточности. Без таких артиклей, как
Мы все инстинктивно это понимаем. Мы повышаем и понижаем избыточность своих сообщений в зависимости от числа помех, подобно тому как мы добавляем и убираем дополнительные слои одежды в зависимости от температуры на улице. Отправляя текстовое сообщение, мы уверены, что буквы будут переданы без потерь, а адресат поймет контекст. Это свободный от шумов канал связи, а потому мы убираем множество избыточных букв, например, печатая: “С
Порой мы, напротив, добавляем избыточности, страдая от помех на телефонной линии: “МОЯ… ФАМИЛИЯ… ПЕТРОВ. П — Павел, Е — Егор, Т — Тимофей, Р — Роман, О — Олег, В — Владимир”.
Лингвистическая избыточность не позволяет передаваемым идеям превратиться в шум. Подобно тому как часть теплоты теряется при переходе из горячей зоны в холодную, производя работу, часть слов и букв теряется или искажается при передаче сообщения.
Именно знания об информационной энтропии и избыточности позволяют нам строить информационные сети.
Взять, например, такие сервисы, как
Информация теряется не только при преодолении расстояний. Значимая информация, как правило, искажается и со временем. Люди давно это поняли. Чернила выцветают, бумага желтеет и рвется, а надписи на глине и камнях подвергаются эрозии. Мы боролись с этим с помощью стойких чернил и прочного пергамента, но даже они гибли при пожарах в библиотеках. Тогда мы стали добавлять избыточность, создавая множество копий текстов, которые считаем важными, и часто даже воспроизводя написанное на разных языках. Авторы Розеттского камня добавили избыточности, написав одно и то же послание на трех языках, и тем самым продемонстрировали, что такая стратегия позволяет передать сообщение на две тысячи лет в будущее. Письменные языки сами по себе представляют пример избыточности, необходимой для долгосрочной защиты информации. Они не добавляют смысла устной речи, а существуют для того, чтобы охранять значение слов на протяжении долгого времени после того, как мозг, родивший их, обратится в прах.
Ученый Рольф Ландауэр описал эту идею фразой “информация материальна”. Все формы информации требуют изменений в физической вселенной. При записи слов необходимо делать пометки на каком-то физическом носителе.
Но даже устная речь предполагает движение голосовых связок, от которого вибрируют молекулы воздуха. Подобным образом мысль требует электрохимических изменений в нейронах нашего мозга. В этом отношении информационная энтропия тесно связана с термодинамической энтропией. При разрушении физических систем разрушается и содержащаяся в них информация. Представьте, что вы написали свое имя на песке на пляже. При этом частицы песка выстроились в маловероятную низкоэнтропийную конфигурацию — в узор, имеющий смысл. Когда набегает волна, этот смысл теряется: частицы песка перемешиваются и складываются в более вероятные, но менее осмысленные конфигурации с высокой энтропией.
Как бы мы ни предпочли записывать информацию, непрерывное повышение энтропии, несомненно, сотрет ее, как волна стирает имя, написанное на песке. Предсказание Уильяма Томсона о тепловой смерти Вселенной распространяется на мысли, слова и воспоминания. Всему настанет конец при одной и той же температуре, все будет забыто.
* * *
В июле 1948 года, когда Шеннон опубликовал свою статью, никто не мог представить, с каким размахом будут применяться его идеи. Никто также не спрашивал, можно ли считать общие черты термодинамической и информационной энтропии случайными или же они представляют собой две стороны одного явления.