При этом, разумеется, одни знаки несут меньше информации, чем другие. Например, буквы, которые встречаются часто, такие как
На деле подобные усовершенствования ничего не дают, потому что реальный мир несовершенен: рукописные тексты всегда содержат описки и двусмысленности, наборщики делают опечатки, телефонные линии полны помех.[116]
К тому времени, как сообщение достигнет другого конца линии, некоторые его фрагменты потеряются, а некоторые посторонние звуки окажутся добавлены. Для идеальных сообщений, в которых нет избыточных знаков, подобный шум губителен. Другого конца провода достигнет сообщение, отличное от исходного, и не будет никакой возможности узнать, что произошла ошибка.Если же сообщение содержит избыточные биты информации, то ошибки можно отследить и восстановить исходное сообщение. Например, можно послать одно и то же сообщение дважды. Второе сообщение совершенно избыточно, но если между двумя полученными сообщениями есть разница, мы поймем, что произошли какие-то ошибки. Мы, конечно, по-прежнему не будем знать, какой вариант правильный. Но если мы пошлем то же сообщение в третий раз, мы можем отследить случаи, где два из полученных трех сообщений совпадают, и, исходя из этого, выбрать правильный вариант.
Я помню времена, когда у нас не было не только компьютеров, но и электронных калькуляторов. Сложные математические расчеты приходилось выполнять вручную, и при этом почти неизбежно возникали ошибки. Стандартная процедура отслеживания таких ошибок состояла в том, чтобы повторять выполняемые расчеты трижды. Если в двух случаях из трех получался один и тот же ответ, он, скорее всего, и был правильным, потому что маловероятно, чтобы в обоих расчетах была допущена одна и та же ошибка.
Наш мозг сталкивается с той же самой проблемой. Сообщения об окружающем мире, поступающие от наших глаз и ушей, содержат шум и полны ошибок, поэтому наш мозг не может уверенно сказать, где "правда", а где "ошибка". Чтобы избежать этого, наш мозг вовсю пользуется избыточностью поступающей информации. Когда мы разговариваем с другим человеком, мы обычно не только слушаем, что он говорит, но и внимательно смотрим за движением его губ. Сопоставляя эти две разновидности информации, наш мозг получает лучшее представление об исходном сообщении. Обычно мы не осознаём, что нам помогают в этом движения губ, но когда мы смотрим озвученный иностранный фильм (или фильм на нашем родном языке, в котором плохо смонтирована фонограмма), мы сразу чувствуем, что что-то не так, потому что движения губ не соответствуют звукам.
Применение теории информации позволило сделать телефонные линии более эффективным средством передачи сообщений.[117]
Но роль, которую сыграла теория информации, отнюдь не ограничивается увеличением прибыли телефонных компаний. Определение информации через простые физические состояния (такие, как положения "вкл" и "выкл" электронного переключателя) означало, что теперь информацию можно хранить на физических носителях, то есть на цифровых запоминающих устройствах. Долгое время для хранения информации использовались книги, написанные и читаемые людьми. Новые запоминающие устройства позволяли записывать и считывать информацию машинам, от которых не требовалось понимания смысла записываемых и считываемых знаков. И конечно, эти новые запоминающие устройства можно было наполнять уже новым содержанием.Уже в 1943 году Уоррен Маккаллок и Уолтер Питтс выдвинули новую нейронную доктрину, согласно которой нейрон – это элементарная функциональная единица мозга, служащая для обработки информации. Маккаллок и Питтс также предположили, что из обширных сетей простых электронных "нейронов" можно сконструировать искусственный мозг. Первые компьютеры были сделаны не по образцу нейронных сетей, однако, подобно искусственным нейронным сетям, они представляли собой устройства, способные хранить, передавать и видоизменять информацию в соответствии с определенными правилами. Когда в сороковых годах были сконструированы первые такие компьютеры, их сразу стали называть "электронные мозги". Такие машины можно было научить делать то, что делает наш мозг.
На что же способны хитроумные устройства?