Пусть нам надо передать сообщение с помощью электрического провода на расстояние, скажем, 100 км. И пусть через каждый километр провода мы имеем возможность поставить автоматическую станцию, которая будет усиливать сигнал до той мощности, которую он имеет на предыдущей станции, и — если нужно — как-то преобразовывать его (рис. 1.1
).Допустим, что максимальная величина сигнала, который позволяет послать наша аппаратура, составляет 1 В и что среднеквадратичное искажение сигнала при передаче от станции к станции (помеха) равно 0,1 В.
Рассмотрим сначала непрерывный способ передачи информации. Тогда содержанием сообщения будет величина напряжения, приложенного к проводу у его начала. Величина напряжения на другом конце провода — принятое сообщение — будет из-за помех отличаться от начального напряжения. Как велико будет это отличие? Считая помехи на различных участках линии независимыми, мы находим, что после прохождения ста станций среднеквадратичная величина помехи составит 1 В (складываются средние квадраты помех). Таким образом, помеха в среднем равна максимальному сигналу, поэтому ясно, что никакой полезной информации мы фактически не получим. Значение принятого напряжения может совпадать со значением переданного напряжения разве что случайно. Если, например, нас устраивает точность в 0,1 В, то вероятность такого совпадения равна примерно 1
/10.Теперь рассмотрим дискретный способ передачи. Определим два «осмысленных» состояния начального участка провода: когда приложенное напряжение равно нулю и когда оно максимально (1 В). На промежуточных станциях установим автоматические устройства, которые в одном случае, если принято напряжение меньше 0,5 В, передают дальше нулевое напряжение, а если оно больше 0,5 В, посылают нормальный сигнал в 1 В. Следовательно, в данном случае за один раз (одним сигналом) передается информация вида «да» или «нет» (такое количество информации — единица информации — называется
Начав описывать конкретную кибернетическую систему, мы невольно употребляем термин
Представим себе две подсистемы