Одной из существенных особенностей работы сетей для обработки сигналов является латеральное торможение. Это явление, подробно исследованное на сетчатке глаза мечехвоста, состоит в том, что нейроны одного и того же слоя при действии на них сигналов тормозят друг друга тем сильнее, чем ближе друг к другу располагаются. Наличие латерального торможения было затем установлено в сетчатке глаза, в слуховой системе, системе осязания и в некоторых других структурах центральной нервной системы позвоночных. Количественную модель для преобразования изображений глазом мечехвоста предложил В. Рейхардт (1965). Он выяснил, в какой мере боковое торможение исправляет недостатки оптической системы этого глаза. Использование таких сетей для анализа акустических образов было предложено П. Мюллером, Т. Мартином и Ф. Путцратом (1962) и подробно исследовано в модели слуховой системы Н.В. Позиным (1970).
Наряду с системами, анализирующими поступающие сигналы, изучались также сети, решающие обратную задачу — формирование выходных команд для исполнительных органов. В частности, рассматривались сети, обеспечивающие возникновение периодической активности нервных клеток и мышц — модели дыхания, ходьбы, полета, модели, обеспечивающие асинхронную работу мотонейронов и другие (И.М. Гельфанд и др., 1963; Н.В. Позин, 1970).
Помимо вопросов о принципах хранения, передачи и переработки сигналов теория информации занимается также проблемами надежности и борьбы с шумами. Эти проблемы возникли в технике Связи, при конструировании вычислительных машин и сложных комплексов, где большое число используемых элементов увеличивало вероятность получения ошибочных результатов. В качестве биологической проблемы вопрос о надежности мозга был поставлен еще опытами К. Лешли (1918–1933).
В математическую форму проблема надежности была облечена Дж. фон Нейманом (1952) и впервые рассмотрена им, а также Е. Муром и К. Шенноном (1956). Один из методов Повышения надежности, предложенный Нейманом, состоял в том, что выход каждого элемента заменялся пучком линии, а каждый элемент сети — схемой, которая оперировала с пучками входных и выходных; линий. Нейман оценил избыточность схемы, необходимую для достижения определенной надежности. Например, если вместо одного элемента, который ошибается один раз из 200, использовать 60 000 элементов, то ошибка будет возникать один раз на 1020
случаев.Мур и Шеннон отметили связь задачи, рассмотренной Нейманом, с проблемой построения надежного кода для случаев, когда надежность передачи отдельного символа низка. Они показали, что при использовании других элементов схемы могут быть получены лучшие результаты и обеспечено то же повышение надежности при избыточности не в 60 000, а всего в 100 раз.