Механизм эволюции Шмальгаузен рассматривал с точки зрения кибернетики, процесс взаимодействия системы и внешней среды представлял как последовательность информационных процессов: накопления, отбора, преобразования, передачи информации о свойствах (признаках) отдельных элементов и системы в целом.
Действие регуляторного механизма развития системы проявляется на различных уровнях ее организации и зависит от реакции на изменение внешних факторов, от форм взаимодействия системы с факторами внешней среды. В зависимости от уровня структуризации системы взаимозависимость с внешними факторами проявляется в различных формах, так как относится к разным уровням организации системы и различным процессам. В роли регулятора выступает внешняя среда, включающая рассматриваемую систему. Внешняя среда должна быть связана с развивающейся системой двумя линиями связи – прямой линией передачи управляющих сигналов от внешней среды к системе и линией обратной связи, передающей во внешнюю среду информацию о действительном состоянии системы. В процессе своего функционировании система передает во внешнюю среду информацию о количественном составе соответствующих элементов-признаков, об их распределении. Во внешней среде происходит преобразование этой информации (контроль и отбор наиболее ценной информации). Отобранная информация накапливается во внешней среде и передается в систему путем появления соответствующих свойств (признаков) у элементов системы.
В биологических системах в роли регулятора выступает биогеоценоз. Популяция, входящая в состав данного биогеоценоза, связана с ним двумя каналами. Первый канал связи лежит на молекулярном уровне организации и служит для передачи наследственной информации от зиготы до первичных половых клеток зрелой особи. Второй канал связи лежит на уровне организации особи и служит для передачи обратной информации от фенотипов к биогеоценозу. Между этими двумя каналами «вставлены» механизмы преобразования, обеспечивающие связь между ними и замыкающие таким образом элементарный цикл эволюционных изменений.
Таким образом, осуществляется двусторонняя связь между внешней средой и включенной в ее состав системой. Однако между обеими линиями передачи нет непосредственной связи, так как они находятся на разных уровнях. Накопленная информация передается по прямому каналу на уровне признаков отдельных элементов, а обратная информация – только на уровне элементов и компонентов системы. Так как регулирующие механизмы развития системы связаны с внешней средой, то следует считаться с возможностью различных случайных внешних влияний, которые искажают передачу информации и нарушают нормальное течение преобразований.
Если биогеоценоз в целом играет роль регулятора эволюционного процесса, то он обязательно должен быть обеспечен «информацией» о состоянии популяции (по линии «обратной» связи), должен включать в себя специфический механизм преобразования этой информации в управляющие сигналы и средства передачи последних на популяцию. Таким образом, кроме механизма преобразования, необходимы каналы связи для передачи информации в двух направлениях – от популяции к биогеоценозу и от биогеоценоза к популяции. Так как изменение популяции, будучи элементарным эволюционным процессом, всегда сопровождается наследственным изменением ее особей, то управляющие сигналы от биогеоценоза к популяции должны каким-то образом включить возможность изменения ее наследственной структуры. Последнее может произойти только в процессе преобразования информации в самом биогеоценозе (т.е. в «регуляторе»). Так как первичные эволюционные изменения возможны только в популяции (или в поколениях особей, но не в отдельных особях), то наиболее простым изменением является хотя бы небольшое изменение в генетическом составе популяции, т.е. в соотношении числа особей с разной наследственной характеристикой (генотипов). Информация о таких изменениях популяции может быть сообщена через наследственный аппарат ее особей и передана особям следующего поколения при посредстве, например, половых клеток. Такой аппарат действительно имеется, и, несомненно, он полностью обеспечивает надежную связь популяции с регулирующим механизмом биогеоценоза и дальнейшую передачу информации от одного поколения особей к следующему. Имеются и средства передачи обратной информации от популяции к биогеоценозу. Популяция, несомненно, активно воздействует на биогеоценоз, хотя бы через потребление пищевых материалов и накопление продуктов своей жизнедеятельности. В известных условиях популяция может внести значительные изменения в строении биогеоценоза. Таким образом, имеются и каналы обратной связи.