К константным формам инстинктивного поведения относятся различные церемонии, характерные для брачного, родительского, территориального и общественного поведения животных. Дж. Хаксли (1914), описавший, как самец чомги (Posiceps critatus) во время тока «преподносит» самке веточку водорослей, назвал такие реакции «ритуальными действиями» или «ритуалами». Ритуалы проявляются в строго стереотипной форме у всех особей данного вида, в том числе и у тех, которые выросли в неволе и не имели общения со своими сородичами. Позднее было установлено, что существует несколько основных типов ритуалов, которые у разных животных выполняют одну и ту же функцию, хотя могут очень значительно различаться по внешнему выражению. Так, для животных, образующих индивидуализированные союзы, характерен ритуал, сигнализирующий партнеру о сохранении семейных уз. Был изучен другой важнейший вид ритуального поведения, характерный для представителей большого количества систематических групп, — угрожающие демонстрации самцов, конкурирующих из-за гнездовой территории или самки.
В результате тщательного наблюдения и описания инстинктивного поведения Лоренц выдвинул ряд соображений о его внутренних механизмах. По его представлениям (1947), осуществление инстинктивного поведения связано с непрерывным накоплением специфической энергии в соответствующих нервных центрах. Обычно разрядке этих центров препятствует некий тормозный механизм — «замóк». При действии специфических раздражителей, называемых ключевыми или релизерами, приходит в действие так называемый врожденный размыкающий механизм, который устраняет торможение и способствует разрядке соответствующих центров.
Представление о ключевых раздражителях в значительной мере формировалось в результате изучения ритуального поведения. Было показано, что ритуальное поведение управляется строго определенными позами, движениями и другими сигналами. В состав этих сигналов входят специфические звуки, запахи, а также некоторые морфологические признаки, которые могут подчеркивать выразительность ритуальных действий. Так, яркая брачная окраска самцов многих видов животных служит средством усиления их токовых движений, а темно-бурая окраска головы обыкновенной чайки (Larus ridibundus) подчеркивает ее угрожающие позы. В других случаях эти же признаки служат, например, для опознания партнеров, родителей детьми и т. д. Этологи, исследовавшие этот вопрос, пришли к выводу, что помимо врожденных действий у животных существует врожденное опознавание.
Было выяснено, что для многих реакций ключевыми раздражителями являются морфологические признаки. Так, например, голландский этолог Н. Тинберген[43]
показал, что самцы трехи́глой колюшки (Gasterosteus aculeatus), защищая свою территорию, реагируют на строго специфический признак самца своего вида — красное брюшко. Если на территорию, занятую этой рыбкой, поместить точную модель самца, но с брюшком другого цвета, никакого столкновения не произойдет. Напротив, самая грубая модель подвергнется яростному нападению, если внизу у нее есть красное пятно. По выражению этологов, такие сигнальные раздражители подходят к соответствующим реакциям поведения, как «ключ к замку», «высвобождая» многие весьма сложные акты поведения без специального обучения.Сходные представления о механизмах инстинктивных реакций параллельно с Лоренцем развивал Тинберген, ныне работающий в Оксфорде (Англия). Следуя представлениям Крэга, он предложил следующую гипотезу об «иерархии инстинктов» (1951): под влиянием ряда нервных и гуморальных факторов у животного возникает определенное внутреннее состояние (побуждение или влечение, по У. Крэгу), например, чувство голода или полового возбуждения; одновременно начинает расти возбудимость ряда нервных центров. Затем происходит разрядка центра поискового поведения, и животное начинает искать соответствующие его внутреннему состоянию раздражители — пищу или самку. Когда эти раздражители, обладающие определенными специфическими свойствами (релизеры), будут найдены, произойдет разрядка центра, занимающего следующий иерархический уровень. В результате совершится завершающее действие — овладение пищей или совокупление. Существенно, что, согласно этой гипотезе, центры одних реакций поведения могут быть подавлены другими. Например, если у самца чайки во время ухаживания за самкой усиливается возбуждение центра голода, он может прекратить брачные демонстрации и отправиться на поиски отсутствующего корма. В данном случае поведение определяется не присутствием внешнего раздражителя, а соответствующим внутренним побуждением.