Опыты по изучению роли генотипических факторов в решении предъявляемых собакам задач («problem solving») были проведены на пяти породах собак: шотландских овчарках, жесткошерстных фокстерьерах, коккер-спаниелях и африканских охотничьих собаках (бассенджи). Исследование показало, что все четыре породы охотничьих собак имеют несколько более высокие показатели в решении предъявляемых задач, чем шотландские овчарки. Скотт и Фуллер (Scott, Fuller, 1965) считают, что это различие в поведении обусловливается тем, что шотландских овчарок в течение длительного времени селекционировали на выполнение тех команд, которые им подавал хозяин. Собаки этой породы как бы ждут от экспериментатора помощи в выборе тактики своего поведения. Несмотря на небольшие различия в поведении собак разных пород, исследователи пришли к выводу, что собаки всех изученных ими пород имеют одинаковый уровень развития интеллекта.
Исследования, проводившиеся на собаках, выявили исключительно большую роль условий воспитания на проявление пассивно-оборонительного (трусливого) поведения. Собаки, воспитанные в изоляции, как это было впервые показано в лаборатории И. П. Павлова, сохраняют «естественный рефлекс осторожности» по отношению ко всяким объектам (Выржиковский, Майоров, 1933). Это боязливое отношение к незнакомым условиям изживается с очень большим трудом и сохраняется почти на всю жизнь (Зевальд, 1938).
Последующие исследования, проведенные на собаках разных пород, показали, что предрасположенность к сохранению боязливого отношения к незнакомым объектам (и в том числе к человеку) контролируется генотипическими факторами. Частота проявления и степень выраженности трусости у немецких овчарок значительно выше, чем у эрдельтерьеров, несмотря на воспитание собак обеих пород в условиях, ограничивающих возможность восприятия всего многообразия внешней среды (Крушинский, 1960).
Сходные результаты были получены также Скоттом и Фуллером в их исследованиях на собаках в лаборатории Джексона. Таким образом, генетические исследования, проводившиеся на собаках, несомненно, самом удобным объекте для исследования высшей нервной деятельности и сложных форм поведения, позволили установить ряд важнейших закономерностей роли генотипических факторов в поведении и высшей нервной деятельности. Они представляют особенно большой интерес для феногенетического направления изучения поведения.
Широкие физиолого-генетические исследования проводятся под руководством Д. К. Беляева на серебристо-черных лисицах. Показано, что оборонительные реакции этих животных контролируются генотипом. Д. К. Беляевым и Л. Н. Трут (1964) показано плейотропное действие генов окраски шерсти на оборонительное поведение и размножаемость этих животных. Селекция на хорошую приручаемость лисиц к человеку привела к большому полиморфизму селекционированной группы лисиц. Этот факт подтверждает гипотезу Д. К. Беляева, что отбор по признакам поведения может привести к дезинтеграции сбалансированных полигенных систем, лежащих в основе морфофизиологических признаков (Беляев, 1972). Отбор, действующий в обратном направлении стабилизирующему отбору (Шмальгаузен, 1946), согласно гипотезе Д. К. Беляева, должен увеличивать фенотипическое разнообразие, приводя к увеличению крайних вариантных форм в популяции.
Указанные исследования представляют значительный интерес для понимания закономерностей доместикации диких видов животных.
Лабораторным объектом, широко использованным для изучения генетики поведения, являются крысы. Относительная быстрота размножения и простота содержания делают крыс, несомненно, более удобным объектом для генетических исследований поведения млекопитающих, чем собаки. Однако по многообразию и пластичности поведения крысы значительно уступают собакам.
Одним из первых исследований по генетике поведения была работа М. П. Садовниковой-Кольцовой (1931), выполненная на крысах. Это исследование было начато с целью выяснения роли генотипических факторов в способности к обучению. При изучении способности к обучению в лабиринте «Хемптон-Курт» из 840 крыс путем селекции удалось вывести две линии: быстро и медленно обучающуюся. Индекс (логарифм времени, затраченного на 10 счетных опытов) в группе крыс быстро обучающейся линии оказался выше, чем индекс в группе крыс медленно обучающейся линии (разница индексов обеих групп в 20 раз превышала вероятную ошибку). Дальнейший тщательный анализ показал, что найденные различия между обеими линиями крыс определяются не различием в их способности к обучению, а большой пугливостью одной из линий крыс, происходящей в значительной степени от диких норвежских (Rattus norvegicus). При обучении в аппарате Стона, в котором крыса подгонялась захлопывающимися дверцами и потому не имела возможности забиваться от испуга в угол лабиринта, обучение обеих линий шло с одинаковой скоростью.