Языкам Северного Кавказа в русской науке долго не везло. Академическая наука мало обращала на них внимания уже потому, что почти все они – не индоевропейские (кроме осетинского языка, довольно хорошо изученного благодаря В. Ф. Миллеру). Больше их изучали непрофессионалы, среди которых, однако, оказался настоящий самородок – генерал П. К. Услар, в 60–70-е гг. XIX в. написавший семь блестящих грамматик кавказских языков, совершенно самостоятельно предвосхитив в них идеи структурной лингвистики ХХ в., особенно фонологии. Но труды его не получили известности (их открыл для науки лишь Яковлев), а учеников и последователей Услар не оставил. Лишь перед революцией к этим языкам обратился знакомый Яковлева по университету (учился тремя курсами старше) Николай Сергеевич Трубецкой. Но тот мало что успел опубликовать до революции, потом эмигрировал, а собранные им материалы оставил во время Гражданской войны в Ростовском университете, где они затерялись (вернется к этим языкам он в эмиграции, когда Яковлев уже активно их изучал). Возможно, именно Трубецкой заинтересовал младшего коллегу этими языками, а теперь, когда тот был далеко, Яковлев решил сам заняться ими.
С тех пор все 20-е и 30-е гг. Яковлев почти ежегодно ездил на Кавказ. Первоначально он пытался совместить новые сюжеты с прежними: в 1921 г. записывал песни знаменитой архангельской сказительницы М. Д. Кривополеновой. Но вскоре Кавказ захватил ученого целиком. Поле деятельности было обширным и почти всем надо было заниматься впервые. Он, правда, сразу отказался от изучения языков, входившие в лучше изученные индоевропейскую и тюркскую семьи, но оставались Адыгея, Черкесия, Кабарда, Ингушетия, Чечня, наконец, Дагестан, «рай для лингвистов», где на небольшой территории сосредоточено более двадцати языков. Абхазия находится за Кавказским хребтом, но ее язык и культура сходны с северокавказскими, и она тоже вошла в сферу изучения Яковлева.
Экспедиции начались, когда в горных районах Кавказа Гражданская война еще не кончилась, в горах скрывались вооруженные отряды, не признававшие советскую власть. Позже бывший начальник Терской группы войск Беленкович писал о Яковлеве: «Всю работу проводил, буквально, в боевой обстановке, неоднократно рискуя жизнью… Яковлев, безусловно, храбрый человек – так я, содействуя ему добраться в намеченные районы, обычно считал возвращение его безнадежным». Но Николаю Феофановичу всегда везло.
По рассказам родных и знакомых, экспедиции сыграли в его жизни дурную роль в другом отношении: экстремальные нагрузки, бесконтрольность в его положении начальника экспедиций, кавказское гостеприимство – все это привело к тому, что уже в те годы Яковлев стал пить. Впоследствии порок будет усиливаться и многое испортит в его жизни (когда мы с Ф. Д. Ашниным печатали в 1994 г. статью о Яковлеве в «Известиях РАН» серии литературы и языка, по требованию главного редактора пришлось убрать все упоминания об этой стороне его жизни; думается все же, что не надо ничего приукрашивать).
Для руководства кавказскими экспедициями в 1924 г. при Главнауке Наркомпроса был создан Комитет по изучению языков и этнических культур Северного Кавказа во главе с Яковлевым. Современным сотрудникам академических институтов русского языка и языкознания трудно себе представить, что их учреждения ведут свое начало от этого комитета, включавшего в себя всего несколько человек. Среди сотрудников Яковлева самым заметным был выпускник Лазаревского института Лев Иванович Жирков, они образовали с Николаем Феофановичем удачный тандем, распределив между собой работу на основе единых планов (Дагестан в итоге перешел к Жиркову). Хотя Жирков был на семь лет старше, ведущим в тандеме был Яковлев: он подавал идеи, которые Жирков умел более тщательно разрабатывать. И, как рассказывают, лидерство Яковлева проявлялось и в человеческом плане: иногда он мог быть бесцеремонным по отношению к ближайшему сотруднику.