«Должен сказать (сейчас, спустя 30 лет, я, полагаю, могу это сделать без риска быть обвиненным в самовосхвалении), что в тот период, несмотря на свои 27 лет, я был наивным, очень скромным и очень застенчивым человеком, несколько замкнутым и молчаливым. Речей я не произносил и так и не научился произносить их до сих пор. Язык у меня был словно чем-то скован, и я ничего с ним не мог поделать. Другое дело перо. С ним я умел обращаться. Не был я также никогда ни подлизой, ни подхалимом или выскочкой, но держал себя всегда скромно и, думаю, с чувством собственного достоинства. Таким я и предстал перед Берия, когда он меня тогда вызвал. Не надо было быть особо проницательным, чтобы понять все это, и мне думается, что Берия с первого взгляда разгадал мой характер. Он увидел возможность использования моих способностей в своих целях без риска иметь соперника или что-либо в этом роде», – вспоминал впоследствии Меркулов.
В изложении Меркулова, история его поступления на службу в ЧК проста и обыденна. Его больше не устраивала работа в школе для слепых, и он обратился к своему большевистски настроенному товарищу по гимназии Бошинджагяну. Тот обещал поговорить с кем надо и свел Меркулова с Такуевым из грузинской ЧК. В сентябре 1921-го Меркулова приняли на должность помощника уполномоченного транспортного отдела, а вскоре перевели на должность уполномоченного экономического отдела ЧК Грузии.
Через несколько месяцев после поступления Меркулова на службу в грузинскую ЧК пришёл Берия и сразу же стал заместителем председателя. Разумеется, он не мог не обратить внимание на такого подчинённого, поскольку он был в некотором роде уникумом. Чекисты в те времена не могли похвастать образованием. Образованные люди в ЧК идти не желали либо их туда не брали из-за недоверия. Так что два-три класса церковно-приходской школы уже считалось практически высшим образованием. Законченное среднее – это уже кандидат наук. А уж Меркулов с золотой гимназической медалью и тремя курсами столичного университета по местным меркам был практически академиком.
Поэтому всего за четыре года Меркулов вырос от помощника уполномоченного до начальника Экономического отдела. Правда, этот отдел всегда считался откровенно второстепенным. Но дальнейший карьерный рост был не за горами. В 1927 году Берия становится главой ГПУ, а Меркулова переводит руководить уже более значимым отделом – информации и политического контроля.
И, наконец, в 1929 году Меркулов возглавляет ключевое подразделение – секретно-оперативную часть (в свое время пост её руководителя занимал и сам Берия).
В 1931 году Берию переводят из ЧК в ЦК. Он становится первым секретарём грузинской компартии, т. е. главой республики. И сразу же забирает с собой Меркулова, который становится его помощником. За семь последующих лет Меркулов сменил немало постов. В последний год перед отъездом в Москву он был руководителем промышленно-транспортного отдела ЦК КП Грузии.
Для Меркулова Берия был не только благосклонным начальником, но и спасителем. Без его заступничества он мог легко вылететь и из ВКП(б), и из ГПУ в ходе регулярных кампаний чисток партии и проверок учета партийных документов. Поэтому особенно тяжело Меркулов переживал свою ошибку, когда в 1928-м в отсутствие Берии, поддавшись уговорам сослуживцев, тоже, как все, подал критическое заявление о невозможности работы с Берией. Потом каялся. И Берия его простил. С этих пор Меркулов был безмерно благодарен и особенно предан Берии, испытывая постоянное чувство вины за тот промах.
В 1934-м Меркулов стал заведующим отделом советской торговли Закавказского крайкома ВКП(б), с 1936-го возглавил особый сектор, а с июля 1937-го – промышленно-транспортный отдел ЦК КП(б) Грузии. Его партийная работа завершилась так же, как и началась. В сентябре 1938-го по предложению Берии он перешел вслед за ним на работу в НКВД в Москву. Как позднее писал Меркулов, «признаюсь, мне было тогда по приезде в Москву страшно тяжело работать в НКВД СССР, чего я никак не ожидал, едучи в Москву. С одной стороны, у меня не оказалось поначалу достаточных оперативных навыков <…>, с другой стороны, новые чекистские «методы», применявшиеся тогда и не известные мне до того времени (я ведь уже 7 лет был на партработе), меня крайне угнетали». Но ничего, Меркулов сдюжил. Он вошел в ближайший круг Берии, хотя и отмечал ревниво, что в Москве Берия к нему охладел и ценит больше Богдана Кобулова. В знак приближенности и особого доверия своих ближайших соратников Берия наградил шутливыми кличками. Меркулова звал – Меркулич.