Литвинов, став наркомом, продолжал курировать 3-й отдел — близкие ему англо-саксонские и романские страны. 2-м западным отделом — Центральная Европа и Скандинавия — руководил Крестинский. Нарком был сух и резок, возможно, подражая стилю Сталина. Но с Литвиновым можно было спорить. Дискуссии в Наркоминделе прекратились только с приходом Молотова.
Крестинский оставался доступен и прост. Николай Николаевич проработал в Наркоминделе до весны 1937 года, когда его внезапно перебросили в Наркомат юстиции и почти сразу арестовали. Его сделали одним из главных обвиняемых на процессе по делу «антисоветского правотроцкистского блока» в марте 1938 года.
В мае 1933 года заместителем наркома по дальневосточным странам (Япония, Китай, Монголия) назначили Григория Яковлевича Сокольникова, который сыграл большую роль в Гражданской войне, потом стал наркомом финансов и кандидатом в члены политбюро. Он тоже считался близким к Троцкому человеком, и в 1929 году его отправили полпредом в Англию. Осенью 1932 года Сокольников попросился домой. Его назначили в Наркомат иностранных дел. Он некоторое время занимался отношениями с Монголией, а потом стал заместителем наркома, но ненадолго. Отношения с Литвиновым у него не сложились, в 1934 году число замов в наркомате сократили, а Сокольникова перевели первым замом в Наркомат лесной промышленности. В 1936 году его арестовали, приговорили к десяти годам тюремного заключения. Он был убит в тюрьме.
Лев Михайлович Карахан оставался заместителем наркома по ближневосточным странам (Афганистан, Персия, Турция, Аравийские страны). У Карахана, близкого к предыдущему наркому — Чичерину, было скрытое (но не для аппарата) соперничество с Литвиновым. Максим Максимович своего зама недолюбливал, поэтому при нем Карахан перестал исполнять обязанности руководителя ведомства во время командировок наркома.
В мае 1934 года с поста второго заместителя наркома Лев Михайлович был отправлен послом в Турцию. Карахан скучал в Анкаре, просился на более деятельную работу.
31 декабря 1936 года он писал наркому обороны Ворошилову, с которым был на «ты», жалуясь, что угнетен своим нынешним положением, что по линии НКИД перспектив у него нет и он бы ушел на другую работу: «Я все возвращаюсь мыслями к НКВД. Там я мог бы быть полезен. Там идет большая работа по иностранным делам, и я мог быть неплохим помощником Ежову».
Поразительно, что даже высшие чиновники тогда так плохо ориентировались в том, что происходит в стране. В НКВД Караханом действительно заинтересовались. Но с другой целью… — его отозвали в Москву только для того, чтобы арестовать и расстрелять…
В 1934 году Коллегии во всех наркоматах, в том числе в НКИД, ликвидировали. При Чичерине на совещаниях шли настоящие споры, члены Коллегии, тот же Литвинов, позволяли себе не соглашаться с наркомом, писать в ЦК, отстаивая свою позицию. Но Сталин решил, что Коллегии — административное излишество. Политбюро приняло решение: «В интересах доведения до конца принципа единоначалия в управлении наркоматами считать целесообразным ликвидировать коллегии наркоматов, оставив во главе наркоматов наркома и не более двух замов». Вместо четырех заместителей Литвинову оставили двоих — Крестинского (первый зам) и Стомонякова (второй). Это укрепило его власть внутри наркомата. Тем более что в начале 1934 года Литвинова избрали членом ЦК.
Стомоняков руководил 1-м западным отделом (отношения с Польшей и Прибалтикой). Это был главный отдел, потому что отношения с Польшей оставались определяющими для тогдашнего советского руководства, и Стомоня-кову нарком доверял больше других. Когда начались массовые репрессии в наркомате, Литвинов пытался спасти Стомонякова, который в момент ареста пытался застрелиться и попал в тюремную больницу. Литвинов попросился на прием к Сталину. Понимая, чем рискует, твердо сказал:
— Я ручаюсь за Стомонякова.
Сталин ответил:
— Товарищ Литвинов, вы можете ручаться только за себя.
Стомоняков был уничтожен. Из всего руководства наркомата выжил только сам Максим Максимович…
Штат полпредств поначалу был небольшим: сам полпред, советник, первый секретарь, военный атташе, генеральный консул. Дальше шел технический персонал: секретари консульства, завхоз, шифровальщик, охрана из ОГПУ (затем НКВД).
Москва следила за тем, чтобы советские дипломаты жили скромно. В 1926 году в протоколе заседания политбюро записали:
«1. Полпредам и торгпредам в Германии, Латвии и Эстонии объявить строгий выговор за допущенные излишества и разгул в день 9-й годовщины революции, компрометирующие нашу Республику в глазах рабочих.
2. Поручить Наркомату рабоче-крестьянского контроля собрать исчерпывающий материал по этому делу и представить проект мер о жестком регламентировании расходов всех полпредств и торгпредств исходя из необходимости сократить их в два раза».