Крестинский оставался доступен и прост. Николай Николаевич проработал в Наркоминделе до весны 1937 года, когда его внезапно перебросили в Наркомат юстиции и почти сразу арестовали. Его сделали одним из главных обвиняемых на процессе по делу «антисоветского правотроцкистского блока» в марте 1938 года.
В мае 1933 года заместителем наркома по дальневосточным странам (Япония, Китай, Монголия) назначили Григория Яковлевича Сокольникова, который сыграл важную роль в Гражданской войне, потом стал наркомом финансов и кандидатом в члены политбюро. Он тоже считался близким к Троцкому человеком, и в 1929 году его отправили полпредом в Англию. Осенью 1932 года Сокольников попросился домой. Его назначили в Наркомат иностранных дел. Он некоторое время занимался отношениями с Монголией, а потом стал заместителем наркома, но не надолго. Отношения с Литвиновым у него не сложились, в 1934 году число замов в наркомате сократили, а Сокольникова перевели первым замом в Наркомат лесной промышленности. В 1936 году его арестовали, приговорили к десяти годам тюремного заключения. Он был убит в тюрьме.
Лев Михайлович Карахан оставался заместителем наркома по ближневосточным странам (Афганистан, Персия, Турция, аравийские страны). У Карахана, близкого к предыдущему наркому — Чичерину, не сложились отношения с Литвиновым. Максим Максимович своего зама недолюбливал, поэтому при нем Карахан перестал замещать руководителя ведомства во время командировок наркома.
В мае 1934 года с поста второго заместителя наркома Лев Михайлович был отправлен послом в Турцию. Карахан скучал в Анкаре, просился на более деятельную работу. 31 декабря 1936 года он писал наркому обороны Ворошилову, с которым был на «ты», жалуясь, что угнетен своим нынешним положением, что по линии НКИД перспектив у него нет и он бы ушел на другую работу: «Я все возвращаюсь мыслями к НКВД. Там я мог бы быть полезен. Там идет большая работа по иностранным делам, и я мог быть неплохим помощником Ежову».
Поразительно, что даже высшие чиновники тогда так плохо ориентировались в том, что происходит. В НКВД Караханом действительно заинтересовались. Но с другой целью. Его отозвали в Москву только для того, чтобы арестовать и расстрелять…
В 1934 году коллегии во всех наркоматах, в том числе в НКИД, ликвидировали. При Чичерине на совещаниях шли настоящие споры, члены коллегии, тот же Литвинов, позволяли себе не соглашаться с наркомом, писать в ЦК, отстаивая свою позицию. Но Сталин решил, что коллегии — административное излишество. Политбюро приняло решение: «В интересах доведения до конца принципа единоначалия в управлении наркоматами считать целесообразным ликвидировать коллегии наркоматов, оставив во главе наркоматов наркома и не более двух замов».
Вместо четырех заместителей Литвинову оставили двоих — Крестинского (первый зам) и Стомонякова (второй). Это укрепило его власть внутри наркомата. Тем более что в начале 1934 года Литвинова избрали членом ЦК.
Стомоняков руководил 1-м западным отделом (отношения с Польшей и Прибалтикой). Это был главный отдел, потому что отношения с Польшей оставались определяющими для тогдашнего советского руководства, и Борису Стомонякову нарком доверял больше других. Когда в наркомате начались массовые репрессии, Литвинов приложил усилия, чтобы спасти Стомонякова, который в момент ареста пытался застрелиться и попал в тюремную больницу. Литвинов попросился на прием к Сталину. Понимая, чем рискует, твердо сказал:
— Я ручаюсь за Стомонякова.
Сталин ответил:
— Товарищ Литвинов, вы можете ручаться только за себя.
Стомоняков был уничтожен. Из всего руководства наркомата выжил только сам Максим Максимович…
Штат полпредств поначалу был небольшим — сам полпред, советник, первый секретарь, военный атташе, генеральный консул. Дальше шел технический персонал — секретари консульства, завхоз, шифровальщик, охрана из ОГПУ (затем НКВД).
Москва следила за тем, чтобы советские дипломаты жили скромно. В 1926 году в протоколе заседания политбюро записали:
«1. Полпредам и торгпредам в Германии, Латвии и Эстонии объявить строгий выговор за допущенные излишества и разгул в день 9-й годовщины революции, компрометирующие нашу Республику в глазах рабочих.
2. Поручить НК РКИ собрать исчерпывающий материал по этому делу и представить проект мер о жестком регламентировании расходов всех полпредств и торгпредств, исходя из необходимости сократить их в два раза».
Муза Васильевна Канивез, жена Федора Раскольникова, который был полпредом в Афганистане, Эстонии, Дании, Болгарии, оставила воспоминания о посольской жизни. Когда они с мужем приезжали в Москву в отпуск и искренне говорили, что им надоело жить вдали от родины, один из коллег шепотом отвечал:
— Не спешите, Музочка, вернуться из-за границы. Здесь адская жизнь.