Датское правительство тоже боялось распространения «красной заразы», но Максим Максимович оставался в Копенгагене почти год. Его контакты переросли в переговоры о возможности установления торговых отношений. Он вел переговоры и с англичанами.
В мае 1919 года Англия радиограммой предложила России провести переговоры об обмене военнопленными. 25 ноября в Копенгагене встретились Литвинов и член британского парламента Джеймс О’Грейди. Литвинов был в ту пору единственным представителем советского правительства за границей. Британскую въездную визу ему не выдали, потому что в 1918 году он был выслан из Англии. 12 февраля 1920 года Литвинов и О’Грейди подписали соглашение о военнопленных.
Затем Литвинова назначили полпредом и торгпредом в Эстонию. И наконец вернули в Москву заместителем наркома иностранных дел вместо Льва Карахана, которого отправили полпредом в Варшаву.
Имя Литвинова стало широко известным летом 1922 года, когда он возглавил советскую делегацию на Международной конференции в Гааге. Там собрались представители двадцати семи государств, чтобы обсудить вопрос о долгах России и возможном предоставлении ей кредитов. На кредиты Советская Россия очень рассчитывала, но признавать долги, сделанные царским и Временным правительством, отказывалась наотрез. Конференция закончилась провалом. Но в те времена в Москве именно такой стиль дипломатической работы пользовался почетом. «Правда» опубликовала басню Демьяна Бедного «Антантовская лиса и советский журавль»:
Максим Литвинов был одним из двух заместителей наркома иностранных дел и непосредственно руководил 2-м западным отделом (отношения с Румынией и Чехословакией). Но энергия, организаторские способности, широкие связи в партийном руководстве быстро поставили его на первое место в дипломатическом ведомстве. Он вел себя очень самостоятельно, постоянно спорил с наркомом. Он замещал Чичерина, если тот покидал Москву, и фактически возглавил наркомат, когда Георгий Васильевич заболел и уехал лечиться за границу.
В наркомате Литвинов слыл образцом организованности и пунктуальности. Он обладал завидным трудолюбием и твердым характером. Его сотрудники вспоминали потом, что в наркомат Литвинов приезжал в начале одиннадцатого утра и уезжал в начале пятого вечера. Он брал с собой бумаги и читал их в особняке Наркоминдела на Спиридоновке, где жил. Все успевал, все дела делал вовремя, сам не опаздывал и другим не позволял. Он принимал сотрудников точно в назначенное время. Литвинов всегда держался с достоинством, терпеть не мог лести и подхалимства.
В год, когда Литвинов стал руководителем советской дипломатии, наркомат лишили денег, которыми мог распоряжаться его предшественник. В 1930 году политбюро решило:
«а) Особые секретные фонды, находящиеся в распоряжении НКИД, ликвидировать. Одновременно обязать все республики и учреждения ликвидировать все секретные фонды, находящиеся в их распоряжении. Предложить впредь НКИД и республикам в случае особой нужды для покрытия секретных расходов испрашивать в каждом конкретном случае специальные ассигнования, причем расходы республик должны проводиться исключительно через НКИД.
б) Утвердить в основном предложение РКИ о снятии работников из полпредства, торгпредства и подконтрольных ему организаций во Франции, поручив НК РКИ и НКТоргу согласовать вопрос об отдельных кандидатурах».
22 июля 1930 года в газетах появилось постановление президиума Центрального исполнительного комитета СССР об утверждении Литвинова наркомом. О своем назначении наркомом Максим Максимович объявил на одном из приемов для иностранцев, которые тогда устраивал отдел печати НКИД. Это сообщение, по словам очевидца, было воспринято иностранными дипломатами с чувством большого облегчения — они почему-то боялись, что в преемники Чичерину выберут Сергея Мироновича Кирова, первого секретаря из Ленинграда. Иностранцы, работавшие в Москве, считали Кирова одним из наиболее твердых «сталинских ребят».
Споры о том, кто возглавит Наркомат иностранных дел после Чичерина, шли долго. Сталин сделал выбор в пользу Литвинова по тем же причинам, по которым Ленин и Троцкий в свое время остановились на Чичерине: текущими иностранными делами должен заниматься не политик, а профессионал. Однако, несмотря на большой партийный стаж и старые заслуги, особого партийного веса у Литвинова не было. Троцкий писал: «В аппарате партии Литвинов уже задолго до Октябрьской революции не играл никакой роли». На XVI съезде партии (июль 1930 года) его не избрали в ЦК.