Но дипломатические поручения постепенно стали вытеснять все остальные задания. В ноябре 1919 года Литвинов отправился в Копенгаген вести переговоры с англичанами об обмене пленными. 24 ноября покинувшая Россию вдовствующая императрица Мария Федоровна записала в дневнике: «Сегодня ожидается прибытие с английским судном этого большевистского чудовища Литвинова. Правда, ему не разрешают сойти на берег».
Датское правительство тоже боялось распространения «красной заразы», но Максим Максимович оставался в Копенгагене почти год. Его контакты переросли в переговоры о возможности установления торговых отношений. Он вел переговоры и с англичанами.
В мае 1919 года Англия радиограммой предложила России провести переговоры об обмене военнопленными. 25 ноября в Копенгагене встретились Литвинов и член британского парламента Джеймс О’Грейди. Литвинов был в ту пору единственным представителем советского правительства за границей. Британскую въездную визу ему не выдали, потому что в 1918 году он был выслан из Англии. 12 февраля 1920 года Литвинов и О’Грейди подписали соглашение о военнопленных.
Затем Литвинова назначили полпредом и торгпредом в Эстонию. И наконец, вернули в Москву заместителем наркома иностранных дел вместо Льва Карахана, которого отправили полпредом в Варшаву.
Имя Литвинова стало известным летом 1922 года, когда он возглавил советскую делегацию на Международной конференции в Гааге. Там собрались представители 27 государств, чтобы обсудить вопрос о долгах России и возможном предоставлении ей кредитов. На кредиты Советская Россия очень рассчитывала, но признавать долги, сделанные царским и Временным правительством, отказывалась наотрез.
Конференция закончилась провалом. Но в те времена в Москве именно такая дипломатическая работа пользовалась почетом. «Правда» опубликовала басню революционного поэта Демьяна Бедного «Антантовская лиса и советский журавль»:
Максим Литвинов был одним из двух заместителей наркома иностранных дел и руководил 2-м западным отделом (отношения с Румынией и Чехословакией). Но энергия, организаторские способности, широкие связи в партийном руководстве быстро поставили его на первое место в дипломатическом ведомстве. Он вел себя очень самостоятельно, постоянно спорил с наркомом. Он замещал Чичерина, если тот покидал Москву, и фактически возглавил наркомат, когда Георгий Васильевич заболел и уехал лечиться за границу.
В наркомате Литвинов слыл образцом организованности и пунктуальности. Он обладал завидным трудолюбием и твердым характером. Его сотрудники вспоминали потом, что в наркомат Литвинов приезжал в начале одиннадцатого утра и уезжал в начале пятого вечера. Он брал с собой бумаги и читал их в особняке Наркоминдела на Спиридоновке, где жил. Все успевал, все дела делал вовремя, сам не опаздывал и другим не позволял. Он принимал сотрудников точно в назначенное время. Литвинов всегда держался с достоинством, терпеть не мог лести и подхалимства.
В год, когда Литвинов стал руководителем советской дипломатии, наркомат лишили денег, которыми мог распоряжаться его предшественник. В 1930 году политбюро решило:
«а) особые секретные фонды, находящиеся в распоряжении НКИД, ликвидировать. Одновременно обязать все республики и учреждения ликвидировать все секретные фонды, находящиеся в их распоряжении. Предложить впредь НКИД и республикам в случае особой нужды для покрытия секретных расходов испрашивать в каждом конкретном случае специальные ассигнования, причем расходы республик должны проводиться исключительно через НКИД;
б) утвердить в основном предложение РКИ о снятии работников из полпредства, торгпредства и подконтрольных ему организаций во Франции, поручив НК РКИ и НКТоргу согласовать вопрос об отдельных кандидатурах».
22 июля 1930 года в газетах появилось постановление президиума Центрального Исполнительного Комитета СССР об утверждении Литвинова наркомом. О своем назначении наркомом Максим Максимович объявил на одном из приемов для иностранцев, которые тогда устраивал отдел печати НКИД. Это сообщение, по словам очевидца, было воспринято иностранными дипломатами с чувством большого облегчения: они почему-то боялись, что в преемники Чичерину выберут Сергея Мироновича Кирова, первого секретаря из Ленинграда. Иностранцы, работавшие в Москве, считали Кирова одним из наиболее твердых «сталинских ребят».