Были задействованы все неформальные связи с американской элитой резидентов ПГУ КГБ Феклисова, резидента ГРУ Большакова и посла СССР в США Добрынина. Феклисов на свой страх и риск, без согласования с МИДом, предупредил американцев, что в случае вторжения на Кубу СССР нанесёт сокрушительный удар по американским войскам в Западном Берлине. Тогда американцы предложили компромисс: взамен на демонтаж и вывоз советских ракет с Кубы США обязуются снять блокаду и воздержатся от вторжения на Кубу.
По поручению Громыко посол Добрынин потребовал также вывода американских войск ещё и из Турции. 28 октября 1962 года после этих договорённостей, одобренных Хрущёвым и Кеннеди, ракеты были возвращены с Кубы, а США без лишней огласки закрыли базы США в Турции, и Карибский кризис был урегулирован.
Феклисов вспоминал, что в целях сохранения тайны Хрущёв пошёл на беспрецедентный шаг: МИД СССР и Громыко не были поставлены в известность о размещение ракет на Кубе, поэтому не имели точного представления о происходящих событиях. Поэтому основная ответственность в критический момент легла на сотрудников спецслужб — Феклисова и Большакова, и официально считается, что Громыко «способствовал урегулированию Карибского кризиса».
10 июня 1968 года, через год после Шестидневной войны на Ближнем Востоке, вызвавшей разрыв дипломатических отношений СССР с Израилем, Громыко и Андропова из гуманистических соображений и желания укрепить международный авторитет СССР предложили разрешить евреям эмигрировать из Советского Союза. Однако Андропов добился, чтобы советские евреи, выезжающие на постоянное место жительства в Израиль, возмещали расходы за свою учёбу в советских вузах.
Громыко возражал, и только через несколько лет Андропов убедился в правоте Громыко, но решение «о компенсации за учёбу» официально отменено не было, оно просто перестало исполняться. В 1970 году он внес значительный вклад в подготовку подписания Московского договора между СССР и ФРГ о «незыблемости границ» в послевоенной Европе, включая польско-германскую границу по Одеру — Нейсе.
Компромисс был достигнут: в русском тексте договора было записано «нерушимость» границ, в немецком — «ненарушимость». Брежнев остался доволен работой Громыко, и 12 августа 1970 года в Кремле Московский договор был подписан: с советской стороны Косыгиным и Громыко, с немецкой стороны — Брандтом и Шеелем.
Громыко лично вёл наиболее сложные переговоры в США и ООН с американскими дипломатами. Методика ведения таких переговоров была им обдумана, отработана на практике и сбоев почти не давала. Он не любил посещать Японию, так как все переговоры с японцами неизменно сводились к проблеме «северных территорий». Он ни разу не наносил визиты в Африку, Австралию и Латинскую Америку, а в Индии побывал всего один раз.
В 1966 году Громыко стал первым представителем советского руководства, совершившим официальный визит в Италию, главную участницу гитлеровской коалиции. Но затем с 1966 по 1985 год совершил в Италию шесть визитов и стал первым крупным советским государственным деятелем, кто встретился с папой римским. Его первая беседа с Павлом VI произошла в Нью-Йорке, на заседании ООН, 4 октября 1965 года.
Павел VI четыре раза принимал в Ватикане министра Громыко — 27 апреля 1966 года, 12 ноября 1970 года, 21 февраля 1974 года и 28 июня 1975 года. Два раза принимал Громыко Иоанн Павел II — 24 января 1979 и 27 февраля 1985 года. Итогом этих семи встреч было некоторое смягчение государственной политики советского руководства в отношении религии и, в частности, католической церкви.
Жёсткий стиль дипломатических переговоров Молотова сильно повлиял на Громыко. Он накануне переговоров основательно изучал суть дела, а подбор материалов к переговорам делал самостоятельно, что давало преимущество перед менее опытным и искушённым собеседником. Он, избегая импровизаций, следовал заранее составленным собственным инструкциям.
Громыко был склонен к затяжным переговорам, которые мог вести часами. На столе перед ним находилась папка с директивами, однако он открывал её только в том случае, если речь шла о технических подробностях. Остальную информацию держал в уме, что выгодно отличало его от американцев, которые важные моменты зачитывали по бумажкам.
Он тщательно изучал личность и биографию своего партнёра по переговорам, стремясь понять его манеру полемики. Он неплохо владел английским языком, но всегда настаивал на переводе, выигрывая время для размышлений и обдумывания ответа. Он обладал бесконечным терпением, поэтому переговоры с ним превращались для западных дипломатов в испытание на выносливость, и старался всегда оставить за собой последнее слово.