Киссинджер свидетельствовал, что Громыко был гораздо искуснее Молотова, он обладал врождённой осторожностью, не верил в «счастливое озарение или ловкий манёвр», был неутомим и невозмутим, бесконечно терпелив, старался измотать противника, споря с ним по любому поводу, и умело выторговывал у оппонентов существенные уступки в обмен на незначительные. Если Громыко выходил из себя, значит, его «вспышка гнева» была тщательно обдумана и срежиссирована.
«Золотым правилом дипломатии» он считал использование перерывов на встречах «в верхах» между первыми руководителями государств. «Плохо подготовленные встречи на высшем уровне лучше не проводить вообще. Они приносят больше вреда, чем пользы».
Хорошо подготовленными считал на Ялтинскую и Потсдамскую конференции, соглашения по ограничению стратегических ядерных вооружений, Конференцию в Хельсинки по безопасности и сотрудничеству в Европе 1975 года. Слабо подготовленными переговорами с плохими результатами Громыко называл встречи Хрущёва с президентами США в 1955 и 1959 годах: с Эйзенхауэром и в 1961 году — с Кеннеди, а дилетантством в межгосударственных отношениях — встречу Горбачёва и Рейгана в 1986 году в Рейкьявике.
Успешно вести переговоры Громыко помогали возможности разведки. Наряду с Брежневым, Андроповым, Устиновым, Сусловым и Кириленко, Громыко получал сводки 16‐го управления КГБ, специализировавшегося на перехвате и дешифровке сообщений дипломатических представительств зарубежных стран, аккредитованных в Москве.
При этом Громыко не стремился сам занять высший пост в СССР, но активно участвовал в борьбе за власть в советской партийной элите. В 1957 году он выступил против Молотова в поддержку Хрущёва, в 1964 году выступил против Хрущёва в поддержку Брежнева.
Но в апреле 1978 года тяжёлым ударом для Громыко стал побег в США его бывшего личного помощника и друга — дипломата, заместителя Генерального секретаря ООН Аркадия Шевченко, который оказался агентом ЦРУ. В ходе расследования он отказался от близкого знакомства с материалами дела. Однако в нарушение всех канонов помог похоронить жену американского шпиона Шевченко, покончившую жизнь самоубийством, на Новодевичьем кладбище с воинскими почестями?!
Андропов не стал топить всесильного министра и члена Политбюро, но приблизил его в себе. Поэтому Громыко в 1982 году, после смерти Брежнева, помог ему занять пост Генерального секретаря ЦК КПСС.
Однако был эпизод, когда после смерти Суслова, в начале 1982 года, он пытался через Андропова выяснить возможность своего перемещения на освободившуюся позицию «второго лица» в неформальной партийной иерархии, чтобы со временем стать «первым». Но Андропов сослался на исключительную компетенцию Брежнева в кадровых вопросах…
Однако после смерти Брежнева, став генеральным секретарём, Андропов всё же назначил Громыко первым заместителем председателя Совета Министров СССР. На этом посту Громыко пробыл с марта 1983 до июля 1985 года.
Председатель КГБ Крючков вспоминал о своей беседе с Громыко в январе 1988 года, где он упомянул, что в 1985 году, после смерти Черненко, члены Политбюро предлагали ему занять пост генерального секретаря, но он отказался в пользу Горбачёва, хотя есть сведения, что такую возможность зондировал директор Института востоковедения АН СССР — серый кардинал от Брежнева до Ельцина — Примаков еще зимой 1984 года.
Инициатива Примакова, продвигавшего кандидатуру Горбачёва, была связана с опасениями академической среды, что возможен приход к власти Романова, считавшегося сталинистом и опасным соперником Горбачёва. Громыко ответил: «Не за горами моё 80‐летие. После перенесённого «лёгкого инфаркта», да ещё при аневризме, да ещё операции на предстательной железе, думать о такой ноше, как секретарство, было бы безумием… Остаются Гришин, Романов, Горбачёв. Вот они и будут претендовать».
Вскоре Громыко, ссылаясь на возраст и пошатнувшееся здоровье, через директора Института мировой экономики Александра Яковлева передал Горбачёву, что его устроит пост председателя Президиума Верховного Совета СССР. Так возник компромисс: Громыко выдвигает на пост генсека Горбачёва, а Горбачёв предлагает Громыко. В переговорах принимал участие и начальник внешней разведки ПГУ КГБ Крючков, а содействовал им председатель КГБ Чебриков.
По свидетельству А.Н. Яковлева, состоялась и личная встреча Громыко и Горбачёва, которая окончательно скрепила достигнутые договорённости. После смерти Черненко, на мартовском пленуме ЦК 11 марта 1985 года, Громыко предложил кандидатуру Горбачёва на должность генерального секретаря и дал ему краткую положительную характеристику. Однако впоследствии он сожалел о своём решении, но объяснял его тем, что «не просто поддерживал Горбачёва, а большие перемены», однако потом убедился, что Горбачёв с работой не справляется.