Весной 1970 года у Шевченко закончился срок командировки и он вернулся в Москву, оказавшись впервые в жизни на расстоянии вытянутой руки от вершин власти в Советском Союзе. Андрей Громыко, его покровитель с первых шагов его карьеры и по-прежнему министр иностранных дел, предложил ему пост личного советника. Он сразу же согласился на это предложение, хотя ему предлагали перейти в ЦК. В свои сорок Шевченко был нарасхват, как мы видим, и в правительственных, и в партийных кругах. Его статус и зарплата в Нью-Йорке (где он дошел до полномочного посланника) дали ему возможность купить первую большую квартиру для Лены и двух детей и хорошую дачу в лесной местности под Москвой. Это были материальные символы его принадлежности к номенклатуре. Он вошел в эту элиту до возвращения через три года в Нью-Йорк на престижнейший пост, который окажется для него судьбоносным. В Москве он пробыл с апреля 1970 по апрель 1973 года качестве и близко соприкоснулся с верховной властью, - конечно, через своего министра, который имел тесный контакт и значительное влияние на Леонида Брежнева. Громыко проницательно поддерживал Брежнева и в хрущевские времена.
Портрет, который Шевченко дает своему шефу, не сильно отличается от тех представлений, что существуют на Западе: холодный, настойчивый, сдержанный, неутомимый, без юмора, и прежде всего высокий профессионал, робот типа Талейрана в том, что касается дипломатического искусства. Однако Шевченко сумел пролить новый свет на эту известную фигуру. На Западе Громыко называли "Мистер Нет", он был воплощением советской враждебности и непримиримости, а Шевченко утверждает, что он на самом деле был настолько поглощен советско-американскими отношениями и необходимостью держать их "на ровном киле", что сторонники жесткого курса в Политбюро часто критиковали его за излишнюю приверженность к "реальполитик". Критика приглушилась, когда, в 1973 году, Громыко самого ввели в Политбюро. С тех пор и до постепенного отхода на задний план при Горбачеве у него была прочная база для действий, какой он раньше никогда не имел, но он и не стремился к обретению более широкой власти в партии. Один из секретов его выживаемости состоял в том, что он был уникально ценен в своей сфере и не старался выходить за её пределы. Все кремлевские лидеры от Хрущева до Андропова полагались на него в разработке и реализации вопросов советской внешней политики. Никто из них не имел ни малейших оснований опасаться в нем соперника. Действительно, он специально отгораживал себя от внутрипартийного соперничества и вообще от внутренних проблем страны. Может, потому, что считал их ещё более трудноразрешимыми, чем запутанные международные проблемы.
Шевченко повезло работать с Громыко во время, когда министр иностранных дел купался в фаворе Брежнева, находившегося тогда на пике своего влияния. И правда, за три года, что Шевченко работал в советниках у Громыко, ни одно из предложений Громыко по внешней политике не только не было отвергнуто, но и существенно подправлено руководством. Если бы министр почуял в воздухе какую-либо оппозицию, он сразу предпринял бы меры, пойдя напрямую к Брежневу за спиной Политбюро. Его поведение потому не вызывало большой враждебности, что все знали: он отстаивает свои интересы, а не амбиции.
У него было немало и других желающих помогать в формировании внешней политики - КГБ, военные и Международный отдел ЦК. Связи Громыко с КГБ неизбежно усилились после его вхождения в Политбюро. Его секретариат в МИДе раздался за счет охраны из КГБ, новых советников, которые обрабатывали для него телеграммы КГБ и ГРУ из-за рубежа, сотрудников по связи со штаб-квартирой КГБ. Громыко давал разведывательным службам всё, что им было нужно с точки зрения дипломатического прикрытия за рубежом, но всячески дистанциировался от них лично. Его всегда раздражало, когда возникали дипломатические проблемы из-за репрессий КГБ против, например, диссидентов или "отказников". Типичным для него был тот факт, что он никогда не ступалногой в здание КГБ для обсуждения вопросов обоюдного интереса, а только принимал у себя. Одним из слабых мест этого верного слуги партии было то, что он не понял, как важны для международной арены стали вопросы прав человека.