В 1955 г. правительство ФРГ сделало шаг к нормализации отношений с СССР. Между двумя странами были установлены дипломатические отношения, а Аденауэр совершил в сентябре 1955 г. официальный визит в Москву. Этот зигзаг западногерманской дипломатии объяснялся стремлением сохранить инициативу в решении германского вопроса на международном уровне. Тремя месяцами ранее в Женеве состоялось первое в послевоенный период совещание глав правительств США, Великобритании, Франции и СССР, на котором обсуждались перспективы объединения Германии. Поскольку переговоры зашли в тупик, то в решении совещания была зафиксирована нейтральная формулировка о необходимости решить германский вопрос «в соответствии с национальными интересами немецкого народа и интересами европейской безопасности». Не привели к позитивным результатам и переговоры Аденауэра в Москве. Уже вскоре ФРГ предприняла один из наиболее жестких шагов по пути конфронтации с восточногерманским государством. В декабре 1955 г. была принята «доктрина Хальштейна» (по фамилии статс-секретаря МИД ФРГ), в соответствии с которой ФРГ призывала государства, имеющие отношения с нею, отказаться от признания ГДР. В развитие этого курса в 1957 г. ФРГ разорвала отношения с Югославией, в 1963 г. – с Кубой. Берлинский кризис 1961 г. вернул в состояние крайнего охлаждения и отношения ФРГ с СССР.
Демонстрируя безусловную приверженность принципу атлантической солидарности, Аденауэр пытался избежать роли сателлита США. Принципиальную значимость в этом плане приобретало участие ФРГ в процессе европейской интеграции и ее связи с Францией. Уже в 1950 г. Аденауэр активно поддержал «план Шумана», а в 1952 г. ФРГ стала одним из учредителей ЕОУС. Конструктивное решение вопроса о Сааре в 1955–1957 гг. создало возможность для дальнейшего франко-западногерманского сближения. Эти страны сыграли большую роль в подготовке и подписании Римских договоров 1957 г. о создании системы Европейских Сообществ. Аденауэру удалось установить исключительно близкие личные отношения с французским президентом Ш. де Голлем. Встречи двух лидеров в июле 1960 г. в Рамбуйе и в июле 1962 г. в Париже, а также триумфальное турне де Голля в ФРГ в сентябре 1962 г. создали возможность для оформления стратегического союза двух стран. В январе 1963 г. был подписан договор о сотрудничестве Франции и ФРГ в различных сферах, координации внешнеполитического курса, регулярных консультациях на уровне глав государств (не реже 2 раз в год) и министров иностранных дел и обороны (раз в три месяца). Аденауэр видел в сотрудничестве с Францией залог восстановления международных позиций ФРГ: «Никакая европейская политика не может существовать без Франции или против Франции, как не может быть европейской политики без или против Германии».
К началу 60-х гг. политический рейтинг Аденауэра начал быстро снижаться. Его консервативность, нетерпимость к чужому мнению, подозрительность становились препятствием для эффективной работы правительства и вызывали все большее недовольство в партии. 23 апреля 1963 г. на заседании депутатской фракции ХДС было принято решение о назначении Эрхарда преемником 87-летнего канцлера. Репутация романтика, склонного к компромиссам, внешность добродушного толстяка с неизменной сигарой, авторитет отца «экономического чуда» делали Эрхарда привлекательной фигурой как для избирателей, так и для политической элиты страны. Эрхард был демократичен, не избегал дискуссий и считал авторитарные методы правления Аденауэра недопустимыми. 15 октября 1963 г., после 14 лет пребывания у власти, Аденауэр подал в отставку и на следующий день на заседании бундестага Людвиг Эрхард был избран федеральным канцлером. Он провозгласил целью своего правительства обеспечение социального мира и партнерства, проведение «политики центра и взаимопонимания». Эрхард призвал к консолидации всех политических сил во имя реализации общенациональных интересов, поиску баланса интересов и отказу от конфронтации. Пост вице-канцлера получил председатель СвДП Эрих Менде. С призывом к конструктивному сотрудничеству Эрхард обратился и к оппозиционной СДПГ.