Было несколько других возможных преемников, и их кандидатуры обсуждались. С начала и до середины 50-х гг. в этой связи упоминалось имя Фрица Шефера, пользовавшегося большим авторитетом как весьма дельный министр финансов. Однако уже скоро возникли значительные расхождения между канцлером и его министром. Аденауэр обвинял Шефера в упрямстве, уличал его в проявлении старческой слабости, хотя сам был на 12 лет старше него. Кандидатура Шефера в качестве возможного преемника оказалась случайной. Совершенно по-другому обстояло дело с министром экономики Эрхардом, хотя Аденауэр с самого начала заявил, что в политическом плане невысоко ценит его. Между ними постоянно обострялись отношения, в частности в 1961 г. из-за повышения курса немецкой марки. У Аденауэра были два возражения против кандидатуры Эрхарда. Во-первых, его полная неосведомленность в области внешней политики. «Людвиг — это ребенок», — говорили в окружении Аденауэра. Во-вторых, Аденауэр, на которого сильно влияли центристские силы и христианско-социальная профсоюзная политика, высказывал опасения в связи с его экономической политикой. Он боялся, что ХДС при Эрхарде приобретет ярко выраженные либеральные экономические черты и может потерять связь с массой христианских избирателей, работающих по найму.
Уже внешний вид Эрхарда — прямая осанка, высокий рост, — выражение лица, напоминавшего чем-то индейца, манера поведения — все отдаляло его от Аденауэра. Он внушал уважение, за него говорил его авторитет. Аденауэр был полной противоположностью Людвигу Эрхарду, который источал добродушие и жизнерадостность. К тому же в отличие от Эрхарда Аденауэр был абсолютно некурящим. Во второй половине 50-х гг. курение за столом в его кабинете было запрещено. Всем членам правительства было сообщено, что у канцлера слабые бронхи — и это соответствовало действительности. Для давнего курильщика Эрхарда это была мука. Аденауэр сердился уже тогда, когда Эрхард лишь тянулся к сигаре. Хотя, по словам Ф.Й. Штрауса, Аденауэр отнюдь не был аскетом: он охотно пил шампанское и хорошее рейнское вино.
Если в первые 12 лет своего существования Федеративная республика была демократией канцлера, то после выборов в бундестаг и образования правительства в 1961 г. на первый план выдвинулась коалиционная демократия. Более важной стала роль партий, а их выступления более уверенными. После неожиданно благоприятных итогов выборов (12,8 % — результат, о котором до строительства стены нельзя даже было мечтать) воодушевленная своей антиаденауэрской позицией СвДП стала настаивать на том, чтобы канцлер был избран на ограниченное время.
Скрытое недоверие, которое Аденауэр всегда испытывал к американцам, усилилось еще больше, что привело к углублению германско-французских контактов, завершившихся подписанием договора, и пышной церемонией примирения в Реймском соборе с президентом де Голлем. Вскоре после этого разразилась дискуссия между «атлантистами» (сторонниками оси «Бонн-Вашингтон») и «голлистами» (приверженцами оси «Бонн-Париж»). Антиамериканская доктрина голлизма произвела впечатление на боннского канцлера. Он вдруг увидел альтернативу Атлантическому союзу. Аденауэр сделался нерешительным, он утратил ориентацию на внешнеполитическом поле, чей рельеф становился все сложнее и больше не согласовывался с хорошо знакомыми ему простыми моделями решений.
На выборах 17 сентября ХДС/ХСС получил голоса 14,4 млн избирателей (45,4 %), СДПГ — 11,3 млн (36,2 %), СвДП — 4,0 млн (12,8 %). Имиджу Аденауэра повредило следующее обстоятельство. Когда в разгар избирательном кампании 13 августа появилась Берлинская стена, он в отличие от кандидата СДПГ бывшего бургомистра Вилли Брандта, сразу же помчавшегося в Западный Берлин, чтобы подбодрить и воодушевить его жителей, туда не поехал. Однако теперь пришло время выполнять коалиционное соглашение с либералами, по которому Аденауэр пообещал уйти с поста в середине срока, чтобы дать своему преемнику время для подготовки к следующим выборам 1965 г.
Но политическая кончина Аденауэра пришла еще раньше. В ночь с 26 на 27 октября 1962 г. полиция заняла редакцию «Шпигеля», якобы разгласившего в статье о маневрах НАТО государственные секреты, касающиеся плохой подготовки бундесвера. Канцлер по этому поводу заявил, что в нашей стране «бездна государственной измены», и взял под защиту министра обороны Франца Йозефа Штрауса, бывшего одновременно и лидером баварского ХСС, замешанного в этой неблаговидной акции. Хотя Штраус был вынужден все-таки уйти в отставку, общественное доверие к государственной власти оказалось весьма поколебленным. По всей стране прошли многочисленные стихийные демонстрации с протестом против подавления свободы прессы. Следствием этого явился правительственный кризис, улаженный только после возвращения министров от СвДП в кабинет. На этой минорной ноте заканчивалась эра Аденауэра, покинувшего свой пост 15 октября 1963 г. С его уходом завершилась и послевоенная эпоха истории ФРГ.