Неожиданно для себя канцлер обнаружил, что консервативная атмосфера умолчаний и запретов постепенно рассеивалась. В центре внимания общества оказалось нацистское прошлое. В ноябре 1959 г. западногерманская общественность была возмущена, когда в связи с открытием синагоги в Кёльне по всей ФРГ прокатилась волна антисемитских акций. На стенах домов и на еврейских кладбищах появились юдофобские лозунги и символы. Под давлением общественности зимой 1960 г. по этому поводу были созваны чрезвычайные заседания бундестага. В мае министр по делам переселенных немцев Т. Оберлендер, которого в ГДР заочно приговорили к тюремному заключению (как потом выяснилось на основе частично фальсифицированных документов) за преступления в годы Третьего рейха, ушел в отставку. Еще большее влияние на общественные настроения имел суд над одним из главных организаторов «окончательного решения еврейского вопроса» Адольфом Эйхманом в Иерусалиме (1961). Поток свидетельств о нацистских зверствах прорвал прежнюю стену замалчивания прошлого и открыл новую эпоху в общественном развитии ФРГ.
Новый кризис — строительство Берлинской стены со стороны ГДР 13 августа 1961 г. — еще более ослабил позиции старого канцлера. Вместо попытки унять общественную боль, вызванную самой глубокой раной со времени раскола Германии, он сосредоточил свою предвыборную кампанию на критике своего соперника Брандта, подчеркивая, что тот в годы войны находился в эмиграции. Брандт же увеличил свою популярность как правящий бургомистр «свободного» Западного Берлина.
На четвертых выборах в бундестаг 17 сентября 1961 г. ХДС/ХСС потерял 4,9 %, завоевав 45,3 % голосов, СДПГ, набрав 36,2 % голосов, получила дополнительно 4,4%. Еще более значительным оказался прирост голосов, поданных за оппозиционную СвДП, получившую 12,8 % голосов — на 5,1 % больше, чем 4 года ранее. Все другие партии остались за 5-процентным барьером, и в бундестаге сложилась система трех партий.
Успех СвДП в качестве третьей силы на выборах отражал важные изменения в партийной системе Боннской республики. СвДП, реорганизованная при новом председателе Эрихе Менде (1916-1998), хотела видеть во главе коалиционного правительства не Аденауэра, а Эрхарда. Поэтому Аденауэр был выдвинут на пост канцлера с условием досрочного окончания своих полномочий после первой половины канцлерства. СвДП получила 5 министерских постов, и фактически власть канцлера была теперь ограничена впервые заключенным коалиционным соглашением. Это дало основание (не только исследователям) считать, что «канцлерская демократия переживала свой смертный час».
После периода политического господства ХДС/ХСС выборы 1961 г. привели к ситуации, в которой ни одна из политических партий не могла править без поддержки других партий. Так, в течение двух легислатурных сроков бундестага произошел переход от четырехпартийной (ХДС/ХСС, СДПГ, СвДП и маргинальные партии) к трехпартийной (ХДС/ХСС, СДПГ, и СвДП) системе.
7 ноября 1961 г., спустя почти два месяца после выборов, Аденауэр в четвертый раз был избран канцлером. Новый кабинет Аденауэра, который выступал в качестве «временного канцлера», просуществовал около года. Его развал был вызван одним из самых тяжелых внутриполитических кризисов Федеративной Республики.
26-27 октября 1962 г. полиция обыскала редакционные помещения влиятельного гамбургского журнала «Шпигель», а его издатель Рудольф Аугштайн (1923-2002) был арестован. Редактора журнала Конрада Алерса (1922-1980) на основании телефонного звонка министра обороны Штрауса задержала испанская полиция, а после возвращения в Германию он был арестован. Поводом полицейской операции была статья в «Шпигеле» от 10 октября 1962 г. о штабных маневрах НАТО. Бундесвер, по мнению автора статьи, имел, после шести лет руководства Штрауса, самую низкую степень боеготовности в НАТО на случай ядерного нападения СССР.
Почти все, что содержалось в статье, ранее публиковалось в немецких и зарубежных изданиях. Подозрение в сознательном разглашении государственной тайны, исходящее от федерального прокурора и министра обороны, не получило документального подтверждения. В мае 1965 г. суд отказался начать процесс против Алерса и Аугштайна из-за отсутствия доказательств. Суды против других обвиняемых закончились оправдательными приговорами. Более важной оказалась общественная реакция на «дело "Шпигеля"» и ее политические последствия.
В первые годы существования Боннской республики был заметен недостаток демократической политической культуры. Учреждение Федеративной Республики состоялось без широкой общественной поддержки. В этом же состояла ключевая проблема Веймарской республики, которая и привела к ее гибели. Авторитарная традиция вновь могла стать доминирующей ввиду аполитичного мировоззрения населения и реставрации бюрократических структур. Наряду с этим, заметную роль играл широко распространенный антикоммунизм. Любая критика правительства слева и любое внепарламентское оппозиционное движение упрекались в том, что они служат целям коммунистов.