Политические и экономические аспекты плана Шумана стали предметом острых дискуссий в бундестаге. Участие ФРГ в западноевропейской интеграции вызывало неоднозначную реакцию, порождало обеспокоенность части общества, не будет ли способствовать тесная интеграция с Западом углублению раскола Германии и препятствовать восстановлению единства — главной задачи правительства. Выступая 13 июня 1950 г. перед депутатами, Аденауэр говорил о том, что договор о создании ЕОУС должен положить начало строительству единой Европы, подчеркивая тем самым, что план Шумана имеет в первую очередь политическое значение. Канцлер доказывал критикам этого плана, что именно активное участие в процессе европейской интеграции позволит ФРГ стать по-настоящему равноправным партнером государств Западной Европы. Договор о создании ЕОУС был подписан 18 апреля 1951 г. и вступил в силу в 1952 г., после его ратификации всеми участниками.
Начавшаяся в июне 1950 г. корейская война дала Аденауэру убедительный аргумент в дискуссии о том, что подобный сценарий «коммунистической агрессии» может осуществиться и в Европе. Именно война в Корее показала странам Запада необходимость укрепления «европейского плацдарма» посредством перевооружения Западной Германии. На совещании министров иностранных дел США, Великобритании и Франции в сентябре 1950 г. в Нью-Йорке американский госсекретарь Дин Ачесон (1893-1971) внес предложение о перевооружении Западной Германии в рамках НАТО. Эта идея была поддержана Аденауэром, который неоднократно высказывался о том, что ФРГ готова внести свой вклад в систему европейской обороны. Он исходил из того, что обретение ФРГ военного потенциала в той или иной форме — это необходимая предпосылка для достижения полного суверенитета.
Однако предложение США было негативно воспринято Францией, которая предложила иной вариант. В основе плана французского министра иностранных дел Рене Плевена (1901-1993) лежала идея формирования европейской армии с включением в нее западногерманского контингента. Только на таком условии (наднационального контроля над западногерманскими военными) Франция, как и другие страны — соседи Германии, была готова согласиться на перевооружение ФРГ и включение ее в систему европейской обороны. «План Плевена» привел к разработке проекта создания Европейского оборонительного сообщества (ЕОС), принятого 18 сентября 1951 г.
Аденауэр принял предложение Плевена немедленно, несмотря на сильную оппозицию внутри страны. По опросам общественного мнения, до 70 % взрослого населения ФРГ было настроено против перевооружения Западной Германии в принципе. Ремилитаризация вызывала страх, связанный с воспоминаниями о Второй мировой войне, многие полагали, что создание вооруженных сил углубило бы раскол Германии.
В качестве «вознаграждения» для Федеративной республики за ее «оборонный вклад» Аденауэр потребовал, чтобы немецкое участие в европейской обороне было увязано с расширением внешнеполитической свободы действий западногерманского правительства.
Поскольку ремилитаризация Германии противоречила Оккупационному статуту, было решено подписать с ФРГ Общий договор, регулирующий ее отношения с тремя западными державами-победительницами. Проект договора был одобрен совещанием министров иностранных дел трех держав с участием Аденауэра 22 ноября 1951 г. в Париже. Согласно Общему договору, Оккупационный статут отменялся, правительство ФРГ получало больше прав во внешней и внутренней политике, упразднялись многие ограничения в развитии военной промышленности, разрешалось создание армии. Еще до этого, 9 июля 1951 г., западные державы односторонним актом объявили о прекращении состояния войны с Германией. Однако они по-прежнему сохраняли особые права: право держать на территории ФРГ свои войска до достижения мирного урегулирования, право объявлять чрезвычайное положение в случае нападения извне или угрозы внутреннего переворота и т. д. Вместе с тем, западные державы обязались оказывать всяческую поддержку в решении германского вопроса.
Общий договор был подписан в Бонне 26 мая 1952 г., но одним из условий вступления его в силу была ратификация всеми странами — участницами (ФРГ, Франция, Италия и страны Бенилюкса) договора о создании ЕОС (подписан 27 мая того же года в Париже), однако она затягивалась из-за острых дискуссий в парламентах. Поэтому, еще до вступления в силу Общего договора, западные державы приняли решения относительно расширения полномочий федерального правительства в области внешней политики. ФРГ получила право создать свое министерство иностранных дел и направить в столицы США, Великобритании и Франции официальных дипломатических представителей, а также установить, с разрешения Верховных комиссаров, дипломатические отношения с третьими странами.