С точки зрения многих европейских политиков, оптимальным вариантом объединения Германии было синхронизирование его с созданием новой европейской структуры коллективной безопасности, которая включала бы в себя и западную, и восточную части Европы, а также США и Канаду. Однако для осуществления такой концепции необходимо было время и политическая воля лидеров мировых держав, что затянуло бы процесс объединения. Руководство ФРГ во главе с Колем, боясь упустить свой шанс, стремилось этот процесс форсировать.
Определение международно-правовой формулы объединения Германии стало предметом переговоров в формате «2 + 4» (ФРГ, ГДР и четыре державы-победительницы: СССР, США, Великобритания, Франция) — «для обсуждения внешних аспектов достижения германского единства, включая вопросы безопасности соседних государств». Начало им было положено 12 февраля 1990 г. в Оттаве во время первой и единственной конференции министров иностранных дел государств НАТО и ОВД. После предварительной работы экспертов 5 мая 1990 г. в Бонне прошла первая встреча министров иностранных дел шести стран, затем последовало еще три раунда их переговоров.
Основные трудности на переговорах вызвали вопросы о военном статусе объединенной Германии, о сопрягаемости переговоров по внутренним и внешним аспектам объединения, о реализации прав и ответственности четырех держав, о пребывании иностранных вооруженных сил на территории Германии. Ключевым был вопрос о военно-политическом статусе Германии, он волновал всех участников переговорного процесса. СССР первоначально отстаивал идею нейтралитета Германии с созданием в Европе параллельно структур коллективной безопасности. Западные державы четко и однозначно заявили, что нейтралитет объединенной Германии для них совершенно неприемлем, и она должна оставаться членом НАТО. Нейтральный статус Германии отвергался, прежде всего, ссылками на печальный опыт истории и необходимостью в связи с этим контроля над военно-политической деятельностью страны, дважды развязавшей мировые войны.
Лидеры Великобритании — Маргарет Тэтчер, и Франции — Франсуа Миттеран, занимали довольно сдержанную позицию, опасаясь превращения объединенной Германии в европейскую сверхдержаву и соответственно ослабления своих позиций. С самого начала безоговорочную поддержку действиям Коля оказал американский президент Джордж Буш-старший (род. 1924), увидевший в объединении Германии возможность для глубоких геополитических перемен в мире — изменения баланса сил в пользу США и НАТО.
Коль проявил необычайную активность, встречаясь с лидерами СССР, США, Великобритании и Франции, проводя регулярные беседы с послами этих стран в ФРГ. Особое значение он придавал ускорению темпов переговорного процесса, поскольку опасался неожиданных изменений в международной обстановке, которые могли бы поставить под вопрос объединение Германии. Канцлер апеллировал к международному праву, заявляя о приверженности европейскому процессу, в рамках которого должно было осуществиться объединение. Конечно, Колю пришлось предоставить гарантии безопасности и стабильности, убедить в приверженности идеям мира, демократии и европейского единства. Немецкие политики постоянно подчеркивали, что их цель — не «германская Европа», а «европейская Германия», и не случайно, Коль объявил воссоединение Германии этапом европейской интеграции.
Прежде всего он стремился достичь взаимопонимания с Горбачевым, понимая, что именно от позиции Советского Союза зависела дальнейшая судьба Германии. Во время визита Коля и Геншера в Москву в феврале 1990 г. Горбачев, к радости федерального канцлера, сделал заявление о том, что «вопрос о единстве немецкой нации должны решать сами немцы и сами определять свой выбор, в какие сроки, какими темпами и на каких условиях они это единство будут реализовывать». Тем самым Коль получил полную свободу на внутригерманских переговорах. В апреле 1990 г. он лередал через советского посла в ФРГ, что его правительство готово заключить широкий двусторонний договор с СССР и оказать ему экономическую поддержку, если тот согласится с членством объединенной Германии в НАТО (такой договор — о добрососедстве, партнерстве и сотрудничестве — действительно был подписан 9 ноября 1990 г.).
Решающую роль в успешном для ФРГ завершении переговорного процесса в формате «2 + 4» сыграло решение Горбачева передать на усмотрение руководства объединенной Германии вопрос о принадлежности страны к военным и экономическим блокам, ускорить вывод советских войск из ГДР. Эта договоренность была достигнута во время визита Коля и Геншера в СССР 14-16 июня 1990 г. Со своей стороны германский канцлер пообещал взять на себя расходы, связанные с выводом советских войск с территории Восточной Германии, и предоставить СССР очередной кредит на сумму в 5 млрд марок. На изменении позиции СССР в германском вопросе сказалось оказание широкомасштабной экономической помощи Советскому Союзу со стороны ФРГ, а также предоставление ему странами Запада гарантий безопасности в военно-политической сфере.