После поражения группы армий «Центр» под Москвой зимой 1941/1942 г. и полного провала «блицкрига» Шуленбург направил Гитлеру записку с предложением начать сепаратные переговоры с СССР. Ответа не последовало. Тогда Шуленбург стал искать иные пути к миру: с 1942 г. он стал контактировать с деятелями антигитлеровской оппозиции.
В декабре 1942 г. Шуленбург и советник германского министерства иностранных дел Адам фон Тротт цу Зольц встретились с сотрудником бюро Риббентропа Бруно Петером Клейстом, который должен был установить связь с советским посольством в Стокгольме, чтобы прозондировать возможность мирных переговоров с Кремлем. Однако ни эта, ни последующие попытки германской антигитлеровской оппозиции по каналам Риббентропа (и возможно, абвера) связаться с Москвой через Стокгольм успехом не увенчались: советская сторона не доверяла немцам – противникам Гитлера и опасалась провокаций, направленных на раскол союзников по антигитлеровской коалиции.
Но есть и другое объяснение неудач контактов германских противников Гитлера с Советским Союзом. Представитель Риббентропа в ставке Гитлера Франц фон Зоннлейтнер считал, что дело было в позиции самого Шуленбурга. По мнению Зоннлейтнера, бывший германский посол в Москве не доверял антигитлеровской оппозиции, считая, что она намерена вести с Россией нечестную игру, в которой он, Шуленбург, будет всего лишь пешкой. Шуленбург «выступал за срединное положение Германии между Востоком и Западом и не собирался водить за нос Сталина».
Шуленбург действительно не хотел вводить советское руководство в заблуждение относительно намерений рейха: ведь он в 1941 году невольно послужил дипломатическим прикрытием подготовки гитлеровской агрессии против Советского Союза. Однако речь теперь шла не о политике Гитлера, безусловным противником которой Шуленбург стал после нападения Германии на СССР, а о заключении мира с Россией новым германским правительством, которое должно было прийти к власти в результате государственного переворота и уничтожения Гитлера. Если Шуленбург не доверял антигитлеровской оппозиции, он никогда бы не пошел на контакт с ней, тем более не согласился войти в новое германское правительство.
С 1943 г. Шуленбург (наряду с фон Хасселем и фон Вайцзеккером) рассматривался в качестве кандидата на пост министра иностранных дел в правительстве рейхсканцлера Гёрделера, которое должно было быть сформировано после устранения нацистского диктатора и ликвидации наиболее одиозных личностей и структур национал-социализма. Причем Гёрделер, несмотря на свою «прозападную» ориентацию, поддерживал кандидатуру Шуленбурга, так как Шуленбург мог бы «достичь договоренности со Сталиным».
Шуленбург, которого лично хорошо знали Сталин и Молотов, должен был сыграть особую роль в переговорах с СССР. Свою основную задачу в новом послегитлеровском правительстве Шуленбург видел в скорейшем прекращении войны, восстановлении и развитии отношений с СССР. При этом Шуленбург отнюдь не симпатизировал большевикам: старый дипломат хорошо понимал, что война против Советского Союза, который обладал огромным людским и военным потенциалом и гигантской территорией, будет стоить Германии очень дорого и может обернуться для нее национальной катастрофой. Шуленбург хорошо помнил предостережение «железного канцлера» Отто фон Бисмарка: двумя самыми большими ошибками внешней политики Германии могут стать война на два фронта и война с Россией.
Заговорщики, как военные, так и штатские, несмотря на разногласия, сходились в том, что после устранения Гитлера необходимо: немедленно заключить компромиссный мир; отвести германские войска на территорию рейха; образовать временное германское правительство; разъяснить немцам преступную роль Гитлера и его клики; провести всеобщие демократические выборы в рейхстаг, после чего определять основные формы управления страной и направления политики.
Главной движущей силой государственного переворота были военные. В конце августа 1943 г. начальник оперативного отдела штаба группы армий «Центр» Хеннинг фон Тресков посетил Шуленбурга в его берлинской квартире. Во время дружеской беседы Тресков описал Шуленбургу критическое для вермахта положение, сложившееся на Восточном фронте, и от имени действующих в армии противников Гитлера изложил план скорейшего заключения компромиссного мира с Советским Союзом.
В выполнении плана решающая роль отводилась Шуленбургу: он должен был лично установить контакт с советским правительством для разъяснения целей антигитлеровской оппозиции. С помощью Трескова и других офицеров штаба группы армий «Центр», которые должны были установить радиосвязь с противником и согласовать с ним все параметры операции, намечалось переправить Шуленбурга через линию фронта для политических переговоров с советской стороной. Шуленбург согласился на это рискованное предприятие при условии его одобрения Гёрделером, однако Гёрделер этот план не одобрил: он все еще надеялся достичь договоренности с Западом.