Один из ответственных работников штаба Объединенных вооруженных сил организации Варшавского Договора позже вспоминал, что на Военный совет Объединенных вооруженных сил с первых дней его создания были возложены ответственные задачи организации боевой подготовки войск и оперативной подготовки руководящего состава. Определялись принципы, формы и методы установления единства в подходе к комплектованию соединений и частей, их технического оснащения, создания систем управления войсками. Вырабатывались взгляды на перспективы развития этого боевого союза, поддержания постоянных и тесных контактов между Объединенными национальными командованиями. Все это требовало творческого поиска, большой организаторской работы со стороны Главнокомандующего и его штаба. Над решением этих задач И.С. Конев работал самоотверженно, с большим энтузиазмом, сплачивая вокруг себя коллектив, объединяемый единством цели.
Постоянное противостояние НАТО и организации Варшавского Договора обусловило нарастание гонки вооружений. Это постоянно заботило высший коллективный орган данной организации – Политический консультативный комитет, в состав которого входили главы государств-союзников. На И.С. Коневе и его штабе лежала нелегкая задача – готовить и обеспечивать совещания столь высокого органа.
Итоги этой работы подводились ежегодно, начиная с мая 1957 года. Тогда на совещании руководящего состава И.С. Конев подвел итоги первых трех лет деятельности военной организации Варшавского Договора. Он назвал основные направления развития сотрудничества вооруженных сил государств социалистического лагеря, определил пути движения.
Затем заседания Военного совета по инициативе И.С. Конева стали проводиться в конце каждого года. Но них всесторонне анализировались итоги оперативной и боевой подготовки за истекший год, определялись задачи для войск и флотов на следующий учебный год, согласовывались планы совместных мероприятий. Такие заседания обычно совмещались с совещаниями руководящего состава союзных армий. Это была новая форма выработки единства взглядов, способствующая квалифицированному и целенаправленному решению ставившихся на Военном совете вопросов.
Зарождались и такие формы достижения целей военного сотрудничества, как разработка и проведение совместных учений, сборов, тренировок различного масштаба – от оперативно-стратегических до войсковых и специальных. Активизируется работа по обобщению опыта Второй мировой войны, в 1958 году был создан Спортивный комитет дружественных армий.
В 1960 году И.С. Конев был назначен генеральным инспектором Группы генеральных инспекторов Министерства обороны СССР, которую в народе называли «райская группа». Казалось бы, наступило время отдохнуть от служебных мытарств, подумать о прожитом времени, осознать и оценить совершенные поступки… Но жизнь складывалась так, что у Ивана Степановича на все это не хватало времени.
В апреле 1961 года наметился очередной кризис в отношениях между США и СССР. Хрущёв выдвинул новый ультиматум по берлинскому вопросу, объявив, что СССР ещё до конца года заключит мирный договор с ГДР и передаст ей всю полноту власти над восточной частью Берлина. В ответ на это 28 июля 1961 года президент Кеннеди выступил с заявлением о готовности США защищать Западный Берлин.
12 августа было запрещено свободное перемещение между Западным и Восточным Берлином. Была возведена бетонная стена. 24 августа в ответ на возведение стены вдоль неё было развернуто около тысячи американских военнослужащих, поддерживаемых танками. 29 августа Советское правительство объявило о временной задержке увольнения в запас из советских Вооруженных сил…
17 октября в докладе на XXII съезде КПСС Н.С. Хрущёв заявил о том, что ультимативный срок для подписания сепаратного мирного договора с ГДР (31 декабря) не так уж важен, если Запад продемонстрирует реальную готовность разрешить берлинский вопрос.
26–27 октября в Берлине возник конфликт, известный как «инцидент у КПП “Чарли”». Тогда к этому КПП прибыли три американских джипа с военными и гражданскими лицами, за ними шли мощные бульдозеры и 10 танков. В ответ на Фридрихштрассе прибыла советская танковая рота. Советские и американские танки стояли друг против друга всю ночь и были разведены утром 28 октября. Официально это означало окончание Берлинского кризиса.