Утром 16 апреля в штабе 51-й армии в деревеньке Чистенькая, что в 8—10 километрах юго-западнее Симферополя, маршалы еще раз обсудили план штурма Севастополя. Гитлер требовал от своих войск защищать «последнюю крепость готов» до последней возможности. Штурм обещал быть сложным, на подступах к Севастополю враг уже оказывал исключительно упорное сопротивление, и Ворошилов едет в войска Приморской армии. Но Ставка отзывает его в Москву, 19 апреля он покидает Крым.
Весной 1944 года положение нашей страны существенно изменилось. Теперь следовало думать не только об окончательном очищении нашей земли от вражеских войск, но и о перенесении военных действий на территорию соседних стран. Можно было предвидеть, что великая освободительная миссия Советских Вооруженных Сил в странах Центральной и Юго-Восточной Европы потребует усиления партийно-политической, идеологической и морально-психологической работы в войсках. Политбюро ЦК созвало специальное совещание первых членов Военных советов фронтов. На совещании, открывшемся 5 мая 1944 года, с большой речью выступил Сталин.
Он охарактеризовал военную обстановку, подчеркнул неизбежность перенесения военных действий на территорию Германии, ее союзников и оккупированных ими стран. Сталин потребовал, чтобы политработники армии объективно и всесторонне информировали ЦК о положении в этих странах, о том, как население встречает Красную Армию. У бойцов и командиров, говорил Верховный, надо воспитывать не только желание победить, но и непреклонную веру в правоту дела, за которое они сражаются, идеологическую стойкость. Доклад Сталина оживлейно обсуждался. На этом совещании выступал и Ворошилов.
В последующие недели и месяцы он исполняет многообразные и многотрудные обязанности члена ГКО. В начале июля Ворошилов участвует в совещании Политбюро ЦК и Ставки, на котором был рассмотрен план боевых действий на заключительном этапе войны. Одновременно маршал продолжает и свое дипломатическое поприще.
После того как в июне — июле 1944 года советские войска нанесли поражение финской армии на Карельском перешейке и в Южной Карелии, правительство Финляндии решило наконец выйти из войны. Еще 29 июня 1944 года Ворошилов был назначен председателем Комиссии по перемирию с Финляндией, Венгрией и Румынией при Наркомате иностранных дел СССР. После длительных Колебаний финское правительство 25 августа обратилось с просьбой начать переговоры о перемирии. Ворошилов участвовал в состоявшихся 14–19 сентября в Москве переговорах. Они завершились подписанием соглашения о перемирии.
К тому времени Красная Армия очистила нашу землю от гитлеровских захватчиков, и боевые действия развернулись на территории Польши, Румынии, Венгрии. Задачи Красной Армии, несшей освобождение народам Европы от нацистского ига, были определены в специальных постановлениях ГКО, и Ворошилов участвовал в их разработке.
На территорию Венгрии наши войска вступили в конце сентября 1944 года, а с 6 октября 2-й Украинский фронт развернул наступление на венгерской земле. 27 октября ГКО принял выработанное при участии Ворошилова постановление, в котором разъяснялось, что Красная Армия пришла в эту страну не для приобретения территории или изменения существующего строя, а лишь в силу военной необходимости. Советская военная администрация не собиралась менять существовавшие венгерские органы власти, систему экономического и политического устройства. Эти положения широко разъяснялись венгерским гражданам и неукоснительно соблюдались советскими военными властями.
В конце декабря 1944 года в Дебрецене было создано Временное национальное правительство Венгрии, которое запросило у правительства СССР условия перемирия. После длительных и сложных переговоров перемирие было подписано 20 января 1945 года в Москве, и от союзного командования подпись под ним поставил Ворошилов. Контроль за выполнением условий перемирия был возложен на Союзную контрольную комиссию. Такая контрольная комиссия на территории Венгрии была создана постановлением СНК СССР от 28 января 1945 года. Возглавил комиссию маршал Ворошилов.
Положение в Венгрии было очень тяжелым: последствия проигранной войны, в которую фашистские правители втянули венгерский народ, сказывалось во всем. На территории страны продолжались ожесточенные сражения: с начала января 1945 года нашим войскам пришлось отражать сильные контрудары противника, окруженная в Будапеште вражеская группировка была уничтожена только к 13 февраля, и лишь 4 апреля советские войска полностью очистили Венгрию. Жизнь страны была парализована: города разрушены, промышленные предприятия остановились, население голодало. Новому правительству приходилось действовать в условиях острых классовых противоречий, буржуазные партии, разбитые в открытой схватке, не желали прекращать борьбу.