Свою недостаточную компетентность в военных вопросах Ворошилов компенсировал трудоспособностью, неравнодушием к поставленной задаче и, как тогда говорили, умением организовывать массы. Он заседал в президиумах, участвовал в съездах и пленумах партии. В его честь были переименованы сразу несколько городов: Луганск стал Ворошиловградом, Ставрополь – Ворошиловском, а Уссурийск – Ворошиловым. Тяжелый танк получил имя наркома – КВ, Клим Ворошилов. А из репродукторов звучал «Марш советских танкистов»:
Ворошилов демонстрировал бойцам меткость в пулевой стрельбе, а его фраза «Нет плохого оружия, есть плохие стрелки» стала крылатой. Тысячи советских граждан с гордостью носили звание «ворошиловский стрелок», которое присваивалось за успехи в стрелковой подготовке. Но меткость стрельбы не могла заменить военного образования.
Вокруг другого маршала, Михаила Тухачевского, сплотилась группа военачальников, которая пыталась убедить Сталина в том, что Ворошилов не соответствует занимаемой должности. Имелись свои сторонники и у Ворошилова. Но точку в этом споре поставили события 1937 года.
27 мая 1937 года в городе Куйбышеве Тухачевский был арестован по обвинению в шпионаже, подготовке переворота и попытке установить в СССР военную диктатуру. По приговору суда Тухачевский был объявлен виновным и расстрелян в июне 1937 года. В 1957 году Коллегия Верховного Суда СССР отменила этот приговор как сфабрикованный, а Комитет партийного контроля Коммунистической партии посмертно реабилитировал Тухачевского.
Вместе с Тухачевским по тому же обвинению была арестована большая группа крупных советских военачальников. Все аресты проводились с ведома Ворошилова. На многих списках подозреваемых стояли пометки маршала: «Товарищу Ежову. Берите всех подлецов» или «Арестовать». Часто Ворошилов писал: «Пока оставить в покое» или «Вызвать для разговора». Именно эти резолюции спасли жизнь будущим героям Великой Отечественной: маршалу Малиновскому, генералу Петрову, генералу Лукину и многим другим.
Численность офицерского состава, арестованного в 1937–1938 годах, не поддается точному подсчету и по разным оценкам составляет от 7 до 11 тысяч. Еще большее число было уволено из армии. Было расстреляно более 400 командующих войсками военных округов и флотов, их заместителей, командиров корпусов, дивизий и бригад. Но высшая мера наказания – расстрел – применялась далеко не ко всем арестованным, многие приговаривались к исправительно-трудовым лагерям. К лету 1941 года около трети уволенных командиров вернулись в армию.
Первым серьезным экзаменом для наркома Ворошилова стала Советско-финляндская война, начавшаяся 30 ноября 1939 года. Красная армия, имея подавляющее преимущество в численности и технике, потерпела ряд поражений. Многие части оказались в окружении и понесли большие потери.
Часто эти неудачи связывают с теми репрессиями 1937 года и арестами высшего командного состава. Но были и другие причины: слабая дисциплина в войсках и недостаток образования среди командиров. Армия лишь училась использовать новую технику в условиях современной войны, а уровень выучки и подготовки солдат оставался низким.