С мая 1937 г. заместитель начальника Генштаба. В феврале 1938 г. присвоено воинское звание комкор. В сентябре 1938 г. назначен командующим войсками Приволжского военного округа, а в феврале 1939 г. – Ленинградского. Во время Советско-финляндской войны 1939–1940 гг. К.А. Мерецков командовал 7-й армией, прорвавшей укрепления линии Маннергейма на Карельском перешейке. За успешные действия в годы войны в июне 1940 г. Мерецкову в числе первых было присвоено воинское звание генерала армии.
15 августа 1940 г. генерал армии К.А. Мерецков назначается начальником Генерального штаба Красной Армии. Деятельность возглавляемого им Генштаба в условиях шедшей Второй мировой войны была тесно увязана с проводимыми в стране мероприятиями по подготовке к отражению готовящейся агрессии Германии против Советского Союза. Мерецков активно участвовал в организационно-технической реорганизации армии и флота, наращивании военного производства, увеличении численности войск, создании механизированных корпусов. Получили дальнейшее развитие артиллерия ВВС и Войска противовоздушной обороны (ПВО). 14 января 1941 г. приказом НКО № 0145 его освобождают от должности начальника Генштаба и переводят на должность заместителя наркома обороны СССР по боевой подготовке.
В самом начале Великой Отечественной войны по ложному доносу К.А. Мерецков был арестован, но в сентябре 1941 г. освобожден.
Кирилл Афанасьевич был привлечён к ответственности по статье 58, пункты 1 «б», 7, 8, 11 УК РСФСР на основании показаний арестованных в 1937–1938 годах командарма 1-го ранга И.Ф. Федько, армейского комиссара 1-го ранга П.А. Смирнова, флагмана флота 1-го ранга В.М. Орлова и ряда других, в том числе генерал-лейтенанта авиации Я.В. Смушкевича. И.П. Уборевич дал показания, якобы он лично завербовал Мерецкова в антисоветскую военную заговорщическую организацию. Следствие вели Л.Е. Влодзимирский, Л.Л. Шварцман, Б.В. Родос и В.Г. Иванов.
О том, что они подвергали Мерецкова «физическим методам воздействия» и даже мочились ему на голову нам известно от сестры Ольги Берггольц – Марии, которая опубликовала записи своих бесед с бывшими сослуживцами маршала. И вроде как один из них свидетельствовал: зимой 1941–1942 гг. у Мерецкова случился конфликт со следившим за ним сотрудником Особого отдела, которому Кирилл Афанасьевич гневно заявил, что ему жить не хочется и что проклятые особисты в НКВД мочились ему на голову. Есть ещё воспоминания генерал-майора А.И. Корнеева, лично присутствовавшего при разговоре Мерецкова с И.Х. Баграмяном и С.К. Тимошенко. И якобы последнему на его вопрос, почему себя оговорил, Мерецков ответил: потому что над ним издевались, «дубасили». В случае дачи нужных показаний обещали не трогать семью.
Поэтому-де на предварительном следствии Мерецков признал себя виновным, а при очной ставке с А.Д. Локтионовым убеждал последнего тоже подписать признательные показания. И это всё. Никаких других документов, подтверждающих факт пыток Кирилла Афанасьевича в «бериевских застенках», не существует.
Как всё было на самом деле, нам неизвестно, и уже вряд ли мы об этом узнаем. Все документы, так ли иначе связанные с Берией (по некоторым сведениям, 40 томов), по распоряжению Хрущёва уничтожены 25 января 1955 года.
Архивно-следственное дело № 981 697 в отношении Мерецкова уничтожено 25 января 1955 года на основании указания ЦК КПСС и распоряжения председателя КГБ при СМ СССР И. А. Серова, вследствие чего большинство подробностей дела неизвестны.
Зато сохранились курьёзные воспоминания самого Хрущёва: «Берия ещё при жизни Сталина рассказывал об истории ареста Мерецкова и ставил освобождение его себе в заслугу: «Я пришел к товарищу Сталину и говорю: Мерецков сидит как английский шпион». Сталин сказал так: «Какой он шпион? Он честный человек. Война идёт, а он сидит. Мог бы командовать. Он вовсе не английский шпион». Неизвестно, правда это или нет. Но его выпустили».
Мерецков после освобождения никому не жаловался на здоровье; нигде и никогда не писал о том, что его пытали. Дело Мерецкова и поныне – белое пятно. Нет материалов уголовного дела, нет протоколов допросов генерала и его очных ставок, нет никаких выписок из дела, нет подтверждения того, что он выпущен по распоряжению вождя.
Есть только вот это письмо: «Секретарю ЦК ВКП (б) Сталину И.В.