В период советско-финляндской войны 1939–1940 гг. Штерна с Дальнего Востока направили командовать 8-й армией Северо-Западного фронта. Армия действовала на Петрозаводском направлении и изначально была поставлена в заведомо невыгодное положение. Театр военных действий как следует подготовлен не был. Шесть дивизий наступали на фронте шириной 300 км. Авиация фронта к началу войны насчитывала всего 10 скоростных бомбардировщиков и столько же истребителей.
Приказ о назначении Штерна командармом был датирован 16 декабря 1939 г. В предыдущих боях армия, безуспешно наступая, несла большие потери, но Штерн не набрался смелости доложить руководству, что некоторые части нужно отвести. За прошедшее время он стал свидетелем слишком многих арестов и потерял былую уверенность в принятии решений. Прибыв в армию, он заявил, что огульному отступлению должен быть положен конец. Это привело к тому, что многие части 56-го корпуса были окружены противником и долгое время сражались в отрыве от своих войск. В конце концов Штерн был вынужден дать приказ
В последующем Штерн провел большую работу по подготовке войск. В феврале — марте 1940 г. армия в ходе Лаймоловской операции прорвала оборону противника севернее Ладожского озера, поставив вражеские войска под угрозу полного окружения. Были деблокированы части наших войск, сражавшиеся в окружении.
Но к моменту окончания боевых действий армия не смогла полностью выполнить поставленную ей командованием задачу. Сталин был недоволен, и Г. Штерн на апрельском совещании ЦК ВКП(б) попытался оправдаться и откровенно ему льстил:
—
В конце концов Сталину надоело слушать панегирик в свою честь, и он прервал докладчика:
—
Штерн как будто не слышит намека:
—
В марте 1941 г. Штерна перевели в Москву с назначением на должность начальника Главного управления ПВО НКО СССР. В середине мая 1941 г. произошло чрезвычайное происшествие — немецкий самолет безнаказанно пролетел от границы и сел на одном из подмосковных аэродромов. Организационные выводы из случившегося пролета последовали незамедлительно.
Генерал-полковник Штерн был арестован 7 июня 1941 г. Как следует из материалов дела, начатого 16 июня, постановление на арест было подписано 9 июня. На постановлении стояли визы заместителя наркома госбезопасности Меркулова, прокурора СССР Бочкова и согласие Маршала Советского Союза С.М. Буденного, датированное 10 июня. Штерна подозревали в троцкистской и заговорщической деятельности. Эти обвинения генерал отрицал, но некоторые ошибки в своей работе признал: