Данные меры оказали должное воздействие на немецкие части, прекратив их паническое отступление (для сравнения можно отметить, что подобные жесткие меры были введены в Красной Армии лишь в июле 1942 г.). Оборона германских войск, срочно пополненная резервами, обрела устойчивость. 17 декабря 1941 года командующим группой армий «Центр» вместо фон Бока был назначен фельдмаршал Г. Клюге.
В отличие от многих немецких генералов, считавших, что в сложившейся ситуации логичен быстрый отход подальше на запад к выгодным оборонительным рубежам, Гитлер выдвинул идею упорной обороны. Ее суть сводилась к лозунгу «Ни шагу назад!». Гитлер, сам возглавивший в то время сухопутные силы, придерживался тактики упорного удержания коммуникаций и превращения их центров в крепости, которые должны были удерживаться до последней возможности. Эта тактика, которая затем станет для немцев традиционной, была в то время новой и неожиданной для советских войск. При упорной обороне немцев нехватка личного состава у советских частей сказалась в полной степени. В той обстановке, когда чаша весов успеха постоянно колебалась, подобная тактика себя оправдала.
Советское командование, окрыленное первыми успехами, переоценило свои возможности. Вместо концентрации всех сил для продолжения успешного наступления под Москвой Ставка приняла решение о наступлении на всем советско-германском фронте: под Ленинградом, Демянском, Москвой, Харьковом, в Донбассе и Крыму. Этот амбициозный план преследовал цель ударами по сходящимся направлениям окружить немецкие войска на ключевых участках и переломить ход войны в свою пользу.
Однако реализация столь масштабной задачи привела к распылению сил при примерно равной общей численности противостоящих друг другу войск. На 1 января 1942 года войска Германии и ее союзников, воюющих против СССР, составляли 3909 тыс. чел. Красная Армия насчитывала в своих рядах 4199 тыс. чел. Под Москвой же немцы, за счет переброски подкреплений, продолжали сохранять численное преимущество.
Советское наступление под Москвой возобновилось с началом Ржевско-Вяземской операции (8 января — 20 апреля). Она преследовала цель фланговыми ударами окружить основные силы группы армий «Центр». Наступление велось с севера Калининским (генерал И. С. Конев) и с юго-востока Западным (генерал Г. К. Жуков) фронтами по сходящимся направлениям на Вязьму — важнейший железнодорожный узел, через который шло снабжение оборонявшихся на московском направлении войск. К наступлению были также подключены силы Северо-Западного фронта (генерал Курочкин). Им (4-я ударная армия) ставилась задача глубокого охвата с севера группы армий «Центр».
К началу второго этапа наступления советские войска испытывали серьезную нехватку в резервах и средствах наступления. Они продолжали уступать в численности группе армий «Центр». Так, на 1 января 1942 года в войсках Калининского, Западного и Брянского фронтов насчитывалось 1,2 млн чел., около 8,7 тыс. орудий и минометов, 571 танк. Противостоящая им группа армий «Центр» имела в своем составе 1,5 млн чел., около 13 тыс. орудий и минометов, 110 танков.
В начале операции наибольший успех выпал на долю 4-й ударной армии (генерала Еременко). Скрытно сосредоточенная в заснеженных лесах у озера Селигер, она нанесла удар на стыке групп армий «Север» и «Центр». Наступая по пояс в снегу, в 40-градусный мороз, бойцы Еременко совершили за две недели 250-километровый бросок и вышли с севера на подступы к Смоленску. В результате северный фланг советского наступления навис тяжелой глыбой над магистралью Москва — Минск — главной артерией снабжения немецких войск. Это было самая успешная наступательная операция советских войск начала 1942 гг.
Однако успешно завершить прорыв и перерезать магистраль 4-й армии не удалось. Ее силы были на исходе. В частях закончились боеприпасы, горючее и продовольствие. К Смоленску подошли остатки измученной зимним переходом армии без достаточного количества патрон, снарядов и еды. Для завершающего удара сил у солдат Еременко уже не хватило. Тем не менее глубокий прорыв 4-й ударной армии вынудил германское командование отвести в центре свои войска на новую линию обороны Ржев — Гжатск — Юхнов.