Примерно в одно время с началом Киевской операции разгорелось ожесточенное встречное сражение на смоленском направлении. 10 июля группа армий «Центр» (фельдмаршал Ф. Бок), разгромившая в Белоруссии войска Западного фронта, начала наступление на Смоленск с линии Могилев — Орша — Витебск. Советское командование срочно перебросило на данный участок войска второго стратегического эшелона и буквально воссоздало Западный фронт, который возглавил маршал Тимошенко. Тем не менее возместить огромные потери первых двух недель боев в Белоруссии не удалось. На смоленском направлении немцы имели двукратное превосходство в живой силе и четырехкратное в танках.
Применив танковые клещи, германское командование добилось нового крупного успеха. К 16 июля 2-я танковая группа немцев (генерал X. Гудериан), продвинувшись вперед на 100–150 км, ворвалась с юга в Смоленск. Одновременно 3-я танковая группа (генерал Г. Гот) продвинулась на восток до Ярцева и, повернув на юг, соединилась западнее Смоленска с передовыми частями 2-й танковой группы. В результате севернее города попали в окружение 16-я (генерал М. Ф. Лукин) и 20-я (генерал П. А. Курочкин) армии. В «мешке» оказалось, по немецким данным, 180 тыс. чел. Однако окруженные войска не сложили оружия и продолжали сражаться, в том числе и в самом Смоленске. В результате прорыва немцев образовался Смоленский выступ, направленный своим острием на Москву.
Интересно, что в те дни германское командование фактически попыталось повторить маневр Наполеона по захвату Соловьевой переправы. И вот спустя 129 лет в этом районе подвиг солдат генерала Тучкова повторили воины сводного отряда полковника Александра Лизюкова, которые в течение длительного времени стойко отражали попытки немцев захватить переправу и затянуть горловину «Смоленского мешка». Тем самым отряд Лизюкова обеспечивал снабжение и пути отхода борющимся под Смоленском войскам. У Красной Армии стало появляться новое оружие. Так, 14 июля в боях под Оршей советские войска впервые применили знаменитые реактивные пусковые установки БМ-13, известные под названием «Катюши».
На втором этапе Смоленского сражения, с 21 июля по 7 августа, советское командование предприняло ряд сильных контрударов из районов Белого, Ярцева и Рославля по сходящимся направлениям на Смоленск с целью освобождения окруженных войск. В южной части Смоленского выступа, в районе Гомеля и Бобруйска, наступательные действия вела 21-я армия (генерал В. И. Кузнецов), сковавшая силы трех германских корпусов. Для укрепления смоленского направления в конце июля были сформированы Центральный (генерал Ф. И. Кузнецов) и Резервный (генерал Г. К. Жуков) фронты.
Немцы ценой огромных усилий удержали фронт и не допустили прорыва советских войск к Смоленску. И все же некоторым подразделениям удалось пробиться из окружения. Потеряв в этих боях 250 тыс. чел., группа армий «Центр» не смогла продолжить наступление. К концу июля она лишилась до 20 % личного состава пехотных и до 50 % техники танковых соединений. 30 июля, впервые с начала войны против СССР, немецкие войска получили приказ перейти на смоленском направлении к обороне. Ликвидация окруженных под Смоленском войск завершилась 5 августа.
В этот период впервые возникают серьезные разногласия в высшем руководстве Германии. Так, командующий группой армий «Центр» генерал-фельдмаршал фон Бок заявил 4 августа Гитлеру, прибывшему на Восточный фронт: «Дальнейшее наступление группы армий „Центр“ я считаю, мой фюрер, опасным и предлагаю в сложившейся обстановке занять прочные позиции, чтобы переждать русскую зиму». Кстати, подобные мысли высказывал и Наполеон сразу после взятия Смоленска в августе 1812 года. Другая часть германских военачальников выступала за продолжение наступления на столицу СССР.
В сложившейся ситуации Гитлер, не добившийся быстрого прорыва к Москве через Смоленск, решил остановить наступление на центральном направлении и повернуть часть сил группы армий «Центр» на Левобережную Украину. Он, видимо, уже тогда начал сомневаться в успехе молниеносной войны и посчитал, что скорейший захват ресурсов — украинского хлеба и донбасского угля важнее, чем военная победа под Москвой. Кроме того, без ликвидации советской группировки под Киевом немецкие войска, наступавшие на Москву со Смоленского выступа, оставались с открытым южным флангом. Это полностью нарушало взаимодействие между группами армий «Центр» и «Юг», что ставило наступавшие на советскую столицу немецкие войска и их коммуникации в крайне рискованное положение.