В тот же день начальник Генерального штаба РККА издал директиву о проведении операции по окружению и разгрому противника в районе Смоленска. В распоряжение маршала С. К. Тимошенко из фронта Резервных армий передавалось 20 дивизий. 9 кавалерийских дивизий сосредотачивались в районе Смоленска. Эти соединения поступали в состав 5 новообразованных оперативных армейских групп, которые должны были нанести одновременный удар: две из них под командованием генерал-майора В. А. Хоменко (первоначально 2 стрелковые и 107-я танковая дивизии) и генерал-лейтенанта С. А. Калинина (3 стрелковые дивизии) — из районов Белого и южнее его, третья — генерал-майора К. К. Рокоссовского (2 стрелковые и 101-я танковая дивизии) — со стороны Ярцево и четвертая под командованием генерал-лейтенанта В. Я. Качалова (2 стрелковые и 104-я танковая дивизии) — от Рославля по сходящимся направлениям на Смоленск. Группа войск 29 А генерал-лейтенанта И. И. Масленникова должна была нанести поражение соединениям 3-й танковой группы вермахта и пробиться к Витебску. После разгрома противника они должны были соединиться с основными силами 16-й и 20-й армий, окруженных в Смоленске. Общее руководство наступлением возлагалось на командующего Западным фронтом, которым с 19 июля 1941 года стал генерал-лейтенант А. И. Еременко. Членом Военного совета был назначен дивизионный комиссар Д. А. Лестев, начальником штаба фронта — генерал-лейтенант Г. К. Маландин.
Чтобы поддержать и прикрыть ударные группировки с воздуха, выделялись 3 авиационные группы, каждая в составе до смешанной авиационной дивизии, а для содействия наступавшим с фронта войскам была создана кавалерийская группа (3 дивизии) с задачей совершить рейд по тылам могилевско-смоленской группировки противника. Группа под общим командованием генерал-лейтенанта О. И. Городовикова была сосредоточена в полосе 21 А. В целях повышения боевых возможностей в большинство стрелковых дивизий оперативных групп, предназначенных для наступления, включили по одному танковому батальону из 21 танка каждый (в частности, 102-я танковая дивизия таким образом сформировала 3 отдельных батальона. —
17-й механизированный корпус выделил свой моторизованный полк, который к 23 июля поступил в распоряжение группы войск Рокоссовского. 101-я танковая дивизия, как уже упоминалось, имела к началу боев 220 танков, из них исправных осталось не более 60, остальные были потеряны в боях под Ярцево 18–21 июля. Большинство танков сгорело от огня артиллерии противника. К 23 июля танки дивизии в атаку уже не посылались, их держали в резерве на случай контратаки и использовали в качестве огневых точек. 107-я танковая дивизия на 20 июля имела в своем составе около 210 танков и выдвинулась для поддержки стрелковых соединений 30 А [31].
104-я танковая дивизия, привлекаемая для контрудара, была выведена прямо из боя. В период с 19 по 22 июля 104 тд поддерживала 19-ю стрелковую дивизию, действующую под Ельней. В этих боях из состава 104-й танковой дивизии участвовало 22 танка БТ и Т-26, а 21 июля в атаке участвовало 28 танков БТ и Т-26 и один танк КВ.
Танки 104-й танковой дивизии, выполняя задачи непосредственной поддержки пехоты 19-й стрелковой дивизии, несли потери по причине отсутствия хорошо организованного взаимодействия с пехотой и артиллерией. Отдельные танки врывались в Ельню, тогда как пехота оставалась далеко позади, а артиллерия не знала, где в данный момент ведут бой танки. Кроме того, подготовка танковой атаки была настолько скоропалительной, что необходимых разведывательных данных о системе противотанковой обороны противника штабы танковых полков и дивизий не имели. И как результат, танки, подавив часть огневых точек противника, на подступах к Ельне были встречены сильным противотанковым и артиллерийским огнем, а затем, неся большие потери, возвратились на исходные рубежи к своей пехоте.