Для обороны Харькова в состав 3-й танковой армии прибыли 19-я стрелковая дивизия полковника Г.А. Гоголицына, 17-я стрелковая бригада войск НКВД полковника И.А. Танкопия, 86-я танковая бригада (почти без танков), три противотанковых полка и дивизион РС. Помимо этого в состав 3-й танковой армии 9 марта поступил 2-й гвардейский танковый корпус В.М. Баданова, насчитывавший 120 танков, из 3-й гвардейской армии Юго-Западного фронта. Также Воронежскому фронту передавался 3-й гвардейский танковый корпус И.А. Вовченко из состава Южного фронта. Командование Воронежского фронта решило остановить наступление в обход города 6-м гвардейским кавалерийским корпусом и корпусом Баданова, одновременно предприняв наступление во фланг немецким войскам у Харькова. С этой целью создавалась ударная группировка в 40-й армии в составе 183, 340 и 107-й стрелковых дивизий и 102-й танковой бригады. Направлением наступления были Ольшаны, которые были уже предусмотрительно прикрыты Хауссером «Тотенкопфом».
10 марта армии П.С. Рыбалко был подчинен 18-й танковый корпус Б.С. Бахарова. К тому моменту 110-я и 181-я танковые бригады корпуса, не имевшие матчасти, выходили на переформирование. 170-я танковая бригада насчитывала 6 танков Т-34 и 22 Т-70, собранных из разных частей. Корпусу был придан 141-й танковый полк в составе 4 Т-34 и 6 Т-70. Первоначально 170-ю бригаду корпуса Бахарова предполагалось использовать в атаках по флангу армии Гота в районе Изюма в качестве поддержки 53-й гвардейской стрелковой дивизии. Однако 10 марта корпус получил приказ совершить 150-километровый марш и сосредоточиться в районе Чугуева, куда он прибыл в 3.00 11 марта. Новой задачей корпуса было участие в контрударе фронта совместно с корпусами И.А. Вовченко и В.М. Баданова. Но всем этим планам не суждено было сбыться. Задача корпуса Хауссера была существенно облегчена действиями армейской группы «Кемпф». К 10 марта «Великая Германия» вышла на подступы к Богодухову. В условиях глубокого охвата фланга 69-я армия М.И. Казакова вынуждена была отойти на восток и занять позиции между Богодуховом и Харьковом. Задачей армии было удержание дороги Харьков – Белгород и Богодухова. Однако обе эти задачи М.И. Казаков считал для себя невыполнимыми и попросил передать Богодухов в ведение соседней 40-й армии К.С. Москаленко. Командующий фронтом согласился с этим решением, и границы между армиями были перенарезаны. К тому моменту 40-я армия оборонялась фронтом на юго-восток от Краснокутска до Богодухова. Но уже 11 марта Богодухов был захвачен «Великой Германией», и между 40-й и 69-й армиями образовался ничем не прикрытый разрыв. Это вынудило командование Воронежского фронта бросить корпуса И.А. Вовченко и В.М. Баданова в 40-ю и 69-ю армию соответственно. От первоначального плана контрудара по охватившей Харьков группировке пришлось отказаться. Более того, защищать город от обхода с севера было некому.
Планировавшееся сокрушение перешедшей в контрнаступление группировки немецких войск требовало все больше сил. 11 марта командующий Центральным фронтом К.К. Рокоссовский приказал 21-й армии начать походный марш в район Курска, где получить боевую задачу от представителя Ставки А.М. Василевского. Тем временем на улицы Харькова входили эсэсовцы двух немецких дивизий.
Главным участником уличных боев за Харьков стала дивизия «Лейбштандарт Адольф Гитлер». Утром 11 марта тремя боевыми группами дивизия начала штурм города со стороны Белгородского шоссе. Наименее удачно действовал 2-й танкогренадерский полк, который был остановлен контратаками 86-й танковой бригады. Второй полк дивизии продвигался быстрее и даже вышел к главной площади города. Однако контратаки 179-й танковой бригады заставили отойти назад. В наихудшем положении оказался разведывательный батальон Курта Майера, атаковавший город с северо-востока при поддержке девяти танков и двух самоходных противотанковых пушек. Вследствие нехватки топлива наступление остановилось. Батальон занял круговую оборону на кладбище, контролировавшем дорогу на Чугуев. Вскоре батальон Майера был окружен оборонявшими город советскими войсками.
К 12 марта Г. Гот поменял свое решение об использовании эсэсовских дивизий в штурме города. Втягивание II танкового корпуса СС в уличные бои означало возможность для защитников города вести бои до тех пор, пока это было целесообразно, а затем без помех покинуть Харьков. Поэтому командующий 4-й танковой армией приказал Хауссеру вывести из боев за Харьков дивизию «Дас Райх», сменить ею «Тотенкопф», бросив последний в обход города с северо-востока. Углубившаяся в город на километр дивизия «Дас Райх» была выведена назад и разорвана на две части. Полк «Дойчланд» был брошен на позиции к северу от города, а «Дер Фюрер» должен был обойти город с юга и атаковать ХПЗ.