Наступление 3-й танковой армии началось по плану в 6.00 2 февраля. В первый день наступления стрелковые дивизии армии Рыбалко продвинулись почти на 20 км. Армия наступала на юго-запад и просто отбросила заслон полка «Дойчланд» дивизии «Дас Райх» из армейской группы Ланца на северо-запад, в район Великий Бурлук, обойдя его открытый правый фланг. Во второй день наступления стрелковые дивизии сохранили темп своего продвижения и прошли тоже почти 20 км. Бои с эсэсовцами выпали 2 и 3 февраля на долю 12-го и 15-го танковых корпусов, действовавших на правом фланге армии.
Не будучи удовлетворен медленным продвижением танковых корпусов на правом фланге своей армии, Рыбалко решил рокировать оба корпуса на левый фланг. Уже 3 февраля танковым корпусам была поставлена задача выйти в район Чугуева и Печенег, в 35–50 км от их нынешнего положения. Однако вскоре продвижение 3-й танковой армии замедлилось: в район восточнее Харькова начали прибывать остальные части эсэсовских дивизий. Во-первых, в районе Белый Колодезь (в 60 км западнее рубежа, с которого армия Рыбалко начала наступление) сосредоточился полк «Дер Фюрер» танко-гренадерской дивизии «Дас Райх». Во-вторых, на рубеже реки Северский Донец начали занимать оборону части танко-гренадерской дивизии СС «Лейбштандарт СС Адольф Гитлер».
Первой акцией прибывших частей была контратака против правого фланга 3-й танковой армии. Против нее был выставлен заслон силами 184-й стрелковой дивизии. Рыбалко не запаниковал и не стал возвращать в точку контрудара 12-й и 15-й танковые корпуса. Подвижные соединения 3-й танковой армии по-прежнему нацеливались на предместья Харькова. Результаты первой контратаки частей корпуса Хауссера следует расценить как умеренные.
С 6 февраля соединения 3-й танковой армии втянулись в бои за юго-восточные подступы к Харькову с вступившими в бой «с колес» частями «Лейбштандарта». После нескольких дней боев танкистам и пехотинцам армии Рыбалко удалось сломить сопротивление эсэсовцев, и в ночь с 9 на 10 февраля города Печенеги и Чугуев на восточных и юго-восточных подступах к Харькову были взяты штурмом. Северский Донец был форсирован, и до Харькова оставалось всего пара десятков километров по прямой.
Сплошной фронт уже отсутствовал, и командующие наступающими армиями настойчиво искали просветы в построении войск противника для развития успеха. 8 февраля П.С.Рыбалко решил использовать разрыв фронта между «Лейбштандартом» и окруженной 320-й пехотной дивизией для глубокого обхода оборонявших Харьков частей противника. В качестве инструмента для обходного маневра было выбрано наиболее подвижное в зимних условиях соединение — 6-й гвардейский кавалерийский корпус. Кавалерийский корпус был усилен 201-й танковой бригадой.
Наступление Воронежского фронта привело к кризису на всем фронте армейской группы Ланца. Северо-восточнее Харькова и в районе Белгорода оборонялись на широком фронте 168-я пехотная дивизия и танко-гренадерская дивизия «Великая Германия». Первая непрерывно отступала к Белгороду под нажимом 40-й армии, вторая отступала к северным окраинам Харькова под нажимом 69-й армии. Оборона под Белгородом была усилена немцами венгерской танковой дивизией. Однако большая часть венгерских танков была быстро перебита в течение 7–8 февраля огнем орудий танков Т-34 и противотанковой артиллерией наступающих стрелковых дивизий.
Уже 8 февраля в 5 часов утра усиленные танками 183-я и 309-я стрелковые дивизии 40-й армии овладели пригородами Белгорода и оседлали все дороги к северо-западу, западу и югу от него. После этого началось постепенное очищение городских кварталов от занимавшей город немецкой пехоты. Наступающие рассекли 168-ю пехотную дивизию на несколько боевых групп в разных кварталах города, об организованном отходе из Белгорода уже не могло быть и речи. К утру 9 февраля войска 40-й армии полностью очистили Белгород от немцев.