Начавшиеся трехдневные бои за обладание горой Баян-Цаган оказались бескомпромиссными. С обеих сторон в них участвовало до 400 танков и бронемашин, более 800 артиллерийских орудий, сотни самолетов. Особенно отличились 149-й и 24-й стрелковые полки под командованием майора И.М. Ремизова (ему посмертно было присвоено звание Героя Советского Союза) и И.И. Федюнинского. Японцы постоянно атаковали, стремясь вернуть себе инициативу в боях, но Жуков и начальник штаба 57-го отдельного корпуса комдив М.А. Богданов быстро реагировали даже на малейшее изменение обстановки на берегах Халхин-Гола.
Поскольку наступавшие японские войска имели заметное численное превосходство, к ночи 3 июля советские войска отошли к Халхин-Голу, сократив свой плацдарм к востоку от ее берега. Однако ударная группировка японцев под командованием генерал-лейтенанта Ясуоки со своей задачей не справилась.
Об ожесточенности боев за высоту Баян-Цаган свидетельствует такой факт. До 16.00 второго дня боев — 4 июля стрелковый полк Федюнинского отбил около десятка вражеских атак, которые не раз переходили в штыковые, рукопашные схватки. Инициатива полностью перешла к советско-монгольским войскам, и японцам пришлось перейти к обороне, однако гору удержать они не смогли. Они атаковывались теперь с трех сторон, имея за спиной реку Халхин-Гол, и в результате оказались в полуокружении.
В районе горной вершины все три дня боев шли многочисленные воздушные схватки. Японская авиация в небе над Баян-Цаганом потеряла 45 самолетов, в том числе 20 пикировщиков. Последние безуспешно старались оказать поддержку с воздуха своим наземным войскам. С каждым налетом японским летчикам приходилось все труднее — противник встречал их без промедления и сразу же начинал теснить в сторону Маньчжоу-Го, к своим аэродромам.
К вечеру 4 июля японские войска удерживали только вершину Баян-Цагана — узкую полоску местности в пять километров длиной и два километра шириной. На этом участке сосредоточились все силы японцев, которые переправились на западный берег Халхин-Гола. Бои на Баян-Цагане не утихали весь вечер и всю ночь.
Под утро 5 июля японские войска дрогнули и, несмотря на категорические приказы своих командиров драться до последнего, начали отступать с горной вершины по крутым скатам к берегу реки. Тогда японское командование предприняло последнюю отчаянную попытку заставить своих солдат сражаться до последнего патрона на линии окопов: единственный понтонный мост через Халхин-Гол был взорван саперами.
Однако это не остановило начавшееся повальное отступление — бросая личное оружие и боевую технику, японцы пытались переправиться на противоположный речной берег кто как может. Все это происходило под огнем противника. Многие бежавшие с Баян-Цагана нашли свою гибель в быстрых водах Халхин-Гола, особенно раненые, которые оказались не в силах справиться с речным течением.
В результате неординарных боевых решений Жукова японские войска у горы Баян-Цаган оказались наголову разгромленными, и к утру 5 июля их сопротивление оказалось сломленным. На горных склонах погибли более 10 тысяч неприятельских солдат и офицеров. Остатки японских войск в беспорядке и панике бежали на противоположный берег реки. Они потеряли почти все танки и большую часть артиллерии.
Трехдневные бои на берегах Халхин-Гола вели японские войска под командованием «специалиста по Красной Армии» генерал-лейтенанта Камацубары. В свое время он был военным атташе посольства Страны восходящего солнца в Москве. О его «отъезде» с поля боя под Баян-Цаганом описывает в своем армейском дневнике старший унтер-офицер его штаба Отани: