Утияма планировал подавить советскую артиллерию и оборонительные позиции, выпуская до 15 000 снарядов в день, и поддерживая такую интенсивность огня несколько дней. Для японских офицеров, не имевших опыта массированных артиллерийских обстрелов Первой Мировой Войны, это казалось неслыханной интенсивностью огня.
Тем временем 1-я армейская группа Жукова также постоянно получала подкрепления, в том числе еще два полка артиллерии и буквально тысячи тонн снарядов.
Когда японская тяжелая артиллерия была подтянута к фронту, это подняло боевой дух пехоты. Пехотные командиры просили артиллерийских офицеров обстреливать противника даже когда он был за пределами дальности, потому что огонь своей артиллерии повышал боевой дух японских пехотинцев, сильно страдавших от советских обстрелов. Но выполнить это было не так просто, потому что японские 120-мм гаубицы имели максимальную дальность стрельбы лишь 5500 ярдов, и их приходилось располагать относительно близко к фронту, подвергая смертельной угрозе контрбатарейного огня.
Утром 23 июля японская артиллерия открыла интенсивный огонь, к большой радости японских пехотинцев. Советские орудия немедленно стали отвечать, и вскоре над Халхой бушевала буря огня и стали.
По мере того, как день продолжался, обе стороны усиливали обстрел. Японские и советские артиллеристы, раздевшись до пояса, напряженно работали у орудий. Японцы были поражены, обнаружив, что огонь советской артиллерии не только не ослабевает, но и усиливается, вскоре превзойдя японский. Многие советские орудия, которые, казалось, были подавлены утром, просто сменили позиции и возобновили обстрел. С более высокого западного берега Халхи советские артиллеристы могли с большей эффективностью обстреливать японские позиции, имея возможность наблюдать свои попадания и корректировать огонь. Их тяжелые орудия имели большую дальность стрельбы, чем японские.
У японской армии не было современного опыта контрбатарейной борьбы. Помощи от авиации тоже не было, потому что к тому времени 2-я авиагруппа Квантунской Армии утратила господство в воздухе над полем боя. Советские истребители иногда обстреливали из пулеметов позиции японской артиллерии. Артиллеристы генерала Утиямы даже пытались вести наблюдение с аэростатов для корректировки огня. Но как только аэростаты поднимались в воздух, советские истребители сбивали их. Так за один день было сбито два аэростата - доказательство храбрости японских наблюдателей и одновременно устарелости техники японской армии. После потери двух аэростатов воздухоплавательная часть была отведена из района Номонхана и отправлена на китайский фронт - там еще можно было применять аэростаты, так как у китайской армии почти не было авиации. По оценке японских артиллерийских офицеров за день 23 июля советская артиллерия выпустила 30 000 снарядов, а японская лишь 10 000.
Артиллерийский бой прекратился с наступлением темноты, но на следующий день возобновился с новой яростью. Японцы надеялись, что на второй день артиллерийского боя у противника начнут истощаться боеприпасы. Но этого не случилось. Жуков использовал темное время суток для подвоза огромного количества боеприпасов и подтянул новые артиллерийские части из тыла. В этот день интенсивность и точность советского огня далеко превзошли японские. Японские артиллеристы были ошеломлены. Многострадальная пехота Комацубары была вынуждена выдержать самый ужасный обстрел из всех, которые им приходилось терпеть. К третьему дню артиллерийского боя стало ясно, что советская сторона побеждает. Запасы советских снарядов казались бесконечными, а точность огня значительно улучшилась, особенно при контрбатарейной борьбе.