Во исполнение этого приказания в шесть часов вечера того же 16 августа началось наступление корпуса из Млавы к Нейденбургу. Вперед был выдвинут отряд генерала Сирелиуса. В состав отряда входили: три батальона лейб-гвардии Литовского полка, три батальона (к вечеру 17 августа подошел и 4-й батальон) лейб-гвардии Петроградского полка, семь батальонов 1-й стрелковой бригады, 9-й саперный батальон, два дивизиона артиллерии и 1-я мортирная батарея. Конницы не было, за исключением конвойной сотни штаба 3-й гвардейской пехотной дивизии.
Прочие части корпуса, как более расстроенные за время предшествующих боев, должны были выступить из Млавы в пять часов утра 17 августа.
У Кандиен наступающие части встречены были огнем противника из окопов, расположенных по обеим сторонам шоссе на высотах, лежащих между Нейденбургом и Кандиен.
Дальнейшее движение ввиду губительного ружейного, пулеметного и артиллерийского огня шло весьма медленно.
Около трех часов дня 17 августа к наступающим частям прибыл командир корпуса генерал Душкевич. Он лично стал руководить наступлением, выводя батареи вперед на открытые позиции. Выезды батарей так подействовали на пехотные части, что те ринулись в атаку, противник не выдержал и отступил. В девять часов вечера Нейденбург был занят нами.
Через полчаса командир корпуса, через исполняющего обязанности начальника штаба корпуса, полковника Крымова, отдал приказ гвардии и стрелкам под общим начальством генерала Сирелиуса занять и укрепить позицию на фронте Робертсгоф – Нейденбург, а 24-й пехотной дивизии расположиться правее гвардии и стрелков. Письменная, более подробная диспозиция была разослана ночью.
Сам генерал Душкевич, со штабом корпуса, разместился в Бергхофе, при резерве, состоявшем из частей 22-й пехотной дивизии.
В четыре часа утра 18 августа командующий корпусом генерал Душкевич был разбужен полковником Крымовым, который доложил ему, что части гвардии и стрелки отступают. Выйдя из своего помещения на улицу, генерал Душкевич увидел, как через его резерв отходили гвардейские полки, направлявшиеся к Млаве.
Почти в то же время к нему подъехал генерал Сирелиус и начал что-то говорить о своем отступлении. Что именно говорил генерал Сирелиус, генерал Душкевич не помнит, помнит только, как он сказал, что иначе поступить не могу и что вину он принимает на себя. Видя весь отступающий отряд столпившимся и дезорганизованность резерва, и желая спасти положение дел, генерал Душкевич приказал генералу Сирелиусу отвести отряд за резерв и занять верстах в двух новую позицию. Для обеспечения же отхода генерал Душкевич выдвинул из резерва вправо и влево, пехотные полки – 87-й Нейшлотский и 88-й Петровский, а 85-му пехотному Выборгскому полку, выдвинутому ночью вперед на позицию к Нейденбургу, приказал на ней оставаться.
По словам полковника Крымова, когда он обратился к прибывшему в Бергхоф с отступающим отрядом генералу Сирелиусу со словами: «Ваше Превосходительство, что Вы сделали?! Вы испортили все дело!», то генерал Сирелиус ответил, что в Нейденбурге он видел бывшего в плену у германцев раненого казачьего офицера из конвоя командира XV корпуса, который сообщил ему, что генерал Мартос застрелился и что названный корпус погиб; затем этот офицер уверил генерала Сирелиуса, что отряд последнего попал в ловушку, так как впереди сосредоточивались большие силы противника. Это обстоятельство и послужило, по объяснению генерала Сирелиуса, основанием отдать приказание об отступлении, без предупреждения о том командира корпуса.
Отступление генерала Сирелиуса, по словам полковника Крымова, было полное – части шли широким шагом, мер охранения принято не было.
Ввиду отхода частей гвардии и стрелков, было приказано отступать и 24-й пехотной дивизии, направленной на Модткен и Мушакен и дошедшей до Сагсау.
Отступление корпуса происходило под прикрытием частей 22-й пехотной дивизии.
Когда боевой порядок этой дивизии был уже установлен, германцы открыли огонь, и под их напором 85-й пехотный Выборгский полк, остававшийся левее Нейденбурга, стал постепенно отходить к той позиции, где должны были, по указанию генерала Душкевича, оставаться части гвардии и стрелки, но как оказалось, части гвардии указанной ей позиции не заняли, а дошли прямо до Млавы и только там остановились, заняв оборонительную позицию.
Из Куклина генерал Сирелиус в 9 часов 56 минут утра 18 августа прислал командующему корпусом донесение, в котором сообщал: «На пути отступления колонны организовать правильную оборону трудно. Отступление продолжается на Млаву».
Из частей корпуса 87-й пехотный № 88-й пехотный Петровский полки оставались на позиции у Бергхофа до пяти часов вечера 18 августа, ожидая письменного приказания об отходе, так как генералом Душкевичем было отдано распоряжение – без письменного приказания не отходить.