26-31 августа произошло сражение, в начале которого командование 2-й армии сыграло в поддавки врагу. Не зная, что против него собралась почти вся 8-я армия, Самсонов настоял на дальнейшем продвижении центральных – XV и ХШ русских корпусов. Последовали немецкие атаки, русские контратаки, Несмотря на превосходство в силах, Канны не удавались. Русской контратакой было разгромлено правое крыло корпуса Франсуа. «27 августа, – пишет И.И. Вацетис, – принесло командованию 8-й германской армии одно из самых горьких разочарований, а именно – провал плана окружения 2-й армии генерала Самсонова. Группа ген. Франсуа определенно выдохлась и должна была ограничиться занятием Уздау и небольшим продвижением к югу. Восточная же группа (ген. Макензен, Бюлов и Брехт) балансировала в районе боевых действий 26 августа, не проявляя должной энергии ни против правого фланга, ни против тыла ген. Самсонова. Группа ген. Шольца потерпела вторично неудачу. После неудавшегося фантастического плана окружения всей армии ген. Самсонова ген. Гинденбург решает ограничиться более скромной задачей, а именно: окружить XV и ХШ русские корпуса зарвавшиеся в направлении Алленштейн-Остероде».
Не удалось, полностью выполнить и этот план, немецкие войска терпели многочисленные поражения. Утром 28 августа при попытке охватить фланг XV корпуса была наголову разбита 41-я пехотная дивизия. Дивизия сама попала в окружение, и, констатируется в официальном немецком источнике, «войскам пришлось прорываться обратно через двух с половиной километровый широкий прорыв… было потеряно 13 орудий и 2400 человек… В последних боях 41-я дивизия потеряла треть своего состава, после этого последнего несчастного наступления остатки имели небольшое боевое значение». И.И. Вацетис комментирует: «Фактом разгрома 41-й германской дивизии у Ваплиц была ликвидирована единственная попытка командования 8-й немецкой армии окружить центральные корпуса ген. Самсонова». Так что же произошло в эти дни, были ли окружены крупные группировки армии Самсонова или нет? Советские военные историки дают категорический ответ – окружения не было, а шло очень беспорядочное сражение, частично с перевернутым фронтом. Осознав, наконец, превосходство сил противника, Самсонов утром 29 августа отдал приказ об отходе. Войска перемешались, и не все получили его, но сражение продолжалось с неослабевающей силой. Командир ХШ корпуса генерал Клюев писал: «Прикрывавший тыл 143-й пехотный Дорогобужский полк во главе с доблестным командиром полка, полковником Кабановым, имел славный бой с немецкой бригадой в 10-ти верстах к югу от Алленштейна. Целый день сдерживал он атаки немцев, три раза отбрасывая их штыками. Командир полка был убит, и остатки полка присоединились к корпусу лишь к ночи. На месте боя было похоронено 600 немцев, как значится на надгробном памятнике».
Немцы дрались отнюдь не согласовано, генералы часто теряли управление войсками. К вечеру 28 августа, свидетельствует официальный немецкий источник, на ряде участков, так называемого «окружения», германцы внезапно ударились в бегство. «Беспокойство, охватившее штаб 8-й армии, заставило ген. Гинденбурга отправиться на место паники и личным присутствием способствовать восстановлению порядка, но паника в районе Танненберга приняла уже стихийный характер. Навстречу автомобилю
ген. Гинденбурга неслись галопом транспорты,тяжелая артиллерия с криком: «Русские наступают!» Дороги были сильно запружены. Автомобиль командарма рисковал быть увлеченным потоком бегущих. Гинденбург при виде общей паники должен был свернуть на Остероде».
Не рассмотрел, В действительности шел отход 2-й армии, части которой огрызались огнем и часто переходили в контратаки. Потери с обеих сторон были велики, немцы шли по пятам за русскими. Вспыхивавшие схватки отличались крайней остротой. Участник боя Каширского полка, оставленного в арьергарде, рассказывает: «Около 5—6 утра из леса вышла большая немецкая колонна. Колонна шла без охранения. Это была 37-я пех. дивизия. Когда голова колонны подошла шагов на 600—800, по ней был открыт ураганный картечный, пулеметный и ружейный огонь, доведенный до стрельбы почти в упор. Немцы не выдержали и обратились в бегство, оставив на поле груды убитых и раненых. Через час то же повторилось с колонной, вышедшей из леса северо-западнее (дивизия ген. Гольца). После этого наступление затихло до 11 часов. За это время немцами был подготовлен артиллерийский огонь по Каширскому полку со всех сторон из легких и тяжелых пушек. Огонь был чрезвычайно сильный, стреляло не менее 100-150 орудий. Издали казалось, что каширцы вместе с землей приподняты в воздух. Спастись удалось немногим…»