Командующий немецкой 8-й армией генерал М. Притвиц и на самом деле уже хотел оставить Восточную Пруссию, однако, внимательно изучив обстановку и убедившись в пассивности Ренненкампфа, изменил ранее намеченный план отступления за Вислу. Во время операции царские генералы всю оперативную информацию передавали по радио открытым текстом, и она стала легкой добычей штаба германской армии. В результате Притвиц принял решение двинуть основную часть своих войск против 2-й армии генерала Самсонова. План этот был одобрен в Берлине, и, хотя Притвиц и его начальник штаба Вальдерзее были сняты с занимаемых постов за нерешительность и заменены генералами П. Гинденбургом и Э. Людендорфом, 26 августа германские части атаковали авангард 2-й армии.
Наши солдаты и офицеры оборонялись мужественно, казалось, все попытки германцев потеснить их обречены, но на следующий день после начала наступления немцы передали по радио от имени командира русского первого корпуса ложный приказ оставить позиции. В итоге к концу 27 августа положение 2-й армии резко ухудшилось.
Два дня русским войскам пришлось вести тяжелые оборонительные бои. Планы окружения двух корпусов были сорваны, но решающими стали действия командира 1-й армии Ренненкампфа, части которого отстояли от расположения 2-й армии не более чем на 100 км. Приди Ренненкампф на помощь своему соседу — и наступление немцев неизбежно заглохло бы. Однако Ренненкампф проявил преступную нерешительность, бросил в трудную минуту на произвол судьбы целую армию.
Характерно, что незадолго до войны с участием Николая II проходила своеобразная периодическая «переаттестация» командующих дивизиями, корпусами и армиями, которые должны были вступить в должность после объявления мобилизации и повести свои войска к победе. Когда речь зашла о генерале Ренненкампфе, то его кандидатура вызвала возражение и военного министра, и начальника генерального штаба. Однако на их прошении о снятии с занимаемой должности Ренненкампфа царь собственноручно написал: «Не орел, но проявил твердость в 1905 году». Николай посчитал, что политическая благонадежность генерала, наглядно проявленная им во время кровавого подавления революции 1905 года в Забайкалье, куда более важна, чем его профессиональные качества.
29 августа немцы замкнули окружение двух русских корпусов и еще одной дивизии 2-й армии. Всего в районе Калусинского леса было окружено 30 тыс. человек и 200 орудий. В ночь на 30 августа, не снеся позора, покончил с собой генерал Самсонов. Принявший на себя командование армией генерал Н.А. Клюев не использовал всех возможностей для спасения окруженных войск и отдал приказ о сдаче в плен. Лишь некоторые офицеры отвергли этот приказ и вывели вверенные им войска из окружения.
Завершив окружение частей 2-й армии, немцы решили, оставив против нее заслон, приступить к разгрому 1-й армии. Наступление началось 6 сентября. Несмотря на то что наши войска располагали вполне достаточными силами, командующие Северо-Западным фронтом Жилинский и 1-й армией Ренненкампф не выполнили своего долга. К исходу 9 сентября противник прорвал слабую оборону русских войск в районе Мазурских озер, поставив тем самым под удар левый фланг 1-й армии.
Разрозненные действия царских генералов крайне отрицательно отразились на так удачно начавшейся Восточно-Прусской операции. Отход 1-й армии начался в ночь на 10 сентября. От окончательного разгрома ее спасла лишь нерешительность немецкого командования, опасавшегося контрудара русских, которого, впрочем, так и не последовало.
13 сентября командование Северо-Западного фронта отдало приказ, по которому 1-й армии предписывалось отойти за Неман, а 2-й — за Нарев. Восточно-Прусская операция завершилась. Она обернулась для русской армии потерями в 245 тыс. человек, в том числе 135 тыс. пленными.
Но тем не менее, если рассматривать итоги Восточно-Прусской операции в целом, то необходимо отметить бесплодность стратегических усилий немецкого верховного командования. Ему не удалось разгромить русские армии, они были лишь вытеснены к государственной границе. Устойчивость Северо-Западного фронта не была нарушена, и по-прежнему оставалась угроза его вторжения в Восточную Пруссию.