Несмотря на задержку, армия Ренненкампфа возобновила наступление. Но уже 19 августа она начала испытывать трудности из-за недостаточного снабжения. Находясь на расстоянии всего лишь в 15 миль от своей границы, командиры корпусов начали докладывать о том, что запасы не поступают и что они не могут связаться друг с другом и со штабом армии. А дороги перед русскими были забиты стадами коров и овец, угоняемыми уходящим населением. Бегство жителей и отступление корпуса Франсуа заставили Ренненкампфа и его начальника, командующего Северо-западным фронтом генерала Жилинского, поверить, что немцы эвакуируют Восточную Пруссию. Это не устраивало русских, поскольку если германская армия так быстро отступит, она избежит уничтожения в результате планируемых русских клещей. Поэтому 20 августа Ренненкампф приказал остановиться, но не из-за собственных трудностей, а для того, чтобы вовлечь противника в сражение, тем самым давая возможность 2‑й армии Самсонова подтянуться для решительного удара по германскому тылу.
Генерала Франсуа не нужно было уговаривать. Вновь чуя запах боя, он 19 августа телефонировал фон Притвицу в штаб 8‑й армии и потребовал разрешить ему контратаковать вместо того, чтобы продолжать отступление. Это блестящая возможность, настаивал он, поскольку русское наступление было не равномерным и не настойчивым. Он с чувством описал бегство жителей и страстно восставал против позорного оставления прусской земли ненавистным славянам. Притвица раздирали сомнения. Намереваясь дать бой за Гумбинненом, 8‑я армия хорошо подготовила позиции вдоль реки Ангерапп. Но слишком раннее выступление фон Франсуа изменило план, и теперь его корпус находился в 10 милях восточнее Гумбиннена. Позволить ему атаковать означало принять бой далеко от позиций на Ангераппе, заставить два с половиной корпуса подтянуться к нему, ещё больше оторвав их от XX корпуса, который был выслан следить за подходом с юга армии Самсонова и которому в любой момент могла потребоваться их поддержка.
С другой стороны, германская армия, отступающая без серьёзного сражения, пусть даже всего на двадцать миль и к тому же на виду у испуганного населения… Нет такая картина просто нетерпима. Решение ещё более усложнилось, когда немцы перехватили приказ Ренненкампфа остановиться. Приказ был отдан русским командирам корпусов по радио с применением простого кода, который немецкий профессор математики, прикомандированный к штабу 8‑й армии в качестве криптографа, расшифровал без труда.
Возник вопрос: надолго ли остановился Ренненкампф? Сроки, в которые немцы могли свободно сражаться с одной русской армией в отсутствие другой, истекали. К этому вечеру три из шести дней, бывших в запасе, уже прошли. Если немцы будут ждать Ренненкампфа на реке Ангерапп, они могут оказаться сразу между двумя армиями. Именно в это время от XX корпуса было получено сообщение, извещавшее, что утром армия Самсонова перешла границу. Вторая половина клещей приближалась. Либо немцы должны немедля двинуться на Ренненкампфа, отказавшись от подготовленных позиций на Ангераппе, либо оторваться от Ренненкампфа и повернуть против Самсонова. Притвиц и его штаб остановились на первом решении и приказали Франсуа атаковать на следующее утро, 20 августа. Единственная сложность заключалась в том, что остальные два с половиной корпуса, послушно ожидавшие на реке Ангерапп, не могли действовать одновременно с ним.
Перед рассветом тяжёлая артиллерия Франсуа открыла огонь, застав русских врасплох. Обстрел продолжался полчаса. В 4 часа утра германская пехота двинулась вперёд, плохо различимая в предрассветных сумерках, пока не подошла к русским позициям на расстояние винтовочного выстрела. С наступлением утра бой разгорался по всему фронту как огонь, постепенно охватывавший хворост. Русские батареи открыли огонь по приближавшимся серым цепям, и неожиданно белая дорога, лежавшая на их пути, стала серой от покрывших её трупов. Поднялась вторая серая волна, приблизилась. Русские уже могли различить остроконечные каски. Снова ударили русские батареи, снова волна легла и снова поднялась следующая. Русские орудия, боезапас которых исчислялся по 224 выстрела на день, вели огонь, требовавший 440 снарядов в день. В небе появился самолёт с чёрными крестами и сбросил бомбы на русские батареи. Серые волны продолжали наступать. Они уже были на расстоянии 500 ярдов, когда русские пушки вдруг замолчали. Кончились снаряды. Две дивизии Франсуа отрезали 28‑ю дивизию русских, которая понесла 60 процентов потерь, что фактически означало полное уничтожение. Кавалерия Франсуа с тремя батареями конной артиллерии, далеко обойдя открытый фланг русских и не встречая сопротивления кавалерии противника, не имевшей артиллерии, атаковала русский обоз. Таковы были успехи корпуса, действовавшего против правого фланга Ренненкампфа, но в центре и на левом фланге положение было совсем иным.