Начальником Штаба корпуса стал известный своей работой на Царицынском фронте и в организации прорыва к Верхне-Донцам молодой, талантливый генштабист полковник Калиновский (после рейда произведенный в генерал-майоры), занимавший до этого должность начальника Оперативного отделения Штаба Донской Армии. Дивизиями и бригадами командовали соратники Мамантова по Степному походу и Царицыну генералы Толкушкин, А. С. Секретев, А. П. Попов, Н. П. Калинин. Благодаря начальнику контрразведывательного отдела полковнику И. М. Родионову удавалось вносить дезинформацию среди красных, образцово проводить оперативную и стратегическую разведку. Части корпуса были «полного состава», при корпусе имелось 3 бронеавтомобиля. Общая численность войск достигала 9000 шашек при 20 орудиях. Для ведения разведки корпусу придали самолет «Сопвич» (пилот -штабс-капитан Витте, летчик-наблюдатель - прапорщик Баринов).
4-й Донской корпус должен был бы стать стержнем антибольшевицкого сопротивления в Центральной России. Генералу Мамантову и его Штабу предоставлялась вся полнота гражданской власти, давались «полные права для разрешения всех могущих возникнуть вопросов боевого, хозяйственного и административного характера».
3 июля генералу Мамантову была поставлена задача: «Прорвать фронт противника между Борисоглебском и Бобровым и, разрушив тылы красных, способствовать быстрейшему продвижению Донской армии в ее полосе, имея конечной целью овладение Москвою». Тем самым Донское командование четко перевело значение рейда в разряд не тактической, а стратегической операции, последствия которой могли бы стать решающими для всего фронта ВСЮР. При составлении плана рейда предполагалось придать Мамантову еще и 2-й Донской корпус генерала П. И. Коновалова и конную дивизию полковника А. В. Голубинцева, однако до конца выполнить задуманного не удалось, так как дивизию Голубинцева направили на прикрытие стыка Донской и Кавказской Армий.
В это же время красные готовили контрнаступление на правом фланге Добровольческой Армии. Командующий Южным фронтом А. И. Егоров намеревался нанести удар из района Волчанска силами ударной группы бывшего генерала В. И. Селивачева по линии Купянск - Волчанск с непосредственной угрозой выхода к Харькову. Потрепанные под Царицыном IX-я и Х-я армии, получив подкрепления, готовились начать наступление по всей линии Донского фронта между Волгой и Хопром. В случае успеха красных под угрозу срыва ставился весь запланированный «поход на Москву». Именно поэтому рейд Мамантова должен был отвлечь на себя большую часть сил советского Южного фронта.
Штаб корпуса тщательно скрывал свои намерения, и рейд явился полной неожиданностью для советского командования. 20 июля, в последние дни перед началом рейда, в расположение корпуса прибыл генерал Сидорин и прочитал указ Верховного Правителя России адмирала Колчака о назначении генерала Деникина Главнокомандующим всеми Вооруженными Силами Юга России, а генерал Мамантов поздравил казаков с началом похода на Москву.
Сосредоточение частей завершилось, и на рассвете 22 июля знаменитый рейд начался. Вся тяжесть удара пришлась на стык советских VIII-й и IX-й армий. Свежие Донские дивизии обрушились на противостоящие им красные полки и в течение 22-27 июля пробили себе дорогу к ним в тыл. Днем и ночью шли проливные дожди, конница с трудом продвигалась по размытому чернозему. Броневики, бывшие при корпусе, буксовали в размытых колеях, и их в конце концов пришлось отправить обратно. Но фронт был разорван. 28 июля красные с большими потерями отошли за реку Елань. В образовавшийся прорыв шириною около 20 верст двинулись части Мамантова, и к вечеру 29 июля передовые разъезды появились на железной дороге Борисоглебск — Грязи.
В это же время Мамантов принял окончательное решение идти в самостоятельный рейд по красным тылам. Позднее это станет причиной обвинений в том, что генерал нарушил предписанные ему директивы. Дело в том, что планы удара дважды уточнялись генералом Сидориным. В первой директиве (от 12 июля) корпус должен был: прорвать фронт большевиков в промежутке между Новохоперском и Таловой; оказать содействие 3-му Донскому корпусу в ликвидации Таловой группы противника; наконец, направиться в глубокий тыл и овладеть городом Козловым, где помещался красный Штаб Южного фронта, - то есть говорилось о глубоком выдвижении на линию Тамбов - Козлов - Елец (что, собственно говоря, и было сделано в ходе рейда). Но за два дня до начала операции от Сидорина поступил еще один приказ, который сужал задачу корпуса до размеров частного удара по ближайшим тылам VIII-й армии в поддержку 3-го Донского корпуса, стремившегося захватить Лискинский железнодорожный узел (тем самым Мамантова возвращали к самой первой директиве о фланговом рейде на Таловую - Бобров).