После занятия Тамбова передовые разъезды казаков пошли на Козлов, где размещался Штаб Южного фронта. На город направилась 9-я казачья дивизия генерала Секретева. Красный штаб бежал, бросив все имущество, был захвачен поезд самого Троцкого. 7 августа на станции Пушкари была уничтожена артиллерийская база из 200 тысяч трехдюймовых снарядов. 13 августа казачьи полки подошли к Богоявленску, а вечером 14-го отряд из трех сотен казаков подошел к городу Ранненбургу Рязанской губернии. Это была крайняя точка продвижения корпуса на север, хотя встречались сведения о появлении мамантовцев чуть ли не под самой Рязанью. Пробыв в Ранненбурге всего два часа, казаки взорвали мост через реку Воронеж и двинулись на город Лебедянь. 15 августа город был взят без боя, запасный батальон и Ревком разбежались, когда казаки находились еще в 18 верстах от города. Корпус шел с максимально возможной скоростью - до 80 верст в сутки, нередко казаки даже не спешивались на ночь.
12-я дивизия, составлявшая правую колонну корпуса, в ночь на 19 августа расположилась в селах в районе станции Боборыкино, на железной дороге Ефремов - Елец. Две другие дивизии от Лебедяни повернули на Елец. 19 августа Мамантов занял город, гарнизон которого встретил казаков с музыкой. Занятие города произошло так быстро, что большинство советских учреждений не успели эвакуироваться и были захвачены. Все объекты, имевшие военное значение, уничтожались.
Мамантов всячески стремился подчеркнуть освободительную миссию рейда. Жителям раздавалось продовольствие, обмундирование, мануфактура с захваченных складов. В одном только Ельце жителям выдали по полтора пуда сахара на семью, а каждый работавший по взрыву снарядного склада получил в виде платы по 30 аршин мануфактуры. Примечательно, что огромные склады спирта Мамантов приказал уничтожить. Параллельно с этим объявлялась запись добровольцев в ряды местной самообороны и Тульской дивизии, выросшей до 3000 штыков. Формировался и Елецкий пеший полк.
Простояв до утра 22 августа в районе Ельца, корпус повернул тремя колоннами на юг, в общем направлении на Воронеж. В это же время были получены прямые указания из Штаба Главнокомандующего ВСЮР о немедленном возвращении назад. Дважды Мамантов принимал приказы Ставки, причем первый раз он готов был расстрелять летчика, доставившего ему распоряжение о повороте на Донской фронт. Первого приказа он не исполнил. Лишь после вторичного распоряжения, где указывалось, что в случае неповиновения все офицеры корпуса вместе с его командиром будут преданы военно-полевому суду, Мамантов собрал военный совет (интересно, что аналогичный совет собрал генерал Кутепов, решая вопрос о продолжении «похода на Москву»), который принял решение о повороте на юг, подчинившись приказу Деникина.
Средняя колонна выступила из Ельца на Задонск и к утру 23 августа заняла город. Левая колонна взяла направление на юго-восток, и 23 августа передовые сотни появились у села Боранский Завод (20 верст южнее Липецка) и у села Кривки (30 верст южнее Липецка) и взорвали железнодорожные линии Воронеж - Грязи и Грязи - Липецк.
После этого темп рейда сократился. За корпусом двигался обоз длиной около 30 верст. На десятки верст растянулись полки и бригады. 24 августа в полдень части правой колонны заняли станцию Касторная, а один полк при поддержке захваченного у красных броневика двинулся на Воронеж. Левая колонна в тот же день заняла Грязи. За овладение Касторной произошел уже серьезный бой, длившийся почти сутки. Против казачьего отряда из шести сотен, двух рот пехоты и восьми орудий действовал отряд Козицкого из трех полков коммунаров. Красные, очистив Касторную, отошли на запад. В это время части красной казачьей конницы Ф. К. Миронова, по сведениям ВЧК, собирались перейти на сторону Мамантова, а Буденный, нарушая директивы командующего Южным фронтом Егорова, самовольно бросил фронт и пошел со своим корпусом по пятам белых, надеясь захватить в плен самого «Маманта».