25 сентября у села Крутенького произошел бой, который Махно выиграл. На следующий день состоялся бой за село Перегоновку (в 40 км на юго-запад от Умани). Это сражение завершилось разгромом трех полков белых (1-го Симферопольского, 2-го Феодосийского, 5-го Литовского). Белые потеряли при этом более 2 тысяч человек убитыми, включая раненых, которых махновцы добили**.
После боя Махно приказал раздать крестьянам трофеи — лошадей, телеги, одежду и обувь убитых белогвардейцев.
Вечером 27 сентября махновские корпуса находились уже глубоко в тылу белых, в 100 верстах от места последнего боя. 28 сентября состоялось заседание РВС и штаба РПА. Решили пробиваться на Екатеринослав.
Армия повстанцев разделилась на три колонны, которые двигались на удалении 30—40 км друг от друга. Правая колонна шла по маршруту Песчаный Брод — Ровное — Софиевка — Бобринец — Долинская — Кривой Рог — Апостолово — Никополь (315 км). Центральная колонна — по маршруту Добровеличковка — Ново-Укра-инка — Вишняковка — Вербелька — Петрово — Софиевка — Хортица — Александровск (350 км). Она выходила к Днепру севернее правой колонны. Левая колонна шла еще севернее маршрутом Ново-Архангельское — Новая Выска — Елизаветград (ныне Кировоград) — Новая Прага — Зеленое — Каменка — Екатеринослав (320 км)*.
28 сентября армия двинулась в путь. За неделю она прошла путь от Умани до Александровска (Запорожье). Пехота ехала на телегах и тачанках.
На рассвете 5 октября махновцы вступили в Александровск, 7 октября заняли Гуляй-Поле. За время похода армия быстро увеличивалась. В каждом селе создавались повстанческие отряды. К махновцам присоединялись оставшиеся в тылу белых красноармейцы, петлюровцы, небольшие повстанческие отряды. К ноябрю РПА насчитывала около 80 тысяч человек**.
Успеху армии Махно содействовало всеобщее недовольство украинского крестьянства политикой белогвардейцев. Другой причиной была относительная малочисленность белой армии, у которой не хватало сил удерживать в должном порядке свой тыл. Государственную стражу (полицию) администрация Деникина еще только создавала. Тыловые гарнизоны в крупных городах состояли из од-ной-двух-трех рот, в малых — из одного-двух взводов.
В сентябре — октябре 1919 года у Деникина было только 150 тысяч солдат и офицеров. В таких условиях Махно стал полновластным хозяином в сельских местностях Екатеринославской губернии и Северной Таврии. Его отряды заняли Токмак, Мелитополь, Бердянск, угрожали даже Таганрогу, где находилась ставка Деникина. И все это произошло за какие-нибудь три недели. В руки махновцев попала и главная артиллерийская база белых в районе Волноваха — Мариуполь. Теперь у Махно было 50 артиллерийских орудий, 1500 пулеметов, много винтовок, один бронепоезд. Тыл Добровольческой армии на юге Украины был разрушен.
Командованию Добрармии пришлось снять с фронта часть наступавших на Москву войск, в том числе части 3-го Кубанского конного корпуса генерала А.Г. Шкуро, чтобы навести порядок в тылу. Им удалось отбить ряд городов. Под натиском конницы Шкуро, наступавшей со стороны Большого Токмака, махновцы оставили Бердянск, а 3—4 ноября ушли из Александровска в сторону Екатерино-слава.
А бои махновцев с белыми продолжались. Из значительных городов в руках махновских войск оставались только Никополь и Мелитополь. Несмотря на то, что белые армии, наступавшие летом и осенью 1919 года на Москву, вели напряженные бои с красными, командование белогвардейцев снимало войска с фронта и перебрасывало их против армии Махно. В районе Волновахи (40 км южнее Донецка) под командованием генерала Ревишина были собраны Терская и Чеченская дивизии, конная бригада, 3 пехотных батальона. 26 октября эта группировка перешла в наступление. Одновременно из состава группировки генерала Шиллинга Деникин повернул против Махно 2-й армейский корпус генерала Слащева, ранее предназначавшийся для наступления на Москву. Слащев начал действовать с запада, от Знаменки (40 км северо-восточнее Елизавет-града), и с юга, от Николаева.
Наступая с двух сторон, белые очищали территории на юге Украины от махновских отрядов, нанося им удар за ударом. Напряженные бои шли в течение месяца. Вначале Махно пытался удержать свои отряды на линии Бердянск — Гуляй-Поле — Синельниково, но войска белых, преодолев сопротивление махновцев, оттесняли их к Днепру. Командование РПА ожидало очередного удара белых со стороны Таганрога. А в этот момент белая конница, совершив скрытую переброску, обрушилась на махновцев со стороны Лозовой, с севера. Оборона махновцев рухнула. Махновские отряды метались из села в село, рассыпались на небольшие группы. Белая конница преследовала их. Были перебиты или схвачены многие видные помощники Махно и подчиненные ему атаманы. Белые с ними не церемонились, как не церемонились и махновцы с белыми офицерами. Прижатые к Днепру, повстанцы скоплялись у Никольской и Кич-касской переправ. Но их уже занял подошедший с запада корпус генерала Слащева. Повстанцы гибли здесь тысячами.