В 20-х числах августа в Приднепровье на авансцене событий появилась белая армия Деникина. 26 августа Запорожская группа петлюровцев передала власть в Белой Церкви 2-й Терской бригаде белых. Отряд Зеленого отошел на 6 километров севернее от Белой Церкви и занял демаркационную линию между частями Деникина и галицкими корпусами армии Директории, от Белой Церкви до Днепра. 29 августа командование петлюровской армии приказало Зеленому (который формально не подчинялся этому командованию) переправиться на левый берег Днепра у Дарницы и перекрыть путь белым на Киев. Однако Зеленый опоздал с исполнением этого приказа, и 1-я гвардейская бригада белых прорвалась в Киев. Часть зеленых приняла участие в штурме Киева 30 августа, наступая вместе с Запорожским корпусом из района Голосеево.
30 августа Киев был взят войсками Петлюры, но уже через сутки городом овладели белогвардейцы. Зеленый и его бойцы отошли в свой Трипольский район, пытаясь не допустить туда белых.
В середине сентября атаман посетил Каменец-Подольский, где встречался с представителями Директории и лично с Симоном Петлюрой. Украинские социал-демократы устроили Зеленому теплую встречу, чествуя атамана как храброго борца против «красной реакции». Незадолго до этого, в начале сентября 1919-го, Петлюрой был создан Центральный Украинский повстанческий комитет для координации действий атаманских отрядов. Создание подобного комитета стало возможным после перехода на сторону Петлюры Зеленого и атамана Мазуренко[44]. Отряд Зеленого стал называться Конно-повстанческой дивизией армии УНР. Но получив от Петлюры оружия, патронов и денег, Зеленый не спешил ему полностью подчиняться. А Мазуренко вскоре бежал от Петлюры в Москву, где просил дать ему пост в новом советском правительстве Украины.
Возвратившись в Киевскую губернию, Зеленый провел крестьянско-повстанческий съезд, на котором была принята такая резолюция: «Мы признаем верховной властью Украинскую Директорию с ее настоящим социалистическим цравительством». Вместе с тем, этот съезд связал признание Директории с необходимостью избрания народного парламента и проведения следствия в отношении виновных в репрессиях войск Директории против зеленых, имевших место еще в январе 1919 года.
В 20-х числах сентября началась война между армиями Деникина и Петлюры. В октябре Зеленый захватил Кагарлык, где в местной типографии отпечатал тысячи листовок с призывом к борьбе с белогвардейцами. В октябре–ноябре 1919 года атаман вел активную партизанскую войну против деникинцев. Зоной деятельности зеленых отрядов, насчитывавших до трех тысяч бойцов, снова стали Киевский, Чигиринский, Черкасский, Каневский, Звенигородский уезды. Части Зеленого разрушали железнодорожные пути, перерезали линии телефонной и телеграфной связи, убивали комендантов станций, белогвардейских офицеров. В ответ на эти действия командование белых направило к Триполью несколько карательных экспедиций.
В конце октября (по другим данным — в ноябре или в начале декабря) во время боя с карательным отрядом неподалеку от Канева Зеленый был тяжело ранен. По дороге к Триполью, в селе Стритовка, не приходя в сознание, он умер. Воспоминания повстанцев-боротьбистов А. Лешего, Я. Агея, К. Матяша описывают последние минуты атамана. По их словам, они посетили тяжело раненного «в предсмертной агонии» Зеленого и предложили ему передать партизан под боротьбистское начало, на что тот прохрипел: «Делайте, что знаете, пусть, кто хочет, идет за вами...» Авторы дальше пишут, что после этих слов атаман замолк навсегда. Тем не менее, неизвестна даже приблизительная дата смерти Зеленого.
Существует несколько иная, народно-романтическая версия гибели атамана, которую рассказывали старожилы Триполья: «Плавали они на корабле по Днепру. И было у них много золота. Вот и поспорил он со своими атаманами: они хотели поделить золото и разойтись, а Зеленый говорил, что нужно продолжать войну, что золото пригодится. Спорили долго, и все были против его слов. Тогда Зеленый вынес бочку с золотом на палубу и снова спросил их, не передумали ли они. Атаманы сказали: «Нет». Тогда Зеленый поднял бочку над головой и выкинул золото в Днепр. Настала ночь. Атаманы решали между собой, кому Зеленого убить. Тот, кому выпало, убил атамана, когда тот спал. Зеленый когда-то сказал: «Пуля врага меня не возьмет!» Вражеская пуля и не брала, своя взяла...»
Есть и третья версия. Советские источники утверждают, что Зеленого удалось заманить в отряд красных партизан, где он был арестован и расстрелян по приказу командира Колоса-Колосова[45].
Похороны атамана Зеленого на Гайдаевском кладбище Триполья были многолюдными, отпевали его священники всех трех трипольских церквей. Рассказывают, что ночью казаки-зеленовцы тайно выкопали гроб с телом атамана и перезахоронили его в левадах в Кисиловке за речкой Красной, чтобы офицеры и комиссары не глумились над телом их вожака. Часть повстанцев Зеленого присоединились к атаманам Ангелу, Кущу, Гаевому и воевали с белыми, а потом и с красными еще несколько лет.