Другая судьба выпала Ивану Григорьевичу Рубанову. В 1920 году он еще продолжал драться с красными: как преподаватель Корниловского военного училища участвовал в Таманской операции и обороне Крыма. Затем был в эмиграции: в Константинополе, Галлиполи, Болгарии. В 1922 году Рубанов вступил в Союз возвращения на Родину, почти год ждал разрешения на въезд в Советскую Россию. В октябре 1923 года вместе с прочими белогвардейцами, желавшими вернуться на Родину, Рубанов был выслан болгарским правительством в Новороссийск. Но большевики транспорт не приняли: у возвращенцев не было соответствующих документов. Ивану Григорьевичу вновь пришлось возвращаться в Константинополь, где советский полпред наконец-то выдал необходимое разрешение на въезд. Лишь в марте 1924 года в Новороссийске Рубанов ступил на родную землю, но вскоре все прибывшие белогвардейцы были схвачены ОГПУ. Разбирательство дела бывшего полковника Рубанова тянулось несколько месяцев, и только в августе 1924 года он был отпущен на все четыре стороны. (ГАСБУ, фп, д. 67093, т. 546(630), с. 10-11.)
Итак, после долгих мытарств Иван Григорьевич Рубанов вернулся в Киев. Ревностный христианин, он часто посещал Десятинную церковь, где как- то нос к носу столкнулся с Шелетаевым. Но радостной встречи не вышло: Василий Иванович по понятным причинам Рубанова «не узнал». Так они, бывшие командиры киевских полков, иногда посещали одну церковь, упорно продолжая «не замечать» друг друга. Лишь в 1928 году Шелетаев как-то догнал на улице Рубанова, извинился за «не узнавание» и сообщил, что арестован один из его однополчан, служивший в РККА, бывший капитан К.Я. Кузнецов. Последний на следствии признался, что в 1918 году служил в Офицерских дружинах и среди прочих имен назвал и Шелетаева. Василия Ивановича вызывали в ОГПУ, и он на всякий случай предупредил об этом Рубанова. Впрочем, история с Кузнецовым не получила хода, а сам он вскоре был отпущен, и более бывшие полковники не общались.
По делу «Весна» Иван Григорьевич Рубанов был арестован 25 октября 1930 года. Рубанова взяли по списку, как в прошлом известного киевского военного и белогвардейца. Несколько недель Рубанов держался на допросах, отвергая какие бы то ни было обвинения в контрреволюционной деятельности. «Физические воздействия» и уговоры, похоже, помогали мало. Тогда в камеру к Ивану Григорьевичу подсадили одного из уже сознавшихся арестованных, согласившихся работать с ОГПУ и уговаривать «покаяться» своих товарищей по несчастью. Похоже, этот агент обрабатывал Рубанова достаточно долго, и, к сожалению, его «уговоры» увенчались успехом. По счастливой для нас случайности в деле Рубанова оказался отчет этого сексота, который будет небезынтересно привести полностью:
«Старшему уполномоченному Харитоновскому
20. 11 с.г. я получил от Вас задание осветить и выявить контрреволюционную сущность сидящего в камере 6-4 гр. Рубанова И. Гр. Рубанов И.Г. по его рассказам полковник бывшей царской армии, сражавшийся в белых армиях и эвакуировавшийся с белыми (с военным училищем и юнкерами) из Крыма в Галлиполи и затем в Болгарию. Знает лично Кутепова и Лукомского. Рассказывал их биографии. В 1905 году подавлял восстание на Кавказе, в Батуме. В 1924 году вернулся в СССР. Из бесед с ним, показал себя полным антисоветским элементом, совершенно не разбирающимся в Советской экономике и политике. Думающий, что все равно Советская власть падет, так как без права собственности (у него есть дом) и частной инициативы, государство существовать не может. В своих надеждах на падение Советской власти он настолько упорен, что за 6 лет пребывания в СССР не счел нужным избрать другой работы, как выполнение случайных чернорабочих работ.
Во исполнение данного мне Вами поручения я по возвращении в камеру, принял вид человека чрезвычайно потрясенного допросом следователя. Я сообщил, что меня обвиняют якобы в участии в контрреволюционной организации, за которую грозит расстрел, что я ни в чем не виноват, вот теперь со мной будет, и т.д.
Что следователь чрезвычайно строг, что обещает принятие против меня еще более ужасной меры, о которой я ему и даже сказать не могу и пр.
На другой день я рассказал гр. Рубанову, что, якобы, следователь частично рассказал имеющие у него против меня материалы, и я вижу, что против меня есть улики, и что не лучше ли сознаться во всем, поверив следователю о льготах. Гр. Рубанов уверял, что следователь своих обещаний не сдержит, что они пользуются только для вскрытия дела. Что якобы ему при допросе, в случае сознания, тоже обещали льготы, а он уверен, что вот именно тогда его и расстреляют, что он не верит обещаниям следователя. Все время он чрезвычайно волновался, постоянно хватался за голову, приговаривая: «Вот положение, вот ужас».