В критический момент сражения Арнольди получил приказание взять Конно-батарею и идти на выручку авангарда, истомленного неравным и ожесточенным боем. Неожиданное появление из-за горы батареи, обдавшей неприятеля картечью, заставило турок дрогнуть и отступить. Новые троекратные атаки турок расшиблись о стойкость и мужество авангарда. Между тем главные массы турок обрушились на правый фланг русских войск. Арнольди с батареей понесся туда и столь же неожиданно оказался против обнаженного правого фланга турок, которые от удачного действия наших снарядов пришли в полное смятение. В преследовании батарея не могла сразу принять участие, так как все снаряды оказались израсходованными, но временную задержку Арнольди быстро наверстал, как только удалось пополнить боевой комплект. С Иркутскими гусарами батарея понеслась за отступавшими турками и довершила гибель противника, бежавшего в паническом ужасе, бросив всю свою артиллерию, весь обоз и все, что затрудняло бегство. Победа под Кулевчи оказала решительное влияние на исход кампании. Арнольди, как один из главных творцов победы, 9 июня был награжден орденом Св. Анны I степени.
Перейдя с армией за Балканы, участвовал в деле под Сливно и при занятии Адрианополя, за которые, как и вообще за отличия, оказанные им в эту войну, 6 декабря получил Императорскую корону к ордену Св. Анны I степени.
По окончании Турецкой войны Арнольди снова назначен состоять при великом князе Михаиле Павловиче; в 1834 г. наименован начальником Конно-артиллерийского резерва и награжден орденом Св. Владимира II степени; 6 декабря 1835 г. произведен в генерал-лейтенанты; в 1841 г., за упразднением Конно-артиллерийского резерва, назначен начальником артиллерии по части инспектора Резервной кавалерии. 24 сентября 1847 г. получил орден Белого орла и 6 декабря 1849 г., в честь 50-летия службы, ему пожалован орден Св. Александра Невского.
Произведенный 8 апреля 1851 г. в генералы от артиллерии, Арнольди в следующем году, 21 сентября, определен сенатором. Присутствовал в 1-м отделении 6-го департамента, а с 1 января 1853 г. – во 2-м отделении 5-го департамента.
Скончался 11 октября 1860 г. в Санкт-Петербурге, похоронен в Царском Селе на Казанском кладбище.
Арнольди был дважды женат. Родившаяся от первого брака на сестре декабриста Н. И. Лорера Надежде дочь София вышла впоследствии замуж за князя Ухтомского. От второго брака на дочери французского купца Софии Карловне Погибель Иван Карлович оставил двух сыновей: Александра (генерал от кавалерии) и Льва (чиновник МВД); Иваном Карловичем оставлены интересные мемуары, которые хранились у старшего сына, генерала от кавалерии А. И. Арнольди.
В «Военной энциклопедии» Сытина дана следующая характеристика Арнольди: «Арнольди представлял собой свое образный тип. Большой поклонник дисциплины, он наводил на солдат страх, хотя заботился о их пище и одежде. К поставщикам армии, если они воровали, он был беспощаден, приказывая даже бить их палками. Проворовавшегося солдата секли безжалостно. Вместе с тем он был известен своим жестоким и вспыльчивым нравом, причем не стеснялся ни с кем».
Арнольди был очень дружен с комендантом Царского Села генералом Захаржевским, у которого также не было ноги. П. П. Потоцкий в своем труде рассказывает следующую историю: «Однажды император Николай Павлович встретил Арнольди на Исаакиевской площади и, подойдя к нему, сказал: „А я издали принял тебя за Захаржевского“. – „Между нами большая разница, Ваше Величество“, – отвечал Арнольди. – „Да, ты выше“. – „He то, Ваше Величество“. – „А, знаю, у тебя нет левой, а у Захаржевского правой ноги“. – „Никак нет, Ваше Величество“. – „Так какая же между вами еще разница?“ – „Я полевой, – отвечал Арнольди, – а он оранжерейный!“ Император был весьма доволен этой шуткой и впредь уже не смешивал Арнольди с Захаржевским».
Незадолго перед смертью, последовавшей 8 июня 1901 г., этот 80-летний старик вдруг сжег свою библиотеку, которая верно служила ему – писателю и военному историку. Зачем он это сделал? Соседи считали – умом повредился. Он и всегда-то был странным, этот русский. А может быть, решил, что время его прошло… услышал зов павших сослуживцев, рядом с которыми скоро ляжет в землю на Национальном кладбище Моан Сити, на стыке трех штатов – Иллинойс, Миссури и Кентукки… В землю, политую его кровью, но все равно чужую, на берегу Огайо, при впадении ее в Миссисипи…
А лежать бы ему на низком донском берегу, среди заливных лугов Константиновского станичного юрта. Той самой станицы Константиновской, где родился он, Иван Васильевич Турчанинов, 24 декабря 1822 г. и к которой оставался приписанным всю свою жизнь, где его помнили, но не знали, где поминать: среди живых или среди мертвых, уж больно давно покинул он Родину.