Генерал от артиллерии, сенатор, герой наполеоновских войн. Происходил из дворян Курляндской губернии, родился 27 декабря 1780 г. (по другим данным – в 1781, 1782 или 1783 г.). Его братья, Павел и Петр, оба были генерал-майорами и кавалерами ордена Св. Георгия IV степени.
Образование получил в Артиллерийском и инженерном кадетском корпусе, из которого выпущен 8 декабря 1799 г. подпоручиком в Полевой артиллерийский батальон, квартировавший в Санкт-Петербурге. В 1800 г. император Павел I пожаловал ему орден Св. Иоанна Иерусалимского.
Принимал участие в войне с французами 1806–1807 гг. в Восточной Пруссии. Состоял в звании адъютанта при генерал-майоре графе Кутайсове. Арнольди особенно отличился в сражении при Прейсиш-Эйлау 26 и 27 января 1807 г., за что награжден золотым знаком отличия на Георгиевской ленте, установленным в память этого дня; в том же году был в сражениях: 24 и 26 мая при деревне Ломитене (за которое в 1808 г. получил орден Св. Анны IV степени), 29 мая при Гейльсберге и 2 июня при Фридланде. За последнее сражение 12 апреля 1808 г. награжден золотой шпагой с надписью: «За храбрость».
В 1809 г. участвовал в походе в Австрию, но в сражениях участия не принимал, а в 1811 г. за отличную службу при графе Кутайсове ему Высочайше повелено было носить на воротнике золотые петлицы, подобные тем, которые пожалованы были за отличия некоторым артиллерийским бригадам.
В 1812 г. Арнольди переведен в 1-ю Артиллерийскую бригаду с назначением командиром 13-й Конной роты, состоявшей в армии Чичагова; с этой ротой он оказал особые отличия в боях на Березине 14 и 16 ноября (причем под ним были убиты три лошади) и при дальнейшем преследовании неприятеля, за что был награжден орденом Св. Владимира IV степени с бантом.
29 января 1813 г., находясь с ротою в авангарде, под начальством графа Воронцова, одними картечными выстрелами выбил неприятеля из местечка Рогожного, а затем преследовал на расстоянии 15 верст, до местечка Оберник, за что награжден чином подполковника. Во время шестинедельного перемирия находился в блокадном корпусе под Магдебургом.
25 августа участвовал в сражении при Денневице, где атакой своих конных артиллеристов взял два неприятельских орудия, после чего с легкой кавалерией преследовал противника и 27-го числа нагнал его уже под самой крепостью Торгау. Здесь, имея под своим начальством 24 орудия, их огнем он принудил сдаться гарнизон одного из передовых укреплений, и 24 сентября за свой подвиг пожалован орденом Св. Георгия IV степени (№ 2681 по кавалерскому списку Григоровича-Степанова), а от прусского короля получил орден Pour le Mérite.
Затем, находясь в армии наследного принца шведского, Арнольди принимал участие в Битве народов под Лейпцигом, в которой совершил ряд выдающихся подвигов. Будучи около полудня 6 октября ранен пулей в икру левой ноги, фронта для перевязки не оставил и с пулей в ноге продолжал командовать; из селения Редниц гнал неприятеля до самого Лейпцига, вблизи которого у Арнольди оторвало раненую ногу, но он все-таки еще четверть часа просидел на лошади, а затем сполз с нее и командовал лежа у правофлангового орудия.
Император Александр I, узнав о тяжкой ране Арнольди, перенесенного для операции в селение Тауху, прислал своего лейб-медика. Ногу пришлось отнять до половины бедра, но это не вывело Арнольди из строя, в котором он прослужил еще свыше 40 лет, причем, не имея ноги, сидел и ездил на коне. За отличие в этой битве он в тот же день был произведен в полковники, а кронпринц Швеции возложил на него на месте сражения военный орден Меча.
По выздоровлении Арнольди вступил в командование прежней ротой и в 1815 г. находился в составе армии, двинутой для действий против Наполеона за границу.
8 августа 1817 г. назначен начальником артиллерии 5-го Резервного кавалерийского корпуса, а 31 января 1820 г. – командиром лейб-гвардии Конной артиллерии. Тогда же в Санкт-Петербурге появилась шутка, «что в Гвардейской конной артиллерии три полковника с пятью ногами, пятью руками и тридцатью шестью орденами», это были Арнольди, И. И. Бартоломей (без руки) и В. В. Гербель.
12 декабря 1821 г. произведен в генерал-майоры с назначением состоять по поручениям при графе Аракчееве. 9 августа 1822 г. назначен начальником артиллерии военных поселений Херсонской и Екатеринославской губерний, а приказом от 11 мая 1826 г. ему повелено состоять для особых поручений при генерал-фельдцейхмейстере великом князе Михаиле Павловиче.
В 1829 г. Арнольди отправлен к армии, действовавшей в Европейской Турции, в звании начальника осадной артиллерии и при осаде Силистрии постоянно находился в траншеях, под жестоким огнем. Вызванный затем главнокомандующим к Главной квартире, он своей распорядительностью и отвагой много содействовал победе над турками при Кулевчи 30 мая.