Из малороссийских казаков Румянцев образовал семь регулярных полков малороссийской конницы, эти полки Потемкин в 1784 г. преобразовал в карабинеров; из трех охочеконных полков Румянцев сформировал три легкоконных полка, которые впоследствии Потемкин тоже обратил в карабинерные. Из поселенных конных полков Румянцев в 1776 г. образовал Украинскую и Екатеринославскую конницы, предназначенные для охраны наших южных границ и составившие к 1784 г. достаточно подготовленный и надежный элемент, которым весьма удачно воспользовался Потемкин для сформирования 15 легкоконных полков.
Примечательно к артиллерийскому вооружению Румянцеву принадлежит идея уменьшения калибров и устройства постоянных батарей.
Румянцев впервые высказывает мысль о формировании постоянных армий, сообразно с особенностями пограничного театра военных действий и наличием вероятных противников, в связи с чем должна быть установлена и дислокация армии в мирное время.
В бытность Румянцева генерал-губернатором население Малороссии было привлечено для отбывания воинской повинности, в связи с чем, с одной стороны, увеличивался источник комплектования армии, а с другой — воинская повинность распределялась более равномерно между жителями государства. Не без участия Румянцева окончательно был введен 25-летний срок службы для нижних чинов.
С 1777 г. Румянцев стал настаивать на устройстве постоянных округов комплектования, т. е. на принятии у нас территориальной системы комплектования, что, впрочем, не было проведено в жизнь, и на том, чтобы каждый род войск комплектовался из населения, способного по своим прирожденным свойствам к специальной службе. В этом отношении кое-что было достигнуто, так как конница комплектовалась преимущественно из жителей южных областей и частично из белоруссов, а лесники Польши пополняли егерские войска. Особое внимание Румянцев всегда обращал на боевую подготовку войск. С этой точки зрения прежде всего необходимо отметить издание им в 1770 г. так называемого «Обряда службы».
«Обряд службы» был направлен на то, чтобы уравнять чрезвычайно разнообразную подготовку полков, входящих в состав армии. Он, с одной стороны, дополнял и исправлял действующие тогда уставы, а с другой — объединял многочисленные инструкции, в частности пехотный и кавалерийский уставы, разработанные Воинской комиссией в 1763 г.
Несмотря на то что императрица указала комиссии на желательность ограничить уставные формы строго необходимыми для боя, «чтобы ничем таковым в экзерцициях и маневрах люди напрасно к единому только в виде украшения утруждаемы не были»; несмотря на то что Воинская комиссия сама признавала необходимость коннице вести бой на коне, не злоупотребляя спешиванием, и быть готовой «к нападению и разрыву пехотных фронтов», несмотря на все это, уставы 1763 г. почти ничем не отличались от уставов елизаветинского времени, что с несомненностью указывало на крайне одностороннее использование опыта Семилетней войны.
С целью дополнить эти уставы и был издан «Обряд службы». В основу «Обряда службы» Румянцевым были положены те же идеи, которые им были высказаны еще в 1761 г.
«Обряд службы», который в 1788 г. с небольшими изменениями, сделанными Потемкиным, принимается официально во всей армии: 1) ввел как в пехоте, так и в коннице двухшереножный строй; 2) упростил ружейные приемы; 3) упростил ведение огня частями, чрезвычайно сложное и непрактичное по уставу; 4) придал колоннам строй маневренный и боевой; 5) регламентировал правила быстрого перестроения из развернутого строя; 6) установил в конных учениях аллюры не меньше рыси, а при атаках — «вскачь, имея саблю наголо»; 7) потребовал от начальников всех степеней обучать подчиненные им войска только тому, что нужно на войне.
Роль «Обряда службы» была очень велика, так как он наметил отправные точки в области боевой деятельности войск на ближайшее время, исходя из чего впоследствии Суворов, основываясь на опыте войны 1768–1774 гг. на польском и турецком театрах, вырабатывал свою систему действий.
В дополнение к изданному в 1759 г. «Наставлению для действия артиллерии» Румянцев разработал в 1770 г. «Наставления всем господам батарейным командирам». (В 1788 г. это «Наставление» Потемкин предложил к руководству начальникам, бывшим у него в непосредственном подчинении.)
В «Наставлении батарейным командирам» говорится: 1) о походных движениях артиллерии; 2) о порядке всех действий при расположении артиллерии на месте после марша и 3) о стрельбе.
В указаниях относительно походных движений устанавливалось непременное наличие при артиллерии пионеров, на которых возлагалось устранение всех препятствий для движения; батареи должны были двигаться в колонне в одно орудие, имея за каждым орудием его зарядные ящики, т. е. проводилась идея, что орудие и его зарядный ящик составляют одно целое.