Важным стало введение в Малороссии Учреждения о губерниях 1775 года. Екатерина II предназначала разделить империю на губернии меньшего объема, чем прежде существовавшие, именно заключавшие в себе от 300 до 400 тысяч обывателей, и самые губернии разделить на уезды, содержащие от 20 до 30 тысяч жителей, и всю совокупность административных и судебных дел распределить между специальными управлениями, действующими более или менее самостоятельно на точном основании законов, причем заведование судебными делами отделено было отчасти от административных учреждений. Ближайшее и непосредственное управление или заведование каждою губерниею было возложено на губернаторов, или правителей наместничества, на которых лежала и ответственность за управление губерниею. Высший же надзор и общее наблюдение на местах за администрациею вообще и действиями сословий (которым был предоставлен также и выбор лиц на некоторые должности) лежали на наместниках государевых, или генерал-губернаторах, которые назначались один на две губернии и даже на три. Наместнику этому подчинялись и войска, находящиеся в вверенных ему губерниях. Пределы его власти не были точно определены; контроля по закону над ним не было; он находился под непосредственным наблюдением императрицы и Сената. Положение о губерниях 1775 года вводилось в империи постепенно, и граф Румянцев получил в 1776 году высочайшее повеление озаботиться о введении означенного положения в Малороссии. Ему предстояло составить предположение о разделении Малороссии на три губернии, или наместничества, примерное расписание каждого наместничества, разделение его на уезды, осмотреть их удобность, сообразить, какие города назначить губернскими и уездными, и т. д., и все это с планами представить на высочайшее утверждение вместе со списками лиц, предназначаемых к отправлению новых должностей. Граф по этим вопросам вел переписку с преданным ему А. А. Безбородко (которого он и рекомендовал императрице), а также опирался на Милорадовича, возглавившего Курское (Новгород-Северское в 1781 г.) наместничество. Кроме него было открыто в 1780 г. Слободско-Украинское (или Харьковское) наместничество, за что Румянцев награжден 15 000 рублей. Учреждение о губерниях 1775 г., введенное Екатериной II, стало основополагающим, но оно видоизменялось. Так, по законодательству до Александра II три предположенные в Малороссии; впоследствии, однако, назначено было только две: Киевская и Малороссийская, т. е. Черниговская и Полтавская. Возглавить их был назначен фельдмаршал Румянцев.
Кроме того, граф предполагал дом в Глухове, ранее сооруженный для высших присутственных мест всей Малороссии, использовать как помещение высшего учебного заведения, которому предполагал дать название Екатерининская коллегия. Но императрица приказала передать здание в Приказ общественного призрения Новгород-Северской губернии. Границы губерний и уездов, образованных в Малороссии, при введении Положения о губерниях 1775 года не совпадали с границами полков и сотен, на которые до этого делилась Малороссия. Это побудило Румянцева войти с представлением о коренном преобразовании казачьих полков, бывших в Малороссии. По его предположению, из бывших девяти полков выборных (реестровых) казаков, предназначенных для военного дела, но не одинаковых по численному составу, он сформировал десять карабинерных из 6 эскадронов по 138 человек, то есть по 828 в полку, которые квартировались в селах по месту жительства казаков, входивших в состав прежних полков. Офицеры назначались из представителей малороссийской старшины с утверждения высшего начальства. Эти карабинерные полки являлись переходною ступенью к полному слиянию бывших казачьих полков с общею массою российских войск в позднейшее время, в 1789 и 1791 годах; им присваивалась тогда же амуниция и мундиры по образцам кирасирских полков. Позднее, при графе Румянцеве в 1786 г., был сформирован еще особый гренадерский полк в составе 3974 человек – путем набора из среды монастырских крестьян в Малороссии, которых насчитывалось в то время в этих трех губерниях до 97 397 душ мужеского пола.
«Матушка-императрица»