«Прежнее устройство отличалось крайней централизацией, которая уничтожала всякую инициативу административных органов, стесняла их мелочной опекой высших властей… Такая же централизация со всеми ее вредными последствиями была развита и в строевых управлениях войск, где недостаток инициативы в частных начальниках, в особенности в военное время, проявлялся уже не раз и приводил к самым печальным результатам. Войска и в мирное время оставались соединенными в дивизии, корпуса и армии и, таким образом, содержались все штабы — от дивизионных до главного штаба армии включительно. Хотя такой системе и приписывалась та выгода, что в случае приведения на военное положение армия имела уже готовые штабы и войска выступали в поход под начальством знавших их и знакомых им начальников, однако эти выгоды не вполне осуществлялись. На практике весьма редко случалось, чтобы не только армии, но даже и корпуса действовали на театре войны совокупно в нормальном своем составе мирного времени. Гораздо чаще, по разным стратегическим соображениям, на самом театре войны формировались отряды из войск разных корпусов, для которых учреждались отрядные штабы. Так в войну 1853–1855 годов ни один корпус действовавшей армии не остался в полном своем составе. Вообще же опыт нескольких последних войн указал, что наши корпуса представляют слишком громоздкие тактические единицы для постоянного употребления на театре войны в целом их сосредоточении».
Высшим административным соединением мирного времени Милютин полагал иметь дивизию.
Децентрализацию он решил начать с Военного министерства, сохранив за ним лишь общее направление и контроль и возложив всю исполнительную часть на особые местные органы — военные округа. Военный округ должен был явиться связующим звеном между центром и войсками. Начальник его — командующий войсками — имел права командира отдельного корпуса (командующего армией) и сочетал в себе также обязанности военного генерал-губернатора и начальника внутренней стражи. Это существенная часть записки и существенная часть произведенной на ее основании реформы.
Переходя к устройству войск, Милютин подчеркнул ту аномалию, что Россия, содержа в мирное время вдвое, а то и втрое больше войск, чем первоклассные европейские державы — Пруссия, Австрия и Франция, в военное время еле выставляет столько же войск, сколько каждая из этих держав. В мирное время у нас 766 000 человек, по штатам военного времени определено иметь — 1 377 000. Разница между штатами мирного и военного времени составляет 611 000 человек, но ее нечем заполнить. Обученного запаса (бессрочных) имеется всего 242 000, после того как значительное количество было вновь поставлено под знамена в 1859 году. Остальные 369 000 будут, таким образом, необученные рекруты. В действительности мобилизованная армия сможет составить только 769 000 бойцов — то есть столько, сколько выставляют Пруссия и Австрия — государства, уступающие России своими ресурсами во много раз.
Для искоренения этих опасных недочетов Милютин решил обратить особенное внимание на организацию запаса армии, накопление резервов и сокращение числа нестроевых. В этой последней области он наметил упразднение корпуса Внутренней стражи и сокращение местных войск.
В том же 1862 году приступлено к постепенному расформированию всех существовавших корпусов (Гвардейского, Гренадерского, I–IV пехотных, Кавказского, I–II кавалерийских). И осенью образовано четыре военных округа — Виленский, Варшавский, Киевский и Одесский. Польский мятеж 1863 года временно приостановил военно-административную реформу, но уже в следующем, 1864 году учреждены округа Финляндский, Санкт-Петербургский, Рижский, Московский, Казанский и Харьковский — и вся Европейская Россия включена в военно-окружную систему. В 1865 году образованы Кавказский, Оренбургский, Западно-Сибирский и Восточно-Сибирский округа, а в 1867 году в только что завоеванной Средней Азии — Туркестанский (создание округов шло, таким образом, с запада на восток, и в первую очередь были устроены пограничные).
Одновременно с упразднением корпусов в пехоте упразднены бригады. Командир дивизии (переименованный в «начальника дивизии») имел лишь одного «помощника начальника дивизии», в гвардии — «состоящего при начальнике дивизии». Количество пехотных генералов было этим сокращено на треть.
Объявленный в январе 1863 года первый за семь лет рекрутский набор послужил сигналом к польскому мятежу. Этот последний вызвал резкий конфликт с Англией, Францией и Австрией — и в предвидении войны армия была приведена на военное положение.