Единственным способом реализации всех этих идей Милютин признавал переход к территориальной системе военного управления посредством разделения государства на военные округа. В лице их начальников должно было сосредоточиться и командование войсками, в округе расположенными, и заведывание местными военными учреждениями, наблюдение за сохранением спокойствия и порядка и вообще управление всеми отраслями в округе. На этих лиц должны были лечь обязанности генерал-губернаторов (по военной части) и окружных начальников внутренней стражи. При такой системе территориального военного управления на Военное министерство как на центральное возлагались только координация и контроль действий всех административных органов, а на военно-окружные управления — вся исполнительная часть.
Конечно, ввести такую коренную реформу сразу было невозможно, и Милютин предполагал совершить ее в течение нескольких лет. В 1862 г. созданы Варшавский, Виленский, Киевский округа, весной 1864 г. — Рижский, и в том же году утверждено разрабатывавшееся с 1863 г. положение о военно-окружных управлениях и созданы еще Петербургский, Финляндский, Московский, Харьковский и Казанский округа; всего сформировалось 10 округов, в которые вошли 45 губерний и одна область (Бессарабская) Европейской России и губернии Привислинского края. Районы внутренних округов (Московский, Харьковский и Казанский) были обширнее, потому что имели удобные пути сообщения. Кроме того, число войск в этих округах было незначительным. Управления на Кавказе, в Оренбургском крае и в Сибири были оставлены временно на прежних основаниях, но уже в 1865 г. были образованы округа Кавказский, Оренбургский, Западносибирский и Восточносибирский, а в 1867 г. и Туркестанский. Таким образом, число округов дошло до 15. В 1870 г. упразднен Рижский округ, территория которого была разделена между Петербургским и Виленским округами.
В 1856 г. пехота получила однообразную организацию приведением всех полков в 3-батальонный состав; ввиду того, что пока нарезное оружие могло быть выдано только части войск, во всех батальонах сформирована 5-я стрелковая рота. Состав кавалерии значительно уменьшен и ее резерв оставлен только в двух корпусах: гвардейском и кирасирском, а в следующем году были упразднены кирасирские полки (кавалерия уменьшилась еще на 16 эскадронов), и состав 64 эскадронов сокращен до 12 рядов во взводах.
Кадры резервных частей были усилены, и положено содержать определенное число офицеров и нижних чинов в запасе (отпусках); всего для линейной пехоты и стрелковых батальонов определено иметь в запасе 172 130 отпускных нижних чинов и собственно для пополнения резервных частей 2304 офицера. В общем все-таки вопрос пополнения армии в военное время не был разрешен удовлетворительно, потому что приходилось по-прежнему, кроме обученного запаса, обращаться к рекрутским наборам, т. е. брать в строй новобранцев; резервы шести армейских корпусов пополнялись наполовину запасными и наполовину новобранцами, резервы артиллерии — только на треть или четверть запасными. Все это должно было крайне замедлить мобилизацию, и по причине затрат времени на передвижение по огромной территории государства и на обучение она не могла быть выполнена ранее шести месяцев.
С 1858 по 1861 гг. включительно происходили некоторые изменения только в кавалерии и артиллерии, а состав действующей пехоты и инженерных войск оставался почти без перемен.
В 1862 г. вооруженные силы имели нижеследующую организацию.
Действующие войска:
1-я армия из 1, 2 и 3-го армейских корпусов (неотдельных);
Кавказская армия — из кавказской гренадерской, 19, 20 и 21-й пехотных и сводной драгунской дивизий, линейных батальонов (37) и других частей, расположенных на Кавказе;
неотдельные армейские корпуса — 4, 5 и 6;
отдельные корпуса — Гвардейский пехотный, Гвардейский кавалерийский, Гренадерский и шесть армейских корпусов состояли из трех пехотных и одной кавалерийской дивизий с их артиллерией и парками (составлявшими одну артиллерийскую дивизию). Оренбургский корпус — 23-я пехотная, Сибирский корпус — 24-я пехотная дивизия и войска других наименований. Войска Финляндии и Восточной Сибири подчинялись местным генерал-губернаторам.
Пехотные полки в мирное время имели: гвардейский и гренадерский по два, армейские по три и кавказские по пять батальонов и содержались в уменьшенном составе; кавалерийские полки — четыре эскадрона и также содержались в уменьшенном составе; артиллерия — по четыре конных орудия, кроме некоторой части конных батареи с восьмью конными орудиями; по военному составу во всех батареях было по восемь орудий.
Резервные части пополнялись в военное время из существующих кадров, а также формировали новые части и образовали запасные войска. К составу армии принадлежали: корпус внутренней стражи, корпус жандармов, специальные войска артиллерийского и инженерного ведомств и образцовые войска.