Изначально эта должность была персональной. Кажг дый император, будь то август или цезарь, имел своего собственного префекта. Константин учредил должность регионального префекта Африки, но с его смертью она была упразднена. Трое сыновей Константина также имели своих собственных префектов. После смерти Константина II Констант сохранил должность префекта в бывших доминионах брата — Галлии, Британии и Испании. Когда при Констанции II империя была объединена вновь, он все еще держал трех преторианских префектов: префекта Галлии, префекта Востока, который управлял его первоначальными владениями и префекта Италии, Иллирии и Африки, который управлял частью империи, первоначально принадлежавшей Константу. Большая центральная преторианская префектура иногда делилась на две, например, Иллирикон и Италию с Африкой. С 395 года образовалось четыре постоянных территориальных префектуры — Галлия и Италия, под руководством западного императора, и Иллирия и Восток, под руководством восточного императора.
После падения империи преторианскую префектуру Италии на Западе возглавляли Одоакр и остготские короли; она была ограничена территорией Италии. Теодорих даже восстановил префекта галлов в той небольшой части Галлии, которой он управлял, и этот титул сохранился во франкском королевстве, когда франки присоединили Прованс. После покорения вандалов Юстиниан создал преторианскую префектуру в Африке, которая включала бывшие владения вандалов, Сардинию и Корсику, а после победы над остготами возродил префектуру Италии. Он также вывел пять провинций — Мезию II, Скифию, Карию, Кипр и Острова — из-под управления Востока и передал руководство ими quaestor exercitus, который носил титул преторианского префекта, но при этом снабжал армии Нижнего Дуная за счет налогов провинций и разбирал жалобы на территории этих частей империи.
Подобные же изменения претерпела и должность magistri militum. При Константине было только два magistri: один пехоты и другой — кавалерии. Оба находились в непосредственном услужении у императора. При его сыновьях появились региональные magistri: в Галлии (граница с Рейном), Иллирии (Верхний Дунай), во Фракии (Нижний Дунай) и на Востоке (персидская граница). Это помимо двух magistri, прислуживающих каждому члену императорской коллегии.
При Севере существовало около пятидесяти провинций, большинство из которых управлялось сенаторами, — проконсулами или Legati Augusti, обычно называемыми consulares. Некоторые из них находились под руководством префектов или прокураторов из сословия всадников. Со времени правления Галлйена сенаторы большей частью были отстранены от управления провинциями. Диоклетиан приблизительно удвоил число провинций и снял всех сенаторов, за исключением проконсулов Африки, Азии и correctores итальянских провинций, которых сам назначил, а также Сицилии и Ахеи. Все остальные губернаторы были из сословия всадников и назывались praesides. Константин сменил corrector'а Ахеи на проконсула и перевел многих praesides на должность consulares, вновь открыв, таким образом, доступ сенаторам в ряды правителей провинций. После этого никаких существенных изменений в этом направлении предпринято не было. Еще несколько провинций были разделены, большинство correctores и многие praesides были повышены до должности consulares и, наконец, в конце IV века оставшиеся praesides были возведены в ранг сенаторов. Юстиниан назначил много проконсулов, восстановил древнюю республиканскую должность претора и ввел новую должность арбитра.
Со времени правления Константина губернаторы, за очень редким исключением, уже не командовали войсками в своих провинциях. Так было до тех пор, пока Юстиниан не объединил в нескольких провинциях Малой Азии и Египта военное и гражданское правление с целью заставить правителей более эффективно бороться с бандитизмом и другими внутренними беспорядками. Правитель нес ответственность за работу ведомства, финансы, правосудие, общественную работу и почтовую службу.
Диоклетиан объединил маленькие провинции в диоцезы, сведенные в четыре префектуры. Первоначально диоцезов было 13. Их населяли британцы, галлы (Северная Галлия), венецианцы (пять или семь провинций; Южная Галлия), испанцы (включая Тингитанию — совр. Марокко), Италия (район к северу от Апеннин с альпийскими провинциями), т. н. «римские предместья» (Южная Италия с Сардинией, Корсикой и Сицилией), Африка, Паннония, Мезия и Фракия (Балканский полуостров), Азия и Понтика (Малая Азия) и Восток (Сирия, Месопотамия, Палестина и Египет). Константин разделила Мезию на два диоцеза: Дакию на севере и Македонию на юге, включая Эпир, Грецию и Крит. Валент отделил Египет с Ливией от остального восточного диоцеза.