Серьезным шагом Махмуда было ограничение власти улемы, хранителей религиозного устройства страны, подобно тому как янычары были стражами ее старого военного устройства. Здесь был второй потенциальный источник оппозиции высшей власти султана. Будучи вместе с янычарами, по сути, высшей властью, улема уничтожила Селима III с его планами нового порядка. Этот второй столп традиционного государства следовало постепенно разрушить, чтобы создать новую структуру управления. Для проведения политики реформ Махмуду надо было отделить религиозную власть от гражданской. Пока над всеми другими чиновниками и сановниками, светскими или религиозными, стояло два человека. Они представляли собой двойную власть суверена — как султана и халифа. Одним из них был великий визирь, функции которого были исполнительными, охватывая административную и правовую области; другим был шейх-уль-ислам, иначе великий муфтий, функции которого носили консультативный и толковательный характер. Обе должности были могущественными, и люди, их занимавшие в период упадка империи, неоднократно угрожали, к добру или нет, высшей власти и престижу султаната. Махмуд задумал ослабление их власти с помощью системы управления, возложенной не на отдельные личности, а на консультативные группы, каждая из которых имела собственную сферу ответственности.
Сначала управление шейх-уль-ислама было выведено из сферы, охватываемой светским правительством, чтобы он занимался только религиозными вопросами. Но внутри религиозной сферы, перестав быть только консультантом и интерпретатором, великий муфтий обрел новые правовые полномочия, забрав у великого визиря все его функции, прежде относившиеся к религии. Теперь он осуществлял их в отношении всех мусульманских подданных султана. Тем временем должна была получить развитие новая гражданская юрисдикция — в гражданской сфере.
Вплоть до этого времени великий муфтий давал советы и издавал постановления (часто с политической наклонностью) из своей собственной резиденции. Теперь он должен был возглавлять государственное управление, разместившееся в помещениях бывшей резиденции аги янычар. Его новый статус ограничивал ту автономию, в соответствии с которой его доходы, его служащие и их штат всегда были независимыми от дворца. Это привело к бюрократизации, под властью государства, улемы в целом, что, естественно, сразу же подорвало ее реальную власть и лишило ее членов возможности активно сопротивляться переменам. После лишения финансовой и административной независимости власть улемы тоже ослабела. Суверен постепенно понижал ее статус и сокращал сферу ответственности. Школы перешли в ведение министерства образования, вся юриспруденция — в министерство юстиции, даже составление фетв было поручено правовому комитету с комиссией, находящейся под его фактическим контролем. Статус великого муфтия, ныне обладателя правительственного поста, стал меньше зависеть от его традиционных полномочий, нежели от личных деловых качеств.
Наконец, Махмуд поставил под контроль государства старинный исламский институт вакфа, или благотворительного учреждения, основанного на принципе неотчуждаемости земли и другой полноправной собственности на другое имущество, находящееся по большей части в городах и использующееся в религиозных целях. Эти эвкафы с их немалыми доходами обычно находились под надзором улемы, члены которой были администраторами и сборщиками. Великий муфтий и другие муфтии, а также кади контролировали различные группы этих учреждений, служивших главным источником экономической мощи религиозных институтов.
Реализовав внутри страны свое преимущество за счет военного и религиозного истеблишмента, Махмуд занялся развитием собственной светской администрации, которая в ее номинальной и организационной форме должна была выглядеть европейской системой государственного управления. Султан рассчитывал таким образом произвести впечатление на людей с Запада современностью нового турецкого государства. В первую очередь Махмуд упразднил управление великого визиря (или садразама), которое на протяжении двух столетий было фактическим местом заседаний правительства Османской империи. Полномочия великого визиря, ранее «абсолютного викария» султана, были теперь поделены между двумя министрами — иностранных и гражданских дел (впоследствии министерство внутренних дел), тогда как традиционное управление дефтердара (или казначея) было переименовано в министерство финансов. Над ними, являясь связующим звеном между султаном и правительством, стоял великий визирь, называвшийся теперь премьер-министром. Впрочем, впоследствии его прежний титул был восстановлен.