Обезопасив себя таким образом с одной стороны народным признанием правоты и законности своих будущих действий, а с другой отстранением всякого обуздания своего произвола со стороны религии, Иоанн приступил к реформе государства. Управление разделялось на две части: одна называлась опричниною (то есть особенною, состоящею на исключительных условиях), другая — земщиною. Устав опричнины, придуманный самим царём или, быть может, его любимцами, состоял в следующем: государь поставит себе особый двор и учинит в нём особый обиход, выберет себе бояр, окольничих, дворецкого, казначея, дьяков, приказных людей, отберёт себе особых дворян, детей боярских, стольников, стряпчих, жильцов; поставит в царских службах (во дворцах — сытном, кормовом и хлебенном) всякого рода мастеров и приспешников, которым он может доверять, а также особых стрельцов. Затем все владения московского государства раздвоялись: государь выбирал себе и своим сыновьям города с волостями[60], которые должны были покрывать издержки на царский обиход и на жалованье служилым людям, отобранным в опричнину. В волостях этих городов поместья раздавались исключительно тем дворянам и детям боярским, которые были записаны в опричнину (числом 1000). Те из них, которых царь выберет в иных городах, переводятся в опричные города; а все вотчинники и помещики, имевшие владения в этих опричных волостях, но не выбранные в опричнину, переводятся в города и волости за пределами опричнины. Царь сделал оговорку, что если доходы с отделённых в опричнину городов и волостей будут недостаточны, то он будет брать ещё другие города и волости в опричнину. В самой Москве взяты были в опричнину некоторые улицы и слободы, из которых жители, не выбранные в опричнину, выводились.
Вместо Кремля царь приказал строить себе другой дворец за Неглинною (между Арбатскою и Никитскою улицами); но главное местопребывание своё назначал он в Александровской слободе, где приказал также ставить дворы для своих выбранных в опричнину бояр, князей и дворян. Вся остальная Русь называлась земщиною и поверялась земским боярам — Бельскому, Мстиславскому и другим. В ней были чины таких же названий, как и в опричнине: конюший, дворецкий, казначей, дьяки, приказные и служилые люди, бояре, окольничий, стольники, дворяне, дети боярские, стрельцы. По всем земским делам в земщине относились к боярскому совету, а бояре в важнейших случаях докладывали государю. Земщина имела значение опальной земли, постигнутой царским гневом.
Впоследствии, для большого отчуждения от себя земщины, царь поставил над нею касимовского царя Симеона Бекбулатовича, с титулом «великого князя всея Руси». Грамоты писались от имени великого князя всея Руси Симеона. Сам Иоанн титуловал себя только «московским князем» и наравне с подданными писал Симеону челобитные с общепринятыми унизительными формами, напр.: «Государю великому князю Симеону Бекбулатовичу Иванец Васильев со своими детишками с Иванцем да с Федорцем челом бьёт. Государь, смилуйся, пожалуй!» Этот, поставленный настоящим царём, воображаемый, призрачный царь земщины не имел ни власти, ни своей воли, должен был делать то, что ему прикажут, и, в сущности, ничего не делал; но Иоанн совершил, однако, именем этого созданного им царя кое-что такое, чего не хотел совершать от своего собственного имени: отобрал у духовенства, особенно у монастырей, крепости на имения. Через два года Иоанн низложил этого великого князя всея Руси и сослал в Тверь.
За подъём свой государь назначил 100 000 руб., которые надлежало взять из земского приказа; а у бояр, воевод и приказных людей, заслуживших за измену царский гнев или опалу, определено было отбирать имения в казну.