Уже после подписания договоренностей о политическом союзе Казани с Москвой, по которому устанавливались федеративные отношения сторон, после принесения присяги всеми казанцами, в тот день, когда к городу подъехал русский наместник – несколько казанских князей затворили ворота и подняли бунт. А затем… пригласили на ханство очередного иностранца, представителя чингизидов.
В июне 1552 года, уже после военной реформы, русские войска подошли к Казани вместе с казанскими булгарами, касимовскими татарами, мордвинами и чувашами. Крымский хан, чтобы сорвать этот поход, напал на Тулу, но был отброшен. Россия совершенно явно собрала силу.
В августе русские перешли Волгу и осадили Казань. Командовали войсками воеводы князья Андрей Михайлович Курбский и Михаил Иванович Воротынский. В составе русских войск было до 60000 российских татар; защищали Казань крымские татары. Город окружили кольцом укреплений, построили для штурма передвижную башню с пушками. Строительством осадных сооружений руководил строитель Свияжска военный инженер дьяк Иван Выродков. Взрывом минной галереи разрушили подземный водовод, подававший в город воду из большого озера. Через 1,5 месяца осады новым взрывом разрушили стену и 2 октября 1552 года Казань взяли штурмом, несмотря на героизм защитников. Все взрослое население погибло или разбежалось.
В 1556 году взяли Астрахань. Затем и Большая Ногайская Орда между Волгой и Уралом признала зависимость от Ивана IV.
Теперь весь путь по Волге принадлежал России.
Расширение государства за счет присоединения земель, населенных самобытными народами, потребовало коренной реформы местного управления. Она и была проведена в 1555—1556 годах. Вместо «кормлений» наместников и волостелей на местах ввели самоуправление. (Его пытались ввести еще в 1539). Отныне страна делилась на уезды, которые состояли из города и сельских общин, соединенных в волости и станы (пригородные волости). В городах и волостях из «лутших» посадских людей и черносошных крестьян выбирали на один – два года земских старост. Они вели раскладку податей и повинностей, записывали «в тогло», контролировали меры и весы, клеймили лошадей, проводили мирские выборы. Коллегия земских старост вела суд по мелким гражданским и уголовным делам.
Следующий уровень самоуправления представляли губные старосты. Духовенство, дворянство и черные крестьяне выбирали в городе и уезде из высшего дворянства двух губных старост, которые вели следствие и суд по особо опасным делам, могли выносить смертные приговоры. Они подчинялись созданному еще в 1539 году Разбойному приказу (ныне МВД). В помощь им выбирались из лучших посадских и крестьян губные целовальники (присяжные заседатели), дьячки (секретари) и полицейские чины (сотские, пятидесятские, десятские). Губные старосты и выборные городовые приказчики (судейские чиновники) вели контроль над земством. Помещичьих и боярских крестьян судили сами помещики и бояре, за исключением убийств и грабежей.
Завершена была реорганизация центрального управления тем, что управление стало строиться не по территориальному, а по ведомственному признаку. Причем приказы дополнительно получили судебные функции. Самыми важными стали приказы Посольский, Разрядный, Разбойный, Большой приход (сбор налогов).
Усиление государства в 1550-х годах позволило поставить вопрос о борьбе за выход к Балтике, дорогу к которой закрывал Ливонский орден. На счастье, орден не имел союзников, так как все соседи – и Польша, и Швеция, и Дания, и Россия – претендовали на занятые им территории. Орден балансировал главным образом между Россией и Польшей: в 1554 году заключил союз с Москвой, но в 1557-м новый глава ордена Фюрстенберг подписал договор с польским королем Сигизмундом II Августом против России.
Между тем, ещё по перемирию 1503 года орден обязался возобновить ежегодную выплату России дани за город Юрьев (Дерпт), существовавшую с давних времен, но за 50 лет не прислал дань ни разу. Россия считалась слабой, и с ней можно было не церемониться. Но Иван IV уже чувствовал, что время слабости прошло, и требовал своего. В 1557 году на переговорах делегация ордена просила отсрочить платежи. Иван отказался и сделал это поводом к войне. Вторым поводом к войне была задержка орденом 123 специалистов, приглашённых Иваном из Западной Европы.
В январе 1558 года Россия начала войну, причём в русское войско входили татарские отряды из Казани. Весной того же года взяли Нарву, летом – Дерпт, вернув старые русские земли. В Нарве Иван IV тут же основал корабельную верфь.
В 1559 году с орденом заключили перемирие, но в 1560 году война возобновилась. Русские взяли Мариенбург и Феллин, разгромили войско ордена и взяли в плен прежнего магистра Фюрстенберга. В ноябре 1560-го орден заключил новый договор с Сигизмундом II, полностью признав его власть. Теперь России на Балтике противостоял уже не один орден, а несколько сильных держав, и с 1561 года наступил второй период войны, в которой главным врагом России стал Сигизмунд II, а военные действия перешли в Великое княжество Литовское.