Восстановление русского протектората вызвало резкое неприятие у огланов и мурз, стремившихся к союзу с Крымом, власти которого законным наследником Казанского юрта считали Сагиб-Гирея, сводного брата умерших Мухаммед-Эмина и Абдул-Латифа. На руку им сыграла явная непопулярность Шах-Али среди простого народа, отмеченная еще Сигизмундом Герберштейном. Имперский дипломат отметил, что на престоле Шах-Али пробыл лишь 4 года (в действительности — 3 года), «встречая в своих подданных сильную ненависть и отвращение к себе. Это усиливалось еще от безобразного и слабого телосложения, ибо он был человек с выдающимся брюхом, с редкой бородою и почти женским лицом; все это показывало, что он отнюдь не пригоден к войне. Вдобавок к тому же, он презрел и пренебрег расположением своих подданных, был более надлежащего предан государю Московскому и полагался на иноземцев более чем на своих». Таким образом, в Казани возник заговор, во главе которого встал оглан Сиди, отправивший в Бахчисарай царевичу Сагиб-Гирею приглашение занять казанский трон, выступив против Шах-Али и русских. В апреле 1521 г. Сагиб-Гирей подошел к Казани с небольшим отрядом Мертек-мурзы, насчитывавшим всего 300 воинов. В городе вспыхнуло подготовленное «князями коромольниками» восстание. Находившийся в Казани русский отряд был перебит, великокняжеский посол В. И. Бушма Поджогин и русские купцы задержаны, Шах-Али с гаремом и немногими слугами изгнан. В мае 1521 г. Шах-Али оказался в Москве, где ему устроили торжественную встречу.
Сагиб-Гирей являлся полной противоположностью Шах-Али, воплощая идеал казанцев о мужественном и воинственном правителе, непоколебимом враге «гяуров». Оказавшись на престоле, он объявил войну Московскому государству. Новый хан договорился о совместных действиях с братом, крымским «царем» Мухаммед-Гиреем, поднявшим свои войска в поход.
О приближении большой войны в Москве знали и срочно выдвинули к южным границам войска. Во главе полков, вставших в Серпухове, находились князь Дмитрий Федорович Бельский, князь Василий Васильевич Шуйский, Иван Григорьевич Морозов-Поплевин. Каширской ратью командовали князь Иван Данилович Пенков и князь Федор Васильевич Лопата Оболенский. Тарусу прикрывало войско князя Михаила Даниловича Щенятева и Ивана Михайловича Воротынского. В Коломне стояли отряды князя Юрия Андреевича Хохолкова и Никиты Михайловича Кутузова-Клеопина. На Угре должны были обороняться полки князя Василия Семеновича Одоевского, князя Семена Дмитриевича Щепина Оболенского и Андрея Никитича Бутурлина. На восточном рубеже войска под командованием князя Петра Дмитриевича Ростовского и Михаила Семеновича Воронцова встали в Мещере. Неподалеку от них на реке Мокше находились с полками князь Иван Михайлович Троекуров и князь Василий Ковер Кривоборский. В Муроме — князь Юрий Дмитриевич Пронский, князь Иван Иванович Щетина Оболенский, окольничий Андрей Васильевич Сабуров), в Нижнем Новгороде — князь Андрей Дмитриевич Курбский и Федор Юрьевич Щука Кутузов. Войска, сосредоточенные в Рязани подчинялись рязанскому наместнику Ивану Васильевичу Хабару Симскому. Отряд Ивана Шамина был выдвинут к Стародубу.
Однако выбранная московскими воеводами тактика пассивной обороны на рубежах не помогла — слишком значительными были силы врагов. Наиболее опасным стало Московское направление, где наступал крымский хан Мухаммед-Гирей, к которому присоединился литовский воевода Евстафий Дашкевич. Пройдя Муравским шляхом между верховьями Ворсклы и Северского Донца, 100-тысячное крымско-литовское войско достигло Быстрой Сосны и, обходя Тулу, повернуло к границам Рязанской земли. Именно здесь неприятельская армия вторглась в русские пределы и, не останавливаясь, 28 июля 1521 г. подошла к реке Оке в окрестностях Коломны, где никто не ожидал их появления. Именно здесь татары «перелезли» Оку, вынудив находившийся в Коломне небольшой русский гарнизон, под командованием князя Юрия Андреевича Хохолкова, укрыться в своей крепости. Подоспевшие с большим опозданием к месту переправы от Серпухова и Каширы великокняжеские полки были разбиты, по-видимому, поодиночке, находившейся на московской стороне Оки огромной татарской армией. О тяжелых потерях, понесенных русскими войсками в этих боях, свидетельствует гибель великокняжеских воевод Ивана Андреевича Шереметева, князя Владимира Михайловича Карамышева Курбского, Якова Михайловича и Юрия Михайловича Замятниных и пленение князя Федора Васильевича Лопаты Оболенского. Главнокомандующим выдвинутой в южные города армией был молодой князь Дмитрий Федорович Бельский, который не прислушивался к советам находившихся у него в подчинении старых опытных воевод и бросал полки в бой на переправы у Коломны без всякой надежды на успех.