В поход судовая рать выступила 8 мая 1524 г. (за неделю до Троицына дня). Конная рать — 15 мая (на Троицын день). Международная обстановка складывалась очень удачно для задуманного нападения на Казанский юрт. В это время уже началось наступление на Крым 80-тысячной польско-литовской армии, в ходе которого «литовская, деи, сила Очаков разорила, а взяли, деи, его в два дни». Узнав о затруднительном положении крымского хана Саадет-Гирея и начавшемся вторжения на территорию своего государства русских ратей, Сагиб-Гирей спешно покинул Казань и бежал в Крым, чтобы, пробравшись в Турцию, просить помощи у султана. Но Саадет-Гирей приказал арестовать бежавшего перед врагом брата, назначив на его место своего 13-летнего племянника Сафа-Гирея.
24 августа полки конной рати на том же Итяковом поле у реки Свияги вступили в сражение с казанской армией. В жестокой сече русские воины «многых князей, и мурз, и татар, и черемису, и чювашу избиша, а иных князей и мурз многых живых поимаша».
Судовая рать высадилась под Казанью 3 июля 1524 г. Полки «стали на Цареве лугу обострожився» и, не начиная осады, принялись ждать подхода конной рати. Казанцы, опасавшиеся соединения двух армий, 19 июля атаковали укрепившееся в остроге московское войско. Получив жестокий отпор, они продолжали блокировать не имевших конницы русских воинов в их лагере, время от времени повторяя нападение. Обстановка осложнилась, так как в войске Шах-Али и князя И. Ф. Бельского стали заканчиваться продовольственные запасы. На помощь им из Нижнего Новгорода выступила вторая судовая рать князя Ивана Федоровича Палецкого, имевшего под своим командованием 90 речных кораблей. На каждом струге находилось по 30 русских воинов. По-видимому, резервная флотилия была приготовлена заранее, с целью доставки продовольствия для стоявшей под Казанью армии в том случае, если осада города затянется. По берегу судовую рать сопровождал конный отряд из 500 воинов. Узнав о движении русских кораблей, черемисы подготовили засаду. Первым был уничтожен конный отряд, из состава которого спаслось лишь 9 человек. Затем во время ночной остановки противник атаковал флотилию князя Палецкого. Большинство русских воинов погибло или попало в плен. Лишь немногие корабли и среди них струг воеводы Палецкого ушли и смогли добраться до лагеря Шах-Али под Казанью. Вскоре туда же подошла и конная рать И. В. Хабара и М. С. Воронцова.
15 августа все русские полки соединились и начали осаду города. Однако заметных успехов воеводам добиться не удалось. Оставшиеся вне крепости казанские отряды совершали частые и неожиданные нападения на расположение русских войск. Московская армия находилась в постоянной, изматывающей простых воинов, готовности к отражению новых атак. Вскоре, осознав бесплодность своих усилий, воеводы начали переговоры с татарами, согласившись снять осаду в обмен на обещание прислать казанских послов в Москву для заключения мира.
Поспешное отступление русских войск стало спасительным для Казанского ханства. Вскоре после их отхода на территорию этого государства вторглись ногайские отряды, разорившие южные пределы. Правительство юного хана Сафа-Гирея было остро заинтересовано в установлении мирных отношений с Россией. В ноябре 1524 г. в Москву прибыли казанские послы Аппай-улан и князь Бахты-Кият. Переговоры закончились успешно и стороны заключили договор, единственным условием которого стал перевод на русскую территорию Казанской ярмарки, проводившейся ежегодно 24 июня. В 1525 г. она открылась уже в Нижнем Новгороде. Торговый оборот главной волжской ярмарки значительно упал, что сказалось на прибылях русских и восточных купцов, однако еще больший урон понесло Казанское ханство, богатевшее на транзитной волжской торговле.
Отношения Москвы с Крымом оставались напряженными, но больших походов на Русь хан организовать не мог из-за постоянных усобиц в роду Гиреев. Сорванным оказался уже подготовленный поход 1525 г., когда Саадет-Гирей, двинувшийся к московским рубежам с 50-тысячной армией «царь», уже за Перекопом узнал о мятеже, вновь поднятом одним из его братьев Ислам-Гиреем, и принужден был прекратить поход и вернуться назад. Та же история повторилась в 1526 г.
В Москве постарались воспользоваться усобицами в стане врага и продолжали укреплять южную границу. Сначала в Коломне, а затем в Зарайске начинается строительство каменных крепостей, призванных стать надежным щитом против будущих татарских вторжений.