Другие полки успели также вовремя собраться на Оке. Увидя множество русских полков, как море колеблющихся в светлом вооружении, Ахмат быстро побежал домой, сжегши, к сожалению, по пути город Алексин, жители которого геройски защищались.
После этого Иоанн заключил мир с Ахматом, и в том же 1474 году пришло в Москву большое татарское посольство да 3200 купцов привели 40 тысяч лошадей на продажу.
В 1476 году прибыло в Москву новое посольство от Ахмата; оно, как рассказывает «Казанский летописец», опираясь на давний обычай, потребовало дани и предъявило при этом Иоанну ханское изображение, или «басму», с тем чтобы он ей поклонился.
«Великий же князь, – говорит летописец, – нимало не убояся страха царева, но приим басму лица его и, изломаша ее, на землю поверже и потопта ногами своими», после чего приказал послов убить, а одного отправить к Ахмату с таким словом: «Ступай и объяви хану: что случилось с его басмою и послами, то будет и с ним, если не оставит меня в покое». Таким образом, Иоанном III было окончательно свергнуто с московских великих князей позорное татарское иго; есть известие, что он поступил так под влиянием Софии Фоминичны, гордость которой не могла переносить унизительной зависимости от татар и платежа дани хищникам Московского государства.
Однако Иоанну пришлось вскоре пережить немало треволнений из-за этого разрыва с Золотой Ордой.
В 1480 году Ахмат собрал против Москвы огромное войско, получив уведомление от Казимира Литовского о начавшейся в это время ссоре Иоанна с братьями: Андреем Большим Углицким и Борисом Волоцким.
Причиной этой ссоры было их недовольство тем обстоятельством, что Иоанн, всецело занятый своим великим делом собирания Руси вокруг Москвы, естественно, стал преследовать старинное право отъезда бояр к другому князю в случае их недовольства великим князем. Один из его наместников, князь Лыко-Оболенский, так притеснял подведомственных ему жителей, что Иоанн по жалобе последних отнял у него наместничество и приказал вернуть им все, что было беззаконно забрано. Лыко обиделся и отъехал к Борису Волоцкому. Государь приказал брату выдать ему виновного боярина, но Борис отказался. Тогда Иоанн повелел схватить Лыко и отвести в оковах в Москву. Борис вознегодовал на это и послал сказать брату Андрею Углицкому: «Вот как он с нами поступает: нельзя уже никому отъехать к нам», – после чего братья решили защищать свои права вооруженной рукой, для чего собрали рать в своих владениях.
В это время государь был в Новгороде; узнав о выступлении войск Андрея и Бориса в Тверскую область, он поспешил в Москву, где весть о начинающейся усобице подняла большую тревогу. Иоанн тотчас же отправил боярина к братьям уговаривать их кончить дело миром, но те не послушались, и в 20-х числах июля рать их двинулась к новгородским волостям. Тогда Иоанн вторично послал уговаривать их к примирению известного епископа Вассиана Ростовского, и последнему удалось склонить Андрея и Бориса послать своих бояр для переговоров в Москву; но сами они направились к литовскому рубежу и, остановившись в Великих Луках, стали пересылаться с Казимиром, прося помощи против старшего брата. Казимир в непосредственной помощи им войсками отказал, но дал город Витебск на прокормление их женам и вместе с тем поспешил известить Ахмата, что в Московском государстве усобица и чтобы поэтому он скорее шел на Москву.
Узнав о движении Ахмата, Иоанн быстро собрал свои войска на берегу Оки и сам отправился в Коломну. Тогда хан, видя, что река эта крепко занята, взял направление к западу, к Литовской земле, чтобы войти в московские владения, переправившись через реку Угру.
Иоанн зорко следил за его движениями и своевременно послал приказ сыну своему Ивану Молодому и младшему брату Андрею Меньшому перейти от Оки к реке Угре, так что, когда хан подошел туда, то также нашел занятыми все броды и перевозы. В Москве между тем сели в осаде мать великого князя инокиня Марфа, митрополит Геронтий, ростовский владыка Вассиан и наместник московский князь Иван Патрикеев, из знатных литовских выходцев, пришедших в Москву при Василии Темном. Великая же княгиня София Фоминична была послана вместе с казною на Белоозеро.
Иоанн Васильевич как только узнал о наступлении Ахмата, так тотчас же, кроме выдвижения главной рати к Оке, послал прика зание воеводе звенигородскому – князю Василию Ноздреватому – сесть с небольшим отрядом и с войсками крымского царевича Нордоулата на суда и спуститься вниз Волгою, чтобы разгромить беззащитную Золотую Орду, зная, что Ахмат оставил в ней только жен, детей и старцев; великий князь был уверен в том, что, как только хан узнает об этом нападении, тотчас же кинется назад защищать свои улусы.