Постепенно ослабевала разъедаемая междоусобицами главная угроза Руси – Золотая Орда. В 1359 году она распалась на две части, в результате сосуществовали два центра с двумя ханами (границей между этими двумя Ордами служила Волга). Фактическую независимость обрели еще несколько областей: Хорезм, бывшая Камская Булгария и другие. Были утрачены почти все территории к западу от Днепра. Оказалась подорванной вся система внутреннего управления Орды. В западной части Золотой Орды верх взял темник Мамай, который не был потомком Чингисхана, а потому не мог претендовать на ханский трон. Он действовал за спиной зависимых от него Чингизидов, которых менял одного за другим. В годы «великой замятны» в Орде за двадцать лет (1361–1381) на троне в Сарае сменилось более двух десятков ханов. Между двумя частями Золотой Орды шла постоянная борьба. К кому теперь обращаться, где выпрашивать ярлык, на кого ориентироваться – все эти вопросы сразу же встали перед московским князем.
В 1359 году на московский престол взошел девятилетний Дмитрий Иванович, будущий Дмитрий Донской. Но надо было еще получить признание от темника Мамая. В сопровождении бояр 9-летний Дмитрий Иванович отправился в Сарай, в ту пору он не мог рассчитывать на то, что его признают великим князем. Опасаясь усиления Москвы, хан отдал ярлык на владимирское великое княжение нижегородско-суздальскому князю Дмитрию Константиновичу. Между ним и группировкой московского боярства завязалась острая борьба. Потребовалась вторая поездка князя Дмитрия в Орду, потом третье посольство, прежде чем Москва добилась своего. Дмитрий Иванович и на всю жизнь запомнил пережитое в ставке Мамая унижение. И все-таки после подтверждения ярлыка у хана князь Дмитрий окончательно утвердился в положении великого князя, и тут же московское войско двинулось на нижегородско-суздальского соперника, который поспешил признать себя вассалом Москвы.
Великий князь Дмитрий Иванович продолжал политику укрепления Московского княжества. К этому времени Москва добилась больших успехов в объединении под своей рукой русских земель. К Москве отошли Владимир и Дмитров. Московскому княжеству принадлежала теперь половина всех земель Северо-Восточной Руси. С рядом княжеств Москву связывали союзные отношения. Лишь близкая к Литве Тверь, первой поднявшая знамя борьбы с Ордой, оставалась врагом Москвы.
В 1367 году был возведен белокаменный Московский Кремль. Строительство должно было продемонстрировать намерения и силу Москвы ее давним соперникам – тверским князьям. Военные действия против Твери начались в 1367 году. Война шла с переменным успехом. Когда при Димитрии возобновилась борьба Москвы с Тверью, тверской князь Михаил Александрович искал себе опоры в Литве и даже в Орде, чем погубил популярность, какой дотоле пользовались тверские князья у населения Северной Руси. Когда в 1375 году московский князь пошел на Тверь, к его полкам присоединилось 19 князей со своими дружинами. Многие из них, например, князь Ростовский, Белозерский, Стародубский – все потомки Всеволода III, были давнишними или недавними подручниками московского князя; но некоторые из них добровольно примкнули к нему из патриотического побуждения. Таковы были князья черниговской линии Святославичей: Брянский, Новосильский, Оболенский. Они сердились на тверского князя за то, что он неоднократно наводил на Русь Литву, столько зла наделавшую православным христианам, и соединился даже с поганым Мамаем. Князь Дмитрий осадил Тверь и принудил ее к миру. Князь Михаил Тверской подписал договор, в котором признавал себя «братом молодшим» московского князя.
Московское великое княжество шаг за шагом подвигалось к противостоянию с Ордой. Отныне лидером в борьбе с ордынским игом выступил великий московский князь Дмитрий Иванович. Он изменил традицию отношений с Ордой и бросил ей открытый вызов. С 1361 года он прекратил выплату ненавистного ордынского выхода. Русские князья, поддержавшие Москву, перестали ездить в Орду за получением ярлыков на княжение. В 1374 году Дмитрий Иванович разорвал все отношения с Мамаем, который к этому времени стал фактическим правителем Золотой Орды. Через год, поставив Тверь на колени, он обезопасил свой тыл. Борьба русских земель, возглавляемых Москвой, против Мамая принимала все более ожесточенные формы. В Нижнем Новгороде был перебит полуторатысячный отряд ордынцев. Некоторое время спустя войско во главе с князем Дмитрием Боброком-Волынцем овладело городом Булгар и установило контроль Руси над торговым путем по Волге. Московский князь на этом не остановился, послал отряд на Казань и заставил этого вассала Золотой Орды в течение некоторого времени платить дань Москве. Со всех сторон московские рати обкладывали ордынские владения. По берегам Оки московские воеводы устроили сильную оборонительную линию с завалами на лесных дорогах, сторожевыми постами, с дежурившими на бродах отрядами.