В 1277 году Федору пришлось в первый (но далеко не в последний) раз отправиться в Орду. Хан Менгу-Темир потребовал от русских князей принять участие в его походе против ясов (нынешних осетин), отказавшихся платить ему дань. Помимо Федора, в этом походе участвовали и другие русские князья: сын Александра Невского Андрей Городецкий и Глеб Василькович Ростовский со своим сыном и племянником. Совместная татарско-русская рать разбила ясов, захватила их город Дедяков и взяла богатую добычу и множество пленных. Хан остался весьма доволен действиями русских. Не успел Федор, возвратившись в Ярославль, отпраздновать свадьбу своей дочери (в июле 1278 года она была отдана за князя Михаила Глебовича, сына Глеба Васильковича Ростовского), как снова вынужден был ехать в Орду. В том же году он, вместе со своим зятем, воевал вместе с татарами против восставших против них волжских болгар. Житие святого рассказывает, что хан очень благоволил к нему и повелевал ему всегда быть при нем и принимать чашу из рук его. По воле хана князь три года провел в Орде.
Когда он вернулся на родину, то узнал, что жена его скончалась, а теща, княгиня Ксения, вместе с боярами провозгласила ярославским князем его сына Михаила. Федор хотел было войти в город, но его не пустили туда. Князь вновь отправился в Орду. Между тем один за другим (в 1277 и 1279 годах) умерли старшие братья Федора — княжившие в Смоленске Глеб и Михаил. В 1280 году Федор получил Смоленское княжество. Впрочем, он правил им с помощью своих наместников, сам же продолжал жить в Орде. Здесь он и женился во второй раз — на дочери хана. Предварительно было испрошено благословение на этот брак константинопольского патриарха. Патриарх дал свое благословение — конечно, лишь при условии крещения невесты (послание патриарха привез сарайский епископ Феогност). Ханская дочь приняла крещение, получив и новое имя — Анна. В знак особого благоволения к зятю, пишет составитель Жития, хан приказал всем подвластным ему князьям и вельможам принести почетные дары новобрачным и назначил на их содержание тридцать шесть городов (надо понимать, дани, собираемые с этих городов), а также подарил богатые подарки. Был выстроен и особый дом для князя Федора и его жены. Брак этот оказался счастливым: Федор прижил в нем двух сыновей — Давыда и Константина, будущих русских святых.
Житие рассказывает также, что, живя в Орде, князь Федор оставался истинным христианином: всегда исполнял заповеди Божии и выстроил несколько храмов, снабдив их за свой счет всем необходимым.
Новое появление Федора в русских пределах связано с трагическими событиями, непосредственным участником которых он стал. В 1281 году в Орду отправился князь Андрей Городецкий, сын Александра Невского. Он спешил выразить почтение новому хану — Туда-Менгу, а заодно стал просить себе ярлык на великое княжение, который был в руках у его старшего брата Дмитрия Александровича. Туда-Менгу охотно поддержал Андрея и направил на Русь большое татарское войско. К Андрею присоединились и русские князья, бывшие в Орде, в их числе и князь Федор Черный. Татарско-русское войско разорило многие волости Северо-Восточной Руси — Муром, Переяславль, окрестности Владимира, Суздаля, Твери и других городов. «И был великий страх и трепет на христианском роде», — пишет летописец. По-видимому, приблизительно в это же время Федор Черный возвращает себе Ярославль. Житие рассказывает, что, узнав о смерти своего сына Михаила, князь пришел в Ярославль вместе со своей супругой, сыновьями от второго брака и большим войском, состоявшим из русских и из татар. Ярославцы опять не хотели впускать его в город, однако Федор силой принудил их к покорности. Житие добавляет, что князь заботился о процветании обоих своих княжеств — и Смоленского, и Ярославского. Он раздавал щедрую милостыню, строил храмы, покровительствовал монастырям. Его супруга, княгиня Анна, по преданию, также отличалась благочестием и устроила в Ярославле храм во имя святого Архистратига Михаила.
Новый виток вражды между русскими князьями пришелся на 1293 год. И вновь князья втягивают в свои распри татар. И вновь князь Федор — активный участник междуусобицы. Вражда между сыновьями Александра Невского продолжалась. Князю Дмитрию удалось возвратить себе великокняжеский ярлык (также с помощью татар), но Андрей не хотел примириться с этим. В 1293 году он отправляется в Орду с жалобами на своего брата. Дмитрия сопровождают многие русские князья, в том числе и Федор Ярославский. И опять хан (на этот раз уже хан Токту) готов помочь ему. На Русь отправляется громадное войско во главе с братом хана Туданом (Дюденем). «Дюденева рать», как называли ее на Руси, стала одним из самых страшных татарских нашествий XIII века. Современники сравнивали ее с Батыевом разорением Руси.