Со времени возвращения вместе с дядей, королем Конрадом, из Второго крестового похода Фридриха не оставляло желание вновь вступить в бой с неверными, однако долгие раздоры ставшего императором Фридриха с папством, его непрестанные войны с североитальянскими городами (он совершил в Италию 6 походов), вражда с сицилийцами не давали ему возможности отправиться на Восток. Победа над могущественным Генрихом Львом Вельфом и его изгнание из Германии (1181–1185), мир с ломбардцами (1183), брак его сына и наследника Генриха с наследницей Сицилийского королевства Констанцией и провозглашение его королем и соправителем (1186), смерть личного врага, папы Урбана III (1187), давшая возможность заключить мир с Римом, развернули перед всем миром могущество штауфенской империи. Западная Европа увидела в нем верховного светского властителя католического христианства. Все это заставило его осознать, что для поддержания престижа необходимо прийти на помощь Святой Земле и возглавить крестоносное движение, и совпадало с его желаниями. Большую роль сыграло известие о героической обороне Тира под руководством Конрада Монферратского: Монферраты были всегда надежными сторонниками и к тому же родственниками Штауфенов.
Первые желавшие отправиться в поход приняли крест еще в декабре 1187 г., на рейхстаге в Страсбурге. Сам Фридрих принял крест 27 марта 1188 г. из рук Энрико, папского легата-кардинала Альбано: «Фридрих не мог устоять против дуновения Святого Духа». Однако прошло больше года, прежде чем все было готово к походу. Котомку и крест император принял в апреле 1189 г. в Хагенау. Угроза еврейского погрома в Майнце была подавлена императором в зародыше угрозой жесточайшей кары. Как и раньше, был намечен сухопутный маршрут, который император обеспечил переговорами и договорами с Венгрией, Сербией, Византией и рум-сельджукским султаном Икония. Посылал ли Фридрих ультиматум Салах ад-Дину, который тот отверг, достоверно установить не представляется возможным. Подать на проведение крестового похода император не вводил, однако каждый участник должен был иметь при себе денежные средства на два года. Эта мера, помимо исключения из похода бедноты, ограничивала нежелательный обоз. Во время отсутствия императора управлять страной должен был его старший сын Генрих, возможный мятежник Генрих Лев, вернувшийся в Германию в 1185 г., был отправлен в изгнание еще на три года.
14 мая 1189 г. армия Фридриха выступила из Регенсбурга. Вместе с императором в поход двинулись его второй сын, герцог Фридрих Швабский, архиепископ Тарентский (Гервазио), 8 епископов, 3 маркграфа[28]
и 29 графов из всех германских областей. Некоторые вассалы императора — кельнцы и фризы, архиепископ Бременский (Хартвиг), ландграф Людвик III Тюрингский и позднее герцог Леопольд V Австрийский — отправились морем.Современники оценивали численность армии Фридриха в 100 тысяч человек, и хотя она была на самом деле гораздо меньше, это была самая большая армия, которую когда-либо какое-либо государство посылало в крестовый поход. 67-летний император пользовался всеобщим уважением и авторитетом. Годы не уменьшили его храбрости и личного обаяния, но научили осторожности. В походе он был суров и поддерживал строгую дисциплину. Он разделил армию на отряды по 500 человек, во главе каждого поставив человека, командовавшего в бою, которому принадлежала также и судебная власть. Кроме того император учредил военный суд из 60 человек, из которых 16 состояли также в военном совете при императоре.
Марш через Венгрию прошел благополучно, король Бела III дружески приветствовал Фридриха и оказывал всяческое содействие. 23 июня немцы у Белграда переправились через Дунай и вступили на территорию Византии.
Исаак Ангел, человек разумный, но слабовольный, случайно ставший императором, со всех сторон был окружен заговорами и изменами. Он не доверял никому из своих приближенных, подозревая в них соперников, но в то же время не осмеливался призвать их к порядку. Страна страдала от коррумпированного управления и высоких и несправедливых налогов. От империи отделился Кипр, армяне захватили Киликию, турки постоянно врывались в центральные и юго-западные провинции Анатолии. Болгары, валахи и сербы, возмущенные высокими налогами, вновь подняли восстание, которое не удалось полностью подавить. Болгарский царь Петр заключил союз с великим жупаном сербов Стефаном Неманей против императора. Хотя греки удерживали крепости вдоль главной дороги на Константинополь — через Белград, Ниш, Софию, Филиппополь (Пловдив) и Адрианополь (Эдирне), сербские и болгарские разбойничьи банды господствовали на дорогах и в окрестных землях.