От азиатского берега пролива Фридрих двинулся примерно тем же путем, которым шел Александр Македонский за полтора тысячелетия до него: пересек Граник и разлившийся Ангелокомит, пока не дошел до мощеной византийской дороги между Милетополем и современным Балыкесиром. По этой дороге он направился через Каламос к Филадельфии, где жители сначала встретили его дружелюбно, но потом пытались ограбить задние ряды его армии и поплатились за это. Фридрих добрался до Лаодикеи 27 апреля, через тридцать дней после переправы через Дарданеллы. Оттуда он двинулся вглубь страны по дороге, которой следовал Мануил в своем роковом походе к Мириокефалону; и 3 мая после стычки с тюрками миновал поле боя, где еще белели кости погибших. Теперь Фридрих оказался на территории, подвластной сельджукскому султану. Не вызывало сомнений, что Кылыч-Арслан, несмотря на все обещания, не намерен дать крестоносцам мирно пройти по его владениям. Однако величина христианской рати привела его в такой ужас, что он не пытался предпринимать каких-либо серьезных действий, помимо того, что крутился вокруг нее, отлавливая отставших солдат и донимая отряды, отправленные на поиски продовольствия. Тактика сработала эффективно. Голод и жажда вместе с тюркскими стрелами вскоре начали приводить к жертвам среди крестоносцев. Обойдя оконечность гор Султан-Даг и ступив на старинную дорогу, ведущую от Филомелиона на восток, Фридрих 17 мая подошел к Конье. Султан вместе со всем своим двором заблаговременно покинул столицу, и в ходе ожесточенной битвы с сыном султана Кутб ад-Дином император на следующий день сумел пробиться в город. Он не стал надолго задерживаться в его стенах, но все же дал армии немного передохнуть в садах Мерама на его южной окраине. Шесть дней спустя он двинулся в сторону Карамана, куда и прибыл 30-го числа, а оттуда без помех повел армию через перевалы Тавра к южному побережью у Селевкии. В то время этим портовым городом владели армяне, чей католикос поспешил письменно доложить обо всем Саладину. Дорога пролегала по труднопроходимой местности, еды не хватало, а летний зной палил нещадно.
10 июня великая рать спустилась на селевкийскую равнину и приготовилась перейти реку Каликадн и войти в город. Император ехал впереди со своей личной гвардией и спустился к воде. Что произошло потом, неясно. То ли он спрыгнул с коня, чтобы освежиться в прохладных волнах потока, а течение оказалось сильнее, чем он думал, то ли организм уже престарелого Фридриха не пережил внезапного шока, или, может статься, его конь поскользнулся и сбросил седока в воду, и того утянуло на дно тяжестью доспехов. К тому времени, как армия подошла к реке, тело уже вытащили из воды и уложили на берегу.
Смерть великого императора стала чудовищным ударом не только для его войск и соратников, но и для всего франкского мира. Весть о том, что он идет во главе огромной армии, воодушевила рыцарей, сражавшихся на сирийских берегах. Казалось, у него одного достаточно силы, чтобы прогнать мусульман, и, когда к нему присоединились бы армии королей Франции и Англии, которые, как было известно, вскоре намеревались отправиться на Восток, вместе они наверняка бы вернули Святую землю в руки христиан. Даже Саладин опасался, что не справится с этой объединенной мощью. Услышав о том, что Фридрих уже на пути в Константинополь, султан послал своего секретаря и будущего биографа Бахауддина в Багдад предупредить халифа ан-Насира о том, что правоверным надлежит сплотить свои силы перед лицом угрозы, и призвал к себе всех своих вассалов. Он собирал информацию о каждом шаге германской армии и ошибочно полагал, что Кылыч-Арслан тайно пособничает христианам. Когда до мусульман дошла новость о внезапной гибели Фридриха, они подумали, что это чудо Господне, совершенное ради спасения правоверных. Армию, собранную Саладином для сдерживания германцев в Северной Сирии, можно было спокойно сократить и послать отряды для подкрепления его войск на палестинском побережье.
Исламу действительно грозила большая опасность, и Саладин был прав, видя свое спасение в смерти императора. Хотя во время нелегкого марша по Анатолии германская армия потеряла некоторое количество солдат и часть снаряжения, но все еще оставалась весьма внушительной.