7 сентября он пристал к Аккону и стал прилагать усилия к тому, чтобы возвратить христианам Иерусалим. Но, в отличие от своих предшественников, он старался достигнуть этой цели не оружием, а искусными переговорами. Положение, в котором он оказался, было очень непростым. Григорий запретил всем сирийским христианам повиноваться приказаниям отлученного императора и начал в Италии войну против Сицилийского королевства. Рыцарские ордена тамплиеров и госпиталитов с самого начала не хотели слушаться Гогенштауфена. Так же враждебно были настроены против него киприоты, остров которых император объявил своим леном. Собственных сил для ведения войны с мусульманами у Фридриха было явно недостаточно, но он ловко воспользовался их раздорами. Ещё прежде чем отправиться в поход, он завязал дружественные сношения с египетским султаном Алькамилом и предложил ему союз против его племянника Анназира Дауда, владевшего Дамаском. В обмен он требовал возвратить Иерусалим. Султан медлил с ответом, и, чтобы усилить свои доводы, Фридрих зимой занял Иоппе. Отсюда он мог постоянно грозить Святому Городу. В виду этого Алькамил пошел на уступки, и в феврале 1229 г. между обоими государями был заключен долгожданный договор. Султан уступил христианам весь Иерусалим, кроме мечети Омара и принадлежавшего к ней комплекса, а также Вифлеем, Назарет и местечки, лежащие по дороге от Иерусалима к Иоппе. Император обещал быть союзником Алькамила против всех его врагов, как мусульман, так и христиан (имелись в виду владетели Антиохии и Триполи). 17 марта Фридрих торжественно вступил в освобожденный Иерусалим. Несмотря на блестящий успех переговоров, враги императора могли найти в этом договоре много причин для неудовольствия. Вместо благодарности и признания Гогенштауфен получил только высокомерное и презрительное порицание. 19 марта в Иерусалим явился архиепископ Цезарейский и наложил на Святые места интердикт. Пилигримов охватила ярость, что «был отлучен город, в котором Господь Иисус Христос был замучен и погребён». Патриарх Иерусалимский Герольд отверг «ложный мир» и призвал крестоносцев к продолжению войны. Когда Фридрих запретил это, Герольд проклял тех, кто исполнял приказания императора и наложил на Аккон интердикт. В то же время фанатичные монахи со своих кафедр изрекали страшные проклятья против развратного сына церкви. В таком состоянии Фридрих должен был оставить Святую Землю. Тревожные вести, приходившие из Европы, заставляли его спешить с возвращением. По отъезде императора из Италии папа Григорий объявил, что освобождает его подданных от присяги и отлучает от церкви всех тех, кто будет защищать его власть. Папские войска начали войну в Апулии, взяли Гаэту и Беневент. Иоанн Бриенн, поставленный во главе папской армии, блокировал все приморские города Апулии и уже надеялся стать преемником сицилийского короля, но в это время в Бриндизи высадился Фридрих.
Как только весть об этом распространилась по Италии, приспешники папы поспешно отступили на север. Иоанн Бриенн удержался только в Сан-Джермано. Прежде чем начинать войну, Фридрих сделал попытку примириться с папой. Но Григорий, живший тогда в Перуджи, отвечал на это новым отлучением и обратился ко всем государям и народам с просьбой о помощи против врага церкви и веры. Он составил и распространил по Европе грамоту, в которой доказывал, что император коварно действовал в Палестине. В Германии он возбуждал князей восстать против ненавистного рода Гогенипауфенов, «гонителей церкви». Но его хлопоты были напрасны. Папские легаты повсюду в Германии встречали плохой приём, князья сохраняли верность императору. Государи Англии, Испании и Франции тоже ничем не itomoi -ли папе. Даже в Ломбардии Григорий не добился никакой поддержки. Между тем к Фридриху собрались апулийцы. Рыцари, проделавшие с ним крестовый поход, взялись помогать ему в войне с папой. Император вступил в Сан-Джермано и стал готовиться к походу на Рим. Видя это, Григорий сбавил тон и скрепя сердце согласился на мирные переговоры. В июне в Сан-Джермано был заключен мир. Фридрих обещал не предпринимать похода на Рим и сделал ещё несколько уступок Григорию. В августе папа снял с императора своё отлучение. Бывшие противники договорились о совместной борьбе против еретиков.