Получив власть, Иовиан продолжил отступление армии, тем более что Шапур II, узнав о смерти Юлиана, стал еще сильнее наседать на римлян. Теснимое со всех сторон персами римское войско отступило сначала к Сумере, а затем в Харху, где было окружено противником. Изможденные скудным питанием солдаты стали требовать немедленной переправы через Тигр, несмотря на то что в это время река сильно разлилась, а противоположный берег был занят неприятелем. Дабы успокоить солдат, император приказал галльским и германским солдатам, числом около пятисот, форсировать реку. Эта авантюра оказалась успешной, и римский отряд занял противоположный берег. Тем не менее быстро соорудить переправу и перевести основную часть войска не удалось. Во время отступления многие воины погибли от голода, утонули в реке при переправе или, отстав, были захвачены персами.
Шапур предложил мир на тяжелых для римлян условиях. В обмен на проход римского войска и заключение мира на 30 лет персидский царь должен был получить пять областей за Тигром с пятнадцатью крепостями, а кроме того, четыре города. Император также должен был отказаться от союза с армянским царем Аршаком II.
Иовиан принял все условия Шапура. Мир между империей и персами был заключен на тридцать лет.
По прибытии на римскую территорию Иовиан назначил своего тестя Луциллиана магистром конницы и пехоты и повелел ему отправиться в Медиолан, дабы предупредить возможные попытки государственного переворота. Иовиан разослал гонцов в отдаленные части империи, чтобы те выяснили настроения наместников и, по возможности, предотвратили выступления недовольных. Этим гонцам приказали сообщать в провинциях, что персидский поход окончился благополучно.
Август всячески старался устранить возможных соперников — так, был убит его тезка, нотарий (нотарии занимались перепиской и составлением документов) Иовиан, в пользу которого раздалось несколько голосов при выборах. Для упрочнения своего положения Иовиан предоставил известному полководцу Малариху командование войсками в Галлии, однако тот отказался от чести. В то же время был отослан с частью армии вперед, к Тарсу, Прокопий — родственник Юлиана, с приказом похоронить Юлиана возле этого города (как распорядился сам Юлиан при жизни). После похорон Прокопий исчез и объявился лишь после смерти Иовиана, попытавшись захватить власть.
Некоторое время Иовиан провел в Антиохии-на-Оронте, где решал религиозные вопросы. Здесь его посетила делегация константинопольского сената. Жители города, по некоторым сообщениям, довольно неприветливо встретили нового императора — очевидно, из-за того, что Антиохия была всегда под угрозой нашествия персов и потеря ключа к Востоку — города Нисибиса — жителями воспринималась очень тревожно. На настроение жителей повлияло, очевидно, и то, что Иовиан приказал сжечь языческий храм, выстроенный еще при Адриане, который Юлиан превратил в библиотеку.
Иовиан недолго задержался в Сирии и поспешил на Запад, стремясь скорее оказаться в Константинополе.
Деятельность Иовиана в религиозных вопросах была довольно осторожной. Несмотря на свои явные симпатии к христианству, он не стал сразу же после прихода к власти предпринимать какие-то резкие действия в пользу этой религии. Более того, как сообщает Аммиан Марцеллин, свое правление он начал с того, что обратился к гаруспикам, которые провели гадание по внутренностям.
Как только Иовиан ступил на территорию империи, он «прежде всего издал закон о возвращении епископов из ссылки, и повелевалось, чтобы церкви были отданы тем, которые неповрежденно сохраняли никейскую веру».
Этим император фактически продолжил политику Юлиана, который еще ранее приказал вернуть из ссылок никейцев, чтобы противопоставить их арианам, занявшим доминирующее положение при Констанции II. Очевидно, разрушения языческих храмов случались, но они носили неофициальный характер, предпринимаясь частными лицами с молчаливого согласия властей.
В Антиохии-на-Оронте Иовиана осаждали стекавшиеся отовсюду представители различных христианских сект, надеявшиеся привлечь императора к своему толкованию христианской веры. Наибольшую активность проявлял Афанасий Александрийский — последовательный сторонник решений Никейского собора, вновь ставший епископом Александрии. Он, по разным сообщениям, либо сам приехал в Антиохию, либо был вызван туда Иовианом для изложения вопросов веры. Афанасий написал довольно объемное послание Иовиану, в котором разъяснял основы никейской веры. Император, однако, проявил осторожность, не давая никому явного преимущества, но признал Никейский Символ веры.