Там Ефрем стал учеником святого Иакова, впоследствии Великого святителя Низибийского. Это был знаменитый аскет, проповедник христианства и обличитель ариан. Под его благодатным руководством преподобный Ефрем стяжал христианскую кротость, смирение, покорность Промыслу Божию, дающую силу безропотно переносить различные искушения. Святитель Иаков знал высокие достоинства своего ученика и использовал их на благо Церкви – поручал ему читать проповеди, обучать детей в училище, взял его с собой на I Вселенский Собор в Никее (325 г.). Преподобный Ефрем 14 лет был в послушании у святителя Иакова до его кончины (350 г.).
В 363 году Низибия подпала под власть персов, и многие из христиан оставили Низибию. Тогда и преподобный Ефрем вознамерился пойти отсюда в город Едессу. Здесь находился нерукотворный лик Спасителя и святые мощи апостола Фаддея.
Преподобный обратился к Богу с такой молитвою: «Господи Иисусе Христе! Сподоби меня увидеть город Твой, и, когда я буду входить в него, пошли мне навстречу такого человека, который побеседовал бы со мною от Священного Писания с пользою для меня». Когда он, так помолившись, приближался к городу и входил в ворота, встретила его женщина. Увидев ее, раб Божий опечалился и обратился мысленно к Богу: «Господи, Ты презрел моление раба Твоего. Ибо каким образом может она беседовать со мною о книжной мудрости?» Женщина же стояла и смотрела на него. Святой Ефрем обратился к ней с вопросом, зачем она смотрит на него? Женщина ответила: «Я смотрю на тебя, потому что женщина от мужа взята, а ты смотри не на меня, а в землю, из которой ты взят». Услышав это, Ефрем подивился такому ее ответу и прославил Бога, давшего женщине такой ум. Он понял, что не презрел Господь молитвы его. Вошедши в город, он жил в нем много времени и оставался до кончины.
Для пропитания своего в Едессе преподобный Ефрем нанялся трудиться у содержателя бани и употреблял свободное время для проповеди слова Божьего язычникам.
О его добросердечии рассказывают следующее. Впоследствии, когда он постился в пустыне, ученик его в обычное время приносил ему пищу. Однажды он нес еду, но случайно разбил на пути сосуд. Он боялся гнева старца, но последний, увидев смущенного ученика, сказал: «Не скорби, брат, – если пища не захотела к нам прийти, то мы пойдем к ней». Затем, подошедши, он сел у разбитого сосуда и, собирая пищу, стал есть. Так он был незлобив! О нем рассказывали, что с тех пор, как он стал иноком, никогда ни на кого не гневался.
Некоторое время спустя святой Ефрем поселился в находившемся близ Едессы монастыре. Здесь святой увидел много великих подвижников, проводивших жизнь в молитвах и псалмопении. Пещеры были их единственным убежищем, питались они одними растениями. Особенно он сблизился с преподобным Иулианом Персиянином, который был с ним одного покаянного духа. Преподобный Ефрем сочетал с подвижническими трудами непрестанное изучение Слова Божия, почерпая в нем для своей души умиление и мудрость. Потом, по совету святого старца Иулиана, Ефрем удалился на пустынную Едесскую гору для подвигов. Вскоре видение открыло старцу в Ефреме мужа, которому одному из современных соотечественников вручена была книга для вразумления людей. Ефрем начал писать толкование на Пятикнижие. Этот первый опыт толкования на сирском языке привлек к Ефрему многих едессян, и Ефрем хотел убежать от людей. «Ефрем! куда бежишь ты?» – спросил явившийся ангел. «Хочу жить в безмолвии и бегу от молвы и обольщения света», – отвечал Ефрем. Ангел сказал: «Убойся, чтобы не исполнилось на тебе слово Писания: Ефрем подобен молодому волу, который хочет освободить шею от ярма» (Осии 10, 11). После того Ефрем возвратился к тому служению, к которому был призван. С сего времени он начал поучать вере и благочестию. Для успеха в своем благом деле он открыл училище в Едессе, из которого впоследствии вышли знаменитые учители Сирийской церкви.
Господь дал ему дар учительства, к нему начали приходить люди, ждавшие услышать его наставления, которые особенно действовали на души потому, что он начинал их с обличений себя. Преподобный и устно, и письменно учил всех покаянию, вере и благочестию, обличал арианскую ересь, волновавшую тогда христианское общество. Язычники, слушая проповеди преподобного, обращались в христианство.
Преподобный Ефрем, по своему смирению считая себя ниже и хуже всех, в конце своей жизни отправился в Египет, чтобы увидеть подвиги великих пустынников. Он был принят там как желанный гость и сам получил большое утешение от общения с ними. Так преподобный пробыл некоторое время в Нитрийской горе. Сирский жизнеописатель говорит, что Ефрем виделся здесь с богоизбранным иноком Паисием, а Иоанн Колов, повествуя о жизни Паисия, описывает и беседы Паисия с «великим между сирийскими подвижниками отцом», «просвещенным умом и сердцем».