Должность управителя монастырей тяготила подвижника, искавшего безмолвия, и он на тридцатом году своей жизни тайно ушел из города и направился в Иерусалим, где, поклонившись святым местам, удалился в Фаранскую лавру. Там, найдя вне монастыря уединенную пустую хижину, поселился в ней, добывая пропитание плетением корзин. Неподалеку подвизался преподобный Феоктист. Оба имели одно стремление к Богу, одну волю, одну цель. Обычно после дня Крещения Господня они удалялись в Кутиллийскую пустыню (недалеко от Иерихона). Однажды же остались там, избрав в горах труднопроходимое место, и поселились в пещере. Скоро, однако, Господь открыл их уединение для пользы многих людей: пастухи, перегоняя свои стада, нашли их пещеру и рассказали в селении. К отшельникам начали стекаться люди, искавшие духовной пользы. Постепенно возникло монашеское общежитие, несколько иноков пришли из Фаранской обители, среди них Марин и Лука. Управлять возникшим монастырем преподобный Евфимий поручил своему другу Феоктисту, а сам стал духовником братии. Он наставлял свою братию: «Знайте, что желающим проводить иноческую жизнь следует не иметь своей воли, всегда находиться в послушании и смирении, а в уме иметь память смертную, бояться Суда и огня вечного и желать Царства Небесного».
Юным инокам преподобный заповедовал с внутренним богомыслием соединять телесный труд. Авва требовал, чтобы иноки хранили молчание в церкви во время богослужения и на трапезе. Молодым инокам, желавшим поститься более других братий, он не позволял следовать своей воле, но наставлял их вкушать общую пищу на трапезе с воздержанием, не пресыщаясь.
В те годы преподобный Евфимий обратил и крестил многих арабов, среди которых были военачальник Аспевет с сыном Теревоном, которого преподобный Евфимий исцелил от болезни. Аспевет получил в крещении имя Петр и впоследствии был епископом среди арабов.
Слава о чудесах, совершаемых преподобным Евфимием, быстро распространялась. Отовсюду стали стекаться люди, приводя с собою больных, получавших исцеление. Будучи не в силах сносить людскую молву и славу, преподобный тайно ушел из монастыря, взяв с собой только ближайшего ученика Дометиана. Ученик удалился в пустыню Рува и поселился на высокой горе Марда около Мертвого моря, а преподобный углубился в пустыню Зиф и поселился в пещере, в которой некогда скрывался святой царь и пророк Давид от преследований царя Саула. Там Евфимий основал монастырь, а в самой пещере Давидовой устроил церковь. В то время преподобный Евфимий отвратил многих иноков-пустынников от манихейской ереси, творил чудеса, исцелял больных и одержимых бесами.
Приходившие к святому посетители нарушали покой пустынника, любившего безмолвие, и он решил вернуться в оставленный им монастырь святого Феоктиста. По дороге преподобный облюбовал уединенное место на горе и остановился на нем. Там впоследствии было погребено его святое тело. Блаженный Феоктист с братией вышел навстречу преподобному Евфимию и молил его вернуться в монастырь, но преподобный не согласился. Однако он обещал приходить в обитель по воскресным дням на общее богослужение.
Преподобный Евфимий не хотел ни иметь кого-либо поблизости, ни устраивать киновию или лавру, но Господь в видении повелел ему не отгонять приходящих к нему ради спасения души. Через некоторое время около него опять собрались братья, и он устроил лавру по образцу Фаранской лавры. В 429 году, когда преподобному Евфимию было 52 года, иерусалимский патриарх Ювеналий освятил лаврскую церковь и поставил обители пресвитеров и диаконов.
Лавра вначале была бедна, но преподобный твердо уповал на Бога, могущего ниспослать людям всё необходимое. Однажды в лавру пришло около 400 человек путников – армян из Иерусалима, которые были голодны. Увидев это, преподобный Евфимий призвал эконома и велел ему накормить странников. Эконом ответил, что в монастыре нет такого количества пищи. Преподобный, однако же, настаивал. Придя в помещение для хранения хлеба, эконом нашел в нем множество хлебов. То же произошло с вином и елеем. Путники ели во славу Божию, насытились и после этого остался еще трехмесячный запас пищи для братии. Так Господь сотворил чудо по вере святого Евфимия.
В 431 году в Ефесе состоялся III Вселенский Собор, направленный против ереси Нестория. Преподобный Евфимий радовался утверждению православия и скорбел об архиепископе Антиохийском Иоанне, который, будучи православным, защищал Нестория.
В 451 году в Халкидоне состоялся IV Вселенский Собор против ереси Диоскора, который, в противоположность Несторию, утверждал, что в Господе Иисусе Христе одно лишь естество – Божеское, поглотившее в воплощении естество человеческое (так называемая ересь монофизитов).
Преподобный Евфимий принял исповедание Халкидонского Собора и признал его православным. Весть об этом быстро распространилась среди иноков и пустынников, и многие из них, ранее неправо веровавшие, по примеру святого Евфимия, приняли исповедание Халкидонского Собора.