Сведения о жизни Авраамия до его появления в Ростове содержатся лишь в поздних редакциях его Жития и носят, по-видимому, чисто легендарный характер. Так, рассказывается, будто святой родился в «пределах Галицких», городе Чухломе; в язычестве носил имя Иверк и в течение восемнадцати лет не мог ходить, будучи прикован к постели. Случилось в его доме быть неким благочестивым новгородцам; они рассказали ему о вере Христовой и о чудесах, творимых именем Господа. Юноша уверовал в Бога и попросил у него исцеление от болезни. Внезапно ощутив силу, он встал с постели и в тот же день ушел из дома в Новгород. Затем он добрался до Ладожского озера и был крещен в Валаамском монастыре, получив при крещении имя Аверкий. Позднее он упросил игумена постричь его в иноческий чин. В иночестве ему и дано было имя Авраамий. Исследователи, однако, со скепсисом относятся ко всем этим рассказам, видя в них лишь плод сочинительства поздних книжников.
Рассказ о подвигах преподобного в Ростове также полон чудес и, по всей вероятности, сложился под влиянием поздних народных преданий. Как полагают, древнейшее Житие святого Авраамия было составлено не ранее XV столетия, когда прошло уже очень много времени после его смерти. Никакими письменными свидетельствами автор Жития, по-видимому, не располагал.
Во время пребывания Авраамия в Ростове, рассказывается в Житии, в городе было еще очень много язычников; целый район Ростова — так называемый Чудской конец (то есть населенный
Когда преподобный Авраамий вышел из города и перешел речку Ишну, ему встретился еще один незнакомец. Вид его внушал страх и уважение: он был почти совсем без волос, с большой круглою бородою, в руке держал трость. Преподобный поклонился ему, а на вопрос незнакомца, куда он держит путь, отвечал так: «Я ищу дом Иоанна Богослова». «Подойди, возьми сию трость мою, — сказал ему незнакомец, — и возвратись назад, подступи к идолу Велесу, ударь его тростью во имя Иоанна Богослова, и окаянный обратится в прах». С этими словами неизвестный стал невидим. И понял блаженный Авраамий, что то был сам святой Иоанн Богослов.
Он воротился назад, беспрепятственно подошел к идолу, ударил его тростью во имя Иоанна Богослова — и идол тотчас же распался, превратившись в прах. На том месте, где Авраамий встретил святого, он поставил церковь во имя Иоанна Богослова, а там, где стоял идол Велеса, соорудил небольшую церковь во имя Богоявления Господня, поставил при ней кельи, собрал иноков и учредил монастырь.
Житие рассказывает, что язычники много раз пытались отомстить святому за разрушение идола, однако преподобный своим терпением вскоре обратил всех их к Христу и крестил. При всей своей легендарности Житие преподобного Авраамия является ярким свидетельством того, как непросто шел процесс утверждения христианства в землях Северо-Восточной Руси. И не княжеская власть, но христианские просветители края вынесли на своих плечах основную тяжесть борьбы с язычеством.