Вскоре Герман отправился на материк для пополнения запасов, необходимых для строительства монастыря. Ему пришлось задержаться на побережье; наступила осень, и плавание по Белому морю сделалось невозможным. Зосима зимовал на острове в одиночестве. Это было крайне тяжело: святому пришлось пережить и голод, и бесовские наваждения. Запасы продовольствия пополнились чудесным образом, когда преподобный уже отчаялся найти себе пропитание: к нему явились некие мужи с санями, полными хлеба, муки и масла. Неведомо: рыбаки ли это были, забредшие сюда с побережья, или Божьи посланцы. Наконец, весной вернулся Герман, а с ним еще один человек, по имени Марк, весьма искусный в ловле рыбы (позднее он принял пострижение с именем Макарий). Вскоре на остров приплыли и другие иноки. Они принялись рубить деревья и строить кельи, а затем срубили и небольшую церковь во имя Спаса Преображения.
Для освящения церкви необходимо было благословение архиепископа, а также церковная утварь, антиминс (четырехугольный плат, возлагаемый на престол, на котором совершается таинство причащения); необходим был и игумен для обители. Преподобный Зосима послал одного из братии в Новгород, к святителю Ионе (он занимал новгородскую кафедру с 1459 по 1470 год). Вскоре благословение и все необходимое для освящения церкви было получено; прибыл и игумен — иеромонах Павел. Церковь была освящена, и так начала свое существование Спасо-Преображенская Соловецкая обитель.
Братия вели многотрудную жизнь: проводили время в посте и молитвах, своими руками возделывали землю, рубили лес, ловили рыбу, варили соль, которую затем продавали заезжим купцам, получая взамен все необходимое для монастырской жизни. Не выдержав столь тяжкого жития, игумен Павел вскоре покинул монастырь. Его преемником стал Феодосий, но и он оставил обитель, переселившись на материк. Братия решили, что игумен должен быть избран непременно из иноков, живущих в монастыре, и обратились с мольбой к Зосиме, чтобы тот принял на себя руководство обителью. Преподобный долго отказывался, но, наконец, под давлением как монастырской братии, так и святителя Ионы, вынужден был согласиться. Преподобный отправился в Новгород, где был рукоположен в священнический сан и поставлен игуменом основанного им монастыря. Житие свидетельствует, что игумен привез из Новгорода в монастырь много золота, серебра, церковной утвари, хлеба и другого добра, которое передали обители новгородский архиепископ и бояре.
Число иноков в обители постоянно увеличивалось. По благословению игумена Зосимы была возведена новая деревянная церковь во имя Спаса Преображения, большая трапезная (ибо прежняя уже не вмещала братию), а также церковь во имя Успения Божией Матери.
В 1465 году (по другим данным, в 1471 году) в обитель были перенесены мощи преподобного Савватия Соловецкого. Житие рассказывает, что долгое время место его погребения оставалось неизвестным для соловецких иноков. Но однажды в монастырь пришло послание из Кирилло-Белозерского монастыря, в котором, со слов новгородского купца Иоанна, рассказывалось о последних днях преподобного, а также о чудесах возле его могилы, свидетелями которых были сам Иоанн и его брат Феодор. Братия тут же снарядили суда и поспешили в путь. Им удалось обрести нетленные мощи первого насельника соловецкого и, при попутном ветре, перевезти их в свою обитель, потратив на плавание всего один день, вместо обычных двух. Мощи преподобного Савватия были положены за алтарем церкви Успения Пресвятой Богородицы, в особой часовне. А в скором времени из Новгорода была привезена икона святого Савватия, пожертвованная в монастырь упомянутыми выше купцами Иоанном и Феодором.