Еще в первые годы иноческой жизни он по временам принимал вид юродства.
Юродство есть один из самых тяжких путей спасения, есть всецелое распинание себя во имя Христа. Юродивый подвергает себя постоянным поруганиям, презрению и ударам, голоду, жажде, зною, всем лишениям бесприютной жизни. Принимая на себя личину малоумного, странного человека, истинный юродивый полон высокой мудрости, в поступках, с виду низких, сохраняет дух возвышенный, непрестанно осмеиваемый миром, полон величайшей любви к человечеству, а в бесстрашных обличениях своих имеет в виду назидание и спасение ближних.
Такой путь избрал себе и преподобный Марк.
Его одежда, многошвенная и часто ветхая, необыкновенная молчаливость, иногда употребление не вовремя пищи пред братиею и посторонними, отрывочность и непонятность речи — казались странными окружающим. Осуждения их он принимал благодушно. Задумав удалиться из обители, ушел в дремучий лес, окружающий Саров. Так исполнял он мудрое слово преподобного Ефрема Сирина: «Кто хочет быть монахом и не переносит оскорбления, уничижения и ущерба, тому монахом не бывать».
В лесу старец Марк не имел постоянного пристанища. То он ютился в пещерах, оставленных зверями, то в шалашах, которые сам устраивал из хвороста. Иногда же постелью служила ему голая земля, а крышей — небо. Так жил он довольно долгое время. Наконец, братия, видя чрезвычайное терпение его в этой отреченной жизни, поняли, что его юродство есть дело великой благодати Божией, и стали питать к нему большое уважение. Особенно возросло это уважение с тех пор, как за старцем Марком стали замечать некоторую прозорливость. Часто его отрывочные слова, с виду ничего не значившие, касались внутреннего устроения говоривших с ним лиц. Другие же его слова, казавшиеся ни с чем не сообразными, оправдывались впоследствии точными событиями. Но и, освободясь от насмешек братии, старец Марк не остался в монастыре. Хотя ему там отвели келью, он, увлекаемый жаждой пустынной и безмолвной жизни, удалился, по благословению строителя Пахомия, на совершенное безмолвие в лес, принадлежавший пустыни.
Придя в лес с тем, чтоб всегда остаться там, он сперва, как и прежде, не имел постоянного жилища и укрывался то в пещерах, то в шалашиках, то в маленьких келийках, которые едва защищали от холода и которые он сам себе устраивал в лесу в разных местах. Впоследствии для него была устроена деревянная теплая келья в одной версте от обители. Здесь он принимал приходящую к нему братию и посторонних посетителей, искавших его наставлений.
Но теплая келья была единственным послаблением, какое позволил себе подвижник. Сюда укрывался он только, чтоб согреться и принять пищу, и все почти время проводил или на открытом воздухе, или в прежних убежищах своих.
Летом и зимой одеждой ему служили многошвенные ветхие рубища, во исполнение слов преподобного Исаака Сирина: «Возлюби убожеские ризы в одеянии твоем, дабы уничтожить возникающие в тебе помышления. Ибо любящий блеск не может стяжать смиренного помышления, потому что сердце внутри принимает образ, подобный внешним образам». Он носил на теле тяжелые вериги; никогда не разбирал кушанья, вкусно ли оно или не вкусно, свежо или гнило. Не дозволяя никому служить себе, он до глубокой старости сам ходил за пищей в обитель, сам ходил и за водой, хотя многие желали бы служить ему.
Нестяжательность его была так велика, что у него не было ничего, кроме ветхого рубища, вериг, рогожины, тыквенного кувшина для воды и пищи и немногих инструментов для ручной работы. Кроме восковых свеч, он ни от кого ничего не принимал. Он говорил: «У меня нужное все есть, а лишнее никогда не полезно».
Кто-то спросил его: «Батюшка, как ты не имеешь в келье своей даже самого нужного?» Он отвечал на это: «Я тридцать лет так веду себя, следуя словам Христа: „Иже не отречется всего своего имения, не может быти Мой ученик“. Ни в чем ином богатство монаха, как говорит о том преподобный Ефрем Сирин, как в утешении, сотворшемся от плача».
Некоторые просили его принять от них денег для раздачи нуждающимся. Он отвечал: «Это не мое призвание, а дело мирян. Отшельники должны быть свободны от мысли о внешних вещах и хранить свой ум в молитве».
Молчание его простиралось до того, что из братии он беседовал не более как с пятью человеками, с прочими же не говорил.
Если кто посещал его, он выходил тогда из кельи, имея на груди образ Богоматери с Предвечным Младенцем, который и давал целовать посетителям.
Советов, наставлений никому не давал. Он следовал тут словам Исаака Сирина: «Пусть лучше признают тебя невеждою по малому твоему сведению в том, как вести споры, нежели мудрым по бесстыдству. Учащих противному обличай силою добродетелей твоих, а не убедительностью слов. Кротостью и тихостью уст своих заграждай уста и заставляй молчать бесстыдство непокоряющихся истине. Невоздержанных обличай благородством твоего жития».