Долго-долго блаженный Иоанн бездвижно сидел с распахнутыми глазами, обратив лицо к солнцу. Наконец, выйдя из оцепенелого состояния, он встал, подтянул руками кверху железную цепь, скреплявшую железные кольца, что отягощали его ноги, и направился прямиком в церковь Живоначальной Троицы и Пресвятой Богородицы, честного и славного Ее Покрова, что на Рву, прозванную среди народа храмом Василия Блаженного.
Войдя со звоном железным под сень церковную, он повертел головой, осматриваясь, и, разглядев его в полумраке, приблизился к протопопу Димитрию. Тот осведомился, что привело юродивого во храм. Вещая пророчески, блаженный Иоанн отвечал, что ищет место, «где бы ему положитися». Протопоп, поняв, что тот желает быть похороненным в храме, пообещал юродивому, что будет ему такое место. Со вздохом облегчения Иоанн двинулся к выходу.
Заинтересовавшиеся его поведением зеваки, которые пошли за юродивым в собор, переглянулись недоуменно, не уразумев ни слова из короткого диалога, и отправились восвояси. Те же, кого любопытство не оставило, последовали за блаженным Иоанном.
А тот между тем по Васильевскому спуску направился к Живому (Москворецкому) мосту. Возле моста ему повстречался хромой нищий по имени Григорий. Юродивый спросил его, как давно он хромает и что привело к болезни. Григорий рассказал, что прошло уже два года, как он повредил ногу, и с того времени она его донимает болью и не сгибается. Выслушав ответ, Иоанн как бы не нарочно наступил хромому нищему на больную ногу. Вскричав, тот схватился за нее и тут же осознал, что безболезненно ее согнул. Блаженный же сказал Григорию, чтобы тот не скрывал исцеления, которое через него дал ему Господь, и рассказал о произошедшем «протоиерею и служащим при церкви Покрова Божьей Матери и святого Василия Блаженного».
Потом Иоанн пересек мост и вошел в «мирскую баню», где не бывал немало лет. В бане он снял с себя вериги и три раза облился водой, тем самым готовя себя к погребению. Потом лег на скамью, сложив себе под голову все свои «обременительные тяжести», и сказал присутствующим: «Простите меня, братие. Было мне Божие знамение, что я сейчас помру. Когда преставлюсь, отнесите меня в церковь Покрова Богородицы, к могиле Василия Блаженного, чтобы протопоп с братией похоронили мое тело». После этих слов он испустил дух, отходя к Господу с миром.
Случилось это, согласно Житию блаженного, в третий час пополудни 3 июля. Последнюю волю Иоанна исполнили не мешкая: протоиерей с остальным духовенством собора перенесли остатки святого в «свою» церковь, при этом присутствовало множество людей. Наутро протопоп со всей братией, все священники и дьяконы и весь причт церковный начали молиться об упокоении души умершего. К моменту его положения во гроб собралось множество народу, и у мощей святого Иоанна исцелился Елеазар Юрьев, боярский сын, который в течение двадцати лет мучился от болезни глаз.
Отличавшийся набожностью царь Федор I Иоаннович, который много слышал о подвигах юродивого и ценил их, повелел, чтобы его отпевал весь священный собор Москвы. При погребении присутствовал сам самодержец, первый Патриарх Московский Иов, отпевали блаженного Иоанна митрополит Казанский, архиепископ Рязанский, настоятели монастырей, протопопы, священники, диаконы, клирики и множество народа — мужчины, женщины и дети, стар и млад.
Во время погребения было знамение с небес: разразилась буря с громом и молниями; церковь Покрова содрогнулась стенами, разбились окна; ризничего Рязанского архиепископа убило молнией в алтаре; дьякона Покровского собора Пимена «еле жива вынесли»; священника Иоанна из Коломенского уезда подняло бурей над церковными дверьми и ударило о землю так, что он полтора часа оставался без сознания, а когда очнулся, то успел лишь покаяться перед смертью; много народа было покалечено, оглушено и опалено грозой. В летописном описании этой небесной кары сказано, что только Богу ведома ее тайна. Более поздние же интерпретаторы полагают ее предвестием до основания потрясших в скором времени Русское государство событий, а именно смуты и безвластия, испытаний волнениями, смутой и безначалием для Руси.
В скором времени после преставления блаженного Иоанна у его могилы стали получать исцеление многие верующие, которые с усердной молитвой обращались к нему за помощью, — уже начиная с 14 июля 1589 года (и на протяжении следующего), когда выздоровела женщина по имени Варвара, в течение двадцати лет страдавшая от болезни ног. В рукописной записи Покровского храма значилось семнадцать подобных чудесных исцелений.
После обретения их нетленными 12 июня 1672 года, мощи блаженного Иоанна были положены «под спудом в приделе Покровского собора близ раки святого Василия Блаженного». Тут же, в Ризоположенском приделе, находились вериги его весом 1 пуд 30 фунтов, служа напоминанием священнослужителям и мирянам о тяжести земного пути того, кто взял на себя подвиг юродства во Христе.