Когда прошла Святая неделя, казаки принялись допрашивать в своем кругу соборного ключаря и некоторых митрополичьих детей боярских, с пытками добиваясь признания в том, что грамоты подложные; но такого признания не добились. Ключаря казнили, а детей боярских засадили под караул. Начали думать об убиении митрополита; но остаток уважения к великому духовному сану мешал наложить на него руку. В это время астраханские мятежники сделали отчаянную попытку возобновить бунт в среднем Поволжье и отправили туда войско под начальством Федора Шелудяка. Остановись в Царицыне, Шелудяк собрал сведения о положении дел. Отовсюду получились неблагоприятные для воровских казаков известия об усмирении мятежников и водворении правительственной власти. Оставалась одна Астрахань; но и на ее жителей трудно было полагаться, пока здесь сохранялась церковная власть в лице митрополита, который неустанно убеждал свою паству покаяться, отложиться от воров, выдать их. Шелудяк собрал круг, на котором решено было убить митрополита, а также и воеводу князя Семена Львова, все еще остававшегося в живых. С этим решением он послал казака Коченовского к астраханским атаманам, прибавив, что по письмам владыки Иосифа и князя Семена не только отложились Терек и Дон, но и произошла самая поимка Разина и что от них грозит казакам конечная гибель. Эта присылка дала решительный толчок, чтобы покончить с митрополитом.
Утром 11 мая 1671 года Иосиф слушал проскомидию в соборе. Вдруг пришли несколько казаков и позвали его в свой круг. Старец облачился в святительские ризы, надел митру и с крестом в руке, в сопровождении священников, при звоне большого колокола отправился в казачий круг. Тут Васька Ус велел Коченовскому выступить вперед и говорить, с чем приехал. Тот объявил, что прислан от войска с донесением на митрополита в переписке с Доном и Тереком. Иосиф ответил, что с ними не переписывался. «А хотя бы и переписывался, – заметил он, – то ведь это не с Крымом и не с Литвою». Затем он снова начал увещевать казаков, чтобы они отстали от своего воровства и принесли повинную великому государю. Круг зашумел. «Что он пришел на нас с крестом, как будто мы неверные?» – кричали они. Некоторые потянулись, чтобы сорвать с него облачение. Тут некий донской казак, по имени Мирон, попытался заслонить собою митрополита, говоря: «Что это, братцы, хотите руку поднять на такой великий сан, к какому нам и прикоснуться нельзя!» Но казак Алешка Грузинов бросился на Мирона и схватил его за волосы; с помощью других вытащил из круга, и тут его изрубили. Однако мятежники после его слов не решились сами разоблачать владыку, а велели это сделать священникам. Те медлили. Иосиф снял с себя митру и, обратясь к священникам и протодьякону, сказал: «Разоблачайте. Уже пришел час мой».
Разоблаченного владыку привели на зелейный (пороховой) двор и подвергли жестокой огненной пытке, допрашивая о переписке. Не получив никакого ответа, стали спрашивать, сколько у него казны. «Всего полтораста рублей», – проговорил страдалец. Обожженного, изувеченного старца потом повели к раскату на казнь. Проходя мимо убитого Мирона, он поклонился и осенил его крестным знамением. Алешка Грузинов и его товарищи взвели старца на раскат, посадили на край и стали толкать. По невольному чувству самосохранения митрополит ухватился за Алешку и едва не увлек его с собой. Товарищи отцепили его и столкнули старца. Когда раздался стук упавшего на землю тела и воры увидали предсмертные судороги владыки, на них напал ужас, и несколько минут они стояли в молчании. Очнувшись, они снова составили круг, куда привели князя Семена Львова. Его также подвергли пытке, а потом палач отрубил ему голову.
На следующий день Васька Ус и другие атаманы собрали опять круг и составили запись, на которой все казаки и посадские люди обязывались дружно жить между собой и стоять против изменников-бояр. Священники неволею принуждены были подписаться под этим приговором за себя и за своих духовных детей. Но подобная запись мало подкрепляла дух мятежников и не могла рассеять тяжелого впечатления, произведенного мученической кончиной митрополита. Тело его священники перенесли в собор и там пока похоронили в приделе.