После возобновления заседания буря не улеглась. На трибуну вышел Пуришкевич, который подготовил для левых фракций очередной сюрприз. По его словам, среди совета старост Санкт-Петербургского университета присутствовала женщина, которая «находится в близких физических сношениях со всеми членами совета». С левых скамей раздалось: «Негодяй! Вон!» Хомяков заметил, что «на совести того, кто говорит, лежит ответственность за сказанное». На это Милюков выкрикнул: «Бесполезно взывать к совести Пуришкевича!» Тут уже ответили правые: «Вон Милюкова, вон Милюкова!» Председатель взывал к здравомыслию: «Вы не должны допускать безобразий». «Это Вы не должны допускать безобразий», – отвечал Милюков. Хомяков не мог не отреагировать: «Со скамьи перебраниваться с Председателем Вы права не имеете. Вы запишитесь, а сейчас Вы слова не получите… Я останавливаю того, кого считаю нужным, и указки Вашей не требую». «Вы допускаете безобразия», – продолжал Милюков. Пришлось объявить перерыв.
Уже после него Хомяков сделал заявление.
Заявление никого не удовлетворило. Милюков протестовал. Кадеты – вместе с ним. Правые скандировали: «Исключить Милюкова, исключить Милюкова». Это было последнее заседание под председательством Хомякова. В тот день правые подали протест: их возмутило объявление перерыва по требованию кадетов. С их точки зрения,
Хомякову пришлось объясняться и со Столыпиным. Тот был крайне недоволен, что депутаты не дали договорить министру. На это Хомяков ответил, что он больше не председатель, и посоветовал обращаться к своему товарищу В. М. Волконскому. Последнему Хомяков отправил письмо.
Вечером 4 марта собрались руководители фракций. Обычно пунктуальный Хомяков опаздывал. Войдя, он, не теряя времени, сообщил о своем непреклонном решении покинуть пост председателя. Его уговаривали остаться, но безрезультатно. На смену ему пришел А. И. Гучков.