В первой половине июня месяца в Государственной Думе происходили дебаты по поводу сметы Министерства народного просвещения. Это вызвало бесконечные страстные прения по вопросам о постановке школьного образования. Все почти речи были наполнены нападками на ведомство, на министров, как бывших, так и настоящих. При этом ораторы совершенно не стеснялись в своих выражениях и сыпали огульными, неподтвержденными фактами, обвинениями. Среди этих речей на кафедру вошел В. М. Пуришкевич и обратился к Думе с длиннейшей, малоинтересной речью, которая длилась в течение четырех часов, под конец он так утомил и надоел всем, что говорил уже при почти пустом зале, но это его отнюдь не смущало. Его речь не преследовала никакой политической цели, она просто была описательная, никакого отношения к смете Министерства народного просвещения, по существу, не имевшая. Он рассказывал об Ушинском, о Рачинском, прочтя о них целую лекцию, говорил о разных книгах, разбирая их достоинства, говорил о школах в разных государствах, о студенческих корпорациях в Западной Европе, восхваляя германские, куда евреи, по его словам, не допускались, уверяя, что там даже надписи имеются над учреждениями националистического характера: "Вход с евреями и собаками воспрещен". Это последнее вызвало замечание Председателя, что можно пояснить свои мысли, не оскорбляя ничьего чувства, и что он просит его избегать в будущем подобных экскурсов, при которых трудно бывает иногда сохранить порядок. Пуришкевич ответил, что повинуется в твердой уверенности, что "слово не воробей, вылетит — не поймаешь".
По окончании всех речей выступил министр народного просвещения Шварц и произнес спокойную, полную здравого смысла речь. Он начал с того, что всходит на кафедру с чувством глубокого изумления, что он слышал горячие речи, целые диссертации, слышал и обвинения против целого ряда бывших министров, и умерших, и ныне здравствующих, и особенно много обвинений против него самого. Но что он изумлен не этими нападками. Ему, как служившему делу воспитания русского юношества в течение 40 лет, пора привыкнуть к радостям и горестям его ремесла, и он слишком долго занимался техникой ораторского искусства для того, чтобы не знать, как мало риторы по профессии интересуются истиной, как много для них играет роль вероятий, весь этот калейдоскоп остроумных замечаний, сопоставлений и т. п., так что в этом отношении ему изумляться было нечего. Но он изумлен той легкостью, с которой русские люди вообще и многие из говоривших ораторов касались обнаженных язв нашей школы, с каким злорадством бередили они раны, с какой злобой и сарказмом они глумились над школой и над ее деятелями, хотя они не могли не посылать своих детей именно в эти школы и вверять их этим педагогам, потому что других школ нет. Он думал: неужели же эти столь почтенные люди не могли взвесить то влияние, которое будут иметь их слова на учащих и учащихся на местах, неужели же не могли они без этого негодования, без этих окриков, спокойно и серьезно обсудить серьезный вопрос о бюджете. Перейдя затем к вопросу о средствах и отвечая на нападки депутата фон Анрепа, обвинявшего Министерство народного просвещения, что оно не нашло денег, Шварц напомнил членам Думы, что Партия народной свободы сулила министерству 40 миллионов рублей, а более благоразумные поставили кредит в 6 миллионов, но и эту ничтожную сумму Дума не нашла в своем кармане, между тем находить деньги — это обязанность Думы, хотя бы для сего ей пришлось бы прибегнуть и к займу. Далее, коснувшись высших учебных заведений, Шварц заявил, что они не оправдали оказанного им с высоты Престола доверия, и предложил ознакомиться с постановлениями Первого департамента Сената, говоря, что тогда им раскроется картина деятельности некоторых ректоров и проректоров университетов, раскроется, как они расходовали те крохи, кои собирались со студентов.
Он сказал, что политика правительства не изменилась, что оно должно стоять на страже закона и не может допускать тех "захватов", о которых говорил депутат Милюков. В конце своей речи Шварц назвал себя сторонником всеобщего обучения и изложил всю свою дальнейшую программу. Он заявил, что к высшим знаниям должен быть открыт доступ для всех, но из-за этого он не может быть предоставлен всем. Надо возможно больше школ всяких типов, в коих каждый по мере своих способностей мог бы получить то, что ему суждено. Доступность знаний не должна их обесценивать. Россия — великая держава, и она нуждается в широко образованных людях. Широкий доступ надо совместить с возможным отбросом. Повышение знаний в среде учащих и учащихся, — закончил Шварц, — кладется в основу школьной политики.