Скитание по епархиям, которое пришлось вынести преосвященному Антонию с перемещением из епархий, близких к столице, в более глухие и отдалённые, было делом рук обер-прокурора Синода, стремившегося как бы ограничить широко развёртывавшиеся силы этого видного архипастыря. Несмотря на высокопатриотическую, с яркой националистической и народнической окраской деятельность этого талантливого иерарха, К.П. Победоносцев далеко не всегда оказывал ему должную поддержку, хотя, казалось, взгляды и убеждения их обоих по многим кардинальным вопросам русской жизни совпадали. Тем ценнее признание заслуг Константина Петровича в письме преосвященного Антония, которое он послал ему после того, как обер-прокурор Синода сложил с себя в 1905 году должностные полномочия, отошёл от дел и подвергся в печати многочисленным нападкам и обвинениям.
Преосвященный писал ему: «Я откладывал со дня на день начертание Вам русского слова „прощайте и спасибо“, сомневаясь в том, доставило ли вам удовольствие или, напротив, неприятное чувство. Однако наглые выходки газет, которые хотят свести на ничто Вашу высокоценимую патриотическую и народную деятельность, побуждают меня всё-таки исполнить требования своего сердца и высказать Вам своё высокое уважение и благодарность.
Промыслу Божию угодно было ставить меня в такие положения по отношению к людям, пользовавшимся Вашим доверием, что я часто навлекал на себя Ваше неудовольствие; кроме того, мои взгляды на Церковь, на монашество, на церковную школу и на патриаршество не могли встретить в Вас сочувствия и одобрения; однако при всём том я никогда не мог сказать по отношению к Вашей личности слов укорительных или враждебных: так непоколебимо было моё к Вам уважение.
Я чтил в Вас христианина, чтил патриота, чтил учёного, чтил труженика. Я сознавал всегда, что просвещение народа в единении с Церковью, начатое в 1884 году исключительно благодаря Вам и Вами усиленно поддерживавшееся до последнего дня вашей службы, есть дело великое, святое, вечное, тем более возвышающее вашу заслугу Церкви, престолу и Отечеству, что в этом деле Вы были нравственно почти одиноки.
Вы не были продолжателем административной рутины, как желают представить Ваши жалкие бездарные критики. Напротив, Вы подымали целину жизни и быта, брались за дела, нужные России, но до Вас администрации неведомые.
Первое — дело церковно-приходских школ — Вы таким образом подняли и вынесли на своих плечах.
Второе — приближение духовной школы к духовным нуждам народа, к жизни Церкви — Вы старались выполнить, но здесь натолкнулись на слишком неодолимую двухвековую косность самоуверенной и схоластической сословной громады, и хотя не сдвинули её с места, но значительно поколебали её в её самоуверенности и успели внести в неё несколько сильных оздоравливающих лучей церковного и народного духа.
Вы подняли над грамотной Россией свет Божественной Библии, распространили слово Божие по дешёвой цене на всех наречиях православных племён России и иных отдалённых стран. Вы украсили издания книг святых молитв и песнопений церковных и старались убедить духовенство и общество в том, что послепетровская эпоха не улучшила, а понизила и исковеркала наши напевы и богослужение. Вы убедили лучшего из покойных царей наших приказать строить православные храмы в православном их архитектурном благолепии, а не в безобразном виде еретических капищ. Вы оценили высокие качества единоверческих общин, поддержали и ободрили поборников этого единственного надёжного моста от раскола к Церкви. Вы умели ценить снедающую ревность о Боге под мужицкими зипунами, под бешметами учителей из крещёных инородцев, Вы отыскивали ревнителей веры и Церкви и не стыдились учиться у смиренных тружеников провинции — Рачинского и Ильминского в то время, когда царь России имел Вас своим главным советником, а Европа знала вас как просвещённейшего профессора и общественного деятеля.
Те самые восьмидесятые годы прошедшего столетия, столь ненавистные нынешним ненавистным для России либералам, но ценные в глазах истинно русского патриота как годы реформ нравов, те 80-е годы отрезвления русских умов и обращения их к родной забытой старине имели в лице Вашем одного из главных вдохновителей собирания Руси — в области убеждения и нравов и несомненно самого главного — в области преобразований административных, законодательных.
Я не встречал ни одного умного человека, желающего быть беспристрастным, который бы не отдавал дани глубокого уважения Вашей деятельности и Вашей личности. Зато все люди нашего образованного общества, ненавидящие Россию, а таких весьма много, ненавидели и Вас, и ненавидели пропорционально своей ненависти к отчизне. Такая ненависть — едва ли не большая честь, чем уважение людей благонамеренных. Последние иногда могут ошибаться, но первые не могли ошибиться, сливая вашу деятельность с благоденствием ненавистной им русской монархии.