В 1896 г. в городе Кременец Волынской губернии приобретается за 18 тысяч благоустроенная усадьба с обширным садом для устройства женского духовного училища для сирот военных священников. В устройстве женского духовного училища, а также в постройке нового здания для Покровского приюта деятельную помощь протопресвитеру оказал генерал-лейтенант Георгий Иванович Бобриков.
Кроме того, дети военных священников, состоявших законоучителями в учебных заведениях, освобождались от платы за обучение, а на время обучения в духовных академиях сыновья военных священников получали пособие из сиротского капитала из средств Общества вспомоществования недостаточным студентам Санкт-Петербургской духовной академии.
Были учреждены также четыре стипендии имени А. А. Желобовского в Белозерском духовном училище, в Новгородской духовной семинарии, в Санкт-Петербургской духовной академии и для воспитания сироты-дочери одного из священнослужителей военного и морского духовенства в каком-нибудь из женских духовных училищ.
Однако денег на воспитание детей и сирот военного духовенства у ведомства не хватало. Поэтому 17 февраля 1897 г. 90 церквей военного ведомства были обложены специальным сбором на обучение детей военных священников в духовноучебных заведениях. 19 мая 1898 г. было принято также решение об отчислении двух процентов на воспитание и образование дочерей-сирот военных священников из добавочного, за десять лет службы в военном ведомстве, жалованья.
В 1901 г. для обеспечения вдов и сирот военного духовенства был выработан проект устройства похоронной кассы. Похоронная касса складывалась из членских взносов военного духовенства, которые были разделены на три разряда (от 3 до 1 рубля вступительных и от 1 рубля до 60 копеек посмертных). Члены эмеритальной кассы имели право на пособие для погребения (от 225 рублей до 135 рублей, в соответствии с разрядом взносов).
Почти сразу после утверждения положения протопресвитер начал борьбу за увеличение окладов и пенсий военного духовенства. Успеха удалось добиться не сразу. Лишь в 1898 г., с назначением на пост военного министра Алексея Николаевича Куропаткина, появилась надежда на успех. 1 июля 1899 г. были введены новые табели окладов жалованья и столовых денег военному духовенству. Теперь оклад настоятеля военного собора (и протоиерея-благочинного) составлял от 1200 до 1536 рублей, священника – от 900 до 1080 рублей, а штатного диакона – от 720 до 877 рублей.
Изменяется и исчисление пенсий. Согласно новой табели, священнослужители военного ведомства, прослужившие от двадцати до тридцати лет, получали пенсию в размере одной трети оклада, от тридцати до тридцати пяти лет – две трети оклада, а прослужившие тридцать пять лет и более получали пенсию в размере полного оклада.
Семействам священнослужителей, убитых в сражениях или умерших на службе от ран, независимо от срока их службы назначалась пенсия из расчета полного оклада.
Таким образом, благодаря деятельности А. А. Желобовского военное духовенство получило определенные социальные гарантии с учетом особенностей служения военных священников.
Однако проблемы окладов и пенсий военного духовенства не были для А. А. Желобовского главными.
Пройдя путь от полкового до главного священника, А. А. Желобовский хорошо представлял себе не только тяготы и хлопоты военного духовенства, но и явные недостатки в его организации и деятельности.
Первая проблема – уровень образования военного священника. Всячески поощряя получение молодыми людьми образования в духовных семинариях и академии, протопресвитер тратил на это не только значительные денежные средства. Издавалось значительное количество специальной литературы, в том числе и написанной самим А. А. Желобовским. В 1899 г. было объявлено, что впредь священнические места в военном ведомстве будут предоставлены лицам по преимуществу с высшим академическим образованием или окончившим семинарский курс по первому разряду. Однако комплектование штатов военного духовенства за счет молодых и высокообразованных священников было все же делом будущего. Настоящее же положение требовало заботы о повышении образовательного уровня и профессиональной подготовки уже действующих священников. Для этой цели было предпринято несколько шагов.