Но жизнь продолжалась. 10 апреля 1893 г. в Глебовском подворье собрались на выборы нового общественного раввина активные деятели общины; большинство присутствующих (86 из 131) отдали голоса за выпускника Московского университета кандидата права Я. И. Мазе. Генерал-губернатор утвердил это решение и 7 декабря того же года принял московского раввина в своей резиденции на Тверской улице.
Яков Исаевич Мазе родился в 1859 г. в Могилеве в семье любавичских хасидов и в детстве получил традиционное религиозное образование. Он рано осиротел и переехал к дяде в Керчь, где окончил гимназию и, следуя влечению, поступил в Московский университет на юридический факультет. В юности увлекся палестинофильскими идеями и активно работал в журнале «Ха-мелиц». Я. И. Мазе принадлежал к поколению восьмидесятников, взгляды которых формировались в годы разгула антисемитизма, ограничения прав, постоянного выселения евреев из городов и сельских районов; молодежь этих лет активно воспринимала идеи сионизма и стремилась к возрождению национальной культуры.
Первое выступление нового московского раввина состоялось 21 ноября 1893 г., в первый день Хануки. Хоральная синагога была опечатана, и праздничная служба проходила в домашней молельне банкира Полякова на Большой Бронной. Раввин, обращаясь к присутствующим, предельно точно высказал свои взгляды: «Постараемся же, братья, стать достойными внуками борцов за народную свободу! Пускай наши дети будут знать свою историю, эту великую историю великого народа, великого и во время своего падения! Наша религия проповедует всегда, повсюду: „Надейся и живи!“. Уповай на Г-спода, крепись и мужайся — вот лозунг нашей веры, вот напевы нашей могучей музы».
Слова раввина поднимали дух людей. В том же, 1893 г. при содействии Я. И. Мазе в Москве начинает работать Общество любителей древнееврейского языка; московский раввин активно участвовал в деятельности ряда общественных организаций: Общества распространения правильных сведений о евреях и еврействе, общества «Тарбут» («Культура»), Я. И. Мазе был любим в национальной среде и пользовался уважением в российском обществе. Поездки по городам и местечкам черты оседлости, встречи и проповеди московского раввина снискали ему всеобщее уважение. Если его предшественник Ш. Минор разоблачал в статьях нелепые обвинения в ритуальных убийствах, то Якову Мазе суждено было выступить экспертом на процессе Бейлиса. Читая стенограмму суда, ощущаешь, как трудно было выступать раввину. Председатель суда перебивал его бестактными замечаниями. Московский раввин прекрасно знал законодательство России, еврейский закон и, по памяти цитируя Письменную и Устную Тору, смог овладеть вниманием суда и публики.
Изучение национальной традиции, стремление помочь бедным, организация просветительских учреждений в черте оседлости отличали активную деятельность московских еврейских общественных организаций и частных лиц в начале XX в. Известный московский чаеторговец и общественный деятель Вольф Высоцкий пожертвовал комитету Общества взаимного вспомоществования учителей-евреев Новороссийского края 1000 рублей. В 80-е годы XIX в. в московские вузы пришли студенты-евреи, обратившиеся к идее национального просвещения. Группа студентов Московского университета составила и издала в Петербурге фундаментальный библиографический труд «Систематический указатель литературы о евреях на русском языке со времени введения гражданского шрифта (1708 г.) по декабрь 1889 года», ставший незаменимым пособием по истории российского еврейства. Московское отделение Общества просвещения евреев, следуя популярному в национальной среде лозунгу начала XX в. «Всё для черты», открывала в городах и местечках Могилевской губернии библиотеки и школы, выплачивая стипендии и пособия учащимся. В 1897 г. в Москве постоянно проживали 8473 еврея.