Кроме восстановления древних виленских святынь, граф М. Н. Муравьев устроил еще новый иконостас в Николаевском кафедральном соборе, на что исходатайствовал 80 тысяч руб., а потом переделал и наружный вид этого храма. «Много памятников, живо возглашающих его имя, оставил граф Муравьев в Вильне и по всему Северо-Западному краю», сказал Виленский архиепископ Иероним при освящении закладки памятника графу Муравьеву в Вильне: «Пойдем в кафедральный собор, кто пересоздал этот храм? — граф Муравьев; посетим Пречистенский собор и храмы Пятницкий и Николаевский, кто воссоздал их? — граф Муравьев; зайдем в Свято-Духов и Троицкий монастыри, какие и от кого у них средства к существованию? — от графа Муравьева; кому обязаны своим вполне приличным помещением рассадники духовнаго просвещения — семинария, духовные мужское и женское училища и все учебные заведения Министерства народного образования? — ему же, графу Муравьеву; кто положил начала обители женской и дал средства к ея существованию? — он же, граф Муравьев. Вне Вильны, в пределах епархии Литовской, сколько есть живых памятников — сельских церквей, возобновленных и устроенных графом Муравьевым».
К числу таких памятников, оставленных графом Муравьеым, относятся еще две виленския часовни — Александровская и Георгиевская. Первая из них — Александровская, находится на Георгиевской площади в Вильне. Она сооружена в 1865 г. на добровольные пожертвования городских обществ Северо-Западнаго края в воспоминание доблестных подвигов русских воинов и для поминовения тех из них, которые пали на поле брани, защищая права России и законного правительства против мятежа и крамолы. Часовня представляет собою выдающееся архитектурное произведение русско-византийскаго стиля (с. 49).
Вторая часовня — Георгиевская находится на виленском православном кладбище. При погребении русских воинов, павших в окрестностях Вильны в битвах с польскими мятежниками, возникла мысль увековечить память погибших устройством на их могилах часовни-памятника. На суммы, пожертвованные Государыней Императрицей Марией Александровной и ея Августейшими детьми, а также собранные по подписке и была устроена Георгиевская часовня. Подобно Александровской, и эта часовня представляет вполне художественное произведение византийского стиля. Она поставлена на гранитном пьедестале; на трех наружных сторонах ея, среди колонн, вделаны большие мраморные доски, на которых увековечены имена павших и здесь погребенных воинов. Внутри часовни помещена икона св. Георгия, писанная академиком Тихобразовым. Георгиевская часовня была освящена 25 августа 1865 г.
Одновременно с сооружением в Северо-Западном крае церквей, сюда стали присылать со всех концов России пожертвования церковной утварью, иконами и богослужебными книгами. Пожертвования эти были весьма значительны. По свидетельству «Литовских епархиальных ведомостей», в 1863 г. в одну только Литовскую епархию прислано было разных церковных вещей на 60 тысяч рублей{88}
. В тоже время сам граф Муравьев позаботился о высылке во все приходы северо-западных губерний крестиков для новокрещенных младенцев. «Желая содействовать», писал он Литовскому митрополиту Иосифу, «восстановлению между здешним православным сельским населением общепринятого издревле во всей России обычая носить на груди и возлагать при крещении на младенцев наперстные кресты, я уже сделал распоряжение о приобретении для сей цели нескольких сот тысяч простых крестиков из меди и латуни, а также о доставлении мне из С.-Петербурга и Москвы 25 тысяч мельхиоровых крестиков»{89}. В этом деле приняла участие и Государыня Императрица Мария Александровна. Она, со своей стороны, пожаловала в каждый из приходов четырех западных епархий по одному наперстному серебряному кресту, а великая княгиня Александра Петровна пожертвовала 1000 вызолоченных крестиков. Литовский митрополит Иосиф, тронутый таким сочувствием русского общества к бедному населению Северо-Западнаго края, предписал духовенству (с. 50) разъяснить прихожанам важное значение этих жертв, как выражающих сочувствие к ним со стороны единоверных и единокровных православных братьев, в том числе самого Государя Императора и всего Царствуюшаго дома.Заботясь о построении православных церквей, граф М. Н. Муравьев всеми средствами старался улучшить и быт православного духовенства, которое всегда стояло на страже православия и русской народности.