Средства на содержание соборнаго причта идут не от собора только, но и от приписной к нему кладбищенской Успенской церкви, не имеющей особаго причта, но заведуемой соборянами. Доколе в г. Ряжске существовали Патницкая пустынь и находившаяся не вдали от нея древняя Николаевская церковь – на том месте, где ныне городская площадь близ старой Троиццой церкви, дотоле и городское кладбище было здесь же – около этих храмов. С упразднением же Пятницкой пустыни (в 1764 г.) и с перенесением Николаевской церкви (в 1807 г.) на другое место, и городское кладбище также переведено было на новое место за черту города, на землю, принадлежавшую тогда помещице, соборной прихожанке, Прасковье Филипповне Протопоповой. По всей вероятности, здесь существовало уже издавна кладбище, где был погребальный склеп и предков помещицы Протопоповой. Это последнее обстоятельство и побудило ее над могилой родственников своих выстроить храм, который и был построен, на ея собственное иждивение, в 1793 г. и посвящен Успению Божией Матери. Церковь сия не большая и скорее походить на часовню; имея особый алтарь, она первоначально разделялась еще на храм и трапезу, отделявшиеся между собой капитальною, с проходною дверью, стеною, впоследствии разобранною под арку. При этом храме не было колокольни до 1856 года, когда иждивением граждан и попечением бывшаго (ныне умершаго) церковнаго старосты, купца, Феодора Афанасьевича Рубайлова начата новая каменная колокольня в 1857 году. В 1860 году попечением новаго церковнаго старосты, мещанина, Павла Елеазаровича приобретен на новую колокольню, к прежним трем небольшим колоколам, новый еще колокол в 50 пуд. Между тем крайняя теснота и непоместительность кладбищенскаго храма не могла не безпокоить усерднаго церковнаго старосту. По совещании с бывшим тогда настоятелем протоиереем Гаретовским, предположено было распространить храм в обе стороны, пробрав для сего в обеих боковых стенах, южной и северной арки. Заготовив 30 саж. бутоваго камня и 120/тыс. кирпича, настоятель и староста подали, 25-го апреля 1862 года, Высокопреосвящ. Архиепископу Смарагду прошение о разрешении, по составленному предварительно плану, распространить кладбищенскую церковь. Но, испросив разрешение на распространение храма и приступая к самому делу, они увидели всю невозможность осуществить предприятие свое: выборка (под арку) внутренней стены, разделявшей сначала церковь на храм и трапезу, сделав храм просторней, произвела, вместе с сим, то, что в стенах появились трещены, с года на год все увеличивавшияся, что в особенности заметно было над северными и южными дверьми храма, где предполагалось выбрать стены под арки для распространения церкви. Это обстоятельство заставило настоятеля и церковнаго старосту изменить проэкт возобновления кладбищенскаго храма и, вместо распространения старой церкви, построить новую по тому же плану, – на что без дальнейшаго промедления и было испрошено разрешение. Заложенный в 1862 году, новый Успенский храм с колокольней, перенесенной от старой церкви, окончен кладкой и покрыт в 1865 году и, благоукрашенный, затем, иконостасом из прежней церкви, частию возобновленным и частию пополненным, освящен, в 27 день июля 1869 г., местным благочинным, настоятельствовавшим в соборе священиком Красавцевым. Таким образом на кладбище, кроме старой церкви, оставленной неприкосновенною и снабженною прежним иконостасом из сонорной трапезной церкви, явился, попечением старосты Дьячкова, новый, просторный и светлый, храм.
Попечением того же старосты и бывшаго настоятеля, протоиерея Гаретовскаго, и самое кладбище приведено в надлежащее благоустройство. Кладбище это было прежде весьма тесно, за неимением у граждан земли кроме селидбенной, и находилось в совершенном запустении, не имея вокруг себя не только приличной ограды, каменной или деревянной, но даже и обычной канавы. Над могилами большею частию стояли деревянные черные кресты, на-половину поломанные свободно ходившим по кладбищу скотом. И только два или три мраморных памятника, соблюдшихся в целости, обращали на себя внимание, успокоивая взор верующаго, с благоговением относящагося к бренным, имеющим некогда востать в славе, останкам усопших братий своих. Так было до 1865 года. В этом году, по окончании постройки новаго кладбищенскаго храма, протоиерей Гаретовский принял решительныя меры к приведению кладбища в подобающее оному благоустройство, и, с этою целью, от 27-го октября обратился к гражданам с следующим возванием:
«Православные сограждане!
«Вам небезизвестно, в каком жалком положении находится наше городское кладбище; а между тем на нем покоится прах наших родителей, да и нам самим рано или поздно придется почить на нем же своими телами, которыя, по общехристианскому отрадному упованию, имеют в предопределенное Богом время воскреснуть и быть прославлеными вместе с душами.