Гудович благосклонно выслушал рассказ Державина о подготовке строительства народного училища и сиротского дома. Он понимал, что Тамбов по архитектурному содержанию не соответствует статусу губернского города, и призывал Державина в первую очередь заняться градостроительством.
Помощником Державина по строительным делам, конечно, стал Львов — по переписке. В Тамбове он не работал, но подобрал для Державина «искусного каменного мастера» — итальянца Лукини. Началось возведение театра. Строительные заботы затягивали губернатора — он лихорадочно подыскивал работников, добывал железо и кирпич. Пермскому губернатору Колтовскому в те дни Державин сообщал, что в губернском городе Тамбове предполагается приступить к сооружению «казенного каменного строения», и просил прислать необходимого и редкостного для Тамбова «сибирского мягкого железа».
Незамощённые улицы, непролазная грязь… Единственная отдушина — усадебки в пригороде. Таких уютных уголков в Карелии не было! Но в этих усадьбах сидели помещики, с которыми губернатору приходилось сражаться.
Дом Державина стал центром общественных собраний, концертов; при губернаторской квартире устроили даже школу, в которой детишек обучали арифметике и грамматике. Державины хлебосольно принимали гостей: у них побывало, кажется, всё местное дворянство.
Державин устроил в Тамбове типографию, где начала свой путь первая в России провинциальная газета «Тамбовские известия», публиковались книги светского содержания и переводы иностранных романов. Державин гордился газетой, понимал, что в Петербурге оценят эту новацию. Типографские станки не порастали мхом, работа спорилась бурно. В державинской типографии вышли в свет книги: «Граф Вальмонт, или Заблуждения рассудка», «История короля Генриха Великого», «Таблицы восхождения и захождения солнца в Тамбове, сочинённые по астрономическим наблюдениям». Издавались там и стихи Державина. Но гордостью губернатора была газета — первая в России губернская газета, которую он редактировал! При типографии открыли книжную лавку, а при лавке — публичную библиотеку, первую в Тамбове. При тогдашней дороговизне на книжном рынке библиотека, в которой можно было взять книгу за щадящую плату, стала вратами учёности для многих горожан.
Державину было, чем похвастать перед просвещённой царицей: в городе открылся театр, появилось народное училище с четырёхгодичным сроком обучения. Много сил губернатор приложил для развития судоходства по Цне, а предложенное им шлюзование реки позволило доставлять в Тамбов лес и строительный камень.
В письме генерал-губернатору Державин указывал на слабость судебной власти в губернии: «Я примечаю, что обвиняются здесь всегда малые чины, а большие, коих из дел сих изволите увидеть, оправдываются. По мнению моему, закрывать в искании и в приговоре винного не есть человеколюбие, но напротив, зло, вредящее обществу».
В Тамбове не нашлось даже правовой литературы — ни одного сборника законов! Суды работали произвольно, «на честном слове», — не суды, а сплошная прореха. Возможно ли в таких условиях искоренить чиновничью круговую поруку?
Тамбовские тюрьмы до Державина пребывали в страшном запустении: тесный полуподвальный смердящий хлев, в который загнали 200 человек обоего пола, — вот что представляла собой тамбовская тюрьма. Молодые воришки, которых ещё можно было вразумить, теснились вместе с душегубами и умалишёнными. Получалось не тюремное заключение, а смертная казнь, да и только.
Державин писал: