Осенью 1905 года воронежские либералы фактически определяли общественно-политическую атмосферу в городе. Факт говорит сам за себя: один из видных оппозиционеров самодержавному режиму стал главой городского самоуправления. Однако на этой ответственной должности Ростовцев трудился недолго: весной 1906-го его избирают от города депутатом Государственной думы первого созыва. По просьбе городской думы формально он не сложил своих полномочий – лишь отказался от жалованья и подал прошение о предоставлении ему двухмесячного отпуска для участия в работе Государственной думы. Собираясь в столицу, Ростовцев заявлял своим избирателям: «Моя программа – программа народной свободы, я не отклонюсь ни вправо, ни влево от этой программы». По иронии судьбы, предоставленного отпуска оказалось достаточно для завершения депутатской карьеры. Как оказалось, о народной свободе гораздо проще говорить в кругу друзей-интеллигентов, чем пытаться реализовать ее в качестве государственной политики.
I Государственная дума оказалась, как известно, недолговечной. П.Я. Ростовцев участвовал в ее работе с первого до последнего дня (27 апреля – 8 июля 1906). Судя по стенографическим отчетам, на трибуне он не выступал, но в качестве члена фракции кадетов был заметен: около десяти раз подписывал коллективные запросы либеральных депутатов в адрес правительства. Поводами для этого служили необоснованные аресты или иные репрессии, проводившиеся властями в административном порядке. Как и других депутатов, Ростовцева интересовало, на каком основании проводилась мобилизация казачьих полков второй и третьей очередей для несения службы внутри империи. Он входил в круг представителей Партии народной свободы, настойчиво требовавших от царского правительства всеобщей и полной амнистии для лиц, нарушивших правопорядок по политическим мотивам. Кроме того, он был избран в аграрную и финансовую думские комиссии, но поработать там, разумеется, не успел.
Роспуск Думы либералы той поры встретили с негодованием. Петр Яковлевич вошел в число подписавших Выборгское воззвание – обращение к народу, призвавшее к гражданскому неповиновению, и за это был привлечен к судебной ответственности. Как и большинству других подписантов, ему пришлось отбыть трехмесячное тюремное заключение. Вплоть до падения монархии он оставался в списках политически неблагонадежных лиц и не имел права занимать какие-либо ответственные должности, включая выборные посты в системе городского самоуправления. О возвращении на прежнее место не могло быть и речи. Особенность ситуации состояла в том, что губернская администрация не имела юридической возможности отрешить от должности избранного городской думой лидера, но могла воспрепятствовать его возвращению на этот пост. Поэтому Ростовцев был вынужден в ноябре 1907 года подать в адрес Думы заявление следующего содержания: «Считая вредным для интересов городского самоуправления отсутствие в составе управы городского головы и не видя близкого конца моему устранению от должности… нахожу нужным сложить столь лестное для меня звание городского головы». Думе осталось только выразить сожаление по поводу того, что Ростовцев так и не смог в полной мере послужить интересам Воронежа.
Большую часть времени ему пришлось проводить в своем имении в селе Березовке Землянского уезда. По сводкам губернского жандармского управления, негласное наблюдение над ним систематически возобновлялось. Одно из последних сообщений на этот счет датировано 2 апреля 1912 года. Но воронежцы сохраняли уважение к отставному деятелю. В 1916 году городская дума учредила стипендию имени П.Я. Ростовцева для учащихся высших начальных училищ. Сам бывший депутат пожертвовал на эти цели капитал в размере 1000 рублей. Продолжалась и его коммерческая деятельность. Петр Яковлевич входил в состав правления крупнейшего в Воронеже «Товарищества механического завода В.Г. Столля и К°», а накануне Первой мировой войны являлся председателем этого правления.
Во время войны вновь оживилась общественная жизнь. Поражения на фронтах вызвали рост активности в среде либералов, в том числе земцев. В 1915 году весьма заметной стала деятельность Всероссийского земского союза, а затем так называемого Земгора (Союза земств и городов). Петр Яковлевич стал уполномоченным Воронежского губернского комитета этой крупнейшей оппозиционной организации, упорно добивавшейся создания в России правительства народного доверия.