И все же тенденция к расширению процесса реабилитации была очевидной. Р. А. Руденко подчеркивал: «
Важно было также не наделать новых ошибок. 4 августа 1955 года Генеральный прокурор Союза издал приказ, который касался усиления прокурорского надзора за соблюдением законности при задержании, аресте и привлечении граждан к уголовной ответственности. Р. А. Руденко потребовал от подчиненных «ювелирной» точности при решении этих вопросов.
В приказе предписывалось применять арест в качестве меры пресечения лишь при совершении тяжких преступлений, тогда как многие прокуроры прибегали к нему по незначительным поводам. Например, прокурор одного из районов Баку за единичный случай обвеса покупателя арестовал продавщицу, на иждивении которой находились девять человек, из них семь малолетних детей, а в Московской области районный прокурор арестовал трех подростков за кражу голубей.
В то же время Роман Андреевич активно боролся с волокитой, которую проявляли некоторые прокуроры при привлечении к ответственности лиц, совершивших тяжкие преступления.
В начале 1957 года была реформирована структура Прокуратуры СССР, а затем и прокуратур республик, краев и областей. Руководство стремилось подчеркнуть изменения, наметившиеся в правоохранительной системе, как бы показывая, что с прошлым покончено раз и навсегда. Менялось судопроизводство, уголовное, уголовно-процессуальное и даже гражданское законодательство. Прокуратура СССР и Р. А. Руденко, как ее руководитель и одновременно депутат Верховного Совета СССР, деятельно участвовали в подготовке законопроектов, обсуждая и шлифуя каждую статью новых нормативных актов.
Улучшению деятельности прокурорской системы способствовало образование в феврале 1959 года коллегий – как в Прокуратуре Союза ССР, так и в прокуратурах союзных республик. Коллегиальность была надежным средством снизить число поспешных, необоснованных и субъективных решений. Первыми членами коллегии Прокуратуры Союза стали: Р. А. Руденко (председатель), А. Т. Горный, П. И. Кудрявцев, В. В. Куликов, А. М. Мишутин, Г. Н. Новиков, И. Е. Савельев, Д. Ш. Салин, Г. А. Терехов.
Коллегия рассматривала (в необходимых случаях привлекая работников местных органов прокуратуры) наиболее важные вопросы прокурорского надзора, проверки исполнения, подбора и подготовки прокурорско-следственных кадров, проекты важнейших приказов и инструкций, заслушивала отчеты начальников управлений и отделов Прокуратуры СССР, прокуроров союзных республик и других работников прокуратуры. Решения коллегии проводились в жизнь приказами Генерального прокурора СССР.
Прокуроры, оставаясь главными защитниками государственных интересов, теперь в неизмеримо большей степени были ориентированы на защиту прав и законных интересов граждан.
Занятый государственными делами, Руденко уже не так часто, как в первые годы, поднимался на судебную трибуну. Однако в 1960 году вновь возникло столь громкое уголовное дело, что сам Генеральный прокурор взялся поддерживать по нему обвинение, – это было дело американского летчика-шпиона Ф. Г. Пауэрса, сбитого над территорией СССР 1 мая 1960 года.
Процесс над Пауэрсом подтвердил многое – и большой прогресс, достигнутый советской правоохранительной системой, и высочайшую квалификацию Р. А. Руденко. После окончания судебного следствия Роман Андреевич произнес аргументированную, взвешенную и обстоятельную обвинительную речь. По оценкам западных юристов, Руденко был предельно справедлив по отношению к Пауэрсу.
«
Девятнадцатого августа 1960 года Военная коллегия Верховного суда СССР приговорила Пауэрса к десяти годам лишения свободы, причем первые три года он должен был находиться в тюрьме. Два года спустя по решению Советского правительства Пауэрса обменяли на задержанного в США советского разведчика Абеля.