В 1944 Р. А. Руденко становится прокурором Украинской ССР. Ему минуло тогда 37 лет. Забот у руководителя прокуратуры крупнейшей республики, серьезно пострадавшей от фашистского нашествия, было очень много. Руденко лично возглавил работу по расследованию фактов злодеяний, бесчинств и террора, устроенных нацистами на украинской земле против мирных жителей. Поддерживал обвинение по наиболее сложным делам, на которых показал себя хорошим судебным оратором, красноречивым и напористым. Поэтому нельзя считать случайным тот факт, что при определении Главного обвинителя от СССР на Нюрнбергском процессе выбор пал именно на прокурора Украинской ССР, и Руденко блестяще справился с поставленной задачей. Участие в Нюрнбергском процессе — ярчайшая страница его биографии. О советском прокуроре узнал и заговорил весь мир. Его роль в судебном процессе, продуманные допросы подсудимых, обстоятельные и взвешенные, солидно аргументированные заключения, великолепные обвинительные речи — хорошо известны.
После окончания процесса Руденко продолжал выполнять обязанности прокурора Украинской СССР, получил ряд государственных наград, стал депутатом Верховного Совета СССР.
Официально Р. А. Руденко был назначен Генеральным прокурором СССР 30 июня 1953 и утвержден на ближайшей сессии Верховного Совета СССР. Во главе органов прокуратуры Роман Андреевич Руденко стоял дольше всех советских прокуроров — 27 лет.
Р. А. Руденко имел классный чин действительного государственного советника юстиции, ему было присвоено высокое звание Героя Социалистического Труда, а самое главное — у него был высокий авторитет среди руководителей партии и правительства. Р. А. Руденко многократно выступал на сессиях Верховного Совета СССР и заседаниях его Президиума с докладами и сообщениями, а также на разнообразных форумах юристов в стране и за рубежом.
Он часто возглавлял советские делегации на конгрессах и конференциях Международной ассоциации юристов-демократов. В августе 1960 лично поддержал обвинение на заседании Военной коллегии Верховного Суда СССР по делу американского летчика-шпиона Пауэрса.
Руденко избирался членом ЦК КПСС, являлся депутатом Верховного Совета СССР нескольких созывов. Роман Андреевич был награжден шестью орденами Ленина и многими другими орденами и медалями.