Однако перестроить свою деятельность и повсеместно обеспечить законность органы прокуратуры не успели.
Прокуратура лишилась предоставленных ей 30 декабря 1933 г. полномочий участия в рассмотрении уголовных дел по ст. 58 УК РСФСР, кассационного обжалования вынесенных по ней приговоров, а также их опротестования ввиду немедленного приведения в исполнение. Это развязало руки карательным органам НКВД, которые расследовали указанные выше преступления.
В марте 1935 г. прокурор СССР Акулов был освобожден от занимаемой должности, затем арестован по необоснованному обвинению в контрреволюционной деятельности и 30 октября 1937 г. осужден к расстрелу Такая же участь постигла прокурора РСФСР В. А. Антонова-Овсеенко. Оба руководителя российской прокуратуры были реабилитированы посмертно, спустя более 20 лет.
Кроме того, в СССР действовали специальные прокуратуры: военные, водного и железнодорожного транспорта, прокуратуры войск НКВД.
С нападением на СССР фашистской Германии 22 июня 1941 г. были приняты
Основное внимание сосредоточивалось на усилении надзора за исполнением законов о военном положении, выполнением заказов и поставок для Советской Армии вооружения, боевой техники, на борьбе с дезертирством, уклонениями от мобилизации на военную службу, соблюдении приказов военного командования, внося свой вклад в разгром врага, приближая Великую Победу.
В этой работе особенно важная роль принадлежала военным прокурорам, которые, наряду с решением перечисленных задач, занимались расследованием злодеяний фашистов и их пособников на временно оккупированных территориях СССР, а также тяжких преступлений в концлагерях, которые впоследствии были положены в основу обвинений на Нюрнбергском судебном процессе над главными военными преступниками фашистской Германии. В качестве главного обвинителя от СССР на процессе выступал Р. А. Руденко, который будучи прокурором Украины, лично возглавлял работу по расследованию злодеяний, бесчинств и террора нацистов на захваченных территориях против мирных граждан СССР.
Еще в период Великой Отечественной войны