Функціями прокуратури УСРР були: а) нагляд за законністю дій усіх (крім ВУЦВК і РНК УСРР) органів влади, господарських установ, громадських і приватних організацій та приватних осіб шляхом кримінального переслідування винних і опротестування постанов, прийнятих з порушенням закону; б) безпосередній нагляд за розкриттям злочинів органами слідства і дізнання, за діяльністю органів ДПУ; в) підтримання обвинувачення в суді; г) участь у цивільному процесі; д) нагляд за правильністю тримання заарештованих під вартою. Відповідно до Положення про судоустрій 1929 р. органам прокуратури передавався слідчий апарат (до цього він перебував у подвійному підпорядкуванні - суду й прокуратури).
Тенденція централізації органів державної влади привела до створення Прокуратури СРСР (23 червня 1933 р.) як самостійного органу, на який покладалося загальне керівництво діяльністю прокуратур союзних республік. Прокурор СРСР дістав право перевіряти діяльність органів прокуратури союзних республік, скликав наради прокурорів союзних республік, давав їм указівки. Невдовзі, відповідно до постанови ЦВК і РНК СРСР від 20 липня 1936 р. «Про утворення Народного комісаріату юстиції Союзу РСР», була завершена централізація органів Прокуратури СРСР. Усі органи прокуратури союзних республік виводились зі структури наркоматів юстиції і безпосередньо підпорядковувались Прокуророві СРСР.
Конституція СРСР 1936 р. поставила на цьому своєрідну «крапку»: «органи прокуратури здійснюють свої функції незалежно від будь-яких місцевих органів, підлягаючи тільки Прокуророві СРСР». Конституція УРСР 1937 р. надала Прокуророві СРСР право призначення строком на 5 років Прокурора УРСР та обласних прокурорів. Районні та міські прокурори призначалися строком на 5 років прокурором УРСР, але з затвердження Прокурора СРСР.
Значні зміни відбувалися в структурі адміністративно-політичних органів. Постановою від 22 березня 1922 р. ВУЦВК (за російським прикладом) скасував Всеукраїнську надзвичайну комісію (ВУНК) та її місцеві органи і утворив при НКВС Державне політичне управління (ДПУ). Завданнями ДПУ були боротьба з контрреволюційними виступами, шпигунством, бандитизмом тощо. У зв’язку з утворенням СРСР республіканські ДПУ підпорядковувались загальносоюзному Об’єднаному державному політичному управлінню (ОДПУ). Нове визначення функцій і повноважень цих надзвичайних органів знайшло відображення у затвердженому ВУЦВК і РНК УСРР 13 серпня 1924 р. Положенні про
Державне Політичне Керування (ДПК) УСРР. Згідно із Положенням голова ДПК при РНК УСРР водночас був і уповноваженим ОДНУ СРСР при уряді України. Незважаючи на те, що справи проти радянського ладу за законом мали розглядатися в судовому порядку, органи ДПУ здійснювали позасудову розправу, застосовували надзвичайні «силові» методи.
Постановою ЦВК СРСР від 15 листопада 1923 р. була створена Судова колегія ОДПУ (назва цього органу змінювалася). Колегія розглядала справи про диверсії, шкідництво та інші злочини і мала право застосування усіх мір покарання. Прокурорський нагляд за слідством і дізнанням у політичних справах і у справах про шпигунство набув обмеженого характеру.
В умовах згортання непу і утвердження тоталітарного режиму органи ДПУ набули відверто каральної спрямованості і стали майже неконтрольованими. З 1930 р. в усіх обласних центрах діяли каральні органи - «трійки» у складі: начальника управління ОДПУ, обласного прокурора і першого секретаря обкому КП(б)У, які у позасудовому порядку (без ознайомлення із справою, без свідків, без захисту і без підсудного) виносили вироки.
Роль ОДПУ значно посилилась після ліквідації у грудні 1930 р. Наркомату внутрішніх справ УСРР. При ДПУ УСРР було утворене Головне управління робітничо-селянської міліції. На ДПУ додатково покладалися функції забезпечення громадського порядку, охорони державної й колективної власності. Запровадження в цей період паспортної системи органи ДПУ використали для широкомасштабної «чистки» міст від «ворожих елементів» та селян, котрі тікали з голодуючих районів.
Остаточна централізація репресивно-каральної системи відбулась із створенням 10 липня 1934 р. НКВС СРСР, до складу якого, замість ліквідованого ОДПУ, ввійшло Головне управління державної безпеки. При НКВС 5 липня 1934 р. було засновано позасудовий орган - Особливу нараду, якій надавалося право в адміністративному порядку застосовувати заслання, виселення, ув’язнення до таборів на строк до 5 років, виселення за межі країни. Пізніше ці права були значно розширені аж до застосування вищої міри покарання. Створені республіканські НКВС функціонували на підставі загальносоюзного положення і являли собою філії центрального репресивного апарату. На місцях продовжували діяти «трійки», а з 1937 р. з’явились і «двійки» (вже без участі перших секретарів обкомів партії).