Подібні процеси відбувалися і в Прокуратурі УСРР.
До 1932 р. в Україні діяли міжрайонні, міські та дільничні прокуратури. З організацією областей було скасовано міжрайонні прокуратури і створено дільничні, міські, обласні прокуратури і Прокуратуру республіки.
Прокуратура республіки та усі її органи входили до системи наркомюсту. Очолював Прокуратуру республіки Генеральний прокурор, який одночасно був наркомом юстиції УСРР.
Органи прокуратури здійснювали нагляд за законністю дій усіх (крім ВУЦВК і Раднаркому УСРР) органів влади та управління на території України, а також господарських і громадських організацій; порушували кримінальні справи проти тих, хто вчинив злочин. Органи прокуратури мали право опротестовувати у встановленому законом порядку постанови, накази, циркуляри і розпорядження, якщо вони не відповідали закону. Вони здійснювали нагляд і керівництво діяльністю органів дізнання та слідства.
Істотних організаційних змін зазнали органи прокуратури у 1933 p. Замість прокуратури Верховного Суду СРСР і прокуратур союзних республік, які входили до складу республіканських наркоматів юстиції і безпосередньо не підпорядковувались прокурору Верховного Суду СРСР, створювалась єдина централізована система прокурорських органів.
Для здійснення цього завдання 20 червня 1933 p. утворено як самостійний орган Прокуратуру СРСР, яка об'єднала органи прокуратури у всесоюзному масштабі. Прокуратуру Верховного Суду було ліквідовано.
На Прокуратуру СРСР покладалось загальне керівництво діяльністю прокуратур союзних республік. Прокурор Союзу РСР отримав право давати прокурорам союзних республік обов'язкові вказівки, скликати наради прокурорів союзних республік, перевіряти діяльність органів прокуратури союзних республік. Відбувалась централізація прокурорського апарату.
У 1934 p. замість дільничних прокуратур в усіх районах УСРР було утворено районні прокуратури.
Відповідно до постанови ЦВК і Раднаркому СРСР від 20 липня 1936 р. "Про утворення Народного комісаріату юстиції Союзу РСР" органи прокуратури і слідства УСРР, як й інших союзних республік, було виділено з системи наркомату юстиції та підпорядковано безпосередньо Прокурору Союзу РСР. Цим актом завершилася централізація усіх органів Прокуратури Союзу РСР.
На початку 30-х років відбувалися значні зміни в структурі адміністративно-політичних органів. Характерно, що їх реорганізація провадилася кожний раз за ініціативою центру, український уряд вимушений був лише виконувати директиви, що надходили з Москви. Так, відповідно до постанови ЦВК і Раднаркому СРСР від 15 грудня 1930 p. було ліквідовано наркомат внутрішніх справ УСРР, який здійснював керівництво різними галузями управління:
комунальною справою, міліцією, місцями позбавлення волі тощо.
Його функції було передано різним відомствам: керівництво комунальним господарством перейшло до головного управління комунального господарства при Раднаркомі УСРР, керівництво місцями позбавлення волі — до наркомюсту УСРР.
У постанові ЦВК і Раднаркому СРСР зазначалося, що ліквідація НКВС союзних республік обумовлена "загостренням класової боротьби всередині суспільства, необхідністю у зв'язку з цим введення жорсткої дисципліни, а також надання більшої самостійності в управлінні органам по боротьбі зі злочинністю та охороні громадської безпеки і революційного порядку".
Наслідком такої реорганізації було значне посилення ролі ОДПУ. Різко активізувалась й діяльність органів ДПУ УСРР. Вже з лютого Г930 р. в усіх обласних центрах України існували "трійки" — каральні органи, до складу яких входили начальник управління ОДПУ, обласний прокурор і перший секретар обкому КП(б)У. Такий безконтрольний каральний апарат виносив вироки практично без свідків, без захисту, без ознайомлення з кримінальною справою і навіть без підсудного. Прокуратура від нагляду за дотриманням законності в органах держбезпеки практично усунулась. До складу ОДПУ перейшла й міліція. Постановою ЦВК і Раднаркому СРСР від 27 грудня 1932 р. загальне керівництво роботою управлінь робітничо-селянської міліції союзних республік покладалося на ОДПУ, при якому було створено головне управління робітничо-селянської міліції.
До 1934 р. ОДПУ займалось гарантуванням не тільки державної безпеки, а й громадського порядку, охороною державної та суспільної власності, відало паспортизацією. Так, введення в УСРР у 1933 р. паспортної системи супроводжувалося широкомасштабною "чисткою" міст від "ворожих елементів". Тільки із Харкова згідно з планом слід було виселити 50 тис. чоловік — біженців, що зуміли прорватися через кордони, які були зведені навколо голодуючих районів, а також "куркулів", що втікали з села.
Значну роботу провадило ДПУ по ліквідації сфабрикованих нею різних антирадянських організацій. У 1930 р. у Харкові проходив судовий процес, де було звинувачено 45 провідних учених і письменників. Їм приписували участь у підпільній контрреволюційній організації "Спілка визволення України", яка була "викрита" органами ДПУ УСРР. Така ж доля спіткала "Всеукраїнський есерівський центр", "Всеукраїнський боротьбистський центр" та ін.
Адміністративно-командна система управління вимагала дальшої перебудови державних структур, які б були активними провідниками її політики.
Переломним етапом на шляху до повної централізації репресивно-каральної системи став 1934 p., коли 10 липня постановою ЦВК СРСР було утворено загальносоюзний НКВС, до складу якого замість ліквідованого ОДПУ ввійшло новоутворене головне управління державної безпеки. У союзних республіках були утворені НКВС союзних республік, які насправді ніколи не були республіканськими, автономними, а були лише філіями центрального репресивного апарату, оскільки вони функціонували на підставі положення про загальносоюзний НКВС, на який покладались обов'язки забезпечення революційного порядку та державної безпеки і охорони суспільної (соціалістичної) власності; ведення актів громадянського стану; прикордонної охорони тощо. Для цього у структурі НКВС були утворені головне управління державної безпеки, головне управління прикордонної та внутрішньої охорони, головне управління виправно-трудових таборів і трудових поселень, відділ актів громадянського стану, адміністративно-господарське управління та головне управління пожежної охорони. Аналогічну структуру НКВС було встановлено і в союзних республіках.
З моменту утворення НКВС СРСР замість судової колегії ОДПУ, яка мала право застосовувати усі міри кримінального покарання, включаючи розстріл, при наркомі внутрішніх справ під його ж головуванням було засновано позасудовий орган під назвою "Особлива нарада", якому надавались широкі права в адміністративному порядку застосовувати такі міри покарання, як заслання, виселення, ув'язнення до таборів на строк до 5 років, виселення за межі країни. На місцях, як і раніше, діяли спеціальні "трійки", котрі також не рахувалися з нормами судочинства. Судовий розгляд кримінальних справ замінявся адміністративними рішеннями.