Но дело было не только в изменении стиля и методов работы ВЧК. Еще в 1919 году по предложению Дзержинского были ликвидированы почти все уездные ЧК, так как здесь исчезли те чрезвычайные условия, которые как-то могли оправдать существование подобной организации. После окончания Гражданской войны возник вопрос о полной реформе ВЧК. В условиях мирного времени подобные «быстродействующие» карательные органы были уже не нужны. В декабре 1921 года по предложению Ленина очередной съезд Советов поручил ВЦИК «в кратчайший срок пересмотреть положение о Всероссийской Чрезвычайной Комиссии и ее органах в направлении их реорганизации, сужения их компетенции и усиления начал революционной законности» [603] . 6 февраля 1922 года был принят декрет о реорганизации ВЧК в ГПУ (Государственное политические управление). На Государственное политическое управление возлагалась задача борьбы лишь с особо опасными государственными преступлениями: политической и экономической контрреволюцией, шпионажем и бандитизмом. При этом ГПУ не имело права выносить окончательные решения о наказании преступников. Органы ГПУ вели следствие, но приговор, как правило, должен был выносить суд. «Прежде всего, – писал Ленин, – боевыми органами Соввласти были главным образом Нарвоенком и ВЧК. Теперь особенно большая роль выпадает на долю НКЮста» [604] .
Перестройка органов ВЧК-ГПУ завершилась к середине 20-х годов, но очень скоро она началась снова, уже в другом направлении. Под влиянием Сталина ГПУ стало опять превращаться в карательную организацию, оно получило право заключать в тюрьму, в лагерь, высылать в отдаленные районы страны, а позднее даже расстреливать отдельных заключенных.
В. Р. Менжинский, ставший после смерти Дзержинского Председателем ГПУ, не имел того влияния и авторитета, какие имел Дзержинский. К тому же Менжинский был тяжело болен и мало вмешивался в повседневную работу ГПУ. Фактическим главой ГПУ стал заместитель Менжинского Г. Ягода, находившийся под большим влиянием Сталина. Именно на ГПУ была в конце 20-х годов возложена задача по принудительному изъятию золота и ценностей у нэпманов. В начале 30-х годов ГПУ руководило выселением кулацких семей в восточные и северные районы страны. На органы ГПУ опирался Сталин при проведении репрессий среди «буржуазной» интеллигенции, технических и военных специалистов. Уже тогда достаточно широко применялись фальсификация следственных материалов и пытки заключенных. Когда М. П. Якубович сказал в конце 1930 года своему следователю, что при Дзержинском такие методы следствия были бы невозможны, следователь рассмеялся и сказал: «Нашли кого вспоминать! Дзержинский – это пройденный этап в развитии нашей революции».
Постепенно увеличивались и штаты ГПУ, которое было реорганизовано в Наркомат внутренних дел (НКВД), в состав которого вошло также управление милицией и пограничной охраной. После смерти Менжинского (1934 г.) наркомом внутренних дел был и формально назначен Г. Ягода. По партийной линии контроль за деятельностью НКВД с 1935 года осуществлял Н. Ежов, однако фактически полный и безраздельный контроль за деятельностью НКВД давно уже держал в своих руках Сталин.
В 1934 году права НКВД были значительно расширены. При наркоме было создано Постановлением ЦИК и СНК СССР Особое совещание, наделенное правом заключать людей в лагерь, тюрьму или отправлять в ссылку на срок до 5 лет без какого-либо судебного разбирательства. В состав Особого совещания кроме наркома внутренних дел входили его заместители, начальник Главного управления милиции и прокурор Союза СССР или его заместитель. Решение Особого совещания мог отменить по протесту Прокуратуры СССР только Президиум ЦИК СССР [605] .