Декретом ВЦИК от 6 февраля 1922 года ВЧК и ее местные органы были упразднены. Подавление открытых контрреволюционных выступлений, остатков политического бандитизма, борьба со шпионажем и контрабандой, охрана границ, водных и железнодорожных путей сообщения и выполнение специальных поручений Советского правительства по охране революционного порядка в стране были возложены на Народный Комиссариат внутренних дел, при котором для осуществления указанных функций было образовано Государственное Политическое Управление (ГПУ), на местах, при ЦИК автономных республик и облисполкомах — политические отделы.
В связи с упразднением чрезвычайных комиссий в уездах были ликвидированы политические бюро. Их обязанности перешли к уполномоченным областных отделов ГПУ.
Событием громадного исторического значения стало образование в декабре 1922 года Союза Советских Социалистических Республик. Добровольное объединение равноправных народов явилось блестящей победой национальной политики партии. В результате этого стали также совершенствоваться и укрепляться государственные органы власти и управления.
Договором об образовании Союза Советских Социалистических Республик (1922 г.) и последовавшим 2 ноября 1923 года постановлением Президиума ЦИК СССР Государственное Политическое Управление было преобразовано в Объединенное Государственное Политическое Управление (ОГПУ) при Совете Народных Комиссаров СССР. К концу 1923 года перестройка органов государственной безопасности была закончена.
Годы построения социализма в республике для чекистов-казахстанцев были не менее трудными, чем период гражданской войны. Внутренняя контрреволюция и ее зарубежные вдохновители в эти годы продолжали активную тайную войну против Советской власти, хотя упрочившееся международное положение Советского государства и повело к установлению с ним в 1924 году дипломатических отношений Англией, Италией, Австрией, Норвегией, Грецией, Швецией, Данией, Мексикой, Францией, Китаем, а в 1925 году Японией.
Партия, руководствуясь ленинским планом построения социализма в СССР, решительно взяла курс на социалистическую индустриализацию страны и на коллективизацию сельского хозяйства. Осуществление этих эпохальных по объему и сложности задач проходило в Казахстане в обстановке огромных трудностей и нового обострения классовой борьбы с кулачеством и феодально-байскими элементами.
В укреплении и успешном развитии СССР империалисты всех стран видели угрозу своему существованию, и они всеми мерами стремились сорвать или затормозить индустриализацию СССР, экономически изолировать его, угрожали вооруженной интервенцией. Агентура империалистических разведок и внутренняя контрреволюция усилили свою подрывную деятельность. Был совершен целый ряд диверсионных и террористических актов.
В этих условиях Советское правительство обратилось в 1928 году к рабочему классу с призывом охранять заводы, фабрики, склады, станции и предложило ОГПУ принять решительные меры против шпионов, поджигателей и убийц[37]
.В ответ на призыв партии и Советского правительства органы полномочного представительства ОГПУ в Казахстане усилили свою бдительность. Они раскрыли многие шпионско-вредительские, диверсионные и другого характера контрреволюционные организации; решительно подавили ряд восстаний, ликвидировали немало политических банд бывших кулаков и баев, главари которых нередко засылались из-за кордона; предотвратили многие террористические акты, направлявшиеся в основном против партийно-советских работников и актива аулсоветов, сельсоветов, и колхозов.
В числе чекистских операций этого периода — разоблачение сотрудниками Джетысуйского отдела ОГПУ инспираторов из гоминьдановской разведки, которые, в целях компрометации в глазах китайских трудящихся-мусульман первой в мире социалистической республики, организовали в 1923 году в дунганской мечети города Алма-Аты драку, а затем резню между местными дунганами и дунганами — подданными Китая. Китайская разведка, не без участия английской, во имя политических целей пренебрегла чувствами верующих мусульман, для которых драка — несмываемый грех. Позже ряд дипломатов консульства, причастных к этим событиям, среди них и непосредственного исполнителя провокационного замысла — повара консульства, выдворили из Советского Союза.
В другой алма-атинской мечети, прихожанами которой были уйгуры, выходцы из Кашгарии, подвизался в роли имама шейх Хафизов, в прошлом активный член контрреволюционного правительства, возглавлявшего «Кокандскую автономию» в 1918 году. Бежав в Кашгарию, шейх в 1921 году нелегально вернулся в Джетысу и занялся здесь и в Туркестане распространением панисламистской и пантюрксистской литературы, сбором шпионской информации.
Весьма сложной и исключительно напряженной была чекистская операция по пресечению антисоветской деятельности оппозиционеров — Троцкого, Зиновьева и ряда их сподвижников, а также участников группы Сапронова, после XV съезда партии высланных в Казахстан.