Е. Д. Стасова просила председателя ВЦИК Я. М. Свердлова перевести Бокия на работу в Москву. Однако Свердлов направил его агентом ЦК РКП(б) в Белоруссию «для подробного ознакомления с постановкой и ведением нелегальной работы в оккупированных областях». Во главе комиссии из нескольких петроградских коммунистов Г. И. Бокий выехал в занятый немцами Минск для обследования деятельности комитета РКП(б) Западной области. Здесь он вошел в состав Революционного совета германской армии в Минске, одновременно организовал Совет рабочих депутатов.
В конце ноября 1918 года Бокий возвратился из освобожденной Белоруссии и тут же был командирован на Восточный фронт. В марте 1919 года его назначили членом Турккомиссии ВЦИК и ЦК РКП(б), но из-за наступления Колчака прервалось сообщение с Туркестаном, и Г. И. Бокий не смог добраться до места службы и был назначен начальником Особого отдела Восточного фронта. С марта по октябрь 1919 года он пребывал в этой должности в Симбирске. После разгрома Колчака и наступления на Туркестан Бокий был начальником Особого отдела Туркестанского фронта и полномочным представителем ВЧК в Туркестане, одновременно являясь членом Турккомиссии ВЦИК и ЦК. В сентябре 1920 года Глеб Иванович вернулся в Россию и до начала 1921 года лечился от туберкулеза. С января 1921 года Бокий вновь приступил к работе в органах ВЧК в Москве. Он был в составе коллегии ВЧК — ОГПУ — НКВД СССР, а в 1925 — 1926 годах находился на должности заместителя председателя ОГПУ.
5 мая 1921 года постановлением Малого Совнаркома была создана криптографическая служба при ВЧК — специальный отдел (СПЕКО). Г. И. Бокий руководил созданием отдела, а затем был назначен его начальником.
Спецотдел следил за режимом секретности и охраной государственной тайны. В сфере его внимания находились автономные передатчики, а также передающие устройства посольств и иностранных миссий. Все где-либо перехваченные материалы стекались для дешифровки в Спецотдел. В 1924 году СПЕКО завершил разработку «Русского кода», на несколько десятилетий ставшего основным шифром в работе всех служб СССР.
Личный состав Спецотдела проходил по гласному и негласному штату. К негласному штату относились криптографы и переводчики, для которых были установлены должности «эксперт» и «переводчик», работники же отделений, непосредственно не связанные с криптографической работой (секретари, курьеры, машинистки и др.). представляли гласный состав. К 1933 году в Спецотделе по гласному штату числилось 100, а по секретному — 89 сотрудников.
Как считал начальник Разведуправления РККА Я. К. Берзин, «дешифровально-разведывательная служба — одна из сложнейших специальностей. Подготовка кадров для нее — более трудное дело, чем в какой-либо другой области науки и техники». Криптограф, по мнению Берзина, должен был обладать широкой научной эрудицией, способностью к самостоятельной научно-исследовательской работе, беспримерным терпением, быстрой сообразительностью и хорошей ориентировкой, незаурядной смекалкой и комбинационными талантами. Поэтому Г. И. Бокий специально подыскивал для своего отдела людей, обладавших уникальными навыками.
Создавая СПЕКО, Г. И. Бокий использовал опыт старых специалистов-криптографов — бывших сотрудников криптографической службы царской России. К дешифровальной работе в качестве экспертов-аналитиков привлекались люди, хорошо владевшие самыми разными языками, в том числе и малораспространенными. В разработке основ новой службы приняли участие и те, кто ранее не сталкивался с подобными вопросами. Этих людей Бокий лично пригласил для работы в Спецотдел, исходя из их деловых качеств.
Л. Э. Разгон, сотрудничавший в отделе Бокия в ЗО-е годы, вспоминал: «В спецотделе работало множество самого разного народа, так как криптографический талант — талант от Бога. Были старые дамы с аристократическим прошлым и множество самых интересных и непонятных людей. Был немец с бородой почти до ступней. Был человек, который упоминается почти во всех книгах о Первой мировой войне, — шпион-двойник, был Зыбин, председатель месткома, известный как дешиф-ровальщик, прочитавший когда-то переписку Ленина».
Подразделения Спецотдела вели обширную научно-техническую работу и часто негласно финансировали учреждения, формально не имевшие к отделу никакого отношения. Одним из таких научных центров стала лаборатория нейроэнергети-ки Всесоюзного института экспериментальной медицины, возглавлявшаяся Александром Васильевичем Барченко.
Именно о нем Бокий покажет на следствии: «Мой отход от марксистского мировоззрения в 1925-1926 годах под влиянием встречи с мистиком, масоном Барченко А. В., который вовлек меня в масонствующее сообщество „Древняя наука“».