С 1912 года Бокий участвовал в издании газеты «Правда», являясь секретарём Петербургского, а после начала Первой мировой войны — Петроградского партийного комитета. Он несколько раз скрывался от полиции, которая собиралась арестовать его по делу типографии, спрятанной в Горном институте. Уже в это время он стал активно использовать шифры, которые разрабатывал сам. У себя он хранил внешне ничем не примечательные ученические тетради, исписанные математическими формулами, однако эти формулы использовались в качестве элементов «математического шифра», с помощью которых шифровались записи о подпольной работе. Именно этот опыт позволил в дальнейшем создать Спецотдел ВЧК.
С декабря 1916 до апреля 1917 года Бокий входил в состав Русского бюро ЦК РСДРП, которое осуществляло руководство нелегальной подпольной деятельностью, устройством подпольных типографий, изданием нелегальной литературы непосредственно на территории России. С апреля 1917 по март 1918 года он был секретарём Петроградского городского комитета РСДРП(б). Бокий был активным участником Октябрьского вооружённого восстания в Петрограде, с октября по ноябрь 1917 года он входил в состав Петроградского военно-революционного комитета (ВРК).
С 13 марта по 31 августа 1918 года Глеб Бокий был заместителем председателя Петроградской ЧК. Утром 30 августа председатель Моисей Соломонович Урицкий (псевдоним
31 августа Бокий возглавил Петроградскую ЧК, занимая этот пост до ноября 1918 года, после чего он был направлен в оккупированный немцами Минск для организации подпольной работы. С 3 января и до сентября 1919 года Бокий был начальником Особого отдела ВЧК Восточного фронта, с сентября 1919 по август 1920 года — Туркестанского фронта и одновременно с 19 апреля 1920 года — полпредом ВЧК при СНК РСФСР в Туркестане.
12 апреля 1921 года Бокий выступил на заседании комиссии Совнаркома с проектом создания «центра, объединяющего и направляющего деятельность шифровальных органов различных ведомств». В результате 5 мая 1921 года был создан Специальный (шифровальный) отдел ВЧК — криптоаналитическая служба страны для защиты секретной информации, а также для перехвата и криптоанализа шифрованной переписки других государств. Его начальником и одновременно членом коллегии ВЧК был назначен Глеб Иванович Бокий.
С самого начала интересы Бокия не ограничивались шифровальным делом. В качестве своего заместителя он привлёк известного исследователя телепатии и паранормальных явлений Александра Васильевича Барченко. Во время революции Барченко читал лекции на судах Балтфлота, посвящённые скрытым способностям человека и незримым силам природы, знания о которых хранятся в удалённых частях Земли. Эти лекции привлекли внимание крупнейшего русского психиатра, невролога, физиолога, основоположника патопсихологии, генерал-лейтенанта медицинской службы Русской императорской армии, академика Владимира Михайловича Бехтерева. В мае 1918 года Бехтерев обратился в Совнарком с ходатайством об организации Института по изучению мозга и психической деятельности. Вскоре институт, в котором с использованием новейших методов электрофизиологии, нейрохимии и биофизики изучались явления телепатии, телекинетики и гипноза, был открыт в Петрограде. Его директором до самой смерти являлся сам академик Бехтерев, который пригласил к себе в институт Барченко, а позднее, в 1921 году, рекомендовал его в Спецотдел Бокию.
Основными задачами Спецотдела являлись радио- и техническая разведка, дешифровка телеграмм, разработка шифров, радиоперехват, пеленгация и выявление вражеских передатчиков (радиоконтрразведка), а также надзор за тюрьмами и местами заключения, для чего в Спецотделе была образована канцелярия, изготавливавшая фальшивые документы.