В связи с увеличением объема и повышением значения дешифровальной работы в 1932–1933 годах были созданы дешифровальные группы при ПП ОГПУ в Киеве, Тбилиси, Хабаровске, Ташкенте и Ленинграде, а затем в Чите и Владивостоке. Позже эти группы были преобразованы в дешифровальные отделения.
В 1931–1932 годах криптоотделы были созданы уже во всех военных округах, а к середине 1930-х годов численность криптослужб СССР в центре и на местах достигла около 500 человек, что полностью отвечало потребностям того времени. Сложилась достаточно эффективная система криптослужб, которые дешифровывали до 30 % всей перехваченной информации, что было прекрасным показателем для того времени.
В 1932 году было образовано дешифровальное отделение в Особой Краснознаменной Дальневосточной армии, а в 1935–1936 годах — в Забайкальском, Среднеазиатском и Киевском военных округах. Эти отделения, равно как и в центре, находились в оперативном подчинении ОГПУ.
В 1933 году шифровальщики Спецотдела при ОГПУ работали в большой комнате на четвертом этаже обширного здания бывшей страховой компании на улице Лубянка в Москве. А дешифровщики занимали верхний этаж бывшего здания НКИД на углу улиц Лубянка и Кузнецкий мост. Тот факт, что нижние этажи здания посещались частными лицами и членами дипломатического корпуса, использовался для маскировки.
В 1933 году с целью повышения квалификации личного состава Спецотделом было подготовлено и выпущено учебное пособие «Шифры и их применение», а в 1939 году уже в НКВД был издан специальный учебник «Криптография (шифрование и дешифрование)», написанный ведущими советскими специалистами-криптологами С. Г. Андреевым, А. И. Копытцевым, С. С. Толстым и Б. А. Аронским.
7 июня 1934 года начальник IV Управления (разведывательного) Штаба РККА Ян Карлович Берзин (1889–1938) направил председателю РВС К. Е. Ворошилову доклад о работе армейской дешифровальной службы. В докладе назывались проблемы криптослужбы и подчеркивалась сложность подготовки специалистов-криптологов. В нем говорилось: «Дешифровально-разведывательная служба — одна из сложнейших специальностей. Подготовка кадров для нее — более трудное дело, чем в какой-либо другой области науки и техники».
Я. К. Берзин сформулировал основные требования, предъявляемые к специалистам-криптологам. Они, в частности, должны:
— быть абсолютно преданными своему государству, так как они посвящаются в особо секретные государственные дела;
— иметь высшее образование;
— владеть в совершенстве не менее чем одним иностранным языком;
— обладать способностью к ведению самостоятельной работы научно-исследовательского характера;
— иметь широкую научную эрудицию;
— обладать беспримерным терпением;
— обладать быстрой сообразительностью и хорошей ориентировкой;
— обладать незаурядной угадливостью;
— обладать комбинационной способностью.
«Такие работники, — писал Я. К. Берзин, — вырабатываются в течение многих лет и только благодаря использованию накопленного ранее опыта в специальном деле…»
В то время общая численность дешифровального отдела IV Управления Штаба РККА была 46 человек. Начальник управления докладывал, что для полного выполнения поставленных перед отделом задач такого количества специалистов недостаточно. Я. К. Берзин писал: «Шифрдокументы поступают от 52 стран, однако разрабатываются совместно со Специальным отделом при ОГПУ лишь только документы 22 стран… За 1933 г. при напряженной работе подчас за счет преждевременного износа умственных и физических сил работников ДРС разработано только 42 % имеющихся для разработки материалов. 58 % иностранных шифрованных документов, могущих дать ценную добавочную информацию, остались неразделанными из-за недостатка кадров».
В докладе была высказана просьба об усилении службы кадрами, в том числе предлагалось увеличить численность кадрового состава на 10 человек и перевести 16 человек вольнонаемных в административный состав. Но ввиду скромности просьб, изложенных в докладе Я. К. Берзина, они не были в 1934 году удовлетворены, поэтому отдел продолжал работать в прежнем составе.
10 июля 1934 года ОГПУ вошло в состав НКВД как Главное управление государственной безопасности (далее — ГУГБ), а его региональные органы вошли в состав региональных управлений НКВД. В соответствии с этим Спецотдел ОГПУ был реорганизован в Спецотдел ГУГБ НКВД.
22 ноября 1934 года было объявлено Постановление ЦИК и СНК СССР об утверждении «Положения о Народном комиссариате обороны» (далее — НКО), согласно которому в его состав вошло Разведуправление (далее — РУ), ранее входившее в состав Штаба РККА. 15 декабря 1935 года был изменен и утвержден новый штат РУ РККА, согласно которому 5-й (дешифровальный) отдел стал 7-м отделом, а 1-я (шифровальная) часть стала секретно-шифровальным отделением (иногда называлось отделением «Ш»). Численность 7-го отдела составляла 53 человека, и пять человек постоянного состава было выделено на Центральные курсы ДРС.