11 августа 1937 г. Ежов издал приказ № 00485 о ликвидации польской шпионско-диверсионной сети. Документом предписывалось: «Одновременно с развертыванием операции по арестам начать следственную работу. для ведения следствия выделить специальную группу работников».
Вскоре сотрудники НКВД арестовали будущего Маршала Советского Союза, а тогда комдива, К.К. Рокоссовского, поляка по национальности. Следователи специальной группы больше двух лет «работали» с арестованным, пытаясь подтвердить оговоры, полученные на него ранее, но никаких доказательств причастности Рокоссовского к «пятой колонне» не нашли. В 1939 г. он был освобожден без суда, восстановлен в звании и должности с компенсацией за время нахождения в тюрьме всех видов полагавшегося ему денежного и вещевого довольствия.
21 августа 1937 г. между СССР и Китаем был подписан договор о ненападении. В сентябре 1937 г. в Поднебесной создается антияпонский национальный фронт. С целью укрепления своих позиций на Дальнем Востоке Советский Союз с октября 1937 г. под эгидой Разведупра начал поставки вооружений для китайской армии. Для этого в центральном ведомстве военной разведки создается подразделение «Z» (начальник И. Чернов). Это подразделение занималось также подбором добровольцев, которых направляли в Китай для оказания помощи войскам Чан Кайши в организации отпора японским агрессорам. Советские волонтеры начали прибывать в Поднебесную в октябре 1937 г. В основном это были летчики, которые в первый период военных действий приняли на себя удары японских ВВС.
6 сентября военные разведчики теряют еще пять человек. Уцелевшие провели партийное собрание 7 сентября 1937 г.
Однако Разведупр терял свои кадры не только в результате арестов. Некоторых сотрудников под предлогом наличия в послужном списке факта совместной работы с «врагами народа» увольняли, но затем почти всех их постигла участь сослуживцев.
В сентябре 1937 г. исполняющим обязанности начальника военного разведоргана стал один из замов, старый чекист, опытный контрразведчик старший майор госбезопасности Семен Григорьевич Гендин. Заместителем начальника по иностранной разведке был назначен А.Г. Орлов — бывший военный атташе в Германии.
14 октября арестовано еще четыре руководящих работника центрального ведомства военной разведки.
10 ноября 1937 г. НКВД СССР направил начальникам Особых отделов военных округов, флотов и флотилий и в периферийные органы ведомства директиву № 286498, в которой предлагалось немедленно реализовать агентурные, архивные и следственные материалы, которые имелись в отношении работников военной разведки, взять на учет и в активную разработку всех бывших работников разведорганов. После этого участь большинства сотрудников военной разведки, как бывших, так и действующих, была предрешена.
14 ноября 1937 г. с помощью НКВД Разведупр лишился пятерых сотрудников.
2 декабря 1937 г. в управлении снова аресты. «Наши славные наркомвнудельцы» (так в советской печати того времени любовно называли сотрудников НКВД) пресекли «враждебную» деятельность еще 22 военных разведчиков. Арестованы ветераны — цвет и гордость Разведупра. Среди них и бывший его руководитель Я.К. Берзин.
В декабре 1937 г. образован Наркомат ВМФ. В нем была создана подчиненная ему разведывательная структура (сначала разведотдел, а затем управление), просуществовавшая до апреля 1946 г.
С декабря 1937 г. кадровая работа партийных комитетов от райкома и выше шла в тесном сотрудничестве с чекистами. Была установлена практика получения партийными органами документальных справок на назначаемых работников. Без санкции НКВД претенденты на должности в партийно-государственном аппарате не назначались.
12 декабря 1937 г. на основе новой Конституции СССР прошли первые выборы в Верховный Совет СССР. В голосовании приняли участие 96,8 % всех избирателей. В состав Верховного Совета было избрано 1143 депутата, три четверти из которых составляли рабочие и крестьяне.
Внешне все было «пристойно». Однако на деле выборы не были тем, чем они должны были быть по своему назначению. Все избирательные действия осуществлялись под наблюдением партийных комитетов, которые и являлись основными организаторами избирательного процесса. Кандидатуры в Советы депутатов предварительно одобрялись соответствующими партструктурами, проходили по партийным разнарядкам, в которых точно фиксировалось, сколько в органах власти должно быть депутатов от соответствующих слоев населения, как их надо выдвигать. Агитация велась только за тех кандидатов, которые были «освящены» партийными решениями, никаких выступлений против них не допускалось, за средствами массовой информации был учрежден строжайший контроль и т. д.