Хотя в архивах до сих пор не нашлось каких-либо документальных доказательств, но можно не сомневаться, что разговоры между членами Политбюро Сталиным и Ворошиловым о некомпетентности начальника Управления, конечно, были. Для Сталина в мае 37-го было уже очевидно, что он совершил ошибку, поменяв мастера разведки Берзина, несмотря на все его недостатки, на дилетанта Урицкого, фамилию которого ему наверняка и подсказал нарком обороны. А Сталин был из тех людей, которые, совершив ошибку, всегда старались ее исправить. Очевидно, для него в конце мая было уже ясно, что на посту начальника военной разведки может быть только Берзин. Возможно, свою роль сыграло и то, что в январе 1937 года он был награжден высшей наградой страны — орденом Ленина. Никакой другой подходящей кандидатуры в то время не было. Поэтому и была отправлена в Валенсию шифровка Берзину — немедленно сдать дела комдиву Штерну и выехать в Москву.
Репрессии в аппарате военной разведки начались в мае 37-го. По неполным данным, в основном по справочнику «ГРУ. Дела и люди» было арестовано 17 человек старшего и высшего командного состава. В этот список попали и те командиры, которые в свое время работали военными атташе в разных странах и состояли в кадрах Управления, но к моменту ареста занимали крупные посты в центральном аппарате Наркомата обороны. Это комкоры Восканов, Геккер, Левичев, Лонгва, Петренко-Лунев, корпусные комиссары Артузов и Карин и помощник Урицкого Абрамов-Миров, а также бывший заместитель Берзина Борис Мельников. Были также арестованы и военные разведчики рангом пониже: бригадные комиссары Семенов и Янель, комбриги Боговой и Клочко. Это немногие из печального списка отправленных на Лубянку. 21 мая на совещании в Разведупре выступил Сталин. Он заявил о том, что «разведуправление со своим аппаратом попало в руки немцев», и дал установку о роспуске агентурной сети. Оценка деятельности военной разведки была дана на самом высоком уровне, и для руководства НКВД этих указаний было достаточно, чтобы начать подготовку к уничтожению руководящих кадров Управления.
2 июня 1937 года Сталин выступил с большой речью на расширенном заседании Военного Совета РККА и опять говорил о разведке: «…Нужно проверять людей — и чужих, которые приезжают, и своих. Это значит, надо иметь широко разветвленную разведку, чтобы каждый партиец и каждый непартийный большевик, особенно органы ОГПУ, рядом с органами разведки, чтобы они свою сеть расширяли и бдительнее смотрели.
Во всех областях разбили мы буржуазию, только вот в области разведки оказались битыми, как мальчишки, как ребята. Вот наша основная слабость. Разведки нет, настоящей разведки. Я беру это слово в широком смысле слова, в смысле бдительности, и в узком смысле слова, также в смысле хорошей организации разведки. Наша разведка по военной линии плоха, слаба, она засорена шпионажем. Наша разведка по линии ГПУ возглавлялась шпионом Гаем, и внутри чекистской разведки у нас нашлась целая группа хозяев этого дела, работавшая на Германию, на Японию, на Польшу сколько угодно, только не на нас. Разведка — это та область, где мы впервые за 20 лет потерпели жесточайшее поражение. И вот задача состоит в том, чтобы разведку поставить на ноги. Это наши глаза, это наши уши…»
Вот такие мысли были высказаны генсеком о работе разведки. И так ему представлялась ее работа в будущем. Хотелось бы отметить, что Сталин не только высказывал свое мнение о работе разведки на больших совещаниях. Он внимательно читал протоколы допросов арестованных крупных военачальников, с которыми его знакомил Ежов. И в этих протоколах мелькала фамилия Берзина. Так, еще 4 июня, за несколько дней до нового назначения Берзина, Ежов представил Сталину протокол допроса комкора Лапина, арестованного как участник военно-троцкистского заговора. Ознакомившись с протоколом, Сталин отметил несколько вопросов, которые нужно было задать Лапину. Его интересовало:
«…2) Состоял ли в заговоре Берзин, который перенял от Таирова разведорганы на Дальнем Востоке? 3) Продолжает ли Таиров подрывную работу в МНР?.. 6) Как обстоит дело с окружной войсковой разведкой на Украине, в Белоруссии, в Ленинграде? Не связывала ли она троцкистов с Польшей так же, как наша разведка на Дальнем Востоке связывала троцкистов с японцами».