В Разведупре эти годы действительно были непростыми. Тогда же его многолетний начальник Берзин начинает впадать в немилость у Сталина. Тогда же обостряется постоянная межведомственная борьба с ГПУ и заменившим его в 1934 году НКВД. В архивах обеих спецслужб из начала 30-х годов остаются следы этого противоборства. Вот в 1933 году резидент Разведупра в Австрии Дидушок (в Разведупре известен как Франц) предпринимает попытку вербовки офицера военной разведки Германии абвер Протца. Об этом по своим каналам узнает разведка ИНО ГПУ, и ее начальник Артузов через шефа жалуется на «соседей» из Разведупра даже в ЦК партии. Мало того что чекистов из ИНО тревожит, что Разведупр все чаще не информирует их о своих операциях, так еще по агентурным каналам ИНО выходит, что это матерый немецкий разведчик Протц вербует советского военного разведчика Дидушка, а не наоборот. Берзин в этой ситуации защищает своих людей и берет Дидушка под защиту, конфликт действительно доходит до ЦК, и Берзину делают внушение за ведомственную секретность, поручая плотнее работать в контакте с чекистами ИНО ГПУ. Справедливости ради отметим, что в том споре, скорее всего, люди Артузова из ИНО были более правы. Известный разведчик абвера Протц играл в эту игру на стороне своей спецслужбы; когда в 1935 году абвер возглавит по приказу Гитлера адмирал Канарис, то Протц станет одним из его заместителей и начальником отдела военной контрразведки в абвере, оставаясь им почти до конца Второй мировой войны и падения самого Канариса.
В 1938 году уже разведчики ИНО НКВД пытались завербовать офицера абвера Вера. Уже имея своего агента Лемана в гестапо и Талера в СД, они яростно пытались глубоко проникнуть и в германский абвер. Но вскоре возникло мнение, что и Вера вербовщикам из НКВД подставляют те же абверовцы, и опять были разночтения НКВД и Разведупра в этой операции, но вербовку Вера все же прекратили. В 1933 году в разведке ГПУ предупреждали Разведупр, что забрасываемый военными в Турцию агент из азербайджанцев Садыхбеков подозрителен и может предать, а после действительно случившегося предательства агента НКВД еще подбросил поленьев в пламя этой глухой войны с Разведупром. Все нюансы этих операций, где Разведупр и НКВД начинали межведомственный спор вплоть до доносов в ЦК, чуть позднее будут использованы в следственных делах «изменников и врагов народа» как среди военных, так и чекистских разведчиков.
Через несколько лет после первых уколов в адрес Берзина и его службы это недовольство Сталина обернется для Разведупра началом массовых репрессий в его рядах. Многолетний руководитель этой спецслужбы Ян Берзин в 1937 году отозван из Испании, а после обличительной речи против него наркома НКВД Ежова на Политбюро снят с должности, арестован и расстрелян. После Берзина должность главы военной разведки Красной армии тоже становится расстрельной. Недолго исполнявшие обязанности начальника Разведупра Гендин, Никонов, Стигга, Орлов, Урицкий (родной племянник убитого в 1918 году главы Петроградской ЧК Моисея Урицкого) и переведенный сюда временно из НКВД Артузов один за другим идут по пути Берзина – снятие с должности, арест и расстрел.
Затем в апреле 1939 года на пост главы Разведупра Сталин назначает известного в Красной армии летчика – генерала авиации Ивана Проскурова. Герой советской военной авиации и операций в небе Испании не отказался возглавить военную разведку, тогда как другой «сталинский сокол» Чкалов отверг предложение вождя возглавить НКВД после снятия Ежова. За что Проскуров вскоре тоже поплатился арестом и расстрелом в 1941 году, он последним с этой должности попал в расстрельный подвал прямо перед вступлением СССР во Вторую мировую войну.
Проскуров пал в этой череде уже на исходе больших репрессий, как полагают, за свою излишне независимую позицию и несговорчивый характер. Он так и не смог сработаться с непосредственным начальником – наркомом обороны Тимошенко, а на заседании посмел резко возражать Сталину и Тимошенко в 1940 году, когда те на Разведупр попытались повесить большую часть вины за неудачи в Зимней войне с Финляндией. Только с назначенным на место Проскурова генералом Голиковым и вступлением Советского Союза в войну это колесо отстрелов начальников Разведупра Красной армии остановилось.
За считаные три года больших репрессий по приказу Сталина поочередно расстреляны шесть руководителей Разведупра Красной армии, некоторые исполняли обязанности на этой «горящей» должности всего по несколько месяцев, как ветеран службы Разведупра с 1921 года Александр Никонов, бывший ранее заместителем Берзина.