В 1931 году он тесно сблизился с другими видными троцкистами Г Пятаковым и Я. Гамарником, последний посвятил его в обстоятельства крупного военного заговора с участием Тухачевского, Якира, Уборевича. Гамарник рассказал ему о заговоре в НКВД, который возглавлял Ягода. Он назвал еще более 20 имен видных партийных деятелей, которые уже были под следствием.
17 октября его супруга передала следователю Ямницкому заявление, отосланное Ежовым Сталину:
«В связи с арестом моего мужа Яковлева Я.А., с которым я прожила с 1921 года, я решила рассказать все, что мне известно о борьбе Яковлева против партии, проводившейся им на протяжении многих лет.
Яковлев является троцкистом с 1923 года. Еще тогда в 1923 году он принимал активное участие в борьбе против партии на стороне Троцкого. В этот период он был связан с группой активных троцкистов – Воронским, Эльциным, Поповым Н.Н., Михайловым, принимал активное участие во фракционных совещаниях группы…
На протяжении последних пяти лет Яковлев принимает активное участие в подпольной антисоветской организации, стоящей на троцкистских позициях. Он находился на особом законспирированном положении, двурушничая для того, чтобы закрепиться на партийной работе и стремясь продвинуться к руководству партии.
Активное участие в этой подпольной организации принимали вместе с Яковлевым Варейкис и Бауман. Из участников этой организации, группировавшейся вокруг Яковлева, мне известны Михайлов, Рейнгольд, Цылько и другие.
Яковлев находился в антипартийной связи с руководителем заговора среди военных Гамарником. Через Гамарника он осуществлял связь с возглавлявшим троцкистское подполье Пятаковым…
Моя вина усугубляется еще и тем, что после разоблачения Гамарника, Якира, Попова Н.Н., связанных по контрреволюционной работе с Яковлевым, Бауманом, Варейкисом, я не нашла в себе мужества вырваться из этой контрреволюционной грязи, прийти в партию и разоблачить эту банду врагов партии и народа».185
На первом листе этого документа имеется рукописный комментарий Сталина: «Т. Ежову. Какой Михайлов? Даже имя отчество не спросили… Хороши следователи. Нам важна не прошлая деятельность Яковлева и Соколовской, а их вредительская и шпионская работа за последний год, последние месяцы 1937 года. Нам нужно также знать для чего оба эти мерзавца почти каждый год ездили за границу. И. Сталин».
Позже Сталин послал свои дополнительные вопросы к Яковлеву:
Вопросы И.В. Сталина к протоколу допроса Я.А. Яковлева. Не позднее 20 октября 1937 г.
«1) Знал он о службе Варейкиса в царской охранке.
2) Его мнение о Михайлове из Воронежа и его участие в к.р. ор-ции.
3) Его связь с Троцким (видел его лично в 1935 или 1934).
4) Как хотел использовать МОПР? Кого из МОПР использовал?
5) Жену Яковлева взять в оборот: он заговорщик и должна рассказать все. Спросить ее о Стасовой, Кирсановой и других ее знакомых-близких».186