Результатом этой деятельности Ежова был первый «большой московский процесс» над Каменевым, Зиновьевым и другими бывшими оппозиционерами. Все они были расстреляны.
С энтузиазмом участвуя в фальсификации дела «объединённого троцкистско-зиновьевского центра», Ежов всё глубже вникал в чекистские дела. Пока трудно сказать, готовил ли Сталин Ежова на место Ягоды или собирался ограничиться игрой на противоречиях между наркомом внутренних дел и куратором НКВД от ЦК. Однако в конце августа, на завершающем этапе суда над Каменевым и Зиновьевым произошли события, которые делали более вероятной замену Ягоды.
После того как Каменев и Зиновьев дали на суде показания о своих связях с «правыми» — Бухариным, Рыковым и Томским, и было официально объявлено, что эти показания начала расследовать прокуратура, М.П. Томский 22 августа покончил жизнь самоубийством. В своём предсмертном письме на имя Сталина Томский отрицал показания осужденных.
Приехавший на дачу Томского, где произошло самоубийство, начальник секретно-политического отдела НКВД Молчанов получил это письмо. Однако людей, о которых шла речь в постскриптуме, жена Томского называть Молчанову отказалась. Письмо Томского было переправлено Сталину, а на свидание с женой Томского Каганович и Орджоникидзе, остававшиеся «на хозяйстве» в Политбюро, послали Ежова. Ежову удалось узнать, что Томский имел в виду Ягоду, который якобы «играл очень активную роль в руководящей тройке правых, регулярно поставлял им материалы о положении в ЦК и всячески активизировал их выступления». Вернувшись в ЦК, Ежов доложил об этом ожидавшим его Кагановичу и Орджоникидзе. Сначала было решено, что Ежов должен поехать к Сталину на юг и лично доложить ему о текущих делах. Некоторое время спустя, возможно, после совета со Сталиным, Каганович поручил Ежову не ездить к Сталину, а составить письменный отчёт.