По данным, полученным секретно-политическим отделом (СПО) НКВД, эти разговоры велись незадолго до 7 ноября 1934 года. И практически сразу же о них узнало кремлевское начальство – осведомленными оказались и А. С. Енукидзе, и Р. А. Петерсон, не придавшие этим разговорам никакого значения. НКВД же не захотело пройти мимо того, что квалифицировалось Уголовным кодексом как государственное, контрреволюционное преступление – по статье 68 «пропаганда или агитация, содержащая призыв к свержению, подрыву или ослаблению советской власти», влекущее «лишение свободы на срок не ниже шести месяцев».
20 января начальники СПО – Г. А. Молчанов и оперативного отдела – К. В. Паукер лично провели первые допросы чересчур болтливых кремлевских уборщиц. Разговоры последних были, по сути, проявлением тех настроений, которые оказались характерными для определенной социальной среды малограмотных, не имевших никакой профессии жителей деревни, не захотевших работать в колхозах и ушедших не заработки в Москву.
Поначалу Молчанов и Паукер, а затем Молчанов, заместитель начальника СПО Г. С. Люшков, начальник 2-го отделения СПО М. А. Каган (пожалуй, ключевая фигура следствия по «Кремлевскому делу») и его заместитель С. М. Сидоров преследовали лишь одну цель: стремление установить источник клеветнических слухов. Однако уже 27 января 1935 года следствие вышло на Б. Н. Розенфельда, племянника Каменева, работавшего вне Кремля – инженером московской ТЭЦ, а четырьмя днями позже еще и на А. И. Синелобова, порученца коменданта Кремля. Их арестовали, и вскоре допросы Розенфельда позволили следователям получить показания на его отца, Н. Б. Розенфелъда, иллюстратора по договору издательства «ACADEMIA», которое возглавлял по совместительству брат последнего, Л. Б. Каменев; на мать Розенфельда, Н. А. Розенфельд (урожденную княжну Бебутову!), длительное время работавшую в правительственной библиотеке Кремля, а через последнюю – на ее коллег, на тех, кто и дал решающие показания – на Е. К. Муханову и Е. Ю. Раевскую (еще одну урожденную княжну, Урусову).
Показания Синелобова послужили основанием для новых арестов: помощника коменданта Кремля В. Г. Дорошина, начальника спецохраны и помощника Петерсона И. Е. Павлова, коменданта Большого кремлевского дворца Н. П. Лукьянова, начальника административно-хозяйственного управления КК П. Ф. Полякова, и одновременно, его сестры, К. И. Синелобовой, служившей в правительственной библиотеке.