Получив санкцию Сталина, Каганович организовал подлинный разгром Ивановского обкома партии. Выступая в начале августа 1937 года на пленуме уже весьма поредевшего обкома, он обвинил всю партийную организацию в попустительстве врагам народа. Сам пленум проходил в атмосфере террора и запугивания. Стоило, например, секретарю Ивановского горкома А. А. Васильеву усомниться во вражеской деятельности арестованных работников обкома, как Каганович грубо оборвал его. Тут же на пленуме А. А. Васильев был исключен из партии, а затем и арестован как враг народа. Такая же судьба постигла и члена партии с 1905 года, председателя областного Совета профсоюзов И. Н. Семагина (См.: Очерки истории Ивановской организации КПСС. Ярославль, 1967. Ч. 2. С. 296.).
Если остановиться на примере Ивановской области, обнаруживается, что под колеса террора благодаря Кагановичу попали и сами исполнители террористической кампании. Впрочем, это в 1937 году было общим правилом: для Сталина не существовало «своих», которые бы могли чувствовать себя в безопасности.
Ивановская газета «Рабочий край» задолго до приезда Кагановича пестрела заголовками: «Подозрительное поведение тов. Фрумкина», «Перерожденцы из облсовета Осоавиахима», «Двурушник Крутиков исключен из партии» и т. п. Какую роль во всем этом играл обком партии, видно из произошедшего в апреле случая, когда управляющий Шуйским хлопчатобумажным трестом Гусев, обвиненный в приеме на работу 12 троцкистов (то есть на его предприятии было арестовано 12 человек, что становилось поводом для ареста руководителя), был оправдан партийным собранием треста. Обком вмешался и восстановил несправедливость. К концу мая врагов «обнаружили» во всех райкомах города Иваново, в горкоме и облисполкоме. Первый секретарь обкома Носов на областной партконференции сделал вывод: «Было бы вредным думать… что все враги народа – троцкисты и правые контрреволюционеры уже разоблачены и обезврежены» (См.: Рабочий край (Иваново). 1937, 29 мая.). Но после приезда Кагановича «врагом народа» оказался и сам Носов.
Это посещение Кагановичем Иванова прошло бесшумно – не было не только никаких торжеств, но и вообще ничего не сообщалось о приезде в город секретаря ЦК партии.
Так же грубо и жестоко, как в Иванове, действовал Каганович и в Донбассе, куда прибыл в 1937 году для проведения чистки. Он сразу же созвал совещание областного хозяйственного актива. Выступая с докладом о вредительстве, Каганович прямо с трибуны заявил, что и в этом зале среди присутствующих руководителей есть немало врагов народа и вредителей. В тот же вечер и ту же ночь органами НКВД было арестовано около 140 руководящих работников Донецкого бассейна, директоров заводов и шахт, главных инженеров и партийных руководителей. Списки для ареста были утверждены накануне лично Кагановичем.
Сталин активно помогал Кагановичу в разгроме партийной организации Украины. На пленуме Киевского обкома партии Каганович добился смещения бюро обкома во главе с П. П. Постышевым, с мстительной активностью сводя счеты со своими оппонентами 1927—1928 годов.
22 августа 1937 года Каганович был назначен наркомом тяжелой промышленности. Ровно за две недели до этого, после критической статьи в подведомственном ему «Гудке», был разгромлен партком Наркомтяжпрома. Таким образом Каганович внес свой вклад в чистку наркомата, еще не успев возглавить его. Начатая с приходом нового руководителя перестройка структуры управления тяжелой промышленностью вскоре была объявлена в Совнаркоме «примером для перестройки работы других хозяйственных наркоматов». Никогда не забывавший о наградах, Каганович учредил переходящие Красные знамена победителям социалистического соревнования в Наркомтяжпроме, «Похвальный лист» и значок «Отличник социалистического соревнования Тяжелой Промышленности».
23-25 ноября Каганович по совету Сталина провел в Свердловске совещание работников медной промышленности с целью «выяснить причины плохой работы». И хотя разговор был предметным и деловым, первая и главная причина отставания подотрасли была предопределена заранее: «Мы проглядели вредительство в медной промышленности, а после того как факты подлого вредительства были вскрыты, мы не выполнили до конца указаний товарища Сталина по ликвидации последствий вредительства японо-германских, троцкистско-бухаринских шпионов» (Ко всем рабочим, инженерам, техникам, ко всем работникам медной промышленности // Правда. 1937. 27 нояб.). В конце совещания Каганович премировал всех его участников именными часами.
В 1938 году Каганович приложил руку к аресту и расстрелу Николая Чаплина – генерального секретаря ЦК ВЛКСМ с 1924 по 1928 год: он отозвал Чаплина из командировки, и в ночь после приезда за ним пришли (См.: Новопокровский О. Обвинение // Сельская молодежь. 1989. № 4. С. 3.).