Первый удар по контрреволюционному анархистскому подполью и уголовщине ВЧК нанесла еще весной 1918 года. Тогда 3 апреля она обратилась к населению Москвы с призывом оказывать поддержку в ее деятельности. В обращении говорилось, что «первейшей задачей Всероссийской чрезвычайной комиссии будет борьба За полную безопасность и неприкосновенность личности и имущества граждан от произвола и насилия самовольных захватчиков и бандитов, разбойников и хулиганов и обыкновенного жулья, осмелившихся скрываться и выдавать себя за… членов революционных организаций. В борьбе с этими двойными преступниками, охотно… принимающими в свою среду контрреволюционеров и белогвардейцев, будет проявлена особая решительность и беспощадность…». Всем уголовным элементам предлагалось в 24 часа покинуть Москву «или совершенно отрешиться от своей преступной деятельности, зная вперед что через двадцать четыре часа после опубликования этого заявления все, застигнутые на месте преступления немедленно будут расстреливаться». Но предупреждение подействовало не на всех. 11 апреля состоялось экстренное заседание ВЧК, на которое были приглашены представители всех районов столицы. На нем было принято решение немедленно приступить к разоружению анархистов.
В 12 часов ночи отряды Московского гарнизона и чекисты начали операцию. Они оцепили 25 особняков анархистов, выставили против них броневики и потребовали сдачи оружия. Большинство анархистов после недолгих колебаний сдались, но у некоторых особняков на Малой Дмитровке, на Поварской и на Донской анархисты оказали отчаянное сопротивление. В окнах были выставлены пулеметы, даже горные пушки, было брошено несколько бомб. После применении чекистами артиллерии осажденные сдались. В доме «Анархия» на Малой Дмитровке был захвачен большой склад оружия — от револьверов до орудий, в подвале были обнаружены запасы продовольствия. Операция завершилась к 2 часам дня 12 апреля, арестовано было около 400, убито и ранено 30 анархистов.
«Нашей задачей, — говорил тогда Феликс Эдмундович Дзержинский, — с самого начала возникновения Чрезвычайной комиссии как органа борьбы с антиреволюционными явлениями была борьба с преступностью во всех ее проявлениях. Поэтому совершенное нами очищение города в ночь на 12 апреля следует рассматривать как одно из наших мероприятий, осуществленное в широком масштабе… Мы имели определенные сведения, что вожди контрреволюции хотят воспользоваться преступными элементами, сгруппировавшимися вокруг групп федерации, для выступлений против Советской власти… Последнее обстоятельство подтверждается также и теми своеобразными мотивами, которыми руководствовались анархистские группы при занятии особняков: они выбирали стратегические пункты как раз против всех наиболее важных советских учреждений города, поэтому мы имели основание предполагать, что якобы анархистскими организациями руководит опытная рука контрреволюции. Мы в настоящее время будем продолжать с должной энергией довершение начатого дела по очищению города от преступных элементов. В ближайшем будущем нами образуется особый подотдел, который систематически займется борьбой с преступными элементами…»
Удар, нанесенный ВЧК по анархистскому подполью, заставил контрреволюционеров на время притаиться, но сдаваться они не собирались. В начале 1919 года московские анархисты, считавшие вооруженные выступления против Советской власти и террор основными формами борьбы, решили объединить свои силы и образовать нелегальную организацию.