Для ликвидации бандитского выступления в Тамбовской губернии необходимо было в первую очередь усилить войска внутренней службы НКВД РСФСР. В связи с этим 15 октября 1920, Ф. Э. Дзержинский обратился в ЦК РКП (б) с просьбой направить эти войска на территории Тамбовской губернии как можно больше коммунистов.
Спустя несколько дней, знакомясь с положением дел в Тамбовской губернии, В. И. Ленин пришел к выводу о слабости находящихся там сил, особенно кавалерии. В записке командующему войсками внутренней охраны и Ф. Э. Дзержинскому Ленин указывал, что скорейшая и примерная ликвидация мятежа безусловно необходима. "Прошу сообщить мне, — говорилось в записке, какие меры принимаются. Необходимо проявить больше энергии и дать больше сил"
В результате, в декабре 1920, в Тамбовскую губернию были переброшены из Казани отряд особого назначения (полк пехоты), отдельный эскадрон, взвод батареи и полк кавалерии войск внутренней службы. Из Москвы был направлен полк особого назначения ВЧК.
После подписания перемирия с Польшей в район мятежа в конце 1920 — начале 1921 года стали прибывать части Красной Армии. С Украины была переброшена знаменитая кавалерийская бригада Г. И. Котовского. Командующим войсками Тамбовской губернии был назначен Μ. Н. Тухачевский.
Вместе с бойцами регулярной армии чекисты и чоновцы показали в борьбе с бандитами образцы выдержки и героизма. В боях под селом Лавровкой 1-й автоброневой отряд имени Петроградского Совета разгромил банды атамана Карася. За мужество, проявленное в бою под деревней Поспеловой, командир отряда А. А. Васькин был награжден орденом Красного Знамени. Затем этот бронеотряд не только отстоял от бандитов уездный город Кирсанов, но и наголову разгромил одну из антоновских банд, пытавшуюся ворваться в него.
По результатам боевых действий Управление броневых частей Тамбовского командования Красной Армии, так аттестовало командира бронеотряда А. А. Васькина: "всё время в боях, проявил храбрость, служа всегда примером для подчиненного ему комсостава и красноармейцев, и благодаря хорошему знанию дела и распорядительности все операции, проводимые отрядом, оканчивались успехом для нас и поражением для банд".
Чтобы успешно бороться с бандитами, уклонявшимися от боя, требовалось применить военную хитрость. Многие чекисты были направлены в логово врага. Выполняя опасные задания, чекисты проявляли исключительную выдержку, отвагу и изобретательность. Так, например, сотрудник особого отдела В. Г. Белугин, получив задание ликвидировать одну из антоновских банд, сумел "войти в доверие" бандитских главарей. В начале 1921 года он вызвал в условленное место на "совещание" атамана банды Матюхина и его штаб, предварительно организовав засаду из 37 кавалеристов. Когда главари прибыли, Белугин открыл по ним огонь, убил Матюхина, а остальных уничтожили красноармейцы. За этот подвиг Василий Белугин был награжден орденом Красного Знамени.
Еще более дерзкая и широкая по размаху операция была осуществлена в июле 1921 г. По заданию командования уполномоченный Особого отдела кавалерийской бригады под командованием Котовского — Николай Гажалов совместно с другими чекистами сформировал группу кавалеристов, которая должна была выдать себя за Кубано-Донскую повстанческую бригаду Фролова, прибывшую якобы на соединение с аитоновцами. Операция была крайне опасной. От каждого бойца требовалась не только личная храбрость, но и исключительная выдержка, чтобы, находясь в стане бандитов, видя их зверства, не выдать себя ни словом, ни поступком. Поэтому в особую группу отбирались самые храбрые, выдержанные, хладнокровные конники из бригады Котовского.
Бойцы заменили красноармейскую форму одеждой, обычной для бандитов, и отправились на выполнение задания. Не вызывая подозрений, они соединились с мятежниками. В назначенное время мнимая "Кубано-Донская бригада", нанесла сокрушительный удар по центрам бандитизма на Тамбовщине. Многие из участников этой смелой операции были награждены орденами Красного Знамени.
Во время этих боев части особого назначения укрепились и оформились организационно. В начале февраля 1920 г. ЦК РКП (б) признал необходимым "изъять формирование и управление отрядами особого назначения из непосредственного ведения местных комитетов РКП и передать эти функции Всеобучу". Однако такое подчинение ЧОН продолжалось недолго. 11 нюня 1921, ЦК РКП (б) в письме ЦК КПУ писал: "Политические соображения требуют того, чтобы коммунистические отряды были наилучше организованы и самым тесным образом связаны с партией, являясь надежнейшей опорой Советской власти".