С этого времени Азеф возглавил Боевую организацию эсеров, которая занималась «центральным террором», т. е. подготовкой покушений на высших сановников. Боевой организации принадлежало особое место в партийной структуре. ЦК отдавал лишь общие директивы, во всем остальном организация получала полную самостоятельность. В террористической деятельности Азефа был годовой перерыв. В октябре 1906 г. он подал в отставку, но осенью 1907 г. вновь занял этот пост. Численность Боевой организации не превышала 15–20 человек, однако эта маленькая армия отнимала у ее командира много времени. Помимо боевиков в организацию входили «техники», имевшие дело со взрывчатыми веществами. Одним из них был младший брат Азефа, Владимир, химик по специальности. В российской глубинке ждали своего часа женщины, готовые в зависимости от задания принять облик светских дам или кухарок, привезти бомбу в шляпной коробке или нанять квартиру для явки.
Среди эсеровской молодежи всегда было достаточно желающих уйти в террор. Азефу не составляло труда найти фанатиков, которые не разомкнули бы уст даже под виселицей. При первой встрече Азеф предпочитал оттолкнуть добровольца, объяснив ему с равнодушным видом, что в его помощи не нуждаются. Только самые упорные имели шанс приобщиться к террору. Тщательность отбора принесла плоды. Членам Боевой организации порой не хватало умения, у некоторых сдавали нервы в самый ответственный момент. Зато ни один из них, будучи схваченным на месте преступления, не выдал товарищей.
В Боевой организации господствовала суровая дисциплина, боевики представляли собой сплошную солдатскую массу: «манеры, костюм, даже лица казались однородными». Недоброжелатели говорили, что среди боевиков культивировался «кавалергардский дух». Считая себя элитой, они свысока смотрели на остальных эсеров. Будучи отличным психологом, Азеф не упускал случая пожаловаться своим подчиненным на то, что члены ЦК, не высовывавшие носа из заграничных убежищ, осмеливаются критиковать людей, которые ежеминутно рискуют жизнью в России. Неудивительно, что боевики были недоброжелательно настроены к лидерам партии и признавали авторитет только своего руководителя.
Азеф был весьма скуп насчет информации о членах Боевой организации. В своих донесениях он высказывал туманные предположения о ее составе, обещал навести справки, сетовал на невозможность выяснить личности боевиков, которых он сам же принял в ряды организации.
Он затеял игру в прятки по поводу своего ближайшего помощника Бориса Савинкова — неохотно признал, что знает такого, потом попросил прислать одну фотокарточку, затем другую. Азеф пожертвовал Борисом Савинковым только после того, как требования полиции стали слишком настойчивыми. После его ареста он отказался предпринять какие-либо шаги для его освобождения. Впрочем, после дерзкого побега Савинкова из камеры смертников Азеф договорился с Герасимовым, что не будет второй раз сдавать полиции своего помощника.
Было бы неправильно считать Азефа ответственным за бесконечную череду политических убийств, нападений и экспроприации, которыми изобиловала история освободительного движения. Он не мог также отвечать за многочисленные покушения, совершенные местными эсеровскими организациями и летучими отрядами Зильберберга и Трауберга.
Однако за ним числилось самое громкое дело Боевой организации — убийство министра внутренних дел В.К. Плеве. Между прочим, Азеф дважды (в 1902 и в начале 1904 г.) отводил опасность от министра. Когда по его указанию была арестована террористическая группа Серафимы Клитчоглу, полиция не подозревала, что вот уже несколько месяцев куда более опасные боевики во главе с Савинковым охотятся за Плеве. Их направил в Петербург не кто иной, как секретный агент Азеф. При разработке плана покушения он взял на вооружение методы полицейского наружного наблюдения. Боевики, переодетые уличными разносчиками, фланировали по набережной Фонтанки. Другие эсеры под видом извозчиков следили за поездками министра в царскую резиденцию. Когда наблюдение было налажено, Азеф доставил из заграницы динамит. Рассказывали, что он провёз чемодан с бомбами в одном купе с Ратаевым.
До прибытия Азефа дело находилось в незавидном состоянии: часть боевиков, не выдержав нервного напряжения, покинула столицу. Руководитель Боевой организации вернул всех на места и вдохнул в них такой энтузиазм, что они сочли возможным совершить нападение на министра у здания Департамента полиции. Перед очередным отъездом Азеф предостерегал, что на набережной Фонтанки наиболее сильная охрана. Его правота подтвердилась 16 марта 1904 г., когда боевики пытались подкараулить министра. Почувствовав пристальное внимание охранников, боевики поспешили скрыться.