Азеф уехал за границу на переговоры об объединении всех имперских эсеров, и через десять дней после его отъезда Зубатов взял Аргунова. Зубатов был очень доволен и поднял его жалованье втрое, до пятисот рублей в месяц, столько получал тайный советник, или генерал-лейтенант.
В Берне и Берлине произошло объединение эсеровских групп, определены их программа и тактика. Партию социалистов-революционеров возглавили М. Гоц, Г. Гершуни, В. Чернов, М. Натансон, Е. Брешко-Брешковская, Н. Русанов. Штаб-квартира партии во главе с Брешковской располагалось в Саратове, Чернов и Гоц в Берне и Женеве издавали «Революционную Россию». Гершуни возглавил созданную им в апреле 1902 года Боевую Организацию. Азеф стал его помощником-заместителем и вместе с Гершуни расшифровывал все письма из имперских городов, от местных эсеровских групп. Гершуни заявил Центральному Комитету партии, что первым боевики убьют министра внутренних дел Сипягина. В Боевой Организации при ее создании было 14 членов, ко времени убийства Плеве – 80. она была совершенно автономна и самостоятельна, и из соображений конспирации ее связь с ЦК партии осуществлял только М. Гоц. Гершуни помогали Азеф и Мельников.
О планах по убийству Сипягина Азеф знал все, но Зубатову не докладывал, хотя писал в Департамент полиции часто и подробно: «В Берлине и Париже я попал в центр». Он передал Зубатову, что Гершуни – главный организатор партии, но о Боевой Организации не написал ни слова. Азеф сообщил Зубатову, когда и куда выезжает Гершуни, но несколько раз подчеркнул: «Брать его пока не следует ни под каким видом, и не выпускайте его из глаз». Зубатов понял, что станет, наконец, гражданским генералом, когда выявит все революционные адреса в империи, которые должен был объехать Гершуни.
Руководителя партии и Боевой Организации в Петербурге встречал чуть ли не весь летучий филерский отряд Медникова и шансов уйти от профессионалов высочайшего класса у Гершуни, казалось, не было. Первый эсеровский боевик вышел из поезда, определил всех филеров, улыбнулся и исчез. Маршрут Гершуни по империи охранка проследить не смогла и главный террорист сделал все, что запланировал. 3 апреля 1902 года эсеровский боевик в Мариинском дворце в упор застрелил Сипягина, и империя узнала о появлении массовой революционной партии и ее Боевой Организации.
С весны 1902 года Азеф начал вести двойную игру с Департаментом полиции, используя тактику умолчания, ни слова не говоря о Боевой Организации. Агент, ставший в центре революционной террористической партии, считался бесценным приобретением для политического сыска империи, и Азеф получился любимцем и поставщиком наград, чинов и денежных премий для всех своих начальников – Рачковского, Ратаева, Зубатова и Герасимова. Совсем скоро он начал зарабатывать десятки тысяч рублей в год, что было намного больше жалованья российского министра. Во всех своих трех жизнях он пользовался безграничным доверием, и никто, ни жена, ни ЦК партии эсеров, ни Департамент полиции МВД не мог даже предположить, что Азеф мог быть не тем, кем казался.
Департамент полиции через несколько лет составил перечень выдач Азефа, предававшего эсеров сотнями, и он был впечатляющ. Азеф выдал собрание представителей групп социалистов-революционеров в Харькове; типографию Северного союза в Томске; членов Северного союза и Северный летучий боевой отряд; обратил усиленное внимание политического сыска на выдающихся террористов Гершуни, Гоца, Мельникова, Савинкова; выдал выдающихся эсеров Аргунова, Крафта, Григорьева, Слетова, Селюк, подробно осветил эсеровские конспиративные собрания в Париже, Амстердаме, Берлине, Нижнем Новгороде; выдал несколько динамитных мастерских и типографий; выдал боевой комитет по подготовке восстания в Петербурге; предотвратил покушения на жизнь сановников Кутайсова, Дурново, Накашидзе, Унтербергера, Медема; предупредил убийство Николая II, которое, правда, сам и организовал; выдал Боевую Организацию и летучий боевой отряд Карла. Департамент полиции не объявлял, что в первое десятилетие ХХ века эсеровские боевики, Боевая Организация, летучие боевые отряды подчинявшиеся губернским партийным комитетам, городские боевые дружины, совершили почти триста террористических актов против двух министров, тридцати трех генерал-губернаторов и губернаторов, шестнадцати градоначальников, полицмейстеров, прокуроров, начальников сыскных отделений, жандармских управлений, семи генералов и адмиралов, пятнадцати полковников, тридцати провокаторов. Теракты совершали и революционеры-максималисты, отдельные революционеры, анархисты, социал-демократы, националисты. В первое десятилетие жертвами террористических актов стали почти двадцать тысяч чиновников и случайных прохожих. Каждый третий террорист был женщиной.