Началась пропаганда и среди военнослужащих с целью «расшатать, дезорганизовать, парализовать значение армии как средства порабощения населения». В феврале 1902 г. партия выпустила воззвание «Ко всему русскому воинству» и прокламацию «Солдаты и казаки» Во втором, майском, номере «Революционной России» эсеры призвали все местные организации обратить самое серьезное внимание на работу в войсках. В октябре 1902 г. была выпущена прокламация «К рекрутам новобранцам», которая распространялась в Екатеринославской, Киевской, Минской, Могилевской, Полтавской, Херсонской и Черниговской губерниях. В 1903 г. началась рассылка прокламаций офицерам военных академий Петербурга, а затем офицерам двинского, белостокского и ковенского гарнизонов. Широкое распространение прокламаций среди солдат и матросов шло в Севастополе и Кронштадте. В Киеве, Севастополе, Кронштадте, Москве и Петербурге эсеры предпринимали попытки вести кружковые занятия с нижними чинами, но здесь их ждала неудача: чаще всего кто-либо докладывал о революционерах по команде.
Пропаганда среди крестьян, начатая эсерами в 1901 г. в Пензенской, Полтавской, Саратовской и Тамбовской губерниях, в 1902 г. усилилась и охватила и другие районы. Весной 1902 г. в ряде уездов Полтавской и Харьковской губерний возникли беспорядки. Их обострению способствовала пропаганда, которую вели в Малороссии члены «Украинской революционной партии» и эсеры во главе с Брешко-Брешковской. Было решено начать более интенсивную агитационную работу среди крестьянства. В этих целях эсеры объединились с пропагандистами, которые, формально не входя в партию, образовали в ее составе «Крестьянский союз Партии социалистов-революционеров». В 1902–1903 гг. «Крестьянский союз» активно работал в Воронежской, Екатеринославской, Пензенской, Саратовской, Тамбовской, Полтавской и Черниговской губерниях. Позже партия заключила союз с «Аграрно-социалистической лигой».
Хотя организационное оформление партии эсеров несколько затянулось, но, используя благоприятную ситуацию, инициативная боевая группа во главе с Гершуни в 1902 г. начала подготовку к покушению на министра внутренних дел Д. С. Сипягина, обер-прокурора Синода К. П. Победоносцева и петербургского градоначальника Н. В. Клейгельса. На роль исполнителей были выбраны С. В. Балмашев, сын народовольца В. А. Балмашева, а также поручик артиллерии Е. К. Григорьев и его невеста Ю. Ф. Юрковская. Подготовка к покушению проходила на территории Финляндии.
Балмашев-младший в 1901 г. уже привлекался Киевским ГЖУ к дознанию за антигосударственную деятельность, но был освобожден из-под стражи под надзор полиции. Второго апреля, изображая прибывшего с пакетом адъютанта московского генерал-губернатора великого князя Сергея Александровича (он был одет в офицерскую форму), боевик беспрепятственно вошел в кабинет Сипягина и произвел два выстрела в упор, смертельно ранив его. Как показало вскрытие, пули были крестообразно распилены, что повышало их убойную силу. Григорьев и Юрковская отказались от проведения терактов против Победоносцева и Клейгельса во время похорон Сипягина.
После убийства Сипягина Гершуни называет свою группу
Там же высказывались взгляды на террор и его постановку: