Я. Блюмкин и его однопартиец – эсер Николай Андреев – приехали в германское посольство. Вызванный по их требованию Мирбах в течение получаса слушал рассказ о своем племяннике. Затем Блюмкин выстрелил в Мирбаха, но только ранил его. Андреев бросил бомбу, но она не взорвалась. Лишь после повторного броска бомбы Я. Блюмкиным цель была достигнута. Блюмкину удалось бежать из здания германского посольства и укрыться в отряде левого эсера Д. Попова. Прибывший через несколько часов председатель ВЧК Ф. Э. Дзержинский приказал выдать Я. Блюмкина, но эсеры отказались это сделать. Я. Блюмкин был настолько уверен в своей правоте – в том, что поступил исторически оправданно, что даже сам хотел своего ареста и просил привести Ф. Дзержинского в лазарет (там он находился вследствие полученного во время покушения в посольстве ранения). Тогда ревтрибунал заочно приговорил Я. Блюмкина и Н. Андреева к тюремному заключению сроком на 3 года. Однако Я. Блюмкин сбежал из больницы, где, кстати, назвался чужим именем. Какое-то время он жил в Москве, потом – в Рыбинске.
В Кимрах он работал (опять же под чужим именем) в местном комиссариате земледелия. Наконец подпольный ЦК левых эсеров направил его в Петроград. Там он занимался в основном литературной деятельностью – написанием книги о политических событиях, свидетелем которых был сам.
В ноябре 1918 г. Я. Блюмкин приехал в Украину для того, чтобы организовать убийство гетмана П. Скоропадского. Попутно Блюмкин принял участие в устранении главнокомандующего немецкими войсками в Малороссии генерала Г. Эйхгорна. В 1919 г. Яков добровольно явился в Москву для пересмотра своего приговора по делу Мирбаха.
В связи с этим была создана особая следственная комиссия. 16 мая 1919 г. Президиум ВЦИК постановил амнистировать Я. Блюмкина. Чуть позже он порвал с эсерами и вступил в РКПб. Это произошло в 1921 г. Тогда же он поступил в качестве слушателя в Военную академию РККА. И наконец он снова вернулся в ЧК. Ему, как и прежде, нравилось чувствовать свою исключительность, власть, иметь благодаря этому возможности для личного обогащения. Самолюбию Я. Блюмкина льстило то, что некоторые известные личности были многим обязаны именно ему. Так, Сергей Есенин в 1920 г. (18 октября) был арестован чекистами на квартире поэта Александра Кусикова. Есенину было предъявлено обвинение в контрреволюционной деятельности. Из тюрьмы ему помог выбраться Яков Блюмкин. Он лично поручился за Есенина: дал за своей подписью письменное обязательство в том, что поэт явится в суд по первому требованию. Как знать, возможно Яков проникся уважением к известному поэту.
В 1920 г. начинается сотрудничество Я. Блюмкина с Л. Д. Троцким. Сначала Яков стал секретарем наркома обороны. В его обязанности входили: подбор материалов и статей, редактирование, составление собрания сочинений Л. Троцкого, написание к ним предисловий. Помимо подобной литературной деятельности (стать писателем было мечтой Блюмкина еще с юности, одно время он даже работал над книгой о Ф. Дзержинском), Яков вел переговоры по поручению Троцкого, а также выполнял боевые задания.
Л. Троцкий дорожил своим молодым сотрудником, ценил такое его качество, как храбрость, и часто поручал ему проведение ответственных операций. Так, в апреле 1923 г. Я. Блюмкин был задействован в спецоперациях в Германии. В 1925 г., когда затею с германской революцией не удалось претворить в жизнь, Я. Блюмкин некоторое время работал в Наркомторге в качестве начальника организации торговли, а также председателем нескольких комиссий. В 1926 г. в качестве представителя ОГПУ неутомимого Якова направили в Монгольскую Республику. Одновременно он исполнял обязанности резидента в соседних с Монголией странах – Тибете и Китае (некоторых его районах). Например, в гоминьдановской армии генерала Фын Юйсяна Блюмкин был советником по разведке и контрразведке.