Февральская революция застала Блюмкина в Одессе. Он принял в ней участие как агитатор первого Совета рабочих депутатов, выступая на различных предприятиях с агитацией за присоединение к революции и посылку депутатов в Совет. Потом в силу ряда обстоятельств он был вынужден переехать в Харьков. Но и там Блюмкин быстро установил контакты с организацией эсеров которые сразу привлекли его к агитационной работе.
Новость об Октябрьском перевороте меняет все планы Блюмкина и он спешно возвращается в Одессу. Там он записывается добровольцем в матросский «Железный отряд» при штабе 6-й армии Румынского фронта участвует в боях с войсками Центральной рады, с гайдамаками. В марте 1918-го года его отряд влился в состав 3-й советской Украинской армии.
Через два месяца, после расформирования 3-й армии, Блюмкин приезжает в Москву, где поступает в распоряжение ЦК партии левых эсеров. Он неплохо зарекомендовал себя в боях с германскими интервентами и войсками Центральной рады, чем и привлек к себе внимание левоэсеровских лидеров. Его направляют во Всероссийскую чрезвычайную комиссию. По предложению заместителя председателя ВЧК левого эсера Александровича Блюмкину было поручено организовать отделение по борьбе с международным шпионажем.
Во время службы в ВЧК наглядно высветились основные черты противоречивого характера Блюмкина. С одной стороны — абсолютная вера в идеалы мировой социальной революции и готовность идти ради неё на самопожертвование; с другой — хвастовство, зазнайство, склонность к авантюрным поступкам без оглядки на последствия своих действий.
Самолюбию Блюмкина льстило что его как сотрудника ВЧК все боятся. В беседах со знакомыми он изображал из себя человека, наделённого правом решать вопросы жизни и смерти арестованных. Своим приятелям — поэтам Сергею Есенину и Осипу Мандельштаму — он даже как-то предлагал прогуляться до ЧК и посмотреть, как в подвалах Лубянки расстреливают контру.
Приведу только один случай из жизни Блюмкина-чекиста наглядно характеризующий этого человека. В один из последних дней июня 1918-го года Яков Блюмкин вместе с Осипом Мандельштамом, комиссаром ВЧК Александром Трепаловым и своим знакомым по Одессе Петром Зайцевым зашёл в писательское кафе. Подвыпив, он начал хвастаться тем, как ему удалось арестовать австрийского офицера графа Роберта Мирбаха брат германского посла действительно арестованный ЧК по обвинению в шпионской деятельности в пользу Австро-Венгрии.
— Не сознается, — цинично говорил Блюмкин, — поставлю его к стенке. И вообще жизнь людей в моих руках. Подпишу бумажку — через два часа нет человека. Вон, видите, вошел поэт. Он представляет большую культурную ценность. А если я захочу — тут же арестую его и подпишу смертный приговор. Но если он нужен тебе, — обратился Блюмкин к Мандельштаму, — я сохраню ему жизнь.
Тут Блюмкин преувеличивал права решать вопрос о наказании арестованных, тем более о расстреле, он не имел. Такое постановление в то время могла выносить только коллегия ВЧК при условии, если ни один из её членов не проголосует против. Однако Мандельштам этого не знал. Он принял слова Блюмкина за чистую правду. Поэт вскочил из-за стола и запальчиво крикнул:
— Это палачество! Ты не имеешь права так поступать с людьми. Я сделаю всё возможное и не допущу расправы!
— Не вмешивайся в мои дела! — грубо оборвал его Блюмкин. — Посмеешь сунуться — сам получишь пулю в лоб.
С большим трудом Трепалов и Зайцев загасили ссору 16.
Всемирную известность Якову Блюмкину принесло совершённое им 6 июля 1918-го года убийство германского посла — графа Мирбаха — едва не спровоцировавшее войну с Германией. Произошло это так.
Известно что основные расхождения в программах двух революционных партий большевиков и левых эсеров — касались вопросов внешнеэкономической политики. Так эсеры считали факт подписания ленинским правительством Брестского договора предательством дела революции. Заседавший в Москве в первых числах июля 1918-го года Третий Всероссийский съезд партии левых социалистов-революционеров по вопросу о внешней политике Советской власти постановил разорвать революционным способом гибельный для русской и мировой революции Брестский договор. Исполнение этого постановления съезд поручил ЦК партии.
Выполнить волю съезда Центральный Комитет решил путём совершения акта индивидуального террора над одним из наиболее активных и хищных представителей германских империалистических вожделений в России, графом Мирбахом.
Организация акции осуществлялась в спешке и заняла всего два дня. Непосредственными исполнителями должны были стать Яков Блюмкин и фотограф подведомственного ему в ЧК отдела по борьбе с международным шпионажем Николай Андреев.
Утром 6-го июля Блюмкин пришёл в ЧК. У дежурной секретарши в общей канцелярии он попросил стандартный бланк Чрезвычайной комиссии и отпечатал на нём следующее.
"УДОСТОВЕРЕНИЕ.