Симха-Янкев Гершевич Блюмкин родился в Одессе на Молдаванке в бедной семье. В 1913 году закончил еврейскую начальную школу, которой руководил известный писатель – «дедушка еврейской литературы» Менделе Мойхер-Сфорим. Обучение в школе было бесплатным, за счёт иудейской общины. Однако есть версия, согласно которой Блюмкин со своей семьей до июля 1915 года жил в Лемберге (ныне – Львов), где учился в немецкой гимназии. После взятия Лемберга русскими войсками в сентябре 1914 года его отец Григорий Исаевич поступил на русскую службу, а после ухода русских из Львова в июле 1915 ушёл вместе с ними.
В 1914 году Блюмкин работал электромонтёром, в трамвайном депо, театре, на консервной фабрике. Участвовал в отрядах еврейской самообороны против погромов в Одессе и вступил в партию социалистов-революционеров.
После переворота большевиков в Петрограде Блюмкин примкнул к отряду матросов, участвовал в боях с частями украинской Центральной Рады. В 1918 году в Одессе участвовал в экспроприации ценностей Государственного банка. По слухам, часть добычи присвоил себе. В январе 1918 года, Блюмкин, совместно с Моисеем Винницким (знаменитым Мишкой «Япончиком») принял активное участие в формировании в Одессе 1-го Добровольческого «Железного отряда».
В мае 1918 года Блюмкин приехал из Одессы в Москву. Руководство Партии левых эсеров направило его в ВЧК заведующим отдела по борьбе с международным шпионажем. С июня 1918 года он заведующий отделением контрразведывательного отдела по наблюдению за охраной посольств и их возможной преступной деятельностью.
Находясь в должности начальника «германского» отдела ВЧК, Блюмкин 6 июля 1918 года явился в посольство Германии якобы для обсуждения судьбы дальнего родственника посла графа фон Мирбаха, которого арестовала ЧК. Его сопровождал сотрудник того же отдела ЧК, эсер Николай Андреев. Блюмкин несколько раз выстрелил в посла, а Андреев, убегая, кинул в гостиную две бомбы. Посол погиб на месте. Преступники скрылись.
Борис Бажанов в своих воспоминаниях описывает эти события иным образом: «Об убийстве Мирбаха двоюродный брат Блюмкина рассказывал мне, что дело было не совсем так, как описывает Блюмкин: когда Блюмкин и сопровождавшие его были в кабинете Мирбаха, Блюмкин бросил бомбу и с чрезвычайной поспешностью выбросился в окно, причем повис штанами на железной ограде в очень некомфортабельной позиции. Сопровождавший его матросик не спеша ухлопал Мирбаха, снял Блюмкина с решетки, погрузил его в грузовик и увез. Матросик очень скоро погиб где-то на фронтах гражданской войны, а Блюмкин был объявлен большевиками вне закона. Но очень скоро он перешел на сторону большевиков, предав организацию левых эсеров, был принят в партию и в чека, и прославился участием в жестоком подавлении грузинского восстания.»
Убийство Мирбаха послужило сигналом для вооружённого выступления левых эсеров против правительства большевиков. После провала эсеровского мятежа Блюмкин под фамилией Белов скрылся.
С сентября 1918 года Блюмкин уже на Украине. В ноябре того же года, в момент всеобщего восстания против украинского гетмана Павла Скоропадского и австро-немецких оккупантов, Блюмкин находит своих партийных товарищей в Киеве и включается в эсеровскую подпольную работу. Он участвует в подготовке террористического акта против гетмана Скоропадского и покушении на фельдмаршала немецких оккупационных войск на Украине Эйхгорна.
В марте 1919 года близ Кременчуга Блюмкин попал в плен к петлюровцам, которые жестоко его избили, выбив ему зубы. После лечения Блюмкин явился с повинной в ВЧК в Киеве. За убийство Мирбаха он был приговорен к расстрелу. Но, во многом благодаря Троцкому Особая следственная комиссия, с одобрения Дзержинского, приняла решение об его амнистии, заменив смертную казнь на «искупление вины в боях по защите революции». Позднее Троцкий взял его к себе в штаб, где Блюмкин и провёл всю Гражданскую войну начальником личной охраны своего покровителя.
Вскоре Блюмкина направили в Персию, где он участвовал в свержении Кучек-хана и способствовал приходу к власти хана Эхсануллы, которого поддержали местные «левые» и коммунисты. В боях шесть раз был ранен. Участвовал в создании Иранской коммунистической партии, стал членом её Центрального комитета и военным комиссаром штаба Гилянской Красной Армии. Он представлял Персию на Первом съезде угнетённых народов Востока, созванном большевиками в Баку.
Вернувшись в Москву, Блюмкин издал книжку о Дзержинском и по личной рекомендации главного чекиста в 1920 году вступил в РКП(б). Затем был направлен Троцким на учёбу в Академию Генерального штаба РККА на восточное отделение, где готовили работников посольств и агентуру разведки. Там к знанию иврита он добавил знание турецкого, арабского, китайского и монгольского языков, обширные военные, экономические и политические знания.