Родился в 1886 году в Измаиле в еврейской семье, рано потерял мать. Вырос в городе Балта на юге Подольской губернии. В юности увлекся левыми идеями, во время Первой русской революции распространял большевистскую газету “Искра”, провел несколько недель в тюрьме. Опасаясь нового ареста, бежал за границу. В Австро-Венгрии присоединился к анархистскому движению, был сторонником практики “революционной экспроприации”, своим политическим кумиром считал Петра Кропоткина. В1910 году обосновался в Париже, работал часовщиком. После начала Первой мировой войны вступил в Иностранный легион, затем служил в 363-м пехотном полку французской армии. Кавалер ордена Боевого креста. Получил тяжелое ранение в битве на Сомме и после демобилизации в 1917 году вернулся в Россию. В Петрограде вступил в Красную гвардию, командовал эскадроном в бригаде Григория Котовского. В конце 1919 года эвакуировался из занятой Добровольческой армией Одессы, воспользовавшись статусом французского военного пенсионера. Вернулся в Париж, открыл часовую мастерскую. Активно участвовал в рабочем движении, был известен в организациях анархистов, вступил в просоветский Союз украинских граждан во Франции. Под псевдонимом Бал-Халоймэс (Мечтатель) издал на идише несколько поэтических сборников, цикл военных рассказов, пьесы и книгу мемуаров.
В годы Гражданской войны в России родственники Шварцбурда стали жертвами погромов. Одним из виновных в организации этих преступлений в еврейских кругах считали атамана Симона Петлюру. В 1926 году Шварцбурд спланировал ликвидацию бывшего председателя Директории Украинской народной республики. 25 мая в центре Парижа, опознав свою жертву по фотографии в газете, Шварцбурд убил Петлюру пятью выстрелами в упор. Некоторые историки считают этот теракт инспирированным советской разведкой заговором. Шварцбурд не пытался бежать от полиции, заявив журналистам на месте преступления: “Я убил великого убийцу”. Проходивший в Париже судебный процесс стал модной политической темой, в защиту обвиняемого выступали многочисленные интеллектуалы и политики – от Ромена Роллана и Максима Горького до Альберта Эйнштейна и Александра Керенского. Большинством голосов присяжных подсудимого оправдали, он вышел на свободу. Шварцбурд скончался в 1938 году, его прах перезахоронен в Израиле.