«Льготные условия тюремного режима» — так называли искровцы распорядок в Лукьяновке, дали возможность Бауману и его друзьям почти с первых же дней заключения приступить к разработке плана побега. Прежде всего были установлены связи с Киевским городским комитетом социал-демократов. Оставшиеся на воле товарищи сообщили, что в точно назначенное время искровцев будут ждать на Днепре, в определенных местах, лодки для перевоза; в пригородах их должны были встретить товарищи и принести им одежду и обувь. План побега, разработанный искровцами, был крайне прост и в то же время дерзок и смел до чрезвычайности. Для его выполнения надо было «постоянно приучать» администрацию тюрьмы к шуму, крику и песням на дворе для прогулок. В течение нескольких недель Бауман и его товарищи усиленно играли в городки, бегали и устраивали возню с товарищами по заключению, упражнялись в постройке «пирамиды». Этому упражнению заключенные уделяли особенно много внимания — от быстрого и крепкого построения пирамиды (или «слона») зависел весь успех намеченного плана. «Слон» строился так: на спины двух наиболее физически крепких искровцев становились двое менее тяжеловесных, но гибких и ловких друзей. Наконец на вершину «пирамиды» взбирался наиболее ловкий, гимнастически натренированный искровец с балансиром — палкой — в руках. Эту вершину «пирамиды» всегда украшал собою Бауман — ловкий, сильный, гибкий. С вершины «пирамиды» до верхушки крепостной стены оставалось не так уж далеко. И искровцы по десятку раз в день упражнялись в создании «слона», стараясь достигнуть совершенства в быстроте проведения этой своеобразной гимнастической тренировки.
Вскоре искровцы вполне освоили технику создания «слона». По сигналу Баумана «пирамида» строилась меньше чем в минуту.
В это же время, в начале августа, заключенные получили весьма ценный подарок. «С воли» им иногда пересылали продукты, цветы и даже спиртные напитки. Начальник тюрьмы капитан Сулима, сам неравнодушный к спиртному, не препятствовал передачам, тем более, что родственники и друзья заключенных и ему передавали бутылку-другую лучшего коньяка.
Однажды в тюрьму на передачу явилась жена Баумана и попросила разрешения передать мужу-«имениннику» большой пирог, закуску и огромный букет роз. Она так очаровательно просила Сулиму передать цветы непомятыми, что капитан не стал рассматривать букет. Когда заключенные получили именинные подарки, то страшно обрадовались именно розам: в середине букета была искусно спрятана небольшая, но очень прочная «кошка» (стальной крючок). Теперь можно было в глубоких сумерках, после ужина, попробовать свое уменье и сноровку в забрасывании «кошки» с веревкой на зубцы крепостной стены. Веревку исподволь сплетали и связывали из отдельных прочных кусков, передаваемых «с воли», и из простыней, аккуратно разрезанных на длинные полосы и туго скрученных. Ступеньками должны были служить ножки стульев и табуреток, находившихся в камерах, и просто обломки палок (битки от городков).
Август в тот год стоял сырой, дождливый и холодный. В начале восьмого уже темнело. Семь раз (с половины июля до половины августа) побег назначался, товарищи на воле получали точное время намечаемой попытки освобождения, но каждый раз в результате каких-либо непредвиденных осложнений побег откладывался.
Однако заключенные продолжали упорно готовиться к побегу. Бауман с шутками и смехом, но удивительно настойчиво и твердо убеждал своих товарищей, что «представление непременно состоится… пока оно лишь отложено по непредвиденным техническим причинам». И действительно, восьмая по счету попытка побега увенчалась полным «успехом.
Побег произошел вечером 18 (31) августа 1902 года. Искровцы устроили «именины» одного из заключенных — Басовского. Это послужило предлогом для того, чтобы хорошенько угостить спиртным надзирателя и даже часового. В спиртное, кроме того, добавили снотворного порошка, с таким расчетом, чтобы сон тюремщиков продолжался несколько часов. Затем после ужина, часов в 8 вечера, когда вокруг уже стало совсем темно, искровцы вышли «подышать перед сном свежим воздухом, после именин».
Заключенные с обычными песнями и шумом гуляли во внутреннем дворе тюрьмы. План побега был разработан до мелочей. Каждый знал, за кем он должен подниматься на «пирамиду», за кем спускаться по веревке со стены. Точное выполнение всех деталей намеченного плана содействовало успеху побега.
Бауман был в числе первых, подошедших к крепостной стене. Под накинутыми на плечи халатами заключенных были «ступеньки» из обломков стула и веревка с «кошкой».