В тюрьме «Кресты» Пантелеев был заключен в камеру № 196, Лисенков в камеру № 195, Рейнтоп – в камеру № 191, а Гавриков – в камеру № 185. Все эти камеры находились в 4-й галерее. В ночь с 10 на 11 ноября 1922 года, воспользовавшись помощью надзирателя, вся эта дружная компания совершила побег. Это, кстати, был первый удачный побег из «Крестов». Перепрыгнув через забор тюрьмы, бандиты разошлись: Пантелеев и Гавриков пошли к Неве по направлению к Николаевскому мосту, а Лисенков и Рейнтоп направились к Марсову полю.
На самом деле, только острое Ленькино чутье спасло банду от немедленного ареста. Взявшиеся за дело сотрудники ГПУ мгновенно вычислили надзирателя, помогавшего бандитам бежать, и тот признался, что через три дня после побега он должен был встретиться с бандитами на Обводном канале под Американскими мостами. Чекисты привезли туда надзирателя, но Ленька заметил, что за тем кто-то следит, и решил на встречу не идти.
Пантелеев и Гавриков понимали, что необходимо уходить из Петрограда, но хотели немного подзаработать, чтобы было с чем ложиться на дно. Ленька решил уходить в Эстонию, на границе с которой он знал «нужных людей». Жили они все это время, по большей части, в воинских кассах Московского вокзала. Несколько раз ночевали на «малинах» в районе Пряжки, где Ленька многих знал.
Бандиты извлекли из тайника бриллиант, оставшийся с одного из налетов, и на Обуховской толкучке купили четыре пистолета, кожаные куртки и буденовки. Обзавелись они и фальшивыми документами. Для начала стали раздевать прохожих на Марсовом поле. Лежали на склоне Лебяжьей канавки и, когда патрульный милиционер был далеко, а прохожий близко, резко выскакивали и раздевали того. Как потом говорил на следствии Гавриков, старались не рисковать, раздевали не более четырех человек за ночь. Когда они поняли, что на Марсовом появились переодетые сотрудники угрозыска, то сменили место грабежей, перейдя в район Сергиевской (ныне улицы Чайковского) и Кирочной улиц. Здесь не обошлось только грабежом: они убили нескольких прохожих, в частности инженера Студенцова с женой. Пантелееву показалось, что Студенцов вынимает из кармана револьвер, и он застрелил его, а потом, чтобы избавиться от свидетеля, и жену.
Время от времени они встречались с Рейнтопом и Лисенковым, но вместе не работали: вдвоем уходить с небольшого дела было безопасней.
Наконец бандиты решили, что пора браться за серьезные дела. Вчетвером они вошли в квартиру профессора Романченко в доме № 12 по 10-й Роте Измайловского полка (сегодня это 10-я Красноармейская улица). Профессора убили, а его жену тяжело ранили. Застрелили и собаку, которая лаяла на грабителей. Через два дня был совершен еще налет, а потом и еще один.
Запятнав руки кровью, Ленька начал нервничать. Как-то, когда он шел по Столярному переулку, ему показалось, что за ним идет агент. Обернувшись, он увидел глядящего на него матроса и уложил того двумя выстрелами из револьвера. В другой раз он также стрелял в случайного прохожего, но тут его подозрения были обоснованны: раненый оказался сотрудником милиции, хотя и не подозревал, кто в него выстрелил.
В декабре 1922 года, за несколько дней до Нового года, Ленька с Швриковым решили взять ресторан «Донон». Это был серьезный куш. «Донон», располагавшийся на набережной Мойки, 24, еще в царское время считался одним из лучших городских ресторанов, а когда он был снова открыт во времена НЭПа, в нем собиралась только изысканная и очень богатая публика. В СССР продолжался сухой закон, но в «До-ноне»
…Пьяные Пантелеев и Гавриков вошли в переднюю «Донона», и швейцар, тут же почувствовав в этой парочке что-то неладное, дал тревожный звонок. В холл вышел метрдотель, готовый уладить «неудобную» ситуацию, но, увидев просто двух пьяных гуляк, вызвал милицию, которая находилась в соседнем доме. Ленька обернулся и увидел, что в длинный коридор «Донона» входят милиционеры. Он толкнул Гаврикова, и они побежали в сад ресторана. Там их нашли и повели в отделение, приняв за обычных подвыпивших хулиганов. Когда Леньку выводили на набережную через железную калитку в воротах, он развернулся и резко ударил милиционера кулаком в лицо, дворника – ногой в живот и, достав револьвер, побежал, отстреливаясь, по набережной влево, в сторону Марсова поля. Ему стреляли вслед, ранили в руку. Ленька добежал до Пантелеймоновской церкви, забежал внутрь и спрятался между колонн.