За примерное поведение Диллинджер был освобожден условно-досрочно в 1933 году. За годы, которые он провел в тюрьме, Америка стала другой. Великая депрессия захлестнула общество: миллионы безработных и бездомных, длинные очереди у бесплатных столовых и ночлежек. Но Диллинджер четко знал, как заработать себе на жизнь. Для начала он обзавелся оружием и из своих бывших сокамерников сколотил новую банду.
Преступники заявили о себе уже в сентябре 1933 года. С этого времени сообщения о их дерзких налетах не сходили с заголовков газет, создавая Джону Диллинджеру имидж современного Робин Гуда — не с колчаном и луком, а с автоматом. Американские обыватели с восторгом читали статьи, в которых описывалось как во время одного из ограблений банка главарь банды с легкостью перескочил через высокую банковскую стойку на манер актера Дугласа Фэрбенкса.
Спустя четыре месяца полиция впервые арестовала дерзкого бандита. Из небольшой тюрьмы в городе Лима штата Огайо ему удалось бежать при помощи своих подельников. Тюремному начальству бандиты представились офицерами полиции и потребовали свидания с заключенным. Местный шериф заплатил за свою подозрительность жизнью. Когда он потребовал у прибывших «полицейских» документы, Пирпойнт застрелил его. Никто не мог даже предположить, как гангстеры узнали о задержании своего босса, о котором знали только шериф Бэфтона и несколько человек из руководства ФБР.
Выйдя на свободу, Диллинджер стал полновластным хозяином штата Индиана. Для того чтобы раздобыть оружие, бандиты нападали даже на полицейские участки. Всего за 1933 год банда Диллинджера совершила 45 банковских ограблений, похитив в сумме более 5 миллионов долларов. Полиция штата была мобилизована для проведения облавы на преступников. Но Диллинджер виртуозно ушел от погони, скрывшись в Чикаго. Отличаясь хорошим чувством юмора, бандит послал начальнику полиции Индианы к Новому году своеобразный подарок: книгу под названием «Как стать детективом».
15 января 1934 года Диллинджер совершил самое крупное из своих ограблений. Во время нападения на Национальный банк в Ист-Чикаго банда похитила 264 тысячи долларов. Все усилия, которые были применены для того, чтобы арестовать преступников, не принесли желаемого успеха. Пока агенты ФБР и полицейские сутками на пролет разыскивали гангстеров, банда Диллинджера отдыхала в Таскоиском «Конгрессотеле». В ночь на 26 января 1934 года там произошел пожар. Пожарный Джеймс Фримен вытащил из огня Диллинджера, нескольких его друзей и чемодан с деньгами. В знак благодарности гангстеры подарили ему 12 долларов, а спустя некоторое время пожарный позвонил в полицию и очень долго объяснял по телефону, что Джон Диллинджер находится сейчас в местном госпитале, пьяный и угоревший. Преступник № 1 вновь был арестован и содержался под стражей в каторжной тюрьме Краун-Поинта с исключительными мерами предосторожности.
Но несмотря на это 14 февраля 1934 года Диллинджер и его сообщник Гарри Янгблад сумели совершить побег, пройдя через дворик охраны, сели в машину, на которой ездила начальница тюрьмы Лилиан Колли, и скрылись, прежде чем их побег вообще смогли обнаружить.
Газеты подняли неимоверную шумиху. Волей-неволей правительству США пришлось заняться этим невероятным по дерзости преступлением. Спустя всего несколько дней представителям прессы продемонстрировали муляж автомата, якобы найденного на месте побега гангстеров. Официальные власти таким нелепым образом стремились создать впечатление, что побег был осуществлен без посторонней помощи, благодаря лишь хитроумному трюку. По версии представителей ФБР, Диллинджер вырезал из табуретки, находившейся в его камере, деревянный автомат, которым и напугал охрану при побеге. Многие журналисты открыто бросали правительству упреки в том, что «власти и полиция из простого инстинкта самосохранения не могут допустить открытого процесса против банды Диллинджера. Они так глубоко пронизаны коррупцией, что теперь любой ценой обязаны спасать гангстеров».
Косвенно эти подозрения подтверждали и действия Федеральной прокуратуры в Вашингтоне. Ничего не опровергая, представители ФБР стремились свалить всю ответственность за происшедшее на начальника и персонал каторжной тюрьмы в Краун-Поинте.
Лилиан Колли, охрана и служащие тюрьмы, охранявшие Диллинджера, были арестованы. Но им так и не было предьявлено никаких обвинений. А до суда дело вообще не дошло. Это был лишь обходной маневр, рассчитанный на успокоение общественного мнения.