После переезда в дом к юной жене и ее родителям под их влиянием Джон предпринял очередную попытку жить честно: он устроился работать драпировщиком на мебельную фабрику и даже стал членом местного бейсбольного клуба. Но наслаждение семейным счастьем продлилось недолго. Спокойная жизнь вскоре наскучила ему, и он принялся за старое.
Свое первое вооруженное ограбление Джон совершил, когда ему был 21 год. На этот счет есть несколько версий. По одной из них, он отправился в городской парк с только что купленным револьвером, где и подстерег богатенького торговца Моргана. Угрожая ему оружием, Диллинджер-младший вывернул карманы бизнесмена и забрал все ценное, а когда тот попытался возмутиться, молодой гангстер без лишних слов открыл пальбу. На счастье Моргана, Джон еще не умел хорошо обращаться с оружием, и предназначавшаяся жертве пуля попала в спинку садовой скамьи. Вскоре преступник был арестован местным шерифом, а револьвер послужил в качестве вещественного доказательства.
По другой версии, Диллинджер и его новые друзья решили ограбить местный универмаг. Когда они услышали от кассира, что в кассе нет денег, то безжалостно прикончили его.
По одним источникам, арестованному обещали снисхождение за чистосердечное признание. В надежде на это тогда еще наивный Джон признал свою вину и получил приличный срок, чего он явно не ожидал. Представ перед судом, Диллинджер вел себя крайне вызывающе, и согласно законам штата судья приговорил его к заключению сроком от 10 до 20 лет (в этих пределах срок могли сократить или увеличить в зависимости от поведения заключенного). Как и для многих других преступников, тюрьма стала для Диллинджера настоящей школой жизни. Там он сделался признанным криминальным авторитетом, а также повстречал Гарри Пирпойнта – человека, подсказавшего Джону способ, который помог бы ему стать богатым. Гарри имел в виду вооруженное ограбление банков. В тюрьме Джон Диллинджер в совершенстве смог изучить технику совершения банковских ограблений. С помощью Пирпойнта и других заключенных Джон составил для себя список банков на Среднем Западе, которые стоило ограбить. Здесь же, в тюрьме, он присмотрел себе и будущих сообщников.
Несмотря на большой срок заключения, Диллинджер провел в тюрьме всего 4 года. Кто же мог содействовать его освобождению? Родные или люди из спецслужб США? Истинная причина такого везения покрыта тайной. За примерное поведение Диллинджер был освобожден досрочно. Как бы там ни было, ворота исправительной тюрьмы Пендлтон, где Джон отбывал наказание, для него распахнулись, и узник вышел на свободу. Но как скоро горько пожалели об этом те, кто дал на это согласие!
22 мая 1933 года Джон Диллинджер начал осуществлять свою давнюю мечту. Пока он сидел в тюрьме, Америка стала совсем другой. Послевоенному процветанию пришел на смену жесточайший экономический кризис. Миллионы безработных и бездомных толпились у бесплатных столовых и ночлежек, отчаявшиеся люди стояли возле бирж труда. Но Диллинджера это не беспокоило. Он уже выбрал себе дорогу. В 1933 году в США каждый день совершалось в среднем два нападения на банки. В том же году, по статистике, насчитывалось более 1 300 000 тяжких преступлений, ограблений и убийств, две трети из которых так и остались нераскрытыми. Не остался в стороне и Диллинджер, который внес свою немалую долю в этот список. В его банду входили уже упомянутый Гарри Пирпойнт, Джон Гамильтон и еще несколько человек. Сразу же после освобождения они и принялись за дело, совершая дерзкие налеты на банки, супермаркеты.
На протяжении долгого времени Диллинджер был настоящей головной болью Америки. Он нагло грабил банки один за другим, решив играть по-крупному и живя по принципу «цель оправдывает средства». По его мнению, банки того стоили: в результате каждого нового ограбления ему доставалось не менее 100 тысяч долларов, деньги по тем временам огромные. Полицию скрипела зубами от ярости, банкиры и охранники день и ночь дрожали от страха, а неуловимый гангстер продолжал свое дело. На его счету уже было около 60 удачных ограблений банков. Джон Диллинджер был признан правительством Соединенных Штатов врагом государства номер один. Ни один из королей криминального мира Америки не удостаивался такой «чести» ни до, ни после Джона.