В 1922 году Гудериан поступил на службу в моторизованные войска. Сначала он служил в автомобильных частях, позже — в танковых на различных штабных должностях. Пользуясь своим служебным положением, Гудериан пропагандировал концепцию «танковой войны» и постепенно проявил себя как военный теоретик.
При всей убедительности Гудериана сторонников его концепции было немного. Однако после того, как к власти в 1933 году пришли нацисты, отношение к бронетанковым войскам в Германии изменилось. Адольф Гитлер, глава нового немецкого правительства, присутствовал на учениях, где демонстрировались возможности танков, и был впечатлен мощью этого современного оружия.
В 1934 году Хайнц Гудериан получил приказ сформировать первый в германской армии отдельный танковый батальон, а вскоре стали формироваться и другие. Гитлеровское правительство поспешно переориентировало военную промышленность страны на производство современного вооружения и боевой техники, прежде всего танков. Стартовала и профессиональная подготовка немецких танкистов, некоторые из них обучались в Советском Союзе, в Казанском танковом училище.
К концу 1930-х годов танковая промышленность Германии далеко продвинулась в создании новых моделей техники.
Хайнц Гудериан стремительно двигался по карьерной лестнице. В 1935–1939 годах он, к тому времени уже генерал, командовал танковой дивизией, а затем армейским корпусом.
В нескольких работах Гудериан изложил свои идеи применения бронетанковых войск в современных войнах. Идея танкового блицкрига была основой его книги «Внимание, танки!», которая появилась в 1936 году, когда фашисты наращивали мощь. Концепция «танковой войны» генерала Гудериана была очень кстати. По его мнению, с помощью бронетанковых войск можно успешно прорывать самую сильную позиционную оборону противника, совершать рейды в его тыл, уничтожать командные пункты, тыловые базы снабжения и громить фронтовые резервы.
Именно благодаря Гудериану нацистская Германия к началу Второй мировой войны располагала пятью танковыми дивизиями, готовыми к бою. Еще несколько танковых дивизий находилось на различных стадиях формирования. Испытания броневых машин проходили не только на армейских учениях и полигонах, но и на полях гражданской войны в Испании.
Приказ о начале вторжения в Польшу Гудериан получил 22 августа 1939 года. 1 сентября танковые войска генерала пересекли государственную границу и всего за четыре дня войны разорвали линию обороны польской армии. К 16 сентября сопротивление вооруженных сил Польши было сломлено, варшавское правительство бежало в Лондон. Гудериан получил Рыцарский крест за заслуги.
Победа фашистской бронетанковой армады произвела большое впечатление на современников.
В июне 1940 года Гудериан стал командующим 2-й танковой группой («танковая группа Гудериана»), которая вторглась во Францию. Быстро пройдя Бельгию и форсировав реку Марну, немецкие танки неожиданно атаковали французские войска, не успевшие подготовиться к вторжению врага. Разгромленные французы оставили хорошо укрепленную «линию Мажино».
Несмотря на то что французы и их союзники-англичане имели численное превосходство, германские бронетанковые войска за месяц взяли города Седан, Кале, Булонь и дошли до Ла-Манша. Захватив Булонь, Гудериан отрезал английский гарнизон Кале от главных сил союзников. Битву за Фландрию англичане проиграли и срочно эвакуировались на Британские острова.
Франция капитулировала перед гитлеровской Германией 22 июня 1940 года. К этому дню немецкие танки достигли границы Швейцарии, вступив в город Нанси.
При вторжении немецко-фашистских войск во Францию Гудериан продемонстрировал возможности бронетанковых войск в современной войне. Между Намюром и Седаном его танки легко прорвали французские позиции на 80-километровом фронте. А при совершении марша на запад, к Абвилю, за неделю преодолели 320 километров.
И в Польше, и во Франции идея танкового блицкрига блестяще оправдала себя. Генерал Гудериан стал важным военным идеологом вермахта и принимал активное участие в подготовке вторжения немецко-фашистских войск в Советский Союз.
В июне 1941 года танковые войска Гудериана продвигались в первом эшелоне гитлеровской армии, громя оборону советских войск на главных направлениях. Позже Гудериан в звании генерал-полковника командовал на советско-германском фронте 2-й танковой армией, входившей в состав группы армий «Центр». Танковая армия Гудериана окружала советские войска под Минском и Смоленском.
В начале сентября армия Гудериана, переброшенная на усиление группы армий «Юг», была задействована в операции по окружению Киева, где оборонялись четыре советские армии. Танковый клин 2-й армии наступал на город Нежин, стремясь к соединению с танковыми войсками генерал-полковника Пауля фон Клейста.
Киев был взят 19 сентября, а южнее города, в излучине Днепра, в «котле» оказалось более 600 тысяч советских воинов. За годы Великой Отечественной войны это было одним из самых крупных поражений Красной армии.