В конце I в. до н. э. Август (первый римский император, официально носивший этот титул) осознал, что унаследованная им армия, состоявшая главным образом из набранных на короткие сроки вассалов, была далека от удовлетворительной. Чтобы создать гарнизоны вдоль протяженных границ, контролировать покоренные области и отражать налеты и вторжения извне, требовалась дисциплинированная армия с длительными сроками службы – преданная государству, а не отдельным военачальникам. Август сократил армию до постоянной силы из 168 тысяч легионеров. Кроме того, он оставил армию иностранных наемников из 150 тысяч воинов, которые составляли большую часть конницы и легкой пехоты и подразделялись на когорты пехоты и эскадроны конницы, насчитывавшие от 500 до 1000 воинов. Рим перестал недооценивать морскую мощь. Август основал в Италии еще две военно-морские базы, в Мизенуме и Равенне. Все губернаторы провинций имели в своем распоряжении суда, на пограничных реках держали флотилии. Снаряжение, стратегия и тактика имперской армии на протяжении трех с половиной столетий в значительной мере оставались такими, какими они были при Сципионе, Марии и Цезаре. Боевые порядки в I в. н. э. обычно состояли из трехэшелонного строя пехотных когорт, но не были редкостью и двухэшелонные порядки, во II столетии армия вернулась к тактике фаланг. Иностранные наемники, к тому времени более профессионализированные, проводили разведку боем, а на плотную фалангу ложилось бремя основного удара. Еще одним боевым порядком был «тестудо», или «черепаха», применявшийся при наступлении или отступлении под интенсивным обстрелом; воины передней шеренги держали щиты перед собой, а в шеренге позади держали свои щиты горизонтально над головами; такой панцирь из щитов защищал тех и других.
В период ранней империи северная граница не была твердо установленной. Август стремился продвинуться к Дунаю и Эльбе, и между 17-м и 11 гг. до н. э. один из его пасынков, Тиберий, закрепил границу по Дунаю. Но германцы были не из тех, кто робел перед римской мощью. Хотя их военная структура была примитивной, они восполняли этот недостаток неукротимой энергией и волей к независимости. Война между римлянами и германцами описана великим историком Тацитом, и из его повествования видно, что раннее общественное устройство последних было ориентировано на войну. «На поле боя выносились некие тотемы и символические знаки. Самым сильным стимулом к мужественным действиям служили семейные и кровные узы. Некоторые проигранные или проигрывавшиеся битвы оборачивались вспять женщинами, выступавшими с неустанными молитвами и оголенными грудями».
В 9 г. н. э. вождь херусков Арминий напал из засады на три римских легиона в Тевтобургском лесу. Римляне продвигались в грозу через лесные чащи и топи, когда германцы осыпали их градом копий. Гроза продолжалась весь следующий день, и нападения не прекращались, пока римские воины не перестали отбиваться. Командовавший легионами Публий Квинтилий Вар и старшие начальники покончили с собой, оставшиеся в живых воины были распяты на крестах, похоронены заживо или принесены в жертву германским богам.
Римляне в конечном счете все-таки пробились к Эльбе, но было ясно, что Германия никогда не покорится их правлению, и после полупобедоносных кампаний Германика они в 14 – 17 гг. отошли к Рейну, где было легче удерживать границу. Эта несостоятельность римского оружия и тот факт, что римской цивилизации не удалось закрепиться в Германии, оказали глубокое и всеобъемлющее влияние на ход германской, а отсюда и европейской цивилизации.
Между 70-м и 130 гг., в правление Веспасиана, Домициана и Адриана, были проведены основные работы по созданию системы пограничных фортификаций. На германской границе линия укреплений протянулась на 350 миль от Рейна до Дуная. Типичными для римской военной стратегии в пограничной провинции можно считать оккупацию и создание фортификационных сооружений в Британии. Построенный в 122 – 125 гг. Адрианов вал протянулся на 73 мили от Тайна до Солуэя. Сложенный из камня с бетонной сердцевиной, на большинстве участков он был толщиной семь с половиной футов, а местами еще больше. Во времена римлян высота стены составляла 15 футов. Вал проходит вдоль естественного оборонительного рубежа; в низинах для дополнительной защиты копали рвы. Вал еще более усиливался шестнадцатью фортами, размещенными с интервалами приблизительно в четыре мили. Между фортами через каждую римскую милю ставился замок, а между помильными замками стена делилась на три части башнями, служившими сигнальными постами. Адрианов вал представлял собой скорее средство устрашения, нежели оборонительное сооружение. Он не мог удержать широкомасштабное нападение, но служил серьезным препятствием для мелких набегов.