С самого начала византийские императоры пребывали в полном согласии с римскими правителями в том, что касалось обеспечения безопасности империи и сохранения ее границ в неприкосновенности. Но в отличие от римлян, которые придерживались крайне милитаристских взглядов, византийцы уделяли особое внимание способам защиты, предпочитая ее более агрессивным действиям. Поэтому они строили замки, бастионы и укрепления, которые, хотя и не отличались оригинальностью, выдержали многочисленные нападения, прежде чем пасть под грозным натиском турок-османов. Даже будучи захваченными, эти строения продолжали существовать, выступая в роли оснований для турецких надстроек. Многие дожили до наших дней в виде сказочных руин на территориях, которые когда-то являлись границами Византии. Очень часто их обнаруживают на вершинах холмов, откуда они когда-то наблюдали за уязвимыми ущельями или конным караулом над какой-нибудь старой гаванью, а фундаменты их крепостей до сих пор можно найти в центре турецких городов. Самая впечатляющая и надежная защита была построена для Константинополя, поскольку его местоположение на берегу, на стыке двух континентов, открывало его для нападения и с моря, и с суши.
Константин I осознавал опасность для города и еще в мае 324 года принял меры, чтобы обезопасить Константинополь от врагов с континента, построив земляной вал с севера, запада и юга. Уже через столетие ограниченная таким образом территория стала мала для растущего населения столицы, а кроме того, Феодосий II (408–450) считал, что такой защиты недостаточно. Он решил окружить город новой линией укреплений и доверил работу Антемию, префекту Востока, вероятно, потому, что самыми надежными укреплениями того времени были возведенные в предыдущем веке в Антиохии. Стены Феодосия стоят и поныне и вместе с собором Святой Софии Юстиниана являются одной из крупнейших достопримечательностей Стамбула. Изначально они достигали 8 метров в высоту и были укреплены 96 башнями, стоящими на расстоянии 60 метров друг от друга. Круглые и квадратные по форме, башни выступали из стен на 5 метров и возвышались над ними на 2,5 метра. С внутренней стороны наверху вдоль стены шла галерея, поддерживаемая арками. Для усиления защиты у стены был выкопан ров с водой шириной 18 метров, укрепленный каменным эскарпом и контрэскарпом. В то время считалось, что для города, даже большого, достаточно четырех ворот, по одному на каждое основное направление компаса, но Феодосий распорядился сделать в Константинополе десять. Его стены были настолько крепкими, что тысячу лет спустя, попав во время сражения под обстрел первых пушек, они устояли, хотя и были пробиты в некоторых местах.
Размахом и добротностью системы укреплений Византия, видимо, обязана не только мастерству инженеров, но и миролюбивым взглядам ее народа. Их пацифизм, возможно, был врожденным, но также поддерживался христианской верой. Святой Василий советовал всем солдатам, убившим в бою врага, искать прощения за содеянное, наложив на себя трехлетнюю епитимью. Людская неприязнь к войнам подвигла Юстиниана к созданию армии, собранной из своего рода территориальных отрядов, которые могли прийти на подмогу регулярной, маневренной армии, состоящей преимущественно из наемников различных национальностей. Даже в течение четырех веков наибольшего политического расцвета — а именно с периода правления Ираклия (610–641) до Василия II (976–1025) — Византия была в основном обязана своей военной мощью иностранным наемникам. Даже на этом этапе императоры предпочитали использовать дипломатические методы, а не силу, чтобы поддерживать мир. Они старались всеми способами не допустить войны, задабривая соседей дорогими подарками или громкими титулами, входя в военные альянсы в обмен на денежные субсидии или ежегодные поставки, даже выдавая императорских дочерей замуж за вождей варваров. По тем же причинам империя всегда принимала политических беженцев, но при этом на протяжении всей истории страны не упускала возможности продемонстрировать свою военную силу. Служба в армии во все времена считалась престижной.
В римскую армию входили большие пограничные войска, которые защищали границы империи, и полки преторианской гвардии, стоящие в Риме. Но к IV веку армия устарела и перестала быть эффективной, а преторианская гвардия не раз показывала свою неверность правительству. Поэтому Константин решил организовать новую армию, которую, однако, построил по старым римским принципам. Но даже несмотря на то, что ему и его преемникам удалось построить новые вооруженные силы с сильной маневренной кавалерией, поддерживаемой многочисленной пехотой, они продолжали считать императорских телохранителей, схолов, подобно римской преторианской гвардии более раннего периода, ядром армии.