К середине IV в. союзы племен вандалов, готов, сарматов окрепли и усилились. По мере развития земледелия и ремесла их походы на империю предпринимались уже не столько ради добычи и пленных, сколько для захвата плодородных, пригодных для обработки земель. Правительство, будучи не в силах сдержать напор варваров, вынуждено было предоставлять им опустошенные пограничные территории, возлагая затем на этих поселенцев оборону государственных рубежей. Особенно усилился натиск готов на дунайские границы империи во второй половине IV в., преимущественно с 70-х годов, когда их стали теснить продвигавшиеся из Азии полудикие кочевники — гунны. Разгромленные готы, сарматы, кочевники-аланы придвинулись к Дунаю. Правительство разрешило им перейти границу и занять пустующие пограничные области. Десятки тысяч варваров были расселены в Мизии, Фракии, Дакии. Несколько позже они проникли в Македонию и Грецию, частично осели в малоазийских областях — во Фригии и Лидии. Остготы поселились в западных придунайских районах (Паннония), вестготы — в восточных (Северная Фракия).
В V в. гунны достигли пределов империи. Они подчинили себе многие варварские народы и создали мощный союз племен. В течение нескольких десятилетий гунны нападали на балканские провинции империи, доходя до Фермопил. Фракия, Македония и Иллирик были опустошены их набегами.
Массовые вторжения и заселение варварами балканских земель привели к значительному сокращению греческого, эллинизированного и романизированного населения этих провинций Византии, к постепенному исчезновению македонской и фракийской народностей.
Раздираемый внутренними противоречиями гуннский союз племен распался в 50-х годах V в. (после смерти Аттилы). Остатки гуннов и подвластных им племен удержались на территории империи. Гепиды населяли Дакию, готы — Паннонию. Они заняли ряд городов, из которых ближайшим к империи был Сирмий, а отдаленнейшим — Виндомина, или Виндобона (Вена). Много гуннов, сарматов, скиров, готов было поселено в Иллирике и Фракии.
С конца V в. в византийские владения начали проникать другие племена, подступившие к границам империи, — протоболгары — тюрки — кочевники, переживавшие процесс разложения первобытнообщинных отношений, и земледельческие племена славян, поселения которых в конце V в. появляются у дунайских границ империи.
К моменту образования Византии процесс эллинизации коренного населения во внутренних восточных областях Малой Азии был еще далеко не завершен. Авторы IV–V вв. с пренебрежением описывают примитивный деревенский быт жителей этих областей. Известное значение сохраняли многие местные языки. Лидийцы, имевшие в прошлом развитую цивилизацию и государственность, обладали своей письменностью. Местные языки были распространены в Карии и Фригии. Фригийский язык еще в V–VI вв. существовал как разговорный. Этническую самобытность сохраняли и жители Галатии и Исаврии, население которой только в IV–V вв. было подчинено власти византийского правительства. В Каппадокии эллинизация серьезно затронула лишь высшие слои местного населения. Основная масса сельских жителей в IV в. продолжала говорить на местном, арамейском, языке, хотя официальным языком служил греческий.
В восточной части Понта, в Малой Армении и Колхиде обитали различные местные племена: чаны (лазы), албаны, абазги. У многих племен, населявших пограничные балканские районы и области Малой Азии, удерживались пережитки родовых отношений.
Еще в IV–V вв. воинственное племя исавров жило кланами, подчиняясь своим родовым и племенным вождям и мало считаясь с властью правительства.
После раздела в 387 г. Армянского государства Аршакидов в состав Византии вошла приблизительно четвертая его часть: Западная (Малая) Армения, Внутренняя Армения и автономные княжества. Армяне, прошедшие к этому времени многовековой путь исторического развития, переживали в IV–V вв. период разложения рабовладельческих и зарождения феодальных отношений. В конце IV в. Месропом Маштоцем был создан армянский алфавит, и в V в. происходило активное развитие армянской литературы, искусства, театра. Пользуясь распространением христианства в Армении, Византия стремилась овладеть всеми армянскими землями, за которые вела борьбу с Ираном. В IV–V вв. армянское население появилось и в других областях и городах империи. В то же время Византия, опираясь на некоторые пункты кавказского побережья, добивалась укрепления своего влияния в Грузии, где с IV в. также распространялось христианство. Грузия разделялась Лихским хребтом на два царства: Лазику (древняя Колхида) — на западе и Картли (древняя Иберия) — на востоке. Хотя Иран в IV–V вв. упрочил свою власть в Иберии, в Западной Грузии укрепилось государство лазов, связанное с Византией. В Предкавказье, на побережье Черного и Азовского морей, Византия имела влияние среди адыго-черкесских племен.