Однако пока каган улаживал отношения с Византией, в южных провинциях каганата проявились сепаратистские тенденции среди знати, которые облегчили поход арабов в прикаспийские степи. Междоусобицу начал в 80-х годах VII в. савирский царь Алп-Илитвер. Решив, видимо, отделиться от хазар, он заключил союз с Закавказской Албанией и для его укрепления принял христианство.
Каган быстро принудил его к покорности и взял себе в жены его дочь. Христианизация Хазарии не устраивала кагана, поскольку она означала идеологическое подчинение соседним христианским странам и особенно Византии. В то время он предпочитал языческий культ Тенгри-хана, который укреплял его власть как представителя бога на земле. Тенгрианство, или тенгризм, – неологизм, обозначение средневековой этнической религии тюрко-монгольских кочевников евразийских степей и Центральной Азии, в которой, особенно на уровне государственного культа, высшим считался Тенгри – обожествлённое небо. Профессор Л. Н. Гумилев пишет, что «почитание Тенгри – Голубого Неба» общей «первобытной религией» для кыпчаков и «всей степной Евразии». Впрочем, уже тогда каган Булан (олень – тюрк.), противопоставляя себя христианскому императору и нападавшим с юга мусульманам – арабам, попытался внедрить в своем государстве еще одну религиозную систему – иудаизм. В 684 г. он огнем и мечом прошел по Албании, опустошив несколько областей и ее столицу Ардебиль, захватив добычу и пленных. На награбленные богатства он выстроил у себя в стране синагогу. Однако народ и даже аристократы не приняли тогда новой религии. Албания была обложена тяжкой данью. Только в 713 г. знаменитый арабский полководец Хабиб Ибн Маслама вытеснил хазар из Албании. Началась затянувшаяся на два десятилетия война хазарской конфедерации с арабами, которые нередко терпели поражения от хазарских отрядов.
В 735 г. талантливый арабский военачальник Мерван Ибн Мухаммед (двоюродный брат самого халифа) хитростью одолел кагана, вторгся в его страну, пройдя ее до волжских просторов.
Тем не менее, страна не была завоевана и не стала вассалом халифата. Арабы не оставили в холодных для них степях ни гарнизонов, ни укрепленных поселений. Однако экономике молодого хазарского государственного объединения война нанесла серьезный ущерб. Города были разграблены, пашни заброшены, стада угнаны. Разорение, как это часто случается в кочевнических государствах, было как бы толчком для стремительного нового продвижения хазар в низовья Волги и Дона, в Приазовье и Крым. Только Приазовье и Крым были заняты кочующими и кое-где оседающими болгарскими племенами, а весь бассейн Нижнего Дона и степи на Волге были почти свободными от населения.
Таким образом, продвижение в северные степи не носило характера завоевания. Для части племен это была откочевка, а для большинства – расселение (переселение), поскольку они в Дагестанских степях и в предгорьях Кавказа перешли уже к оседлому образу жизни и к земледельческому хозяйству.
Переселение части алан, болгар и хазар из Предкавказья и Прикаспийских степей началось еще в период арабских войн и закончилось примерно к середине VIII в. Аланы заняли верховья Северского Донца и Дона, болгары – низовья Дона, хазары, барсилы и некоторые другие орды локализовались в Нижнем Поволжье и в Калмыцких степях. Размеры каганата после всех этих передвижений выросли примерно в три раза.
В каганате было несколько более или менее крупных городов. Самым большим среди них был Итиль (или Атиль) на Нижней Волге – столица государства, выросший из ставки кагана и во все время существования государства остававшийся зимовищем хазарской знати, которая по-прежнему кочевала семь месяцев в году. Крепость была изолирована от остальной части города. Она и была, очевидно, тем военно-административным ядром, вокруг которого вырос затем ремесленный и торговый центр всего государства – Итиль. В нижнем течении Дона находился еще один известный в средневековых источниках город – Саркел (на болгарском «Сар кил», в переводе на русский означает «Желтый Дом»), через который проходили степные торговые пути: с юга на север – сухопутный, с запада на восток – речной. На берегу Азовского моря и в Крыму хазарскому государству принадлежало несколько древних портов. Они быстро отстраивались и заселялись в период расцвета каганата.