А формально трон продолжал занимать великий каган из прежней тюркской династии. Но кагану придавались чисто символические функции. Его представляли земным воплощением Бога. Выезжал он из своего дворца лишь раз в год, в остальное же время, как сообщают арабские авторы, каган должен был «находиться в распоряжении царя», он не мог «ни выезжать, ни появляться перед ближними и народом, ни покидать свое местопребывание». Ни один человек из народа к нему не допускался, и даже царь должен был входить к великому кагану босиком. Но этот же царь «руководил армией и управлял делами в государстве, именно ему соседние цари выражали покорность». Каган же был игрушкой в руках настоящего правителя. Согласно тем же источникам, «он не издает ни приказов, ни каких-либо запрещений и не принимает решений по государственным делам». В тех же арабских источниках встречаются сообщения, что великий каган использовался в роли своеобразного «козла отпущения» — в случае голода, неудачных войн и других бедствий считалось, что он неугоден Богу, и царь мог выдать его на растерзание народа.
Изменился и принцип комплектования армии. В доиудаистский период войско хазар представляло собой народное ополчение, формирующееся вокруг дружин знатных воинов, они же и вознаграждали всех своих подчиненных за счет добычи и трофеев. Но с победой новой религии взаимоотношения между правителями и народом установились другие. Хотя и тюрки, и евреи были для хазар чужаками, тюркская знать выступала для них «своими» вождями. И когда эти вожди обогащались в набегах, то и их подданным что-то перепадало. Фактически верхушка была связана с населением Хазарии общей судьбой и общими интересами. Да и родственными связями, поскольку тюркские воины брали в жены хазарских девушек. А новая верхушка оказалась отделенной от народа и поставила на первое место выкачивание из него прибыли. Не происходило и этнического смешения — иудейские общины жили обособленно. Как показал Л.Н. Гумилев, настоящие хазары (киммерийцы-казаки!) в период иудейского господства стали отселяться на окраины государства и стали предками терских и нижнедонских казаков. В этих условиях иудаизм не смог стать фактором, объединяющим население страны. Он так и остался вероисповеданием правящего меньшинства, а рядовые подданные, связывая с этой верой ухудшение своего положения, предпочитали переходить в другие религии, даже несмотря на запреты властей. Так, аль-Бекри писал, что «большинство хазар — мусульмане и христиане. И есть между ними идолопоклонники. И самый немногочисленный класс у них — евреи». То есть религия стала играть уже не объединяющую, а разъединяющую роль, лишь углубляя образовавшийся разрыв. Нетрудно понять, что при этом опираться на народное ополчение было бы уже рискованно. Но денег у новых правителей хватало, и ополчение заменили отряды наемников. За счет этого был образован постоянный высокопрофессиональный корпус в 7 — 12 тысяч воинов, который при необходимости пополнялся.