А тем временем молодой император становился все более непопулярным у себя дома благодаря грабительским налогам, необходимым, чтобы вести неудачную войну и одновременно строить дорогие и никому не нужные дворцы в столице. Говорят, что его финансисты — Феодот, бывший монах, покинувший свой монастырь, и евнух Стефанус — обращались с горожанами с крайней жестокостью. Феодот якобы пытал неплательщиков, подвешивая их над горящим очагом, а Стефанус предпочитал розги. Утверждают, что однажды, в отсутствие Юстиниана, он даже схватил и подверг порке вдовствующую императрицу Анастасию. А император в качестве наказания велел ему всего лишь завершить за свой счет строительство здания, которым он был занят.
Юстиниан стал непопулярным не только из-за непомерного налогообложения. У него была привычка хватать и бросать в тюрьму по одному только подозрению сенаторов и военачальников, потерпевших поражение на поле боя. Иными словами, принять командование военным отрядом при нем считалось кратчайшим путем в тюрьму или на плаху. Из-за его собственной неудачливости в войне с сарацинами его ненавидели солдаты, причем ничуть не меньше, чем командиры. В 695 году Юстиниан приказал отличившемуся военачальнику по имени Леонтий, покорителю Иберии и Албании, принять командование фемой Hellas. Посчитав это назначение предварительным этапом на пути к позору и казни, отчаявшийся Леонтий задумал устроить государственный переворот. Во главе нескольких десятков преданных людей он открыл тюрьмы и устремился во дворец. Юстиниан был захвачен врасплох. Он попал в руки Леонтия, который отрезал ему нос и сослал в далекую крепость в Крыму. Феодота и Стефануса растерзала толпа.
После падения Юстиниана II начался период анархии, длившийся двадцать два года. Это было сущее бедствие для империи. До этого Константинополю, в общем, удавалось избегать отрицательных последствий военных мятежей и смен династий. Если не считать единственного исключения — захвата власти Фокой и его свержения Ираклием, в истории империи триста лет не было случаев насильственной передачи императорской короны. Все ранние императоры востока были или назначены предшественниками, или вполне мирно избраны сенатом и армией. И лишь теперь стало ясно, насколько роковым может быть нарушение правила упорядоченной передачи власти. За последующие после свержения Юстиниана II двадцать два года в империи было не меньше пяти революций, да и за ее пределами произошло немало катастроф, существенно урезавших ее размеры.
Трехлетнее правление Леонтия запомнилось потерей Карфагена и всей Африки. Уже во время Юстиниана провинция была частично захвачена армиями халифа. В 697 году пал Карфаген. Он был на некоторое время отвоеван экспедицией, отправленной Леонтием, но в 698 году окончательно перешел к сарацинам. Римским военачальникам удалось спастись морем и вывезти главные силы армии. Опасаясь гнева Леонтия после такой масштабной катастрофы, возвращающиеся командиры устроили заговор против него. Они приплыли на Босфор, где их появления никто не ждал, схватили императора, отрезали ему нос и заточили в монастырь. В 698 году императором был провозглашен Тиберий Апсимар.
Тиберий II, очень способный человек, усидел на троне семь лет. Ему повезло в войне с сарацинами: его армии разгромили войско халифа, вернули Киликию и даже заняли Антиохию. Но этот успех не спас Тиберия от обычного конца всех узурпаторов. Он был свергнут изгнанным и изуродованным Юстинианом II, неожиданно снова появившимся на сцене.