Он назначил новых людей на самые важные официальные посты и сделал выговор Язиду ибн аль-Мухаллабу за то, что тот не выплатил пятую часть каспийской добычи, величину которой он хвастливо завысил, причем очень сильно. Джаррах ибн Абдаллах аль-Хаками был послан в Хорасан, Ади ибн Артат аль-Фазари – в Басру, Абдулхамид ибн Абдуррахман аль-Курайши из рода Умара I – в Куфу, Умар ибн Хубайра аль-Фазари – в Месопотамию, и Амр ибн Муслим, брат Кутайбы, – в Индию. Джаррах и Амр были одной закваски с аль-Хаджжаджем, Ади и ибн Хубайра были кайситами. Но Умар не назначил этих людей для того, чтобы они занимали противоположную сторону, нежели его предшественник, и не из предпочтения к кайситам и аль-Хаджжаджу, но потому, что считал их надежными и честными людьми. В Испанию он назначил аль-Самха ибн Малика аль-Хавлани, йеменца, а в Африку – Исмаила ибн Абдиллаха, потому что он знал, что они не принадлежат ни к одной партии и милосердны к угнетаемым. Но ему недостаточно было выбрать людей, которые казались ему подходящими, и потом позволить им править как им вздумается, лишь бы они поставляли ему необходимые финансовые средства. Он чувствовал себя ответственным за все. Больше всего по сердцу ему было не столько усиление власти, сколько упрочение закона. Богословы, которые образовывали партию, независимую от правительства и до той поры довольно враждебную ему, при Умаре приобрели влияние. Соответственно, кади, или судьи, по-видимому, стали играть все более независимую и важную роль. В письме хорасанцу Укбе ибн Зуре он перечисляет следующие столпы, на которые опирается правительство: 1) вали, или наместник провинции; 2) судья; 3) главный чиновник по налогам; 4) халиф. Знаменитый Хасан был басрийским кади в его правление, а в Куфе – Амр аш-Шааби, и он сделал законоведа Абу Зинада секретарем наместника Абдулхамида.
Правительство провинций в мусульманской монархии означало их финансовую администрацию, и ее реформа была одной из главных целей деятельности Умара II. Однако не так уж просто составить себе ясное представление о мерах, которые он предпринял в вопросах налогообложения. Концепции его реформы, которые выдвинул Альфред фон Кремер и с которыми согласился Август Мюллер, запятнаны фактологическими ошибками.