На завоеванных арабами землях прежние владельцы сохраняли право пользования землей и были обязаны платить поземельный налог (харадж). Бесхозные земли стали считаться неотчуждаемой коллективной собственностью мусульманской общины (савафи). Налоги с этих земель, платившиеся деньгами и натурой, поступали в общий фонд, которым распоряжался халиф. Из этого фонда воинам, а также лицам, имеющим заслуги перед мусульманской общиной (вдовы Мухаммада, мухаджиры и ансары), выплачивалось твердое жалование и натуральный паек, размеры которого для разных категорий получателей сильно варьировались. Например, вдовы Мухаммада получали по 6-12 тыс. дирхемов в год, халиф, внуки Мухаммада и участники первых сражений — по 5 тыс. дирхемов, а рядовые воины — 100–150 дирхемов. Для учета воинов Омар учредил специальные реестры-«диваны».
Завоевание Сирии, Палестины и западной части Ирана вплоть до Закавказья, а также начало завоеваний в Африке превратило общину единоверцев-арабов в многонациональное государство с преобладающим иноверческим населением. Все немусульмане-мужчины с 15 лет облагались подушным налогом (джизъя). Христиан и иудеев и даже зороастрийцев мусульмане считали «людьми Писания» (т. е. такими, которым были ниспосланы богооткровенные Писания — Тора, Псалмы и Евангелие) и не стремились насильно обращать их в ислам. С местным населением крупных городов мусульмане заключали договоры, которые гарантировали христианским и иудейским общинам самоуправление. При условии выплаты налогов за иноверцами сохранялось право свободного исповедания своей веры, право владения землей и имуществом. Впоследствии отдельные христиане и иудеи даже пользовались большим влиянием в мусульманском обществе, занимали высокие административные должности, прославились как поэты и ученые, врачи и финансисты.
Положив начало организации государственных структур на завоеванных территориях, Омар предпринял еще один шаг, направленный на консолидацию общества, — он ввел новое летосчисление по хиджре, так как именно она послужила отправной точкой в превращении общины мусульман в государство, идеологическим фундаментом которого стал ислам. За исходную точку был принят не день отъезда Мухаммада из Мекки и не день его прибытия в Йасриб, а первый день «мухаррама» (первого месяца года у мусульман) 622 г., что соответствует 16 июля 622 г. христианской эры.
Перед смертью Омар оставил нечто вроде устного завещания относительно передачи верховной власти. Он назначил совет (тура) из шести человек, которые должны были выбрать нового халифа из своего состава. Выбор членов совета пал на Османа — богатого мекканского купца из рода умайа, одного из первых сподвижников Мухаммада, его зятя и тестя.
При Османе (644–656) было завершено завоевание Сасанидского Ирана, продолжались успешные завоевания арабов в Северной Африке и Закавказье, для войны с Византией в Восточном Средиземноморье был даже построен крупный флот.
В 645–651 гг. арабские войска неуклонно продолжали продвигаться на восток вслед за убегающим Йездигердом III, который бесславно погиб в Мерве. Сын Йездигерда, рассчитывая вернуть себе трон, ушел еще дальше на восток, за Амударью, но не нашел там ни у кого поддержки. В Хорасане наиболее серьезное сопротивление арабам оказали эфталиты — полукочевые племена Центральной Азии. В 651–652 гг. под власть арабов перешли хорасанские города Нишапур, Нис, Абиверд, Серахс, Мерв, Герат, Гузган и Балх.
В 650 г. арабское войско под командованием Салмана ибн Рабийи вторглось в Армению, правитель которой Теодорос Рштуни не мог своими силами защитить страну от нападений арабов. Одновременно с этим он не хотел ставить свой народ в зависимость от византийского императора, требовавшего от армян-григориан (армянская ветвь монофиситства) перехода в халкидонство. Поэтому в 652 г. Теодорос Рштуни заключил мирный договор с арабским наместником Сирии и Палестины Муавией, по которому Армения, сохраняя внутреннее самоуправление, переходила под покровительство арабов. В следующем году Муавия назначил Теодороса Рштуни правителем всей Армении и Закавказья, однако из-за болезни тот быстро утратил власть над страной. Для удержания этих земель Муавия предпринял новую военную кампанию, в ходе которой арабские полководцы с боями дошли до Терека. Многие города Армении, Грузии и Кавказской Албании, а также некоторые горные княжества (Кайтак, Лакз, Филан, Табарсаран) заключили мирные договоры с арабами.
В своем продвижении на север арабы столкнулись с хазарами, занимавшими прибрежные районы между Главным Кавказским хребтом и Каспийским морем. Арабо-хазарское противостояние, начавшееся в 653 г., длилось более двух веков. В 653 г. (по другим данным — в 22 г.х., т. е. в 642/643 г.) арабы овладели Дербентом, важнейшим звеном в цепи крепостных сооружений на севере Сасанидской империи. Однако продвижение в глубь Хазарии поначалу окончилось для мусульман неудачей: арабское войско было разгромлено, хазары отбили Дербент, а арабский полководец Салман ибн Рабийа погиб в бою.