После этих маневров мусульманская армия получила приказ от халифа Умара начать операцию по взятию Дамаска, и боевые действия начались. Византийцы в очередной раз, несмотря на большой численный перевес, ничего не сумели противопоставить ведомым непоколебимой верой мусульманам. Массовый героизм бойцов и отсутствие у них страха перед смертью повергли в ужас императорскую армию Ираклия. Операция по взятию города развивалась строго по намеченному тактическому плану. Отряды мусульман с боями ворвались в окрестности города и перекрыли подвоз туда продовольствия. В то же время отряды Халида ибн аль-Валида, Йазида ибн Абу Суфьяна, Абу Убайды, Амра ибн аль-Аса, Шурахбила ибн Хасана со всех сторон вплотную подошли к городу.
Осада продолжалась около месяца. Наконец, в Раджабе 14 года хиджры (спустя год после победы при Ярмуке) исламская армия приступила к решающему штурму города. Первым сломил сопротивление византийцев отряд под командованием Халида ибн аль-Валида, атаковавшего город под покровом ночи. Его атака была поддержана другими отрядами, и город был взят. Уличных боев, за исключением Халида, никто не вел. Население города покорилось мусульманам почти без боя.
После взятия Дамаска халиф Умар приказал командующему Абу Убайде послать часть войск с Халидом ибн аль-Валидом в Ирак для поддержки мусульманских войск, сражающихся там под командованием Хашима ибн Утбы ибн Абу Ваккаса против персов.
Закрепив свой успех, Абу Убайда оставил Йазида ибн Абу Суфьяна в Дамаске, Шурахбила ибн Хасана послал в Иорданию, а Амра ибн аль-Аса — в Палестину.
Став во главе Дамаска, Йазид ибн Абу Суфьян послал Дахью ибн Халифу в Тадмур, а Абу Захру аль-Курайши — в Хавран для заключения мира с местным населением.
Халид ибн аль-Валид вошел в Баальбек с севера долины Бекаа и присоединил эти земли к Халифату.
Битва при Марджурруме и завоевание Хомса
Абу Убайда получил известие о том, что византийский император Ираклий отправил для освобождения Дамаска от мусульман большую армию. Он сразу же направил против него свои войска. Туда же подошел Халид ибн аль-Валид. Стороны встретились в Марджурруме. В том сражении византийцы потерпели такое сокрушительное поражение, что спастись от смерти удалось лишь немногим. Абу Убайда лично встретился в схватке с одним из византийских командиров и убил его. Халид же убил командующего византийской армией. Остатки разгромленных византийцев бежали в Хомс. Абу Убайда с Халидом, преследуя их, подошли к Хомсу и окружили его. Осада была длительной. Наконец, жители решили сдать город мусульманам, заключив с ними мирный договор, подобный договору с жителями Дамаска, предусматривавшему выплату джизьи.
Завоевание Киннесрина и Кайсарии
После завоевания Хомса Абу Убайда отправил Халида ибн аль-Валида на завоевание Киннесрина. Жители города вначале вынудили его отступить, однако в 15 году хиджры Халиду удалось взять город. Одновременно с этим Амр ибн аль-Ас начал завоевание прибрежных районов Палестины и изгнание оттуда остатков деморализованных византийских войск.
Тем временем халиф Умар отправил Муавию ибн Абу Суфьяна на подавление сопротивления последнего оплота византийцев в Сирии — города Кайсерии. Муавии удалось разгромить противника и захватить город. После завоевания Кайсерии Умар приказал Амру ибн аль-Асу двинуться на Аджнадейн, который являлся важнейшим стратегическим пунктом в этом регионе. Там находилась группировка византийских войск.
Византийцы имели в этом регионе еще две крупные войсковые группировки в Рамле и Иерусалиме. Амр дождался подкреплений и разделил их на две части. Одну часть он отправил на Рамлу, другую — на Иерусалим, чтобы не позволить византийским войскам получать подкрепления. После этого он окружил их и разгромил.
Завоевание Иерусалима
После подавления сопротивления византийских войск командующий Абу Убайда, оставив в Дамаске Саида ибн Зайда, двинулся на Иерусалим для того, чтобы вынудить город к сдаче. Однако жители города заявили о том, что сдадутся только лично халифу Умару. Абу Убайда сразу оповестил об этом Умара, и тот срочно собрал сподвижников Пророка на совет. Али ибн Абу Талиб порекомендовал ему выехать в Иерусалим, Усман же высказался против этого. Однако халиф Умар предпочел мнение Али и, оставив его вместо себя во главе Медины, выехал вместе с дядей Пророка Аббасом в Иерусалим. В Джабии их встретили Абу Убайда, Халид и Йазид ибн Абу Суфьян, и они вместе двинулись в сторону города. Умар договорился с жителями Иерусалима об условиях сдачи. Оставшиеся в городе византийские войска должны были покинуть его в течение трех дней. Войдя в Иерусалим, халиф Умар прибыл на место ночного вознесения Пророка Мухаммада в мечети аль-Акса и совершил там намаз. Затем он распорядился построить в Куббат ас-Сахре мечеть, ныне известную как мечеть Умара.
Завоевание Аль-Джазиры