Вскоре состоялась церемония въезда Мухаммеда в сам город. В Ясрибе он остановился в доме Абу Айюба, убитого впоследствии при осаде мусульманами Константинополя (был официально переименован в Стамбул в 1930 г.). Упоминаем о нем потому, что именем этого человека была названа впоследствии знаменитая мечеть города. Известно, что в 1897 г., во время избиения турками армян, не одна сотня армян спаслась, благодаря тому, что нашла прибежище именно в этой мечети.
Со дня въезда Мухаммеда в Ясриб город получает название Мадинат-ан-Наби или просто Медина, и становится для мусульман Столицей Посланника Аллаха. Время переселения Мухаммеда из Мекки в Медину (хиджра) знаменует собой точку отсчета лет в мусульманском календаре. Поскольку год начинает измеряться лунными циклами, символом ислама становится полумесяц.
Получив в Медине возможность открыто, не таясь, проповедовать ислам, Мухаммед и его последователи строят мечеть. Заложена она была в том месте, где преклонила колени и прилегла на землю Касва, любимая верблюдица Пророка. Возвели мечеть из камней и глины; крышу покрыли пальмовыми ветвями. Одна часть мечети отводилась для мужчин, другая — для женщин. Впоследствии мечеть неоднократно перестраивали, но она сохранилась, и называется Мечетью Посланника.
В 624 г. появилась на свет знаменитая «Конституция Медины» — письменное соглашение между пришедшими в оазис мусульманами-мекканцами (мухаджирами) и верующими Медины (ансарами). Документ сохранился до наших дней. Знаменателен он тем, что в нем определен как статус самого Мухаммеда, так и принципы превращения разноплеменного населения Медины в единый народ — умму. В этом документе впервые официально была признана пророческая миссия Мухаммеда; сам Мухаммед был назван Пророком и Посланником, то есть человеком, получающим откровения от Аллаха, и ставшим апостолом — наместником Аллаха.
Взаимоотношения между мусульманской Мединой и языческой Меккой продолжали оставаться крайне натянутыми. Но дни Мекки были сочтены; вскоре и она покорилась Мухаммеду.
11 января 630 г. войска Мухаммеда беспрепятственно вступили в город. Падение Мекки, центра идолопоклонства, было важной победой ислама над язычеством в Аравии. Войдя в город, Мухаммед направился в «Запретную мечеть», где прикоснулся к священному Черному камню, обошел храм и помолился. Затем Посланник проследовал к священному источнику Замзам, где совершил омовение святой водой. Воду в кружке подал ему Аль Аббас. Мухаммед назначил его «потомственным хранителем кружки священного источника» и объявил, что отныне и вовеки веков право поить паломников водой из святого источника остается за Аль Аббасом и его родом. Вслед за этим последовало распоряжение низвергнуть идолов вокруг Каабы, отпереть храм, уничтожить хранившегося в нем главного идола, Хубала и стереть со стен все росписи. Совершив молитву, призыв к которой раздался с крыши очищенной от идолов Каабы, Пророк с порога храма обратился с речью к мекканцам. В ней он объявил, что все языческие привилегии курайшитов, за исключением охраны Каабы и снабжения водой паломников, теряют свою силу. На следующий день на вершине холма ас-Сафа он принял отречение мекканцев, мужчин и женщин, от идолопоклонства и клятву верности исламу; провозгласил Мекку «неприкосновенным святилищем», «местом убежища для всех и на все времена».
Святая святых мусульман — Кааба. Согласно преданиям, в середине V в., когда племя курайш вытеснило отсюда племя хузаа, здесь уже существовал храм Кааба. Из сочинений греческого путешественника Диодора Сицилийского следует, что в эпоху императора Юлия Цезаря Кааба широко почиталась всеми языческими племенами Аравии, была местом поклонения их идолам. Квадратное здание храма было ориентировано углами по странам света. Каждый из углов имел свое название; сегодня это — «Йеменский» (южный), «Иракский» (северный), «Левантийский» (западный) и «Каменный» (восточный). Стены храма были хранилищем священных камней племен Аравии, воплощавших в себе их божества
О роли Каабы в жизни древних обитателей «Острова арабов» ярко рассказывает в своих сочинениях швейцарский путешественник Иоганн Людвиг Буркхардт (1784-1817). До Пророка Мухаммеда, когда Аравия была языческой, пишет он, Кааба уже являлась предметом поклонения. Арабы Древней Аравии называли это священное для них место не иначе как «Домом богов». Предки мусульман приходили туда совершать таваф, то есть семикратный обход вокруг святого места против часовой стрелки, как это делают и сегодня их потомки. Вокруг Каабы стояли, по его словам, фигуры идолов, принесенных туда со всего полуострова. Языческий пантеон древних жителей Аравии насчитывал 360 идолов. По преданиям, первый идол, Хубал, почитавшийся курайшитами в качестве покровителя Мекки, попал в Мекку из Сирии. Имел форму человека и сделан был из агата. Одна рука идола была золотой. Арабы-язычники считали его повелителем небес, властелином грозы и дождя; верили, что Хубал способен был даровать дождь, поэтому непременно шли поклоняться ему во время засухи.