Саад прибыл из Ктесифона и подтвердил, что место подходит. Он так объяснял Умару его преимущества: «Я поселился на земле, усеянной камнями; она лежит между Хи-рой и Евфратом, окруженная с одной стороны сушей, а с другой — водой. Там изобилие сухих и свежих верблюжьих колючек. Я предоставил мусульманам в Ктесифоне свободный выбор, и тем, кто захотел, я позволил остаться в городском гарнизоне».
Во всяком случае, так вспоминает о выборе места «История» ат-Табари. Возможно, приведенные в ней слова и не произносились, но мотивы выглядят убедительно. Ктесифон вполне мог оказаться нездоровым местом для бедуинов и их животных, а Куфа предлагала куда лучшие пастбища. Учитывались, возможно, и другие соображения. Одним из них была необходимость поддерживать связь с Мединой, но, вероятно, еще важнее было держать мусульман кучно, чтобы ими легко было управлять и они не теряли боевой готовности, не позволять им разбредаться, утрачивая единство.
Большинство мусульман предпочло перебраться из Ктесифона на новое место. Правдоподобно звучит предположение, что первоначально взрослое мужское население города составляло около двадцати тысяч, хотя оно быстро росло за счет прибывающих из Аравии, надеявшихся получить свое. Рассказывали, будто кроме прочего имущества они везли с собой двери своих домов, чтобы навесить их в новых жилищах. Первые дома строились из местного тростника, но после того, как многие их них сгорели в пожаре, к Умару обратились за позволением строить из сырцового кирпича. Позволение было дано на условии, что никто не станет строить дома более чем с тремя комнатами и что дома не будут слишком высокими: опять мы видим, как подчеркивается скромность и равенство мусульман.
План нового поселения довольно тщательно разработал человек по имени Абу аль-Хаджадж, претендующий на звание первого мусульманского градостроителя. Дороги радиально расходились из центра города, и люди селились вдоль этих дорог по племенам, так что, по крайней мере поначалу, разные племена занимали разные районы. Это должно было поддерживать племенную солидарность и соперничество между племенами. Говорят, что Умар определил ширину улиц: 20 метров для главных дорог (40 локтей), 15 или 10 метров для боковых улиц, а малые переулки должны были иметь ширину 3-5 метров, и не менее того. Это был тщательно спланированный город, а не путаница переулков, где люди строились и селились, где им вздумается.
В середине располагалось нечто, что можно назвать общественным центром. В первую очередь возвели мечеть, занимавшую середину просторной площади. Призвали могучих лучников, которые, встав в центре, пустили стрелы во все стороны: строить жилые дома разрешалось не ближе того места, куда долетела стрела. Площадь была оставлена пустой для собраний горожан.
Сама мечеть представляла в плане неровный квадрат со стороной около 110 метров. Рассказывают, что поначалу в ней не было стен и только часть помещения была укрыта навесом. Возможно, это была очень простая постройка из тростника или ильных кирпичей. Изнутри нее можно было видеть соседний христианский монастырь в Хинде и, вдали, ворота, выводившие к мосту через реку, настланному на заякоренных лодках. Вскоре после его сооружения ограбили дворец правителя, и Саад приказал подвести мечеть к дворцу, так, чтобы у них одна стена была общей. Мечеть, в которой днем и ночью были люди, представлялась лучшей защитой от воров. Эта новая мечеть, вероятно, была куда представительнее. С одной стороны ее была крытая площадка длиной около 100 метров «с потолком, похожим на потолки византийских церквей», что означает, очевидно, открытые балки перекрытий, поддерживаемых мраморными колоннами. Рассказывали, что колонны вывезли из христианских церквей. До назначения наместником Зияда в правление первого Омейядского халифа Муавийи стен в мечети не было. Новые колонны высотой 15 метров сложили из ахвазского камня, скрепив его свинцовыми опорами и железными скобами.