Холм Эрк-Кала располагается значительно южнее Яз-Депе, соседствуя со средневековым Старым Мервом. В VI–IV веках до н. э., во времена господства персидских царей, здесь располагался укрепленный город, занимавший площадь в 12 га. Он был обнесен толстой – 6,5 м в основании – крепостной стеной. Раскопки обнаружили на Эрк-Кале слои, относящиеся ко временам царя Дария и Александра Македонского. Стены этой крепости, которая позднее превратилась в цитадель разросшегося города, даже будучи полуразрушенными, местами достигают высоты 3–4 м. Когда город разросся, его территория была обведена новой стеной с массивными квадратными башнями. Эта стена, сложенная из сырцовых кирпичей и сегодня похожая на оплывший вал, охватывала площадь почти в 4 кв. км.
Во II веке до н. э. Маргиана вошла в состав Парфии. Являясь отдаленной провинцией, она служила местом ссылки пленных римских легионеров, захваченных парфянами во время бесконечных войн с Римом. При парфянских царях из династии Аршакидов Маргиана вступила в полосу нового расцвета. Однако и в первые века нашей эры культура Маргианы довольно заметно отличалась от культуры Парфии, по-прежнему тяготея к Бактрии. Господствующей религией здесь был зороастризм (близ селения Мунон-Депе археологи открыли зороастрийский некрополь). Были в Маргиане популярны и небольшие терракотовые статуэтки, изображавшие каких-то местных женских божеств.
На рубеже I–II веков Маргиана обособилась от Парфии. Здесь правили свои собственные цари, представители младшей ветви династии Аршакидов. Памятниками этого времени являются многочисленные монеты с надписями на греческом и парфянском языках и обозначением «А», означавшим, что эти монеты чеканились в Антиохии Маргианской.
В это же время в Маргиану начал проникать буддизм, а вместе с ним – элементы индийской культуры. В юго-восточной части городища Гяур-Кала археологами были обнаружены остатки крупного буддийского святилища, относящегося к II–III векам. Центром всего комплекса являлась большая ступа, перед которой возвышалась огромная, 5-метровой высоты фигура Будды, вылепленная из глины. Судя по остаткам краски, первоначально лицо Будды было окрашено в розовый цвет, позднее – в желтый, и третий раз перекрашено в буровато-красный. Находившаяся рядом ступа была сложена из кирпича-сырца и стояла на квадратной платформе размерами 13 × 13 м и высотой 4 м. С южной стороны ступы располагались кельи для монахов. Вероятно, в V веке этот буддийский комплекс был разрушен, скорее всего – во время какого-то нападения. В 1962 году археологи нашли среди развалин монастыря большую, почти полуметровой высоты расписную вазу, замурованную в тайнике, в которой почти полторы тысячи лет хранились спрятанные монахами во время набега сокровища: «синеволосая» голова Будды и древние рукописи, написанные на санскрите.
Вплоть до VIII столетия в Мервском оазисе, как и во всей Средней Азии, мирно уживались самые различные религии. Археологи нашли на городище Гяур-Калы и остатки христианского монастыря, сооруженного в V столетии, и маздаистского храма «великого священного огня», относящегося к середине VII века. Здесь же находился древний зороастрийский храм Кей-Мазрубан, до прихода арабов являвшийся главной городской святыней. Все начинает меняться на рубеже VII–VIII веков, с приходом сюда арабских завоевателей. В IX веке Мерв попадает под власть бухарской династии Саманидов, а уже в 1040 году в Хорасане воцаряются Сельджукиды, выходцы из тюркской кочевой среды. Государство Сельджукидов распространилось от Сирии и Малой Азии до Самарканда. Столицей этой огромной страны стал Мерв.
С периодом, когда город являлся столицей Сельджукидов (1040–1221), связан расцвет средневекового Мерва. В ту эпоху он был городом-гигантом, одним из величайших городов мира с населением больше миллиона человек. Его называли «городом, на который опирается мир».
Лежащий на маршруте Великого шелкового пути, Мерв вел обширную торговлю. Отсюда караваны шли через области Хорезма и Согда на восток – в Китай, и на юг, через Нишапур и Герат – в Индию. Город славился искусством своих многочисленных ремесленников, ткачей, гончаров и был широко известен как центр культуры и науки. По свидетельству арабского географа Якута ибн-Хамови, жившего и работавшего в Мерве, только одна из городских библиотек (а всего их было десять) насчитывала 120 тысяч томов.
В город вели четверо ворот. На центральной площади высился пышный дворец Сельджукидов. По приказу одного из них, султана Санджара (1118–1157), зодчий Мухаммед ибн-Атсиз из Серахса построил для себя величественный мавзолей Санджара, названный «Домом будущей жизни» – шедевр мировой архитектуры. Это самый большой мавзолей в Средней Азии. С восточной стороны к мавзолею примыкала мечеть с минаретом, которую арабский хронист XV века Исфазари назвал его «одной из величайших построек царств вселенной».