Поздний период Западной Хань ознаменовался долгой смутой, воспользовавшись которой хунну с севера вторглись в Западные территории и установили там свою власть. Великий шелковый путь снова был перекрыт. В период Восточной Хань мощь северных хунну, контролирующих Западные земли, сильно возросла. Они часто совершали набеги на районы Хэси, доставляя множество бедствий местному населению. Правительство Восточной Хань стремилось возобновить движение на Великом шелковом пути и восстановить власть над Западными территориями. В 73 году нашей эры войска под предводительством Бань Чао и главнокомандующего Доу Гу нанесли удар по северным хунну, а затем отправились с дипломатической миссией в Западные земли, чтобы снова открыть на много лет замерший Великий шелковый путь. В 91 году Бань Чао был назначен наместником Западных земель. В 97 году Бань Чао отправил Гань Ина с миссией в Дацинь (Римская империя). Миссионеры беспрепятственно достигли Тяочжихай (Персидский залив) и приблизились к Средиземному морю, но их остановили купцы из Парфии (Иран), поэтому миссия так и не была выполнена. Тем не менее впервые Шелковый путь из Азии дотянулся до Европы; движение, которое было остановлено, возобновилось.
Неудача Гань Ина показала сложность сухопутного сообщения Ханьского государства с Римской империей, поэтому для римских купцов приоритетным стал морской путь – из Красного моря в Индийский океан. Согласно китайским источникам, в 166 году некий «дациньский император Ань Тунь» (считается, что так назвали Римского императора Марка Аврелия Антонина) отправил в Китай дипломатическую миссию, которая вошла в страну через Жинань (центральные территории нынешней Юньнани), а затем вступила в столицу династии Восточная Хань – город Лоян. Это событие имеет историческое значение, так как представляет собой первый официальный дружественный контакт великих правителей Востока и Запада.
После распада империи Восточной Хань Китай вступил в период раздробленности – друг друга сменяли эпохи Троецарствия, Западной и Восточной Цзинь, Южных и Северных династий. В это же время в Риме, Персии и Кушанской империи тоже менялись правящие династии. Кроме того, между кочевыми племенами, обитавшими на прилегающих к Шелковому пути землях, часто происходили вооруженные столкновения. По сравнению с эпохами Хань и Тан, этот период стал для Великого шелкового пути временем упадка.
С 220 года в империи параллельно правили династии Вэй и Цзинь, продолжая начатое в эпоху Восточной Хань господство над Западными территориями. В это время в Лянчжоу (нынешний Увэй) и других районах, включая всю территорию Хэси и Западные земли, были учреждены должности циши и хуцян сяовэй. В обязанности сяовэев входило ведать всеми делами в Западных землях, а также отдавать приказы народу. Позже была учреждена должность чжанши Западных земель. Чжанши, находившийся в Лоулане, встречал и провожал приезжающих посланников, управлял региональными военными поселениями. Династия Ранняя Лян основала в Лоулане резиденцию чжанши для управления Западными землями, а в Гаочане утвердила чиновничью должность
Благодаря найденным письменным источникам, относящимся к этому периоду, у нас появилась возможность более подробно изучить все обстоятельства, касающиеся Великого шелкового пути. Так, Цан Цы, исполняя обязанности начальника Дуньхуана (227–233 годы), чтобы защитить приезжающих с запада купцов, выписывал для них особые документы путешественников, а также отправлял вместе с ними сопровождающих в обратный путь. Все это способствовало тому, что Дуньхуан стал центром торговли между Китаем и соседними племенами. В 1907 году Марк Аурель Стейн нашел в развалинах сторожевой башни Великой Китайской стены, к западу от Дуньхуана, согдианские «Старые письма». Среди них есть послания, отправленные согдийскими купцами на родину – государство Кан. Эти письма относятся к концу эпохи Цзинь. Найденные в них записи о том, что согдианские купцы из Центральной Азии из Дуньхуана направлялись в Цзиньчэн (нынешний Ланьчжоу), где продавали льняные ткани и ковры, говорят о том, что в эпоху Вэй и Цзинь Великий шелковый путь все еще был важным торговым сообщением между Китаем и Западными землями.