В период образования Киевского государства на этом месте уже стояло древнее языческое святилище и был расположен поселок потомков угро-финских племен, смешавшихся с пришлым славянским населением. Легенды называют это селище «Медвежьим углом». Его жители занимались земледелием, охотой и рыболовством, участвовали в торговле со Скандинавией, Волжской Болгарией, странами Ближнего Востока. Вокруг, в радиусе 10–12 км, существовало еще несколько таких же селищ, обитатели которых оставили грандиозные курганы-некрополи.
Местоположение поселка было очень выгодным в военном отношении. Он контролировал устье Которосли, соединявшей с Волгой один из крупнейших городов того времени — Ростов Великий. В начале XI в. воины ростовского князя Ярослава Мудрого (ставшего позднее великим князем киевским) взяли штурмом поселок и сожгли главное языческое святилище. По преданию, сам князь тяжелым боевым топором зарубил священного медведя и приказал срубить на неприступном мысу над Волгой небольшую деревянную крепость, названную по его имени Ярославлем. Об этих полулегендарных событиях напоминает известный с XVII в. герб города, изображающий медведя с трезубцем, позже замененным секирой. Основанный как оплот княжеской власти в этой части Поволжья, Ярославль, однако, еще долгие годы хранил традиции мятежных языческих времен. Знаменательно, что первое упоминание города содержится в летописном рассказе о крупнейшем восстании смердов 1071 г. Его возглавляли «два волхва от Ярославля».
В XI–XII вв. Ярославль оставался небольшим сторожевым пунктом на беспокойной окраине Ростово-Суздальского княжества, волжским форпостом своего «старшего брата» Ростова Великого. На много километров вокруг видны были с крепостных стен окрестные низменные дали. Отсюда удобно было наблюдать приближение караванов торговых судов или разбойных вражеских ладей. Со стороны всполья крепость защищал глубокий Медведицкий овраг.
Город жил под постоянной угрозой вражеского нашествия. В 1152 г. он был внезапно окружен волжскими болгарами, и пока ростовцы не пришли на помощь и не «победиша болгары», в осажденном Ярославле «изнемогаху людие в граде гладом и жажею». «Бе бо мал градок», — объясняет ростовский летописец причину временной военной неудачи ярославцев.
На рубеже XII–XIII вв. в связи с оживлением волжского торгового пути на развитии Ярославля начала сказываться выгодность его географического положения. Временем его наивысшего расцвета в домонгольский период было правление ростовского князя Константина Всеволодовича (1207–1218) и его сына Всеволода (1218–1238). Именно в это время город все чаще упоминается на страницах ростовского летописания.
В 1218 г. князь Константин разделил свои владения между двумя сыновьями: «посла сына своего старейшего Василька на стол Ростову, а Всеволода на Ярославль». Так в период усиления феодальной раздробленности Ярославль стал стольным городом нового княжества, которому принадлежали «Угличе поле, Молога и страны Заволгские до Кубенского озера». Возвышение города определило начало больших строительных работ, затронувших в первую очередь территорию княжеской резиденции на Стрелке. Облик княжеской усадьбы XIII в. можно проследить только по сравнительно поздним летописным источникам и данным археологических раскопок. Крепость была деревянной. Вокруг небольшой, вымощенной бревнами площади теснились избы дружины и многочисленной челяди. Над ними возвышался двухэтажный деревянный княжеский дворец с просторными сенями.
В 1215 г. Константин «заложил церковь камену на Ярославли на дворе своем во имя святые Богородицы Успения». Эта первая каменная постройка города, стоявшая в центре кремлевского ансамбля на Стрелке, не сохранилась. Она известна лишь по отдельным археологическим находкам. В ее стены из тонкого кирпича (плинфы) были вставлены белокаменные рельефы с орнаментами и масками. Цветной «ковер» пола из поливных керамических плиток был одним из главных украшений интерьера Успенской церкви.
В те же годы каменное строительство развернулось и в загородном княжеском Спасском монастыре, основанном во второй половине XII в. В 1216 г. здесь был заложен каменный Спасо-Преображенский собор, завершенный постройкой в 1224 г. В 1218 г. у юго-восточного угла еще недостроенного собора возвели миниатюрную Входоиерусалимскую церковь, по преданию, в память образования Ярославского княжества. Эти монастырские сооружения (как и княжеская Успенская церковь в кремле) также до нас не дошли.
Спасо-Преображенский собор, выложенный из плинфы, украшенный белокаменными резными деталями-вставками, был большим трехапсидным крестовокупольным храмом, возможно, с притворами, характерными для целой группы памятников начала XIII в. По богатству художественной обработки фасадов он не уступал наиболее значительным сооружениям своего времени.