На Русь икону принесли в 1046 году: византийский император Константин Порфирородный благословил ею свою дочь царевну Анну, когда отдавал ее замуж за черниговского князя Всеволода Ярославича. Эта икона после смерти князя перешла к его сыну Владимиру Мономаху. В 1101 году Владимир Мономах построил в Смоленске храм в честь Богоматери, перенес в него эту икону, и с этого времени она стала называться Смоленской.
Смоленская святая икона называется Одигитрией, т. е. Путеводительницей, радостной наставницей и крепкой помощницей. Из многочисленных чудес, совершавшихся от этой иконы, особенно замечательно спасение Смоленска от татар.
В 1239 году монголо-татары, разоряя Россию, напали отдельным отрядом на Смоленскую землю. Жители, чувствуя, что не в силах отразить грозного врага, обратились с молитвою к Богоматери, и Заступница Небесная услышала их молитвы. Татары остановились в Долгомостье, в 24 верстах от Смоленска. В это время в дружине смоленского князя находился благочестивый человек Меркурий, которого Пресвятая Богородица и избрала для спасения города. В ночь на 24 ноября пономарю соборного храма Пресвятая Богоматерь повелела объявить Меркурию, чтобы он, вооружившись, шел в татарский стан и убил бы их богатыря. Услышав это от пономаря, Меркурий вошел в храм, пал с молитвою пред иконою и вдруг услышал от нее: «Меркурий! Посылаю тебя оградить дом Мой. Ордынский властитель со всею своею ратью и исполином хочет тайно в нынешнюю ночь напасть на град Мой и опустошить его; но я умолила Сына и Бога Моего о доме Моем, да не предаст его врагам. Иди навстречу врагу тайно от народа, святителя и князя, не знающих о нападении, и силой Христа Бога победишь исполина. Я Сама буду с тобою, помогая тебе. Но вместе с победою ожидает тебя там венец мученический, который и примешь от Христа». Помолясь пред образом Богоматери и призывая ее на помощь, Меркурий без страха пошел на врагов и убил их великана, на силу которого они надеялись больше, чем на весь свой отряд. Окруженный врагами, Меркурий с необыкновенной силою отразил все их нападения с помощью молниеносных воинов-ангелов и Светлой Жены, лик которой наводил страх на врагов. Перебив множество татар, утомленный Меркурий прилег отдохнуть, и один татарин, найдя его спящим, отрубил ему голову. Но Господь не хотел оставить тело мученика на поругание, – Меркурий сам, как живой, внес свою главу в город. Его тело с честью погребли в соборной церкви. Русская православная церковь причислила его к лику святых, и в память одержанной им победы с того времени в Смоленске ежегодно 24 ноября стали совершаться всенощное бдение и благодарственный молебен пред чудотворной иконою Богоматери.
Святая Смоленская икона Богоматери была принесена в Москву около 1400 года и находилась на великокняжеском дворе у Благовещенского собора.
Точнее определить время принесения этой иконы в Москву невозможно, потому что сказания об этом говорят разное. В «Русском временнике», например, говорится, что некто Юрга, пан Свилколдович, когда уехал от литовского князя, Свидригайла, к великому князю Василию Васильевичу, разграбил Смоленск, взял святую икону Одигитрии вместе с другими и привез в Москву. Некоторые исследователи полагают, что литовский князь Витовт дал Смоленскую икону своей дочери, великой московской княгине Софии, когда в 1398 году она была в Смоленске для свидания с отцом. Существует также известие, что в Москву икону Одигитрии вместе с другими иконами привез последний князь Смоленский Юрий Святославич, изгнанный в 1404 году Витовтом.