Предание говорит, что раньше икона находилась в Царьграде, куда она была принесена в V веке императрицей Евдокией из Иерусалима. Для иконы построили храм под именем Влахернского. Во время торжества иконоборчества она была скрыта в обители Пантократора (Вседержителя), а при победе православия водворена вновь во Влахернском храме. За 70 лет до падения Царьграда икона перешла в 1383 году в Новгородскую область. Заключают это из следующего.
Вскоре по явлении иконы в Тихвине некоторые новгородские купцы были в Царьграде и посетили патриарха. В беседе с ними патриарх спросил: «Нет ли в России слухов о чудотворной иконе Богоматери, которая пребывала в Царьграде и неизвестно куда скрылась?»
Тогда-то купцы и передали ему, как явилась в Тихвине икона. Патриарх из сопоставления времени, когда икона исчезла и явилась, пришёл к заключению, что это Цареградская икона. Он рассказал при этом, что икона несколько раз скрывалась из Царьграда и являлась опять.
«Ныне же за гордость нашу и неправды она нас совсем оставила», — заключил патриарх свой рассказ. Он показал в храме место и киот, где она стояла. Потом Тихвинскую икону поставили, как стояла она в Царьграде — у первого столба, справа от входа. Так стоит она доселе.
Как-то на Ладожском озере рыбаки закидывали сети. Вдруг заблистал перед ними необыкновенный свет, и когда они посмотрели вверх, то увидели, что в воздухе над водою движется икона Богоматери с Предвечным Младенцем на Её левой руке. Бросив сети, они с трепетом следили, пока икона не скрылась от их взора.
Рыбаки не видели, куда исчезла икона. Она явилась в 30 верстах от озера. Там поставили для неё часовню, и было много исцелений. Вскоре икона невидимо отошла из этого места. Её видели в двух местах стоявшею среди блистающих лучей в воздухе.
Жители той местности собрались у иконы и, поражённые чудом, всем сердцем молились Царице Небесной. Тогда икона спустилась на землю, и много больных получили от неё исцеление. Для иконы устроили часовню, а потом и храм, но она и здесь пробыла недолго; явилась она в 19 верстах от того места и остановилась в 20 верстах от Тихвина. Построили и там часовню, а затем и храм. Но и оттуда икона вскоре перенеслась на гору близ Тихвина, идя в воздухе, как лёгкое облако. К месту нового явления её собрались толпы народа; из соседних сёл пришли священники с крестами, и все взывали к Богородице.
Во время общей молитвы икона сошла на руки молящихся, изливая чудеса. Немедля приступили к устройству на этой лесистой местности храма.
В тот же день сделали три венца. На ночь к этому месту приставили стражу, а народ разошёлся по своим дворам. Стража крепилась всю ночь и не засыпала, но к утру забылась. Когда же проснулись, то ни иконы, ни начатого с тремя венцами сруба не оказалось.
Народ в глубокой горести стал оплакивать потерю святыни. Разойдясь в разные стороны, стали искать повсюду икону. Во время этих поисков икона была найдена к востоку, за рекой Тихвинкой, в болотистом месте за две версты от той горы, где явилась икона. Когда туда пришли, то увидели, что всё это место сияет светом, и стоит там икона, а около начатый сруб, деревья, приготовленные для постройки, — всё в таком порядке, точно кто передвинул сюда с горы целую площадку. Икона стояла на восточной стене сруба, никем не поддерживаемая, сияя светом. В радости народ окружил чудную святыню.
На этом месте, окончательно избранном Пресвятою Богородицею для пребывания Её иконы, был поставлен деревянный храм, сгоравший три раза, причём икона оставалась невредимою. Затем по повелению великого князя Василия Ивановича приступили к построению каменной церкви.
В ней, когда она была почти совсем готова, обрушились своды, завалив 20 рабочих. Все были уверены в их гибели, но через три дня, когда упавшие камни были разобраны, среди обломков все двадцать человек оказались живыми.
Повелением Ивана Грозного, посетившего Тихвин для поклонения иконе, при храме, где пребывала икона, был устроен мужской общежительный монастырь.
Икона прославлена была великими чудесами — прозрением слепых, исцелением бесноватых. Чудеса, проявлявшиеся над людьми, получившими от неё помощь вдали, не приходя к ней, широко прославили её по всей православной Руси.
К памятным знамениям от этой иконы относится оборона Тихвинской обители от шведов.
Это случилось в трудное время великой по всей Руси смуты — в 1613 году. Шведы, заняв Тихвинский монастырь, были, однако, вытеснены оттуда.
В ярости на то, что монастырь одолел постоянное, обученное войско, шведский генерал, главнокомандующий Делагарди, решив жестоко отомстить, привёл к Тихвину свои полки и приказал сровнять обитель с землёй. Окрестные жители, возложив единственную надежду на заступничество Богоматери, сбежались в монастырь и заперлись там с монахами и ратниками.