Исследователи предположили, что Гермоген (в миру его звали Ермолай) родился приблизительно в 1530 г. в семье посадского жителя г. Вятки. Повзрослев и получив образование в школе при местном храме, он стал приходским священником. Известно, что у него была дочь, которую он со временем выдал замуж за посадского человека.
До 1552 г. Ермолай служил в одной из вятских церквей. После присоединения Казанского ханства к России его послали в Казань с миссионерской деятельностью. Он стал священником храма Святого Николая на Гостином дворе. Служба его, видимо, долгое время протекала спокойно, без происшествий и осложнений. Поэтому следующие сведения о нем в источниках относятся уже к 1579 г.
В этом году в Казани произошел сильный пожар. Многие дома превратились в пепелища. При разборе сгоревшего дома одного из стрельцов была обнаружена совершенно не пострадавшая икона Богоматери. Ее отнесли в церковь к Ермолаю, и он решил, что уцелевшая икона – чудотворная. С пением молебнов ее торжественно установили в Никольском храме. После этого страдавшие недугами люди стали обращаться к ней с молитвами и получали исцеление. Слава о чудотворном образе распространилась по всей округе.
Тогда казанский архиепископ повелел Ермолаю написать «Сказание о чудесном явлении Казанской Богоматери» и отвезти его в Москву к митрополиту с копией образа. Священник хорошо справился с заданием и в начале 80-х гг. с текстом «Сказания» и иконой отправился в Москву. Там царь Иван IV, удрученный смертью старшего сына и войной со Стефаном Баторием, радостно встретил Ермолая, полагая, что явление чудотворной иконы – это свидетельство Божией благодати. Он послал с ним в Никольский храм большие пожертвования. Заметили активную деятельность и писательский талант казанского священника и представители московского духовенства. Они посоветовали ему принять постриг и продолжить духовную карьеру.
В 1587 г. Ермолай последовал их совету. Он вновь приехал в столицу и принял постриг в кремлевском Чудовом монастыре и стал монахом Гермогеном. В Казани он сначала был назначен архимандритом местного Спасо-Преображенского монастыря, потом стал и архиепископом.
В 1589 г. после учреждения в Москве патриархии Гермоген получил чин первого казанского митрополита. В общей церковной иерархии он занял четветрое место после патриарха Иова, новгородского и ростовского митрополитов. Это говорило о том, что его духовная карьера достигла больших высот.
Гермоген очень ревностно исполнял свои обязанности и за 17 лет создал культ местных святых. В их число вошли первые казанские архиепископы, Гурий и Герман, а также воины, погибшие при взятии Казани.
Мощи Германа, находившиеся в московском храме, торжественно перевезли в Успенский собор Свияжска. Мощи Гурия были открыты в соборе Спасо-Преображенского монастыря в Казани. Гермоген собрал различные сведения о деятельности архиепископов и написал их жития.
Много сил Гермогену приходилось тратить в борьбе за чистоту православной веры. Среди жителей Казани были не только магометане, но и лютеране – среди ливонских переселенцев. Они роднились с православными людьми, но не меняли своих верований. Иногда они даже стремились склонить новых родственников к своей вере. Обо всем этом митрополит написал в Москву. В итоге в 1593 г. царь Федор Иванович издал указ, запрещающий православным жителям Казани вступать в браки с иноверцами и даже наниматься к ним на службу. Кроме того, он прислал средства для строительства новых церквей.