Являясь покровителем православных христиан, царь был чрезвычайно терпим к другим религиозным конфессиям: «Пётр Великий, устремляя в Амстердаме проницательное свое внимание на все, между прочим приметил и то, что там жили люди почти всех исповеданий веры, какие только есть в мире, и сколь мнения их, касающиеся до религии, ни были различны, однако ж все они имели публичные свои церкви или домы собрания, в которых отправляли свое богослужение. Российский монарх посетил большую часть сих различных церквей из любопытства, желая узнать образ их богослужения. Паче всего нравилось государю миролюбие, с каким жили в одном месте люди столь многих разных исповеданий без всяких споров не только на письме, но даже и в разговорах между собою. Некогда говорил он о сем с одним из голландских правителей и узнал от него, что Амстердам есть место, открытое всем нациям для торговли, где всякому позволено свободное отправление своего богослужения, если оно не мешается в собственные их касающияся до религии дела и не нарушает спокойствие людей иного исповедания, ибо правительство не имеет нужды заботиться о том, чему верят иностранные жители или каким образом отправляют они богослужение, если только они не преступают законов той земли, в которой живут. Государь <…> хвалил сие учреждение и сказал, что намерен то же учинить в новом своем городе Петербурге. И в самом деле он исполнил сие, не только позволивши иноверцам всякого христианского исповедания строить там церкви свои в назначенных местах и отправлять публичное богослужение, но и давши им свободу избирать собственный свой церковный совет, который бы по законам и обычаям своего исповедания решал брачные и церковные дела, случающиеся между ими, не завися ни от Правительствующего Синода, ни от какого-либо другого Суда или какой-либо коллегии».
Именно поэтому практически одновременно с церковью Петра и Павла в новой фортеции была возведена лютеранская церковь Св. Анны. Деревянное здание построили в 1704 году на территории Петропавловской крепости. Позже она была перенесена к Мытному двору на Городовой остров. В 1720-х годах церковь еще раз «подвинули», на сей раз к Пятой Линии Литейной части (современная Кирочная улица), где в то время проживало много лютеран, в основном служащих Литейного двора. Возле Адмиралтейства находилась домовая церковь протестантов (которая в 1708 году была перестроена в Петрикирхе). Так Петербург стал первым городом, где восторжествовал дух веротерпимости.
В апреле 1709 года последовал царский указ о сооружении на Петербургской стороне новой церкви; в этом же году, вероятно, началось строительство. Собор был освящен 10 июля 1711 года. Находясь в тогдашнем центре столицы, Троицкая церковь некоторое время считалась кафедральной. Через два года после освящения храм расширили приделами и трапезной, над которой возвышалась двухъярусная колокольня с курантами, снятыми с московской Сухаревой башни, которые каждые четверть часа играли «Господи, помилуй». Именно в Троицкой церкви в 1721 году Пётр принял титул императора. Здесь хранилось знамя, которое сопровождало государя в Азовских походах.
С Троицкой церковью связана одна анекдотическая история. Пётр узнал, что здесь замироточила икона. Он приказал доставить икону себе во дворец. «Его Величество скоро нашел в глазах у образа весьма малые и почти совсем неприметные дырочки, которые наведенная в том месте тень делала еще неприметнее. Он, оборотивши доску, отодрал оклад, и выломивши переклад или связь, какая обыкновенно бывает у образов на другой стороне, к удовольствию своему увидел справедливость своей догадки и открыл обман и источник слез; а именно: в доске против глаз у образа сделаны были ямки, в которых положено было несколько густого деревянного масла, и которые закрывались задним перекладом. „Вот источник чудесных слез!“ – сказал Государь. Каждый из присутствующих должен был подойти видеть своими глазами сей хитрый обман.
Потом мудрый Монарх толковал окружавшим его, как отовсюду закрытое сгустившееся масло в холодном месте могло столь долго держаться, и как оно в помянутые дырочки в глазах у образа вытекало наподобие слез, растаявши от теплоты, когда то место, против которого оно лежало, нагревалось от свеч, зажигаемых перед образом».
Эта история породила легенду, по которой Пётр однажды издал указ следующего содержания: «Владыки святые! Приказываю, чтобы Богородицы отныне не плакали. А если Богородица еще хотя бы раз заплачет лампадным маслом, то зады у попов заплачут кровью».