Но ошибка Карла спасла Петра от дальнейших бед. Карл не воспользовался своей победой и не пошел на Москву. Часть голосов в его военном совете высказалась за поход в Россию, но Карл близоруко смотрел на силы Петра, считал его слабым врагом и отправился на Августа. Петр мог вздохнуть свободней. Но положение все-таки было тяжелое: армия была расстроена, артиллерии не было, поражение дурно повлияло на настроение внутри государства и уничтожило престиж России за границей. Рядом с дифирамбами Карлу западноевропейская публицистика разразилась градом насмешек над слабостью Москвы и Петра. Была пущена в обращение медаль, изображавшая с одной стороны осаду Нарвы и Петра, греющегося на пушечном огне (подпись взята из Библии: «Беже Петр стоя и греяся»), а с другой стороны – Петра и русских, позорно бегущих от Нарвы (подпись оттуда же: «Исшед вон плакася горько»).
Под свежим впечатлением поражения у Петра мелькнула мысль искать мира, но Петр не нашел ни у кого за границей охоты помочь России и взять на себя посредничество между нею и Швецией. Однако и сам Петр не долго останавливался на мысли о прекращении войны, он деятельно готовил новые войска; рекрутские наборы (со всех сословий) дали ему много людей, страшная энергия помогла ему устроить из них армию; обруселому немцу Виниусу Петр поручил изготовление новых пушек. Медь, которою Московское государство было далеко не богато, доставали, между прочим, и церковных колоколов, взятых в казну. В течение года Виниус изготовил триста пушек. К лету 1701 года у Петра, таким образом, снова явились средства продолжать войну.
В феврале 1701 года Петр близ Динабурга, в м. Биржах, виделся с королем Августом, на которого обратился Карл II. Петр и Август условились продолжать борьбу со Швецией, причем Петр обязался помогать Августу войсками, отдавал ему в случае успеха Эстляндию и Лифляндию, но оставлял себе свободу действий в Ингрии и Карелии и в завоевании этих областей полагал свою конечную цель. Летом 1701 года начались военные действия у Финского залива и в Польше. В продолжение нескольких лет Петр делил свои силы надвое: на севере он действовал за себя, в Польше помогал Августу.
На севере, у Финского залива, дела шли удачно для Петра. Слабые силы, оставленные Карлом для защиты Эстляндии и Лифляндии, не могли отразить русских войск. В 1701 и 1702 годах Шереметев с большой армией опустошал эти области и два раза разбил шведского генерала Шлиппенбаха (при Эрестфере в декабре 1701 года и Гуммельсгофе в июле 1702 года). Первые победы очень радовали Петра. Сам он не принимал постоянного участия в военных действиях против шведов. Он оставил на свою долю трудное дело организации государственной защиты и военных сил. Он ездил из конца в конец по России: в Архангельске принимал меры против нападения шведов с моря, в Москве следил за общим ходом военных приготовлений, в Воронеже удостоверялся, годен ли недавно сооруженный флот для защиты южных областей в случае нападения турок. Ежегодно появлялся он и на театре войны. В 1702 году Петр из Архангельска – без дорог, через леса и болота – прошел до Ладожского озера и протащил с собою две яхты (следы рубленных им просек видны до сих пор). Явившись к истокам Невы и соединясь с корпусом Апраксина, Петр взял здесь шведскую крепость Нотебург (древние новгородцы владели им и звали его Орешком; Петр назвал его Шлиссельбургом, то есть ключом к морю). Весною 1703 года, после поездки в Воронеж, Петр снова явился на Неве с войсками Шереметева, взял укрепление Ниеншанц (вблизи устья Невы) и основал при море укрепленную гавань Петербург (в мае 1703 года). Место было выбрано для первой русской гавани не без расчета: во-первых, восточный берег Финского залива есть ближайший к Руси пункт Балтийского поморья (о Риге Петр тогда еще не мог мечтать); а во-вторых, Нева, на которой основан был порт, представляет прямой конец естественной системы водных путей, лежащих внутри России. Петр очень дорожил новой гаванью, и все дальнейшие военные операции на севере направлялись к тому, чтобы обеспечить обладание Петербургом. С этой целью шло систематическое завоевание южного берега Финского залива: были взяты Копорье, Ямы (Ямбург), Нарва. В 1704 году был взят самим Петром Дерпт. На Финском заливе Петр завел флот (верфь была устроена в Олонце), а в новый порт приглашались иностранные корабли, чтобы тотчас начать и торговлю с Западом новым путем.