Поражение под Нарвой только пробудило его к более активной деятельности, и он напряг все силы для обеспечения успешного ведения дальнейшей борьбы с Карлом. С этой целью он сосредоточил все свое внимание на выправке и обучении новых полков, которые готовил к борьбе с опытными шведскими войсками. Эта подготовка велась настолько энергично и настойчиво, что уже в 1701 году Петр стал тревожить шведов набегами на Ливонию, а в конце того же года Шереметев уже одержал первую победу над шведами (при м. Эрестфере). Полгода спустя Шереметев вторично разбил шведского главнокомандующего Шлиппенбаха и русские вновь овладели почти всей Ливонией, а немного позже заняли Копорье и Яму, Дерпт и Нарву. В следующем году Петр сам вступил с сильным войском в Ингрию (Петербургскую губернию), осадил и взял шведскую крепость Нотебург (старинную новгородскую крепость Орешек) и назвал ее Шлиссельбургом, т. е. ключ-городом, потому что взятие этой крепости открывало ему путь к морю по реке Неве. Завоевав берега Невы, Петр решился на них утвердиться и с этой целью 16 мая 1703 года основал здесь новую столицу своего государства – Санкт-Петербург (город Св. Петра).
Тогда же, для защиты новой столицы с моря, на острове Котлин была заложена крепость Кронштадт. После всех этих успехов, вняв мольбам своего союзника, Августа II, Петр весной 1705 года двинул свои войска через Западную Двину. Русские быстро овладели большею частью Литвы и сосредоточили главные свои силы около города Гродно, в укрепленном лагере.
В то время, когда Петр твердой ногой становился на прибрежьях Финского залива и Балтийского моря, Карл настойчиво воплощал свой план мщения Августу II, завоевывая для своего избранника, Станислава Лещинского, польско-литовские области. Шведские войска под командованием самого короля, а иногда под командованием его генералов бились и в Познани, и в Литве, и на Волыни. Наконец, в июле 1706 года, он вступил в Саксонию, не обращая никакого внимания на отношения ее курфюрста к германскому императору. От такого поворота событий войны Август II пришел в отчаяние и, когда Карл занял Альтранштед – очень важный пункт в стратегическом отношении – Август растерялся до того, что согласился на самые постыдные условия мира, продиктованные ему Карлом. Он отрекся от польской короны, обязался не вступать ни в какие союзы против Карла и, следовательно, отказаться от союза с Петром, и даже выдал Карлу несчастного Паткуля, которого тот приказал казнить, как изменника. Мир был заключен 24 сентября 1706 года, и только тогда Карл мог обратить оружие против единственного из троих союзников, еще не побежденного им – против царя Петра, которому, таким образом, пришлось выносить на себе все тягости борьбы с воинственным шведским королем.
Не надеясь успешно выдержать эту борьбу, Петр предложил Карлу начать переговоры о мире. Он готов был даже согласиться на значительные уступки и довольствоваться только одной гаванью на Балтийском море. Но Карл, со свойственной ему заносчивостью, отвечал, что он «заключит мир с Петром только в Москве» и быстро двинул войска в Литву. Тогда Петр приказал своим войскам отступать к русским границам, нигде не вступая в генеральное сражение со шведами и всюду разоряя за собой страну, по которой приходилось наступать неприятелю. Такой способ войны был для Петра тем более вынужденным, что он не мог направить все свои силы на борьбу с Карлом: значительная часть их в то время находилась на Дону, где занята была подавлением весьма опасного (так называемого Булавинского) бунта – междоусобицы, вспыхнувшей между казаками и крестьянами.
Только после усмирения этого бунта Петр изменил свою тактику и стал стягивать все войска к Могилеву (на Днепре), зная, что здесь к войску Карла должен был присоединиться еще один корпус шведских войск под командованием Лёвенгаупта, шедший к Могилеву из Ливонии с большими припасами. Но Карл не дождался Лёвенгаупта и, неожиданно для всех, с величайшей поспешностью двинулся на юг России. Тогда Петр воспользовался ошибкой Карла и ударил всеми силами по корпусу Лёвенгаупта и нанес ему сокрушительное поражение у деревни Лесной (близ местечка Пропойска, Могилевской губ.). Шведы потеряли в этом сражении 10 000 убитыми, всю артиллерию и запасы. Эта битва была еще и тем примечательна, что здесь впервые русские сражались со шведами на равных. Лишь жалкие остатки корпуса Лёвенгаупта успели добраться до главной армии Карла, которая к тому времени терпела страшную нужду в съестных припасах и главным образом потому спешила на юг, что у нее там оказался нежданный союзник...