Тогда же Мазепа заключил договор с Лещинским, по которому тот признавал Мазепу князем Черниговским, вассалом Польши. Очевидно, для Мазепы это была тактическая уловка — гетманы не переименовываются в областных князей, тем более, что Иван Мазепа уже был князем Священной Римской империи.
Гетман вел переговоры с Крымским ханством, Турцией, Молдовой, Валахией. Война Петра I и Карла XII велась на белорусской и польской земле, Мазепа надеялся, что Карл разобьет Петра без его помощи и он победит не сражаясь. Гетман ошибся. Как и с Палием, это была стратегическая ошибка и это был конец Ивана Мазепы.
Весной 1708 года шведская армия Карла XII из Великого княжества Литовского двинулась на Москву. Армия Петра I защищала Новгород и Псков. Король Швеции решил идти через Смоленск или Брянск. 28 сентября 1708 года шестнадцатитысячный шведский корпус генерала Левенгаупта, везший продовольствие армии Карла, был разбит русской кавалерией у белорусской деревни Лесной. Карл XII был отрезан от своих баз снабжения. Население Беларуси и Украины уничтожало все, что могло понадобиться шведам. Карл XII развернул армию от Смоленска и попытался пойти на Москву по Слободской Украине, но войска Петра I вновь отбили нападение. Тридцатипятитысячная армия Карла XII, уже начавшая голодать, пошла к столице Мазепы Батурину. Узнавший об этом Мазепа в отчаянии воскликнул: «Дьявол его сюда несет!» Гетман понял, что проиграл. Петр I никогда не верил многочисленным доносчикам на Мазепу, выдавая их ему с головой. Если бы гетман передумал, и отказался от союза с Карлом и Лещинским, царь бы не поверил в его измену. Иван Мазепа не передумал. Он сделал ставку ценой в жизнь на победу Карла XII — и проиграл.
Этот, в общем-то очевидный и ожидаемый поворот шведской армии к Батурину смешал все планы Мазепы. Петр I вызвал гетмана с полками в свою ставку. О том, что шведы идут к Батурину как союзники гетмана, знали только несколько человек. Казаки и селяне не принимали шведов и воевали против них, как против захватчиков. Шведские солдаты своим поведением этого вполне заслуживали.
24 октября 1708 года гетман Иван Мазепа с частью генеральной старшины, несколькими полковниками и пятью тысячами казаков вышел из Батурина, в котором оставался десятитысячный гарнизон. Через четыре для Мазепа прибыл к Карлу XII. Из пяти тысяч казаков многие не пошли в шведский лагерь, впервые услышав от Мазепы о новом, украино-шведском союзе. Карл XII, разочарованный небольшим количеством казаков, пришедших к нему с гетманом, поначалу даже отказался принять его. Подобное отношение заносчивого и недалекого шведского короля к своему будущему вассалу с самого начала было совершенно очевидно для гетмана. Вообще, поведение Мазепы в 1708 году не поддается логическому анализу. Скорее всего, гетман совершенно растерялся и действовал просто по инерции. Он хорошо знал Петра, понимал, что его невозможно не только победить, но даже остановить. Понимал — и шел наперекор будущему императору.
Петр I узнал о переходе Мазепы на сторону шведов в Новгород-Северске. С гетманом к Карлу XII пришло около четырех тысяч человек. Этого было очень мало — от всей Украины. 27 октября Петр I издал манифест к украинскому народу «об исчезновении Мазепы» и приказал старшине явиться в Глухов на Раду для выборов нового гетмана. В новом манифесте от 28 октября извещалось «об измене Мазепы, о его желании передать Украину полякам». В начавшейся «войне манифестов» Мазепа и Карл XII призывали украинцев к себе, говоря, что шведская армия только хочет защитить Украину «от московского ига». Это была неправда и украинцы ей не верили.
Командующий кавалерией российской армии А. Меншиков получил приказ взять Батурин, в котором хранились громадные запасы продовольствия и вооружения. Гарнизон крепости имел столько же воинов, сколько и корпус Меншикова и отказался сдаваться. В городе не все знали о переходе Мазепы к Карлу XII. Меншикову показали тайный проход в крепость и после кровопролитного боя Батурин был взят и полностью сожжен со всеми военными запасами — вывезти их уже не успевали. Почти все население Батурина — около шести тысяч человек — было вырезано, включая стариков, женщин и детей.