Долго вел он тайные переговоры об отпадении с польским двором и Карлом. Хотя в Москву и шли доносы об измене гетмана, но Петр им не верил, потому что верил Мазепе. Известный донос Кочубея (генерального судьи) и Искры (полтавского полковника) кончился пыткой и казнью их обоих в 1708 г. Но осенью того же 1708 г., когда Карл с войсками пошел в Малороссию, Мазепа принужден был открыть свою игру и прямо примкнуть к одному из противников. Боясь неудачи задуманного шага, Мазепа долго колебался и сказывался больным, когда получал приказания от Петра действовать против шведов. Наконец, когда притворяться было уже нельзя, он уехал из своей столицы Батурина и с отрядом казаков пристал к шведскому войску. Его измена для Петра была неожиданна, и не только для Петра, но и для массы малороссиян. Никто не мог сказать, пойдет ли Малороссия за гетманом или останется верной Руси. В таких обстоятельствах русский главнокомандующий Меншиков проявил замечательную ловкость: 29 октября 1708 г. Мазепа соединился с Карлом, а уже 31-го преданный Мазепе Батурин был взят русскими штурмом и сожжен. Центр предполагаемого восстания был уничтожен, вся Малороссия почувствовала энергию и силу русских. Через неделю в Глухове казаки избрали нового гетмана (Ивана Скоропадского); Мазепа, как изменник, был предан анафеме духовенством. Малороссия фактически оказалась в руках Петра, а малороссийские крестьяне начали народную войну против наступавших шведов. Так неудачно окончился для Карла 1708 год.

Но шведы сохраняли престиж непобедимости и казались грозным врагом. Петр боялся, что турки воспользуются пребыванием этого грозного врага на юге Руси и начнут войну со своей стороны; на это твердо надеялся и Карл. Поэтому Петр зимой 1708/09 г. принял все меры обороны от турок, лично побывал в Воронеже и Азове, а к лету 1709 г. прибыл к армии Меншикова. Хотя в действиях против шведов Петр держался крайне осторожно, не рискуя вступать в открытые столкновения с Карлом, однако он решился открытым боем выручить осажденный шведами город Полтаву; 27 июня 1709 г. произошло знаменитое сражение при Полтаве. Эта генеральная битва кончилась полным бегством шведов на юг, к Днепру. Сам Карл успел переправиться через Днепр и уйти в Бендеры, в турецкие владения, но вся его армия у Днепра (у Переволочны) положила оружие и была взята в плен.

Полтавская победа совершенно сломила могущество Швеции: у нее не осталось армии, у Карла не стало прежнего обаяния; раньше торжествовавший над всеми врагами, а теперь разбитый Петром, он сразу передал Петру и Московскому государству то политическое значение, которым до тех пор пользовалась Швеция. И Петр сумел воспользоваться плодами победы. Естественным образом, он перенес военные операции к Балтийскому морю и в 1710 г. взял Выборг, Ригу и Ревель. Русские стали твердой ногой на балтийском побережье, существование Петербурга обеспечивалось. В то же время вместе с военными успехами Петр сделал и большие политические успехи. Поражение Карла подняло против Швеции всех ее врагов: Дания и Саксония снова объявили Швеции открытую войну; северогерманские владетели тоже стали принимать живое дипломатическое участие в великой Северной войне, не вступая пока открыто в борьбу со Швецией. Среди всех союзников первое место теперь стало принадлежать России и Петру. Петр сделался гегемоном Северной Европы и сам чувствовал, что он сильнейший и влиятельнейший монарх Севера. Ниже мы увидим, что тревожный для союзников Петра вопрос о его неожиданной гегемонии повел к охлаждению между Петром и остальными членами коалиции. Но политическое преобладание России оставалось неизменным с 1709 г., несмотря даже на неудачи Петра в Прутском походе.