Мазепа, якому в Україні ще не забули арешт Семена Палія, відчув, що продовжувати лояльну до Москви політику він просто не зможе, не наражаючись у такому разі на відкриту ворожнечу власних підданих. Як пише у праці «Історія Росії» С. Соловйов, прилуцький полковник Дмитро Горленко саме тоді так висловився про Мазепу: «Як ми за душу Хмельницького завжди Бога молимо й ім'я його славимо, що Україну від ярма лядського визволив, так, навпаки, і ми і діти наші у вічні роди душу й кості твої будемо проклинати, якщо нас по смерті своїй у такій неволі залишиш». Збувалося пророковане ще полковниками Хмельницького, котрі відмовились підписати Переяславську угоду, — Московське царство ставало для України тим катом, яким колись була для неї Річ Посполита.
Відомий український літератор, історик і публіцист в еміграції Ілько Борщак у творі «Шведчина й Французька дипломатія» повідомляє, що переговори між Мазепою і Станіславом Лещинським, а через останнього і Карлом XII, розпочалися ще у 1703 році. Гетьман, безумовно, розумів: у час, коли Україна перетвориться на поле бою між Швецією і Росією, він повинен буде вирішити, з ким бути надалі, принісши цим своїй батьківщині користь, а не подальше розтягнення її багатств іноземними військами. Як відомо, Мазепа активно листувався з тіткою Станіслава Лещинського — княгинею Ганною Дольською, яка представляла інтереси прошведської частини польського магнатства. У другій половині 1706 року Пилип Орлик, майбутній правобережний гетьман, котрий перебував у той час на службі в Івана Мазепи, розшифрував для нього лист, у якому Дольська від імені Станіслава Лещинського просила Мазепу, щоб він «діло наміренное зачинал, надежен будучи скорого себі цілым войском шведским с Волыни суккурсу и всіх желаний своих, чого тылко претендовати будет, неотрицателнаго исполнения, обіщая на тое прислать ассекурацию Станислава и гваранцию короля шведского».
До якогось моменту Мазепа все ж не наважувався вступати у відкрите протистояння з Москвою. Але тут відіграла свою роль генеральна старшина війська, яка дедалі активніше натякала гетьману на необхідність порвати з московським царем, уникаючи перспективи перетворити Україну на звичайну російську провінцію. Таким настроям козацтва, безумовно, сприяв царський указ, у якому йшлося про реорганізацію українського козацького війська за зразком слобідських полків. Ці полки вже не були в прямому підпорядкуванні гетьманської канцелярії, а знаходились під командуванням Посольського приказу у Москві. Звичайно, такий указ не міг не насторожити полковників і старшину. Як пише В. Голобуцький, старшина ця, збираючись на таємні ради у генерального обозного Ломиковського і в миргородського полковника Данила Апостола, активно виступала за протидію подібним указам Петра І.
Слід наголосити, що страх старшини перед новими «колінцями» російської політики щодо України і Війська Запорозького мав цілком реальні підстави. Так, наприклад, відомий випадок, коли у тому ж 1706 році гетьман Мазепа запросив Петра І до себе на бенкет. Серед присутніх на бенкеті був і Олександр Меншиков, на той час один з перших фаворитів російського царя. Як зазначає С. Соловйов, Меншиков, добряче сп'янівши, нахилився до Мазепи і прошепотів йому на вухо так, щоб чули всі, хто був поряд: «Гетьмане, Іване Степановичу, час уже братися за цих ворогів». Натякав він саме на найближчу старшину Мазепи. Гетьман, не знітившись, відповів Меншикову теж на вухо, але пошепки і так само театрально, як говорив Меншиков: «Ні, не час». Але Меншиков не збирався закінчувати розпочату розмову і сказав таке: «Не може бути кращого часу, як зараз, коли тут царська величність з військом. Ворогів не потрібно боятись і щадити. Ти вірний государеві, але треба на ділі це довести і пам'ять про себе у нащадках залишити, щоб майбутні царі знали про це і ім'я твоє славили, що один такий був вірний гетьман Іван Степанович Мазепа, який таку користь державі Російській зробив». Звичайно, про Україну подібна до Меншикова людина розмови вести не могла, для неї України просто не існувало, була лише провінція його великої батьківщини. Та чи було потрібно таке прославляння держави Російської Мазепі? Як видно з його подальших вчинків, ні. Він обрав для себе інший шлях. Саме тоді, імовірно, Іван Мазепа остаточно вирішив перейти у війні на бік Карла XII і за його допомогою домогтися для України незалежності під верховенством польського короля Лещинського. Як повідомляє у своїй книзі відомий сучасний російський історик Т. Таїрова — Яковлєва, точна дата рішення гетьмана невідома, але відомо, що 17 вересня 1707 року Мазепа відкрив свій план генеральному писареві Пилипу Орлику. 16 вересня 1707 року Мазепа одержав від польського короля лист, де «Станіслав просив, щоб Мазепа „навмисну справу починав“, коли шведські війська підійдуть до українських кордонів». Очевидно, що тут ішлося про заздалегідь продуманий і ретельно підготований план. У бесіді з Орликом Мазепа пояснював свої переговори з Лещинським виключно військовою загрозою. Він сказав, що залишатиметься вірним московському царю до того часу, доки не побачить, «з якою силою Станіслав до кордонів українських прийде і які будуть успіхи шведських військ в Московській державі». Таким чином, можна стверджувати, що вже за рік до переходу на бік Карла XII Мазепа підготував ґрунт для того, щоб у разі «крайньої і останньої нужди» перейти на бік Швеції і, отже, допомогти повалити Московське царство, звільнивши Гетьманщину з — під панування Петра І чужими руками. Цікавий той факт, що під час подальших переговорів з Мазепою Карл XII без жодних вагань погодився у разі перемоги над Москвою подарувати українській Гетьманщині суверенітет і навіть розрахуватися золотом за провізію, фураж та амуніцію, які мали знадобитися шведським воякам під час бойових дій на території України. Достатньо приваблива альтернатива російському війську, яке звикло брати все задарма і не перейматися добрим поводженням на землях, які, в принципі, не були для росіян ворожою територією.
Слід зауважити, що, хоч би як Мазепа намагався приховати свої переговори з королями Швеції і Польщі, досить скоро про них стало відомо царю Петру І. Роздратований непоступливістю гетьмана у деяких особистих справах, генеральний суддя Василь Кочубей, якимось чином дізнавшись про задум Мазепи, написав у Москву цареві докладний донос на гетьмана, у якому сповіщав про перемовини між ним і Карлом XII.
Але, як не дивно це виглядає, донос генерального судді не досяг своєї мети. Мабуть, Мазепу врятувало те, що від 1688 року він багаторазово ставав об'єктом низки доносів Петру І, у яких ішлося про зраду козацького гетьмана. Цар доносам вірити не хотів, донощиків карали, а довіра государя до гетьмана лише зростала. Тож Петро І не повірив Кочубею і цього разу.
Однак, не вдовольнившись результатом, у січні 1708 року Василь Кочубей вдруге відрядив до Москви свого посланця Петра Янценка (Яковлева) із словесною звісткою про зраду Мазепи. Як згадано в літописі, Яковлев з'явився до близького царю благовіщенського протопопа, який рекомендував його царевичу Олексію Петровичу. Таким чином, Янценко домігся аудієнції в Петра. Та радіти було передчасно: цар визнав новий донос помилковим, доручивши розгляд справи друзям гетьмана Мазепи — Гаврилу Івановичу Головкіну і Петру Павловичу Шафірову. Не дивно, що результатом такого повороту справи для донощиків, у тому числі й для самого Василя Кочубея, стали арешт, тортури і страта.
У цей час Північна війна дійшла до свого вирішального моменту. Бойові дії ставали все більш масштабними й кровопролитними, а підрозділи задіяних в операціях військ зростали. Але, попри це, сказати напевно, хто ж вийде переможцем кампанії, не міг ніхто. Незважаючи на таку невизначеність, з'явились обставини, які примусили гетьмана Мазепу швидше покинути свої вагання і відкрито перейти у війні на бік шведського короля.
Справа в тому, що Карл XII, який збирався вирушати походом на Москву, несподівано для Мазепи вирішив вести своє чимале військо через Україну. Нам достеменно не відомі причини, які змусили короля зважитися на такий крок. Найімовірніше, це було зумовлено поразкою шведського генерала Левенгаупта у Білорусії, що значно ослабило сили Карла XII. Можна припустити, що король шукав тепер підтримки у Мазепи і таким вчинком мав на меті прискорити його перехід на свій бік. Але у ставці гетьмана таке рішення Карла XII викликало обурення. Мазепа розумів, що подібний розвиток подій неминуче викликав би і прибуття у Гетьманщину ще більших сил російської армії, і подальший грабунок українських міст та сіл. Як повідомляє С. Соловйов, за свідченням Пилипа Орлика, Іван Мазепа тоді вигукнув: «Який нечистий жене його сюди? Він приведе мені всю московську зграю!»
