Для решения этой задачи Пётр I начал настойчиво проводить в стране военные реформы. Стрелецкое восстание 1698 года в Москве лишь ускорило этот процесс. После подавления восстания царь своим указом распустил стрелецкие полки. Взамен их в конце 1699 года стали набирать «прямое регулярное войско».
В ноябре того же года царь издал новый указ «О приёме в службу в солдаты изо всяких вольных людей». Пожелавшим стать солдатами выдавалось годовое жалованье в 11 рублей и «хлебные и кормовые запасы». Первоначально запись шла в съезжей солдатской избе в селе Преображенском и руководил ею А.М. Головин. Затем набор в армию стал производиться, помимо Москвы, в Новгороде, Пскове, Смоленске, Белгороде и городах Поволжья.
Итогом набора «прямого регулярного войска» стало формирование трех пехотных дивизий по девять полков в каждой. Ими командовали генералы А.М. Головин, А.А. Вейде и А.И. Репнин. Первоначально полки назывались «новоприборными тысячными» и состояли из 1152 человек. Солдаты вооружались фузеей (ружьём) с багинетом (штыком), который для рукопашного боя вставлялся в ружейный ствол. Одновременно шло формирование регулярной кавалерии — драгунских полков.
Готовясь к большой войне против Шведского королевства, Пётр I приложил немало дипломатических усилий для создания военного Северного союза против Стокгольма. Так союзниками России в Северной войне 1700-1721 годов стали Саксония и Дания. Государь первоначально определил для себя следующий театр военных действий — Ингрия (Ижорская земля) с невскими берегами и Карелия. В случае успеха Русское царство возвращало себе берега Финского залива и получало выход на просторы Балтики.
Швеция имела в то время сильнейшую сухопутную армию в Европе и многочисленный флот на Балтике. Поэтому шведы уже в самом начале Северной войны, начавшейся 12 февраля 1700 года, без особых усилий разгромили союзников Петра I — Данию и Саксонию.
8 августа русский царь получил известие о заключении 30-летнего перемирия с Турцией. На другой день Россия объявила войну Швеции (к тому времени Дания уже потерпела военное поражение и вышла из Северного союза). В начале октября молодая регулярная 34-тысячная армия, имевшая 145 полевых и осадных орудий, подошла к шведской крепости Нарва в 12 километрах от побережья Финского залива и осадила её.
Осада велась по всем правилам военно-инженерного искусства того времени. Началась бомбардировка крепости. Король Карл II, узнав об этом, поспешил на помощь. Во главе королевской армии (около 25 тысяч человек при 37 орудиях) он высадился в Пернове (ныне город Пярну Эстонской республики) и двинулся к Нарве. Узнав об этом, Пётр I отправился в Новгород собирать подкрепления.
19 ноября в 14 часов королевская армия двинулась на штурм русских позиций. В самом начале боя, который шёл до наступления полной темноты, главнокомандующий петровской армией герцог де Круа и большинство наёмных иноземных офицеров сдались в плен. Русская армия потерпела полное поражение: она потеряла 7 тысяч убитыми и всю свою артиллерию. Во время бегства дворянской конницы в реке Нарве утонули более тысячи человек. Победители потеряли до 2 тысяч человек. После разгрома русской армии король Карл II выступил в поход против саксонской армии Августа II.
Поражение под Нарвой дало новый, сильный импульс петровским военным реформам. Вместо распущенной дворянской конницы началось формирование 10 драгунских полков по тысяче конных солдат в каждом. Укреплялись приграничные города. Для восстановления артиллерийского парка с церквей была снята часть колоколов, которые переливали в пушки. Уже к концу года было отлито около 300 орудий. Был объявлен новый набор в армию, которая проходила усиленное обучение.
Уже через год эти усилия царя Петра дали свои результаты. В конце декабря 1701 года русские войска при Эрестфере одержали свою первую крупную победу над шведами в полевом бою. В июле 1702 года в сражении при Гуммельсгофе Шереметев нанёс полное поражение королевскому военачальнику Шлиппенбаху. Осенью того же года штурмом была взята мощная крепость Нотебург (бывший новгородский Орешек), который царь переименовал в Шлиссельбург — ключ-город. В этом деле царь Пётр Алексеевич лично командовал войсками.
Вслед за этими победами русского оружия последовали другие, уже на берегах Невы. В её устье в мае 1703 года была взята крепость Ниеншанц. В том же месяце русские одержали свою первую морскую победу, взяв на абордаж два шведских военных корабля. 16 мая в устье Невы на острове Заячий была заложена Петропавловская крепость. Были освобождены старинные русские города Ям и Копорье, взят Дерпт (бывший Юрьев) и 9 августа под натиском штурмующих колонн пала Нарва.
В самые короткие сроки Россия построила мощный Балтийский флот. На реках Сясь, Свирь и Волхов были созданы верфи. Уже к весне 1705 года с них сошло около 20 боевых парусных кораблей. Одновременно строилась новая столица Российской империи — Санкт-Петербург. Для его защиты со стороны моря на острове Котлин заложили крепость Кроншлот (ныне Кронштадт). Попытки шведов летом 1705 года завладеть ею и строящимся городом на Неве были успешно отражены.
В 1701-1705 годах русская армия заняла часть Ингрии, Карелии, Лифляндии и большую часть Эстляндии. Таким образом Россия получила выход в Балтийское море. Однако до победного окончания Северной войны ещё оставалось полтора десятилетия.
В начале 1706 года Пётр I теряет своего последнего союзника в Северной войне: шведская королевская армия разбивает саксонскую. Август II отказывается от польской короны в пользу ставленника Карла XII Станислава Лещинского, и Саксония разрывает союз с Россией.
На предложения русской стороны о мире король Карл II отвечает категорическим отказом. В декабре 1706 года в местечке Жолкиев (ныне город Нестеров Львовской области Украины) Пётр I собирает военный совет для выработки плана дальнейших действий в Северной войне. Совет принимает решение отказаться от генерального сражения с шведами на польской территории, а «дать баталию при своих границах». Русская армия становится на прикрытие западной государственной границы.
Летом 1708 года шведская армия под командованием короля Карла XII выступила в поход на Россию, она двигалась на московском направлении. В сражении у Головчина шведы нанесли поражение дивизии генерала Репнина, за что Пётр I разжаловал того в рядовые солдаты (потом царь простит его). Эта мера произвела большое впечатление, особенно на офицеров и генералов.
В июле шведы заняли город Могилёв. На помощь королю с огромным обозом из Риги поспешил её генерал-губернатор Левенгаупт. В то время шведская армия начала испытывать трудности с провиантом и фуражом. Путь на Москву был надёжно закрыт русской армией. На всём пути движения шведов русские уничтожали запасы продовольствия и фуража. В таких условиях шведский король, после разгрома его авангарда под командованием генерала Росса у села Доброе, отказался идти на Смоленск и повернул на юг, на Украину. Там его ждал изменник гетман Мазепа, обещавший Карлу XII поднять против России все украинское казачество и поставить необходимый провиант, фураж и боеприпасы.
Королевская армия все же вышла к русской границе у деревни Стариши. Впереди за реками Вихря и Городня стояла русская армия. Карл XII отказался от мысли дать ей генеральное сражение и окончательно повернул на юг. Пётр I поручил Шереметеву преследовать вражескую армию, а сам повёл войска навстречу корпусу генерала Левенгаупта.
28 сентября 1708 года состоялось сражение у деревни Лесной, победу в котором царь Пётр назвал матерью полтавской виктории. Пётр Алексеевич лично командовал одной из двух колонн «летучего» корпуса русской армии — корволанта. Под его командованием находились Преображенский и Семеновский полки, батальон Астраханского полка и три драгунских полка. Другой колонной (левой) командовал генерал А.Д. Меншиков. Неприятельский корпус был настигнут близ деревни Лесной.
Шведскому военачальнику пришлось принимать бой, который начался с атаки русских. Пётр I с приходом свежей драгунской конницы отрезал противнику дорогу на Пропойск и усилил натиск на шведов. Вечером сражение прекратилось из-за наступивших сумерек и начавшейся вьюги, которая слепила глаза. Левенгаупту пришлось уничтожить остатки своего огромного обоза (большая часть его стала добычей нападавших), и его корпус, преследуемый русской кавалерией, сумел добраться до королевского походного лагеря.