Новое столкновение с Францией произошло спустя всего несколько лет из-за испанского наследства. Последний из испанских Габсбургов, слабоумный Карл II, не имел детей. Из двух его сестёр одна была замужем за Людовиком XIV, другая – за Леопольдом. Но Леопольд имел от этого брака только дочь. Третья жена родила ему сыновей Иосифа и Карла, которые, вообще говоря, не имели никаких прав на испанскую корону. Поэтому, умирая, Карл II передал престол внуку Людовика XIV Филиппу Орлеанскому. Леопольд не признал этого завещания и стал добиваться испанской короны для своего младшего сына. Все европейские державы поддержали его претензии и объединились против Франции.

Война началась сразу на многих фронтах. Уже в 1701 году принц Евгений Савойский вторгся с имперской армией в Северную Италию. В сентябре 1702 г. принц Людвиг Баденский взял на Рейне крепость Ландау, но в следующем месяце потерпел поражение у Фридлингена. В 1704 г. французы заняли Аугсбург и Пассау. Одновременно ухудшилось положение на востоке. После освобождения Венгрии австрийцы повели себя там, как в завоеванной стране: стали самовольно вводить новые налоги и с большой строгостью собирать их, нарушали венгерскую конституцию и даже попытались упразднить национальный сейм. В 1703 г. в Венгрии началось новое восстание. Во главе инсургентов встал Франциск Ракоши. Император был вынужден двинуть против него войска из Германии. Положение в столице было тревожное. Одно время Леопольд даже подумывал о переезде в Прагу. Французская армия двинулась на соединение с Ракоши. Чтобы помешать этому, принц Евгений и герцог Мальборо спешно привели свои армии к Дунаю. Решительная битва с французами произошла в августе 1704 г. при Гехштедте и закончилась блистательной победой союзников. Французы потеряли убитыми и ранеными 15 тысяч человек. Их маршал Тальяр сдался в плен. В декабре того же года была одержана победа над венграми при Тирнау. В следующем году император Леопольд, давно страдавший от водянки, умер.