Только после этих поражений в Вене забили тревогу и вспомнили о плане, который предлагал командующий имперской Верхнерейнской армии. Эрцгерцог Карл-Людвиг-Иоганн был назначен главнокомандующим австрийской Итальянской армии. Прибыв в Северную Италию, он нашёл там не боеспособную армию, а деморализованные поражениями войска. Все его усилия поднять их боеспособность не дали желаемого результата, и Вене пришлось заключить с Парижем невыгодное Леобенское перемирие.
В 1799 году началась Вторая коалиционная война против Франции. Карл-Людвиг-Иоганн принял командование над австрийской армией, сосредоточенной на берегах реки Лех. Ему противостоял прославленный наполеоновский генерал Журдан. 25 марта 1799 года при Штоккахе состоялось крупное сражение, после которого французским войскам пришлось отступить за Рейн.
Под Штоккахом сошлись 40 тысяч французов и 60-тысячная австрийская армия под командованием эрцгерцога Карла-Людвига-Иоганна. Последний, желая провести разведку боем, отправил в разные стороны три отряда, численность каждого из которых превышала 10 тысяч человек, а сам с половиной своей армии остановился при Штоккахе. Генерал Журдан не имел точных сведений о противнике и предположил, что имеет дело только с небольшими силами австрийцев. Он двинул против эрцгерцога 27 тысяч человек, а дивизию Сен-Сира в 10 тысяч человек направил в обход через Мескирх. Эту дивизию австрийцы от Штоккаха отбросили, после чего генерал Журдан решил отступить за Рейн.
После одержанной победы эрцгерцог решил начать наступление к границе Франции. Однако этому воспротивился гофкригсрат во главе Тугутом. Он приказал Карлу-Людвигу-Иоанну вместе со своей армией отойти к Рейну и тем самым оставить на произвол судьбы союзный русский корпус под командованием генерала Римского-Корсакова. В это время через Швейцарские Альпы с труднейшими боями пробивались на соединение с ним русские войска под командованием А.В. Суворова. Брошенный союзниками-австрийцами корпус Римского-Корсакова был разбит под Цюрихом французскими войсками маршала Массены, и Суворов оказался в одиночестве.
Недовольство Карла-Людвига-Иоанна действиями гофкригсрата было настолько сильным, что полководец в 1801 году оставил пост командующего и уехал в чешский город Прагу. Однако сразу же за ним туда прибыл посланник из Вены с просьбой и поручением австрийского монарха возглавить защиту Богемии от французов. Для этого предстояло сформировать Богемский корпус волонтёров. Эрцгерцог справился с заданием, но возглавить этот добровольческий корпус из-за болезни он не смог.
После того как Наполеон Бонапарт и маршал Моро разгромили австрийцев в сражениях при Маренго и Гогенлиндене, правительство Австрии и гофкригсрат поручили эрцгерцогу возглавить имперскую армию. Он навёл в ней должный порядок, произвёл перегруппировку войск и заключил с маршалом Моро перемирие. За этим последовало заключение Люневильского мира.
В Вене хорошо понимали, что заключённый с наполеоновской Францией мир не будет долговечным и надо готовиться к новой войне с ней. В 1801 году эрцгерцог Карл-Людвиг-Иоганн получил звание фельдмаршала. Он был назначен президентом гофкригсрата и начал по поручению монарха реформировать военную систему Австрийского государства.
Военно-реформаторская деятельность эрцгерцога была настолько впечатляющей, что его сторонники обратились в 1802 году к австрийскому правительству с ходатайством поставить фельдмаршалу памятник как спасителю отечества. От такой чести Карл-Людвиг-Иоганн решительно отказался.
В 1805 году реформы коснулись верхнего эшелона военной власти в Австрийской империи. По предложению и настоянию эрцгерцога устаревший гофкригсрат был преобразован в военное министерство. Его первым министром стал сам реформатор.
В том же году началась австро-русско-французская война. Эрцгерцог Австрийский принял на себя командование австрийской армией в Италии. 30 октября этого года при селении Кальдьеро состоялось сражение 50-тысячной австрийской армии с 37-тысячной французской, которой командовал маршал Массена. Австрийцы укрепились в деревне и на окружающих её высотах. Массена настойчиво атаковал высоты и сумел в конце концов захватить их, но Кальдьеро держалось до самой темноты.
Ночью эрцгерцог приказал отступить и вывести с поля сражения армейский обоз с большими запасами артиллерийских снарядов. Он оставил на месте сражения 5-тысячный арьергард для прикрытия отхода главных сил на новую позицию. На следующий день французы взяли арьергард, которым командовал генерал Хилингер, в плен. Австрийцы потеряли в том сражении 3 тысячи человек убитыми и ранеными, а потери их противника составили 4 тысячи человек.
В 1806 году император назначил эрцгерцога Австрийского главнокомандующим (генералиссимусом) имперской армией и военным министром с неограниченными правами. Причина такого решения венского двора была вполне понятна: император французов Наполеон Бонапарт приступил к европейским завоеваниям, и теперь на очереди была Австрийская империя со своими обширными владениями в Центральной Европе.
На новых постах эрцгерцог Карл-Людвиг-Иоганн проявил действительно выдающиеся администраторские способности. Многонациональные по своему составу австрийские войска воспитывались в высоком патриотическом духе. Профессиональное обучение офицерского корпуса стало более основательным. Улучшилось снабжение войск провиантом.
При Карле Австрийском численность имперской армии достигла 500 тысяч человек: из них в действующих войсках находились 300 тысяч, а ещё около 200 тысяч человек составляли резервные обученные войска — ландверер. С введением нового устава ушла в прошлое линейная тактика. Австрийская армия стала строиться по корпусному принципу, но эту реформу эрцгерцог не успел завершить до конца. Однако в своих нововведениях главнокомандующий и военный министр столкнулся с непониманием большинства подчинённых ему военачальников, воспитанных в духе устаревшей линейной тактики и манёвренной стратегии.
Новая война Австрии и Франции начинается в 1809 году. Фельдмаршал Карл-Людвиг-Иоганн во главе обновлённой австрийской армии выступил против императора Наполеона Бонапарта. Перед этим эрцгерцог чуть не стал испанским королём. В 1808 году умер испанский монарх Карл VI, и испанский престол был предложен Карлу Австрийскому, но тот по одним ему известным соображениям отказался от испанской короны.
Боевые действия развернулись на полях Средней Европы. К концу февраля 1809 года армии были распределены на четырех театрах военных действий. Германскую армию возглавил лично главнокомандующий. Во главе Польской армии встал его брат эрцгерцог Фердинанд. В Тироль был отправлен отдельный корпус Шателера, для действий в приморской Далмации — отдельная бригада генерала Стойхевича.
Вена планировала в начале войны нанести удары с территории Богемии и разгромить разбросанные по Саксонии и Пруссии войска маршала Даву ещё до получения им подкрепления из Франции. Затем планировалось нанести сильные удары по германским государствам, входившим в Рейнский союз, и тем самым заставить их разорвать союзные договоры с Парижем. После таких операций в начальный период войны предстояло действовать или против самой Франции, или против её армии в Баварии. План Австрии, разработанный её военным министром, носил наступательный характер, оборонительные действия планировались только в Далмации.
Время для начала войны против Франции было выбрано Веной весьма удачно. Император Наполеон вёл в то время трудную войну в Испании, поэтому он распустил на время войска Рейнского союза по своим квартирам, а лучшую часть французской армии отправил на Пиренейский полуостров. На главном театре военных действий в конце 1808 года у маршала Даву имелось всего 60 тысяч войск — отдельный корпус.
Однако австрийскому командованию не было суждено осуществить свой план. Император Наполеон Бонапарт имел в Европе хорошо налаженную сеть агентуры, и о планах Вены, собиравшейся начать против него войну, стало известно в Париже. Наполеон принял экстренные меры: объявил дополнительный призыв в армию, усилил войска маршала Даву, мобилизовал германских и польских союзников и сформировал новую армию, во главе которой встал сам.