Кое-как замирив Саксонию, он в конце года прибыл в Италию Весной 781 г. в Риме папа по просьбе Карла крестил его четырехлетнего сына, дав ему имя Пипин, и возложил на голову ребёнка корону, после чего отец громогласно объявил о своём желании доверить новому королю управление Италией. После этого Пипин стал официально именоваться «королём лангобардов». 782 год вновь посвящен был саксонским делам. Всю Саксонию Карл разделил на административные округа, во главе которых поставил графов. Узнав, что в приграничные земли вторглись славяне-сорбы, он отправил против них своё войско. Но как раз в это время из Дании вернулся Видукинд. Вся страна немедленно восстала. Множество франков было перебито, христианские храмы разрушены. Войско, посланное против сербов, попало в засаду у горы Зунталь и было почти полностью перебито мятежниками. Карл собрал новую армию, явился в Верден, вызвал к себе саксонских старейшин и принудил их выдать 4500 заложников.
Все они в один день были обезглавлены. Тогда же был обнародован так называемый «Первый саксонский капитулярий», грозивший страшными карами за любое прегрешение против церкви и франкской администрации. Следующие три года Карл почти не покидал Саксонии. В ходе этой упорной войны он бил саксов в открытых сражениях и в карательных рейдах, брал сотни заложников, которых увозил из страны, уничтожал селения и фермы непокорных. Летом 785 г. франки перешли Везер. Обескровленный многими поражениями Видукинд завязал с Карлом переговоры и запросил пощады. Осенью он приехал к королю в Аттиньи, крестился и получил из его рук богатые дары. Это был переломный момент в Саксонской войне. После этого сопротивление побежденных стало постепенно ослабевать.
В конце 786 г. Карл выступил против герцога Беневентского Арихиза, который мечтал восстановить под своей властью лангобардское королевство. В начале 787 г. Карл был уже в Риме, а затем подошел к Капуе. Арихиз отступил к Салерно и оттуда отправил к Карлу своего сына для переговоров. Он обещал полное повиновение, лишь бы король не опустошал его территории. Карл согласился. После этого сам герцог и его народ принесли королю франков присягу в верности. Вся Италия до самого юга признала власть Карла. Развязав себе руки в Саксонии ум. Италии, Карл обратился против баварского герцога Тассилона, старого союзника лангобардов. В том же году он окружил Баварию с трёх сторон войсками. Тассилон вынужден был принести клятву верности. В 788 г. Карл вызвал герцога на суд, низложил и заставил постричься в монахи. Герцогская власть в Баварии была упразднена, а страна отдана под управление графам. В 789 г. Карл совершил экспедицию против славянского племени лютичей (вильцев). Франки навели два моста через Эльбу, перешли реку и при поддержке союзников (саксов, фризов, ободритов и лужицких сербов) нанесли страшный удар лютичам. Хотя, согласно летописям, те дрались упорно, но устоять перед огромными силами союзников не смогли. Карл гнал вильцев до реки Пены, все уничтожая на своём пути. Их столица капитулировала, а князь Драговит покорился и дал заложников.
Затем началась тяжелая аварская война. По свидетельству Эйнгарда, она была самой значительной и ожесточённой после саксонской и потребовала от франков очень больших издержек. Летом 791 г. армия Карла тремя различными путями вторглась в страну аваров и дошла до Венского леса, где были их главные укрепления. Покинув свой лагерь, авары бежали в глубь страны, франки преследовали их до впадения реки Раб в Дунай. Дальнейшее преследование прекратилось вследствие массового падежа лошадей. Армия вернулась в Регенсбург, нагруженная большой добычей. Весь год Карл провел в Регенсбурге, но от нового похода против авар его отвлекло восстание саксов. Размах его превзошел даже события 785 г. К саксам присоединились фризы и славяне. Повсюду были разрушены храмы и перебиты франкские гарнизоны. Летом 794 г. Карл и его сын Карл Юный во главе двух армий вторглись в Саксонию. Видя себя окруженными, саксы массами бросились к Эресбургу, принесли клятвы верности, дали заложников и вернулись к христианству. Осенью 795 г. король с сильной армией вновь опустошил Саксонию и дошел до нижней Эльбы. Узнав, что саксы убили его союзника, князя ободритов, он подверг страну вторичному опустошению, взял до 7000 заложников и возвратился во Францию. Едва он ушел, восстали саксы в Нордальбингии, стране к северу от Эльбы. Карл должен был обратиться против них. Тем временем хорутанский князь Войномир возобновил войну против авар, взял их укрепленный лагерь ринг и захватил богатую добычу. Летом 796 г. сын Карла Пипин вновь напал на авар, опустошил всю их страну и разрушил до основания ринг. После этого похода, по словам Эйнгарда, в Паннонии не осталось в живых ни одного её обитателя, а место, на котором находилась резиденция кагана, не сохранило и следов человеческой деятельности. Страшный народ аваров, в течение нескольких столетий наводивший ужас на всю Восточную Европу, перестал существовать. Тем временем Карл с сыновьями, Карлом и Людовиком, воевал в Саксонии. Армия прочесала всю страну вплоть до Нордальбингии, а затем возвратилась в Ахен с заложниками и большой добычей. В конце лета – начале осени Карл организовал грандиозную экспедицию в Саксонию по суше и по воде; опустошая все на своём пути, он подошел к Нордальбингии. Со всех сторон страны к нему сбежались саксы и фризы, дав большое число заложников. В ходе экспедиции Карл расселил в Саксонии франков, а многих саксов увел с собой во Францию. Он решил не покидать страну даже на зиму. Взяв с собой весь двор, он расположился на Везере, приказал построить бараки для солдат и назвал место стоянки Герштель. Всю зиму он провел здесь, занимаясь саксонскими делами. Весной 798 г. он подверг полному опустошению земли между Везером и Эльбой. Одновременно союзные франкам ободриты разбили нордальбингов у Свентаны, перебив до 4000 саксов. После этого Карл смог вернуться во Францию, ведя за собой до полутора тысяч пленных. Летом 799 г. король вместе с сыновьями отправился в последний поход против саксов. Сам он оставался в Падерборне. Тем временем Карл Юный завершил усмирение Нордальбингии. Как обычно, Карл вернулся во Францию, ведя с собой множество саксов с женами и детьми для расселения их во внутренних областях государства.
