Из Аугсбурга Карл поехал в Кёльн, где собрались пять католических курфюрстов. Здесь Фердинанд, младший брат Карла, был избран немецким королём. Карл передал ему все австрийские владения. Члены Шмалькальденского союза не признали Фердинанда королём. За поддержкой к ним обратились все другие немецкие противники Габсбургов, и раньше всех курфюрст Баварский. Это ставило Карла в затруднительное положение: в виду турецкой угрозы и опасности возобновления войны с Францией он не мог начинать сейчас войну в Германии и должен был искать примирения. После долгих переговоров летом 1532 г. в Нюрнберге был подписан мир между католической и протестантской партиями, который должен был продолжаться до созыва Вселенского собора. Католики и папа сильно досадовали на Карла за эту уступку, но он не видел другого выхода. Только после Нюрнбергского мира он смог собрать общий рейхстаг и получил наконец от князей деньги и войска для борьбы против турок. Трёхсоттысячное мусульманское войско, вторгшееся в Венгрию, получило такой твердый отпор, что султан Сулейман не решился продолжать поход. Германия была спасена от турецкого нашествия. Зимой император отправился в Италию, чтобы договориться с папой о Вселенском соборе. Но Климент очень мало был расположен к этому, опасаясь, что собор ограничит его власть. Карл, так и не сумев уговорить его, отплыл в Испанию.
В 1535 г. император предпринял славный поход против турецких пиратов. Он высадился с 30-тысячным войском на африканском берегу и вскоре взял замок Галетту. Правивший в Тунисе Хайреддин вывел против Карла 60-тысячное войско. Решительное сражение произошло 20 июня неподалеку от города. Мусульмане не устояли против артиллерии императора и атаки его пехоты. Христиане осадили Тунис и овладели колодцами. Но воды было мало, город оборонялся упорно. Если бы осада затянулась, положение Карла стало опасным, но помощь пришла к нему с неожиданной стороны. Множество европейских невольников, запертых в городе, подняли восстание. Благодаря этому императорское войско ворвалось в Тунис. Тысячи жителей были перебиты во время двухдневной резни, остальные обращены в рабов. Карл отдал Тунис своему союзнику Мулей-Гасану, который обещал не допускать впредь морского разбоя. В Галетте остался испанский гарнизон. Карл торжественно возвратился в Неаполь, доставив свободу более чем 22 тысячам христиан. На следующий год он хотел повторить свою экспедицию, но возобновившаяся война с Францией отвлекла его от африканских дел.
Из Неаполя Карл поехал в Рим и здесь узнал, что французская армия, перейдя Альпы, захватила Савойю и Пьемонт. Карл быстро собрал 50-тысячное войско, в июне 1536 г. вытеснил французов из Савойи и решил идти во Францию. Однако этот поход кончился так же неудачно, как и прежняя попытка Бурбона овладеть Марселем. Французы загодя разорили весь Прованс, так что нельзя было достать ни провианта, ни фуража. Страшная дизентерия опустошала ряды имперской армии. Франциск уклонялся от решительной битвы, предпочитая оборонительную войну. Потеряв до 20 тысяч человек умершими от болезней, Карл в сентябре вернулся в Италию. После этого взаимного обмена ударами противники стали искать пути к миру. В июне 1538 г. было заключено перемирие. Затем оба государя съехались в Эг-Морте и провели несколько Дней в дружеских развлечениях и пирах. Мир не был подписан, однако дружеские отношения между двумя государями сохранились.
В следующем году Франциск позволил Карлу пройти через свою территорию во Фландрию для подавления волнений в Генте. Две недели император гостил в Фонтебло, а потом ещё неделю провел в Париже. Положение в Нидерландах было очень серьёзным. Фламандцы сильно пострадали от войны с Францией, их возмущало равнодушие Карла к их интересам и его желание высосать из богатых нидерландских городов как можно больше денег. Восстание в Генте было первым предвестником великого национального восстания, охватившего Нидерланды четверть века спустя. Но на этот раз Карл одним своим появлением усмирил город. В феврале 1540 г. он торжественно въехал в Гент, наложил на него огромный штраф и велел построить в городе цитадель.
Из Нидерландов Карл в 1541 г. отправился в Германию на Регенсбургский рейхстаг, где была сделана ещё одна попытка примирения протестантов с католиками. Длительные прения окончательно убедили всех участников, что соглашение уже невозможно. Решение спорных вопросов было опять отложено до Вселенского собора. Император подтвердил постановление Нюрнбергского мира, фактически позволив протестантским князьям свободно продолжать реформацию в своих владениях.
Из Регенсбурга Карл поехал в Италию, с тем чтобы оттуда предпринять поход в Алжир. Была уже поздняя осень, и опытные люди советовали императору отложить своё предприятие, но он не согласился. В середине октября христианский флот добрался до Африки. Войска высадились на берег. Но в тот же вечер, прежде чем успели перетащить с судов пушки, снаряды и запасы провианта, началась сильная буря. Много кораблей было выброшено на берег, много унесено в море. Без орудий и снарядов нечего было и думать о взятии Алжира. Приходилось помышлять лишь о собственном спасении, поскольку на другой день турецкая конница стала тревожить измотанное христианское войско. В этих затруднительных обстоятельствах Карл показал много мужества и твердости. Три дня сряду, непрерывно отбиваясь от неприятеля, он вел своё войско вдоль морского берега по грязи и болотам, пока не добрался до залива Метафуца, где собралось несколько уцелевших от бури судов. Наравне с простыми солдатами Карл не щадил сил и подвергался всем лишениям тяжелого перехода. Погрузив людей на корабли, он отправился в Италию. Этот поход, несмотря на неудачу, доставил ему громкую славу.
Вскоре после возвращения в Испанию возобновилась война с Франциском. Французский король тщетно ожидал вознаграждения за услугу, оказанную Карлу, однако, вопреки прежним обещаниям сделать герцогом Миланским одного из сыновей Франциска, Карл в 1540 г. отдал его своему сыну Филиппу. С этого времени Франциск энергично готовился к войне, которая началась в 1542 г. с попытки французов овладеть Люксембургом и Русильоном. В 1543 г. главным театром боевых действий стала Италия, где французы с помощью турецкого флота взяли Ниццу. Однако союз с турками сильно повредил французскому королю в глазах всех христианских государей. Карл, воспользовавшись этим, очень искусно вооружил против Франциска всех соседей: он помирился с датским королём и заключил союз с английским. На съезде в Шпейере зимой 1544 г. Карлу удалось заручиться поддержкой всех немецких князей, как протестантских, так и католических. Весной он собрал на Рейне огромную армию, в которой только немцев насчитывалось до 30 тысяч. Летом он двинулся в Лотарингию и Шампань, а потом начал наступление прямо на Париж. В начале сентября императорские войска находились всего в двух переходах от французской столицы. В Париже царила паника. Дофин Генрих предлагал дать решительное сражение, но король не решился поставить свою судьбу на карту и предложил императору мир. Карл, который вовсе не стремился к войне, охотно принял его. Договор был заключен 18 сентября в Крепи.