Внешняя угроза могуществу Габсбургов на время отпала, но зато обострились отношения в самой Германии. С каждым годом вражда между протестантами и католиками все возрастала. Император до последней возможности старался примирить их между собой. В декабре 1545 г. ему удалось пересилить упрямство папы и собрать церковный собор в Триденте, но время оказалось упущенным. Протестанты, набравшие за последние годы в Германии огромную силу (из четырех светских курфюрстов трое были протестантами), уже не желали подчиняться его решениям. Карл понял, что пришло время навязать своё мнение силой оружия.

В 1546 г. . началась так называемая Шмалькальденская война. Момент был выбран Карлом очень удачно, так как среди протестантских князей царил раскол. Самый могущественный из них, герцог Саксонский Мориц, перешел на сторону императора и сражался под его знаменами. Сам Карл объявил, что целью его похода в Германию будет не стеснение веры, а единственно приведение в покорность некоторых князей, которые под прикрытием веры не уважают более ни суда, ни законов, ни императорского сана. Часть протестантских князей сохранила нейтралитет, и это было очень выгодно для Карла. Он объявил главных членов Шмалькальденского союза мятежниками и двинул в Германию большую армию, составленную из испанских и итальянских наёмников. Первая встреча противников произошла осенью подле Ингольштадта на Дунае. После ожесточённой пушечной пальбы протестанты, не доводя дела до решительного сражения, отступили. После этого Ульм, Аугсбург, Франкфурт и Страсбург изъявили императору свою покорность и уплатили большие штрафы. Герцог Вюртембергский и пфальцграф Рейнский согласились на условия, предложенные победителями. В начале 1547 г. вся южная и западная Германия уже подчинялись Карлу. Он в это время так страдал от подагры, что лежал на носилках, будто разбитый параличом, и говорил слабым голосом, но был очень рад достигнутым успехам и решил немедленно двинуться в северную Германию. Курфюрст Саксонский ждал врагов у Мюльберга. Императорская армия перешла через Эльбу и 24 апреля внезапно напала на врага. Курфюрст, имевший вчетверо меньше сил, стал поспешно отступать. Испанская и неаполитанская конница рассеяла немецкую и нанесла врагам сильный урон. Сам курфюрст Иоанн Фридрих оказался в плену. Карл обошелся с ним очень надменно и далеко не милостиво. Сначала он приговорил курфюрста к смерти, но потом, смягчившись, согласился сохранить ему жизнь, но отнял курфюршество вместе со всеми владениями и передал их Морицу. Города Северной Германии изъявили свою покорность. В июне Карлу сдался другой вождь протестантов – пфальцграф Гессенский. Разъезжая по протестантским владениям, император приказывал повсюду срывать замки, выдавать ему артиллерию и выплачивать штрафы. Пишут, что герцог Альба и другие фанатики-католики предлагали выбросить из могилы тело Лютера и сжечь его. Но Карл отвечал: «Оставьте его в покое, он имеет другого Судью. Я воюю с живыми, а не с мертвыми».

В сентябре Карл созвал рейхстаг в Аугсбурге. Побежденные протестантские князья вынуждены были уступить нажиму католической партии. Они согласились подчиниться решениям Вселенского собора в Триесте, от чего прежде отказывались. Казалось, что дело примирения сдвинулось с мертвой точки, но как раз в это время разгорелась ссора между императором и папой Павлом III, который самовольно перенес собор в Болонью, где моглегко воздействовать на его решения. Поскольку протестанты наотрез отказались подчиниться решениям такого собора, процесс примирения вновь застопорился. Впрочем, Карл видел, что папа и не желает мира, а хочет расправиться с протестантами как с еретиками. Раздосадованный неуступчивостью Рима, Карл сказал папскому нунцию: «Папа упрямый старик и только губит церковь. Я сам созову собор, который удовлетворит всех и поправит то, что ещё можно поправить». Он поручил рейхстагу разработать временные правила примирения, которые будут действовать до решения религиозного спора Вселенским собором. Из всего, что он делал в это время, видно, что Карл искренне хотел религиозного мира. Он не стал требовать замены протестантского богослужения католическим и возвращения конфискованных церковных имений. Однако от протестантов потребовали подчинения папской власти, восстановления епископств, признания за церковью исключительного права на толкование Священного писания, почитания икон, восстановления постов и других уступок, на которые протестанты могли согласиться только по принуждению. В мае 1548 г. аугсбургский инерим был принят рейхстагом. Одновременно Карл обещал провести необходимые преобразования в католической церкви.

Следующие пять лет стали временем наивысшего могущества Карла: Франция была побеждена, в Испании и Италии он имел почти неограниченную власть, в Германии его слово имело решающее значение. Казалось, ещё немного – и Карл восстановит древнюю императорскую власть в полном объеме. Но этого не случилось. С начала 50-х гг. противники стали наносить Карлу все более чувствительные удары и в конце концов уничтожили многие из его достижений. В 1552 г. французский король Генрих II возобновил войну с императором, перешел через Маас и занял города Верден, Тур и Мец. В это время Мориц Саксонский, который был до этого верным союзником Карла и осаждал протестантов в Магдебурге, внезапно примирился со своими единоверцами и повел протестантскую армию в Тироль. Эта измена оказалась для Карла полной неожиданностью. Он едва не попал в плен к Морицу и в мае бежал через покрытые снегом Тирольские горы в Каринтию. Из-за подагры он не мог сидеть на лошади, его несли на носилках. Несколько человек из его свиты сорвались в пропасть и разбились. Внезапное нападение Морица свело на нет все успехи Шмалькаль-денской войны. В июне Карл должен был согласиться на мирные переговоры, которые начались в Пассау. К этому времени обе партии, истомленные многолетней борьбой, были как никогда склонны к взаимным уступкам. Было решено, что каждый князь волен устанавливать в своих владениях то вероисповедание, которого придерживается сам, по принципу «чья власть, того и религия». Карл отказался подписать этот мир и отложил его утверждение до рейхстага. С имперским войском он двинулся против французов и с октября 1552 г. до января 1553-го безуспешно осаждал Мец. Когда морозы уничтожили половину его армии, он согласился снять осаду. Эта война совершенно обессилила его. Пишут, что с тех пор престарелый император перестал верить в свою звезду и начал подумывать о передаче власти в молодые руки. В 1554 г. он повторил свой поход, но с тем же успехом. Тогда он согласился на условия Пассауского мира, которые были утверждены в следующем году на Аугсбургском рейхстаге.