В июне 1940 года Гудериан был назначен командующим 2-й танковой группой («танковая группа Гудериана»), нацеленной на Францию. Быстро пройдя Бельгию и форсировав реку Марну, немецкие танки внезапно атаковали французские войска, которые не успели подготовиться к вторжению неприятеля. Потерпев поражение, французы оставили хорошо укреплённую «линию Мажино».
Во всех боях с танковыми колоннами генерал-полковника Гудериана французы терпели поражения. Хотя они и их союзники-англичане имели численное превосходство, германские бронетанковые войска за месяц овладели городами Седаном, Кале и Булонью, выйдя на берега пролива Ла-Манш. Захватив Булонь, Гудериан тем самым отрезал английский гарнизон Кале от главных сил союзников. Битву за Фландрию они проиграли и в большой спешке эвакуировались на Британские острова.
Гудериан планировал добить остатки англо-французских войск, которые в приморском Дюнкерке ожидали отправки в Англию, но гитлеровское командование приказало ему наступать в южном направлении. Танки Гудериана прорвались к городу Шалон-сюр-Марна. Здесь они почти не встречали сопротивления. Франция капитулировала перед гитлеровской Германией 22 июня 1940 года. К этому дню немецкие танки дошли уже почти до самой границы Швейцарии, вступив в город Нанси.
Во время вторжения немецко-фашистских войск во Францию Гудериан продемонстрировал истинные возможности бронетанковых войск в современной войне. Между Намюром и Седаном его танки успешно прорвали французские позиции на 50-мильном фронте. А при совершении марша на запад к Абвилю за семь дней прошли более 200 миль, правда, при слабом сопротивлении противника.
Однако ради справедливости следует заметить, что во Франции столь же успешно действовал ещё один военачальник германских танковых войск. Это был генерал-полковник Пауль фон Клейст, который и разделил с Гудерианом славу танковых побед на французской земле.
И в Польше, и во Франции идея танкового «блицкрига» блестяще оправдала себя. Генерал Гудериан стал одним из главных военных идеологов Третьего рейха и принимал самое деятельное участие в подготовке вторжения немецко-фашистских войск в Советский Союз.
В июне 1941 года танковые колонны Гудериана шли в первом эшелоне гитлеровской армии, взламывая оборону советских войск на главных направлениях. В октябре этого же года он в звании генерал-полковника командовал на советско-германском фронте 2-й танковой армией, которая входила в состав группы армий «Центр» генерал-фельдмаршала фон Бока. Этой группе армий предстояло наступать через Смоленск на Москву. Танковая армия Гудериана участвовала в окружениях советских войск под Минском, Смоленском и в районе Лохвины.
В начале сентября армия Гудериана, переброшенная на усиление группы армий «Юг», участвовала в операции по окружению Киева, в районе которого оборонялись четыре советских армии. Танковый клин 2-й армии наступал на город Нежин, идя на соединение с танковыми войсками генерал-полковника Пауля фон Клейста. Однако блестящего танкового «блицкрига» под Киевом не получилось, и немцы добились здесь лишь большого тактического успеха, что задержало их наступление на Москву.
Киев пал 19 сентября, а южнее города в излучине Днепра в «котле» оказалось более 600 тысяч советских войск. Попытки маршала С.М. Будённого прийти на помощь окружённым оказались тщетными. Окружённые вели упорные бои, неоднократно пытаясь вырваться из «котла». Однако оставшись без боеприпасов и при полном господстве немецкой авиации в воздухе, большая часть этой группировки советских войск оказалась в плену. В годы Великой Отечественной войны это было одним из самых крупных поражений Красной армии.
После этого танковые клинья 2-й танковой армии нацелились на Москву. Однако сопротивление Красной армии нарастало, и в условиях наступившей зимы продвижение танковых колонн значительно замедлилось. Более того, гитлеровцы стали нести большие потери в танках, которые не успевали восполнять. Советские солдаты научились бороться с ними не только с помощью противотанковых пушек и ружей, но и с помощью зенитных орудий, поставленных на прямую наводку, и бутылок с зажигательной смесью.
Самым большим успехом Гудериана в этом зимнем наступлении на Москву стал захват города Калуги благодаря удачному обходу можайской линии обороны советских войск с юга. Под Москвой началась большая битва, которая закончилась полным поражением немцев. В ходе контрнаступления советских войск под общим командованием Г.К. Жукова немецкие армии группы «Центр» были отброшены далеко от советской столицы. Причём в ходе оборонительных боев и во время контрнаступления советские танковые войска продемонстрировали высокое искусство ведения борьбы с вражескими танками.
Было похоже, что звезда германского идеолога «танковой войны» пошла к закату. В декабре 1941 года, после тяжёлого поражения под Москвой, Гудериан был снят с должности командующего 2-й танковой армией и отправлен в резерв.
Только в марте 1943 года Гудериана назначают генерал-инспектором танковых войск. Для военного времени это была большая должность. Он лично много сделал для увеличения производства новейших танков и штурмовых орудий, артиллерийских боеприпасов к ним, улучшения подготовки танкистов, обеспечения бронетанковых войск всем необходимым.
Поражения немецко-фашистских войск в войне заставили Гитлера обновить Верховное командование своей армии. В июне 1944 года генерал-полковник Гудериан был назначен начальником генерального штаба сухопутных войск. Он приступил к исполнению служебных обязанностей, хорошо понимая всю тяжесть и безысходность сложившейся ситуации.
Гудериан был одним из немногих фашистских генералов, осмеливавшихся спорить с фюрером и отстаивать своё мнение. Одной из причин разногласий между ними стали усилия генерал-полковника по спасению окружённой в Латвии группы армий «Север». Однако Гитлер тянул с решениями слишком долго, и окружённые немецкие армии не получили помощи.
В марте 1945 года Хайнц Гудериан стал настаивать на заключении немедленного мира с противником, за что был сразу же уволен в запас и больше в гитлеровскую армию не возвращался.
Гудериан уехал в австрийский Тироль, где в мае 1945 года был взят в плен американцами, но те вскоре отпустили отставного германского военачальника. Хотя Гудериана официально задержали как военного преступника, никаких обвинений ему за действия на территории Польши, Франции и Советского Союза победители не предъявили.
В послевоенные годы Гудериан написал мемуары, в которых пытался реабилитировать фашистский генералитет и всю ответственность за поражение Германии во Второй мировой войне возложить на Адольфа Гитлера. Впрочем, это характерно для большинства мемуаров, вышедших из-под пера гитлеровских генералов.
Хайнц Гудериан активно выступал за восстановление довоенных европейских границ и военной мощи послевоенной Германии. В последние годы своей жизни он был одним из лидеров крайне правых сил Федеративной Республики Германии. Но его реваншистские позиции осуждала вся демократическая общественность страны.