К концу августа 1914 года наступательные действия французских войск стали носить разрозненный характер, с большими потерями. 25 августа Жоффр приказал армии отступить, намереваясь дать германцам сражение на линии Верден — река Эна — река Сомма. Во время этого вынужденного отхода французский главнокомандующий продемонстрировал большую выдержку и настойчивость, умение координировать действия с союзниками — англичанами и бельгийцами.
План отхода на новую позицию сухопутной армии Франции выполнить в полном объёме не удалось — германские войска старались не отстать от французов и не дать им закрепиться на новых рубежах. Однако генерал Жоффр сумел провести контрманёвр, которому неприятельское командование не смогло помешать. В ходе сражения между двумя немецкими армиями — 1-й и 2-й образовался опасный разрыв в 30 километров. Это обстоятельство, при отсутствии резервов, вынудило германское верховное командование отдать 9 сентября приказ об общем отходе на реку Эна.
В итоге развернувшееся на берегах реки Марны ожесточённое сражение принесло французам полупобеду, поскольку германским армиям пришлось прекратить наступление и отступить. Некоторые историки Франции считают сражение на Марне победой французского оружия в Первой мировой войне, а маршала Жозефа Жоффра называют «победителем на Марне», творцом «чуда на Марне».
Чтобы стабилизировать Западный фронт, французский главнокомандующий отдал новый приказ об отходе на линию южнее реки Сены. В начале сентября авиационная разведка донесла, что германские армии изменили направление своего главного удара с запада на Париж, обнажив тем самым один из своих флангов — правый. Рано утром 6-я армия выступила из предместий столицы, для её переброски было использовано 600 парижских такси. К контрнаступлению присоединились английские войска.
Теперь французам сопутствовал успех. Их артиллерия смогла отразить близ города Нанси наступление одной из германских армий. В итоге немецкое высшее командование отдало приказ об общем планомерном отходе. Планы Берлина молниеносно завершить войну против Франции рухнули. Потери сторон в начальный, манёвренный период войны были огромны германцы лишились 800 тысяч человек, французы и англичане — немногим более миллиона человек.
Отступление французской армии вызвало серьёзную критику в адрес главнокомандующего. (В 1919 году будет образована специальная парламентская комиссия для расследования причин проигранных пограничных сражений, сдачи ряда крепостей и ряда приграничных областей. Но в итоге комиссия так и не выдвинет против Жоффра каких-либо прямых обвинений.)
Германские армии первыми стали переходить к позиционной обороне, выбрав для этого удобные позиции на гребне плато к северу от реки Эны. Французский главнокомандующий, не имевший точных сведений о силах противника, решился на фронтальный контрудар. Но в ходе сентябрьских боев немцы мощным артиллерийским огнём отбили атаки союзников. Битва на берегах реки Эны знаменовала собой окончательный переход к позиционной войне на Западном фронте.
Жоффр руководил позиционной войной французской армии с конца 1914 года, весь 1915-й и до конца 1916 года. В войну вступало все больше государств. Русская армия в ходе Галицийской битвы и Варшавско-Ивангородской операции вновь оттянула на себя часть германских войск с Западного фронта.
На фронтах стало использоваться новое оружие — в апреле 1915 года немцы применили близ бельгийского города Ипра газовую атаку на позицию британских войск. Только ввод в бой резервных канадских частей позволил остановить наступление германцев под Ипром.
9 мая 1915 года генерал Жоффр предпринял после интенсивной артиллерийской подготовки наступление к северу от города Арраса. Однако результаты его оказались малозначительными: германцы отступили всего на три мили. К тому же контратакующими усилиями немцы вернули утраченные позиции. Понесённые французской армией большие потери (почти 100 тысяч человек на фронте наступления более 10 километров) вызвали новую волну обвинений в адрес Жоффра со стороны парламентской оппозиции.
В конце сентября Жоффр предпринял ещё одно наступление, на сей раз в Шампани. Удар по немецким позициям наносили две армии — генералов де Лангля де Кари и Петэна. Наступавшие французы захватили 25 тысяч пленных и около 160 вражеских орудий. Германцам удалось вернуть себе только часть утраченных позиций. Наступление в Шампани заглохло из-за недостатка резервов у атакующих. Фронт вернулся на линию, существовавшую за год до этих боев.
В конце 1915 года правительство назначило генерала Жозефа Жака Жоффра главнокомандующим всеми армиями Франции, включая Восточную на Балканах. Однако в следующем 1916 году, когда Жоффр получил высшее воинское звание маршала Франции (первое такое присвоение со времени франко-прусской войны), его полководческая репутация сильно пострадала из-за Верденской катастрофы. Французская печать обвиняла главнокомандующего во всевозможных грехах, в том числе в игнорировании мнения нижестоящего командования по поводу оборонного строительства на Верденском участке фронта. Однако ради справедливости следует сказать, что крепостной район Вердена был укреплён на случай войны Франции с Германией по последнему слову фортификационной науки и не имел себе подобных во всей Европе.
Борьба за Верден началась 29 февраля мощным наступлением миллионной 5-й германской армии генерала фон Фалькенгайна на позиции 2-й французской армии. На 15-километровом участке прорыва немцы сосредоточили 17 своих дивизий против двух французских. Германская тяжёлая артиллерия почти полностью уничтожила укрепления противника на переднем крае обороны. В ходе развернувшегося сражения германским войскам удалось захватить мощные форты Дуомен и Во. В конце концов 6-месячное немецкое наступление под Верденом выдохлось, и сам город наступавшие взять не смогли.
Сражение под Верденом вошло в военную историю ещё и под названием «Верденская мясорубка», настолько огромными оказались потери сражавшихся сторон на сравнительно небольшом участке фронта. Германские потери составили 280 тысяч человек убитыми и ранеными, французские — 315 тысяч человек.
В октябре 1916 года французские войска под командованием генерала Нивеля предприняли контрнаступление. Им удалось не только потеснить неприятеля и вернуть себе форты Дуомен и Во, но продвинуться ещё дальше. Однако каких-то радикальных изменений во взаимном расположении германских и французских армий не произошло.
Таким же безрезультатным оказалось и сражение на реке Сомме, которое вновь закончилось с большими людскими потерями. На Балканах французские войска не смогли помешать разгрому союзной румынской армии. Полной неудачей ранее закончилась десантная Дарданелльская операция. Это переполнило чашу терпения парламентариев Франции, и в декабре 1916 года по решению правительства маршал Жозеф Жоффр покинул пост главнокомандующего, передав его генералу Нивелю. Однако у того дела пошли ещё хуже, и скоро он тоже оставил пост главнокомандующего.
Жоффр стал техническим военным советником правительства. В 1917 году он посетил США с целью добиться американской помощи Антанте. В том же 1917 году американские войска высадились в Европе. Затем маршал Жоффр находился с такой же военной миссией в Японии, которая была азиатской союзницей Антанты в Первой мировой войне. Её войска действовали против германских колоний в Китае и на островах Тихого океана.
После окончания войны маршал Жозеф Жоффр оказался в числе тех французских военных деятелей, которые выступали за иностранную военную интервенцию против Советской России.
В 1918 году он был избран членом Французской академии. В 1922 году Жоффр возглавлял правительственную комиссию по обороне Франции. Автор «Мемуаров маршала Жоффра (1910-1917)» и ряда военно-теоретических трудов. Один из них, «Подготовка войны и ведение операций», был переведён на русский язык и опубликован в Москве в 1923 году.