Первые четыре года жизни Франц провел с родителями во Франции, а затем семья переехала в Мюнхен, где Максимилиан Гальдер получил должность адъютанта штаба бригады. Позднее он стал преподавателем инженерно-артиллерийской школы. Франц получил прекрасное начальное домашнее образование и в возрасте шести лет был зачислен сразу во второй класс протестантской народной школы. Осенью 1893 года он перешел в королевскую гимназию короля Людвига, а через три года он продолжил обучение в классической гимназии Св. Терезы. Во всех учебных заведениях Франц показывал хорошие достижения, хотя учителя всегда отмечали его невнимательность. Но как бы то ни было, в 1902 году он получил отличный выпускной аттестат.

Карьера военного как представителя старинного баварского рода потомственных военных была определена для него самим рождением. Франц не стал нарушать традиции семьи, и отец записал его в 3-й полк полевой артиллерии, в котором сам служил с 1893 по 1895 год командиром батареи, а с 1901 года стал командиром полка.

Начальное военное образование Франц получил в кадетском корпусе, который окончил с высшим баллом. Среди офицеров он выделялся блестящими аналитическими способностями и, прослужив некоторое время в полку, был направлен для продолжения учебы в Баварскую военную академию, которую успешно окончил в 1914 году.

Во время Первой мировой войны он служил в штабах различного уровня. Первое место службы Гальдер получил в штабе дивизии, а в конце войны он работал в штабе группы армий.

Его способности не остались незамеченными, и после окончания войны он остался в рейхсвере – армии, созданной по условиям Версальского договора. Он получил назначение в военное министерство, в отдел боевой подготовки.

В 1920 году он был переведен в Мюнхен в штаб 7-го военного округа на должность преподавателя тактики. В 1923 году Франц Гальдер снова вернулся в войска, где оставался до 1929 года. Затем его снова перевели на работу в военное министерство и в том же году присвоили звание полковника.

Начиная с 1933 года, с момента прихода Гитлера к власти, военная карьера Гальдера стала быстро идти в гору. В 1934 году в звании генерал-майора он получает назначение в штаб 6-го военного округа в Мюнстере на должность начальника штаба. Через год он стал командиром 7-й Баварской дивизии. Затем его производят в звание генерал-лейтенанта и назначают на должность обер-квартирмейстера генерального штаба (в его обязанности входило оперативное руководство войсками). В 1935 году генеральный штаб возглавил генерал Людвиг фон Бек.

Бек был профессиональным военным и прекрасно понимал, что немецкая армия еще не готова к войне. Кроме того, Бек считал, что для Германии необходим прочный военный союз с Англией. Он начал самостоятельно предпринимать определенные шаги в этой области, за что, впал в немилость. Он был категорически не согласен с Гитлером, который требовал решительных военных действий. Бек пытался уговорить высший генералитет выступить против фюрера и тем самым отложить начало военных действий в Европе. Но после заявления Гитлера, что, несмотря ни на что, он в ближайшее время введет войска в Чехословакию, поняв, что переубеждать фюрера бесполезно, он подал в отставку.

На место фон Бека был назначен Франц Гальдер. 27 августа 1938 года генерал артиллерии Франц Гальдер вступил в новую должность. Он стал начальником штаба главного командования сухопутными войсками (ОКХ). Уже к этому времени у него сложилось определенное мнение о Гитлере, и он решил устранить фюрера при помощи переворота.

Для этой цели Гальдер встретился с председателем рейхсбанка Ялмаром Шахтом и предложил ему сформировать новое правительство. Одновременно он вступил в контакт с командующим 3-м берлинским военным округом генерал-лейтенантом Эрвином фон Вицлебеном, который взял на себя военную часть заговора. Переворот должен был произойти после официального объявления Англией войны Германии. К заговору были привлечены воинские подразделения, в задачу которых входили захват правительственных зданий и арест верхушки НСДАП во главе с Гитлером. Все было готово к свержению нацистов, но переговоры в Мюнхене сорвали заговор. Сам фюрер не подозревал, что он и вся его система были так близки к гибели. В 1969 году, когда английский журналист в интервью с Гальдером коснулся темы Мюнхенского договора, старый генерал вскочил со стула и, показывая на корреспондента пальцем, закричал: «Ведь это ваш, ВАШ премьер-министр не дал нам расправиться с Гитлером еще в 1938 году!!!»

После неудачи Гальдер не отказался от намерения любым способом устранить Гитлера. Вместе с фон Вицлебеном он разрабатывал план нового переворота, по которому к 1940 году в каждом военном округе должны были быть созданы тайные ударные группы, которые по сигналу из Берлина арестуют партийных руководителей и захватят власть в стране. Но пока долг военного призывал Гальдера исправно выполнять свои служебные обязанности. Он продолжал заниматься разработкой оперативных планов вторжения вермахта в соседние страны. После оккупации всей территории Чехословакии Гитлер вынес Гальдеру личную благодарность за великолепно спланированную операцию.

После удачного проведения польской кампании осенью 1939 года Гитлер пригласил в рейхсканцелярию всех командующих группами армий и руководство вермахта. Он объявил, что намеревается напасть на Францию. Это заявление шокировало германский генералитет. Браухич и Гальдер продемонстрировали схемы и выкладки о состоянии войск, снаряжения и боеприпасов, которых хватило бы только недели на две. Но фюрер не желал ничего слушать и назначил дату вторжения во Францию через территории Бельгии и Голландии на 12 ноября.

Гальдер стал разрабатывать новый оперативный план и готовить очередной заговор. Центром действий заговорщиков стала штаб-квартира Генерального штаба в Цоссене. Гальдер планировал после убийства фюрера и отстранения НСДАП от власти сразу же подписать мирный договор с Англией. Германия вновь превращалась в государство с федеративным устройством в границах 1937 года. Покушение на Гитлера состоялось 8 ноября 1939 года. Взрыв в мюнхенской пивной, где было установлено взрывное устройство, оборвал жизнь нескольких старейших членов партии. Гитлер же спасся. Стоял ли за этим взрывом Гальдер или кто-то еще, до настоящего времени неизвестно.

Тем не менее после этого фюрер перестал кричать на своих генералов, и дата вторжения была перенесена на более поздний срок. (Затем дата вторжения во Францию переносилась еще 14 раз.)

Франц Гальдер снова подчинился приказу фюрера и принялся за разработку детального плана вторжения. Понимая, что для прорыва через укрепленную «линию Мажино» вермахт не располагает достаточными силами, он предложил измененный план Шлиффена 1914 года. Во время предварительного обсуждения плана на встрече с Гитлером фюрер высказал предложение об отвлекающем ударе в Голландии, чтобы оттянуть силы англичан в этот район. Не поддержав план Гальдера и Браухича, Гитлер велел им пересмотреть его. Но в результате за основу был взят план фон Манштейна, который в конце октября 1939 года был представлен им на рассмотрение ОКХ. Его план предусматривал заманивание противника на территорию Бельгии и Голландии отвлекающим ударом по этим странам, а затем нанесение главного удара в обход армий противника через Арденны с последующим их окружением. План, получивший название «Гельб», был переработан, а сам его создатель (Манштейн) был отправлен в войска.

В дальнейшем Гальдер и Браухич были отстранены от планирования операций по оккупации Дании и Норвегии. Гитлер, видимо, решил таким образом наказать строптивых штабистов. Но эти операции едва не окончились поражением вермахта, и управление войсками снова вернулось в ОКХ.

После поражения и капитуляции Франции Франц Гальдер был произведен в чин генерал-полковника. К этому времени он уже отошел от участия в заговорах против фюрера.

В июле 1940 года Гитлер объявил о намерении нанести удар по СССР. Он потребовал тщательной подготовки этой операции, намереваясь провести ее за пять месяцев. Он заявил на совещании с высшим генералитетом: «Чем скорее мы разобьем Россию, тем лучше. Операция только тогда будет иметь смысл, если мы одним ударом разгромим государство. Одного захвата известной территории недостаточно. Остановка зимой опасна. Поэтому лучше подождать, но потом, подготовившись, принять твердое решение уничтожить Россию».