Записав все математические и логические аксиомы в виде символических формул, Гильберт подготовил все необходимое для ответа на главный вопрос: что следует понимать под объективным доказательством? По Гильберту, строгое доказательство складывается из трех этапов: 1) предъявление некоторой формулы; 2) утверждение, что из предъявленной формулы следует другая формула, и 3) предъявление второй формулы. Последовательность из этих трех этапов, в которой вторая предъявляемая формула является следствием из принятых ранее аксиом или ранее выведенных заключений, и является доказательством теоремы. Допустимой операцией считается также подстановка одного символа или группы символов вместо другого символа или группы символов. По Гильберту, вывод формулы сводится к применению логических аксиом для манипуляции с символами ранее выведенных формул или аксиом.
Формула истинна в том и только том случае, если ее можно получить как последнее звено последовательности формул, каждый член которой либо представляет собой аксиому формальной системы, либо выведен с помощью одного из правил вывода. При желании можно проверить, является ли данная формула заключительным звеном соответствующей цепочки дедуктивных выводов, поскольку доказательство по существу представляет собой механическое преобразование символов. Мы видим, что, с точки зрения формалиста, доказательство и строгость — понятия вполне определенные и объективные.
Собственно математику формалист рассматривает как набор формальных систем, каждая из которых имеет свою логику, обладает своими собственными понятиями, своими аксиомами, своими правилами дедуктивного вывода и своими теоремами. Развитие каждой из этих формальных систем и составляет задачу математики.
Такова была предложенная Гильбертом программа построения собственно математики. Но свободны ли от противоречий выводимые из аксиом заключения? Поскольку предыдущие доказательства непротиворечивости основных областей математики проводились в предположении, что арифметика непротиворечива (более того, как показал сам Гильберт, непротиворечивость евклидовой геометрии сводится к непротиворечивости арифметики), вопрос о непротиворечивости последней приобрел решающее значение. По словам Гильберта, «в геометрии и физической теории доказательство непротиворечивости достигается путем сведения к непротиворечивости арифметики. Подобный метод явно непригоден для доказательства непротиворечивости самой арифметики». Гильберта волновал вопрос абсолютной, а не относительной непротиворечивости. На этой проблеме он сосредоточил свои усилия, утверждая, что нельзя подвергать себя риску столкнуться в будущем с неприятными сюрпризами, подобными тем, которые возникли в математике начала XX в.
Непротиворечивость «не видна снаружи». Невозможно предвидеть все следствия из аксиом. Но Гильберт, как и почти все математики, занимавшиеся проблемами оснований математики, использовал понятие материальной импликации (гл. VIII), в которой из ложного высказывания следует что угодно. Если в системе существует противоречие, то по закону противоречия одно из каких-то двух высказываний должно быть ложным, а если существует ложное высказывание, то из него следует, что 1 = 0. Следовательно, для доказательства непротиворечивости необходимо лишь убедиться в том, что мы нигде не придем к утверждению 1 = 0. Тогда, заметил Гильберт в работе 1925 г., «то, что мы пережили дважды — сначала с парадоксами дифференциального исчисления, а затем с парадоксами теории множеств — не произойдет в третий раз и не повторится никогда».
В серии работ, выполненных в период 1920-1930 гг., Гильберт и его ученики Вильгельм Аккерман (1896-1962), Пауль Бернайс (1888-1978) и Джон фон Нейман (1903-1957), постепенно создали метод, получивший название гильбертовской Beweistheorie[теории доказательства] или метаматематики, — метод доказательства непротиворечивости любой формальной системы (ср. [73], [74]). Суть основной идеи метаматематики можно пояснить с помощью следующей аналогии. Допустим, вы захотели бы изучить выразительные возможности японского языка и решили бы проводить этот анализ на японском языке — тогда ваши результаты оказались бы в значительной мере ограничены возможностями самого японского языка. Но если считать, что английский язык выразителен, то при изучении возможностей японского языка целесообразно было бы воспользоваться английским.
В метаматематике Гильберт предложил использовать особую логику, которая не вызывала бы никаких возражений. Истинность ее законов должна быть настолько очевидной, что всякий мог бы принять их без тени сомнения. По существу эти идеи Гильберта были весьма близки принципам интуиционизма. Все спорные моменты — доказательство существования от противного, трансфинитная индукция, актуально бесконечные множества, непредикативные определения — старательно изгонялись. Доказательства существования должны были быть конструктивными. Поскольку формальная система может продолжаться неограниченно, метаматематика не могла обойти вниманием понятия и проблемы, по крайней мере относящиеся к потенциально бесконечным системам. Но ссылки на бесконечное число структурных свойств формулы или использование бесконечного числа производимых над формулами операций объявлялись недопустимыми. Рассматривать формулы, в которые входят символы, означающие актуально бесконечные множества, не запрещалось, но сами множества могли входить лишь как символы в формулах. Математическая индукция по натуральным (положительным целым) числам считалась допустимой, поскольку она доказывает утверждение для любого конечного n; однако не следовало понимать этот метод так, будто он позволяет доказывать утверждение сразу для всего бесконечного множества натуральных чисел.
Понятия и методы метаматематического доказательства Гильберт назвал финитными.Строгого определения этого термина дано не было. В работе 1925 г. смысл финитности Гильберт пояснил на следующем примере. Высказывание «Если p— простое число, то существует простое число, которое больше p» не финитно, так как представляет собой утверждение о всех целых числах, которые больше p.Высказывание же «Если p— простое число, то существует простое число, которое больше pи меньше p! + 1( p— факториал плюс единица)» финитно, так как при любом простом pнам необходимо лишь убедиться, существует ли простое число среди конечного {130}множества чисел, заключенных между pи p! + 1.
В книге, написанной вместе с Бернайсом и опубликованной в 1934 г., Гильберт описывает финитность следующим образом:
…Мы будем говорить о финитных понятиях и утверждениях, подчеркивая всюду словом «финитный», что рассматриваемое рассуждение, утверждение или определение придерживаются рамок принципиальной представимости объектов и принципиальной выполнимости операций, а тем самым происходят в рамках конкретного рассмотрения.
В тех случаях, когда это не могло привести к недоразумениям, формалисты использовали язык и некоторые обозначения интуитивной, или неформальной, математики.
Выступая с докладом о своей метаматематической программе на Международном математическом конгрессе 1928 г., Гильберт с уверенностью заявил: «Не сомневаюсь, что наш новый подход к основаниям математики, который можно было бы назвать теорией доказательства, позволит навсегда покончить со всеми проблемами обоснования математики». В частности, Гильберт выражал надежду на то, что ему удастся доказать непротиворечивость математики и решить проблему полноты. Иначе говоря, все высказывания, имеющие смысл, будут либо доказаны, либо опровергнуты. Не останется ни одного неразрешимого утверждения.
Как и следовало ожидать, формалистская программа вызвала критику со стороны представителей соперничающих направлений. Во втором издании «Принципов математики» (1937) Рассел заметил, что используемые формалистами аксиомы арифметики не задают однозначно значения символов 0, 1, 2, …, с тем же успехом счет можно было бы начать и с того, что мы интуитивно понимаем под числами 100, 101, 102, …. Поэтому утверждение «Апостолов было 12» с точки зрения формализма лишено смысла. «Формалисты напоминают часовщика, который настолько озабочен тем, как выглядят выпускаемые им часы, что забыл об их прямом назначении — измерять время — и не вставил в корпус механизм». Логицистское определение числа вкладывает смысл в связь этого понятия с реальным миром; формалистская теория лишает такую связь всякого смысла.