Нерешенные проблемы могут оказаться неразрешимыми, но далеко не всегда это известно заранее. Например, задача о трисекции угла с помощью циркуля и линейки в течение по крайней мере нескольких столетий ошибочно считалась неразрешимой. Но трисекция оказалась невозможной. Теорема Черча утверждает, что не существует способа, позволяющего заранее определить, можно ли доказать или опровергнуть утверждение. Одни утверждения можно доказать и опровергнуть одновременно, другие нельзя ни доказать, ни опровергнуть — они неразрешимы, но их неразрешимость, как и неразрешимость всех известных неразрешимых проблем, заранее отнюдь не очевидна. Гипотеза Гольдбаха о том, что любое четное число представимо в виде суммы двух простых чисел, пока не доказана. Она может оказаться неразрешимой в системе аксиом арифметики, но ее неразрешимость, конечно, не очевидна. Не исключено, что когда-нибудь гипотезу Гольдбаха удастся доказать или опровергнуть.

Не успели математики оправиться от потрясений, вызванных теоремой Гёделя о неполноте и о невозможности доказать непротиворечивость арифметики, как через десять лет возникла новая серьезная угроза развитию математики. И опять «виной» тому был Гёдель, который явился инициатором серии исследований, которые внесли еще большую неразбериху в вопрос о том, что такое математика, имеющая под собой надежную основу, и в каком направлении она может развиваться. Напомним, что сторонники одного из подходов к основаниям математики, возникшего в начале XX в., намеревались построить математику, исходя из теории множеств (гл. XI); с этой целью была разработана система аксиом Цермело — Френкеля.

В работе «Совместимость аксиомы выбора и обобщенной гипотезы континуума с аксиомами теории множеств» (1940) Гёдель доказал, что если система аксиом Цермело — Френкеля без аксиомы выбора непротиворечива, то добавление аксиомы выбора не нарушает непротиворечивости, т.е. аксиома выбора в рамках этой аксиоматики не может быть доказана. Аналогично он установил, что предположение Кантора — гипотеза континуума о том, что не существует кардинальных чисел, заключенных между N ₀и 2 ^N0(т.е. кардинальным числом c,соответствующим множеству всех вещественных чисел), или, иначе говоря, что не существует несчетного множества действительных чисел с кардинальным числом, меньшим 2 ^N0, и обобщенная гипотеза континуума {142}не противоречит системе аксиом Цермело — Френкеля, даже если последнюю дополнить аксиомой выбора. Другими словами, гипотезу континуума как в обычном, так и в обобщенном варианте нельзя опровергнуть. Для доказательства своих утверждений Гёдель построил модели, в которых оба утверждения выполняются.

Непротиворечивость обоих утверждений — аксиомы выбора и гипотезы континуума — несколько обнадежила математиков: обеими теоремами можно было пользоваться по крайней мере с не меньшей уверенностью, чем остальными аксиомами Цермело — Френкеля.

Однако благодушие математиков (если только оно действительно было) быстро развеяли последующие события. Результаты Гёделя не исключали возможности того, что аксиома выбора и гипотеза континуума — порознь или вместе — могут быть доказаны на основе остальных аксиом Цермело — Френкеля. Мысль о том, что по крайней мере аксиому выбора невозможно вывести из остальных аксиом Цермело — Френкеля, была высказана еще в 1922 г. Тогда же и несколько позднее некоторые ученые, в том числе и Френкель, доказали независимость аксиомы выбора, но каждый из них счел необходимым дополнить систему Цермело — Френкеля вспомогательной аксиомой, которая, собственно, и позволила им осуществить доказательство. Примерно такое же возражение выдвигалось и против более поздних доказательств. В 1947 г. Гёдель предположил, что гипотеза континуума независима от аксиом Цермело — Френкеля и от аксиомы выбора.

В 1963 г. профессор математики Станфордского университета Пол Коэн (р. 1934) доказал, что и аксиома выбора, и гипотеза континуума независимы от остальных аксиом Цермело — Френкеля, если те непротиворечивы, т.е. иначе говоря, аксиома выбора и гипотеза континуума не могут быть доказаны на основе остальных аксиом Цермело — Френкеля. Более того, гипотеза континуума и тем более обобщенная гипотеза континуума не могут быть доказаны в системе Цермело — Френкеля, даже если ее дополнить аксиомой выбора. (Аксиома выбора следует из системы аксиом Цермело — Френкеля, не содержащей аксиомы выбора, но дополненной обобщенной гипотезой континуума.) Эти два результата по независимости означают, что в системе Цермело — Френкеля аксиома выбора и гипотеза континуума неразрешимы. В частности, для гипотезы континуума результат Коэна означает, что может существовать трансфинитное число, заключенное между N ₀и 2 ^N0(или c), хотя такое трансфинитное число не соответствует ни одному известному множеству.

В принципе метод Коэна, получивший название метода форсинга,не отличался от других доказательств независимости. {143}Напомним, что для доказательства независимости аксиомы Евклида о параллельных на основе остальных аксиом евклидовой геометрии требуется найти интерпретацию, или модель, которая удовлетворяла бы всем остальным аксиомам, кроме аксиомы о параллельных. {144}Такая модель должна быть непротиворечивой, так как в противном случае она может также удовлетворять аксиоме, независимость которой нас интересует. В своем доказательстве Коэн усовершенствовал более ранние работы Френкеля, Гёделя и других авторов, использовав без каких-либо вспомогательных условий только аксиомы Цермело — Френкеля. Доказательства независимости аксиомы выбора, хотя и менее удовлетворительные, были известны до Коэна, но вопрос о независимости гипотезы континуума до появления его работы оставался открытым.

Приступая к построению математики на основе теории множеств (или даже на логистической или формалистской основе), можно выбрать ту или иную из возможных исходных позиций. Можно запретить себе использовать аксиому выбора и гипотезу континуума. Приняв такое решение, мы ограничим круг теорем, доказываемых в рамках системы. «Основания математики» не включают аксиому выбора в число основных логических принципов, но при доказательстве теорем используют ее, формулируя в явном виде. В современной математике это главное. Можно поступить иначе и включить в число аксиом системы либо аксиому выбора, либо гипотезу континуума, либо оба утверждения вместе. Можно заменить отрицаниями либо одно утверждение, либо другое, либо оба. Отрицая аксиому выбора, можно отказаться от процедуры явного выбора представителей даже для счетной совокупности множеств. Отрицая гипотезу континуума, можно предположить, что 2 ^N0= N ₂или что 2 ^N0= N ₃. Именно так, по существу, и поступил Коэн при построении своей модели.

Сказанное означает, что существует не одна, а много математик. Теория множеств (рассматриваемая отдельно от остальных оснований математики) может развиваться во многих направлениях (ср. [17]*). Кроме того, аксиому выбора можно использовать либо лишь для конечного числа множеств, либо для конечной, или счетной, совокупности множеств, либо для любой совокупности множеств. Все эти возможные варианты были реализованы разными математиками.

С появлением коэновских доказательств независимости математика оказалась в еще более затруднительном положении, чем это было при создании неевклидовой геометрии. Как мы уже говорили (гл. VIII), осознав независимость аксиомы Евклида о параллельных от остальных аксиом евклидовой геометрии, математики сумели построить несколько неевклидовых геометрий. Результаты Коэна поставили математиков перед проблемой выбора: какому из многочисленных вариантов двух аксиом (аксиомы выбора и гипотезы континуума) следует отдать предпочтение перед другими? Даже если ограничиться теоретико-множественным подходом к математике, число возможных вариантов оказывается ошеломляюще большим.