Хотя первопричина возникших противоречий казалась вполне очевидной, проблема построения математики, свободной от противоречий, оставалась открытой. Более того, у математиков отнюдь не было уверенности в том, что в будущем не появятся новые противоречия. Все это позволяет понять, почему в начале XX в. проблема непротиворечивости стала весьма острой. Математики рассматривали эти противоречия как парадоксы теории множеств. Но именно теория множеств открыла математикам глаза на то, что противоречия возможны и в классических разделах математики.

На фоне непрекращающихся попыток подвести прочный фундамент под здание математики доказательство непротиворечивости перерастало в острейшую проблему. Но в начале XX в. математики поняли, что с точки зрения обоснования уже полученных результатов существуют и другие проблемы, не уступающие по своей значимости проблемам непротиворечивости. Критический дух математиков окреп и закалился в конце XIX в., и, вступив в двадцатое столетие, они подвергли безжалостному пересмотру все, что легко принимали на веру их предшественники. Им удалось обнаружить совершенно невинное на первый взгляд утверждение, которое ранее кочевало из доказательства в доказательство, не привлекая внимания. Утверждение это состояло в следующем: если имеется любой набор(конечный или бесконечный) множеств, то всегда можно, выбрав из каждого множества по одному элементу, составить из этих элементов новое множество.Так, от каждого штата из пятидесяти штатов США можно выбрать по одному жителю и составить из них группу из 50 человек.

То, что это утверждение в действительности составляет специальную аксиому — так называемую аксиому выбора, математики осознали из работы Эрнста Цермело (1871-1953), опубликованной в 1904 г. В этой связи весьма уместно обратиться к истории вопроса [56]. Когда Кантор задумал расположить трансфинитные числа по величине, ему понадобилась теорема о том, что любое множество вещественных чисел может быть вполне упорядочено.Всякое вполне упорядоченное множество прежде всего линейно упорядочено.Это означает, что если  aи  b— любые два (разные!) элемента множества, то, как и в множестве вещественных чисел или точек прямой, либо  aпредшествует b,либо  bпредшествует a. Кроме того, если  aпредшествует b и bпредшествует c, то  aпредшествует c.Множество вполне упорядочено, если в любом его подмножестве, каким бы способом оно ни было выбрано, всегда существует первый элемент. Например, множество положительных целых чисел, расположенных в обычной последовательности, вполне упорядочено. Множество вещественных чисел, расположенных в обычной последовательности, линейно упорядочено, а не вполне упорядочено, так как в подмножестве, состоящем из всех чисел, которые больше нуля, нет первого элемента. В 1883 г. Кантор высказал предположение, что каждое множество можно вполне упорядочить, и этой гипотезой он пользовался, так и не сумев ее доказать. Напомним, что в своем докладе на II Международном математическом конгрессе 1900 г. Гильберт назвал среди прочих проблему доказательства полной упорядочиваемости множества вещественных чисел. В 1904 г. Цермело доказал, что каждое множество может быть вполне упорядочено (см., например, [54]), и в ходе доказательства особо отметил, что он использует аксиому выбора.

Как уже неоднократно случалось в прошлом, математики использовали аксиому выбора бессознательно и лишь гораздо позднее не только поняли, что применяют эту аксиому, но и докопались до причин, побудивших их ее принять. Кантор неявно использовал аксиому выбора в 1887 г. для доказательства теоремы о том, что любое бесконечное множество содержит подмножество с кардинальным числом N ₀ .Кроме того, аксиома выбора неявно использовалась при доказательствах многих теорем топологии, теории меры, алгебры и функционального анализа. Например, аксиома выбора находит применение при доказательстве теоремы о том, что в любом ограниченном множестве чисел всегда можно выбрать последовательность, сходящуюся к предельной точке множества. Аксиома выбора используется также для доказательства фундаментальных утверждений, например при построении вещественных чисел из аксиом Пеано для целых чисел. Аксиома выбора применяется и при доказательстве теоремы о конечности множества всех подмножеств конечного множества. В 1923 г. Гильберт назвал аксиому выбора общим принципом, который необходим и неоценим как один из первых элементов теории математического вывода. Пеано первым обратил внимание на аксиому выбора. Еще в 1890 г. он писал, что нельзя бесконечно применять произвольное правило, позволяющее отбирать по одному элементу из каждого множества, сколько бы их ни было. Пеано сформулировал правило выбора для частного случая, т.е. для той задачи (интегрируемости дифференциальных уравнений), рассмотрением которой он занимался, и тем самым устранил возникшую трудность. То, что аксиома выбора действительно является аксиомой, понял в 1902 г. Беппо Леви, а Цермело узнал об этом от Эрхардта Шмидта в 1904 г.

Явное использование Цермело аксиомы выбора вызвало бурю протестов в следующем же номере (за 1904 г.) авторитетного журнала Mathematische Annalen.С критикой аксиомы выбора выступили Эмиль Борель (1871-1956) и Феликс Бернштейн (1878-1956). Вслед за их критическими выступлениями последовал обмен письмами между ведущими математиками того времени Эмилем Борелем, Рене Бэром (1874-1932), Анри Лебегом (1875-1941) и Жаком Адамаром (1865-1963); эти письма были опубликованы на страницах журнала Bulletin de la Société Mathématique de Franceза 1905 г.

Суть критики сводилась к тому, что если не указано правило, по которому из каждого множества выбирается по элементу, то реально выбор не производится и поэтому в действительности новое множество не образуется. В ходе доказательства выбор может изменяться, поэтому доказательство утрачивает силу. По выражению Бореля, выбор без правил представляет собой акт веры; поэтому аксиома выбора лежит за пределами математики. Поясним сказанное на примере, предложенном в 1905 г. Бертраном Расселом. Предположим, что у меня есть сто пар обуви и я из каждой пары выбираю левый ботинок. Правило, которым я руководствуюсь при выборе в этом случае, ни у кого не вызовет сомнений. Но предположим, что у меня имеется сто пар носков и из каждой пары я выбираю по одному носку. В этом случае невозможно указать, какой носок (правый или левый) был выбран из каждой пары, т.е. нельзя сформулировать правило, по которому был произведен выбор. Те, кто отстаивал аксиому выбора, признавали, что правила выбора может и не быть, но не считали его необходимым. По их мнению, акты выбора определены просто тем, что их считают определенными.

Против аксиомы выбора выдвигались и другие возражения. Так, Пуанкаре принимал аксиому выбора, но отвергал предложенное Цермело доказательство полной упорядоченности, поскольку в этом доказательстве используются непредикативные утверждения. Бэр и Борель возражали не только против аксиомы, но и против доказательства, так как из него не видно, как осуществляется полное упорядочение, — доказывается лишь, что оно осуществимо. Брауэр, со взглядами которого на основания математики мы познакомимся в дальнейшем (гл. X), возражал потому, что считал неприемлемыми актуально бесконечные множества. Возражение Рассела сводилось к тому, что множество естественно определять свойством, которым обладают все элементы этого множества, и только они. Так, например, множество людей, носящих зеленую шляпу, можно было бы определить свойством «носящие зеленую шляпу». Но аксиома выбора не требует, чтобы выбранные элементы обладали каким-нибудь определенным свойством. Она лишь утверждает, что каждый элемент выбран из одного из заданных множеств — по одному элементу на каждое множество. Сам Цермело довольствовался интуитивным понятием множества, и поэтому у него не вызывало сомнений, что при любом выборе из каждого множества по одному элементу образуется новое множество.