Когда Кантор в 70-х годах XIX в. приступил к созданию теории бесконечных множеств и еще много лет спустя, эта теория находилась на периферии математической науки. Доказанные им теоремы о тригонометрических рядах не были столь уж фундаментальными. Но к началу XX в. канторовская теория множеств нашла широкое применение во многих областях математики. Кантор и Рихард Дедекинд понимали, сколь важна теория множеств для обоснования теории целых чисел (конечных, или «финитных», и трансфинитных) для анализа понятий линии или размерности и даже для оснований математики. Другие математики, в частности Эмиль Борель и Анри Леон Лебег, к тому времени уже работали над обобщением интеграла, в основу которого была положена канторовская теория бесконечных множеств.

Поэтому, когда сам Кантор обнаружил, что его теория множеств сопряжена с определенными трудностями, это было далеко не маловажным событием. Как уже говорилось, Кантор установил, что существуют все большие бесконечные множества, т.е. все большие трансфинитные числа. Но в 1895 г. у Кантора возникла идея рассмотреть множество всехмножеств.Мощность такого «сверхмножества» должна была бы быть самой большой из возможных. Но еще ранее Кантор доказал, что множество всех подмножеств любого заданного множества должно обладать трансфинитным числом, которое превосходит трансфинитное число, отвечающее исходному множеству. Следовательно, заключил Кантор, должно существовать трансфинитное число, превосходящее наибольшее из трансфинитных чисел. Придя к столь нелепому выводу, Кантор сначала растерялся; однако затем он решил, что все множества можно разбить на противоречивыеи непротиворечивые,и в 1899 г. сообщил об этом Дедекинду. Таким образом, множество всех множеств и соответствующее ему трансфинитное число попадали в разряд «противоречивых» — и тем самым исключались из рассмотрения.

Когда Бертран Рассел (1872-1970) впервые узнал о выводе, к которому пришел Кантор по поводу множества всех множеств, он усомнился в правильности рассуждений Кантора. В 1901 г. Рассел писал в своей работе, что Кантор, должно быть, «совершил очень тонкую логическую ошибку, которую я [Рассел] надеюсь объяснить в одной из следующих работ». Ясно, продолжал Рассел, что наибольшее трансфинитное число должно существовать, так как если взято все, то не останется ничего и, следовательно, ничего нельзя добавить. Рассел принялся размышлять над этой проблемой — и лишь пополнил арсенал проблем своим собственным «парадоксом», с которым мы вскоре познакомимся. Когда шестнадцать лет спустя статья Рассела была перепечатана в сборнике «Мистицизм и логика», он счел нужным добавить к ней подстрочное примечание, в котором извинился за допущенную ранее ошибку, ибо объяснить парадокс Кантора ему так и не удалось.

Помимо уже описанных количественных трансфинитных чисел, названных кардинальными,Кантор ввел также порядковые трансфинитные (ординальные)числа. Различие между ними достаточно тонко. Если мы рассматриваем, например, множество монет одинакового достоинства, то обычно имеет значение лишь количество монет, но никак не порядок, в котором они расположены. Но если требуется упорядочить студентов по успеваемости, то всегда найдется первый, второй, третий студент и т.д. Если в группе десять студентов, то занимаемые ими места в таком перечне образуют множество от первого до десятого. Это и есть множество ординальных чисел. Хотя в некоторых ранее существовавших цивилизациях и проводилось различие между кардинальными и ординальными числами, количество элементов в упорядоченном множестве из десяти элементов обычно обозначалось тем же символом, что и количество элементов в неупорядоченном множестве из десяти элементов. Так же поступали и в дальнейшем; подобным образом действуем и мы. Действительно, установив, кто занял десятое место, мы тем самым находим, что число людей, которых мы предварительно расставили по ранжиру, или упорядочили, равно десяти, и обозначаем количество элементов как в упорядоченном, так и в неупорядоченном множестве из десяти людей одним и тем же символом 10. В случае бесконечных множеств различие между кардинальными и ординальными числами более существенно, и поэтому для обозначения их применяют различные символы. Так, Кантор обозначал ординальное число, соответствующее упорядоченному множеству целых чисел 1, 2, 3, …, буквой ω. Упорядоченному множеству 1, 2, 3, …, 1, 2, 3 (или, если угодно, 4, 5, 6, …, 1, 2, 3) в обозначениях Кантора (сохранившихся и поныне) соответствовал символ ω + 3. Кантор ввел иерархию трансфинитных ординальных чисел. Эта иерархия простиралась до ω∙ω, ω ⁿ , ω ^ωи далее (ср. [53]).

Разработав теорию трансфинитных ординальных чисел, Кантор в 1895 г. понял, что с этими числами также связана определенная трудность, о чем и сообщил Гильберту в том же году. Первым, кто указал на эту трудность в опубликованной (1897) работе, был Чезаре Бурали-Форти (1861-1931). Кантор считал, что множество ординальных чисел можно упорядочить подходящим образом по аналогии с тем, как упорядочены по величине хорошо знакомые всем вещественные числа. Но одна из теорем о трансфинитных ординальных числах утверждает, что ординальное число множества всех ординальных чисел от 1 и вплоть до любого ординального числа α(включая и само число α) больше α. Например, ординальное число множества ординальных чисел 1, 2, 3, …, ω равно ω + 1. А это в свою очередь означает, что множество всехординальных чиселдолжно иметь ординальное число, превышающее самое большое число этого множества. Действительно, заметил Бурали-Форти, даже и к самому большому ординальному числу мы всегда можем прибавить единицу и получить еще большее ординальное число. Возникает противоречие, так как рассматриваемое множество, по предположению, содержит всеординальные числа. Из этого Бурали-Форти заключил, что ординальные числа допускают только частичное упорядочение.

Столкнувшись всего лишь с этими двумя проблемами, большинство математиков, несомненно, могли бы и дальше пребывать в том состоянии безмятежности, которое они обрели в результате пересмотра оснований математики в XIX в. Над вопросом о том, существует ли наибольшее кардинальное и ординальное числа, они предпочитали не задумываться. Ведь не существует же наибольшего целого числа — и никого это никогда не беспокоило!

Тем не менее канторовская теория бесконечных множеств вызвала бурю протестов. Несмотря на то что эта теория нашла, как уже говорилось, применение во многих областях математики, некоторые ученые по-прежнему отказывались принимать актуально бесконечные множества и все, что с ними связано. Леопольд Кронекер, испытывавший к тому же личную антипатию к Кантору, называл того шарлатаном. Анри Пуанкаре называл теорию множеств тяжелой болезнью и считал ее своего рода математической патологией. «Грядущие поколения, — заявил он в 1908 г., — будут рассматривать теорию множеств как болезнь, от которой они излечились». Даже в 20-х годах XX в. многие математики стремились избегать использования трансфинитных чисел (гл. X). Кантор выступил в защиту своей теории. Он утверждал, что разделяет философию Платона и верит, что в окружающем нас мире идеи существуют независимо от человека. И чтобы осознать реальность этих идей, необходимо лишь задуматься над ними. Парируя критические замечания философов, Кантор приводил метафизические и даже богословские доводы. {101}

К счастью, у теории Кантора были не только противники, но и сторонники. Рассел назвал Кантора одним из великих мыслителей XIX в. В 1910 г. Рассел писал: «Решение проблем, издавна окутывавших тайной математическую бесконечность, является, вероятно, величайшим достижением, которым должен гордиться наш век». Расселу вторил Гильберт: «Никто не изгонит нас из рая, созданного Кантором». В 1926 г. Гильберт так отозвался о трудах Кантора: «Мне представляется, что это самый восхитительный цветок математической мысли и одно из величайших достижений человеческой деятельности в сфере чистого мышления».