РИС. 4: Некоторые примеры соответствия между числом, находящимся между О и 1, и парой чисел.

Вернемся к основному вопросу задачи: существует ли множество с большей мощностью, чем мощность вещественных чисел? Мы все еще не нашли решение: ни квадрат, ни плоскость, ни трехмерное пространство (все это бесконечные множества точек) не годятся в качестве ответа. Однако нет у нас и аргументов, доказывающих, что такое множество существовать не может.

На рисунке 1 показано, как можно доказать равномощность окружности с выколотой точкой (ее отсутствие обозначено пустым кружком) отрезку без концов, искривляя его. Оба эти множества точек — в сущности одно и то же, их единственное различие заключается в графическом изображении на плоскости. В одном случае они располагаются на прямой, в другом — по окружности. На рисунке 2 показано, как установить взаимно однозначное соответствие между окружностью без точки и прямой. Каждой точке Р окружности соответствует точка F на прямой (Р и Р' должны всегда находиться на одной линии с недостающей окружности точкой). Исходя из транзитивного свойства мы заключаем, что отрезок без концов эквивалентен замкнутой оси.

РИС.1

РИС. 2

В 1877 году сам Кантор не знал, существует ли множество с мощностью большей, чем у вещественных чисел, и смог дать ответ на этот вопрос только в 1883 году.

Множество вещественных чисел обладает большей мощностью, чем множество натуральных чисел. Возникает вопрос: есть ли множество с еще большей мощностью? Но логичным образом рождается еще один вопрос: существует ли множество со средней мощностью? То есть множество с мощностью большей, чем у натуральных чисел, но меньшей, чем у вещественных.

Все множества, эквивалентные множеству натуральных чисел, Кантор называл счетными: например, множества целых и рациональных чисел счетные, а множество вещественных — нет. Поэтому вопрос можно переформулировать и так: существует ли бесконечное несчетное множество с мощностью, меньшей, чем у вещественных чисел?

Кантор несколько лет безуспешно пытался найти пример такого множества. Множества натуральных, целых, рациональных и алгебраических чисел являются счетными. Иррациональные и трансцендентные числа — несчетны, но эквивалентны вещественным числам, и, следовательно, их мощность не меньше.

В конце концов, после того как все попытки Кантора найти среднее множество провалились, в 1877 году он пришел к выводу, что его не существует, и сформулировал так называемую «континуум-гипотезу»: не существует никакого бесконечного множества, мощность которого была бы промежуточной между мощностью натуральных и вещественных чисел (см. рисунок).

Гипотеза — это утверждение, которое пока не было ни доказано, ни опровергнуто. В данном случае для подтверждения гипотезы нужно было бы доказать, что не существует множества с промежуточной мощностью между множеством натуральных и вещественных чисел, а для опровержения — найти такое множество.

В 1877 году Кантор был убежден в правильности своей гипотезы, хотя и не сумел доказать ее. Этот вопрос занимал его долгие годы, и в 1833 году его желание получить подтверждение своим идеям стало для него делом огромной важности. Ответ был довольно неожиданным.

Как мы уже говорили, любой отрезок, любой квадрат и плоскость имеют одинаковую мощность. То же самое относится и к кубу, и ко всему трехмерному пространству.

Один из выводов из этого положения: если мы обратимся к отрезку, который начертили раньше, фрагмент между точками 0 и 0,0000000000001 (минимальной длины, его невозможно увидеть невооруженным глазом) имеет точно такую же степень бесконечности, как и все трехмерное пространство, хотя оно занимает актуально бесконечный объем, гораздо больший, чем объем Вселенной (если считать, что у Вселенной конечный объем).

Это заключение, хотя и математически верное, настолько противоречит здравому смыслу, что с ним было очень сложно согласиться, тем более в 1870 году, когда большинство математиков сомневались в самом факте существования актуальной бесконечности.

Континуум- гипотеза утверждает, что «промежуточного» множества не существует, но в 1877 году еще было неизвестно наверняка, так ли это.

Кантор изложил эти выводы в статье 1877 года Ein Beitrag zur Mannigfaltigkeitslehre («К учению о многообразиях»). Для Кантора «многообразие» было синонимом «множества».

В июле он отправил текст в авторитетный берлинский «Журнал Крелле», который уже опубликовал его работу в 1874 году.

Но на сей раз ситуация была иной.

Тогда Кантор доказывал, что вещественные числа нельзя записать в виде последовательности, и заключал, что на любом отрезке числовой оси есть бесконечное количество трансцендентных чисел (бесконечность в контексте той статьи можно было интерпретировать как мощность). По совету Вейерштрасса Кантор сделал едва заметный намек на возможность сравнения двух бесконечных множеств и не стал развивать эту тему. К тому же он даже не поднял вопрос самого понятия мощности.

Сравнение бесконечных множеств стало лейтмотивом статьи 1877 года, причем трактовалось оно не просто как способ доказательства числового результата. В ней Кантор начал с определения того, что два множества эквивалентны, если между ними можно установить взаимно однозначное соответствие. Он также проиллюстрировал понятие мощности и вернулся к теореме 1874 года о трансцендентных числах, но в контексте сравнения бесконечных множеств. Затем ученый доказывал, что отрезок без одного конца эквивалентен отрезку с двумя концами и что отрезок эквивалентен квадрату. В конце Кантор впервые открыто изложил континуум-гипотезу.

Будущие поколения будут считать эту теорию [теорию множеств] болезнью, от которой мы излечились.

Французский математик Анри Пуанкаре, 1908 год

Содержание этой статьи было очень спорным для того времени, так что Кантор столкнулся с серьезной критикой. Он писал Дедекинду 10 ноября 1877 года: 

«Публикация моей работы, с которой вы уже ознакомились, в журнале Борхардта [Карл Вильгельм Борхардт был издателем «Журнала Крелле» с 1856 по 1880 год] удивительным и необъяснимым образом все откладывается, хотя я отправил ее 11 июля, а вскоре получил заверение, что она будет напечатана в кратчайшие сроки.

Сегодня через моего старого друга Лампа, корректора журнала, я узнал, что Б. [Борхардт] опять отложил выход моей статьи, изменив таким образом намеченный порядок. Судьба публикации еще не решена. Он написал мне, что пытается ускорить ее одним ловким маневром. Я хочу думать, что ему это удастся, но надо также быть готовым и к тому, что он потерпит неудачу. В этом случае я намереваюсь полностью изъять мою работу из рук господина Б. [Борхардта] и напечатать ее в другом месте». 

Видимо, «ловкий маневр» Лампа удался, поскольку «Журнал Крелле» опубликовал статью Кантора в 84-м выпуске 1878 года, на страницах 242-258. Однако Кантор был настолько обижен неуважительным поведением Борхардта, что больше не отправил в этот журнал ни одной статьи.

Хотя Кантор в своем письме жаловался на Борхардта, главным противником публикации его статьи был Леопольд Кронекер, и Кантор прекрасно это знал.