Если множество действительных чисел непрерывно, Дедекинд задался вопросом, в чем разница между рациональным и иррациональным числами. Лейбниц, например, считал, что «сплошность» точек на линии связана с их плотностью, то есть для любых двух точек всегда есть некая третья, расположенная между ними. Однако рациональные числа также имеют это свойство, но тем не менее они не непрерывны. Вместо того чтобы продолжать искать способы склеивать точки, чтобы сформировать континуум, Дедекинд встал на противоположную точку зрения и стремился определить непрерывность в терминах определения разрывов в линейном сегменте. Представьте себе числовую ось как бесконечно длинную твердую трубу, набитую упорядоченными рациональными числами. Разрыв разрежет трубу на две части, обозначим их А и В. Образуются два торца трубы, конечные точки А и В. Глядя на открытый торец, мы можем прочитать число. Если на торце не видно никакого числа, то мы сделали разрез на иррациональном числе. Дедекинд определил иррациональные числа в терминах этих множеств А и В, а не в виде последовательности. Таким образом, свойства непрерывности или пределов могли быть формализованы в терминах арифметики, а не в виде остаточных геометрических понятий. Бертран Рассел позже отметил, что каждое из множеств А и В определено через другое и поэтому логически необходимо только одно из них, так что иррациональное число можно определять только в терминах множества А (или В).
Возвращаясь к вопросу о бесконечности, Дедекинд увидел в парадоксах Больцано не аномалию, а определение. Он понял, что множество бесконечно, если оно подобно точному подмножеству самого себя, то есть если может быть установлено некое соответствие между подмножеством и множеством. Например, множество {2,4,6...} — подмножество {1,2,3…}, и между ними можно определить прямое соответствие. Спустя два года после выхода книги Дедекинда, в 1874 году, Георг Кантор женился, и в поездку на медовый месяц он повез жену в Интерлакен, где они встретились с Дедекиндом. В том же году Кантор издал одну из своих самых революционных статей. Он согласился с определением бесконечного множества Дедекинда, но при этом считал, что не все бесконечности равны между собой.
Кантор начал с того факта, что любое множество, для которого может быть установлено некоторое соответствие с рядом натуральных чисел, является исчисляемым. Это очевидно для конечных множеств, но Кантор расширил понятие исчисляемости до бесконечных множеств. Множество всех натуральных чисел — само по себе «счетная бесконечность», и любое бесконечное множество, для которого можно установить некое взаимно однозначное соответствие этому множеству, — также счетная бесконечность. Например, хотя кажется, что целые числа уходят в бесконечность как в положительном, так и в отрицательном направлении, они также являются счетной бесконечностью, поскольку их можно переупорядочить следующим образом: {0, +1, -1, +2, -2…}. Кроме того, так же как в конечных множествах существует величина, известная как количество элементов (по существу, размер множества), так и бесконечным множествам Кантор определил значение степени множества. Два бесконечных множества имеют одну и ту же степень, если можно определить между ними взаимно однозначное соответствие. Выше мы видели, что рациональные числа образуют плотное множество. Целые числа этого не делают, то есть не всегда есть третье целое число, расположенное между любыми двумя другими целыми числами, — например, нет никакого целого числа между 1 и 2. Поэтому казалось вероятным, что множество рациональных чисел будет иметь более высокую степень, чем множество целых чисел. Однако в 1873 году Кантор нашел, что это не так. При помощи хитроумного расположения рациональных чисел он нашел метод, при помощи которого они могли быть поставлены во взаимно однозначное соответствие со множеством натуральных чисел.
Этот результат заставлял думать, что все бесконечные множества чисел на самом деле имеют одинаковую степень. Кантор показал, что это ложное утверждение, при помощи своего знаменитого аргумента диагонализации. Он предположил, что действительные числа между 0 и 1 исчисляемы и могут быть записаны по порядку и выражены как бесконечные десятичные числа: например, 0,2 может быть записано как 0,199 999… Затем он записал число, которое отличалось от первого в первом десятичном знакоместе, отличалось от второго во втором десятичном месте, и так далее. Это новое число отличалось от любого исходного числа, совокупность которых считалась завершенной, и поэтому реальные числа не были исчисляемыми. Множество реальных чисел имеет более высокую степень, чем множество рациональных. Далее Кантор показал, что даже алгебраические числа, которые представляют собой намного более общий класс, чем рациональные, имеют ту же самую степень, что и натуральные числа. Становилось все более очевидно, что континуум реальных чисел «уплотняется» за счет трансцендентных чисел. В определенном смысле большая часть чисел были трансцендентными.
Никто никогда не видел трансцендентное число; их существование было доказано в 1851 году Жозефом Лиувиллем. Лишь в 1882 году Фердинанд Линдеманн доказал, что старое доброе число π — это трансцендентное число, тем самым ответив отрицательно на многовековой вопрос о том, можно ли сделать невозможное, вычислив его с помощью циркуля и линейки. И все же Кантор пришел к еще более ошеломляющим результатам.
В письме к Дедекинду от 1877 года Кантор продолжил доказывать то, что Дедекинд просто принял как данность: то, что степень множества точек на любом линейном сегменте равна степени множества любого другого линейного сегмента. Таким образом, на линии единичной длины находится то же самое число точек, что и на всей числовой оси. Еще более впечатляющим было открытие, что это не зависит от размерности: на линии единичной длины находится такое же число точек, что и на площади со стороной единичной длины, и в кубе со стороной единичной длины — фактически то же самое число точек, как и во всем трехмерном пространстве. Кантор прокомментировал это Дедекинду: «Я вижу это, но я не могу поверить в это». К сожалению, слишком многие разделяли его недоверие.
В 1895 году Кантор письменно изложил свои отточенные представления об изобретении нового вида числа, так называемых трансфинитных кардинальных числах. Он обозначает счетную бесконечность символом אo (произносится как «алеф-ноль»), а первое неисчисляемое множество как אI. Таким образом, это целая бесконечная последовательность трансфинитных чисел, каждое из которых формируется как множество всех множеств предыдущего множества. Кантор также предложил, чтобы набор אI был эквивалентен множеству реальных чисел. Это так называемая Гипотеза Континуума, и она до сих пор не имеет доказательства.
Несмотря на столь новаторскую работу, Кантор так никогда и не реализовал свои амбиции, не сумев получить степень профессора в Берлинском университете. В значительной степени к этому привела открытая враждебность Леопольда Кронекера — его старого профессора. Кронекер активно выступал против новой ветви математики, открытой Кантором, делая заявления вроде «Бог создал целые числа, все остальные — работа человека». Плодотворная дружба с Дедекиндом прекратилась в 1882 году, когда Дедекинд отказался присоединиться к Кантору в Галле, хотя их дружба возобновилась в 1897 году, когда они встретились на конгрессе. Дедекинд, похоже, был вполне удовлетворен уютной провинциальной атмосферой, в которой он жил. Большую часть своего времени он посвящал редактированию собрания сочинений Дирихле и Гаусса — его бывших преподавателей, и Римана — его уважаемого современника. Кантор оставался в университете Галле. В 1884 году он перенес первый приступ умственного расстройства. В более поздние годы депрессии были постоянной темой его писем. Перед самым началом Первой мировой войны он вышел на пенсию и умер в 1918 году в психиатрической больнице в Галле. Конечно, неприятие его работ усугубило его душевное состояние. Но он дожил до того момента, когда его идеи получили законное признание как «самый удивительный продукт математической мысли», по словам Дэвида Гилберта, одного из ведущих математиков начала двадцатого столетия. Гилберт добавил: «Никто не сможет изгнать нас из рая, созданного для нас Кантором». Работа Кантора плодотворно повлияла на многие ветви математики, включая новый вид теории интегрирования в терминах измерения множеств. Это также помогло проинтегрировать функции Дирихле — ответ b.
