Когда обнаружились противоречия в канторовской теории множеств (трудности, связанные с понятиями наибольшего кардинального и наибольшего ординального числа) и противоречия типа парадоксов Рассела и Ришара, также имеющие непосредственное отношение к теории множеств, некоторые математики решили, что парадоксы обусловлены неформальным введением множеств. Кантор смело высказывал новые идеи, но его изложение далеко не соответствовало требованиям математической строгости. Он дал несколько словесных определений множества в 1884, 1887 и 1895 гг. Под множеством Кантор, по существу, понимал любой набор вполне определенных предметов, доступных нашей интуиции или мысли. Иначе говоря, по Кантору, множество определено, если относительно любого предмета xмы знаем, принадлежит он множеству или нет. Оба варианта определения множества не отличаются строгостью, и теорию множеств в том виде, как ее изложил Кантор, ныне нередко называют наивной. {131}По мнению представителей теоретико-множественного направления, тщательный выбор аксиоматической основы должен был избавить теорию множеств от парадоксов, подобно тому как аксиоматизация геометрии и системы чисел позволила разрешить все связанные с ними логические проблемы.

Хотя теория множеств была составной частью логистического направления в математике, представители теоретико-множественной школы предпочитали прямой аксиоматический подход к теории множеств. Аксиоматизацию теории множеств впервые предпринял Эрнест Цермело в работе 1908 г. Причину парадоксов он видел в том, что Кантор не уточнил понятие множества. Поэтому, как полагал Цермело, ясные и явно сформулированные аксиомы могли бы прояснить, что следует понимать под множеством и какими свойствами оно должно обладать. В частности, Цермело намеревался ограничить размеры допустимых множеств. Цермело не придерживался какой-либо последовательной философии, а лишь стремился избежать противоречий. Предложенная Цермело система аксиом оставляла неопределенными фундаментальные понятия множества и отношение включения одного множества в другое. Эти неопределяемые понятия и другие, заданные явными определениями, должны были удовлетворять утверждениям, содержащимся в аксиомах. Не допускалось использование никаких других свойств множеств, кроме тех, что перечислены в аксиомах. Аксиомы гарантировали существование бесконечных множеств и выполнимость таких операций, как объединение множеств и образование подмножеств. Цермело использовал также аксиому выбора.

Система аксиом Цермело была усовершенствована несколько лет спустя (1922) Абрагамом А. Френкелем (1891-1965). Цермело не проводил различия между свойством, задающим множество, и самим множеством. Эти понятия для Цермело были синонимичны. Различие между свойствами множества и множеством было введено Френкелем в 1922 г. Система аксиом, в наше время наиболее часто используемая специалистами по теории множеств, известна как система Цермело — Френкеля.Оба автора опирались на самую изощренную и стройную математическую логику, какая только существовала в их время, но не указывали явно логические принципы. Цермело и Френкель считали их лежащими за пределами математики и применяли столь же уверенно, как в XIX в. математики пользовались логикой.

Назовем некоторые из аксиом Цермело — Френкеля, взяв на себя смелость привести их в словесной формулировке.

1. Два множества тождественны, если они состоят из одних и тех же элементов. (Интуитивно это определяет множество.)

2. Существует пустое множество.

3. Если  xи  y— множества, то неупорядоченная пара {x, y}также множество.

4. Объединение любого множества множеств есть множество.

5. Существуют бесконечные множества. (Пятая аксиома делает допустимыми трансфинитные кардинальные числа. Это имеет решающее значение, поскольку не подлежит проверке опытом.)

6. Любое свойство, формализуемое на языке теории, может быть использовано для определения множества.

7. Допускается образование множества подмножеств любого множества, т.е. набор всех подмножеств данного множества есть множество. (Процесс образования множества подмножеств можно повторять любое число раз, т.е. рассматривать множество всех подмножеств любого данного множества как некое новое множество; множество подмножеств этого множества также является множеством и т.д).

8. Аксиома выбора.

9.  xне принадлежит x.

Нельзя не отметить одну замечательную особенность аксиом Цермело — Френкеля: они не допускают к рассмотрению множество, которое содержит все множества, и тем самым, возможно, позволяют избежать парадоксов. В то же время аксиомы Цермело — Френкеля вместе со следствиями из них адекватно отражают все понятия и теоремы теории множеств, необходимые для построения классического математического анализа. Построить теории натуральных чисел на основе теории множеств несложно. Кантор утверждал в 1885 г., что чистая математика сводится к теории множеств, и канторовская программа была осуществлена Расселом и Уайтхедом, хотя их подход к теории множеств отличался гораздо большей сложностью. А если воспользоваться методом координат, то из математики чисел (т.е. из арифметики) следует вся математика, включая геометрию. Тем самым теория множеств становится основанием всейматематики. {132}

Можно сказать, что надежда избежать противоречий в случае аксиоматизации теории множеств была основана на ограничении типов допустимых множеств, причем если налагаемые ограничения не слишком жестки, то система аксиом оказывается достаточной для обоснования математического анализа. Аксиомы теории множеств позволили до такой степени избежать парадоксов, что никому не удавалось получить их в рамках теории. Цермело заявил, что ни один парадокс не может возникнуть в аксиоматической теории множеств. Более поздние представители теоретико-множественного направления пребывали и продолжают пребывать в полной уверенности, что ни один парадокс не может быть выведен в теории, поскольку Цермело и Френкель тщательно построили иерархию множеств, исключив все неоднозначности, существовавшие в более ранних работах о множествах и их свойствах. К подобным заявлениям представителей теоретико-множественной школы никто из их идейных противников не относился всерьез. Пуанкаре не без сарказма заметил: «Мы возвели ограду вокруг стада, чтобы защитить его от волков, но нам не известно, нет ли волков внутри ограды».

Теоретико-множественное направление, как, впрочем, и все другие направления в основаниях математики, также не избежало критики. Многие считали недопустимым использование аксиомы выбора. Другие критики усматривали признак слабости теоретико-множественного направления в том, что его представители обходили молчанием вопрос о логических основах своей теории. Сама логика и ее отношение к математике явились предметом подробного обсуждения уже в первом десятилетии XX в. Представители же теоретико-множественного направления довольно небрежно обращались с логическими принципами. Их уверенность в непротиворечивости аксиоматической теории множеств считалась проявлением наивности (критики не без яда напоминали, что и Кантор был наивен до тех пор, пока не столкнулся с трудностями, гл. IX). Некоторые критики находили, что аксиомы теории множеств весьма произвольны и носят искусственный характер. Аксиомы Цермело — Френкеля предназначены для того, чтобы избежатьпарадоксов, но некоторые из этих аксиом неестественны или не основаны на интуитивных представлениях. Коль скоро представители теоретико-множественного направления принимают логические принципы как нечто очевидное, то почему бы не начать сарифметики, спрашивали критики.

Несмотря на все критические замечания, аксиоматика Цермело — Френкеля до сих пор используется некоторыми математиками как надежное основание для построения всей математики. Теория множеств Цермело — Френкеля — самая общая и фундаментальная теория, на которой и ныне строятся математический анализ и геометрия. Число приверженцев других направлений в основаниях математики возрастало по мере того, как их лидеры развивали и пропагандировали свои взгляды. Аналогичная история произошла и с теоретико-множественным подходом. Некоторые логицисты, например, Уиллард Ван Орман Куайн, выступили в поддержку теории множеств. В этой связи нельзя не упомянуть (нарушая хронологическую последовательность изложения) о группе известных и весьма уважаемых математиков, объединившихся под коллективным псевдонимом Никола Бурбаки. В 1936 г. эта группа поставила перед собой задачу доказать во всех деталях то, в чем были глубоко убеждены многие математики: если принять аксиоматику теории множеств Цермело — Френкеля (в переработке Бернайса и Гёделя) и некоторые принципы логики, то на них можно построить всю математику. Но для бурбакистов логика подчинена аксиомам собственно математики. Логика не определяет ни того, что такое математика, ни того, чем занимаются математики.