В конце двадцатых годов Ферма открыл методы нахождения экстремумов и касательных, которые, с современной точки зрения, сводятся к отысканию производной В 1636 году законченное изложение метода было передано Мерсенну, и с ним могли познакомиться все желающие.
До Ферма систематические методы вычисления площадей разработал итальянский ученый Кавальери. Но уже в 1642 году Ферма открыл метод вычисления площадей, ограниченных любыми «параболами» и любыми «гиперболами» Им было показано, что площадь неограниченной фигуры может быть конечной.
Ферма одним из первых занялся задачей спрямления кривых, т. е. вычислением длины их дуг. Он сумел свести эту задачу к вычислению некоторых площадей.
Таким образом, понятие «площади» у Ферма приобретало уже весьма абстрактный характер. К определению площадей сводились задачи на спрямление кривых, вычисление сложных площадей он сводил с помощью подстановок к вычислению более простых площадей. Оставался только шаг, чтобы перейти от площади к еще более абстрактному понятию «интеграл».
У Ферма есть много других достижений. Он первым пришел к идее координат и создал аналитическую геометрию. Он занимался также задачами теории вероятностей. Но Ферма не ограничивался одной только математикой, он занимался и физикой, где ему принадлежит открытие закона распространения света в средах.
Несмотря на отсутствие доказательств (из них дошло только одно), трудно переоценить значение творчества Ферма в области теории чисел. Ему одному удалось выделить из хаоса задач и частных вопросов, сразу же возникающих перед исследователем при изучении свойств целых чисел, основные проблемы, которые стали центральными для всей классической теории чисел. Ему же принадлежит открытие мощного общего метода для доказательства теоретико-числовых предложений — так называемого метода неопределенного или бесконечного спуска, о котором будет сказано ниже. Поэтому Ферма по праву может считаться основоположником теории чисел.
В письме к де-Бесси от 18 октября 1640 года Ферма высказал следующее утверждение: если число а не делится на простое число р, то существует такой показатель к, что а — делится на р, причем к является делителем р-1. Это утверждение получило название малой теоремы Ферма. Оно является основным во всей элементарной теории чисел. Эйлер дал этой теореме несколько различных доказательств.
Во второй книге своей «Арифметики» Диофант поставил задачу представить данный квадрат в виде суммы двух рациональных квадратов. На полях, против этой задачи, Ферма написал:
«Наоборот, невозможно разложить ни куб на два куба, ни биквадрат на два биквадрата и вообще ни в какую степень, большую квадрата, на две степени с тем же показателем Я открыл этому поистине чудесное доказательство, но эти поля для него слишком узки». Это и есть знаменитая Великая теорема.
Теорема эта имела удивительную судьбу. В прошлом веке ее исследования привели к построению наиболее тонких и прекрасных теорий, относящихся к арифметике алгебраических чисел. Без преувеличения можно сказать, что она сыграла в развитии теории чисел не меньшую роль, чем задача решения уравнений в радикалах. С той только разницей, что последняя уже решена Галуа, а Великая теорема до сих пор побуждает математиков к исследованиям.
С другой стороны, простота формулировки этой теоремы и загадочные слова о «чудесном доказательстве» ее привели к широкой популярности теоремы среди не математиков и к образованию целой корпорации «ферматистов», у которых, по словам Дэвенпорта, «смелость значительно превосходит их математические способности». Поэтому Великая теорема стоит на первом месте по числу данных ей неверных доказательств.
Сам Ферма оставил доказательство Великой теоремы для четвертых степеней. Здесь он применил новый метод. Ферма пишет, что «поскольку обычные методы, находящиеся в книгах, были недостаточны для доказательства столь трудных предложений, то я, наконец, нашел совершенно особый путь для их достижения. Я назвал этот способ доказательства бесконечным или неопределенным спуском».
Именно этим методом были доказаны многие предложения теории чисел, и, в частности, с его помощью Эйлер доказал Великую теорему для n=4 (способом, несколько отличным от способа Ферма), а спустя 20 лет и для n=3.
Этот метод Ферма описывал в своем письме к Каркави (август 1659 года) следующим образом:
«Если бы существовал некоторый прямоугольный треугольник в целых числах, который имел бы площадь, равную квадрату, то существовал бы другой треугольник, меньший этого, который обладал бы тем же свойством. Если бы существовал второй, меньший первого, который имел бы то же свойство, то существовал бы, в силу подобного рассуждения, третий, меньший второго, который имел бы то же свойство, и, наконец, четвертый, пятый, спускаясь до бесконечности. Но если задано число, то не существует бесконечности по спуску меньших его (я все время подразумеваю целые числа). Откуда заключают, что не существует никакого прямоугольного треугольника с квадратной площадью».
Далее Ферма говорит, что после долгих размышлений он смог применить свой метод и для доказательства других утвердительных предложений. «Но для применения метода к доказательству других предложений, — пишет И.Г Башмакова, — например, для доказательства того, что каждое число представимо суммой не более четырех квадратов, требуется применение „новых принципов“, на которых Ферма подробнее не останавливается. Далее идет перечисление всех теорем, которые Ферма доказал, пользуясь методом спуска. Среди них находится и великая теорема для случая n=3. В конце письма Ферма выражает надежду, что этот метод окажется полезным для последующих математиков и покажет им, что „древние не все знали“. К сожалению, это письмо было опубликовано только в 1879 году. Однако Эйлер восстановил метод по отдельным замечаниям Ферма и с успехом применил его к проблемам неопределенного анализа. Ему, в частности, принадлежит и доказательство великой теоремы для n=3. Напомним, что первая попытка доказать неразложимость куба натурального числа в сумму двух кубов была сделана около 1000 года на арабском Востоке.
Метод спуска вновь начал играть ведущую роль в исследованиях по диофантову анализу А. Пуанкаре и А. Вейля. В настоящее время для применения этого метода вводится понятие высоты, т. е. такого натурального числа, которое определенным образом ставится в соответствие каждому рациональному решению. При этом если удастся доказать, что для каждого рационального решения высоты А найдется другое решение высоты меньше А, то отсюда будут следовать неразрешимость задачи в рациональных числах».
Вся последующая алгебраическая теория чисел вплоть до работ Гаусса развивалась, отталкиваясь от проблем Ферма. В XIX веке исследования, связанные с великой теоремой Ферма и законами взаимности, потребовали расширения области арифметики. Куммер, занимаясь Великой теоремой Ферма, построил арифметику для целых алгебраических чисел определенного вида. Это позволило ему доказать Великую теорему для некоторого класса простых показателей п. В настоящее время справедливость Великой теоремы проверена для всех показателей n меньше 5500.
Отметим также, что Великая теорема связана не только с алгебраической теорией чисел, но и с алгебраической геометрией, которая сейчас интенсивно развивается.
Но Великая теорема в общем виде еще не доказана. Поэтому мы вправе ожидать здесь появления новых идей и методов.