Сложность квадрирования некоторых кривых не ускользнула от Ферма, но, как мы уже сказали, его аналитическая геометрия порождала бесконечное число кривых. В частности, кривые конических сечений степени больше квадрата внезапно стали отлично доступными в виде уравнений. Итак, вместо того чтобы увлекаться неквадратными кривыми, такими как круг, Ферма применил свой метод к кривым высшей степени. Убежденность ученого в том, что эти кривые идеально определяются его уравнением, постепенно привела Ферма к тому, чтобы не беспокоиться об их геометрическом представлении. В письмах и трактатах он каждый раз все более демонстративно забывал о графике кривой и сосредотачивался на алгебраических действиях. Как всегда, Ферма начал свою работу на основе трудов греческого ученого. В этот раз это был не Аполлоний и не Диофант, а Архимед. Окончательные работы Ферма на эту тему были опубликованы его сыном Клеманом-Самюэлем после его смерти, и хотя они не были поняты людьми уровня Гюйгенса, автора уже не было в живых, чтобы, как это было в случае с Декартом, прояснить то, что он хотел сказать.

Иллюстрация метода исчерпывания, при котором площадь под кривой находится между большей и меньшей площадями.

Возвращаясь к раннему времени его переписки с Мерсенном и Робервалем, в 1636 году, мы видим, что Ферма был занят трактатом Архимеда о спиралях, в котором тот нашел квадратуру спирали, носящей его имя. Ферма распространил этот метод на другие спирали, например на ту, которую он нашел при решении задачи Галилея, упомянутой нами ранее. Ферма бросил вызов Робервалю, предлагая ему найти квадратуру кубической параболы, графика кубической функции: у³ - kx, которую он рассматривал впервые и которая была очень похожа на параболу. Роберваль ответил сразу же. У него уже был метод, подобный методу Ферма, основанный на теореме о сумме степеней целых чисел, найденной тулузцем в ходе исследований по теории чисел, и старом "методе исчерпывания", изобретенном Евдоксом и примененном Архимедом. Он состоит в том, чтобы определить искомую площадь между двумя суммами (см. рисунок). Одна из этих сумм — сумма прямоугольников, подобных DEFG (описанных), большая, чем реальная площадь под кривой, другая — сумма площадей прямоугольников, подобных HIFG (вписанных), меньшая, чем искомая площадь. Очевидно, что реальная площадь находится между этими двумя суммами. Метод исчерпывания состоял в том, чтобы предложить площадь и обосновать методом двойного доказательства от противного, что она является единственной площадью, величина которой находится между этими двумя суммами; это может быть только реальная площадь.

Метод Ферма и Роберваля не работал для некоторых кривых, как они оба быстро убедились. Казалось, Ферма перестал интересоваться данной темой. Но в 1658 году он практически сразу же ответил на недавнюю работу Уоллиса о квадратурах, распространив собственный трактат, который он явно вынашивал в течение многих лет.

В "Трактате о квадратурах" Ферма показывал, как далеко он зашел. Теперь его метод был применим ко всем гиперболам степени больше двух, которые не поддались ему за 20 лет до этого. Он произвел радикальные изменения. Там, где Архимед (и что присутствовало в ранних методах самого Ферма и Роберваля) искал конечные суммы, Ферма теперь допускал возможность бесконечной суммы прямоугольников на оси абсцисс. Это был единственный способ проанализировать площадь под гиперболой, поскольку альтернатива заключалась не в бесконечном числе прямоугольников, а в конечном числе прямоугольников с бесконечной площадью. Прямоугольник с бесконечной площадью при сложении с другими прямоугольниками дает бесконечную площадь. Наоборот, бесконечное число прямоугольников может в некоторых условиях дать конечную площадь. Но, кроме того, метод Ферма отличался от метода исчерпывания тем существенным обстоятельством, что уже больше не было необходимости определять площадь между двумя суммами. Математик приравнивал верхнюю сторону каждого прямоугольника к очень маленькому отрезку гиперболы. Чем меньше был отрезок, тем точнее было это равенство и, следовательно, площадь под отрезком кривой была ближе к площади соответствующего прямоугольника. Разница тончайшая, но основополагающая.

Она была такой тонкой, что Ферма даже не осознал, насколько важным было изменение. Его понятие приравнивания изменилось: речь уже шла не о том, чтобы приравнять любые конечные величины. Ферма открыл бесконечно малые. Однако он был уверен, что продолжает традицию Архимеда. Ученый не понял, насколько большой концептуальный скачок он сделал, и теперь его греческие учителя, вызывавшие у него восхищение, уже не могли идти за ним по этой неисследованной дороге. Снова, не осознавая этого, Ферма хоронил традицию, которую так уважал. Действительно, квадратура кривых — это операция, которую мы сегодня называем интегрированием, хотя, как и в случае с касательными, Ферма не смог увидеть, что площадь под кривой тоже выражена уравнением.

Иллюстрация метода спрямления кривых Ферма.

Если "квадрировать" означает найти площадь прямоугольника, равную площади другой фигуры, образованной кривой, то "спрямить" означает найти прямую линию, по длине равную длине кривой линии. Задача опять восходит к грекам.

Аристотель утверждал, что невозможно найти прямую линию, равную по длине кривой линии. Его авторитет был так велик, что даже в XVII веке большинство математиков были согласны с ним, несмотря на то что уже удалось сделать некоторые спрямления, в частности Архимеду. Следуя за этим выдающимся математиком, Ферма был убежден в возможности спрямления кривых. Его работа на данную тему — единственный случай, когда трактат Ферма был опубликован в печатном виде при жизни автора, в качестве приложения к работе его друга, тулузского иезуита Антуана де Лалувера (1600-1664), в 1660 году. Однако ее опубликовали анонимно. Ее автора можно было определить только по инициалам, которые не соответствовали инициалам Ферма. Последователи Декарта, подражая учителю, пребывали в уверенности, что Аристотель был прав. Ферма в своем трактате решил доказать, что картезианцы ошибаются.

В ·Трактате о квадратурах" используется значительная часть прежних открытий Ферма: его метод максимумов и минимумов, который помогает разделить кривую на отрезки, монотонно возрастающие или убывающие; аналитическая геометрия, позволяющая осуществлять действия с этими отрезками; и, конечно же, прием приравнивания. Как и можно было ожидать, у него получился аналитический трактат. Наоборот, ‘Трактат о спрямлении" методически очень отличается от всего, что Ферма написал к тому времени. Действительно, тулузец отдалился от своего аналитического метода и применил греческий синтетический метод, которым пользовались такие классики, как Евклид. При этом его аналитическое рассуждение оказалось скрыто. Почему он так сделал — загадка, но, возможно, это было связано с традициями. Трудоемкость, которую предполагало написание подобной работы, сравнимая с работой Ньютона в ‘Началах", в свою очередь, могла бы объяснить, почему он не пользовался этим подходом ни в каком другом своем труде.

В "Трактате о спрямлении" Ферма в ясном виде приравнивает заданный касательный к кривой отрезок DE к дуге FE (см. рисунок). Для приравнивания данный отрезок обязательно должен быть произвольно малым. Говоря в общих чертах, Ферма думал о кривой как о линии, образованной огромным числом очень маленьких прямолинейных отрезков, каждый из которых является касательным к кривой. Сумма длин этих бесконечно малых отрезков дает длину кривой (спрямление).