Май 1637 года 

"[...] Вы посылали мне предложение математика, советника из Тулузы, очень красивое, и оно мне очень понравилось. Поскольку оно во многом может с легкостью быть решено тем, что я написал в своей "Геометрии", (...) я надеюсь, что этот советник, если он открытый и честный человек, окажется одним из тех, кто извлек наибольшую выгоду из моей работы [...]".

18 января 1638 года

"[...] я даже не хочу называть его имени, чтобы он не чувствовал себя настолько пристыженным ошибками, которые я у него нашел, а также потому что мои намерения не в том, чтобы оскорбить кого-либо, а лишь чтобы защититься. И так как я чувствую, что он не упустит возможности чваниться за мой счет во многих работах, я думаю, что лучше пусть многие увидят мою защиту. [...) И если, несмотря на это, он скажет Вам, что хочет послать мне другие работы, прошу Вас попросить его, чтобы он лучше обдумал предыдущие; если он этого не сделает, прошу Вас не посылать их мне".

Как бы то ни было, Декарт нашел слабое место своего соперника: это была не аналитическая геометрия, a Methodus. Действительно, в отсутствии у Ферма метода, обоснования или доказательства Декарт увидел идеальную возможность нападения на него. В ядовитой форме он вернул ученому комплимент "вслепую". Согласно Декарту, в работе Ферма не было никакого оригинального результата. Он пришел к выводам, известным и ранее, случайно и не прилагая усилий. A tatons ("на ощупь"), аналогично тому выражению, которое Ферма применил к нему. Ферма показал, как получить касательную к параболе. Однако его метод был одинаковым для любой другой кривой без каких-либо изменений, что явно было абсурдно, поскольку касательная к параболе — это не то же самое, что касательная к эллипсу. Декарт отрицал, что метод касательных вытекает из метода максимумов и минимумов.

Как мы видели, ответ Декарта (всегда через Мерсенна) был разгромным. Он открыто выражал презрение к математику, даже не упоминая его имени и говоря, что если Ферма не пересмотрит свои работы, то он не снизойдет до чтения других его результатов, которые тот обещал ему послать. В то же время он обвинял Ферма в том, что тот систематично нападает на него, хотя в действительности тулузский ученый всего лишь один раз выступил против его "Диоптрики".

"[Я бы предпочел] ничего не говорить о статье, которую Вы мне прислали [Methodus], поскольку я не могу сказать ничего в пользу того, кто ее написал [...]".

Декарт в письме, посланном Мерсенну 18 января 1638 года, о работе Methodus Ферма

Мерсенн в этой полемике проявил редкий талант к провоцированию скандала. Вместо того чтобы послать ответ Декарта напрямую Ферма, он, в свою очередь, направил его парижским врагам Декарта, Этьену Паскалю и Робервалю, которые не мешкая вступили в полемику, действуя как слон в посудной лавке, часто неправильно истолковывая работу своего подзащитного. Это подтвердило худшие страхи Декарта: против него организовали заговор, и Ферма являлся только пешкой в руках парижан.

В любом случае, Декарт перешел некоторые границы. Если его второе возражение, направленное на то, что метод касательных не вытекает из метода максимумов и минимумов, понятно с учетом неясности изложения Methodus, то первое было просто абсурдным. Декарт утверждал, что метод Ферма дает одну и ту же касательную для любой известной кривой, но это была неправда, поскольку замена слова "парабола" на слово "эллипс" требует и замены математического определения параболы на определение эллипса, и в этом случае метод Ферма работал бы безукоризненно.

Декарт закончил свое письмо в очень снисходительном тоне, снова рекомендуя Ферма прочитать внимательно "Геометрию", в которой, как он утверждал, было все, что Ферма открыл. Только с помощью его книги, заключал Декарт, можно прийти к истине. Таким образом, столкнувшись с математическим гением того же уровня, Декарт не мог этого признать: он лишь уверил себя в том, что монополия на истину была у него.

Чтобы доказать свою точку зрения, Декарт бросил вызов: попросил Ферма найти касательную к заданной кривой, которую затем назвали "декартов лист". Ферма ответил правильным решением. Тулузский ученый получил результат двумя способами. Второй из них был основан на идеях самого Декарта, где он использовал нормаль для вычисления касательной; так он хотел доказать своему сопернику, что его метод дает те же самые результаты, но проще. Однако Ферма не смог добиться того, чтобы его метод приравнивания был полностью принят его соперниками. Тем не менее в своей обычной манере он думал, что если метод работает, то он должен быть истинным. В любом случае, к счастью для историков, полемика длилась какое-то время, из-за чего Ферма был вынужден в первый раз обосновать свои результаты несколько подробнее.

По сути все это было недоразумением. В "Аналитическом исследовании" уже было ясно, что возражение Декарта о том, что метод касательных не основан на методе максимумов и минимумов, ложное. В конце концов посредник, работавший в стиле Декарта, французский математик Жерар Дезарг (1591 — 1661), принял соломоново решение в данной полемике: Декарт был прав в том, что выразил недоверие, поскольку изложение Ферма, представленное в Methodus, было недостаточно ясным. Но по сути Ферма был прав: его метод касательных был абсолютно универсальным. Оба гиганта столкнулись с проблемой оценки их личности. Точнее, проблема была в личности философа, поскольку Ферма в целом вел себя довольно корректно. Декарт нехотя согласился с этим вердиктом и даже извинился перед Ферма за свои оскорбления, но не упустил возможности в будущем оправдаться, пытаясь омрачить репутацию Ферма. Последний же продолжил свою полемику с Декартом и его последователями еще через 20 лет, когда его соперник уже умер. Из его дальнейших записей очевидно восхищение, которое он испытывал к Декарту, несмотря на критику. В некотором смысле, хотя Ферма так и не оставил идей Виета, он все же обратил внимание на Декарта и частично принял его "Геометрию". Но раны, вызванные этой полемикой и тем, как презрительно относился к нему Декарт, пытаясь понизить его авторитет в математическом сообществе, так никогда и не затянулись.

В ходе исследований о касательных, максимумах и минимумах Ферма постепенно ушел от своего приравнивания к намного более современному понятию квази-равенства, настолько произвольно близкого к точке, что разница практически равна нулю. Но именно в своем методе квадратур он сделал последний шаг к анализу бесконечно малых, к произвольно малым величинам. К тому времени Ферма уже оставил позади свои методы касательных, максимумов и минимумов и никогда не пересматривал их в свете своих новых идей.

Проблема квадратур существовала уже в античности, ими занимались даже Евдокс и Архимед. В целом она состоит в том, чтобы найти площадь, ограниченную некоей кривой и прямой (обычно осью), или, когда кривая полностью окружает точку, как в случае со спиралями, — площадь, ограниченную кривой. Как это делали древние, данная площадь выражается построением прямоугольника, площадь которого равна искомой площади, то есть нахождением произведения двух рациональных чисел а и b, образующих стороны прямоугольника. Действительно, во многих случаях они получали несколько прямоугольников, площади которых в сумме давали искомую площадь.

Вскоре греки столкнулись с очень сложной задачей. Речь шла о нахождении квадратуры самой элементарной фигуры — круга. И сколько бы усилий ни прилагали греки, им не удалось построить прямоугольник с рациональными сторонами, который имел бы такую же площадь. Причина их неудачи была найдена только в XIX веке: число π, с помощью которого обязательно выражается площадь круга, не может быть выражено не только в рациональном виде, но даже в качестве результата алгебраического уравнения. Сегодня такие числа называются трансцендентными, и они относятся к иррациональным числам.