Хотя открытие новой пары дружественных чисел сделало Ферма своего рода знаменитостью, его репутация выросла еще больше благодаря серии решенных им трудных задач.

Например, Ферма заметил, что число 26 «стиснуто» между числами 25 и 27, одно из которых представляет собой квадрат (25 = 5² = 5·5), а другое — куб (27 = 3³ == 3·3·3). Ферма занялся поиском других чисел, зажатых между квадратом и кубом, но найти ничего так и не удалось. Родилось подозрение, что число 26 единственное. После многодневных напряженных поисков Ферма удалось выстроить сложное доказательство, не оставлявшее сомнений в том, что 26 — действительно единственное число, заключенное между квадратом и кубом. Предложенная им цепочка логических доводов убедительно свидетельствовала, что ни одно другое число не обладает этим свойством.

Ферма сообщил об уникальном свойстве числа 26 математическому сообществу и бросил вызов, предложив доказать это. Ферма открыто признал, что располагает доказательством установленного им свойства. Вопрос был в том, хватит ли у других математиков сообразительности, чтобы справиться с предложенной задачей? Несмотря на простоту формулировки, решение задачи (доказательство утверждения) оказалось чрезвычайно трудным — можно сказать, недружественным по отношению к тем, кто пытался найти его, и Ферма доставляло особое удовольствие подтрунивать над английскими математиками Валлисом и Дигби, которые в конце концов были вынуждены признать свое поражение.

События развивались так, что величайшей «заявкой» Ферма на непреходящую славу оказался еще один вызов, брошенный им всему остальному миру. Но это была случайная задача-головоломка, не предназначавшаяся для публичного обсуждения.

При чтении II-й книги «Арифметики» Ферма наткнулся на целую серию наблюдений, задач и решений, связанных с теоремой Пифагора и пифагоровыми тройками. Например, Диофант рассматривал существование особых троек, образующих так называемые «хромые треугольники», у которых две более короткие стороны x и y отличаются по длине только на единицу (например, x = 20, y = 21, z = 29 и 202 + 212 = 292).

Ферма был поражен разнообразием и обилием пифагорейских треугольников. Он знал, что за много веков до него Евклид доказал (общий ход предложенного Евклидом доказательства см. в Приложении 5), что число пифагоровых троек бесконечно велико. Возможно, Ферма просматривал в очередной раз подробное изложение теории пифагоровых троек у Диофанта и прикидывал, нельзя ли сказать что-нибудь новое по этому поводу. Записывая то так, то эдак уравнение Пифагора, Ферма все старался заметить нечто такое, что ускользнуло от древних греков. Внезапно ему пришла в голову гениальная мысль, обессмертившая имя «князя любителей»: Ферма придумал уравнение, очень похожее на уравнение Пифагора, но не имевшее ни одного решения в целых числах! Именно об этом уравнении и узнал десятилетний Эндрю Уайлс, заглянув в книгу Белла, взятую в публичной библиотеке на Милтон-роуд.

Вместо уравнения Пифагора x² + y² = z² Ферма занялся рассмотрением его варианта x³ + y³ = z³. Ферма всего лишь изменил степень на единицу, но его новое уравнение, насколько можно было судить, вообще не допускало никаких решений в целых числах. «Методом проб и ошибок» нетрудно было обнаружить, что найти два куба, которые бы в сумме давали еще один куб, не так-то просто. Неужели произведенное Ферма незначительное изменение действительно превращает уравнение, допускающее бесконечно много решений в целых числах, в уравнение, не имеющее ни одного решения в целых числах?

Ферма подверг уравнение Пифагора еще большему изменению, попробовав заменить степень 2 на целые числа бoльшие 3, и обнаружил, что найти решение в целых числах каждого из этих уравнений столь же трудно. И Ферма решил, что вообще не существует трех целых чисел x, y, z, которые удовлетворяли бы уравнению

На полях «Арифметики» Диофанта, рядом с задачей 8, Ферма оставил такое замечание: «Cubet autem in duos cubos, aut quadratoquadratum in duos quadratoquadratos, et generaliter nullam in infinitum ultra quadratum potestatem in duos eiusdem nominis fas est dividere» [4].

Фронтиспис издания «Арифметики» Диофанта опубликованного Клеманом-Самюэлем Ферма в 1670 году. В этом варианте были напечатаны и заметки на полях, оставленные отцом издателя — Пьером де Ферма

Рис. 6. Страница издания «Арифметики» Диофанта (1670 г.), содержащая знаменитое замечание Пьера де Ферма

Не было причин, по которым среди всех целых чисел не должно было бы существовать по крайней мере одной тройки целых чисел, удовлетворяющих уравнениям Ферма, тем не менее Ферма утверждал, что во всем бесконечном мире чисел нет ни одной «тройки Ферма». Утверждение было весьма необычным, но Ферма полагал, что располагает его доказательством. После первой заметки на полях, наметившей общие контуры теории, гений, любящий позабавиться над коллегами-математиками, начертал еще один комментарий, над которым впоследствии ломало голову не одно поколение математиков:

«Cuius rei demonstrationem mirabilem sane setex hanc marginis exiguitas non caparet» [5]. В этом — весь Ферма, все то, что особенно раздражало современных ему математиков. Из его собственных слов можно заключить, что он весьма доволен своим «поистине удивительным» доказательством, но ему и в голову не приходит дать себе труд написать подробности доказательства и уж тем более опубликовать его. Он так никому и не рассказал о своем доказательстве, но, несмотря на характерную для Ферма комбинацию лени и скромности, Великая теорема Ферма, как ее стали называть позднее, обрела неслыханную славу в грядущих веках.

Свое знаменитое открытие Ферма совершил в самом начале своей математической карьеры — около 1637 года. Примерно через тридцать лет, исполняя свои судебные обязанности в городе Кастре, Ферма тяжело заболел. 9 января 1665 года он подписал свой последний приговор и тремя днями позднее умер. Открытиям Ферма, все еще находившегося в изоляции от парижской математической школы и отнюдь не добрым словом поминаемого его разочарованными коллегами, грозило полное забвение. К счастью, старший сын Ферма, Клеман-Самюэль, сознававший все значение любимого увлечения отца, пришел к заключению, что его открытия не должны быть потеряны для всего мира. Всем, что мы знаем о замечательных открытиях Ферма в теории чисел, мы обязаны его сыну, и если бы не Клеман-Самюэль, загадка, известная под названием Великой теоремы Ферма, умерла бы вместе во своим создателем.

Пять лет Клеман-Самюэль собирал отцовские заметки и письма, изучал неразборчивые надписи на полях «Арифметики». Заметка на полях с формулировкой Великой теоремы Ферма была лишь одной из вдохновенных мыслей, начертанных на полях этой книги. Клеман-Самюэль взял на себя тяжкий труд опубликовать все эти заметки в специальном издании «Арифметики». В 1670 году он издал в Тулузе книгу под названием «Диофантова Арифметика, содержащая примечания П. де Ферма». В нее наряду с оригинальным текстом на древнегреческом языке и латинском переводом Баше вошли 48 примечаний, сделанных Ферма. Примечание, воспроизведенное на рис. 6, и было тем, которое стало впоследствии известно под названием Великой теоремы Ферма.