2) Чтобы все общерекурсивные отношения были выражены формулами системы. (Если это условие не выполняется, значит, система не выражает в своих теоремах некоторых общерекурсивных истин — жалкая неудача в попытке выразить все истины теории чисел! На метафорическом языке «Акростиконтрапунктуса» это было бы равносильно использованию патефона низкого качества.)
3) Чтобы аксиомы и типографские схемы, выводимые по правилам данной системы, можно было распознать при помощи конечной процедуры решения. (Если это условие не выполняется, значит, не существует метода, чтобы отличить правильные деривации от «незаконных» — таким образом выходит, что «формальная система» вовсе не формальна и даже не определена как следует. На метафорическом языке «Акростиконтрапунктуса» это было бы равносильно частично собранному патефону.
Если эти три условия удовлетворены, значит, любая непротиворечивая система будет неполной, поскольку в ней возможна Геделева конструкция.
Интересно то, что любая подобная система роет сама себе яму, мощность системы является причиной ее «падения» Падение происходит потому, что система достаточно мощна, чтобы выразить автореферентные суждения. В физике существует понятие «критической массы» радиоактивного вещества, такого, например, как уран. Если масса ниже критической, с ураном ничего не происходит. Если же критическая масса достигнута, то в уране начинается цепная реакция и он взрывается. Кажется, что у формальных систем есть аналогичный критический «порог». Ниже этого порога система «безвредна» и даже не пытается формально выразить арифметические истины, но, как только порог достигнут, система внезапно приобретает возможность выражать автореферентные суждения и, следовательно, обрекает себя на неполноту. Этот критический порог по-видимому достигается примерно тогда, когда в системе выполняются все три данных выше условия. Как только система становится способной к автореферентности, в ней появляется «дыра», словно вырезанная по заказу она учитывает особенности системы и использует их против самой этой системы.
Удивительная повторяемость Геделева аргумента использовалась многими — в частности Дж. Р. Лукасом — как оружие для защиты идеи, что человеческий разум отличается неким специфическим качеством, которое невозможно имитировать при помощи «механических автоматов» — то бишь, компьютеров. Лукас начинает свою статью «Разум, машины и Гедель» (J. R. Lucas, «Minds, Machines, and Godel») следующими словами:
Мне кажется что теорема Геделя доказывает, что Механизм не может выражать истину, что означает что разум не может быть объяснен как механизм.[42]
Затем он приступает к изложению своих аргументов, которые я здесь кратко перескажу. Он утверждает, что для того, чтобы мы могли считать интеллект компьютера равным интеллекту человека, компьютер должен быть способен проделать любое интеллектуальное задание, на которое способен человек. Однако, говорит Лукас, компьютер не способен проделать «Геделизацию» (один из его забавно фамильярных терминов) так, как на это способны люди. Почему? Подумайте о любой формальной системе, такой как ТТЧ, или ТТЧ + G, или даже ТТЧ + Gω. Легко составить компьютерную программу, выводящую теоремы этой системы таким образом, что рано или поздно любая заранее выбранная теорема оказывалась бы выведенной. Это значит, что компьютер не пропускал бы не одной области в «пространстве» всех теорем Подобная программа состояла бы из двух основных частей (1) подпрограмма, «штампующая» аксиомы на основе «схемы аксиом», если таковая имеется и (2) подпрограмма, использующая правила вывода для получения новых теорем на основании имеющихся теорем (и, разумеется, аксиом). Эти две подпрограммы использовались бы по очереди.
По сравнению с человеком, мы можем сказать, что программа «знает» некоторые факты о теории чисел — а именно, те факты, которые она печатает. Если она пропускает некий истинный факт теории чисел, это значит, что она его не «знает». Следовательно, можно доказать, что компьютерная программа «глупее» человека, показав, что люди знают что-то, недоступное машине. Здесь Лукас начинает свое доказательство. Он утверждает, что люди всегда могут проделать Гёделев трюк в любой формальной системе, равномощной ТТЧ — и, таким образом, они всегда знают больше, чем данная система. Это рассуждение может показаться приложимым лишь к формальным системам, но оно может быть немного изменено и в таком виде стать, как кажется, непобедимым аргументом против Искуственного Интеллекта, равного человеческому. Это делается так:
Рациональность и численность естественно рождают компьютеры, автоматы, роботов, следовательно…
Компьютеры изоморфны формальным системам. Значит…
Любой компьютер, чтобы быть таким же умным, как человек, должен быть способен понимать теорию чисел так же хорошо, как люди, значит…
Среди прочего, он должен знать примитивно рекурсивную арифметику. Но именно поэтому…
Он ловится на Гёделев «крючок», из чего следует, что…
Мы, с нашим человеческим интеллектом, можем вывести некое истинное утверждение теории чисел, истинность которого компьютер не в состоянии заметить (то есть, компьютер никогда не выведет этого утверждения) именно из-за Гёделева аргумента, действующего как бумеранг.
Из этого следует, что существует нечто, что невозможно запрограммировать на компьютерах, но что люди способны сделать. Значит, люди умнее.
Насладимся же, вместе с Лукасом, преходящим моментом антропоцентрической славы:
Какую бы сложную машину мы не сконструировали, она, будучи машиной, будет соответствовать формальной системе, которая, в свою очередь, будет подвержена Гёделевой процедуре нахождения формулы, недоказуемой в данной-системе. Эту формулу машина не в состоянии будет вывести в качестве истинной, хотя разум может установить ее истинность. Таким образом, машина все еще не будет адекватной моделью разума. Мы пытаемся создать механическую модель мозга — «мертвую» модель — но разум, будучи «живым», может всегда пойти на шаг дальше любой формализованной, окостеневшей, мертвой системы. Благодаря теореме Гёделя, за разумом всегда остается последнее слово.[43]
На первый взгляд (и, может быть, даже после детального анализа), доводы Лукаса кажутся убедительными. Обычно они вызывают противоположные реакции. Некоторые ухватываются за них, почти как за религиозное доказательство существования души, в то время как другие просто отмахиваются от них, как от недостойной внимания чепухи. Мне кажется, что, хотя эти доводы ошибочны, они настолько интересны, что стоит потратить некоторое время на их опровержение. На самом деле, это было одной из основных причин, по которой я стал думать над проблемами, затронутыми в этой книге. Я попытаюсь опровергнуть доводы Лукаса одним способом в этой главе и другими способами в главе XVII.
Мы должны попробовать глубже понять, почему Лукас говорит, что компьютер невозможно запрограммировать так, чтобы он «знал» столько же, сколько люди. Его идея заключается в том, что мы всегда находимся вне системы, и что извне мы можем проделать «Геделизирующую» операцию, в результате дающую нечто, что мы, глядя извне, можем идентифицировать как истинное, но что не может быть интерпретировано как таковое изнутри системы. Но почему нельзя запрограммировать в качестве третьего главного компонента программы «Геделизирующий оператор», как Лукас его называет? Лукас объясняет:
Гёделева формула строится при помощи стандартной процедуры — только так мы можем быть уверены, что ее можно будет построить в любой формальной системе. Не если это стандартная процедура, то почему ее нельзя добавить к программе? Это соответствовало бы системе с дополнительным правилом вывода, позволяющего добавить к ней в качестве теоремы Геделеву формулу остальной системы, затем — Геделеву формулу получившейся при этом новой, более мощной формальной системы, и так далее. Это было бы равносильно добавлению к первоначальной формальной системе бесконечной цепочки аксиом, каждая из которых являлась бы Гёделевой формулой системы, полученной таким образом… Можно ожидать, что человек, столкнувшийся с машиной, обладающий Гёделевым оператором, принял бы этот факт во внимание и смог бы пере-Гёделить этот новый аппарат вместе с его Гёделевым оператором. В действительности, так и получается. Даже если мы добавим к формальной системе бесконечный ряд аксиом, состоящих из последовательных Гёделевых формул, получающаяся система все еще остается неполной, так как в ней будет недоказуемая в данной системе формула. Однако разумное существо, стоящее вне системы, видит, что эта формула истинна. Этого мы и ожидали, поскольку, даже если мы добавим бесконечный ряд аксиом, они должны быть определены с помощью некоего конечного правила, которое затем может быть учтено разумом, анализирующим расширенную формальную систему. В некотором роде, поскольку за разумом остается последнее слово, он может всегда обнаружить дыру в любой формальной системе, выдаваемой за его модель. Механическая модель должна быть в каком-то смысле конечной и определенной, следовательно, разум всегда окажется более гибким.[44]
