Это напоминает мне Диалог Кэрролла («Двухголосная инвенция») и вот почему. Самуэль основывает свой аргумент против машинного сознания (или воли) на понятии, что любое механическое проявление воли с необходимостью потребует бесконечного регресса. Таким же образом, Кэрроллова Черепаха пытается доказать, что даже простейшее рассуждение не может быть проведено без обращения к неким правилам высшего уровня, разрешающим данное рассуждение. Но поскольку это, в свою очередь, тоже шаг рассуждения, то приходится обращаться к правилам еще более высокого уровня — и так далее. Заключение: рассуждения приводят к бесконечному регрессу.
Разумеется, в доводах Черепахи есть ошибка, и я думаю, что аналогичная ошибка имеется и в рассуждениях Самуэля. Чтобы показать, в чем эти ошибки похожи, я сыграю роль «адвоката дьявола», пытаясь доказать точку зрения, противоположную моей собственной. (Поскольку, как известно, Бог помогает тем, кто помогает себе сам, то дьявол, вероятно, помогает тем и только тем, кто сам себе не помогает. Помогает ли Дьявол сам себе?) Вот мои «дьявольские» заключения, выведенные из Диалога Кэрролла:
Заключение о том, что рассуждения невозможны, неприложимо к людям, поскольку всем известно, что людям все-таки удается проводить множество рассуждений, несмотря на все высшие уровни. Это показывает, что люди функционируют, не нуждаясь в правилах: Люди — это пример «неформальной системы». С другой стороны, этот аргумент действителен, когда мы применяем его против механических рассуждающих систем, поскольку они всегда подчиняются правилам. Такие системы не смогут начать работать, пока у них не будет мета-правил, указывающих им, когда применять правила, мета-мета-правил, говорящих, когда применять мета-правила, и так далее. Таким образом, мы можем заключить, что умение рассуждать не может быть воплощено в машине, — это исключительно человеческая черта.
Где в этих доводах ошибка? В предположении, что машина не способна начать действовать без правила, говорящего ей, как это сделать. В действительности, машины обходят глупые Черепахины возражения так же легко, как и люди, и по той же самой причине: как люди, так и машины сделаны из аппаратуры, которая действует сама по себе, согласно законам физики. Вовсе не надо опираться на «правила, говорящие, как использовать правила», поскольку правила низшего уровня — не имеющие никаких «мета» перед ними — встроены в саму аппаратуру и действуют самостоятельно. Вывод: Диалог Кэрролла ничего не говорит нам о разнице между людьми и машинами. (На самом деле рассуждения возможно механизировать.)
Теперь перейдем к доводам Самуэля. В карикатурном изображении, его точка зрения сводится к следующему:
Нельзя сказать, что компьютер «хочет» что-либо сделать, поскольку он был запрограммирован кем-то другим. Только в том случае, если бы он мог запрограммировать сам себя, начиная с нуля, мы могли бы сказать, что компьютер обладает собственной волей.
В своих доводах Самуэль встает на позицию Черепахи, заменяя «рассуждения» на «волю». Он хочет сказать, что за любым механизмом желания должен стоять либо бесконечный регресс, либо, что еще хуже, закрытая петля. Если у компьютеров нет собственной воли именно по этой причине, то что можно сказать о людях? Тот же самый критерий позволяет заключить, что:
человек обладает собственной волей только тогда, когда он сделал себя сам и выбрал собственные желания (а также выбрал выбор собственных желаний и так далее).
Это заставляет нас хорошенько подумать над тем. откуда появляются наши желания. Если вы не верите в наличие души, то. возможно, скажете, что они зарождаются в вашем мозгу — аппаратуре, которую вы не создавали и не выбирали. Тем не менее, от этого ваше чувство, что вы желаете чего-то определенного, не становится слабее. Вы — вовсе не «само-программирующий объект» (что бы это ни значило); тем не менее у вас все же есть собственная воля, зарождающаяся на физическом уровне вашего интеллекта. Таким же образом, у машин когда-нибудь будет собственная воля, несмотря на тот факт, что никакая магическая «само-программирующая» программа не появляется в их памяти из ничего, словно по мановению волшебной палочки. У них будет воля по той же причине, что и у людей — как следствие организации и структуры многих уровней аппаратуры и программного обеспечения. Вывод: доводы Самуэля ничего не говорят нам о разнице между людьми и машинами. (На самом деле, волю возможно механизировать.)
Сразу после «Двухголосной инвенции» я написал, что центральной темой этой книги будет обсуждение вопроса «подчиняются ли слова и мысли формальным правилам?» Одной из моих основных задач было показать многоуровневость интеллекта и мозга и объяснить, почему конечным ответом на этот вопрос является «да, если спуститься на низший уровень — уровень аппаратуры — и найти там правила.»
Точка зрения Самуэля затронула некую тему, которую я хочу обсудить подробнее. Вот она: думая, мы, безусловно, меняем наши мысленные правила, а также правила, меняющие правила, и так далее — но это, образно говоря, правила «программ». При этом фундаментальные правила, правила «аппаратуры», остаются неизменными. Нейроны всегда действуют одинаково. Мы не можем уговорить нейроны повести себя «ненейронным» образом; все, что нам удается сделать, это поменять тему или стиль наших мыслей. Подобно Ахиллу в «Прелюдии» и «Муравьиной фуге», мы имеем доступ только к нашим мыслям, а не к нейронам. Правила программ могут варьироваться на разных уровнях — правила аппаратуры всегда остаются одними и теми же. Именно этим фактом и объясняется гибкость программ! Это вовсе не парадокс, а фундаментальный, простой факт, касающийся механизмов разума.
Именно различие между само-модифицирующимися программами и неизменной аппаратурой будет темой последней главы этой книги. Некоторые из последующих вариаций на это тему могут показаться довольно надуманными; однако надеюсь, что к тому моменту, когда я завершу цикл, вернувшись к мозгу, интеллекту и чувству самосознания, вы сможете увидеть неизменную основу в каждой из этих вариаций.
В этой главе я хочу поделиться с читателем теми образами, которые помогают мне понять, каким образом сознание вырастает из джунглей нейронов. Надеюсь, что эти интуитивные образы окажутся полезными и немного помогут читателям в определении их собственных представлений о том, что заставляет функционировать разум. Может быть, возникающие в моем мозгу туманные образы мозга и образов послужат катализатором для образования более четких образов мозга и образов в мозгу моих читателей.
Итак, первая вариация: игры, в которых очередной игрок может изменять правила. Представьте себе шахматы. Ясно, что правила здесь остаются неизменными, а меняется только позиция на доске после каждого хода. Но давайте теперь рассмотрим такой вариант шахмат, в котором очередной игрок имеет право либо сделать ход, либо поменять правила. Каким образом? Произвольно? Можно ли превратить шахматы, скажем, в шашки? Понятно, что подобная анархия была бы бессмысленна — должны существовать некоторые ограничения. Например, в одной из версий будет позволено изменять ход коня: вместо «1 и затем 2» конь будет передвигаться на «m» и затем «n» клеток, где m и n — любые натуральные числа; очередной игрок сможет увеличивать или уменьшать на 1 либо m либо n. Таким образом, ход коня сможет меняться от 1-2 до 1-3, до 0-3, до 0-4, до 0-5. до 1-5, до 2-5… Вместо этого могут существовать правила, модифицирующие ход слона и других фигур. Другие правила могут добавлять новые клетки к доске, или стирать старые…
У нас будет два уровня правил, одни говорят нам, как ходят фигуры, и другие — как изменяются правила. Таким образом, у нас есть правила и мета-правила. Следующий шаг очевиден: введение мета-мета-правил, говорящих нам, как менять мета-правила. Однако вовсе не очевидно, как именно это сделать. Правила, меняющие ходы фигур, придумать легко, поскольку фигуры двигаются в формализованном пространстве шахматной доски. Если бы нам удалось придумать простую формальную запись для правил и мета-правил, тогда обращаться с ними стало бы так же легко, как с цепочками формул или даже с шахматными фигурами. Доводя эту идею до логической крайности, мы могли бы представить, что правила и мета-правила могут быть изображены в виде позиций на вспомогательной шахматной доске. Тогда каждая позиция сможет, в зависимости от вашей интерпретации, быть понята как момент игры, набор правил или набор мета-правил. Разумеется, оба игрока должны будут заранее договориться о том, как интерпретировать нотацию.
