Рене Декарт спрашивал себя, может ли он быть уверен в том, что данное мгновение ему не снится. “Когда я размышляю над этим, то настолько ясно вижу, что не существует неопровержимых указаний, при помощи которых сон может быть отличен от бодрствования, что удивляюсь, и удивляюсь так сильно, что почти убеждаюсь, что сплю.”

Декарту не приходило в голову, что он может быть лишь кем-то из чужого сна, а если и приходило, то он сразу отбросил эту идею. Почему? Разве нельзя увидеть во сне кого-то, кто не был бы вами, но чей опыт был бы частью вашего сна? На такой вопрос ответить непросто. Какая разница между сном, в котором вы видите себя сильно отличным от вас бодрствующего, например, намного моложе или старше, или противоположного пола, и сном, главное действующее лицо которого (скажем, девушка по имени Рената), с чьей “точки зрения” “рассказывался” бы сон, было бы не вами, но неким выдуманным образом точно так же, как и дракон, догоняющий ее во сне? Если бы эта снящаяся девушка спросила Декарта о том, спит она или бодрствует, скорее всего, он ответил бы, что она не спит и не бодрствует — она лишь снится. Когда спящий — настоящий спящий — проснется, она исчезнет. Но кому предназначался бы этот ответ, если она на самом деле не существует, а является лишь персонажем сна?

Являются ли все эти философские размышления о снах и реальности лишь пустой игрой ума? Существует ли строгая “научная” платформа, с которой можно отличить объекты, реально существующие, от фиктивных объектов? Может быть — но с какой стороны границы тогда окажемся мы? Не наши физические тела, а наше самосознание?

Представьте себе роман, написанный с точки зрения воображаемого рассказчика-автора. “Моби Дик” начинается словами “Зовите меня Исмаэль”, после чего нам предлагается история Исмаэля, рассказанная самим Исмаэлем. Кого нам предлагается называть Исмаэлем? Исмаэль не существует. Он просто один из персонажей романа Мелвилла. Сам Мелвилл был совершенно реален и выдумал персонажа, называющего себя Исмаэлем — но этот персонаж не входит в перечень реально существующих объектов. Теперь вообразите, если сможете, машину, пишущую романы — машину с некой зачаточной индивидуальностью. Назовем ее ДЖОНИАК. (Следующая глава поможет вам вообразить подобную машину, если у вас возникнут с этим трудности.) Представьте себе, что роман, появляющийся, лист за листом, из скоростного принтера ДЖОНИАКа, начинается “Зовите меня Гилбертом”, и начинает рассказывать историю Гилберта с точки зрения самого Гилберта. Кого нам предлагается называть Гилбертом? Гилберт — всего лишь персонаж романа, выдумка, не имеющая реального существования, хотя мы можем, вживаясь в роман, говорить и узнавать о “его” приключениях, проблемах, надеждах, страхах и боли и переживать за него. В случае с Исмаэлем мы можем предположить, что его странное, выдуманное квази-существование зависело от реального существования самосознания Мелвилла. Нет сна без сновидца, как открыл Декарт. Но в этом случае мы сталкиваемся со сном — во всяком случае, с фикцией — в отсутствие действительного сновидца или автора, реальной индивидуальности, с которой мы могли бы, при желании, отождествить Гилберта. Таким образом, в необычном случае машины-писателя возможно создать целиком воображаемое существо, за которым не будет стоять действительная индивидуальность автора. (Мы можем даже вообразить, что создавшие ДЖОНИАК не имели понятия, какие романы он будет писать.)

Представьте теперь, что наша предполагаемая машина-романист — не стационарный компьютер-ящик, а робот. И представьте — почему бы и нет? — что текст романа не печатается, а “говорится” механическим ртом. Назовем этого робота РЕЧИАК. Наконец, представьте, что история, которую мы узнаем от РЕЧИАКа о приключениях Гилберта, представляет собой более или менее правдивую историю “приключений” самого РЕЧИАКа. Когда его запирают в шкаф, он говорит: “Меня заперли в шкафу! Выпустите меня!” Выпустить кого? Гилберта. Но Гилберт не существует — он просто выдуманный персонаж в истории РЕЧИАКа. Но почему мы должны называть эту историю выдуманной, когда у нас есть очевидный кандидат на роль Гилберта: личность, чьим телом является РЕЧИАК? В “Где я?” Деннетт называл свое тело Гамлетом. Может быть, здесь у нас имеется Гилберт, тело которого называется РЕЧИАК, или же РЕЧИАК, называющий сам себя Гилбертом?

Может быть, нас сбило с толку имя. Назвать робота Гилбертом — то же самое, что назвать яхту “Каролина” или часы — “Биг Бен”, или программу — “ЭЛИЗА”. Можно настаивать, что за именем Гилберта в данном случае не стоит никакой личности. Но что, кроме био-шовинизма, дает нам основания предположить, что Гилберт — не является личностью, созданной деятельностью и самовыражением РЕЧИАКа в мире?

“В таком случае, вы полагаете, что я — лишь сон моего тела? Значит, я — выдуманный персонаж, созданный деятельностью моего тела?” Можно сказать и так — но к чему называть себя выдуманным? Ваш мозг, как и бессознательная машина-писатель, справляется со своими физическими задачами, сортирует входные и выходные данные, не представляя при этом, зачем он это делает. Подобно муравьям, составляющим муравьиную колонию по имени Мура Вейник в “Прелюдии… и Муравьиной фуге”, мозг не “знает”, что в процессе работы создает вас — но вот она, личность, возникающая почти чудом из суеты мозговой деятельности.

Этот процесс создания личности на одном уровне из относительно безмозглой и бессознательной деятельности, происходящей на другом уровне, живо иллюстрируется в следующей главе, эссе Джона Сирля, хотя сам он упорно отрицает эту интерпретацию показанной им картины.

Д.К.Д.

Какое психологическое и философское значение имеют недавние попытки компьютерного моделирования познавательных способностей человека? При ответе на этот вопрос я буду проводить различие между “сильным” ИИ и “слабым” или “осторожным” ИИ (Искусственным Интеллектом). Согласно слабой версии ИИ, компьютеры — могучий инструмент для изучения разума. Они позволяют нам более точно формулировать и проверять гипотезы. Однако сильная версия ИИ утверждает, что компьютер — не только орудие для познания разума. По этой версии, должным образом запрограммированный компьютер является разумом, в том смысле, что компьютеры, снабженные соответствующей программой, не только в буквальном смысле слова понимают, но испытывают и другие когнитивные состояния. В сильном варианте ИИ программы — не только инструменты для тестирования психологических объяснений; скорее, они сами являются этими объяснениями.

Я не возражаю против слабой версии ИИ, по крайней мере, в этой статье. Дискуссия будет направлена против сильной версии ИИ, в особенности, против утверждения, что должным образом запрограммированный компьютер выказывает когнитивные состояния и что это объясняет человеческое познание. В дальнейшем под ИИ я буду подразумевать его сильную версию, придерживающуюся этих двух убеждений.

Я обсуждаю здесь труд Роджера Шенка и его коллег из Йелльского университета (Шенк и Абельсон, 1977), поскольку знаком с ним лучше, чем с другими работами на эту тему, и поскольку он представляет из себя яркий пример работы, которую я хотел бы проанализировать. Однако дальнейшее обсуждение не зависит от деталей программы Шенка. Те же самые аргументы приложимы и к программе Винограда ШРДЛУ (Виноград, 1973), программе Вайценбаума ЭЛИЗА (Вайценбаум, 1965) и любой попытке симулировать с помощью машин Тьюринга феномен человеческого мышления.

Вкратце программа Шенка может быть описана следующим образом: Цель программы — имитация человеческого умения понимать рассказы. Для человека характерно умение отвечать на вопросы о рассказе, давая в ответе информацию, которая прямо в рассказе не упоминалась. Представьте себе, что вы услышали следующий рассказ: “Человек пришел в кафе и заказал гамбургер. Когда ему принесли заказанное, гамбургер оказался подгоревшим дочерна, и разгневанный клиент выбежал из кафе, не заплатив по счету и не оставив чаевых.” Если вас спросят, съел ли тот человек гамбургер, вы, скорее всего, ответите: “Разумеется, нет!” Аналогично, если вы услышите следующий рассказ: “Человек пришел в кафе и заказал гамбургер. Когда ему принесли заказанное, гамбургер оказался превосходным, и довольный клиент, оплатив счет, оставил щедрые чаевые,” на вопрос “Съел ли он гамбургер?” вы, вероятно, ответите “Да, съел.” Машины Шенка могут отвечать на вопросы о ресторанах подобным образом. Для этого они снабжены “представлением” о той информации, которую люди имеют о ресторанах; поэтому на подобные вопросы эти программы способны ответить удовлетворительно. Когда в машину вводят рассказ и затем задают вопрос, подобный вышеприведенному, машина печатает ответ, который дал бы в похожей ситуации человек. Сторонники ИИ утверждают, что (1) при этом машина не только подражает человеческой способности, но в буквальном смысле слова понимает рассказанное и отвечает на вопросы, и (2) машина и ее программа объясняют человеческую способность понимать рассказы и отвечать на вопросы о них.