Тюринг озабочен тем, чтобы ответить на эти серьезные возражения возможно подробнее. Поэтому он уделяет этому довольно много места; частью его ответа является следующий гипотетический диалог:[67]
Спрашивающий: В первой строке вашего сонета «Сравню ли с летним днем твои черты», не лучше ли было бы написать «с весенним днем»?
Собеседник: Это не укладывается в размер.
Спрашивающий: Тогда как насчет «зимнего дня»? С размером здесь все в порядке.
Собеседник: Да, но кому нравится, чтобы его сравнивали с зимним днем!
Спрашивающий: Скажите, м-р Пиквик не напоминает вам о рождестве?
Собеседник: В каком-то смысле.
Спрашивающий: А ведь рождество — это зимний день; однако я не думаю, что м-р Пиквик обиделся бы на такое сравнение.
Собеседник: Не может быть, чтобы вы говорили серьезно. Под зимним днем обычно подразумевается типичный зимний день, а не какой-то особый день вроде рождества.
После этого диалога Тюринг спрашивает: «Что сказал бы профессор Джефферсон, если бы машина, пишущая сонеты, была бы способна отвечать ему таким образом in viva voce?»
Другие возражения:
(5) Аргументы различных неспособностей. Эти аргументы имеют следующую форму: «Предположим, что вы можете заставить машины проделывать все то, о чем вы говорите — но ни одна машина никогда не сможет сделать X». В этой связи предлагались самые разные X, как например: быть доброй, изобретательной, красивой, дружелюбной, инициативной, иметь чувство юмора, отличать хорошее от плохого, делать ошибки, влюбляться, получать удовольствие от клубники со сливками, влюбить в себя кого-нибудь, учиться на опыте, правильно использовать слова, заниматься самоанализом, вести себя так же разнообразно, как люди, сделать нечто действительно новое.
(6) Возражение леди Лавлэйс. Полнее всего об аналитической машине Баббиджа мы знаем из мемуаров леди Лавлэйс. Она пишет: «Аналитическая машина не претендует на создание чего-либо нового. Она может делать только то, что мы умеем ей приказать.».
(7) Аргумент непрерывности нервной системы. Нервная система, безусловно, не является машиной, работающей с перерывами. Небольшая ошибка в информации о размере нервного импульса, воздействующего на нейрон, может означать огромную разницу в размере выходящего импульса. Можно сказать, что такое положение вещей делает невозможным имитацию поведения нервной системы при помощи дискретной системы.
(8) Аргумент неформального поведения. «Если бы каждый человек руководствовался в своей жизни набором неких установленных правил, он был бы не лучше машины. Но поскольку таких правил не существует, люди не могут быть машинами.»
(9) Аргумент экстрасенсорного восприятия. Давайте представим себе имитационную игру, в которой участвуют человек, обладающий телепатическими способностями, и компьютер. Ведущий может задавать такие вопросы как «Какой масти карта в моей правой руке?». Человек, используя телепатию или ясновидение, дает 130 верных ответов из 400. Машина может только гадать и, скорее всего, даст около 104 правильных ответов, так что ведущий сможет без труда определить, кто есть кто.
Как видите, многие возражения связаны друг с другом и частично совпадают. В этой книге я попытался так или иначе ответить на каждое из них, хотя и менее четко, чем это сделал Тюринг. Возражение (9) кажется мне удивительным. Я видел эту статью Тюринга, перепечатанную в книге — но там возражение (9) опущено, что мне кажется не менее удивительным. Лично я, в отличие от Тюринга, считаю, что экстрасенсорных способностей (ЭСС) не существует. Тюрингу пришлось согласиться с идеей ЭСС, поскольку его выдающаяся научная честность заставила его принять последствия того, что казалось ему мощной статистической очевидностью в пользу этой идеи. Я с этим не согласен, но, тем не менее, считаю это необыкновенно интересным и сложным вопросом.
В предыдущем Диалоге вы прочли запись подлинной беседы между компьютерной программой и человеком. Существует множество программ с меньшей, чем у ШРДЛУ, способностью к «беседе». Две довольно известные программы такого рода — это «Доктор» (создание Иосифа Вайценбаума) и «Парри» (детище Кеннета Колби). Первая была призвана имитировать психиатра, используя «недирективную» терапию, в то время как вторая должна была изображать типичного параноика. Однажды по компьютерной сети была устроена забавная встреча этих двух программ; ниже приводится отрывок из их «беседы»:[68]
Парри: Я не понимаю ваших мотивов.
Доктор: Почему вы не понимаете моих мотивов?
Парри: Не должен ли я быть таким?
Доктор: Почему вы сейчас это сказали?
Парри: Это именно так и есть.
Доктор: А вы представьте себе, что это именно не так.
Парри. Ну и что?
Доктор. Я не уверен, что вполне вас понимаю.
Парри: Вы слишком привязываетесь к одним тем же вопросам.
Доктор: О чем говорит вам это сходство?
Парри: Я вас не понимаю.
Доктор: Вы хотели бы понимать я?
Парри: Хорошо бы, чтобы вы начали проявлять интерес к моим чувствам.
Доктор: Что? Я начал проявлять интерес к вашим чувствам?
Разумеется, эти программы были созданы для разговоров с людьми; поэтому, разговаривая друг с другом, они показывают себя не с лучшей стороны. В основном они опираются на ловкие догадки в отношении вводных данных (анализируя их довольно поверхностно) и выдают готовые ответы, тщательно выбранные из обширного репертуара. Ответ может быть готовым только частично: например, может использоваться некая схема, в которой заполняются пробелы. При этом имеется в виду, что собеседник-человек будет придавать ответам гораздо больше смысла, чем в них есть на самом деле. В действительности, согласно тому, что Вайнценбаум утверждает в своей книге «Мощь компьютеров и человеческий разум» (Weizenbaum, «Computer Power and Human Reason»), именно так и происходит. Он пишет:
ЭЛИЗА (программа, на основе которой был разработан Доктор) создавала удивительную иллюзию проникновения в мысли многих людей, которые с ней разговаривали… Они часто просили позволения побеседовать с системой наедине, после чего говорили, несмотря на мои объяснения, что машина их по-настоящему поняла.[69]
После прочтения предыдущего «разговора» читатель может подумать, что это невероятно. Может быть — но это чистая правда! Вайценбаум объясняет:
Большинство людей совершенно ничего не понимают в компьютерах. Поэтому, если только они не способны на значительную долю скептицизма (того скептицизма с которым мы наблюдаем за действиями фокусника), они могут объяснить интеллектуальные достижения компьютера только путем единственной доступной им аналогии — то есть модели их собственного мышления. Таким образом не удивительно, что они преувеличивают почти невозможно вообразить человека, который мог бы имитировать ЭЛИЗУ, но для которого при этом ее языковые способности являлись бы пределом.[70]
Это равносильно признанию того, что подобные программы являются остроумной смесью бравады и блефа и их успех основан на людской доверчивости.
В свете странного «эффекта ЭЛИЗЫ» многие предлагали пересмотреть тест Тюринга, поскольку, по-видимому людей легко одурачить простенькими уловками. Было предложено, чтобы ведущим был лауреат Нобелевской премии. Возможно, было бы целесообразнее перевернуть тест с ног на голову и сделать так, чтобы вопросы задавал компьютер. Или может быть, вопросы должны задавать двое — человек и компьютер, а отвечать — кто-то один, и спрашивающие должны догадаться компьютер это или человек.
Говоря серьезно, я считаю, что тест Тюринга в его первоначальной форме вполне приемлем. Что касается людей которые, по словам Вайзенбаума были одурачены ЭЛИЗОЙ, то их никто не предупреждал быть более скептическими, стараясь угадать, является ли «персона» печатающая ответы, человеком. Мне кажется что Тюринг верно понимал ситуацию и его тест выживет в практически неизмененной форме.
