Кое в чем система письма, основанная на морфемах, сослужила китайцам хорошую службу, несмотря на тот присущий ей недостаток, что читатель теряется, встречая новое или редкое слово. Носители диалектов, которые не понимают друг друга, могут читать одни и те же тексты (даже если слова из этих текстов они произносят на своих диалектах совершенно по-разному), а многие документы, написанные тысячи лет назад, может прочитать и современный человек. Марк Твен ссылался на такую же инертность в нашей романской системе правописания, когда говорил: «Они пишут Vinci, а произносят Vinchy (Винчи); иностранцы всегда пишут лучше, чем они произносят».

Конечно, английское правописание могло бы быть и лучше, чем оно есть. Но оно уже гораздо лучше, чем большинство людей о нем думает, поскольку системы письма не ставят своей задачей отразить реальные звуки, возникающие при разговоре, которые мы не слышим, но абстрактные языковые единицы, лежащие в их основе, именно те, что нам слышны.

ГОВОРЯЩИЕ ГОЛОВЫ[94]

Как мы понимаем язык и используем его в речи

На протяжении столетий людей ужасала возможность того, что созданные ими вычислительные машины могут перехитрить их, в чем-то превзойти или лишить рабочих мест. Этот страх часто обыгрывался в литературе, начиная со средневековой еврейской легенды о Големе, глиняном истукане, ожившем, когда ему в рот вложили надпись с именем Бога, до HAL — взбунтовавшегося компьютера из «Космической одиссеи 2001». Но когда в 1950-х гг. возникла такая отрасль прикладной науки, как «искусственный интеллект» («Artificial intelligence» — AI), создалось впечатление, что научная фантастика грозит обернуться пугающей реальностью. Когда компьютер высчитывает число «пи» до миллионного знака после запятой или начисляет зарплату сотрудникам фирмы, то нетрудно признать его право на существование, но вдруг обнаружилось, что компьютеры еще и доказывают логические теоремы и играют в шахматы на высоком уровне. В последующие годы появились компьютеры, которые могли обыграть любого, за исключением гроссмейстера, и программы, превосходившие многих экспертов, когда речь шла о рекомендациях — какие подобрать лекарства при бактериальных инфекциях или куда инвестировать пенсионные фонды. А раз компьютеры решали такие требующие умственного напряжения задачи, казалось, дело лишь во времени — и СЗРО[95] или Терминатора можно будет заказать по каталогу. Единственное, что оставалось, это запрограммировать компьютеры на выполнение простых заданий. Согласно легенде, в 1970-х гг. Марвин Минский, один из создателей AI, дал своему аспиранту такое задание на лето — написать «зрительную программу».

Но домашние роботы все еще оставались в области фантастики. Главный урок, извлеченный разработчиками AI после тридцати пяти лет работы состоял в том, что сложные проблемы просты, а простые сложны. То, что доступно разуму четырехлетнего ребенка и для нас является само собой разумеющимся — узнать знакомое лицо, поднять карандаш, пересечь комнату, ответить на вопрос — в действительности является решением одних из самых сложных технологических проблем. Пусть вас не вводят в заблуждение роботы на конвейере в рекламных роликах автомобилей: все, чем они занимаются — это сварка и распыление краски — а такие задачи не требуют обязательного присутствия неуклюжего мистера Магу[96], который бы за чем-то наблюдал, что-то держал или что-то куда-то клал. Если вы хотите поставить в тупик систему искусственного интеллекта, задайте ей следующие вопросы: «Что больше — Чикаго или хлебница?», «Носят ли зебры нижнее белье?», «Может ли пол подняться и покусать вас?», «Если Сьюзен идет в магазин, идет ли ее голова вместе с ней?». Большинство страхов перед автоматическими системами основано не на том, что действительно должно вызывать опасения. Это аналитикам финансового рынка, инженерам нефтехимической отрасли и членам судейской коллегии стоит опасаться, что с появлением нового поколения разумных машин они потеряют работу и будут вытеснены последними. Садовники, портье и повара могут в ближайшие десятилетия быть уверены, что останутся на своих местах.

Понимание предложения — это одна из вышеупомянутых тяжелых легких проблем. Чтобы общаться с компьютерами нам все еще приходится учить их языки, сами они недостаточно умны, чтобы выучить наши. Вообще, это слишком легко — думать, что компьютеры понимают больше, чем они на самом деле способны понять.

Недавно был учрежден ежегодный конкурс, какая компьютерная программа лучше всего введет в заблуждение пользователя, заставив думать, что он общается с человеком. Целью этого конкурса на премию Лобнера (Loebner Prize) было воплотить предположение, сделанное Аланом Тьюрингом в знаменитой работе 1950 г. Он предложил использовать для ответа на философский вопрос «Может ли машина мыслить?» имитационную игру, где арбитр разговаривает с человеком через один терминал и с компьютером, запрограммированным на имитацию человека — через другой. Если арбитр не может отличить, кто где, то, по мысли Тьюринга, нет оснований отрицать, что компьютер может думать. Если отбросить философию, то для конкурсной комиссии было очевидно, что ни одна программа не сможет и близко подойти к выигрыванию премии в 100 000 долларов, поэтому ее размер был уменьшен до 1 500 долларов, что было честнее по отношению к машине. Каждый из арбитров должен был придерживаться одной темы беседы, выбранной программистом или конкурирующим с компьютером человеком, кем бы он ни был, и арбитру не позволялось использовать никаких «хитростей или уловок», например, повторять вопрос десять раз или спрашивать, носят ли зебры нижнее белье; беседа должна была быть «естественной». После примерно семи минут общения с каждой из нескольких программ и их соперников-людей, арбитры указали на то, что все люди более «человекоподобны», чем любой из компьютеров. Тем не менее, около половины арбитров спутали выигравшую программу с человеком.

Это достижение является менее впечатляющим, чем кажется. Правила связали арбитрам руки: «неестественные хитрости и уловки» — это иное название любой попытки установить, разговариваешь ты с человеком или с машиной, что и является смыслом конкурса! Кроме того, программист-победитель тонко использовал возможность выбирать тему беседы для своей программы. Он выбрал «эксцентричную беседу», которая является сомнительным примером «темы» и сама по себе может быть полна непоследовательностей:

По сути программист просто усовершенствовал технологию, изобретенную в 1965 г. ученым-компьютерщиком Джозефом Вейценбаумом. Вейценбаум написал туповатую программу, названную ELIZA в честь героини Бернарда Шоу; эта программа искала несколько ключевых слов во вводимой строке, извлекала фиксированный ответ из списка и вставляла фрагменты вводимой строки в ответ (с некоторыми небольшими изменениями, например «ты» вместо «я»). Таким образом в примитивной форме имитировалась беседа. Один вариант программы под названием Doctor копировал поведение психотерапевта — приверженца философии Карла Роджерса, считавшего, что терапевт должен повторять пациенту его же собственные утверждения для их осмысливания. Эта версия программы позже продавалась как компьютерная игра в магазинах «Рейдио Шэк»[98], а другая версия поступает в комплекте с моим текстовым редактором GNU Emacs. (В документации сказано: «Если при использовании Emacs что-то не получается, и ни один из указанных выше приемов не решает проблему, Emacs все же может вам помочь. Наберите: „M-x doctor RET“».) Вот типичный диалог: