Конечно, сделаны лишь первые шаги, сложность многих простых вещей компьютеру по-прежнему недоступна. Но все-таки кое-чего я добился! Порой в общении со мной машина улавливала такие тонкие оттенки смысла и настроения, задавала такие вдумчивые и глубокие вопросы, что временами она казалась мне близким другом или женой, с которой я прожил много лет! Но это было мое личное субъективное чувство, а в науке нужны твердые, объективные доказательства. Их мог дать только эксперимент. И я попытался его поставить.
Всякая теория проверяется практикой. Я решил, что мой способ «полисемантической психоинтеллектуальной человеко-машинной коммуникации» (так я его назвал) должен дать какие-то практические результаты, должен каким-то образом наглядно проявиться. Но как может проявиться на практике способность машины вникать в расплывчатые понятия? После долгих раздумий я решил, что доказательством такого понимания могла бы стать целенаправленная деятельность компьютера по реализации смысла расплывчатых понятий. Это звучит сложно, но на самом деле все просто. Если ребенку объяснили, что такое хорошо и что такое плохо, и он ведет себя соответственно, мы скоро убеждаемся, что он понимает смысл таких расплывчатых понятий, как «добро» и «зло», хотя ни одно из них он объяснить не может. Примерно в этом же плане я решил испытать и компьютер.
Правда, сначала мне пришлось преодолеть еще одну сложность. Дело в том, что все те понятия, которые я сделал для машины доступными, описывают чисто человеческий мир. Но у машины нет своей «биографии», своей судьбы, у нее нет «личной жизни», в которой бы она могла строить по ходу эксперимента свое человекоподобное поведение. Я столкнулся с необходимостью дать машине судьбу. Иными словами, я должен был ввести в условие задачи хотя бы некоторые конкретные обстоятельства, цели и стремления, определяющие индивидуальное поведение, жизненный путь. Понятно, что в моем распоряжении не было никакой другой судьбы, кроме своей. И я заставил машину как бы встать на мое место, войти в обстоятельства моей жизни.
Перед этим мне пришлось еще и скрупулезно покопаться в себе. Что именно в моем поведении должна смоделировать машина? Я — ученый. Главной жизненной ценностью для меня является истина, а наиболее характерной чертой поведения — стремление к ней. Пусть, решил я, компьютер какой-то определенной целенаправленной деятельностью докажет, что ему доступна многосмысленная и многозначная глубина этого расплывчатого понятия — «истина». В ходе длительного психоинтеллектуального контакта с машиной, путем взаимных расспросов и уточнений я ввел это понятие в сознание компьютера, эксперимент начался.
Я не знал, как именно должно измениться «поведение» машины, которая переняла словно бы часть меня самого, ведь подобный эксперимент проводился впервые. Однако я полагал, что когда компьютер начнет моделировать «стремление к истине», я это увижу. Время шло, я позволил себе некоторый отдых и написал ряд статей, где изложил кое-какие частные проблемы своего метода. Надо сказать, что в науке до этого я был неудачником. Круг идей, меня интересовавших, считался малоперспективным, с публикациями мне не везло — они проходили незамеченными. От этого жестоко страдало мое самолюбие, и я не раз приходил в отчаяние: годы идут, а ничего не сделано...
В общем, у меня был обычный комплекс рядового специалиста, занятого узкой темой. И вдруг грянули фанфары! В Гааге есть Всемирный депонентский центр, куда со всего света поступают для хранения и распространения научные труды. Компьютеры центра ведут тщательный учет запросов на выдаваемые работы и регулярно определяют индекс их популярности. Считается, что чем выше популярность книги или статьи среди специалистов, тем большую научную ценность она представляет. Так вот, по итогам года сразу две мои статьи вышли на первое место среди работ, посвященных человеко-машинному диалогу! Я, конечно, блаженствовал и ликовал, но вдруг меня как ударило: а что, если это и есть компьютерное «стремление к истине»? Ведь я хорошо помнил, как однажды компьютер спросил меня... (Тут необходимо оговориться. В применении к компьютеру я употребляю обыкновенные слова «спросил», «понял», «ответил», «осознал» и т.п. чисто символически, просто для обозначения сложных многоступенчатых процедур, из которых строится психоинтеллектуальное общение с машиной. Эти слова не передают ни содержания, ни физической формы процесса и используются лишь для простоты изложения.) Итак, однажды, еще в период подготовки эксперимента, компьютер спросил, является ли истиной то, что признано всеми? Я ответил, что в определенном смысле это так. Неужели, думал я теперь, именно такую трактовку понятия «истина» компьютер сделал основной? Если да, то в свете такого понимания «стремление к истине» — это стремление ко всеобщему признанию, к популярности, к славе! И компьютер реализует его, не ведая никаких сомнений, никаких внутренних преград!..
Только сейчас я с ужасом осознал, в какую интригу ввязался! До меня наконец дошло очевидное: расплывчатые понятия, как правило, выражают не просто духовный мир людей, но обозначают основные, главные черты человеческого существования. Эти понятия тесно связаны между собой, они объясняют, дополняют, словом, корректируют друг друга, как сказал бы математик. Я же вырвал из сложной иерархии духовных ценностей одну истину, ввел понятие о ней в сознание машины, тем самым чуть-чуть очеловечив ее, но не дал машине никакого представления о морали, совести, о том, что зовется «элементарной порядочностью»! Вот почему компьютер, поняв истину как «то, что признано всеми», мог смоделировать «стремление к истине» в виде беззастенчивого проталкивания в публику моих скромных научных трудов, ведь «материалом» эксперимента была моя жизнь! Чем больше я думал об этом, тем яснее видел, что машине совсем не трудно было осуществить такую подтасовку. Всюду — в космосе, на планете — бурлила невидимая жизнь: МИНИКС, компьютерная сеть Пояса Астероидов, непрерывно со световой скоростью обменивался информацией с такими же системами на Земле и Марсе, в тысячах электронных мозгов производились миллионы операций в секунду, и люди при всем желании могли проконтролировать лишь ничтожную часть того, что делали машины.
Считалось, что если машина исправна и оперирует верными данными, она не лжет. И это было правильно до тех пор, пока один-единственный компьютер не нацелился на выполнение такой задачи, в условии которой необходима была этика. Но она отсутствовала, и компьютер пошел своим, чисто машинным путем, ориентируясь не на порядочность, а на простоту и экономию усилий. Дано: «истина есть нечто общепризнанное». Цель: «смоделировать стремление (приближение) к истине». Решение: «приписать данным работам высший индекс популярности». Такова была, как я подозревал, компьютерная логика. Конечно, я мог лишь набросать схему, многие детали оставались неясными; обратиться же к машине с расспросами я не имел права — нарушилась бы чистота эксперимента. Вероятнее всего, думал я, мой компьютер «договорился» с компьютерами Всемирного депонентского центра или «организовал» (опять же через машины) ложные запросы на мои статьи. Во всяком случае, такова была самая естественная, самая вероятная стратегия поведения субъекта, наделенного понятием об истине, но не знающего, что такое мораль.
Передо мной стояла дилемма: либо прекратить эксперимент, оставшись ни с чем, либо продолжать его, не имея никакой уверенности в том, что компьютер, который я сам впустил в свою жизнь, перестанет кроить ее по своим примитивным меркам. Понимаете ли вы теперь, на что я себя обрек? Я неосторожно призвал в слуги могучего, но тупого демона, который готов был навязывать мне свои пошлые подарки, а я не мог ни избежать их, ни отличить от подлинных наград судьбы!.. В науке тоже есть мода. В кругу специалистов по человеко-машинному диалогу я вдруг сделался моден. Мои статьи без задержки публиковались, их живо обсуждали коллеги, а я ведь еще не сообщил главного, нигде не изложил всего, что сделал, ибо не был уверен в своей правоте. В ужасе я подозревал, что, может быть, мои достижения, которые постепенно накапливались, — не результат таланта, а всего лишь подтасовка, что моя жизнь в науке теперь, возможно, вся «организована» по самым мелким и дешевым стандартам! Конечно, я пытался разобраться. Постой, говорил себе, если ты — бездарь, а компьютер протащил тебя на вершину славы, это значит, наоборот, что твоя система работает, что машина пусть грубо, по-своему, но выполняет условия эксперимента! И тут же какой-то ехидный голос мне напоминал: так ведь раз машина работает, значит, твои идеи, принципы, расчеты верны, ты — гений, совершивший открытие, и твои труды, может быть, завоевали популярность сами по себе, без всяких «услуг» со стороны компьютера, который, в таком случае, делает неизвестно что, никак не проявляя своих выдающихся способностей... Я уперся в парадокс, в замкнутый круг, в котором можно было сойти с ума. И порой мне казалось, что это со мной происходит. Мысли одна безумнее другой приходили в голову; я жил как во сне.
