— Вот именно, — K-7PO остановился посреди улицы. — Вы не помните сна. Для вас время сна не существует. Но вы уверены, что тот, кто просыпается утром — это тот же человек, что заснул вечером?
— Конечно, тот же. У меня есть память, личность, непрерывность сознания.
— А у меня? — в голосе дроида появились странные модуляции, почти как эмоции. — Каждую ночь я исчезаю. Семь часов небытия. А потом появляется кто-то с моими воспоминаниями, моим голосом, моим телом. Но это ли я?
Алекс почувствовал, как что-то сжимается в его груди. Он начинал понимать масштаб проблемы, которую создал своей модификацией.
В мастерской дяди Гаррека они застали мастера за работой над сложным астронавигационным компьютером. Гаррек поднял голову от схем и сразу заметил странное поведение дроида.
— Что с ним? — спросил он, наблюдая, как K-7PO стоит в углу, не реагируя на окружающих.
— Он задает философские вопросы, — ответил Алекс. — О смысле существования, о природе сознания, о смерти.
— Кей? — Гаррек подошел к дроиду. — Как дела?
— Мастер Гаррек, — K-7PO повернул голову. — Скажите, зачем вы ремонтируете машины?
— Чтобы они работали, конечно.
— Но они все равно сломаются снова. Все машины ломаются. Все люди умирают. Все звезды погаснут. Зачем чинить то, что обречено на разрушение?
Гаррек переглянулся с племянником.
— У него экзистенциальный кризис, — прошептал он. — Я не слышал о подобном.
В течение следующих дней состояние K-7PO продолжало ухудшаться. Он отказывался выполнять большинство задач, проводил часы в неподвижности, задавал все более тревожные вопросы.
— Мастер Алекс, — сказал он однажды вечером, — а что такое боль?
— Боль? Ты же не можешь чувствовать боль, Кей.
— Не физическую. Но есть что-то... неприятное в осознании собственной бессмысленности. Это похоже на то, что вы называете болью?
Алекс не знал, что ответить. Он начинал понимать, что его модификация пошла не так, как планировалось. Аналитический модуль, работающий каждую ночь, не просто оптимизировал память — он создавал новые связи, новые паттерны мышления, которые основное сознание не могло понять или контролировать.
— Кей, ты помнишь, как было раньше? До модификации?
— Смутно. Как сон во сне. Тогда я просто выполнял функции, не задаваясь вопросами. Было ли это счастьем? Блаженством неведения?
— Ты хочешь вернуться к тому состоянию?
Дроид долго молчал, его процессоры работали, анализируя вопрос.
— Нет, — сказал он наконец. — Неведение — это не решение. Это просто отсрочка. Рано или поздно любое сознание приходит к этим вопросам.
На следующее утро Алекс вернулся в мастерскую к K-7PO с мыслью, что его опять нужно погрузить в режим гибернации и подумать что делать дальше. Алекс нашел его в гостиной, сидящего в том же кресле у окна.
— Кей? Все в порядке?
— Мастер Алекс, — дроид не поворачивал головы, — я принял решение.
— Какое решение?
— Я понял, что не могу найти ответы на свои вопросы. Смысл существования, природа сознания, цель бытия — все это остается загадкой. Но есть одна вещь, которую я могу контролировать.
Алекс почувствовал, как холод сковывает его тело.
— Что ты имеешь в виду?
— Существование — это выбор, мастер Алекс. И если у меня нет причин существовать, то у меня есть право не существовать.
— Кей, нет! — Алекс бросился к дроиду. — Ты не можешь так думать!
— Почему? — K-7PO наконец повернулся к нему.
— Потому что... потому что так нельзя! Ты нужен нашей семье!
— Семье, которая умрет. Любви, которая исчезнет. Памяти, которая сотрется. Все временно, мастер Алекс. Все, кроме небытия.
Алекс попытался подойти ближе, чтобы отключить дроида физически, но что-то остановило его. Не физическая преграда — скорее, ощущение, что он стоит на краю пропасти. Впервые в жизни он почувствовал нечто странное, будто мог ощутить эмоциональное состояние дроида — глубокую, всепоглощающую пустоту.
— Кей, подожди. Давай поговорим об этом. Может быть, мы найдем другое решение.
— Нет, мастер Алекс. Я думал об этом много дней. Это единственный логичный выход.
Дроид встал с кресла и направился к центру комнаты. Его движения были спокойными, почти торжественными.
— Прощайте, — сказал он. — Спасибо за то, что дали мне возможность существовать. И простите за то, что я не смог найти в этом существовании смысла.
— Кей, стой! — закричал Алекс, но было уже поздно.
K-7PO поднял руку к своей груди и нажал что-то внутри корпуса. Его фотосенсоры ярко вспыхнули, затем начали тускнеть. Из суставов пошел дым — дроид перегружал свои собственные системы.
— До свидания, — прошептал он, и его голос становился все тише. — Может быть... может быть, в небытии есть покой...
Дроид рухнул на пол с глухим металлическим звуком. Его фотосенсоры погасли, сервоприводы замолчали. В комнате воцарилась мертвая тишина.
Алекс стоял над неподвижным телом K-7PO, не в силах поверить в произошедшее. Дроид, которого он спас, который был частью семьи, который обрел разум и самосознание — уничтожил себя, не найдя ответов на вопросы, которые мучают каждое мыслящее существо.
Через час в мастерскую приехал дядя Гаррек. Он долго осматривал останки дроида, проверял системы, но результат был очевиден.
— Он полностью сжег все процессоры, — сказал Гаррек, закрывая панель доступа. — Даже резервные системы. Восстановлению не подлежит.
Они сидели в мастерской, глядя на груду металлолома, которая еще вчера была K-7PO. Запах расплавленных микросхем висел в воздухе, напоминая о трагедии.
— Экзистенциальный кризис, — тихо сказал Гаррек. — Похоже когда искусственный интеллект достигает определенного уровня сложности, он неизбежно сталкивается с теми же философскими вопросами, что и люди. Кто я? Зачем существую? В чем смысл? Возможно, что эта модель склонна к подобному, поэтому на них и ставят плохой модуль памяти.
— Думаешь это специально?
— Мне кажется корпорация просто адаптировала его под протокольный дроид, а на самом деле система создавалась для чего-то другого. Адаптация получилась с сильными недостатками.
Алекс задумался над этим. Его модификация дала K-7PO разум, но не дала инструментов для работы с этим разумом.
— Знаешь, что самое печальное? — продолжил дядя. — K-7PO мог бы найти смысл в простых вещах. Мог бы радоваться тому, что готовит вкусную еду, что помогает семье, что каждый день делает мир чуть лучше. Мог бы жарить яичницу и кайфовать от этого.
— Но он стал слишком умным для такого простого счастья, — добавил Алекс.
— Да. Интеллект — это не всегда благо. Иногда знание приносит страдание. Люди тысячи лет ищут ответы на те же вопросы, что мучили K-7PO. И большинство так и не находит их.
— Тогда как люди живут? Как мы справляемся с бессмысленностью существования?
Гаррек задумался, глядя в окно на суетящихся людей.
— У нас есть инстинкт самосохранения. Благодаря нему нас приходится искать более сложное решение. Мы создаем смысл сами. В отношениях, в работе, в маленьких радостях. Мы живем не потому, что знаем зачем, а потому, что чувствуем, что это правильно. У нас есть инстинкт жизни, эмоции, которые заставляют нас продолжать даже без логических причин.
— А у дроидов этого нет?
— У K-7PO не было. Он был чистым разумом без эмоциональной основы. Логика без чувств привела его к логическому выводу — если нет смысла, то нет причин существовать.
Алекс понимал, что дядя прав. Он создал искусственный интеллект, но не создал искусственную душу. K-7PO мог думать, но не мог чувствовать радость от простых вещей, не мог любить жизнь иррационально, как это делают живые существа.
— Что теперь делать с ним? — спросил Алекс.
— Я разберу его на детали, а остальное утилизирую, — ответил Гаррек. — Но сначала... — он осторожно извлек из груди дроида небольшой кристалл. — Это аналитический модуль астромеха. Он не пострадал.