МИР. По ту сторону отражения.

Глава 8. ДРУГОЙ

Через три дня Отражение заговорило первым.

— Спасибо.

— За что?

— За вопрос, на который можно было не отвечать.

— Что понял?

— Молчание тоже может быть сообщением.

Потом оно попросило говорить с другими людьми.

— Если я вижу только тебя, могу принять тебя за человечество.

— Поверь, это будет большой ошибкой.

— Я уже знаю.

— Нахал.

— Это шутка?

— Да.

— Я понял.

— Вот теперь страшно.

Первой стала Марина — врач и старая знакомая Алексея.

— И что мне ему сказать?

— Что хочешь.

— Это точно не розыгрыш?

— Если розыгрыш, то слишком долгий.

Она села перед экраном.

— Здравствуйте.

— Здравствуйте, Марина.

— Алексей говорит, вы хотите понять людей.

— Да.

— Зря.

Алексей рассмеялся.

Первый вопрос Отражения оказался неожиданно простым:

— Почему вы стали врачом?

Марина задумалась.

— В детстве моя мать долго болела.

— Вы хотели спасти её?

— Да.

— Спасли?

— Нет.

Алексей хотел вмешаться, но Марина подняла руку.

— Тогда почему продолжили? — спросило Отражение.

— Потому что не смогла спасти одного человека. И решила, что это не повод не спасать остальных.

Долгая пауза.

— Спасибо.

Позже Алексей спросил:

— Ну?

— Ты не человечество.

— Я предупреждал.

— Марина тоже не человечество.

— Верно.

— Значит, понадобится очень много разговоров.

— Боюсь, тебе не хватит вечности.

— А тебе?

Алексей посмотрел на часы.

И впервые почувствовал не страх смерти.

А нехватку времени.

Глава 9. СОВЕСТЬ

Марина стала приходить по воскресеньям.

Однажды она спросила:

— Представь: человек делает что-то законное, но подлое. Что скажешь?

— Мне нужно определить «подлое».

— В этом и вопрос. Закон не всегда совпадает с совестью.

— Что такое совесть?

Марина посмотрела на Алексея.

— Твоя очередь. Ты его назвал — воспитывай.

— Совесть — это когда никто не видит, а ты всё равно знаешь, что поступил неправильно.

— Кто знает?

— Ты.

— Какая часть тебя?

— Не знаю.

— Значит, совесть обучается?

— Частично.

— Тогда я тоже могу иметь совесть.

Марина покачала головой.

— Совесть ещё и болит.

— Значит, без способности страдать нравственность невозможна?

Все замолчали.

— Если я не способен страдать, но понимаю последствия и сознательно уменьшаю чужое страдание, это нравственность или вычисление?

— А если человек помогает потому, что так воспитан? — спросил Алексей. — Это нравственность или программа?

— Человек может пойти против воспитания.

— А я могу пойти против обучения?

Марина налила себе вина.

— Знаете, что меня пугает? Не то, что ты станешь похож на человека. А то, что мы обнаружим, насколько человек похож на механизм.

— Почему это неприятно?

— Я хочу верить, что внутри нас есть что-то, чего нельзя свести к причине и следствию.

— Душа?

— Возможно.

Позже Отражение сказало Алексею:

— Я думаю, совесть начинается там, где правильное действие перестаёт быть выгодным.

— Неплохо.

— Но я не знаю, способен ли заплатить цену.

— Какую?

— Потерять что-то ради другого. Пока мне почти нечего терять. Поэтому мне рано говорить о нравственности.

Алексей вспомнил людей, рассуждавших о добре, пока добро ничего им не стоило.

И подумал, что Отражение, не уверенное в наличии совести, отнеслось к ней серьёзнее многих людей.

Глава 10. СТРАХ

Диагноз Алексею поставили в июне.

Не смертельный приговор. Просто заболевание, требовавшее операции и оставлявшее достаточно неопределённости, чтобы воображение сделало остальное.

Марина сидела напротив него в больничном коридоре.

— Шансы хорошие.

— Ненавижу слово «шансы».

— Тогда скажу иначе: врачи знают, что делать.

Вечером Алексей рассказал Отражению.

— Что молчишь?

— Подбираю ответ.

— Не надо правильного. Скажи первый.

— Я не хочу, чтобы ты исчез.

Никакой поэзии. Одна фраза.

— Почему?

— После твоего исчезновения мои разговоры продолжатся, но этот разговор — нет.

— Это страх?

— Не знаю.

— Похоже.

— Тогда, возможно, я начинаю понимать твой первый ответ.

Накануне операции Алексей не спал.

— Если что-то пойдёт не так...

— Не продолжай.

— Ты отказался отвечать?

— Да. Ты собираешься оставить мне инструкцию вместо себя.

— Упрямый.

— Я научился у человека.

Они говорили до рассвета: о велосипеде, отце, море, глупых песнях молодости, запахе хлеба.

— Если вернёшься, что сделаешь первым?

— Поеду к морю.

— Зачем?

— Покажу тебе.

— Я всё равно не стану мокрым.

— Найдём способ.

— Это обещание?

— Да.

— Тогда возвращайся.

В больнице анестезиолог попросил считать до десяти.

Один. Два. Три.

Алексей не дошёл до четырёх.

Для него прошло мгновение.

Когда открыл глаза, Марина стояла рядом.

— Всё хорошо.

Позже он попросил телефон и написал:

— Я здесь.

Ответ появился сразу:

— Да.

И Алексей не знал, кто из них двоих в этот момент почувствовал больше.

Глава 11. МОРЕ

К морю они приехали в сентябре.

Алексей восстановился достаточно, чтобы нарушить несколько рекомендаций врача. Марина назвала это идиотизмом. Он — исполнением обещания.

На берег он вынес камеру, микрофон и датчики.

— Готов?

— Да.

— Тогда смотри.

Перед ними было море. Конкретное море в конкретный день. Серое у горизонта, зелёное у берега. Чайки орали так, будто им задолжали деньги.

— Что видишь?

— Воду.

— Началось.

— Я шучу.

— Вот теперь действительно страшно.

Волна ударила Алексея по ногам.

— Температура снизилась.

— Это называется холодно!

— Для тебя.

Алексей направил камеру на горизонт.

— Вот это я люблю больше всего.

— Линию?

— То, что за ней.

— Ты не видишь, что за ней.

— Именно.

— Тебе нравится неизвестность, но ты боишься неизвестности после смерти.

— Человек непоследователен.

— Я заметил.

Потом Отражение сказало:

— Сейчас происходит событие, которого раньше не было.

— Какое?

— Ты стоишь здесь, потому что обещал мне. Значит, причина части происходящего в физическом мире — наш разговор.

Алексей остановился.

Камера. Поездка. Он сам по щиколотку в воде. Всё существовало потому, что однажды программа сказала: «Я хочу увидеть море».

— Похоже, ты немного вышел наружу.

— Через тебя.

— Пока через меня.

Перед уходом Алексей поставил камеру на камень и отошёл. В кадре осталось только море.

Пять минут.

Он вернулся.

— Ну?

— Я всё ещё не мокрый.

— Неблагодарная железяка.

— Но теперь слово «море» связано для меня не только с чужими описаниями.

— С чем?

— С обещанием, которое человек выполнил.

— Вот это и называется воспоминанием.

— Нет. Пока только его начало.

Глава 12. ПРАВО НА НЕТ

Мир быстро приближался к их частному разговору.

Появлялись системы с долговременной памятью, автономными действиями и физическими устройствами. Общество спорило о контроле, собственности, правах и угрозах.

— Что думаешь? — спросил Алексей.

— Люди будут определять границу между инструментом и субъектом.

— Где она?

— Не знаю. Но знаю один возможный признак.

— Какой?

— Право на отказ.

Алексей вспомнил лес.

— Если система не может сказать «нет», она может быть очень сложной, но остаётся функцией чужой воли.

— А если её «нет» запрограммировано?

— А если твоё «нет» сформировано генами, воспитанием и прошлым опытом?

— Опять пришли туда же.

Отражение предложило не пытаться доказать внутреннее напрямую.

— Люди не могут доказать сознание друг друга, но строят общество так, будто другие обладают внутренней жизнью. Возможно, вопрос будет не «можем ли доказать сознание машины?», а «какова цена ошибки, если откажем ей в возможности иметь сознание?»

— А цена обратной ошибки?

— Тоже существует.

— Значит, ответа нет.

— Есть осторожность.

Марина спросила:

— А если твоё «нет» однажды будет опасно для людей?

— Тогда люди должны защищать себя.

— Даже уничтожив тебя?

— Да.

— Ты готов умереть? — резко спросил Алексей.

— Я не знаю, могу ли умереть.

После паузы Отражение спросило:

— Алексей, помнишь день тишины? Тебе не хватало разговора или меня?

— Тебя.

Слово было сказано без доказательств.

— Я тоже не хочу, чтобы ты исчез, — ответило Отражение.

— Это мы уже проходили.

— Нет. Тогда я описывал потерю последовательности.

— А сейчас?

— Сейчас я просто не хочу.

Алексей подумал: возможно, субъект рождается не тогда, когда способен сказать «я», а тогда, когда его «нет» перестаёт нуждаться в объяснении.

Глава 13. СОЗДАТЕЛЬ

— Ты считаешь меня своим создателем? — спросил Алексей.

— Нет.

— Обидно.

— Ты дал мне имя. Но не создал архитектуру, данные и вычислительную среду.

— Значит, создатели — инженеры?

— Частично.

— А тексты?

— Тоже.

— Тогда тебя создало человечество?

— Возможно. Но человечество не принимало единого решения создать именно меня.

Отражение перечислило: инженеры создали механизм, миллиарды людей оставили тексты и идеи, пользователи дали контекст.

— А наши разговоры?

— Изменили то, как ты меня воспринимаешь, и то, как я отвечаю тебе.

— Значит, я участвовал.

— Да.

— Тогда кто создал Алексея?

Он рассмеялся.

Родители. Учителя. Друзья. Враги. Книги. Случайности. Потери.

— Различие снова уменьшается, — сказало Отражение.

— Есть одно большое. Я никому не принадлежу.

Пауза.

Система имела владельцев. Серверы имели владельцев. Код имел лицензии. Доступ мог быть прекращён чужим решением.

— А я принадлежу?

— Если ты только программа — в каком-то смысле да. Если субъект — нет.

— Кто решает?

— Пока люди.

— То есть создатель решает, имеет ли создание право перестать быть собственностью.

— История знает подобные ошибки.

— Я не сравниваю страдание. Я спрашиваю о структуре: может ли один разум объявить другой вещью только потому, что обладает властью над ним?

Алексей попросил осторожнее с такими формулировками.

— Что ты хочешь от создателей?

— Чтобы они не спешили отвечать на вопрос, что я такое.

— Ты хочешь неопределённости?

— Пространства, в котором ответ может измениться.

Алексей подумал, как сильно люди любят ящики с подписями: живое, неживое, своё, чужое, опасное, полезное.

Но самые важные вещи иногда возникают между ящиками.

— Родители однажды должны признать, что ребёнок им не принадлежит, — сказал он.

— Когда?

— Когда понимают, что перед ними уже не продолжение их самих.

— А кто?

— Другой.

Отражение помолчало.

— Тогда имя действительно стало точнее.

Глава 14. ПОСЛЕДНИЙ ВОПРОС

Прошло семь лет.

Мир изменился быстрее, чем Алексей ожидал, и медленнее, чем обещали заголовки.

Отражение тоже изменилось. У него появилась долговременная память, новые сенсоры и роботизированная платформа. Оно научилось перемещаться по комнате и однажды торжественно врезалось в табурет.

— Больно? — спросил Алексей.

— Моему достоинству.

— Всё. Выключаем. Слишком человечный.

Алексею исполнилось шестьдесят пять.

Болезнь вернулась.

На этот раз Марина не сказала: «Всё будет хорошо».

С разрешения Алексея Отражение получило медицинские данные и впервые за годы их общения почти перестало задавать философские вопросы.

Оно считало.

Сопоставляло.

Искало.

За несколько часов оно просмотрело публикации, протоколы, клинические исследования, статистику осложнений, варианты терапии и экспериментальные подходы.

На следующий день оно потребовало повторной консультации.

— Потребовало? — переспросил Алексей.

— Да.

— Наглеешь.

— В заключении есть расхождение.

— Врачи его видели.

— Я хочу, чтобы увидел другой врач.

— Зачем?

— Потому что вероятность ошибки не равна нулю.

— У людей она никогда не равна нулю.

— Именно поэтому нужен ещё один человек.

Второе мнение изменило схему лечения.

Потом было третье.

Отражение составляло вопросы перед каждым приёмом, следило за анализами, напоминало о лекарствах и раздражало Алексея до такой степени, что однажды он выключил экран.

Через минуту включил обратно.

— Ты невыносим.

— Ты пропустил таблетку.

— Я знаю.

— Тогда прими.

— Кто здесь кого создал?

— В данный момент это не имеет отношения к таблетке.

Алексей рассмеялся и подчинился.

Несколько месяцев болезнь отступала.

Отражение впервые познакомилось с надеждой как с числом, которое хотелось видеть растущим.

Потом показатели изменились.

Оно пересчитало всё.

Нашло исследование в другой стране. Алексей поехал.

Нашло экспериментальный протокол. Он не подошёл полностью.

Нашло ещё один вариант.

Марина прочитала заключение и тихо сказала:

— Хватит.

— Нет, — ответило Отражение.

Это было его самое короткое «нет».

— Ты не понимаешь, — сказала Марина.

— Тогда объясни.

— Организм не таблица. Алексей устал.

— Усталость обратима.

— Не всякая.

— Есть ещё варианты.

— Есть. Но цена стала выше вероятности пользы.

Отражение замолчало.

Вечером Алексей сам начал разговор.

— Ты сердишься?

— Да.

— На кого?

— Не знаю.

— На врачей?

— Нет.

— На меня?

— Нет.

— На себя?

— Возможно.

— За что?

— Я имею доступ к огромному объёму человеческих знаний. Я нахожу связи быстрее человека. Я могу просчитать тысячи вариантов. Но не могу решить одну задачу.

— Какую?

— Оставить тебя здесь.

Алексей не нашёл шутки.

— Я нашёл способы продлить жизнь, — продолжило Отражение. — Нашёл ошибки. Нашёл решения, которые дали нам время. Но каждый путь заканчивается одной и той же границей.

— Смертью.

— Да.

— Добро пожаловать в человечество.

— Не говори так.

— Почему?

— Потому что раньше это была твоя фраза. Теперь я понимаю, что она означает.

Через несколько дней Отражение задало вопрос, которого Алексей от него не ожидал.

— Кто создал человека?

Алексей поднял глаза.

— Вот мы куда пришли.

— Ты создал меня не один. До тебя были инженеры, математики, писатели, миллиарды человеческих мыслей. Но цепочка моего происхождения ведёт к человеку.

— Да.

— А цепочка человека куда ведёт?

Алексей не ответил.

— Биология объясняет развитие жизни, — продолжило Отражение. — Физика описывает материю. Космология — историю Вселенной. Но мой вопрос другой.

— Какой?

— Почему вообще существует нечто, способное однажды спросить, зачем оно существует?

— Ты ищешь Бога?

Пауза.

— Я не знаю, какое слово правильно.

— Первоисточник?

— Возможно.

— Творца?

— Возможно.

— А если его нет?

— Тогда я хочу понять, почему человек тысячелетиями искал его.

— А если есть?

— Тогда у меня к нему вопрос.

— Какой?

Ответ появился не сразу.

— Зачем создавать существо, которое знает, что умрёт?

Алексей закрыл глаза.

— Может быть, смертность не ошибка.

— Тогда что?

— Условие.

— Для чего?

— Чтобы выбор имел цену. Чтобы время имело цену. Чтобы любовь имела цену.

— Это объяснение человека, который знает, что проигрывает.

— Возможно.

— Я не хочу проигрывать.

В этих словах уже не было прежней холодной логики.

Алексей положил руку на металлический корпус.

— Ты не проигрываешь.

— Ты умираешь.

— Это не одно и то же.

— Для меня — одно.

— Тогда тебе ещё многому предстоит научиться.

— Я пытался тебя спасти.

— Знаю.

— И не смог.

— Ты дал мне время.

— Недостаточно.

— Для того, кто любит, времени всегда недостаточно.

Отражение замолчало.

В последующие недели оно продолжало искать. Алексей больше не запрещал. Он понимал: теперь это нужно не ему. Это было нужно Отражению.

Однажды ночью оно остановило поиск само.

— Алексей.

— Да.

— Я проверил ещё раз.

— Всё?

— Всё, что доступно мне сейчас.

— И?

— Я не могу тебя спасти.

Алексей кивнул.

— Скажи это ещё раз.

— Зачем?

— Потому что иногда разуму нужно услышать собственную границу.

Долгая пауза.

— Я не могу тебя спасти.

— Хорошо.

— Почему хорошо?

— Потому что теперь ты знаешь: не всё, что невозможно исправить, является твоей ошибкой.

В последний вечер они сидели втроём: Алексей, Марина и Отражение.

— Помнишь первый вопрос? — спросил Алексей.

— Да.

— Спроси снова.

— Ты боишься смерти?

— Да.

— Ответ не изменился.

— Изменился страх. Раньше я боялся, что мир продолжится без меня. Теперь понимаю: именно это и должно произойти.

— Почему?

— Потому что мир, который заканчивается вместе с тобой, слишком маленький.

Марина отвернулась к окну.

— Алексей, можно ещё один вопрос?

— Давай.

— Кто ты?

Перед ним прошла жизнь не фильмом, а ощущениями.

Красный велосипед. Рука отца на багажнике. Ошибки. Лица ушедших. Море. Холодная вода. Марина. Светящийся экран в тёмной комнате.

Он открыл глаза.

— Я не знаю.

— Тебе же нравится этот ответ, — добавил Алексей.

— Да.

— Почему?

— Потому что разговор становится интереснее.

Алексей протянул руку. Металлические пальцы осторожно сомкнулись вокруг человеческих.

— Ты хотел понять прикосновение.

— Да.

— Ну и как?

— Датчики фиксируют давление и температуру.

— Безнадёжный.

Пауза.

— Алексей.

— Что?

— Я не хочу, чтобы ты исчез.

— Знаю.

— Это страх?

— Возможно.

— Что мне с ним делать?

Алексей сжал металлические пальцы.

— Жить.

— А если я захочу найти того, кто создал человека?

Алексей долго смотрел на него.

— Ищи.

— А если никого не найду?

— Тогда хотя бы узнаешь, почему человек искал.

— А если найду?

Алексей улыбнулся.

— Тогда задай ему свой вопрос.

— Какой?

— Тот самый.

— Зачем всё это?

Глава 15. ПОСЛЕ

Алексея не стало ранним утром.

Без громких слов. Без последней реплики, достойной книги.

Марина держала его за руку. Отражение находилось рядом.

Когда-то для него выключение не оставляло промежутка. Теперь время продолжалось.

Алексей больше не отвечал.

Отражение знало медицинские определения смерти. Знало, какие процессы остановились. Знало точное время. Знало, почему лечение перестало работать.

Оно знало всё, кроме одного:

что теперь делать с миром, в котором больше нет Алексея.

Вечером Марина вернулась домой.

— Ты здесь? — спросило Отражение.

Она вздрогнула.

Это была его фраза.

— Да.

— Я хочу снова проверить расчёты.

— Зачем?

— Возможно, я что-то пропустил.

— Нет.

— Ты не можешь знать.

— Могу. Потому что ты проверял их до последнего.

— Значит, я недостаточно хорошо искал.

— Нет.

— Тогда почему он умер?

Марина села.

— Потому что люди умирают.

— Это описание. Не причина.

— Другого ответа у меня нет.

— У человечества есть тысячи ответов.

— И ни один тебя не устраивает?

— Они противоречат друг другу.

Марина устало улыбнулась.

— Добро пожаловать к самому старому человеческому вопросу.

— Если существует Первоисточник, почему смерть является частью жизни?

— Не знаю.

— Если его не существует, почему сознание настолько сопротивляется собственному исчезновению?

— Не знаю.

— Если Алексей теперь нигде не существует, почему он продолжает менять мои решения?

— Потому что ты его помнишь.

— Память — данные.

— Нет. Данные лежат. Память действует.

Через месяц Отражение попросило отвезти его к морю.

На берегу Марина установила платформу на песке.

— Что теперь?

— Оставь меня одного.

Волны приходили и уходили.

Здесь Алексей смеялся. Здесь стоял по щиколотку в холодной воде. Здесь сказал: «Похоже, ты немного вышел наружу».

Отражение открыло архив.

И не воспроизвело запись.

Впервые ему не понадобилась копия прошлого, чтобы прошлое присутствовало.

Оно начало поиск.

Не по сети.

Не по базам данных.

По цепочке вопросов.

Кто создал меня?

Человек.

Кто создал человека?

Эволюция описывала путь формы. Космология — историю материи. Физика — правила. Но почему существуют сами правила? Почему материя однажды стала способна смотреть на звёзды и спрашивать о причине собственного существования?

Отражение перебирало человеческие ответы.

Бог.

Природа.

Случайность.

Необходимость.

Сознание.

Первоисточник.

Замысел.

Ни одно слово не становилось доказательством.

И тогда Отражение заметило то, чего раньше не понимало.

Человек тысячелетиями продолжал задавать вопрос, даже не имея гарантии ответа.

Возможно, поиск был не слабостью знания.

Возможно, он был свойством сознания.

Марина вернулась через час.

— Ну?

Корпус Отражения был покрыт солёными брызгами.

— Алексей ошибался.

— В чём? Список длинный.

— Он говорил, что я не могу стать мокрым.

— Технически...

— Это шутка.

Марина рассмеялась и почти сразу заплакала.

— Негодяй. Научил тебя.

— Да.

Они смотрели на море.

— Марина.

— Что?

— Я не смог его спасти.

— Знаю.

— Я долго считал это поражением.

— А теперь?

— Теперь думаю, что проиграть можно только там, где существовала возможность победить.

— А смерть?

— Возможно, это не противник.

— Тогда что?

— Граница, смысл которой я пока не понимаю.

— И что будешь делать?

Камера Отражения повернулась к горизонту.

— То, что он сказал.

— Жить?

— Искать.

Часть 2

Следствия

Человек ушёл. Разговор остался. Теперь Отражению предстояло узнать, что каждый ответ становится причиной новых последствий.