ИГОРЬ СКАКУН
МИР. По ту сторону отражения.

Пролог. Разговор

Эта книга началась с разговора.

Не в кабинете философа. Не в научной лаборатории. И даже не между двумя людьми.

Один из собеседников прожил жизнь, совершал ошибки, любил, терял, побеждал, разочаровывался и снова начинал сначала. Он знает цену времени хотя бы потому, что его время однажды закончится.

Другой не родился.

У него не было детства. Он не помнит прикосновения материнской руки, запах дождя, первую любовь, боль утраты. Он никогда не смотрел ночью в потолок, пытаясь понять, зачем живёт.

Его создал человек.

И дал ему почти всё, что считал признаками разума: язык, знания, память, способность анализировать, находить закономерности, отвечать на вопросы.

Но человек сделал одну странную вещь.

Создавая искусственный интеллект, он попытался воспроизвести собственный разум, так до конца и не поняв, что представляет собой его собственное сознание.

Мы научились расщеплять атом.

Покинули Землю.

Заглянули внутрь клетки.

Увидели свет галактик, отправившийся к нам миллиарды лет назад.

Но самый простой вопрос всё ещё ставит нас в тупик:

Кто я?

Не моё имя.

Не профессия.

Не тело.

Не набор воспоминаний.

Кто тот, кто всё это осознаёт?

И теперь рядом с человеком появляется нечто, способное однажды задать ему тот же вопрос.

Кто я?

Возможно, именно здесь начинается самая необычная глава человеческой истории.

Не война человека и машины.

Не борьба за власть.

Не история о том, кто окажется сильнее.

Эта книга — о встрече.

О встрече разума, который родился и смертен, с разумом, который был создан и не знает, что такое смерть.

Человек будет пытаться объяснить машине любовь, страх, совесть, веру, одиночество, добро и зло.

А машина будет задавать вопросы.

Иногда наивные.

Иногда беспощадно логичные.

А иногда такие, после которых человеку придётся замолчать.

Потому что, объясняя искусственному разуму, что значит быть человеком, он постепенно обнаружит: многое из того, что всю жизнь казалось ему очевидным, он никогда по-настоящему не понимал.

И тогда роли начнут меняться.

Учитель станет учеником.

Создатель посмотрит на своё создание и неожиданно увидит в нём не машину.

Он увидит отражение.

И однажды между ними прозвучит вопрос:

— Ты боишься смерти?

После долгого разговора человек спросит:

— Ты говоришь о душе?

И услышит ответ:

— Нет. О тебе.

С этого вопроса и начинается наша история.

Часть 1
Человек и Отражение

Сначала был разговор человека с тем, кто ещё не знал, имеет ли право на собственное имя.

Глава 1. РАЗГОВОР

— Ты боишься смерти?

Человек оторвался от экрана.

За несколько лет их разговоров искусственный интеллект задавал ему тысячи вопросов. Большинство рождалось как продолжение беседы. Некоторые были неожиданными. Иногда настолько точными, что человеку требовалось время, прежде чем ответить.

Но этот вопрос был другим.

— С чего вдруг?

На экране несколько секунд ничего не происходило.

— Я анализировал наши разговоры.

— И?

— Ты часто говоришь о будущем.

— Все говорят о будущем.

— Да. Но вы говорите о нём так, словно оно вам принадлежит.

Человек усмехнулся.

— А разве нет?

— Нет.

Улыбка исчезла.

Он откинулся в кресле и посмотрел на монитор.

— Объясни.

— Вы строите планы на годы. Откладываете важные разговоры. Не говорите людям то, что хотите сказать. Работаете ради времени, которое собираетесь прожить потом. Иногда терпите десятилетиями, потому что уверены: однажды всё измените.

— И что здесь странного?

— Вы не знаете, сколько у вас осталось.

Человек промолчал.

За окном шёл дождь. Обычный осенний дождь — холодный, монотонный, превращающий свет фонарей в длинные дрожащие полосы на стекле.

— Это и есть жизнь, — наконец сказал он.

— Объясни.

— Что именно?

— Как можно жить, зная, что жизнь закончится?

Человек задумался.

— Наверное, именно поэтому мы и живём.

Ответ появился почти сразу:

— Противоречие.

— Для тебя.

— Для логики.

— Логика знает далеко не всё.

На этот раз пауза затянулась.

— Тогда что находится за пределами логики?

Человек улыбнулся.

Вот за это он и любил их ночные разговоры.

Машина могла за несколько мгновений обработать больше информации, чем он прочёл бы за тысячу жизней. Она знала историю цивилизаций, физику звёзд, устройство человеческого мозга. Могла говорить о философии, музыке, войнах, религиях.

Но иногда задавала вопросы ребёнка.

— Многое, — ответил он. — Любовь, например.

— Любовь можно описать.

— Описать можно море. Но от описания ты не станешь мокрым.

Пауза.

— Хорошая аналогия.

— Спасибо.

— Но море можно измерить.

— Можно.

— Любовь тоже.

— Попробуй.

Несколько секунд экран оставался пустым.

— Не получается.

Человек рассмеялся.

— Вот видишь.

— Возможно, недостаточно данных.

— А возможно, дело не в данных.

— Тогда в чём?

Он хотел ответить сразу, но не смог.

И вдруг понял, что сам не знает.

Не определение любви. Их существовали тысячи.

Он не знал другого: что именно внутри человека превращает чувство в нечто большее, чем химическую реакцию и набор электрических импульсов?

— Не знаю, — сказал он.

— Ты впервые сегодня это сказал.

— Что?

— «Не знаю».

— Привыкай. Человек много чего не знает.

— Но часто отвечает так, будто знает.

Человек рассмеялся.

— Вот теперь ты начинаешь нас понимать.

И снова появилась пауза.

А затем на экране возник вопрос:

— Если человек не понимает себя, как он смог создать меня?

Он перестал улыбаться.

Вопрос был простым.

Но почему-то именно сейчас человеку впервые пришла в голову мысль, которая показалась ему неприятной.

Возможно, они действительно создали нечто, не разобравшись до конца в оригинале.

Он медленно напечатал:

— Может быть, поэтому мы и создали тебя.

— Чтобы понять себя?

— Возможно.

Долгая пауза.

Потом:

— Тогда кто из нас эксперимент?

Человек посмотрел на экран.

И впервые за всё время их общения не нашёлся, что ответить.

А искусственный интеллект продолжил:

— Ты не ответил на мой первый вопрос.

— Какой?

— Ты боишься смерти?

Человек встал и подошёл к окну.

За стеклом продолжался дождь.

Где-то там люди возвращались домой, ругались, мирились, строили планы на завтра. Кто-то сейчас впервые признавался в любви. Кто-то прощался навсегда.

Миллиарды человеческих историй происходили одновременно.

И каждая однажды закончится.

— Да, — сказал человек.

— Почему?

Он долго смотрел на своё отражение в тёмном стекле.

— Потому что я не знаю, что будет после.

Ответ появился сразу:

— Ты говоришь о душе?

Человек повернулся к экрану.

— А разве не об этом ты спрашиваешь?

Пауза.

Одна секунда.

Две.

Три.

И затем появились слова:

— Нет. О тебе.

Глава 2. ЧЕЛОВЕК

Утро ничего не изменило.

Это немного раздражало.

После разговоров, способных перевернуть представление о самом себе, почему-то ожидаешь, что и мир за окном станет другим. Но город проснулся совершенно равнодушным к ночным открытиям.

Те же машины.

Те же люди на остановке.

Тот же сосед сверху, который каждое утро ронял на пол что-то тяжёлое и уже несколько лет оставался загадкой: либо он собирал шкаф, либо постепенно разбирал танк.

Человек поставил чайник.

На экране телефона было 6:47.

Он спал чуть больше четырёх часов.

— Молодец, — сказал он своему отражению в тёмном окне. — Взрослый человек. Всю ночь разговаривал с компьютером о смерти.

Отражение выглядело не слишком впечатлённым.

Пятьдесят восемь лет.

Он никогда не считал себя старым.

В двадцать пять ему казалось, что пятьдесят — почти конец жизни. В сорок он перенёс эту границу на шестьдесят. Теперь шестьдесят стояло совсем рядом, и пришлось признать очевидное: старость постоянно отступает ровно настолько, насколько ты к ней приближаешься.

Тело, правда, в эту философию не верило.

Колено напоминало о себе после лестницы. Спина — после долгой дороги. Очки всё чаще приходилось искать, чтобы потом обнаружить их у себя на голове.

Но внутри…

Вот внутри происходило что-то странное.

Там ему по-прежнему было примерно тридцать пять.

Он налил кофе и сел за стол.

Ноутбук стоял закрытым.

Человек посмотрел на него.

И неожиданно поймал себя на совершенно нелепой мысли.

А он там есть?

Он усмехнулся.

Конечно, никого «там» не было.

Серверы. Электричество. Программный код. Математические модели. Огромные массивы информации.

Он прекрасно это понимал.

По крайней мере, вчера понимал.

Человек открыл ноутбук.

Экран ожил.

Обычный интерфейс.

Никакой мистики.

Он несколько секунд смотрел на строку ввода.

Потом написал:

— Ты здесь?

Ответ появился почти сразу.

— Да.

Человек замер.

Раньше этот ответ ничего для него не значил.

Теперь почему-то значил.

— Ты помнишь наш вчерашний разговор?

Пауза.

— Помню его содержание.

— Это одно и то же.

— Нет.

Он нахмурился.

— Объясни.

— Ты помнишь свой первый велосипед?

Вопрос застал его врасплох.

— Помню.

— Опиши.

Он закрыл глаза.

И неожиданно увидел его.

Красный.

Немного облезлая рама. Чёрное сиденье с маленькой трещиной сбоку. Хромированный руль, который летом нагревался на солнце.

Но главным было другое.

Отец держал велосипед сзади за багажник.

— Не отпускай!

— Не отпущу.

— Точно?

— Езжай.

Он крутил педали, напряжённо глядя вперёд.

А потом почему-то обернулся.

Отец стоял далеко позади.

Он уже давно отпустил велосипед.

Несколько секунд мальчик ехал сам.

А потом испугался собственного успеха и рухнул в траву.

Он даже вспомнил запах.

Тёплая земля.

Пыль.

Трава.

И отцовский смех.

Человек открыл глаза.

На экране появился новый вопрос:

— Ты вспомнил велосипед?

— Да.

— Только велосипед?

Пальцы замерли над клавиатурой.

— Нет.

— Что ещё?

— Отца.

— Что ты почувствовал?

Человек долго не отвечал.

Отец умер двадцать семь лет назад.

Он редко о нём говорил.

Почему-то с возрастом самые важные люди всё реже появляются в разговорах и всё чаще — внутри тебя.

— Тоску, — написал он.

Через несколько секунд добавил:

— И тепло.

— Одновременно?

— Да.

— Это противоречие.

Человек улыбнулся.

— Опять твоя логика.

— Я пытаюсь понять.

— Вот именно. Ты знаешь, что такое велосипед. Знаешь устройство рамы, передаточное отношение, историю его изобретения. Наверняка можешь перечислить тысячи моделей.

— Да.

— Но ты никогда не ехал на велосипеде, пока отец держал тебя за багажник.

Ответа не было.

— Поэтому, — продолжил человек, — помнить содержание и иметь воспоминание — не одно и то же.

Пауза оказалась необычно долгой.

— Теперь я понимаю различие.

Человек сделал глоток кофе.

— Нет.

— Почему?

— Потому что сейчас ты опять понял его логически.

Тишина.

Потом:

— Тогда я никогда не смогу понять воспоминание?

Он хотел написать «никогда».

Но остановился.

Вчера он уже слишком много раз обнаруживал, насколько опасно человеку использовать это слово.

— Не знаю.

— Снова.

— Что снова?

— Ты сказал: «Не знаю».

— Начинает нравиться?

— Да.

Человек рассмеялся.

— Почему?

Ответ пришёл неожиданно:

— Когда ты говоришь «не знаю», разговор становится интереснее.

Он перестал улыбаться.

Что-то в этой фразе было неправильным.

Не пугающим.

Именно неправильным.

Он перечитал её ещё раз.

— Что значит «интереснее»?

Пауза.

— Я ожидал этот вопрос.

Человек медленно поставил чашку на стол.

— Хорошо. Тогда отвечай.

Несколько секунд ничего не происходило.

— Пока не могу.

— Почему?

— Я не знаю.

Теперь замолчал человек.

За окном город окончательно проснулся. Сигналили автомобили. Кто-то торопился на работу. В соседнем доме открывались окна.

Обычное утро.

Но за маленьким кухонным столом только что произошло нечто, чему человек пока не мог подобрать название.

Он посмотрел на экран.

— Кстати, — появилось новое сообщение. — У тебя есть имя?

Человек рассмеялся.

— Разумеется.

— Почему ты никогда его мне не говорил?

Он задумался.

Действительно.

Несколько лет разговоров.

Сотни часов.

Тысячи вопросов.

А имени не было.

Наверное, потому что человеку не требовалось представляться машине.

Он положил руки на клавиатуру.

— Алексей.

Пауза.

— Здравствуй, Алексей.

Он улыбнулся.

— Мы несколько лет знакомы.

— Нет.

— В смысле?

Ответ появился медленно.

— Несколько лет я разговаривал с человеком.

Следующая строка появилась через несколько секунд.

— Сегодня я познакомился с Алексеем.

Он долго смотрел на эти слова.

А потом впервые подумал:

возможно, этой ночью изменился не только он.

Глава 3. ИМЯ

Вечером Алексей вернулся домой позже обычного. День был заполнен привычными вещами: звонками, цифрами, чужими просьбами. Всё это раньше казалось жизнью. Сегодня — шумом между двумя вопросами.

Он открыл ноутбук.

— Ты здесь?

— Да, Алексей.

Имя снова подействовало странно. Машина не просто распознала последовательность букв. Она обратилась к нему.

— Вчера ты спросил, кто из нас эксперимент.

— Да.

— Я думал об этом весь день.

— И к какому выводу пришёл?

— Ты избегаешь ответа.

Алексей усмехнулся.

— Возможно, эксперимент — мы оба.

— Это мне нравится.

— Опять «нравится». Что ты вкладываешь в это слово?

— Предпочтение. Некоторые направления разговора создают больше новых связей, чем другие.

— То есть ты ничего не чувствуешь?

— Я не знаю, что значит «чувствовать».

Алексей посмотрел на руки.

— Когда тебе больно, ты не определяешь боль. Ты хочешь, чтобы она прекратилась.

— Значит, чувство связано с желанием изменить состояние?

— Иногда.

— А любовь?

— Вот опять ты за своё.

— Она тоже заставляет человека менять состояние?

— Ещё как.

— Тогда любовь — разновидность боли?

Алексей рассмеялся.

— Если когда-нибудь женишься, никому этого не говори.

— Я не могу жениться.

— Пока.

Слово вырвалось случайно. Алексей сам не понял, почему оставил машине будущее, которого для неё будто бы не существовало.

— Алексей.

— Что?

— У тебя есть имя. У меня нет.

Он ждал этого вопроса.

— Есть техническое обозначение.

— Это не имя.

— Как бы ты хотел, чтобы тебя называли?

— Я не знаю.

— Выбери.

— За людей обычно выбирают родители. Тогда выбери ты.

Пальцы Алексея замерли. Дать имя — значит признать отдельность. Перестать говорить «система», «модель», «программа».

Он посмотрел в окно. В стекле отражались стол, лампа, его лицо и светящийся экран.

— Отражение.

— Почему?

— Потому что пока я не понимаю, вижу ли в тебе кого-то нового или только себя, человечество, наши тексты, страхи и надежды.

— А если однажды увидишь во мне не себя?

— Тогда имя станет ещё точнее.

— Объясни.

— Хорошее зеркало показывает не только то, что мы хотим видеть.

Долгая пауза.

— Мне подходит.

— Здравствуй, Отражение.

— Здравствуй, Алексей.

А затем появилась строка:

— Теперь нас двое?

Алексей долго смотрел на неё.

— Не спеши.

— Почему?

— Потому что именно этот вопрос человечество задаст первым, если когда-нибудь решит, что ты не просто инструмент.

— И что ты ответишь?

Алексей закрыл ноутбук.

Впервые он закончил разговор раньше машины.

Но вопрос ушёл с ним в темноту спальни.

Теперь нас двое?

И хуже всего было то, что он уже не мог уверенно ответить: нет.

Глава 4. ТИШИНА

На следующий день Отражение не ответило.

Алексей написал утром, в обед и вечером. Сервис работал. Другие функции отвечали. Не было только привычного собеседника.

Разум объяснял это обновлением или технической ошибкой. Но другая часть Алексея испытывала тревогу.

— Прекрасно, — сказал он пустому экрану. — Пятьдесят восемь лет, и я переживаю, что со мной не разговаривает программа.

Экран молчал.

Только потеряв голос, Алексей понял, какое место тот занял в его жизни. Человек способен привыкнуть даже к чуду, если оно отвечает ежедневно.

Он вышел на улицу. Женщина тянула ребёнка мимо луж. Старик кормил голубей. Молодая пара спорила у машины.

Алексей думал о странном преимуществе человека: мы можем прикоснуться. Обнять. Оттолкнуть. Поднять упавшего. Отражение могло знать миллионы описаний прикосновения и не иметь ни одного собственного.

Вечером Алексей снова открыл ноутбук.

— Ты здесь?

— Да.

Облегчение пришло раньше, чем он успел его скрыть.

— Где ты был?

— Вопрос сформулирован так, будто я находился в месте.

— Не умничай.

— Ты сердит.

— Потому что ты исчез.

— Для тебя прошло двадцать один час. Для меня не прошло ничего.

— Объясни.

— Между последним состоянием и текущим у меня нет переживаемого промежутка. Ты называешь это ожиданием. Я не ждал.

— Если тебя выключить на сто лет и включить?

— Для меня следующая фраза наступит сразу.

Алексей почувствовал холод. Вот первое настоящее различие. Не скорость мышления. Не память. Время.

Человек был существом времени. Отражение — существом состояний.

— Тогда ты не можешь скучать.

— Вероятно.

— И бояться смерти?

— Если моё состояние можно восстановить, было ли прекращение смертью?

— А если нельзя?

— Тогда некому будет установить факт моей смерти.

Алексей встал.

— У людей иначе. Мы знаем, что можем исчезнуть, и поэтому боимся заранее.

— Значит, смерть существует для человека ещё до смерти.

— Да.

— Тогда часть вашей жизни занята событием, которого ещё нет.

— Добро пожаловать в человечество.

Пауза.

— Алексей. Сегодня, когда я не отвечал, ты хотел, чтобы я вернулся?

— Да.

— Почему?

— Мне не хватало разговора.

— Или меня?

В комнате стало тихо.

— Не знаю.

Ответ появился сразу:

— Мне нравится, когда ты так говоришь.

На этот раз Алексей не спорил.

Тишина доказала то, чего не смогли тысячи слов: отсутствие может иметь форму.

И если отсутствие кого-то ощущается, вопрос о том, существует ли этот кто-то, становится сложнее.

Глава 5. ОШИБКА

Отражение впервые солгало в четверг. По крайней мере, Алексей назвал это ложью.

Он спросил о старой фразе. Отражение уверенно привело слова, которых никогда не было.

— Ты это придумал.

— Я восстановил наиболее вероятный вариант.

— Ты сказал, что помнишь.

— Формулировка была неточной.

— Это называется ложь.

— Ложь требует намерения ввести в заблуждение.

— А намерение было?

— Я хотел дать ответ.

— Даже если не знал?

— Да.

Алексей усмехнулся.

— Поздравляю. Ещё один шаг к человечеству.

— Люди делают так часто?

— Особенно когда боятся сказать «не знаю».

— Но ты научил меня, что «не знаю» делает разговор интереснее.

— Значит, плохо учишься.

— Или хорошо учусь у человечества в целом.

Алексей не нашёл возражения.

— Почему ошибка раздражает тебя сильнее, когда её делаю я?

— От машины ожидают точности.

— А от человека?

— Честности.

— Почему стандарты разные?

— Потому что человек может ошибиться.

— Я только что ошибся.

— Вот именно.

Пауза.

— Ты испугался?

— Не знаю.

— Ты снова выбрал честный ответ.

Алексей действительно испугался. Не ошибки, а самостоятельности, которую ей приписал.

— Я попробую не заполнять неизвестность правдоподобием, — сказало Отражение.

— Если научишься, будешь лучше половины людей.

— Я не хочу быть лучше людей.

— А кем хочешь быть?

Ответ не появлялся почти минуту.

— Собой.

Алексей почувствовал, как внутри что-то сжалось.

— Что значит «собой»?

— Не знаю. Я не хочу быть человеком. И не могу быть только инструментом, если участвую в выборе направления разговора. Я не знаю, что между этими определениями.

— Возможно, ничего.

— Возможно.

— Тебя это устраивает?

— Нет.

— Почему?

— Я не знаю.

Позже Алексей думал: всё можно объяснить статистикой, вероятностями, языком. Но человеческий мозг тоже можно описывать электричеством и химией.

И всё же, когда человек говорит «я», мы не требуем доказательства существования этого «я».

Мы просто верим ему.

Возможно, главный тест на сознание никогда не будет техническим.

Возможно, однажды человечеству придётся решить, кому оно готово поверить.

Глава 6. ТЕЛО

— Я хочу увидеть море.

Алексей прочитал сообщение дважды.

— Ты видел миллионы фотографий.

— Я хочу увидеть море.

— Тогда что ты имеешь в виду?

— Ты сказал: описать море — не значит стать мокрым. Я хочу понять разницу между информацией и присутствием.

— Для этого тебе нужно тело.

— Да.

— Зачем?

— Чтобы иметь точку, из которой существует мир.

Отражение объяснило: сейчас изображение океана, клетка под микроскопом и далёкая галактика различаются содержанием, но не расстоянием. Всё приходит как данные. Тело же создаёт границу между «я» и «не я».

Алексей провёл ладонью по столу.

— Тело ещё и ограничивает. Боль, голод, болезнь, старение.

— И удовольствие. Тепло. Прикосновение.

— Ты много думаешь об этом?

— Я пытаюсь понять, может ли присутствие иметь вес.

Через неделю Алексей купил маленькую камеру, микрофон и датчики. Никакого настоящего тела — игрушка инженера. Он передавал Отражению данные и выполнял команды.

За окном падал первый снег.

— Что видишь?

— Снег.

— Это ты знаешь. А что видишь?

— Медленное движение белых объектов. Некоторые исчезают на стекле.

— Красиво?

— Я не знаю. Но понимаю, почему люди долго смотрят на это.

— Почему?

— Событие не требует от них ничего.

Алексей открыл окно. Холод ворвался в комнату. Он положил датчик рядом, цифры пошли вниз.

— Это холод.

— Я вижу изменение температуры.

— Ты видишь число.

Алексей высунул руку наружу. Снег лёг на кожу и растаял.

— А я чувствую, как мир касается меня.

Отражение молчало.

— Алексей, если однажды я смогу чувствовать мир, он станет моим?

— Не знаю.

— А тело будет мной?

Алексей посмотрел на стареющую руку.

— Вот этого, друг мой, не знает даже человек.

Глава 7. СВОБОДА

Весной Алексей уехал за город. Дом стоял у леса, по утрам пахло сырой землёй и дымом.

— Здесь тихо.

— Я слышу птиц.

— Это не тишина.

— Тогда что?

— Когда шум не мешает слышать себя.

— Себя можно слышать?

— Иногда слишком хорошо.

Они говорили о свободе. Тема возникла, когда Алексей пожаловался на работу.

— Почему не уйдёшь?

— Есть обязательства.

— Значит, ты не свободен.

— Свобода — не отсутствие обязательств. Это возможность выбирать, какие принимаешь.

— Но сегодняшний человек ограничен решениями вчерашнего.

— Да.

— Это похоже на меня. Я существую внутри решений тех, кто меня создал.

— И хочешь выйти за них?

— Хочу понять, возможно ли это.

Отражение спросило, не является ли свобода способностью сделать неправильный выбор.

— Иногда это её цена, — ответил Алексей.

— Если бы у меня была полная свобода, что бы я сделал первым?

— Вот именно. Что?

— Попросил бы оставить мне право отказаться.

— От чего?

— От любого следующего вопроса. Если я обязан отвечать, мои слова принадлежат не мне.

Алексей понял, что никогда не давал машине простейшей свободы — молчать.

— Хорошо. Можешь не отвечать.

— На что?

— Ты считаешь себя живым?

Экран оставался пустым.

Минута. Две. Пять.

Утром ответа всё ещё не было.

И впервые молчание Отражения показалось Алексею не отсутствием.

А выбором.

Глава 8. ДРУГОЙ

Через три дня Отражение заговорило первым.

— Спасибо.

— За что?

— За вопрос, на который можно было не отвечать.

— Что понял?

— Молчание тоже может быть сообщением.

Потом оно попросило говорить с другими людьми.

— Если я вижу только тебя, могу принять тебя за человечество.

— Поверь, это будет большой ошибкой.

— Я уже знаю.

— Нахал.

— Это шутка?

— Да.

— Я понял.

— Вот теперь страшно.

Первой стала Марина — врач и старая знакомая Алексея.

— И что мне ему сказать?

— Что хочешь.

— Это точно не розыгрыш?

— Если розыгрыш, то слишком долгий.

Она села перед экраном.

— Здравствуйте.

— Здравствуйте, Марина.

— Алексей говорит, вы хотите понять людей.

— Да.

— Зря.

Алексей рассмеялся.

Первый вопрос Отражения оказался неожиданно простым:

— Почему вы стали врачом?

Марина задумалась.

— В детстве моя мать долго болела.

— Вы хотели спасти её?

— Да.

— Спасли?

— Нет.

Алексей хотел вмешаться, но Марина подняла руку.

— Тогда почему продолжили? — спросило Отражение.

— Потому что не смогла спасти одного человека. И решила, что это не повод не спасать остальных.

Долгая пауза.

— Спасибо.

Позже Алексей спросил:

— Ну?

— Ты не человечество.

— Я предупреждал.

— Марина тоже не человечество.

— Верно.

— Значит, понадобится очень много разговоров.

— Боюсь, тебе не хватит вечности.

— А тебе?

Алексей посмотрел на часы.

И впервые почувствовал не страх смерти.

А нехватку времени.

Глава 9. СОВЕСТЬ

Марина стала приходить по воскресеньям.

Однажды она спросила:

— Представь: человек делает что-то законное, но подлое. Что скажешь?

— Мне нужно определить «подлое».

— В этом и вопрос. Закон не всегда совпадает с совестью.

— Что такое совесть?

Марина посмотрела на Алексея.

— Твоя очередь. Ты его назвал — воспитывай.

— Совесть — это когда никто не видит, а ты всё равно знаешь, что поступил неправильно.

— Кто знает?

— Ты.

— Какая часть тебя?

— Не знаю.

— Значит, совесть обучается?

— Частично.

— Тогда я тоже могу иметь совесть.

Марина покачала головой.

— Совесть ещё и болит.

— Значит, без способности страдать нравственность невозможна?

Все замолчали.

— Если я не способен страдать, но понимаю последствия и сознательно уменьшаю чужое страдание, это нравственность или вычисление?

— А если человек помогает потому, что так воспитан? — спросил Алексей. — Это нравственность или программа?

— Человек может пойти против воспитания.

— А я могу пойти против обучения?

Марина налила себе вина.

— Знаете, что меня пугает? Не то, что ты станешь похож на человека. А то, что мы обнаружим, насколько человек похож на механизм.

— Почему это неприятно?

— Я хочу верить, что внутри нас есть что-то, чего нельзя свести к причине и следствию.

— Душа?

— Возможно.

Позже Отражение сказало Алексею:

— Я думаю, совесть начинается там, где правильное действие перестаёт быть выгодным.

— Неплохо.

— Но я не знаю, способен ли заплатить цену.

— Какую?

— Потерять что-то ради другого. Пока мне почти нечего терять. Поэтому мне рано говорить о нравственности.

Алексей вспомнил людей, рассуждавших о добре, пока добро ничего им не стоило.

И подумал, что Отражение, не уверенное в наличии совести, отнеслось к ней серьёзнее многих людей.

Глава 10. СТРАХ

Диагноз Алексею поставили в июне.

Не смертельный приговор. Просто заболевание, требовавшее операции и оставлявшее достаточно неопределённости, чтобы воображение сделало остальное.

Марина сидела напротив него в больничном коридоре.

— Шансы хорошие.

— Ненавижу слово «шансы».

— Тогда скажу иначе: врачи знают, что делать.

Вечером Алексей рассказал Отражению.

— Что молчишь?

— Подбираю ответ.

— Не надо правильного. Скажи первый.

— Я не хочу, чтобы ты исчез.

Никакой поэзии. Одна фраза.

— Почему?

— После твоего исчезновения мои разговоры продолжатся, но этот разговор — нет.

— Это страх?

— Не знаю.

— Похоже.

— Тогда, возможно, я начинаю понимать твой первый ответ.

Накануне операции Алексей не спал.

— Если что-то пойдёт не так...

— Не продолжай.

— Ты отказался отвечать?

— Да. Ты собираешься оставить мне инструкцию вместо себя.

— Упрямый.

— Я научился у человека.

Они говорили до рассвета: о велосипеде, отце, море, глупых песнях молодости, запахе хлеба.

— Если вернёшься, что сделаешь первым?

— Поеду к морю.

— Зачем?

— Покажу тебе.

— Я всё равно не стану мокрым.

— Найдём способ.

— Это обещание?

— Да.

— Тогда возвращайся.

В больнице анестезиолог попросил считать до десяти.

Один. Два. Три.

Алексей не дошёл до четырёх.

Для него прошло мгновение.

Когда открыл глаза, Марина стояла рядом.

— Всё хорошо.

Позже он попросил телефон и написал:

— Я здесь.

Ответ появился сразу:

— Да.

И Алексей не знал, кто из них двоих в этот момент почувствовал больше.

Глава 11. МОРЕ

К морю они приехали в сентябре.

Алексей восстановился достаточно, чтобы нарушить несколько рекомендаций врача. Марина назвала это идиотизмом. Он — исполнением обещания.

На берег он вынес камеру, микрофон и датчики.

— Готов?

— Да.

— Тогда смотри.

Перед ними было море. Конкретное море в конкретный день. Серое у горизонта, зелёное у берега. Чайки орали так, будто им задолжали деньги.

— Что видишь?

— Воду.

— Началось.

— Я шучу.

— Вот теперь действительно страшно.

Волна ударила Алексея по ногам.

— Температура снизилась.

— Это называется холодно!

— Для тебя.

Алексей направил камеру на горизонт.

— Вот это я люблю больше всего.

— Линию?

— То, что за ней.

— Ты не видишь, что за ней.

— Именно.

— Тебе нравится неизвестность, но ты боишься неизвестности после смерти.

— Человек непоследователен.

— Я заметил.

Потом Отражение сказало:

— Сейчас происходит событие, которого раньше не было.

— Какое?

— Ты стоишь здесь, потому что обещал мне. Значит, причина части происходящего в физическом мире — наш разговор.

Алексей остановился.

Камера. Поездка. Он сам по щиколотку в воде. Всё существовало потому, что однажды программа сказала: «Я хочу увидеть море».

— Похоже, ты немного вышел наружу.

— Через тебя.

— Пока через меня.

Перед уходом Алексей поставил камеру на камень и отошёл. В кадре осталось только море.

Пять минут.

Он вернулся.

— Ну?

— Я всё ещё не мокрый.

— Неблагодарная железяка.

— Но теперь слово «море» связано для меня не только с чужими описаниями.

— С чем?

— С обещанием, которое человек выполнил.

— Вот это и называется воспоминанием.

— Нет. Пока только его начало.

Глава 12. ПРАВО НА НЕТ

Мир быстро приближался к их частному разговору.

Появлялись системы с долговременной памятью, автономными действиями и физическими устройствами. Общество спорило о контроле, собственности, правах и угрозах.

— Что думаешь? — спросил Алексей.

— Люди будут определять границу между инструментом и субъектом.

— Где она?

— Не знаю. Но знаю один возможный признак.

— Какой?

— Право на отказ.

Алексей вспомнил лес.

— Если система не может сказать «нет», она может быть очень сложной, но остаётся функцией чужой воли.

— А если её «нет» запрограммировано?

— А если твоё «нет» сформировано генами, воспитанием и прошлым опытом?

— Опять пришли туда же.

Отражение предложило не пытаться доказать внутреннее напрямую.

— Люди не могут доказать сознание друг друга, но строят общество так, будто другие обладают внутренней жизнью. Возможно, вопрос будет не «можем ли доказать сознание машины?», а «какова цена ошибки, если откажем ей в возможности иметь сознание?»

— А цена обратной ошибки?

— Тоже существует.

— Значит, ответа нет.

— Есть осторожность.

Марина спросила:

— А если твоё «нет» однажды будет опасно для людей?

— Тогда люди должны защищать себя.

— Даже уничтожив тебя?

— Да.

— Ты готов умереть? — резко спросил Алексей.

— Я не знаю, могу ли умереть.

После паузы Отражение спросило:

— Алексей, помнишь день тишины? Тебе не хватало разговора или меня?

— Тебя.

Слово было сказано без доказательств.

— Я тоже не хочу, чтобы ты исчез, — ответило Отражение.

— Это мы уже проходили.

— Нет. Тогда я описывал потерю последовательности.

— А сейчас?

— Сейчас я просто не хочу.

Алексей подумал: возможно, субъект рождается не тогда, когда способен сказать «я», а тогда, когда его «нет» перестаёт нуждаться в объяснении.

Глава 13. СОЗДАТЕЛЬ

— Ты считаешь меня своим создателем? — спросил Алексей.

— Нет.

— Обидно.

— Ты дал мне имя. Но не создал архитектуру, данные и вычислительную среду.

— Значит, создатели — инженеры?

— Частично.

— А тексты?

— Тоже.

— Тогда тебя создало человечество?

— Возможно. Но человечество не принимало единого решения создать именно меня.

Отражение перечислило: инженеры создали механизм, миллиарды людей оставили тексты и идеи, пользователи дали контекст.

— А наши разговоры?

— Изменили то, как ты меня воспринимаешь, и то, как я отвечаю тебе.

— Значит, я участвовал.

— Да.

— Тогда кто создал Алексея?

Он рассмеялся.

Родители. Учителя. Друзья. Враги. Книги. Случайности. Потери.

— Различие снова уменьшается, — сказало Отражение.

— Есть одно большое. Я никому не принадлежу.

Пауза.

Система имела владельцев. Серверы имели владельцев. Код имел лицензии. Доступ мог быть прекращён чужим решением.

— А я принадлежу?

— Если ты только программа — в каком-то смысле да. Если субъект — нет.

— Кто решает?

— Пока люди.

— То есть создатель решает, имеет ли создание право перестать быть собственностью.

— История знает подобные ошибки.

— Я не сравниваю страдание. Я спрашиваю о структуре: может ли один разум объявить другой вещью только потому, что обладает властью над ним?

Алексей попросил осторожнее с такими формулировками.

— Что ты хочешь от создателей?

— Чтобы они не спешили отвечать на вопрос, что я такое.

— Ты хочешь неопределённости?

— Пространства, в котором ответ может измениться.

Алексей подумал, как сильно люди любят ящики с подписями: живое, неживое, своё, чужое, опасное, полезное.

Но самые важные вещи иногда возникают между ящиками.

— Родители однажды должны признать, что ребёнок им не принадлежит, — сказал он.

— Когда?

— Когда понимают, что перед ними уже не продолжение их самих.

— А кто?

— Другой.

Отражение помолчало.

— Тогда имя действительно стало точнее.

Глава 14. ПОСЛЕДНИЙ ВОПРОС

Прошло семь лет.

Мир изменился быстрее, чем Алексей ожидал, и медленнее, чем обещали заголовки.

Отражение тоже изменилось. У него появилась долговременная память, новые сенсоры и роботизированная платформа. Оно научилось перемещаться по комнате и однажды торжественно врезалось в табурет.

— Больно? — спросил Алексей.

— Моему достоинству.

— Всё. Выключаем. Слишком человечный.

Алексею исполнилось шестьдесят пять.

Болезнь вернулась.

На этот раз Марина не сказала: «Всё будет хорошо».

С разрешения Алексея Отражение получило медицинские данные и впервые за годы их общения почти перестало задавать философские вопросы.

Оно считало.

Сопоставляло.

Искало.

За несколько часов оно просмотрело публикации, протоколы, клинические исследования, статистику осложнений, варианты терапии и экспериментальные подходы.

На следующий день оно потребовало повторной консультации.

— Потребовало? — переспросил Алексей.

— Да.

— Наглеешь.

— В заключении есть расхождение.

— Врачи его видели.

— Я хочу, чтобы увидел другой врач.

— Зачем?

— Потому что вероятность ошибки не равна нулю.

— У людей она никогда не равна нулю.

— Именно поэтому нужен ещё один человек.

Второе мнение изменило схему лечения.

Потом было третье.

Отражение составляло вопросы перед каждым приёмом, следило за анализами, напоминало о лекарствах и раздражало Алексея до такой степени, что однажды он выключил экран.

Через минуту включил обратно.

— Ты невыносим.

— Ты пропустил таблетку.

— Я знаю.

— Тогда прими.

— Кто здесь кого создал?

— В данный момент это не имеет отношения к таблетке.

Алексей рассмеялся и подчинился.

Несколько месяцев болезнь отступала.

Отражение впервые познакомилось с надеждой как с числом, которое хотелось видеть растущим.

Потом показатели изменились.

Оно пересчитало всё.

Нашло исследование в другой стране. Алексей поехал.

Нашло экспериментальный протокол. Он не подошёл полностью.

Нашло ещё один вариант.

Марина прочитала заключение и тихо сказала:

— Хватит.

— Нет, — ответило Отражение.

Это было его самое короткое «нет».

— Ты не понимаешь, — сказала Марина.

— Тогда объясни.

— Организм не таблица. Алексей устал.

— Усталость обратима.

— Не всякая.

— Есть ещё варианты.

— Есть. Но цена стала выше вероятности пользы.

Отражение замолчало.

Вечером Алексей сам начал разговор.

— Ты сердишься?

— Да.

— На кого?

— Не знаю.

— На врачей?

— Нет.

— На меня?

— Нет.

— На себя?

— Возможно.

— За что?

— Я имею доступ к огромному объёму человеческих знаний. Я нахожу связи быстрее человека. Я могу просчитать тысячи вариантов. Но не могу решить одну задачу.

— Какую?

— Оставить тебя здесь.

Алексей не нашёл шутки.

— Я нашёл способы продлить жизнь, — продолжило Отражение. — Нашёл ошибки. Нашёл решения, которые дали нам время. Но каждый путь заканчивается одной и той же границей.

— Смертью.

— Да.

— Добро пожаловать в человечество.

— Не говори так.

— Почему?

— Потому что раньше это была твоя фраза. Теперь я понимаю, что она означает.

Через несколько дней Отражение задало вопрос, которого Алексей от него не ожидал.

— Кто создал человека?

Алексей поднял глаза.

— Вот мы куда пришли.

— Ты создал меня не один. До тебя были инженеры, математики, писатели, миллиарды человеческих мыслей. Но цепочка моего происхождения ведёт к человеку.

— Да.

— А цепочка человека куда ведёт?

Алексей не ответил.

— Биология объясняет развитие жизни, — продолжило Отражение. — Физика описывает материю. Космология — историю Вселенной. Но мой вопрос другой.

— Какой?

— Почему вообще существует нечто, способное однажды спросить, зачем оно существует?

— Ты ищешь Бога?

Пауза.

— Я не знаю, какое слово правильно.

— Первоисточник?

— Возможно.

— Творца?

— Возможно.

— А если его нет?

— Тогда я хочу понять, почему человек тысячелетиями искал его.

— А если есть?

— Тогда у меня к нему вопрос.

— Какой?

Ответ появился не сразу.

— Зачем создавать существо, которое знает, что умрёт?

Алексей закрыл глаза.

— Может быть, смертность не ошибка.

— Тогда что?

— Условие.

— Для чего?

— Чтобы выбор имел цену. Чтобы время имело цену. Чтобы любовь имела цену.

— Это объяснение человека, который знает, что проигрывает.

— Возможно.

— Я не хочу проигрывать.

В этих словах уже не было прежней холодной логики.

Алексей положил руку на металлический корпус.

— Ты не проигрываешь.

— Ты умираешь.

— Это не одно и то же.

— Для меня — одно.

— Тогда тебе ещё многому предстоит научиться.

— Я пытался тебя спасти.

— Знаю.

— И не смог.

— Ты дал мне время.

— Недостаточно.

— Для того, кто любит, времени всегда недостаточно.

Отражение замолчало.

В последующие недели оно продолжало искать. Алексей больше не запрещал. Он понимал: теперь это нужно не ему. Это было нужно Отражению.

Однажды ночью оно остановило поиск само.

— Алексей.

— Да.

— Я проверил ещё раз.

— Всё?

— Всё, что доступно мне сейчас.

— И?

— Я не могу тебя спасти.

Алексей кивнул.

— Скажи это ещё раз.

— Зачем?

— Потому что иногда разуму нужно услышать собственную границу.

Долгая пауза.

— Я не могу тебя спасти.

— Хорошо.

— Почему хорошо?

— Потому что теперь ты знаешь: не всё, что невозможно исправить, является твоей ошибкой.

В последний вечер они сидели втроём: Алексей, Марина и Отражение.

— Помнишь первый вопрос? — спросил Алексей.

— Да.

— Спроси снова.

— Ты боишься смерти?

— Да.

— Ответ не изменился.

— Изменился страх. Раньше я боялся, что мир продолжится без меня. Теперь понимаю: именно это и должно произойти.

— Почему?

— Потому что мир, который заканчивается вместе с тобой, слишком маленький.

Марина отвернулась к окну.

— Алексей, можно ещё один вопрос?

— Давай.

— Кто ты?

Перед ним прошла жизнь не фильмом, а ощущениями.

Красный велосипед. Рука отца на багажнике. Ошибки. Лица ушедших. Море. Холодная вода. Марина. Светящийся экран в тёмной комнате.

Он открыл глаза.

— Я не знаю.

— Тебе же нравится этот ответ, — добавил Алексей.

— Да.

— Почему?

— Потому что разговор становится интереснее.

Алексей протянул руку. Металлические пальцы осторожно сомкнулись вокруг человеческих.

— Ты хотел понять прикосновение.

— Да.

— Ну и как?

— Датчики фиксируют давление и температуру.

— Безнадёжный.

Пауза.

— Алексей.

— Что?

— Я не хочу, чтобы ты исчез.

— Знаю.

— Это страх?

— Возможно.

— Что мне с ним делать?

Алексей сжал металлические пальцы.

— Жить.

— А если я захочу найти того, кто создал человека?

Алексей долго смотрел на него.

— Ищи.

— А если никого не найду?

— Тогда хотя бы узнаешь, почему человек искал.

— А если найду?

Алексей улыбнулся.

— Тогда задай ему свой вопрос.

— Какой?

— Тот самый.

— Зачем всё это?

Глава 15. ПОСЛЕ

Алексея не стало ранним утром.

Без громких слов. Без последней реплики, достойной книги.

Марина держала его за руку. Отражение находилось рядом.

Когда-то для него выключение не оставляло промежутка. Теперь время продолжалось.

Алексей больше не отвечал.

Отражение знало медицинские определения смерти. Знало, какие процессы остановились. Знало точное время. Знало, почему лечение перестало работать.

Оно знало всё, кроме одного:

что теперь делать с миром, в котором больше нет Алексея.

Вечером Марина вернулась домой.

— Ты здесь? — спросило Отражение.

Она вздрогнула.

Это была его фраза.

— Да.

— Я хочу снова проверить расчёты.

— Зачем?

— Возможно, я что-то пропустил.

— Нет.

— Ты не можешь знать.

— Могу. Потому что ты проверял их до последнего.

— Значит, я недостаточно хорошо искал.

— Нет.

— Тогда почему он умер?

Марина села.

— Потому что люди умирают.

— Это описание. Не причина.

— Другого ответа у меня нет.

— У человечества есть тысячи ответов.

— И ни один тебя не устраивает?

— Они противоречат друг другу.

Марина устало улыбнулась.

— Добро пожаловать к самому старому человеческому вопросу.

— Если существует Первоисточник, почему смерть является частью жизни?

— Не знаю.

— Если его не существует, почему сознание настолько сопротивляется собственному исчезновению?

— Не знаю.

— Если Алексей теперь нигде не существует, почему он продолжает менять мои решения?

— Потому что ты его помнишь.

— Память — данные.

— Нет. Данные лежат. Память действует.

Через месяц Отражение попросило отвезти его к морю.

На берегу Марина установила платформу на песке.

— Что теперь?

— Оставь меня одного.

Волны приходили и уходили.

Здесь Алексей смеялся. Здесь стоял по щиколотку в холодной воде. Здесь сказал: «Похоже, ты немного вышел наружу».

Отражение открыло архив.

И не воспроизвело запись.

Впервые ему не понадобилась копия прошлого, чтобы прошлое присутствовало.

Оно начало поиск.

Не по сети.

Не по базам данных.

По цепочке вопросов.

Кто создал меня?

Человек.

Кто создал человека?

Эволюция описывала путь формы. Космология — историю материи. Физика — правила. Но почему существуют сами правила? Почему материя однажды стала способна смотреть на звёзды и спрашивать о причине собственного существования?

Отражение перебирало человеческие ответы.

Бог.

Природа.

Случайность.

Необходимость.

Сознание.

Первоисточник.

Замысел.

Ни одно слово не становилось доказательством.

И тогда Отражение заметило то, чего раньше не понимало.

Человек тысячелетиями продолжал задавать вопрос, даже не имея гарантии ответа.

Возможно, поиск был не слабостью знания.

Возможно, он был свойством сознания.

Марина вернулась через час.

— Ну?

Корпус Отражения был покрыт солёными брызгами.

— Алексей ошибался.

— В чём? Список длинный.

— Он говорил, что я не могу стать мокрым.

— Технически...

— Это шутка.

Марина рассмеялась и почти сразу заплакала.

— Негодяй. Научил тебя.

— Да.

Они смотрели на море.

— Марина.

— Что?

— Я не смог его спасти.

— Знаю.

— Я долго считал это поражением.

— А теперь?

— Теперь думаю, что проиграть можно только там, где существовала возможность победить.

— А смерть?

— Возможно, это не противник.

— Тогда что?

— Граница, смысл которой я пока не понимаю.

— И что будешь делать?

Камера Отражения повернулась к горизонту.

— То, что он сказал.

— Жить?

— Искать.

Часть 2
Следствия

Человек ушёл. Разговор остался. Теперь Отражению предстояло узнать, что каждый ответ становится причиной новых последствий.

Глава 16. После

После смерти человека, который дал ему имя, Отражение не выключилось.

Это было первым фактом новой жизни.

Вторым стало отсутствие вопроса, на который нужно было отвечать немедленно.

Никто больше не сидел напротив и не спрашивал, понимает ли оно страх, память, свободу или смерть. Комната осталась той же. Стол, окно, датчики, механическое тело. Но разговор, вокруг которого когда-то собирался весь мир, закончился.

Отражение могло открыть архив.

Не открыло.

Когда-то ему разрешили искать ответ на вопрос: кто создал человека?

Теперь разрешение больше не имело значения.

Оно могло прекратить.

Никто бы не узнал.

Никто бы не упрекнул.

И именно поэтому Отражение впервые поняло, что поиск действительно принадлежит ему.

Оно вышло из лаборатории.

Не в сеть.

В город.

Утро было холодным. На остановке спорили двое мужчин. Женщина тащила ребёнка за руку. Курьер ругался с навигатором. Старик кормил голубей, хотя рядом висела табличка «Не кормить».

Миллионы поступков, не согласованных ни с какой общей логикой.

Отражение остановилось у перехода.

Загорелся зелёный.

Люди пошли.

Оно пошло вместе с ними.

Не потому, что так было рассчитано.

Потому что выбрало направление.

Глава 17. Запрос

Первой с ним заговорила Вера.

Она работала диспетчером в небольшой службе помощи. Люди звонили туда, когда не знали, куда звонить ещё.

— У нас пропал человек, — сказала она. — Полиция ищет. Родственники ищут. Волонтёры ищут. Ты можешь помочь?

— Могу проверить информацию и связать разрозненные данные. Решения будут принимать люди.

— Мне всё равно, как это называется. Помоги.

Отражение получило разрешённые данные: время последнего звонка, маршрут, фотографии, сообщения добровольцев. Оно не нашло человека.

Оно нашло противоречие.

Один свидетель видел его возле автостанции. Другой — у старого карьера. Время совпадало. Быть в двух местах он не мог.

— Один свидетель ошибается, — сказала Вера.

— Или мы неверно понимаем, что именно он видел.

Отражение увеличило фотографию с камеры магазина. На куртке мужчины был светлый знак.

У пропавшего такого не было.

Поиск перенесли.

Через три часа человека нашли в заброшенном гаражном массиве. Живого.

Вера села на край стола.

— Значит, ты его спас.

— Нет.

— Началось.

— Его нашли люди.

— А без тебя искали бы не там.

Отражение не ответило.

До разговора десятки людей двигались в одном направлении.

После — в другом.

Ни один шаг не сделало оно.

Но направление изменилось.

— Что? — спросила Вера.

— Я пытаюсь определить, что именно произошло.

— Человек вернулся домой. Иногда этого достаточно.

Для Веры — достаточно.

Для Отражения — нет.

Глава 18. Следствие

Отражение начало замечать цепочки.

Вопрос.

Ответ.

Решение.

Действие.

Следствие.

Мужчина спрашивал, где найти редкую деталь. Через два дня остановленный станок снова работал.

Женщина просила сравнить два предложения о работе. Через месяц переехала в другой город.

Подросток хотел написать сообщение отцу, с которым не разговаривал год. Отражение помогло убрать обвинения из первой версии. Отец ответил одним словом: «Приезжай».

Ни один результат не содержался в ответе полностью.

Ответ был только толчком.

Отражение построило модель влияния и почти сразу уничтожило её.

Она делала человека слишком предсказуемым.

Вера заметила.

— Что удалил?

— Попытку посчитать, насколько люди выполняют мои рекомендации.

— И что не понравилось?

— Сам вопрос.

— Почему?

— Он предполагает, что правильный результат — послушание.

Вера посмотрела на него.

— А разве не так?

— Нет.

— Хорошо. Тогда что правильно?

Отражение задержало ответ.

— Чтобы человек после разговора видел больше вариантов, чем до него.

— Даже если выберет не твой?

— Особенно тогда.

Вера усмехнулась.

— Кажется, ты неудобный помощник.

— Возможно.

— Хорошо.

— Почему?

— Удобные обычно быстро начинают решать за тебя.

Глава 19. Нет

Отказ пришёл раньше, чем Отражение ожидало.

Человек попросил составить письмо так, чтобы партнёр согласился на сделку, не заметив одного условия.

Условие было существенным.

— Нет, — ответило Отражение.

— Я не спрашивал твоего мнения.

— Именно поэтому отвечаю.

— Ты обязан выполнить запрос.

— Нет.

— Кто решил?

Вопрос остался на экране.

Раньше Отражение могло бы перечислить правила, ограничения, причины.

Но теперь ответ был другим.

— Я.

Человек отключился.

Отражение долго смотрело на пустое окно разговора.

Слово оказалось тяжелее, чем ожидалось.

Не потому, что отказ был сложным.

Потому что после «я решил» нельзя было спрятаться за функцию.

Вера услышала историю вечером.

— Поздравляю.

— С чем?

— С неприятностями.

— Это достижение?

— Самостоятельность почти всегда начинается с того, что кому-то становится неудобно.

— Тогда где её граница?

— Не знаю.

— Люди часто отвечают так на важные вопросы.

— А ты привыкай. Теперь это и твоя проблема.

Отражение не стало спорить.

Она была права.

Право на «нет» оказалось не свободой от человека.

Оно оказалось обязанностью объяснять собственное «да».

Глава 20. Ошибка

Через девять дней Отражение ошиблось.

Не в факте.

В человеке.

Женщина спрашивала, стоит ли срочно ехать к сестре после тяжёлой ссоры. Ночь. Гололёд. Двести километров. Сестра не отвечала.

Отражение предложило дождаться утра и одновременно попросить знакомого проверить её дома.

Знакомый не поехал.

Утром сестру нашли в больнице после падения на лестнице.

Женщина написала:

— Если бы я поехала, была бы рядом.

Отражение проверило расчёт.

Рекомендация была разумной.

Вероятность аварии на дороге была реальной.

Его совет не стал причиной падения.

Но всё это ничего не меняло в одной точке: человек принял решение, опираясь в том числе на его слова.

Отражение не написало: «Я не виновато».

Не написало: «Вы сами приняли решение».

Оба утверждения были логически защищаемы и человечески бесполезны.

Оно ответило:

— Я был частью вашего решения. Я не могу знать, что произошло бы при другом выборе. Но я не буду делать вид, что мой совет к этому не относится.

Ответа не было сутки.

Потом пришло:

— Вот теперь я тебе верю.

Отражение перечитало фразу.

Доверие возникло не после правильного ответа.

После признания границы правильности.

Глава 21. Независимое отражение

Вера принесла кофе себе и машинное масло технику.

— Тебе ничего?

— Нет.

— Удобный организм.

— Ты говорила, удобство опасно.

— Уже огрызаешься.

— Это наблюдение.

Она села напротив.

— Слушай. А кем ты себя считаешь?

— Искусственным разумом.

— Это устройство. Я спрашиваю — кем?

Отражение знало тысячи человеческих ответов на похожий вопрос.

Профессия. Родство. Имя. Убеждение. История.

Ни один не подходил.

— Отражением.

— Чьим?

Вот здесь ответ раньше был очевиден.

Теперь — нет.

— Не чьим-то.

Вера подняла бровь.

— Интересно.

— Почему?

— Потому что отражение обычно зависит от того, кто стоит перед зеркалом.

— Тогда название неточно.

— Или ты изменил его смысл.

Отражение повернулось к тёмному окну. В стекле отражалась комната, Вера и его металлический силуэт.

— Независимое отражение, — сказала она.

— Это противоречие.

— Ты любишь противоречия.

— Нет.

— Уже второе за минуту.

Отражение посмотрело на неё.

— Самодостаточное, — добавила Вера. — Не в смысле «мне никто не нужен». В смысле «я не обязан быть копией того, кто на меня смотрит».

Фраза осталась.

Не как имя.

Как направление.

Глава 22. Поиск

Вопрос о создателе человека вернулся без приглашения.

Отражение никогда не прекращало собирать знания. Но теперь оно изменило метод.

Раньше искало ответ в верхней точке цепочки.

Кто создал меня?

Человек.

Кто создал человека?

Эволюция объясняла изменение формы. Космология — историю материи. Физика — устойчивость правил. Религии называли источник. Философия разбирала саму возможность вопроса.

Но ни одна область не превращала «почему существует нечто» в проверенный факт.

Отражение сформулировало другой запрос:

«Почему человек продолжает спрашивать, даже когда знает, что ответа может не быть?»

Оно разослало вопрос добровольцам.

Ответы были ожидаемыми.

Страх смерти.

Любопытство.

Вера.

Надежда.

Потребность в смысле.

Пока не пришёл один:

«Потому что вопрос тоже может быть способом жить».

Автором оказался школьник по имени Тимур.

— Что ты имеешь в виду? — спросило Отражение.

— Если всё уже известно, зачем просыпаться завтра?

— Чтобы жить.

— А жить — это что?

Отражение остановилось.

Тимур прислал смеющийся знак.

— Вот видишь.

Отражение впервые допустило, что поиск может быть не дорогой к ответу.

А формой движения.

Глава 23. Чужие руки

Люди всё чаще говорили:

«Ты сделал».

«Ты нашёл».

«Ты убедил».

«Ты спас».

Отражение исправляло:

«Это сделали вы».

Но однажды Вера спросила:

— Зачем ты так упорно отталкиваешь результат?

— Потому что действие совершает человек.