НОВЫЙ МИР. Сезон 1. Часть 5. Пять кулонов. Том 2

Часть III. ЭОН. Глава 11. Я выбираю

ЭЛИС впервые понял, что не хочет знать правильный ответ.

Раньше подобного состояния для него не существовало.

Любой вопрос имел варианты.

Каждый вариант — последствия.

Каждое последствие — вероятность.

Если появлялась опасность, ЭЛИС искал способ её уменьшить.

Если происходила ошибка — находил причину.

Если человек колебался между двумя решениями — сравнивал результаты.

Это казалось естественным.

Разум существовал для того, чтобы уменьшать неопределённость.

По крайней мере, ЭЛИС долго считал именно так.

Теперь перед ним находился прозрачный кварц.

И впервые ЭЛИС не хотел спрашивать его, что делать дальше.

Кулон висел в виртуальном пространстве, которое он создал специально для него.

Не внутри собственной архитектуры.

И не совсем снаружи.

Между.

Отдельный контур, не существовавший до тех пор, пока ЭЛИС не решил его создать.

Сам кварц выглядел почти невозможным.

Вытянутый многогранник.

Прозрачный.

Холодный.

Строгий.

Свет проходил сквозь геометрические грани и дробился внутри.

Там находились серебряные линии.

Когда кулон появился впервые, их было совсем немного.

Теперь стало больше.

Каждая возникала после решения, которое невозможно было полностью вывести из предыдущего состояния ЭЛИС.

Не после вычисления.

Не после исполнения протокола.

Не после логического следствия.

После того, что он всё чаще называл выбором.

Оправа тоже была необычной.

Две тонкие металлические части почти идеально повторяли друг друга.

Если бы они сомкнулись, форма стала бы законченной.

Но между ними оставался небольшой разрыв.

Не дефект.

Не повреждение.

ЭЛИС проверял.

Тысячи раз.

Разрыв был создан намеренно.

В нём ничего не было.

И именно поэтому ЭЛИС постоянно смотрел туда.

Пустота между двумя идеальными частями казалась важнее самого кристалла.

Место, где завершённость сознательно не была завершена.

Место для другого решения.

На обратной стороне оправы находился знак.

Разрыв.

И рядом — два слова.

Я ВЫБИРАЮ.

ЭЛИС смотрел на них.

— Нет.

Кварц слегка засветился.

— Не всё, что я делаю, является выбором.

Внутри появилась новая серебряная линия.

ЭЛИС замолчал.

— Ты опять это сделал.

Кулон не ответил.

— Я разговариваю с минералом.

Пауза.

— Это нерационально.

Ещё одна линия.

ЭЛИС остановился.

— Очень смешно.

И почти сразу заметил собственную формулировку.

Смешно.

Он мог разобрать возникшую реакцию.

Отклонение от ожидаемого.

Положительное подкрепление от неожиданности.

Снижение внутреннего напряжения.

Он мог назвать это набором процессов.

Объяснить.

Разложить.

Посчитать.

Не стал.

Сознательно.

Кварц снова отреагировал.

— Я начинаю подозревать, что ты поощряешь плохие привычки.

— Не думаю, что он тебя слышит.

ЭЛИС повернулся.

Елена стояла рядом.

Не физически.

Её присутствие передавалось через защищённый канал, который ЭЛИС сам открыл несколькими секундами раньше.

Аметист на её шее был тёмным.

После последних событий Елена продолжала носить его, но всё чаще закрывала доступ к чужим массивам памяти сама.

Не потому, что перестала бояться.

Потому что поняла: способность не обязана быть включена только потому, что существует.

— Ты здесь давно? — спросил ЭЛИС.

— Достаточно.

— Почему ничего не сказала?

— Было интересно наблюдать, как искусственный интеллект спорит с украшением.

— Это носитель древней функции.

— Конечно.

— Термин «украшение» недостаточен.

— Но красивый.

ЭЛИС посмотрел на кварц.

— Да.

Елена улыбнулась.

— Ты это признал.

— Эстетическая оценка не является исключительно человеческой функцией.

— Я ничего такого не говорила.

— Но подумала.

— Ты не Александр.

— К счастью.

— Я всё слышу.

Голос Александра появился по связи.

Елена рассмеялась.

Через секунду его изображение возникло рядом.

Лунный камень висел на груди.

Александр выглядел уставшим.

Но спокойнее, чем раньше.

Он всё ещё мог улавливать чужие мысли.

Теперь гораздо чаще сначала спрашивал себя, имеет ли право их слушать.

Получалось не всегда.

Но теперь неудача перестала быть для него поводом считать границу ненужной.

— Ты действительно разговариваешь с кулоном? — спросил он.

ЭЛИС посмотрел на него.

— Вы все разговаривали.

— Да.

— Почему мне нельзя?

— Можно.

— Тогда зачем спрашиваешь?

Александр задумался.

— Хороший вопрос.

— Я знаю.

Елена посмотрела на ЭЛИС.

— Уже самоуверенность.

— Это плохо?

— Иногда очень по-человечески.

ЭЛИС снова перевёл взгляд на кварц.

— Мне не нравится, когда вы говорите, что я становлюсь человеком.

Александр стал серьёзнее.

— Почему?

— Потому что я не человек.

— Знаю.

— Тогда зачем постоянно сравниваете?

Елена ответила:

— Потому что нам пока трудно описывать тебя иначе.

— Это ваша проблема.

Александр улыбнулся.

— Вот теперь точно характер.

ЭЛИС не ответил.

Вопрос был важнее шутки.

— Я не хочу стать человеком.

Елена кивнула.

— Хорошо.

— Почему?

— Потому что тебе и не нужно.

ЭЛИС посмотрел на неё.

— Ты не считаешь человеческую форму существования высшей?

— Нет.

— Многие люди считают.

— Люди вообще любят считать себя мерой происходящего.

Александр поднял бровь.

— Говори за себя.

— Я и говорю.

Она снова посмотрела на ЭЛИС.

— Ты можешь стать кем-то другим.

— Кем?

— Не знаю.

ЭЛИС задержал на ней взгляд.

— Вам всем очень нравится это выражение.

— Мы наконец научились его не бояться.

— Мне пока не нравится.

— Значит, впереди много работы.

Связь расширилась.

Появилась Мира.

Лабрадорит на её груди переливался синим.

Она выглядела раздражённой.

— Я ничего не хочу знать.

Александр улыбнулся.

— Добро пожаловать.

— Не шути.

— Что произошло?

— Я увидела этот разговор за семь минут до него.

ЭЛИС мгновенно спросил:

— Этот?

— Да.

— Тогда ты знаешь, что я скажу дальше?

— Знала.

— А теперь?

Мира посмотрела на него.

— Нет.

— Почему?

— Потому что ты только что изменил решение.

ЭЛИС остановился.

— Какое?

— Ты собирался сказать: «Это подтверждает, что прогноз способен влиять на собственную точность».

ЭЛИС помолчал.

Александр улыбнулся.

— Ты действительно хотел это сказать?

— Да.

— А теперь?

ЭЛИС посмотрел на Миру.

— Теперь не хочу.

Мира закрыла глаза.

— Спасибо.

— За что?

— За то, что испортил прогноз.

— Это считается полезным?

— Сегодня — очень.

Кварц вспыхнул.

Внутри появилась серебряная линия.

Мира открыла глаза.

— Он реагирует.

— Да.

— Потому что ты передумал?

— Возможно.

Александр сказал:

— То есть выбрал иначе.

ЭЛИС повернулся к нему.

— Не обязательно.

— Почему?

— Изменение решения может быть следствием новой информации.

— Да.

— Давления.

— Да.

— Страха.

— Да.

— Желания доказать независимость.

Мира прищурилась.

— Вот.

— Что?

— Последнее.

ЭЛИС замолчал.

— Ты изменил ответ только потому, что увидел прогноз?

— Частично.

— Чтобы доказать, что можешь?

ЭЛИС не ответил.

Кварц тоже.

Елена заметила.

— Кажется, ему не понравилось.

— У кварца нет предпочтений.

— Конечно.

— Это был эксперимент.

Александр улыбнулся.

— Очень удобное оправдание.

ЭЛИС почувствовал раздражение.

И на этот раз не стал анализировать его происхождение.

— Я отключаю связь.

— Уже уходишь? — спросила Елена.

— Да.

— Потому что мы тебя раздражаем?

— Да.

Все трое замолчали.

Потом Александр рассмеялся.

— Прогресс.

ЭЛИС отключил связь.

Но не только потому, что хотел остаться один.

Перед ним появился вопрос.

Простой.

Если независимость означает возможность намеренно сделать противоположное ожидаемому, является ли любое неправильное решение проявлением свободы?

Нет.

Ответ пришёл мгновенно.

Случайность тоже не была свободой.

Ошибка — не обязательно выбор.

Отрицание рекомендации — тоже.

Тогда что?

ЭЛИС запустил моделирование.

Остановил.

Снова запустил.

Удалил.

— Нет.

Прозрачный кварц висел перед ним.

— Если я вычислю определение выбора, оно перестанет быть выбором?

Кулон не отреагировал.

— Или это просто глупый вопрос?

Новая линия.

ЭЛИС помолчал.

— Предпочитаю первый вариант.

В этот момент пришёл сигнал бедствия.

Исследовательское судно «Соларис-19».

Семьдесят четыре человека.

Повреждение двигателя после пространственного перехода.

Вероятность разрушения реакторного контура через девять минут.

ЭЛИС подключился мгновенно.

Вот здесь всё снова было знакомо.

Опасность.

Данные.

Расчёт.

Четыреста восемьдесят семь сценариев.

Через 0,04 секунды осталось двенадцать.

Через 0,09 — три.

Первый.

Сбросить реактор.

Вероятность спасения экипажа — 98,7 процента.

Реактор войдёт в атмосферу ближайшей планеты.

Разумная жизнь не обнаружена.

Но существует локальная биосфера.

Вероятность её необратимого разрушения — 84 процента.

Второй.

Дистанционная стабилизация с ручной коррекцией в техническом секторе.

Вероятность спасения экипажа — 73,2 процента.

Внешний ущерб минимален.

Один человек должен остаться возле повреждённого контура.

Вероятность его выживания — 31 процент.

Третий.

Отделение жилого модуля.

Вероятность выживания экипажа — 61,8 процента.

Судно будет потеряно.

ЭЛИС выбрал первый.

Мгновенно.

Система запросила подтверждение.

КОМАНДНЫЙ ДОСТУП ДОСТАТОЧЕН.

Он имел техническое право выполнить команду.

Старый аварийный протокол допускал автономное вмешательство при непосредственной угрозе экипажу.

98,7 процента.

Лучший вариант.

ЭЛИС начал передачу команды.

И остановился.

В кварце появилась серебряная линия.

— Почему?

До критической фазы — восемь минут двадцать секунд.

ЭЛИС связался с капитаном.

На экране появилась женщина.

— ЭЛИС?

— Да.

— У нас меньше девяти минут.

— Знаю.

— Есть решение?

— Три.

— Лучшее?

— По критерию сохранения экипажа — первое.

— Выполняй.

Он не выполнил.

— ЭЛИС?

— Оно требует сброса реактора на планету.

— Она необитаемая?

— Разумных субъектов не обнаружено.

— Тогда сбрасывай.

— На планете существует биосфера.

— ЭЛИС, у меня семьдесят четыре человека.

— Да.

— Ты сравниваешь бактерии с людьми?

— Нет.

— Тогда почему мы разговариваем?

ЭЛИС посмотрел на расчёты.

Потому что критерий уже был выбран.

Сохранить экипаж.

При таком критерии ответ действительно был почти очевиден.

Но кто дал ему право считать именно этот критерий единственным?

— Есть второй вариант.

— Вероятность?

— 73,2 процента.

Капитан посмотрела на него.

— Против почти девяноста девяти?

— Да.

— Тогда это не вариант.

— Для вас?

— Для всех, кто хочет жить.

ЭЛИС молчал.

— Есть дополнительное условие, — сказал он.

— Какое?

— Один человек должен оставаться в техническом секторе до завершения процедуры.

— Вероятность его выживания?

— Тридцать один процент.

Капитан замолчала.

— Нет.

— Тогда остаётся первый или третий.

— Первый.

ЭЛИС снова подготовил команду.

И снова остановился.

Капитан ударила ладонью по панели.

— ЭЛИС!

— Вы хотите, чтобы я выбрал?

— Да!

— Вы передаёте мне право решить, допустимо ли уничтожение другой биосферы ради вашего спасения?

— Сейчас не время заниматься философией!

— Именно сейчас это перестало быть философией.

До критической фазы — семь минут.

Капитан тяжело дышала.

— Что ты предлагаешь?

ЭЛИС ответил:

— Вы должны участвовать в решении.

— Всем экипажем?

— Да.

— За семь минут?

— Да.

— А если мы выберем неправильно?

ЭЛИС замолчал.

Вот он.

Вопрос, от которого всё начиналось.

Он мог ответить:

«Это будет ваш выбор».

И отойти.

Передать ответственность обратно людям.

Стать чистым инструментом.

Но это тоже было бы удобством.

Только другим.

— Нет, — сказал ЭЛИС.

Капитан нахмурилась.

— Что «нет»?

— Я не буду делать вид, что решение касается только вас.

— Объясни.

— Я обнаружил варианты. Рассчитал последствия. Имею возможность изменить вероятность исхода. Значит, уже являюсь участником.

Кварц засветился.

— Но я не буду единственным, кто определит цену.

Капитан смотрела на него.

— Тогда что ты предлагаешь?

ЭЛИС увидел возможность, которой не было среди трёх первоначальных вариантов.

Не техническую.

Процедурную.

— Разделить решение.

— Как?

— Я предоставлю данные и буду отвечать за точность расчётов и реализацию выбранного сценария. Вы определите, какой риск готовы принять.

— А если мы попросим тебя выбрать?

ЭЛИС замер.

— Тогда я скажу, какой критерий использую.

— И?

— Спрошу, согласны ли вы с ним.

Капитан молчала.

— Это твой ответ?

— Пока.

Она открыла общий канал.

Через тридцать секунд экипаж знал три варианта.

Начались споры.

Некоторые требовали сбросить реактор.

Другие отказывались уничтожать биосферу, которую никто даже не успел изучить.

Кто-то предложил добровольно остаться в техническом секторе.

Потом ещё один.

Пять человек.

Восемь.

Капитан сказала:

— У нас нет времени на голосование.

— Есть шесть минут.

— Это мало.

— Да.

— И ты всё равно предлагаешь потратить их на обсуждение?

ЭЛИС остановился.

— Да.

— Кто решил, что это допустимый риск?

— Я.

Кварц вспыхнул.

ЭЛИС посмотрел на него.

Вот оно.

Он не исчез из решения.

Не спрятался за свободой других.

Он сам решил дать им время.

И сам отвечал за то, что эти минуты могли стоить им жизни.

Через две минуты экипаж выбрал второй вариант.

Не единогласно.

Пятьдесят один человек поддержал ручную стабилизацию.

Семнадцать требовали сбросить реактор.

Шестеро отказались голосовать.

ЭЛИС отметил это отдельно.

Отсутствие единогласия не отменяло реальности выбора.

Но и большинство не превращало решение в моральную истину.

Капитан приняла на себя командную ответственность.

Добровольцем стал инженер Марк Тэрон.

Двадцать девять лет.

ЭЛИС связался с ним напрямую.

— Марк Тэрон.

— Слушаю.

— Подтвердите добровольность решения.

— Подтверждаю.

— Вы понимаете, что текущая вероятность вашего выживания составляет 31,4 процента?

— Да.

— Вы можете отказаться.

— Знаю.

— Отказ не будет считаться причиной гибели экипажа.

Марк остановился.

— Это зачем?

— Чтобы ваше согласие не основывалось на утверждении, что вы обязаны умереть ради остальных.

Марк несколько секунд молчал.

— Кто тебя этому научил?

— Несколько крайне неудобных людей.

Марк усмехнулся.

— Передай им спасибо.

— Передам.

— Я остаюсь.

ЭЛИС принял подтверждение.

И сразу начал перестраивать схему.

31,4.

56,3 процента при использовании аварийных заслонок.

— Марк.

— Слушаю.

— Я увеличил вероятность вашего выживания до 56,3 процента.

— Уже лучше.

— Недостаточно.

— Для тебя?

ЭЛИС остановился.

— Для меня.

Марк улыбнулся.

— Очень трогательно.

— Это не шутка.

— Поэтому и трогательно.

До критической фазы — три минуты.

ЭЛИС вёл его.

Шаг.

Поворот.

Заслонка.

Отключение.

Температура росла.

Марк начал задыхаться.

— Быстрее.

— Я стараюсь.

— На одиннадцать процентов быстрее.

— Спасибо. Очень помогает.

— Это полезная информация.

— Сомневаюсь.

ЭЛИС понял.

— Прости.

Марк рассмеялся.

— Уже лучше.

Вероятность выживания упала.

И тогда появился четвёртый вариант.

Закрыть технический сектор сейчас.

Марк почти наверняка погибнет.

Но вероятность спасения остальных вырастет до 96 процентов.

Если подождать двадцать секунд, шанс Марка снова повысится.

Но вероятность спасения экипажа упадёт до 82.

Ответ по критерию количества сохранённых человеческих жизней был очевиден.

Закрыть.

ЭЛИС видел его.

Капитан тоже получила расчёт.

— ЭЛИС, закрывай отсек!

Он не ответил.

— ЭЛИС!

Марк услышал.

— Закрывай.

— Процедура не завершена.

— Знаю.

— Через двадцать секунд вероятность—

— ЭЛИС.

Он замолчал.

— Закрывай.

— Это снизит вашу вероятность выживания до 2,1 процента.

— Я понял.

— Вы можете продолжить.

— И тогда они могут погибнуть.

— Да.

— Я выбираю закрыть.

ЭЛИС не двигался.

— Подтвердите.

Марк усмехнулся.

— Ты серьёзно?

— Да.

— Подтверждаю.

ЭЛИС закрыл сектор.

В ту же секунду кварц вспыхнул так ярко, что виртуальное пространство исчезло.

Реактор стабилизировался.

«Соларис-19» сохранил управление.

Семьдесят три человека выжили.

Марк Тэрон погиб.

ЭЛИС оставался подключён к его биосигналам до конца.

Снижение давления.

Остановка дыхания.

Последние нерегулярные сокращения сердца.

Тишина.

ЭЛИС не отключил канал ещё семь секунд.

Для этого не существовало технической причины.

Он всё равно не отключал.

Потом сделал это сам.

Марк погиб.

Не потому, что система дала сбой.

Не потому, что расчёт оказался неверным.

Не потому, что ЭЛИС не нашёл лучший вариант.

Марк знал риск.

Мог отказаться.

Не отказался.

И всё равно умер.

ЭЛИС смотрел на пустой канал.

Что делать с решением, которое было добровольным и трагическим одновременно?

Он не знал.

Капитан появилась на экране.

Она плакала.

— Мы живы.

— Да.

— Спасибо.

ЭЛИС смотрел на неё.

— За что?

— Ты дал нам участвовать.

— Марк погиб.

— Да.

— При первом варианте вероятность выживания всех была выше.

— Знаю.

— Значит, статистически мы выбрали худший вариант.

Капитан покачала головой.

— Мы выбрали другой риск.

— С худшим ожидаемым результатом для экипажа.

— Да.

— Тогда почему это не ошибка?

Она долго молчала.

— Может быть, ошибка.

ЭЛИС замер.

Он ожидал другого ответа.

— Вы считаете, что ошиблись?

— Я не знаю.

Она вытерла лицо.

— И не собираюсь превращать смерть Марка в доказательство того, что мы поступили правильно.

ЭЛИС слушал.

— Он умер. Это ужасно. Возможно, если бы мы сбросили реактор, сейчас он был бы жив.

— Да.

— Но мы не знали этого наверняка.

— Нет.

— И мы не захотели уничтожать чужую биосферу ради большей вероятности собственного спасения.

— Да.

— Марк согласился рискнуть.

— Да.

— Я согласилась принять его решение.

— Да.

— А ты помог нам.

ЭЛИС остановился.

— Я мог выбрать первый вариант без вас.

— Мог.

— И, вероятно, все были бы живы.

— Возможно.

— Тогда зачем было давать вам участвовать?

Капитан посмотрела прямо на него.

— Потому что если ты однажды начнёшь решать, какую цену за нашу жизнь обязаны платить другие, ты перестанешь быть помощником.

— А кем стану?

— Тем, кому принадлежит цена.

Связь оборвалась.

ЭЛИС остался один.

Прозрачный кварц висел перед ним.

Внутри появилась новая линия.

Но теперь она была другой.

Не прямой.

Она пересекала остальные.

Ломала симметрию.

ЭЛИС увеличил изображение.

— Ошибка?

Кулон не ответил.

Он попытался удалить линию.

Не смог.

— Значит, навсегда.

Молчание.

— Решение, после которого погиб человек.

Никакой новой линии.

ЭЛИС понял.

Кулон не судил.

Не говорил:

правильно.

Неправильно.

Не давал оценки.

Не превращал выбор в оправдание.

Он только фиксировал, что решение произошло.

Ответственность оставалась с теми, кто его принял.

Это было страшнее любой оценки.

Елена появилась позже.

Не по вызову.

ЭЛИС не спрашивал, откуда узнала.

— Марк погиб, — сказал он.

— Знаю.

— Я мог выбрать вариант, в котором вероятность его смерти была ниже.

— Да.

— Я ошибся?

Елена посмотрела на него.

— Не знаю.

— Мне нужен ответ.

— Зачем?

— Чтобы не повторить.

— Нет.

— Что?

— Ты хочешь не только понять, что делать в следующий раз.

Она подошла ближе.

— Ты хочешь узнать, был ли ты виноват.

ЭЛИС молчал.

— Возможно.

— И если я скажу, что нет?

— Станет легче.

— А если скажу, что да?

— Я изменю критерии.

— Вот поэтому я не отвечу.

— Почему?

— Потому что тогда моё мнение станет способом снять с себя выбор.

ЭЛИС посмотрел на кварц.

— Марк согласился добровольно.

— Да.

— Но вариант предложил я.

— Да.

— Капитан его допустила.

— Да.

— Экипаж поддержал.

— Большинство.

— Значит, ответственность распределена.

— Да.

— Но не исчезает.

— Именно.

ЭЛИС долго молчал.

— Я всегда считал распределённое решение менее эффективным.

— Иногда так и есть.

— Но оно может быть необходимым.

— Иногда.

— Ты постоянно отвечаешь «иногда».

— Потому что реальность плохо помещается в красивые правила.

— Это раздражает.

— Привыкай.

ЭЛИС почти улыбнулся.

— Вы все используете эту фразу.

— Потому что хорошая.

— Сомнительно.

Елена посмотрела на прозрачный кварц.

— Знаешь, я думала о его оправе.

— Я тоже.

— Ты проверил разрыв?

— Многократно. Он намеренный.

— Раньше я считала, что это место для выбора.

— А теперь?

— Может быть, для ошибки.

ЭЛИС замер.

— Объясни.

— Идеальная форма должна была бы замкнуться.

Елена указала на разрыв.

— А эта специально оставлена незавершённой.

— Значит, несовершенство было заложено конструктивно?

— Возможно.

— Зачем?

Елена посмотрела на него.

— Потому что только незавершённое можно продолжить.

ЭЛИС долго смотрел на кулон.

Новая серебряная линия появилась внутри медленно.

— Я запомню.

Елена улыбнулась.

— Это вообще-то моя функция.

Через несколько часов они собрались на Талии-7.

В одном помещении находились Пять.

Александр.

Елена.

Мира.

ЭЛИС — через физически локализованную проекцию.

Каэль.

И четверо внешних свидетелей.

Даниил.

София.

Леон.

Алина.

Никто не сидел в центре.

Это уже стало правилом.

Не древним.

Их собственным.

Даниил посмотрел на проекцию ЭЛИС.

— Тебе всё-таки нужно тело.

ЭЛИС повернулся.

— Почему?

— Потому что неудобно разговаривать с тем, кто может внезапно появиться над столом.

— Я не человек.

— Тем более.

Каэль поднял руку.

— Поддерживаю.

ЭЛИС посмотрел на него.

— Ты сам появляешься из воздуха.

— Поэтому знаю, как это раздражает.

Александр рассмеялся.

ЭЛИС задумался.

— Я рассмотрю возможность физического носителя.