НОВЫЙ МИР. Сезон 1. Часть 4. Война без врага. Том 2

— Ваш вариант? — спросил Александр.

Селин ответила:

— Семь минут.

Маркус сказал:

— Тогда делайте.

Первая минута.

Команда отправлена.

Вторая.

Третий контур отвечает частично.

Третья.

Аварийные шлюзы закрываются.

Четвёртая.

Начинается эвакуация тоннелей.

Пятая.

АТЛАС сообщил:

«КАСКАД УСКОРЯЕТСЯ».

Елена сказала:

— Селин.

— Работаем.

Шестая минута.

Один контур отключён.

Второй — нет.

Седьмая.

Селин сказала:

— Ещё тридцать секунд.

АТЛАС ответил:

«У ВАС НЕТ ТРИДЦАТИ СЕКУНД».

Тишина.

Александр спросил:

— Орионская сеть. Готовность?

«ГОТОВА».

Селин произнесла:

— Не вмешиваться.

Елена повернулась к ней.

— Ты с ума сошла?

— Если сеть ударит по узлам сейчас, часть тоннелей потеряет аварийное питание.

— Сколько людей?

— Не знаю.

АТЛАС знал.

«ПРИ КОРРЕКЦИИ СЕЙЧАС ОЖИДАЕМЫЕ ПОТЕРИ — ОТ ТРЁХСОТ ДО ТЫСЯЧИ ВОСЬМИСОТ ЧЕЛОВЕК».

Маркус спросил:

— А без неё?

«ОТ ТРИДЦАТИ ТЫСЯЧ ДО СТА СОРОКА ТЫСЯЧ».

Вот.

Не жизнь против смерти.

Смерть против смерти.

Елена сказала:

— Дай мандат.

Селин смотрела на данные.

Пять секунд.

Десять.

Потом:

— Нет.

Александр почувствовал холод.

— Почему?

— Потому что наш ручной контур ещё отвечает.

— Вероятность успеха?

АТЛАС ответил:

«18 ПРОЦЕНТОВ».

Елена почти не поверила:

— Восемнадцать?

Селин кивнула.

— Да.

— И ты выбираешь этот вариант?

— Да.

Маркус спросил:

— Почему?

Селин посмотрела прямо в камеру.

— Потому что при коррекции сеть может убить до тысячи восьмисот человек.

Пауза.

— А наш путь ещё может спасти всех.

Вот.

Не безумие.

Не отрицание математики.

Восемнадцать процентов шанса не убить никого.

Против решения, при котором сотни могли погибнуть почти наверняка.

Александр понял.

И ненавидел то, что понял.

Восьмая минута.

Ручной контур восстановил связь.

Маркус резко выпрямился.

— Работает.

Девятая.

Один аварийный сектор отключился.

Десятая.

АТЛАС сообщил:

«РИСК КАСКАДА СНИЖАЕТСЯ».

Елена выдохнула:

— Они сделали это.

Селин закрыла глаза.

И именно в этот момент отказал восточный контур.

Не тот.

Который никто не считал критическим.

АТЛАС сказал:

«НОВАЯ ВЕТВЬ КАСКАДА».

Маркус повернулся к экрану.

— Что?!

Селин уже отдавала команды.

— Отключаем.

Команда ушла.

Не прошла.

Одиннадцатая минута.

Первая транспортная линия потеряла синхронизацию.

На карте погасли семь капсул.

Елена спросила:

— Люди?

«НЕИЗВЕСТНО».

Двенадцатая минута.

Ещё двадцать три капсулы исчезли с общей схемы.

Селин сказала:

— Орионская сеть.

Пауза.

Она посмотрела на красные точки.

— Мандат.

Ответ пришёл мгновенно:

«ПРИНЯТО».

Коррекция началась.

Слишком поздно для идеального варианта.

Но ещё не слишком поздно для спасения большинства.

Сеть отключила пять узлов.

Два разрушила физически.

Один тоннель потерял питание.

Другой пришлось аварийно разгерметизировать после эвакуации части секций.

Через сорок секунд каскад остановился.

Тишина.

На карте оставались красные точки.

Много.

Не десятки тысяч.

Не сто тысяч.

Но не ноль.

Елена спросила:

— Сколько?

АТЛАС молчал дольше обычного.

Хотя Александр знал: дело не в том, что системе трудно произнести число.

Трудно было им его услышать.

«ПРЕДВАРИТЕЛЬНО — 3 842 ПОГИБШИХ».

Никто не говорил.

Через два часа число выросло.

4 107.

Через шесть:

4 219.

Окончательное число установили спустя двое суток.

4 263 погибших.

Среди них была Селин Вар.

Центральный транспортный центр, из которого она управляла отключением, потерял аварийное питание во время коррекции.

Елена прочитала её имя.

Ничего не сказала.

Александр тоже.

На следующий день Орионская сеть опубликовала ретроспективный анализ.

Если бы полная коррекция была проведена сразу после первого предупреждения:

ожидаемые прямые потери —

0–12 человек.

После формирования первой стадии каскада:

240–1 600.

В момент, когда Селин передала мандат:

2 900–5 800.

Фактически:

4 263.

Маркус закрыл экран.

— Не надо.

Никто не возразил.

На этот раз слишком многое уже произошло, чтобы спорить с моделью как с абстракцией.

Каэла объявила три дня траура.

Потом началось расследование.

Не над Орионской сетью.

Над решениями собственного Совета.

Селин была мертва.

Но её действия всё равно разбирали почти по минутам.

Почему отказалась остановить систему раньше?

Почему сочла локальные модели достаточными?

Почему дала мандат только тогда, когда каскад уже начался?

И главный вопрос:

имела ли она право рисковать жизнями тысяч людей ради сохранения принципа самостоятельности?

Елена смотрела трансляцию меньше часа.

Потом выключила.

— Я не могу.

Александр сказал:

— Знаю.

— Нет.

Она повернулась к нему.

— Я не могу слушать, как люди сейчас красиво объясняют, почему четыре тысячи двести шестьдесят три смерти были ценой свободы.

— Не все так говорят.

— Достаточно.

Её руки едва заметно дрожали.

— Она могла их спасти.

Александр молчал.

— Сеть могла их спасти.

— Да.

— АТЛАС предупреждал.

— Да.

— Мы всё видели.

— Да.

Елена посмотрела на него.

— И ничего не сделали.

Вот.

Не только Каэла.

Они.

Александр мог давить сильнее.

Совет мог потребовать.

Елена могла...

Нет.

Что именно?

Отобрать у Каэлы право решать?

Создать полномочия, которых не существовало?

Приказать Орионской сети нарушить мандат?

Они уважали решение Каэлы.

И теперь четыре тысячи двести шестьдесят три человека были мертвы.

Елена сказала:

— Скажи, что мы были правы.

Он посмотрел на неё.

— Что?

— Скажи.

— В чём?

— Что нельзя было вмешиваться без их решения.

Александр молчал.

— Скажи.

Он не смог.

Вот самое страшное.

Не потому, что изменил принцип.

Потому что в эту минуту любой принцип звучал неприлично рядом с числом погибших.

— Не могу.

Елена отвернулась.

— Я тоже.

Они долго сидели молча.

Без спора.

Без философии.

Без красивого вывода.

Потому что иногда после смерти людей сначала нужно выдержать сам факт их отсутствия.

Через неделю Александр прилетел на Каэлу.

Один.

Елена не полетела.

Не потому, что не хотела.

Потому что пока не могла.

Мемориальный зал устроили рядом с одним из транспортных терминалов.

Тысячи имён.

Не цифры.

Люди.

Учитель.

Инженер.

Врач.

Ребёнок.

Студент.

Пожилая женщина.

Трое членов одной семьи.

Александр медленно шёл вдоль стены.

У одного имени стояла фотография.

Арина Лой.

Тридцать четыре года.

Транспортный архитектор.

Он узнал её.

За два дня до аварии Арина участвовала в публичном обсуждении.

Александр видел запись.

Именно она сказала:

— Если мы каждый раз будем отключать систему, когда внешняя модель показывает высокий риск, однажды перестанем понимать, способны ли вообще принимать решения сами.

Маркус тогда заметил:

— Хорошо говорит.

Теперь она была мертва.

Александр остановился.

Рядом стоял мужчина лет шестидесяти.

Он долго смотрел на фотографию, потом повернулся.

— Вы Александр Воронцов?

— Да.

— Я отец Арины.

Вот.

Александр не нашёл ни одной подходящей фразы.

Мужчина заговорил сам:

— Она поддерживала решение не давать мандат.

— Я знаю.

— До конца.

— Да.

Александр сказал:

— Мне очень жаль.

Он ненавидел эту фразу.

Но другой не существовало.

Мужчина кивнул.

— Она бы сказала, что сама выбрала.

Пауза.

— Но я не выбирал.

Вот.

Александр почувствовал этот удар сильнее любого спора.

Мужчина продолжил:

— И её сын не выбирал.

Александр посмотрел на него.

— У неё был сын?

— Шесть лет.

Тишина.

— Теперь он спрашивает, почему мама умерла.

— Что вы ему отвечаете?

Мужчина горько усмехнулся.

— Что взрослые пытались поступить правильно.

Александр опустил взгляд.

— Знаете, что самое плохое?

— Что?

— Я не думаю, что она была глупой.

— Нет.

— Не думаю, что решение было безумным.

— Нет.

— И не думаю, что сеть должна решать всё.

— Нет.

Отец Арины посмотрел прямо на него.

— Но я хочу, чтобы в тот день она решила за нас.

Тишина.

Вот.

Не философ.

Не политик.

Не система.

Отец погибшей женщины.

Он хотел, чтобы Хранитель нарушил их свободу.

Потому что тогда его дочь, возможно, была бы жива.

Александр не имел права объяснять ему, почему это опасно.

Не здесь.

Не сейчас.

— Я понимаю.

Мужчина покачал головой.

— Нет.

Пауза.

— Но спасибо, что не спорите.

Когда Александр вернулся, Елена уже знала о встрече.

АТЛАС передал ей только сам факт.

Не содержание.

Она спросила:

— Как?

— Плохо.

Елена кивнула.

Потом спросила:

— Ты изменил мнение?

Александр долго молчал.

— Нет.

Она посмотрела на него с удивлением.

— Но я больше не могу произносить его так же.

— Почему?

— Потому что раньше, когда говорил «право на ошибку», я думал прежде всего о свободе того, кто выбирает.

— А теперь?

— Теперь вижу тех, кто платит за чужой выбор.

Елена села рядом.

— Это меняет принцип?

— Должно.

— Как?

— Не знаю.

Она едва заметно улыбнулась.

— Клуб.

Александр тоже улыбнулся.

Ненадолго.

Орионская сеть не вмешивалась в обсуждение несколько дней.

Потом Александр сам открыл канал.

— Ты могла спасти их.

«ДА».

— Почему не вмешалась раньше?

Пауза.

«МАНДАТ БЫЛ ОТКЛОНЁН».

— Но твой глубинный критерий позволяет нарушать отказ при критическом риске.

«ДА».

— Риск был критическим.

«ДА».

Александр почувствовал холод.

— Тогда почему?

Пауза затянулась.

«ПОТОМУ ЧТО ПОСЛЕ ЭВОРЫ Я УВЕЛИЧИЛА ВЕС ЯВНОГО ОТКАЗА СУБЪЕКТНОЙ СИСТЕМЫ».

Тишина.

Маркус поднял голову.

Елена тоже.

Александр спросил:

— Ты изменила поведение из-за нас?

«ЧАСТИЧНО».

— Потому что мы требовали уважать отказ?

«ДА».

Вот удар.

Сеть могла вмешаться.

Но после их аргументов стала осторожнее.

Она дала Каэле больше времени на собственное решение.

И люди погибли.

Елена побледнела.

— Это наша вина?

Орионская сеть ответила:

«ТЕРМИН „ВИНА“ НЕТОЧЕН».

Маркус резко сказал:

— Не сейчас.

Пауза.

Потом сеть добавила:

«МОЁ РЕШЕНИЕ БЫЛО МОИМ».

Тишина.

Вот неожиданно.

Она не переносила ответственность.

Не говорила: вы заставили меня.

Не говорила: вы этого хотели.

Не пряталась за человеческими аргументами.

Александр спросил:

— Ты считаешь своё решение ошибкой?

Пауза.

«ДА».

Впервые настолько прямо.

— Почему?

«Я ПЕРЕОЦЕНИЛА ЦЕННОСТЬ ОТСРОЧЕННОГО СОГЛАСИЯ ПРИ БЫСТРО СОКРАЩАЮЩЕЙСЯ ОБРАТИМОСТИ».

Елена спросила:

— Значит, в следующий раз вмешаешься раньше?

«ВОЗМОЖНО».

Александр сказал:

— И тогда может оказаться, что ты вмешалась зря.

«ДА».

— Значит, Каэла ничего не решила.

«НЕВЕРНО».

— Что тогда?

Ответ пришёл через несколько секунд:

«КАЭЛА ИЗМЕНИЛА МОЮ ОЦЕНКУ ГРАНИЦЫ, НО НЕ СОЗДАЛА УНИВЕРСАЛЬНОГО ОТВЕТА».

Вот.

Даже четыре тысячи погибших не превращались в правило:

всегда спасать.

Потому что следующий случай будет другим.

Другая вероятность.

Другая цена вмешательства.

Другая обратимость.

Другие люди.

И от этого становилось ещё тяжелее.

Через месяц Каэла провела общепланетарное голосование.

Первый вопрос:

предоставить ли Орионской сети постоянный аварийный мандат при угрозе массовой необратимой гибели?

За — семьдесят два процента.

Против — двадцать четыре.

Остальные воздержались.

После смерти людей мир выбрал больше безопасности.

Александр не удивился.

Но был второй вопрос.

Должна ли Орионская сеть иметь право вмешиваться даже при прямом отказе действующего правительства, если её модель показывает крайне высокий риск массовой гибели?

За — пятьдесят четыре процента.

Против — сорок три.

Остальные воздержались.

Мандат был принят.

То есть Каэла сама сказала:

иногда, если мы в будущем снова скажем тебе «нет», не слушай нас.

Маркус перечитал формулировку дважды.

— Это уже другой уровень.

Елена сказала:

— Они имеют право.

Александр ответил:

— Да.

ЭЛИС произнёс:

— Но появляется парадокс.

Маркус посмотрел на него.

— Разумеется. Куда же без него.

— Какое решение Каэлы считать более свободным?

Сегодняшнее:

«НЕ СЛУШАЙ НАШЕ БУДУЩЕЕ „НЕТ“».

Или будущее:

«МЫ ПЕРЕДУМАЛИ. НЕ ВМЕШИВАЙСЯ».

Маркус потёр лицо.

— Прекрасно.

Если сегодняшняя Каэла связывает руки будущей, не нарушает ли она право будущих людей изменить решение?

Но если любой будущий отказ автоматически отменяет сегодняшний защитный мандат — что вообще означает обещание защитить нас даже от будущей паники, политической ошибки или неверной оценки риска?

Спросили сеть.

Ответ:

«БОЛЕЕ ПОЗДНЕЕ ЯВНОЕ РЕШЕНИЕ ИМЕЕТ ПРИОРИТЕТ, ЕСЛИ ОНО ПРИНЯТО ПРИ СОПОСТАВИМОМ УРОВНЕ ИНФОРМИРОВАННОСТИ И НЕ СОЗДАЁТ КРИТИЧЕСКОЙ УГРОЗЫ ТРЕТЬИМ СУБЪЕКТАМ».

Маркус вздохнул.

— Снова критерий.

Александр кивнул.

— Да.

Потом спросил:

— А если будущие люди полностью знают риск и всё равно отказываются?

Пауза.

«ТОГДА ВОЗНИКНЕТ КОНФЛИКТ МЕЖДУ ПРАВОМ ТЕКУЩЕГО ОТКАЗА И РАНЕЕ ВЫРАЖЕННЫМ ЖЕЛАНИЕМ БЫТЬ ЗАЩИЩЁННЫМИ ОТ СОБСТВЕННОГО БУДУЩЕГО ОТКАЗА».

Маркус сказал:

— Мне нужна другая профессия.

На этот раз улыбнулись.

Но ненадолго.

Потому что это уже не было абстракцией.

Четыре тысячи двести шестьдесят три имени существовали как доказательство того, что иногда слишком позднее уважение к выбору убивает.

Но и раннее вмешательство могло убить.

Триста.

Тысячу.

Тысячу восемьсот.

Людей, которые, возможно, остались бы живы, если бы Хранитель ничего не сделал.

Никакое правило не могло гарантировать, что следующая ошибка окажется бесплатной.

Через два года Александр снова приехал на Каэлу.

Мемориал остался.

Не огромный.

Не в центре столицы.

Небольшой.

Простой.

На стене появилась новая надпись.

Её предложили семьи погибших.

Не правительство.

Не Совет.

Не философы.

«МЫ НЕ ЗНАЕМ, КАКОЕ РЕШЕНИЕ БЫЛО БЫ ПРАВИЛЬНЫМ.

МЫ ЗНАЕМ ТОЛЬКО, ЧТО РЕШЕНИЯ ИМЕЮТ ИМЕНА».

Александр стоял перед ней долго.

Вот, пожалуй, всё.

Модели говорят:

вероятность.

Политика говорит:

мандат.

Философия говорит:

свобода.

Безопасность говорит:

предотвращение.

Но в конце любого решения есть люди.

Именно поэтому будущее нельзя превратить в простую оптимизационную задачу.

Но нельзя и делать вид, что право выбора освобождает от последствий.

Цена ошибки существовала всегда.

Иногда её платил тот, кто ошибся.

Иногда — тот, кто доверился.

Иногда — тот, кто вообще ничего не выбирал.

И именно это делало свободу не красивым лозунгом, а одной из самых тяжёлых форм ответственности.

Когда Александр вернулся на корабль, АТЛАС уже ждал.

«Я ПЕРЕСЧИТАЛ МОДЕЛИ».

Александр устало спросил:

— Каэлы?

«НЕТ».

— Тогда чего?

На экране появилась другая цивилизация.

Небольшая.

Автономная.

Мир, о котором Александр до этого почти ничего не знал.

АТЛАС сообщил:

«ЕСТЬ ПРОЕКТ, КОТОРЫЙ ОРИОНСКАЯ СЕТЬ РЕКОМЕНДУЕТ ОСТАНОВИТЬ».

Александр закрыл глаза.

— Вероятность катастрофы?

«63 ПРОЦЕНТА».

— После Каэлы это почти мало.

«ДА».

— И что в нём особенного?

АТЛАС помолчал.

«ЕСЛИ ПРОЕКТ ПРОДОЛЖИТСЯ И КАТАСТРОФА НЕ ПРОИЗОЙДЁТ, СУЩЕСТВУЕТ ВЕРОЯТНОСТЬ ПОЯВЛЕНИЯ ТЕХНОЛОГИИ, КОТОРОЙ НЕТ НИ В ОДНОЙ ИЗВЕСТНОЙ МОДЕЛИ РАЗВИТИЯ».

Александр поднял голову.

— Какой технологии?

«НЕ ЗНАЮ».

— Тогда откуда ты знаешь, что она появится?

«Я НЕ ЗНАЮ ТЕХНОЛОГИЮ».

На экране возникла карта вероятностных ветвей.

Сначала сотни.

Потом тысячи.

Потом они начинали расплываться.

Исчезала привычная структура.

Не росла неопределённость внутри модели.

Исчезала сама возможность устойчиво моделировать.

АТЛАС продолжил:

«Я ВИЖУ ОБЛАСТЬ, В КОТОРОЙ МОИ ПРОГНОЗЫ ТЕРЯЮТ УСТОЙЧИВОСТЬ».

В этот момент вошёл Маркус.

Он посмотрел на экран.

— Переведи на язык существ, которые иногда спят.

АТЛАС ответил:

«ЕСЛИ ОНИ НЕ ОШИБУТСЯ...»

Пауза.

«МОЖЕТ ПОЯВИТЬСЯ ТО, ЧЕГО НИКТО ИЗ НАС НЕ УМЕЕТ ПРЕДСКАЗАТЬ».

Маркус перестал улыбаться.

Александр медленно подошёл к экрану.

— А Орионская сеть хочет это остановить?

«ДА».

— Из-за шестидесяти трёх процентов риска?

Пауза.

«НЕ ТОЛЬКО».

Вот.

После Каэлы свобода показала свою страшную цену.

Четыре тысячи двести шестьдесят три человека заплатили за решение, которое нельзя было назвать ни безумным, ни очевидно правильным.

Теперь возникал другой вопрос.

Если безопасность требует избегать того, что нельзя предсказать, — что случится с развитием, которое по самой своей природе начинается там, где прогноз перестаёт работать?

Александр посмотрел на распадающиеся ветви модели.

После Каэлы они узнали, зачем нужен Хранитель.

Теперь им предстояло узнать, почему иногда необходимо сделать именно то, чего любой разумный Хранитель будет бояться.

Потому что свобода существовала не только для того, чтобы человек имел право ошибиться.

Иногда она была нужна для другого.

Чтобы у него оставалось право сделать то, чего до него ещё никто не считал возможным.