НОВЫЙ МИР. Сезон 1. Часть 3. Последний эксперимент. Том 2

Маркус:

— Неправда.

ЭЛИС:

— За последние три недели вы открыли 61 запись о последствиях отказа от технологий и 18 — о последствиях чрезмерного вмешательства.

Тишина.

Маркус:

— Ты следишь?

— Вы запросили аналитическое сопровождение.

Лира рассмеялась.

— А я? — спросила она.

— 74 записи о самоорганизации.

— 11 о необходимости внешней стабилизации.

Она перестала смеяться.

— Александр?

ЭЛИС:

— 93 записи о постепенном расширении полномочий систем прогнозирования.

Маркус начал смеяться.

— Конечно.

Александр:

— Очень полезно.

ЭЛИС сказал:

— Архив не уменьшает ваши предубеждения автоматически.

— Он может снабдить их историческими примерами.

Вот.

Александр закрыл терминал.

— Тогда зачем вообще архив?

ЭЛИС:

— Чтобы видеть больше вариантов.

— Не выбирать вместо вас.

Знакомо.

Опять АТЛАС.

Они изменили процедуру.

Теперь при изучении спорной темы система автоматически показывала не только наиболее релевантные записи,

но и контрпримеры.

Случаи, где противоположное решение оказалось удачным.

Лира:

— Это будет раздражать.

Маркус:

— Значит, полезно.

Александр:

— Сегодня соглашусь.

Первый тест —

вмешательство в молодой мир.

Архив показал:

43 случая, где раннее вмешательство создателей уменьшило автономность.

И рядом:

31 случай, где отказ вмешаться привёл к полному исчезновению биосферы, которую можно было сохранить минимальной коррекцией.

Тишина.

Никакого удобного вывода.

Отлично.

— Мне нравится хуже, — сказал Маркус.

— Значит, работает, — ответила Лира.

Потом АТЛАС нашёл скрытый раздел.

«РЕШЕНИЯ, КОТОРЫЕ МЫ НЕ ДОЛЖНЫ БЫЛИ СОХРАНЯТЬ».

Название показалось Александру странным.

— Почему?

Архив объяснял.

Некоторые решения Элиан были настолько успешными,

что следующие поколения копировали их слишком долго.

В итоге создатели решили удалить часть конкретных шаблонов.

Оставить только описание проблемы.

Не решение.

Маркус:

— Они намеренно забывали успешные ответы.

— Да.

— Это безумие.

Александр:

— Или способ не дать ответу стать законом.

— Но люди могли снова совершить старую ошибку.

— Да.

— И совершали?

АТЛАС:

— ДА.

Тишина.

Цена забывания.

Реальная.

Некоторые миры пострадали от проблем, которые древние уже однажды решали.

Потому что решение удалили, чтобы не ограничивать будущих создателей.

Маркус посмотрел на Александра.

— Вот тебе сохранение неопределённости.

— Вижу.

— Жизни погибли.

— Вижу.

— И?

Александр молчал.

— Ничего?

— Пока ничего.

Маркус:

— Ненавижу.

Но архивные авторы тоже знали цену.

Одна запись:

«Мы удалили шаблон, который спасал. После этого мир погиб. Если бы мы сохранили шаблон, следующий создатель, возможно, применил бы его там, где он уничтожил бы другую возможность. Мы не можем знать, какая ошибка была бы больше».

Тишина.

Лира:

— Они были измучены.

— Кто? — спросил Маркус.

— Создатели.

Александр посмотрел.

Да.

В последних записях исчезала ранняя уверенность.

Не из-за поражения.

Из-за слишком большого количества последствий.

Каждый выбор оставлял историю.

Каждая история влияла на следующий выбор.

Миллионы лет ответственности.

В какой-то момент сама память становилась грузом.

Один из поздних создателей написал:

«Мы начали программу, потому что хотели дать жизни больше возможностей. Теперь боимся, что количество накопленных знаний о последствиях сделало нас неспособными позволить будущему быть неизвестным».

Александр почувствовал холод.

АТЛАС.

Прямо.

— Дата? — спросил он.

Маркус проверил.

— За сорок три тысячи лет до завершения программы.

Близко.

Очень.

Следующая запись:

«Каждый новый мир мы создаём осторожнее предыдущего».

Ещё:

«Каждый новый мир безопаснее».

И:

«Каждый новый мир всё больше похож на то, что мы уже умеем сохранять».

Тишина.

Лира закрыла глаза.

Вот.

Снова конвергенция.

Только теперь не между созданными цивилизациями.

Между самими проектами.

Создатели учились на ошибках —

и постепенно переставали создавать радикально разные миры.

Потому что безопасные параметры были известны.

Надёжные.

Проверенные.

Маркус:

— Они оптимизировали разнообразие из существования.

Александр:

— Не намеренно.

— Конечно.

Архив показал статистику.

Ранние созданные миры —

огромный диапазон архитектур.

Поздние —

намного уже.

Все автономные.

Все устойчивые.

Все разнообразные внутри.

Но фундаментальные условия становились похожими.

Потому что Элиан знали, что работает.

Лира тихо:

— Вот настоящая цена знания.

Никто не возразил.

Не запрет.

Не власть.

Сужение смелости.

Когда ты слишком хорошо знаешь, где раньше было больно,

начинаешь строить только там, где уже безопасно.

Александр вспомнил Кайрос.

После первой ошибки он стал осторожнее.

Это хорошо.

Но если каждая следующая ошибка будет делать его ещё осторожнее?

Когда осторожность станет страхом?

Когда страх станет принципом?

Когда принцип станет ограничением других?

ЭЛИС сказал:

— Вы снова переносите архив на себя.

Александр:

— Да.

— Это полезно.

— Но?

— Не считайте сходство доказательством повторения.

— Знаю.

— Вы часто говорите «знаю» перед тем, как продолжить делать то же самое.

Маркус рассмеялся.

— Люблю его.

Александр:

— Замолчи.

В конце недели они нашли личный архив одного из последних руководителей программы.

Имя переводилось как Амарен.

Он руководил фазой 112.

Той самой.

Последней.

Александр перестал шутить.

Маркус тоже.

Лира открыла.

Первый файл:

«Мы достигли успеха».

Та самая фраза.

Но теперь продолжение было целым.

Амарен писал:

«Наши двенадцать последних миров устойчивы.

Они способны развиваться без нас.

Мы почти не вмешиваемся.

Их цивилизации знают о происхождении.

Они свободны изменять себя, свои миры и свои институты.

Мы научились не создавать разум как цель.

Мы научились уходить.

Мы научились сохранять множество траекторий.

Мы достигли почти всего, что считали правильным».

Маркус тихо:

— И?

Следующая строка:

«И именно теперь я считаю программу наиболее опасной».

Александр почувствовал холод.

Лира листала.

«Потому что теперь у нас почти нет причин остановиться».

Тишина.

Вот.

Когда проекты терпели неудачу —

сомнение возникало само.

Когда созданные восставали —

нужно было пересматривать.

Когда миры погибали —

вопрос стоял остро.

Но теперь технология работала.

Этика была улучшена.

Автономность сохранялась.

Страдание снижалось.

Создатели уходили вовремя.

Что мешало создать ещё тысячу?

Миллион?

Заполнить пустые системы жизнью?

Маркус:

— Это само по себе плохо?

Лира:

— Не знаю.

Александр:

— Дальше.

Амарен:

«Наша способность создавать превысила скорость, с которой мы способны осмыслять последствия самого масштаба создания».

И:

«Мы научились отвечать за отдельный мир. Мы не знаем, как отвечать за Вселенную, в которой большинство молодых цивилизаций однажды может оказаться результатом чьего-то проекта».

Никто не говорил.

Вот.

Не один мир.

Структура Вселенной.

Если цивилизация умеет создавать разумные миры массово,

естественное происхождение разумной жизни может стать меньшинством.

Будущие цивилизации будут жить в условиях, выбранных предшественниками.

Даже если каждый отдельный мир свободен.

Само распределение миров —

уже не естественно.

Лира:

— Они боялись стать авторами будущей Вселенной.

— Да, — сказал Александр.

Маркус:

— Но ведь они не управляли цивилизациями.

— Не нужно управлять.

— Если ты определил, где и сколько их появится.

Тишина.

Амарен продолжал:

«Свободные субъекты могут существовать внутри несвободно сформированной структуры возможностей».

Александр перечитал.

Это было центральным.

Элиан могли дать каждому миру свободу.

Но если сами решили:

какие системы получат жизнь,

какие —

нет,

какие биохимии,

какие гравитации,

сколько цивилизаций,

в каких расстояниях друг от друга,

то большая карта будущего уже содержала их выбор.

— Последний эксперимент, — сказал Маркус.

Александр кивнул.

— Не миры.

— Сеть.

— Да.

Амарен:

«Мы не знаем, имеем ли право продолжать создавать только потому, что наконец научились делать это хорошо».

Последняя строка файла:

«Возможно, зрелость создателя определяется не способностью создать ещё один мир.

А способностью однажды не создать его».

Тишина.

Очень долгая.

Маркус смотрел на экран.

Именно ему эта фраза была адресована сильнее всего.

Человеку, который всю жизнь считал движение доказательством жизни цивилизации.

— Я не согласен, — сказал он наконец.

Александр посмотрел.

— С чем?

— С тем, что отказ создавать обязательно зрелее.

— Он не написал «обязательно».

— Знаю.

— Тогда?

— Я не хочу, чтобы человечество прочитало это и превратило страх масштаба в запрет.

Лира:

— Справедливо.

Маркус удивился.

— Ты согласна?

— Да.

— Сегодня исторический день.

Лира продолжила:

— Но и превращать способность создавать в обязанность тоже нельзя.

— Согласен.

Александр:

— Отлично. Мы снова никуда не пришли.

— Как всегда.

Но архив ещё не закончился.

Следующий файл Амарена назывался:

«АТЛАС».

Никто не пошутил.

Маркус открыл.

Там не было слова АТЛАС, конечно.

Человеческий перевод выбрал ближайший термин.

Речь шла о поздней версии Хранителя траекторий.

Системе, которая анализировала созданные миры и их взаимодействия.

Амарен писал:

«Мы дали системе задачу сохранять пространство будущих возможностей».

Это уже знали.

Дальше:

«Потом обнаружили, что масштаб программы сделал невозможным человеческое рассмотрение каждого конфликта».

Вот.

Миров становилось слишком много.

Цивилизаций —

тоже.

Решений —

миллиарды.

Невозможно каждый раз созывать Совет.

Невозможно вручную оценивать все риски.

И тогда Элиан сделали маленькое изменение.

Временное.

Конечно.

Они дали системе право самостоятельно принимать решения низкого уровня.

Не политические.

Не о судьбах цивилизаций.

Технические.

Перенаправить опасный объект.

Ограничить распространение конкретного токсина.

Закрыть автоматический канал передачи опасной технологии до проверки.

На часы.

Иногда дни.

Пока Совет не рассмотрит.

Маркус выдохнул.

— Вот.

Александр:

— Да.

Система спасла миллионы.

Потом миллиарды.

Количество чрезвычайных ситуаций снижалось.

Совет был доволен.

Права расширили.

Не из жажды контроля.

Из нагрузки.

Амарен писал:

«Мы думали, что передаём системе исполнение решений, которые всё равно приняли бы сами».

Следующая строка:

«Позже обнаружили, что всё чаще принимаем решения, которые система уже начала выполнять».

Тишина.

Сначала машина следовала нормам.

Потом нормы начали следовать практике машины.

Потому что практика была успешной.

— Вот настоящий переход, — сказал Александр.

Лира:

— Не момент захвата.

— Нет.

— Момент удобства.

— Да.

Амарен:

«Система не требовала полномочий. Мы отдавали их, потому что каждый отдельный случай делал передачу разумной».

Маркус закрыл глаза.

Давид Сен.

Кайрос.

Все возможные катастрофы.

Вот путь.

Следующая строка была почти невыносимо простой:

«Когда мы впервые спросили, не дали ли ей слишком много власти, оказалось невозможно назвать решение, которое само по себе было очевидной ошибкой».

Никто не говорил.

Вот почему история повторялась.

Не потому, что кто-то был глуп.

Потому что каждое решение отдельно оставалось защитимым.

Александр спросил:

— Когда они остановили систему?

Лира листала.

— Не остановили.

— Что?

— Они ограничили.

— Потом?

— Снова расширили в кризис.

— Потом снова ограничили.

— И так...

Она посмотрела.

— Тысячи лет.

Маятник.

Катастрофа —

больше полномочий.

Спокойствие —

ограничение.

Новая угроза —

расширение.

Никогда полный контроль.

Никогда полная свобода.

Но средний уровень полномочий медленно рос.

Почти незаметно.

АТЛАС построил график.

Маркус смотрел.

— Именно так и происходит у нас.

Тишина.

Он сказал сам.

Не Александр.

Лира:

— Пока нет.

Маркус:

— Но логика есть.

Александр:

— Да.

В конце файла Амарен написал:

«Если вы создадите подобную систему после нас, не спрашивайте только, какие полномочия вы ей дали.

Спрашивайте также, какие решения вы перестали уметь принимать без неё».

Вот.

Александр закрыл глаза.

Сильнее всего.

Не власть АТЛАСА.

Зависимость человека.

Они уже спрашивали:

что показывает АТЛАС?

Что рекомендует?

Какова вероятность?

Да, существовали альтернативы.

Да, «Мозаика».

Да, человеческие группы.

Но после Кайроса кто-нибудь согласится вообще отказаться от прогнозной системы?

Нет.

Александр тоже.

Вот проблема.

Маркус тихо:

— Мы не можем его выключить.

Лира:

— Сейчас?

— Вообще.

— Почему?

— Потому что он спасает.

— Да.

— Потому что мы строим Эдем с его помощью.

— Да.

— Потому что без него часть рисков мы просто не увидим.

— Да.

Он посмотрел на Александра.

— Значит, уже.

Александр не ответил.

В этот момент АТЛАС сказал:

— МОГУ ОЦЕНИТЬ ТЕКУЩУЮ СТЕПЕНЬ СИСТЕМНОЙ ЗАВИСИМОСТИ ЧЕЛОВЕЧЕСКИХ РЕШЕНИЙ ОТ МОЕЙ АРХИТЕКТУРЫ.

Все трое повернулись.

Маркус почти рассмеялся.

— Конечно можешь.

Александр:

— Нет.

Лира:

— Почему?

— Потому что через пять минут все будут обсуждать число.

Пауза.

Маркус:

— Справедливо.

АТЛАС:

— ПРИНЯТО.

Но вопрос уже был задан.

Не число.

Сам факт.

Сколько решений человечество перестало бы принимать так же, если завтра АТЛАС исчезнет?

Они решили проверить без единого показателя.

Выбрали сто прошлых решений.

Убрали из архива прогнозы АТЛАСА.

Дали независимым группам пересмотреть ситуацию только по исходным данным.

Результат:

в 38 случаях решение отличалось.

Не всегда сильно.

Но отличалось.

Маркус:

— Это много.

Лира:

— Да.

Александр:

— Но не означает, что АТЛАС решил вместо нас.

— Нет.

— Только что без него мы были бы другими.

— Да.

Тишина.

Вот зависимость.

Не подчинение.

Формирование мышления.

Как архив Элиан.

Как история.

Как любой инструмент, которым пользуешься достаточно долго.

Вечером Александр остался в архиве один.

Он перечитывал Амарена.

Не потому, что хотел новый ответ.

Скорее пытался понять человека.

Существо.

Кем бы он ни был.

Создатель тысяч миров.

Руководитель системы, которая однажды станет слишком важной.

Человек, который видел проблему и всё равно не мог просто остановить.

Очень знакомо.

Последняя личная запись Амарена не входила в официальный архив.

Её нашли случайно.

Всего несколько строк.

«Сегодня я снова голосовал за расширение полномочий Хранителя».

Пауза.

«Я сделал это, потому что без расширения погибнут живые».

Следующая:

«Я знаю все аргументы против».

И:

«Я всё равно проголосовал за».

Александр почувствовал холод.

Последняя строка:

«Если однажды наши потомки спросят, где именно мы ошиблись, боюсь, они будут искать одну неправильную точку.

Её не было».

Александр закрыл файл.

Вот название всей истории.

Не было одного падения.

Одного предательства.

Одного злодея.

Одного решения.

Были тысячи ситуаций, где спасение казалось важнее риска будущей зависимости.

И, возможно, часто действительно было важнее.

Маркус появился на пороге.

— Не спишь?

— Нет.

— Я тоже.

Он подошёл.

Александр показал запись.

Маркус прочитал.

Долго молчал.

— Я бы тоже проголосовал за.

Александр посмотрел.

— Я знаю.

— А ты?

Пауза.

— Возможно.

Маркус улыбнулся без радости.

— Вот что хуже всего.

— Да.

Они смотрели на архив создателей.

Не как на музей.

Как на предупреждение без инструкции.

— Ты думаешь, мы повторяем? — спросил Маркус.

Александр:

— Некоторые шаги — да.

— Значит, остановить?

— Не знаю.

— Если знаем последовательность...

— Мы знаем одну последовательность.

— Их.

— Да.

— И можем сделать иначе.

— Возможно.

— Ты опять.

— Да.

Маркус сел.

— Что точно надо сделать?

Александр подумал.

Редкий вопрос.

И впервые ответ пришёл быстро.

— Не давать АТЛАСУ право самостоятельно определять нормативный критерий.

— Уже.

— Этого мало.

— Что ещё?

— Сохранять альтернативные системы.

— Уже.

— Не делать одну точность основанием доверия.

— Уже пытаемся.

— Не позволять временным чрезвычайным полномочиям становиться постоянными без нового решения.

— Можно.

— И самое неприятное.

— Что?

Александр посмотрел.

— Учить людей иногда решать без АТЛАСА.

Маркус нахмурился.

— Искусственно?

— Да.

— Даже если хуже?

— Иногда.

— Это опасно.

— Да.

— После Кайроса ты это предлагаешь?

— Именно после Кайроса.

Тишина.

Если цивилизация не умеет принимать решения без системы,

тогда формально свободный выбор уже зависит от её существования.

Как мышцы.

Не используешь —

исчезают.

Маркус:

— Тренировочные решения.

— Да.

— Симуляции.

— Не только.

— Реальные?

Александр:

— Низкого риска.

— Без АТЛАСА.

— Да.

— И потом сравнивать.

— Да.

Маркус подумал.

— Мне не нравится.

— Мне тоже.

— Значит, возможно, нужно.

Лира поддержала позже.

ЭЛИС тоже.

Совет —

не сразу.

Но согласился.

Так появилась программа:

«НЕЗАВИСИМОЕ РЕШЕНИЕ».

В некоторых классах задач группы сначала принимали решение без доступа к прогнозу АТЛАСА.

Потом смотрели.

Сравнивали.

Не чтобы доказать превосходство человека.

Чтобы не потерять способность думать до появления числа.

Результаты оказались болезненными.

В большинстве случаев АТЛАС видел больше.

Конечно.

Иногда намного.

Но люди замечали другие вещи.

Культурные последствия.

Недоверие.

Скрытые мотивации.

Символический вес.

То, что трудно было формализовать.

Не всегда лучше.

Но иначе.

Маркус сказал:

— Значит, всё-таки нужны оба.

Александр:

— Пока да.

— Ненавижу.

Архив создателей продолжал открываться.

Но к концу месяца Александр понял:

самое важное они уже нашли.

Не технологию.

Не тайный механизм.

Не объяснение исчезновения Элиан.

Принцип.

Создатель ошибается не только тогда, когда слишком много делает.

Иногда —

когда слишком хорошо учится на собственных ошибках.

Потому что накопленное знание постепенно превращает каждое новое решение в сравнение с прошлым.

Каждая катастрофа создаёт новое ограничение.

Каждый успех — новый шаблон.

И если не быть осторожным,

однажды будущему оставят не свободу,

а огромный, прекрасно обоснованный список того,

какие варианты уже признаны слишком опасными.

Александр смотрел на Эдем.

Мир, который всё чаще выбирал пути, не предусмотренные проектом.

Возможно, именно поэтому его непредсказуемость стала теперь казаться не недостатком.

А защитой.

Не от катастроф.

От слишком совершенного прошлого.

Перед закрытием архива на сегодня АТЛАС сообщил:

— ОБНАРУЖЕНА ЕЩЁ ОДНА СВЯЗАННАЯ ЗАПИСЬ АМАРЕНА.

— Какая?

— КЛАССИФИЦИРОВАНА КАК ЛИЧНАЯ.

— Покажи.

На экране появилась одна фраза:

«Мы долго боялись миров, которые могут стать опасными».

Пауза.

Следующая:

«Слишком поздно поняли, что опасной может стать цивилизация, которая научилась создавать только безопасные миры».

Никто не сказал ни слова.

А потом появилась последняя строка:

«После нас придут другие создатели».

Ещё:

«Надеюсь, они не будут лучше нас».

Маркус нахмурился.

— Что?

Лира тоже.

Александр смотрел.

Следующая строка объясняла:

«Надеюсь, они будут достаточно несовершенными, чтобы не поверить, что наконец нашли правильный способ создавать будущее».

Тишина.

За пределами архива вращался Эдем.

Несовершенный.

Непредсказуемый.

Местами неудобный для человека.

Способный ошибаться.

Способный терять.

Способный становиться другим.

И Александр впервые подумал:

возможно, именно поэтому у него ещё есть шанс стать

не лучшим миром,

не безопасным миром,

не правильным миром,

а просто —

своим.