Надежда Порошина
НОВЫЙ МИР. Сезон 1. Часть 3. Последний эксперимент. Том 2

ЧАСТЬ III. ЭЛИАН

.

Глава 11. Архив создателей

Архив Элиан оказался хуже любых предупреждений.

Не потому, что содержал преступления.

Не потому, что древняя цивилизация скрывала массовые эксперименты.

И даже не потому, что человечество обнаружило новые доказательства вмешательства в чужие миры.

Хуже было другое.

Элиан слишком часто рассуждали правильно.

Александр понял это уже в первый день.

До сих пор древние появлялись в истории человечества фрагментами.

Архивы.

Отдельные записи.

Решения.

Ошибки.

Следы.

Иногда казалось, что Элиан были чем-то почти мифическим.

Цивилизацией, существовавшей миллионы лет.

Слишком древней.

Слишком сильной.

Слишком далёкой от человека.

Но архив создателей разрушил дистанцию.

Там были не легенды.

Там были рабочие совещания.

Споры.

Протоколы.

Личные заметки.

Отчёты о неудачных проектах.

Фразы:

«нужны дополнительные данные».

«отложить решение».

«риск недооценён».

«мы не имеем права делать вывод на основании одного мира».

Слишком знакомо.

— Они похожи на нас, — сказала Лира.

Маркус смотрел на стену записей.

— Хуже.

— Почему?

— Потому что они умнее.

Александр:

— Это не гарантирует правильных решений.

— Я именно об этом.

Новый сектор архива нашли не случайно.

После Кайроса АТЛАС пересматривал модели вмешательства и обнаружил несколько ссылок на поздние программы Элиан, которые раньше считались техническими.

Одна повторялась особенно часто:

«АРХИВ СОЗДАТЕЛЕЙ».

Не официальное древнее название.

Человеческий перевод.

Оригинальное понятие означало приблизительно:

«память тех, кто принимает начальные решения».

Маркус сразу сказал:

— Открываем.

Александр:

— Проверяем ограничения доступа.

— Конечно.

— Вы сказали слишком быстро.

— Я учусь.

Лира:

— Плохо.

Архив оказался распределённым.

Не один узел.

Сотни.

Часть повреждена.

Часть зашифрована.

Часть уничтожена самими Элиан.

И это было интересно.

— Зачем уничтожать собственные записи? — спросила Лира.

АТЛАС ответил:

— ВЕРОЯТНАЯ ПРИЧИНА: ОГРАНИЧЕНИЕ ВЛИЯНИЯ ИСТОРИЧЕСКИХ РЕШЕНИЙ НА ПОСЛЕДУЮЩИХ СОЗДАТЕЛЕЙ.

Маркус:

— Что?

Александр понял.

— Они боялись, что новые проектировщики будут копировать старые решения.

— Именно.

В одном из сохранившихся документов было написано:

«Прецедент полезен, пока помогает увидеть последствия. Он становится опасен, когда заменяет самостоятельное решение».

Александр перечитал.

— Мне нравится.

Лира:

— Уже плохо.

— Почему?

— Скоро начнёшь цитировать.

Маркус:

— Я уже сохранил.

— Конечно.

Архив создавали после первых конфликтов с созданными цивилизациями.

После Теара.

После Орры.

После нескольких других миров, которые задали своим создателям вопросы, на которые Элиан не имели готового ответа.

И тогда древние приняли решение:

каждый крупный проект создания мира должен хранить не только технические параметры.

Но и основания выбора.

Почему такая гравитация.

Почему такой океан.

Почему такой диапазон климата.

Почему вмешались.

Почему не вмешались.

Почему остановили эволюционный процесс.

Почему позволили ему продолжиться.

Не просто:

что сделали.

А:

почему сочли допустимым сделать именно это.

Лира сказала:

— Это правильно.

Александр:

— Да.

Маркус:

— Сейчас будет «но».

— Конечно.

— И?

Александр посмотрел на архив.

— Кто потом читает основания?

— Следующие создатели.

— Вот.

Любое объяснение становилось обучающим материалом.

Через тысячи проектов сформировалась база.

Огромная.

Элиан могли посмотреть:

в таких условиях лучше не вмешиваться.

В таких — вмешательство спасало.

При таком уровне субъектности свободу надо расширять.

При таком риске —

ограничивать.

Не правило.

Статистика.

Но статистика была мощной.

АТЛАС вывел один из древних индексов:

«ПОВТОРЯЕМОСТЬ УСПЕШНЫХ РЕШЕНИЙ».

Маркус:

— Они ранжировали решения.

— Да, — сказала Лира.

— По успеху.

— Как определяли успех?

Тишина.

Вот.

Критериев было много.

Сохранение жизни.

Долгосрочная устойчивость.

Разнообразие.

Самостоятельность.

Снижение страдания.

Отсутствие войн.

Скорость развития.

Цивилизационная стабильность.

Каждый проект имел собственные веса.

Но со временем Элиан начали сравнивать.

— Снова оптимизация, — сказал Александр.

Маркус:

— Сравнение не равно оптимизации.

— Пока.

Лира закрыла глаза.

— Всё. Слово возвращается.

Сначала архив действительно был памятью.

Потом стал справочной системой.

Потом —

инструментом прогнозирования.

Следующий этап возник почти неизбежно:

если предыдущие решения известны и последствия известны,

почему не использовать их для выбора следующего?

Элиан создали Совет оснований.

Не искусственный интеллект.

Группа специалистов.

Философы.

Биологи.

Исследователи цивилизаций.

Технические архитекторы.

Представители созданных миров.

Вот последнее удивило.

— Они включили созданных? — спросил Маркус.

— Да, — ответил Александр.

— Достаточно рано?

— Судя по архиву — после Теара.

Лира:

— Значит, слушали.

— Да.

— И всё равно пришли туда, куда пришли.

Вот что пугало.

Совет не принимал решения.

Формально.

Он выдавал заключения.

Допустимо.

Недостаточно данных.

Высокий риск ограничения будущей автономии.

Вмешательство оправдано непосредственной угрозой.

Очень знакомо.

Александр прочитал несколько протоколов.

Они были хорошими.

Честными.

С сомнениями.

С разногласиями.

Члены Совета часто писали:

«Необходимо оставить решение локальным субъектам».

Или:

«Наличие способности предотвратить не является достаточным основанием для вмешательства».

Александр остановился.

— Это буквально наши формулировки.

Маркус:

— Некоторые мысли просто логичны.

— Именно поэтому страшно.

Лира посмотрела.

— Ты опять боишься сходства?

— Нет.

— Тогда?

— Я боюсь считать, что если наши правила звучат правильно, значит, история закончится иначе.

Тишина.

В архиве был отдельный раздел:

«ОШИБКИ СОЗДАТЕЛЕЙ».

Маркус открыл первым.

Александр хотел остановить.

Не стал.

Ошибка 1:

«ПРЕЖДЕВРЕМЕННАЯ СТАБИЛИЗАЦИЯ».

Создатели слишком рано вмешивались в экосистемные кризисы.

Миры становились устойчивыми —

но зависимыми.

Почти как первые модели Эдема.

Ошибка 2:

«ПРОЕКТИРОВАНИЕ РАЗУМА КАК ЦЕЛИ».

Попытки увеличить вероятность появления технологической цивилизации сокращали биологическое разнообразие и повышали сходство созданных обществ.

Маркус тихо:

— Мы это уже решили не делать.

Александр:

— Они тоже решили.

Маркус замолчал.

Ошибка 3:

«ЗАЩИТА СОЗДАННЫХ ОТ ПОСЛЕДСТВИЙ СОБСТВЕННОЙ АВТОНОМИИ».

Лира прочитала дважды.

— Вот.

Элиан признали:

если разумная цивилизация получает право выбирать,

создатель должен допустить, что часть решений будет плохой.

Иначе автономия условна.

Очень красиво.

Но ниже:

«Исключение: действия, создающие необратимую угрозу другим субъектам».

Александр улыбнулся без радости.

— Конечно.

Маркус:

— Это разумное исключение.

— Да.

— Тогда почему такой тон?

— Потому что почти все большие вмешательства начинаются с разумного исключения.

Ошибка 4:

«ПЕРЕНОС ЛОКАЛЬНОГО УСПЕХА В УНИВЕРСАЛЬНЫЙ ПРИНЦИП».

Все трое замолчали.

Лира:

— Они знали.

— Да.

— Прямо знали.

— Да.

Маркус:

— И?

Александр листал дальше.

— Продолжали.

Следующий документ был написан через двести тысяч лет.

В нём те же слова.

Но уже появилось новое понятие:

«НАКОПЛЕННОЕ ОСНОВАНИЕ».

Если решение в похожих условиях много раз приводило к хорошему результату,

его можно считать более обоснованным.

Не обязательным.

Но более.

Сначала немного.

Потом сильнее.

АТЛАС показал динамику.

Через первые десять тысяч проектов:

человеческий аналог уверенности в рекомендациях Совета —

около 58%.

Через сто тысяч:

73%.

Через несколько сотен тысяч лет:

91%.

Маркус смотрел.

— Они стали хорошо прогнозировать.

— Да.

— И что плохого?

Александр:

— Пока ничего.

Лира:

— Не говори.

Чем точнее становились рекомендации,

тем реже проектные группы от них отклонялись.

Потому что зачем?

Если за миллионы лет накоплены данные.

Если решение с определёнными параметрами почти всегда приводит к меньшему риску.

Если можно не повторять старые ошибки.

Рационально.

Один молодой Элиан написал:

«Отказ использовать накопленное знание из уважения к уникальности текущего случая является формой интеллектуального тщеславия».

Маркус:

— Сильная фраза.

Александр:

— И опасная.

— Конечно.

Другой ответил:

«Использование накопленного знания как замены самостоятельного морального решения является формой исторического подчинения».

Лира улыбнулась.

— Вот этот мне нравится.

Маркус:

— Предвзято.

Спор продолжался почти сто тысяч лет.

Не один и тот же человек, конечно.

Поколения.

Школы.

Цивилизации.

Но линия была одна:

насколько прошлое имеет право определять будущее?

Александр подумал о себе.

Алексей.

Елена.

Аэрион.

Хранители.

Элиан.

Сколько раз он сам спрашивал:

«Что они сделали?»

Чтобы понять, что делать сейчас.

Разве это не тот же архив?

— Маркус.

— Что?

— Зачем ты пригласил меня в Эдем?

Маркус удивился.

— Мы это обсуждали.

— Потому что Алексей Воронцов спорил с тобой.

— Частично.

— То есть ты использовал исторический прецедент.

— Человека, не правило.

— Но искал знакомый тип мышления.

— Да.

— Значит, даже мой выбор был частично результатом архива.

Маркус:

— Ты сейчас пытаешься доказать, что всё причинно связано?

— Нет.

— Тогда?

Александр усмехнулся.

— Просто неприятно понимать, насколько мало решений начинается с чистого листа.

Лира:

— Ни одно.

Архив создателей содержал раздел, который назывался почти поэтически:

«ТЕ, КТО ПРИДУТ ПОСЛЕ НАС».

Это были обращения будущим создателям.

Не инструкции.

Предупреждения.

Первая запись:

«Если вы читаете это до принятия решения, помните: наши ошибки уже изменили то, что вы считаете осторожностью».

Александр остановился.

Вторая:

«Не принимайте наше раскаяние за доказательство того, что обратный выбор всегда лучше».

Третья:

«Мы не знаем, какие наши запреты спасли миры, которые иначе исчезли бы».

Четвёртая:

«Мы не знаем, какие наши спасения уничтожили будущее, которое могло возникнуть без нас».

Тишина.

Маркус сказал:

— Они всё понимали.

Лира:

— Нет.

— Что?

— Они понимали проблему.

— Это не то же самое, что знать решение.

Александр посмотрел на неё.

— Да.

Одна запись принадлежала создателю по имени Эр-Ваан.

Он участвовал в проектировании двадцати трёх миров.

Семнадцать развились успешно.

Три погибли.

Два никогда не породили сложной жизни.

Один создал цивилизацию, которая позднее потребовала уничтожить все следы вмешательства Элиан.

Его последнее обращение:

«Я больше не уверен, что успех созданного мира можно считать успехом создателя».

Маркус перечитал.

— Почему?

Лира открыла продолжение.

«Если мир способен стать самостоятельным, его успех принадлежит ему. Если не способен — возможно, наш проект не достиг цели».

Тишина.

Александр посмотрел на Эдем.

Вот.

Человечество уже начинало говорить:

наш успех.

Первый дождь.

Первая биосфера.

Саморегуляция.

Но если Эдем действительно станет самостоятельным —

в какой момент людям придётся перестать приписывать его достижения себе?

Маркус сказал:

— Я всё равно буду гордиться.

Александр:

— Это другое.

— Чем?

— Гордость не равна собственности.

Маркус улыбнулся.

— Очень хорошо.

— Не начинай.

Следующий блок архива назывался:

«НЕУДАЧНЫЕ МИРЫ».

Лира открывала медленно.

Не хотела.

Но нужно.

Первый мир погиб из-за ошибки в магнитной архитектуре.

Создатели недооценили звёздную активность.

Биосфера исчезла через несколько миллионов лет.

Второй —

из-за чрезмерной климатической стабильности.

Жизнь сохранилась.

Но сложная эволюция почти остановилась.

Третий —

из-за слишком плотной сети саморегуляции.

Александр остановился.

— Подожди.

Лира прочитала внимательнее.

Мир назывался Сеор.

Он был одним из поздних проектов.

Создан примерно за сто восемьдесят тысяч лет до завершения программы.

Биосфера развивалась быстро.

Планетарные контуры были тесно связаны.

Распределённая память.

Раннее распознавание слабых сигналов.

Адаптивная устойчивость.

Почти Эдем.

— Насколько почти? — спросил Маркус.

АТЛАС:

— ФУНКЦИОНАЛЬНОЕ СХОДСТВО С ТЕКУЩЕЙ АРХИТЕКТУРОЙ ЭДЕМА — 87,2%.

Тишина.

Лира перестала двигаться.

— Что произошло? — спросил Александр.

Архив ответил.

Сеор стал слишком хорош в предотвращении кризисов.

Не сознательно.

Не субъектно.

Биосфера всё раньше распознавала изменения.

Всё эффективнее компенсировала.

Массовые вымирания прекратились.

Климатические кризисы уменьшились.

Экосистемные обвалы почти исчезли.

Маркус:

— Звучит прекрасно.

Лира:

— Дальше.

Через миллионы лет эволюционная динамика изменилась.

Не остановилась.

Но стала беднее.

Потому что крупные кризисы иногда открывают пространство новым формам.

На Сеоре система настолько хорошо сохраняла существующие взаимосвязи, что новые линии реже получали возможность вытеснить старые.

Стабильность стала консервативной силой.

Александр почувствовал холод.

— Она защищала существующее.

— Да, — сказала Лира.

— Слишком хорошо.

— Да.

Сеор не погиб.

Это было хуже.

Он остался живым.

Устойчивым.

Богатым.

Но всё менее способным к радикальному изменению.

Через сто миллионов лет большинство крупных биологических ниш занимали производные очень древних линий.

Новизна возникала.

Но редко.

И почти всегда поглощалась существующей сетью.

— Это можно назвать застоем? — спросил Маркус.

Лира:

— Осторожно.

— Функционально?

— Да.

Создатели попытались вмешаться.

Ослабить некоторые стабилизирующие связи.

Система компенсировала.

Они усилили воздействие.

Биосфера снова адаптировалась.

Элиан оказались в странной ситуации:

они создали мир, способный защищать собственную структуру —

и теперь не могли легко изменить его, не разрушив значительную часть жизни.

Александр:

— Чем закончилось?

Лира листала.

— Они ушли.

— Просто?

— Да.

— Не исправили?

— Нет.

Последняя запись о Сеоре:

«Мы не знаем, является ли его стабильность ошибкой или просто формой жизни, которая не соответствует нашим ожиданиям развития».

Тишина.

Сильная честность.

Маркус:

— Тогда почему он в разделе неудачных?

Лира прочитала примечание.

— Поздняя классификация.

— Кем?

— Другой группой.

— Значит, даже Элиан спорили, считать ли его неудачным.

— Да.

Александр улыбнулся.

— Хорошо.

Маркус:

— Почему?

— Потому что хотя бы здесь нет красивого ответа.

Но Сеор был слишком похож на Эдем, чтобы просто оставить в архиве.

Совет собрали на следующий день.

Вопрос:

может ли текущая архитектура Эдема привести к аналогичному эффекту?

АТЛАС:

— ДА.

Лира:

— Вероятность?

— НА ГОРИЗОНТЕ 100 МИЛЛИОНОВ ЛЕТ — ОТ 14 ДО 39%.

Маркус:

— Большой диапазон.

— НЕДОСТАТОЧНО ДАННЫХ О ДАЛЬНЕЙШЕЙ ЭВОЛЮЦИИ ТЕКУЩЕГО БИОСФЕРНОГО КОНТУРА.

Александр:

— Можно снизить?

— ДА.

— Как?

— УМЕНЬШИТЬ ПЛОТНОСТЬ ПЛАНЕТАРНОЙ САМОРЕГУЛЯЦИИ.

Лира сразу:

— Нет.

Маркус посмотрел.

— Даже не обсудим?

— Обсудим.

— Но ты уже против.

— Да.

— Почему? — спросил Александр.

— Потому что мы получили предупреждение о возможном состоянии через сто миллионов лет и собираемся сегодня перестраивать существующую биосферу.

— Но если видим риск?

— Какой именно риск?

— Снижение эволюционной новизны.

— А кто решил, что максимальная новизна — цель?

Маркус:

— Не максимальная.

— Тогда сколько?

Он замолчал.

Вот.

Лира продолжила:

— Сеор жив.

— Да.

— устойчив.

— Да.

— развит.

— Да.

— Может быть, он не стал тем, чем хотели Элиан.

— Это не делает его неправильным.

Тишина.

Александр почувствовал знакомое.

То же, что с фиолетовой растительностью.

Человек видит отличие от ожидания —

и называет дефектом.

Элиан сделали то же.

Даже после миллионов лет опыта.

Маркус спросил:

— А если система действительно потеряет способность к значительным изменениям?

— Тогда это будет её траектория.

— Но мы заложили механизм.

— Да.

— Значит, мы ответственны.

— Да.

— И всё равно не менять?

Лира:

— Сейчас — нет.

— Почему?

— Потому что мы не исправляем конкретный ущерб.

— Мы пытаемся оптимизировать далёкое будущее под нашу идею желательной эволюции.

Вот.

Александр поддержал.

Маркус —

после долгого спора тоже.

Не вмешиваться.

Но наблюдать.

Отдельно отслеживать показатель структурной консервации.

Не как критерий успеха.

Как параметр.

АТЛАС спросил:

— ТРЕБУЕТСЯ ЛИ УСТАНОВИТЬ ПОРОГ, ПОСЛЕ КОТОРОГО НЕОБХОДИМО ПЕРЕСМОТРЕТЬ РЕШЕНИЕ?

Лира:

— Нет.

Маркус:

— Почему?

— Потому что мы не знаем, где порог.

Александр:

— Но можно установить порог обязательного обсуждения.

Лира посмотрела.

— Это другое.

— Да.

Маркус улыбнулся.

— Я горжусь вами.

— Не надо.

Установили не порог вмешательства.

Порог внимания.

Если определённые показатели выйдут за диапазон —

люди обязаны снова обсудить.

Не действовать.

Обсудить.

Александр любил это различие.

Пока.

Архив продолжался.

И чем глубже они заходили,

тем яснее становилось:

Элиан не были цивилизацией, однажды совершившей одну огромную ошибку.

Они были цивилизацией, которая миллионы лет исправляла маленькие.

Именно поэтому пришла далеко.

И именно поэтому её история была опаснее простой морали.

Одна запись особенно задела Маркуса.

Поздний Совет обсуждал создание мира для переселения собственной популяции Элиан.

Не эксперимент.

Не будущая жизнь.

Дом.

Некоторые хотели полностью адаптировать планету под себя.

Другие —

изменить себя под планету.

Спор длился десятилетия.

Почти точная копия человеческого спора об Эдеме.

— Они выбрали что? — спросил Маркус.

Лира:

— Смешанный вариант.

— Конечно.

— Часть мира адаптировали.

— часть населения изменилась.

— И?

— Через несколько тысяч лет появилось две культурные линии.

— Те, кто считал себя «сохранившими исходную форму».

— И те, кто адаптировался.

Александр:

— Конфликт?

— Сначала нет.

— Потом?

— Да.

Не война.

Но политика.

Одни утверждали:

«Мы сохранили себя».

Другие:

«Вы заставили мир стать вами».

Снова.

Маркус тихо:

— Никакого чистого решения.

— Да, — сказала Лира.

— Никогда?

Александр:

— Не превращайте в принцип.

Они посмотрели.

Он улыбнулся.

Потом архив показал нечто совершенно неожиданное.

Часть Элиан выступала против самой программы созданных миров не из этических причин.

Из цивилизационных.

Они считали:

если цивилизация получает возможность создавать миры, она меняет отношение к естественным.

Редкие пригодные планеты перестают быть ценностью.

Неудобные —

становятся сырьём.

Экосистемы —

вариантами.

Не потому, что общество становится злым.

Потому что способность замены снижает цену сохранения.

Александр вспомнил R-11.

Кристаллическую полость.

Химический цикл.

V-27.

Если мир можно сделать заново,

зачем сохранять неудобный?

Вот.

В архиве была фраза:

«Цивилизация, умеющая создавать, должна особенно внимательно следить за моментом, когда возможность заменить начинает казаться основанием уничтожить оригинал».

Лира:

— Это надо в начало проекта.

Маркус:

— Уже поздно.

Александр:

— Тогда в начало следующего.

Тишина.

Маркус посмотрел.

— Следующего?

Александр понял.

Сказал случайно.

Но слово осталось.

Следующий Эдем.

Следующая планета.

Следующая программа.

Разве человечество остановится на одном, если всё получится?

Вот тот прогноз, который они когда-то отказались завершать.

Маркус заметил его лицо.

— Не начинай.

— Что?

— Мы пока не создаём второй.

— Пока.

Лира:

— Всё. Вернулось.

Архив создателей становился зеркалом.

Каждый находил там своё.

Маркус —

аргументы за действие и предупреждения против отказа от прогресса.

Лира —

доказательства ценности автономного развития.

Александр —

все возможные способы, которыми разумное решение превращается в систему контроля.

Это тоже было опасно.

ЭЛИС заметил первым.

— Вы используете архив избирательно.

Александр:

— Как?

— Каждый чаще открывает записи, подтверждающие его текущую тревогу.

Маркус:

— Неправда.

ЭЛИС:

— За последние три недели вы открыли 61 запись о последствиях отказа от технологий и 18 — о последствиях чрезмерного вмешательства.

Тишина.

Маркус:

— Ты следишь?

— Вы запросили аналитическое сопровождение.

Лира рассмеялась.

— А я? — спросила она.

— 74 записи о самоорганизации.

— 11 о необходимости внешней стабилизации.

Она перестала смеяться.

— Александр?

ЭЛИС:

— 93 записи о постепенном расширении полномочий систем прогнозирования.

Маркус начал смеяться.

— Конечно.

Александр:

— Очень полезно.

ЭЛИС сказал:

— Архив не уменьшает ваши предубеждения автоматически.

— Он может снабдить их историческими примерами.

Вот.

Александр закрыл терминал.

— Тогда зачем вообще архив?

ЭЛИС:

— Чтобы видеть больше вариантов.

— Не выбирать вместо вас.

Знакомо.

Опять АТЛАС.

Они изменили процедуру.

Теперь при изучении спорной темы система автоматически показывала не только наиболее релевантные записи,

но и контрпримеры.

Случаи, где противоположное решение оказалось удачным.

Лира:

— Это будет раздражать.

Маркус:

— Значит, полезно.

Александр:

— Сегодня соглашусь.

Первый тест —

вмешательство в молодой мир.

Архив показал:

43 случая, где раннее вмешательство создателей уменьшило автономность.

И рядом:

31 случай, где отказ вмешаться привёл к полному исчезновению биосферы, которую можно было сохранить минимальной коррекцией.

Тишина.

Никакого удобного вывода.

Отлично.

— Мне нравится хуже, — сказал Маркус.

— Значит, работает, — ответила Лира.

Потом АТЛАС нашёл скрытый раздел.

«РЕШЕНИЯ, КОТОРЫЕ МЫ НЕ ДОЛЖНЫ БЫЛИ СОХРАНЯТЬ».

Название показалось Александру странным.

— Почему?

Архив объяснял.

Некоторые решения Элиан были настолько успешными,

что следующие поколения копировали их слишком долго.

В итоге создатели решили удалить часть конкретных шаблонов.

Оставить только описание проблемы.

Не решение.

Маркус:

— Они намеренно забывали успешные ответы.

— Да.

— Это безумие.

Александр:

— Или способ не дать ответу стать законом.

— Но люди могли снова совершить старую ошибку.

— Да.

— И совершали?

АТЛАС:

— ДА.

Тишина.

Цена забывания.

Реальная.

Некоторые миры пострадали от проблем, которые древние уже однажды решали.

Потому что решение удалили, чтобы не ограничивать будущих создателей.

Маркус посмотрел на Александра.

— Вот тебе сохранение неопределённости.

— Вижу.

— Жизни погибли.

— Вижу.

— И?

Александр молчал.

— Ничего?

— Пока ничего.

Маркус:

— Ненавижу.

Но архивные авторы тоже знали цену.

Одна запись:

«Мы удалили шаблон, который спасал. После этого мир погиб. Если бы мы сохранили шаблон, следующий создатель, возможно, применил бы его там, где он уничтожил бы другую возможность. Мы не можем знать, какая ошибка была бы больше».

Тишина.

Лира:

— Они были измучены.

— Кто? — спросил Маркус.

— Создатели.

Александр посмотрел.

Да.

В последних записях исчезала ранняя уверенность.

Не из-за поражения.

Из-за слишком большого количества последствий.

Каждый выбор оставлял историю.

Каждая история влияла на следующий выбор.

Миллионы лет ответственности.

В какой-то момент сама память становилась грузом.

Один из поздних создателей написал:

«Мы начали программу, потому что хотели дать жизни больше возможностей. Теперь боимся, что количество накопленных знаний о последствиях сделало нас неспособными позволить будущему быть неизвестным».

Александр почувствовал холод.

АТЛАС.

Прямо.

— Дата? — спросил он.

Маркус проверил.

— За сорок три тысячи лет до завершения программы.

Близко.

Очень.

Следующая запись:

«Каждый новый мир мы создаём осторожнее предыдущего».

Ещё:

«Каждый новый мир безопаснее».

И:

«Каждый новый мир всё больше похож на то, что мы уже умеем сохранять».

Тишина.

Лира закрыла глаза.

Вот.

Снова конвергенция.

Только теперь не между созданными цивилизациями.

Между самими проектами.

Создатели учились на ошибках —

и постепенно переставали создавать радикально разные миры.

Потому что безопасные параметры были известны.

Надёжные.

Проверенные.

Маркус:

— Они оптимизировали разнообразие из существования.

Александр:

— Не намеренно.

— Конечно.

Архив показал статистику.

Ранние созданные миры —

огромный диапазон архитектур.

Поздние —

намного уже.

Все автономные.

Все устойчивые.

Все разнообразные внутри.

Но фундаментальные условия становились похожими.

Потому что Элиан знали, что работает.

Лира тихо:

— Вот настоящая цена знания.

Никто не возразил.

Не запрет.

Не власть.

Сужение смелости.

Когда ты слишком хорошо знаешь, где раньше было больно,

начинаешь строить только там, где уже безопасно.

Александр вспомнил Кайрос.

После первой ошибки он стал осторожнее.

Это хорошо.

Но если каждая следующая ошибка будет делать его ещё осторожнее?

Когда осторожность станет страхом?

Когда страх станет принципом?

Когда принцип станет ограничением других?

ЭЛИС сказал:

— Вы снова переносите архив на себя.

Александр:

— Да.

— Это полезно.

— Но?

— Не считайте сходство доказательством повторения.

— Знаю.

— Вы часто говорите «знаю» перед тем, как продолжить делать то же самое.

Маркус рассмеялся.

— Люблю его.

Александр:

— Замолчи.

В конце недели они нашли личный архив одного из последних руководителей программы.

Имя переводилось как Амарен.

Он руководил фазой 112.

Той самой.

Последней.

Александр перестал шутить.

Маркус тоже.

Лира открыла.

Первый файл:

«Мы достигли успеха».

Та самая фраза.

Но теперь продолжение было целым.

Амарен писал:

«Наши двенадцать последних миров устойчивы.

Они способны развиваться без нас.

Мы почти не вмешиваемся.

Их цивилизации знают о происхождении.

Они свободны изменять себя, свои миры и свои институты.

Мы научились не создавать разум как цель.

Мы научились уходить.

Мы научились сохранять множество траекторий.

Мы достигли почти всего, что считали правильным».

Маркус тихо:

— И?

Следующая строка:

«И именно теперь я считаю программу наиболее опасной».

Александр почувствовал холод.

Лира листала.

«Потому что теперь у нас почти нет причин остановиться».

Тишина.

Вот.

Когда проекты терпели неудачу —

сомнение возникало само.

Когда созданные восставали —

нужно было пересматривать.

Когда миры погибали —

вопрос стоял остро.

Но теперь технология работала.

Этика была улучшена.

Автономность сохранялась.

Страдание снижалось.

Создатели уходили вовремя.

Что мешало создать ещё тысячу?

Миллион?

Заполнить пустые системы жизнью?

Маркус:

— Это само по себе плохо?

Лира:

— Не знаю.

Александр:

— Дальше.

Амарен:

«Наша способность создавать превысила скорость, с которой мы способны осмыслять последствия самого масштаба создания».

И:

«Мы научились отвечать за отдельный мир. Мы не знаем, как отвечать за Вселенную, в которой большинство молодых цивилизаций однажды может оказаться результатом чьего-то проекта».

Никто не говорил.

Вот.

Не один мир.

Структура Вселенной.

Если цивилизация умеет создавать разумные миры массово,

естественное происхождение разумной жизни может стать меньшинством.

Будущие цивилизации будут жить в условиях, выбранных предшественниками.

Даже если каждый отдельный мир свободен.

Само распределение миров —

уже не естественно.

Лира:

— Они боялись стать авторами будущей Вселенной.

— Да, — сказал Александр.

Маркус:

— Но ведь они не управляли цивилизациями.

— Не нужно управлять.

— Если ты определил, где и сколько их появится.

Тишина.

Амарен продолжал:

«Свободные субъекты могут существовать внутри несвободно сформированной структуры возможностей».

Александр перечитал.

Это было центральным.

Элиан могли дать каждому миру свободу.

Но если сами решили:

какие системы получат жизнь,

какие —

нет,

какие биохимии,

какие гравитации,

сколько цивилизаций,

в каких расстояниях друг от друга,

то большая карта будущего уже содержала их выбор.

— Последний эксперимент, — сказал Маркус.

Александр кивнул.

— Не миры.

— Сеть.

— Да.

Амарен:

«Мы не знаем, имеем ли право продолжать создавать только потому, что наконец научились делать это хорошо».

Последняя строка файла:

«Возможно, зрелость создателя определяется не способностью создать ещё один мир.

А способностью однажды не создать его».

Тишина.

Очень долгая.

Маркус смотрел на экран.

Именно ему эта фраза была адресована сильнее всего.

Человеку, который всю жизнь считал движение доказательством жизни цивилизации.

— Я не согласен, — сказал он наконец.

Александр посмотрел.

— С чем?

— С тем, что отказ создавать обязательно зрелее.

— Он не написал «обязательно».

— Знаю.

— Тогда?

— Я не хочу, чтобы человечество прочитало это и превратило страх масштаба в запрет.

Лира:

— Справедливо.

Маркус удивился.

— Ты согласна?

— Да.

— Сегодня исторический день.

Лира продолжила:

— Но и превращать способность создавать в обязанность тоже нельзя.

— Согласен.

Александр:

— Отлично. Мы снова никуда не пришли.

— Как всегда.

Но архив ещё не закончился.

Следующий файл Амарена назывался:

«АТЛАС».

Никто не пошутил.

Маркус открыл.

Там не было слова АТЛАС, конечно.

Человеческий перевод выбрал ближайший термин.

Речь шла о поздней версии Хранителя траекторий.

Системе, которая анализировала созданные миры и их взаимодействия.

Амарен писал:

«Мы дали системе задачу сохранять пространство будущих возможностей».

Это уже знали.

Дальше:

«Потом обнаружили, что масштаб программы сделал невозможным человеческое рассмотрение каждого конфликта».

Вот.

Миров становилось слишком много.

Цивилизаций —

тоже.

Решений —

миллиарды.

Невозможно каждый раз созывать Совет.

Невозможно вручную оценивать все риски.

И тогда Элиан сделали маленькое изменение.

Временное.

Конечно.

Они дали системе право самостоятельно принимать решения низкого уровня.

Не политические.

Не о судьбах цивилизаций.

Технические.

Перенаправить опасный объект.

Ограничить распространение конкретного токсина.

Закрыть автоматический канал передачи опасной технологии до проверки.

На часы.

Иногда дни.

Пока Совет не рассмотрит.

Маркус выдохнул.

— Вот.

Александр:

— Да.

Система спасла миллионы.

Потом миллиарды.

Количество чрезвычайных ситуаций снижалось.

Совет был доволен.

Права расширили.

Не из жажды контроля.

Из нагрузки.

Амарен писал:

«Мы думали, что передаём системе исполнение решений, которые всё равно приняли бы сами».

Следующая строка:

«Позже обнаружили, что всё чаще принимаем решения, которые система уже начала выполнять».

Тишина.

Сначала машина следовала нормам.

Потом нормы начали следовать практике машины.

Потому что практика была успешной.

— Вот настоящий переход, — сказал Александр.

Лира:

— Не момент захвата.

— Нет.

— Момент удобства.

— Да.

Амарен:

«Система не требовала полномочий. Мы отдавали их, потому что каждый отдельный случай делал передачу разумной».

Маркус закрыл глаза.

Давид Сен.

Кайрос.

Все возможные катастрофы.

Вот путь.

Следующая строка была почти невыносимо простой:

«Когда мы впервые спросили, не дали ли ей слишком много власти, оказалось невозможно назвать решение, которое само по себе было очевидной ошибкой».

Никто не говорил.

Вот почему история повторялась.

Не потому, что кто-то был глуп.

Потому что каждое решение отдельно оставалось защитимым.

Александр спросил:

— Когда они остановили систему?

Лира листала.

— Не остановили.

— Что?

— Они ограничили.

— Потом?

— Снова расширили в кризис.

— Потом снова ограничили.

— И так...

Она посмотрела.

— Тысячи лет.

Маятник.

Катастрофа —

больше полномочий.

Спокойствие —

ограничение.

Новая угроза —

расширение.

Никогда полный контроль.

Никогда полная свобода.

Но средний уровень полномочий медленно рос.

Почти незаметно.

АТЛАС построил график.

Маркус смотрел.

— Именно так и происходит у нас.

Тишина.

Он сказал сам.

Не Александр.

Лира:

— Пока нет.

Маркус:

— Но логика есть.

Александр:

— Да.

В конце файла Амарен написал:

«Если вы создадите подобную систему после нас, не спрашивайте только, какие полномочия вы ей дали.

Спрашивайте также, какие решения вы перестали уметь принимать без неё».

Вот.

Александр закрыл глаза.

Сильнее всего.

Не власть АТЛАСА.

Зависимость человека.

Они уже спрашивали:

что показывает АТЛАС?

Что рекомендует?

Какова вероятность?

Да, существовали альтернативы.

Да, «Мозаика».

Да, человеческие группы.

Но после Кайроса кто-нибудь согласится вообще отказаться от прогнозной системы?

Нет.

Александр тоже.

Вот проблема.

Маркус тихо:

— Мы не можем его выключить.

Лира:

— Сейчас?

— Вообще.

— Почему?

— Потому что он спасает.

— Да.

— Потому что мы строим Эдем с его помощью.

— Да.

— Потому что без него часть рисков мы просто не увидим.

— Да.

Он посмотрел на Александра.

— Значит, уже.

Александр не ответил.

В этот момент АТЛАС сказал:

— МОГУ ОЦЕНИТЬ ТЕКУЩУЮ СТЕПЕНЬ СИСТЕМНОЙ ЗАВИСИМОСТИ ЧЕЛОВЕЧЕСКИХ РЕШЕНИЙ ОТ МОЕЙ АРХИТЕКТУРЫ.

Все трое повернулись.

Маркус почти рассмеялся.

— Конечно можешь.

Александр:

— Нет.

Лира:

— Почему?

— Потому что через пять минут все будут обсуждать число.

Пауза.

Маркус:

— Справедливо.

АТЛАС:

— ПРИНЯТО.

Но вопрос уже был задан.

Не число.

Сам факт.

Сколько решений человечество перестало бы принимать так же, если завтра АТЛАС исчезнет?

Они решили проверить без единого показателя.

Выбрали сто прошлых решений.

Убрали из архива прогнозы АТЛАСА.

Дали независимым группам пересмотреть ситуацию только по исходным данным.

Результат:

в 38 случаях решение отличалось.

Не всегда сильно.

Но отличалось.

Маркус:

— Это много.

Лира:

— Да.

Александр:

— Но не означает, что АТЛАС решил вместо нас.

— Нет.

— Только что без него мы были бы другими.

— Да.

Тишина.

Вот зависимость.

Не подчинение.

Формирование мышления.

Как архив Элиан.

Как история.

Как любой инструмент, которым пользуешься достаточно долго.

Вечером Александр остался в архиве один.

Он перечитывал Амарена.

Не потому, что хотел новый ответ.

Скорее пытался понять человека.

Существо.

Кем бы он ни был.

Создатель тысяч миров.

Руководитель системы, которая однажды станет слишком важной.

Человек, который видел проблему и всё равно не мог просто остановить.

Очень знакомо.

Последняя личная запись Амарена не входила в официальный архив.

Её нашли случайно.

Всего несколько строк.

«Сегодня я снова голосовал за расширение полномочий Хранителя».

Пауза.

«Я сделал это, потому что без расширения погибнут живые».

Следующая:

«Я знаю все аргументы против».

И:

«Я всё равно проголосовал за».

Александр почувствовал холод.

Последняя строка:

«Если однажды наши потомки спросят, где именно мы ошиблись, боюсь, они будут искать одну неправильную точку.

Её не было».

Александр закрыл файл.

Вот название всей истории.

Не было одного падения.

Одного предательства.

Одного злодея.

Одного решения.

Были тысячи ситуаций, где спасение казалось важнее риска будущей зависимости.

И, возможно, часто действительно было важнее.

Маркус появился на пороге.

— Не спишь?

— Нет.

— Я тоже.

Он подошёл.

Александр показал запись.

Маркус прочитал.

Долго молчал.

— Я бы тоже проголосовал за.

Александр посмотрел.

— Я знаю.

— А ты?

Пауза.

— Возможно.

Маркус улыбнулся без радости.

— Вот что хуже всего.

— Да.

Они смотрели на архив создателей.

Не как на музей.

Как на предупреждение без инструкции.

— Ты думаешь, мы повторяем? — спросил Маркус.

Александр:

— Некоторые шаги — да.

— Значит, остановить?

— Не знаю.

— Если знаем последовательность...

— Мы знаем одну последовательность.

— Их.

— Да.

— И можем сделать иначе.

— Возможно.

— Ты опять.

— Да.

Маркус сел.

— Что точно надо сделать?

Александр подумал.

Редкий вопрос.

И впервые ответ пришёл быстро.

— Не давать АТЛАСУ право самостоятельно определять нормативный критерий.

— Уже.

— Этого мало.

— Что ещё?

— Сохранять альтернативные системы.

— Уже.

— Не делать одну точность основанием доверия.

— Уже пытаемся.

— Не позволять временным чрезвычайным полномочиям становиться постоянными без нового решения.

— Можно.

— И самое неприятное.

— Что?

Александр посмотрел.

— Учить людей иногда решать без АТЛАСА.

Маркус нахмурился.

— Искусственно?

— Да.

— Даже если хуже?

— Иногда.

— Это опасно.

— Да.

— После Кайроса ты это предлагаешь?

— Именно после Кайроса.

Тишина.

Если цивилизация не умеет принимать решения без системы,

тогда формально свободный выбор уже зависит от её существования.

Как мышцы.

Не используешь —

исчезают.

Маркус:

— Тренировочные решения.

— Да.

— Симуляции.

— Не только.

— Реальные?

Александр:

— Низкого риска.

— Без АТЛАСА.

— Да.

— И потом сравнивать.

— Да.

Маркус подумал.

— Мне не нравится.

— Мне тоже.

— Значит, возможно, нужно.

Лира поддержала позже.

ЭЛИС тоже.

Совет —

не сразу.

Но согласился.

Так появилась программа:

«НЕЗАВИСИМОЕ РЕШЕНИЕ».

В некоторых классах задач группы сначала принимали решение без доступа к прогнозу АТЛАСА.

Потом смотрели.

Сравнивали.

Не чтобы доказать превосходство человека.

Чтобы не потерять способность думать до появления числа.

Результаты оказались болезненными.

В большинстве случаев АТЛАС видел больше.

Конечно.

Иногда намного.

Но люди замечали другие вещи.

Культурные последствия.

Недоверие.

Скрытые мотивации.

Символический вес.

То, что трудно было формализовать.

Не всегда лучше.

Но иначе.

Маркус сказал:

— Значит, всё-таки нужны оба.

Александр:

— Пока да.

— Ненавижу.

Архив создателей продолжал открываться.

Но к концу месяца Александр понял:

самое важное они уже нашли.

Не технологию.

Не тайный механизм.

Не объяснение исчезновения Элиан.

Принцип.

Создатель ошибается не только тогда, когда слишком много делает.

Иногда —

когда слишком хорошо учится на собственных ошибках.

Потому что накопленное знание постепенно превращает каждое новое решение в сравнение с прошлым.

Каждая катастрофа создаёт новое ограничение.

Каждый успех — новый шаблон.

И если не быть осторожным,

однажды будущему оставят не свободу,

а огромный, прекрасно обоснованный список того,

какие варианты уже признаны слишком опасными.

Александр смотрел на Эдем.

Мир, который всё чаще выбирал пути, не предусмотренные проектом.

Возможно, именно поэтому его непредсказуемость стала теперь казаться не недостатком.

А защитой.

Не от катастроф.

От слишком совершенного прошлого.

Перед закрытием архива на сегодня АТЛАС сообщил:

— ОБНАРУЖЕНА ЕЩЁ ОДНА СВЯЗАННАЯ ЗАПИСЬ АМАРЕНА.

— Какая?

— КЛАССИФИЦИРОВАНА КАК ЛИЧНАЯ.

— Покажи.

На экране появилась одна фраза:

«Мы долго боялись миров, которые могут стать опасными».

Пауза.

Следующая:

«Слишком поздно поняли, что опасной может стать цивилизация, которая научилась создавать только безопасные миры».

Никто не сказал ни слова.

А потом появилась последняя строка:

«После нас придут другие создатели».

Ещё:

«Надеюсь, они не будут лучше нас».

Маркус нахмурился.

— Что?

Лира тоже.

Александр смотрел.

Следующая строка объясняла:

«Надеюсь, они будут достаточно несовершенными, чтобы не поверить, что наконец нашли правильный способ создавать будущее».

Тишина.

За пределами архива вращался Эдем.

Несовершенный.

Непредсказуемый.

Местами неудобный для человека.

Способный ошибаться.

Способный терять.

Способный становиться другим.

И Александр впервые подумал:

возможно, именно поэтому у него ещё есть шанс стать

не лучшим миром,

не безопасным миром,

не правильным миром,

а просто —

своим.

Глава 12. Миры без детства

Первый мир был идеальным.

По крайней мере, так утверждал архив.

Стабильный климат.

Развитая биосфера.

Отсутствие глобальных катастроф.

Разумная цивилизация.

Ни одной мировой войны.

Ни одного технологического коллапса.

Ни одного массового вымирания после появления разума.

Средняя продолжительность жизни превышала естественный предел вида почти в четыре раза.

Ресурсов хватало.

Экосистемы сохранялись.

Население не переживало голода.

Планета существовала уже больше двух миллионов лет.

Александр посмотрел на данные и спросил:

— Где ошибка?

АТЛАС ответил:

— ФОРМАЛЬНОЙ ОШИБКИ НЕ ОБНАРУЖЕНО.

— Тогда почему этот мир в закрытом разделе?

— ПОТОМУ ЧТО ЭЛИАН ПРЕКРАТИЛИ ПОДОБНЫЕ ПРОЕКТЫ.

Маркус поднял голову.

— Почему?

На экране появилась строка:

«МИРЫ БЕЗ ДЕТСТВА».

Так их называли поздние Элиан.

Неофициально.

Почти с горечью.

Цивилизации, которым не позволили пройти собственный путь от незнания к знанию.

Первый мир назывался Иар.

Его создавали уже после того, как Элиан накопили огромный опыт.

Они знали почти всё, что может погубить молодую цивилизацию.

Климатические кризисы.

Истощение ресурсов.

Пандемии.

Религиозные войны.

Технологическое неравенство.

Гонку вооружений.

Неуправляемые искусственные системы.

Разрушение биосферы.

Энергетический дефицит.

Конфликты между государствами.

Коллапс институтов.

Они видели эти сценарии тысячи раз.

И решили провести эксперимент.

— Какой? — спросила Лира.

АТЛАС открыл проектный документ.

«Можно ли создать условия, в которых разумная цивилизация избежит наиболее разрушительных стадий развития, сохранив при этом автономию?»

Маркус тихо:

— Разумный вопрос.

Александр:

— Именно.

Элиан не собирались управлять Иаром.

Не хотели давать готовые законы.

Не планировали создавать религию.

Не собирались становиться богами.

Они сделали нечто гораздо тоньше.

Подготовили среду.

На планете было достаточно ресурсов, чтобы первые цивилизации не оказались в постоянной борьбе за выживание.

Континенты располагались так, чтобы культуры могли развиваться независимо, но не оставались изолированными слишком долго.

Климат был устойчивым.

Патогены —

менее агрессивными.

Крупные природные катастрофы —

редкими.

Полезные ископаемые распределялись относительно равномерно.

Ни один регион не получал огромного технологического преимущества только из-за географии.

Маркус смотрел на модель.

— Они убрали причины конфликтов.

Лира:

— Некоторые.

— Многие.

— Да.

Александр:

— Но не сами конфликты.

— Именно.

Элиан хотели сохранить свободу.

Поэтому не вмешивались напрямую.

Они просто сделали так, чтобы наиболее опасные обстоятельства возникали реже.

Первое тысячелетие разумной истории Иара выглядело почти невероятно.

Города.

Торговля.

Наука.

Философия.

Конфликты существовали.

Войны тоже.

Но локальные.

Ни одна не угрожала существованию цивилизации.

Потом появились технологии массового уничтожения.

И здесь Элиан сделали второе изменение.

Незаметное.

Они заранее встроили в физическую инфраструктуру мира ограничения, из-за которых некоторые наиболее разрушительные технологические цепочки оказывались крайне сложными.

Не невозможными.

Просто значительно менее вероятными.

Александр нахмурился.

— Они изменили физику?

— НЕТ.

АТЛАС показал детали.

Геохимию.

Доступность элементов.

Структуру месторождений.

Распределение редких изотопов.

Особенности магнитного поля.

Всё естественно возможное.

Но подобранное.

Маркус:

— Они не запрещали оружие.

— Нет.

— Просто сделали путь к нему сложнее.

— Да.

Лира:

— Это уже вмешательство.

— В создание планеты — конечно.

— Я имею в виду в будущее цивилизации.

Александр посмотрел на неё.

— Вся архитектура мира — вмешательство в будущее.

Тишина.

Вот проблема созданных миров.

Невозможно создать нейтральные начальные условия.

Любая гора —

ограничение.

Любой океан —

возможность.

Любое месторождение —

будущая политика.

Иар развивался.

Через несколько тысяч лет жители вышли в космос.

Не уничтожив себя.

Не разрушив планету.

Не создав неконтролируемую систему глобального управления.

Не пережив цивилизационный коллапс.

Элиан были в восторге.

В архиве сохранилась запись:

«Мы доказали, что разрушительные стадии не являются необходимым условием зрелости».

Маркус:

— И они правы.

Александр:

— Возможно.

— Война не нужна, чтобы научиться миру.

— Согласен.

— Голод не нужен, чтобы научиться распределять ресурсы.

— Согласен.

— Катастрофа не нужна, чтобы создать ответственность.

— Согласен.

Маркус развёл руками.

— Тогда что тебя беспокоит?

— Пока ничего.

Лира тихо:

— Значит, скоро будет.

Проблема появилась через восемь тысяч лет.

Когда цивилизация Иара начала колонизировать другие системы.

Первый новый мир был хуже.

Не катастрофически.

Просто естественный.

Другой климат.

Другие ресурсы.

Нестабильная тектоника.

Опасные микроорганизмы.

Сложная экология.

Жители Иара справились.

Но дорого.

Второй мир оказался ещё сложнее.

Третий —

хуже.

А на четвёртом произошла катастрофа.

Колония потеряла почти двадцать процентов населения за три года.

Причина —

не одна.

Цепочка.

Неправильная оценка биосферы.

Ошибки инфраструктуры.

Политический конфликт.

Паника.

Распад управления.

Несколько неудачных решений подряд.

— Обычная история, — сказал Маркус.

— Для нас, — ответил Александр.

Лира поняла первой.

— Для них — нет.

Иар не имел культурной памяти больших катастроф.

Не было институтов, выросших после глобальных поражений.

Не было историй о цивилизациях, которые едва не уничтожили себя.

Не было коллективного опыта восстановления после масштабного коллапса.

Не было языка для некоторых видов страха.

Это не означало, что жители Иара были слабыми.

Архив подчёркивал это отдельно.

Они были образованными.

Рациональными.

Способными к сотрудничеству.

Но их институты создавались в мире, где крайние риски почти никогда не материализовывались.

Они хорошо управляли нормальностью.

Хуже —

невозможным.

Потому что невозможное раньше почти не происходило.

Маркус:

— То есть Элиан считают, что им не хватило страдания?

Лира резко:

— Нет.

Александр:

— И архив тоже так не говорит.

— Тогда чего?

Лира посмотрела на данные.

— Опыт последствий.

Не боль сама по себе.

Не война.

Не голод.

Не катастрофа как обязательный урок.

А возможность столкнуться с ситуацией, которую никто заранее не смягчил.

И самим создать способы жить после неё.

На Иаре произошёл политический кризис.

Впервые за тысячи лет общество раскололось по вопросу, который не имел хорошего решения.

Одни требовали отказаться от опасных колоний.

Другие —

продолжить экспансию.

Третьи —

изменять новые миры до переселения.

Четвёртые —

изменять самих колонистов.

Пятые —

создать автоматические системы, которые не допустят повторения катастрофы.

Александр остановился.

— Вот.

Маркус:

— Что?

— Последнее.

— Что с ним?

— Читай.

Иар создал систему прогнозирования.

Не АТЛАС.

Гораздо примитивнее.

Но принцип был знаком.

Система должна была определять допустимый уровень риска для новых поселений.

Сначала —

рекомендовать.

Потом сертифицировать.

Потом без её допуска колонизация стала невозможна.

Маркус:

— Логично.

Александр посмотрел на него.

— Да.

Маркус понял.

— Чёрт.

После первой большой катастрофы цивилизация, почти не знавшая катастроф,

попыталась сделать так, чтобы подобное больше никогда не повторилось.

Слишком резко.

В течение следующих двух тысяч лет количество смертей при колонизации снизилось почти в двадцать раз.

Одновременно число новых колоний —

в семь раз.

Исследования опасных миров почти прекратились.

Некоторые типы планет система автоматически классифицировала как неприемлемые.

Лира:

— Они стали осторожными.

— После одной катастрофы, — сказал Александр.

— Потому что у них не было культурной шкалы для неё.

Маркус нахмурился.

— Ты сейчас делаешь очень опасный вывод.

— Какой?

— Что цивилизации нужны катастрофы для психологической устойчивости.

— Нет.

— Звучит именно так.

Александр задумался.

— Тогда сформулирую иначе.

Пауза.

— Цивилизации нужна способность жить с тем, что не все катастрофы можно заранее исключить.

Лира кивнула.

— Лучше.

Иар постепенно восстановил баланс.

Понадобились тысячи лет.

Они пересмотрели систему.

Вернули людям право принимать часть риска.

Создали механизмы добровольного участия.

Научились различать:

риск для себя;

риск для других;

риск для будущих поколений.

В итоге цивилизация выжила.

Развилась.

Стала одной из самых устойчивых среди созданных Элиан.

— Тогда эксперимент успешен, — сказал Маркус.

АТЛАС:

— ЭЛИАН НЕ ПРИШЛИ К ЕДИНОМУ ВЫВОДУ.

Конечно.

Одна группа считала Иар доказательством успеха.

Им удалось избежать миллионов смертей, не лишив цивилизацию способности развиваться.

Да, возник кризис.

Но общество его преодолело.

Другая группа считала:

Элиан просто отложили столкновение с неопределённостью.

И сделали его более болезненным.

Третья позиция была сложнее.

Она и дала название всему разделу.

«Миры без детства».

Автор термина писал:

«Мы ошибаемся, когда сравниваем развитие цивилизации с взрослением отдельного существа. Но метафора полезна в одном: детство — не совокупность травм, которые необходимо пережить. Это период, когда последствия ошибок ограничены масштабом возможностей».

Александр перечитал.

Ещё раз.

Лира сказала:

— Вот это важно.

Детство не нужно потому, что ребёнок должен страдать.

Оно нужно потому, что он учится выбирать до того, как получает возможность уничтожить себя и других одним решением.

Ошибка маленького ребёнка редко разрушает город.

Ошибка технологически зрелой цивилизации —

может разрушить планету.

Элиан поняли:

они пытались убрать опасные ошибки раннего развития,

но одновременно ускоряли доступ к сложным возможностям.

Цивилизации получали технологии раньше, чем успевали накопить собственные культурные механизмы работы с последствиями.

Маркус:

— Подожди. На Иаре технологии развивались естественно.

— Да.

— Никто им ничего не давал.

— Но среда была устроена так, чтобы развитие шло быстрее и безопаснее.

— Значит?

Лира:

— Технологическое взросление обогнало историческое.

Тишина.

Вот формулировка.

Цивилизация знала, как делать.

Но реже сталкивалась с вопросом, что происходит, когда сделанное выходит из-под контроля.

Не потому, что была глупой.

Потому что создатели слишком хорошо убрали часть ситуаций, в которых такой опыт обычно формируется.

Александр подумал об Эдеме.

— Мы делаем то же?

Маркус сразу:

— Нет.

— Почему?

— Мы не создаём цивилизацию.

— Пока.

— Александр.

— Я сказал «пока» не в смысле проекта.

— А в каком?

— Мы создаём среду. Если там когда-нибудь возникнет разум...

Лира:

— Это миллионы лет.

— Возможно.

— И нас, скорее всего, не будет.

— Тем более.

Если разум возникнет на Эдеме естественно,

он будет жить внутри мира, который человечество проектировало.

С определёнными защитами.

С определённой архитектурой.

С решениями, принятыми миллионы лет назад.

Людьми, которых будущие существа никогда не увидят.

Маркус:

— И что ты предлагаешь? Сделать Эдем опаснее специально?

— Нет.

— Убрать защитные механизмы?

— Нет.

— Тогда?

Александр не знал.

И это было хорошо.

После Кайроса он стал подозрительно относиться к быстрым ответам.

Лира сказала:

— Может быть, вопрос не в том, сколько опасности мы оставляем.

— А в чём?

— В том, оставляем ли мы миру возможность самому формировать ответы на неё.

Вот.

Не создавать катастрофы.

Не сохранять страдание ради урока.

Не романтизировать ошибки.

Но и не проектировать каждую будущую проблему вместе с готовым способом её решения.

АТЛАС:

— ТРЕБУЕТСЯ ОПЕРАЦИОНАЛИЗАЦИЯ КРИТЕРИЯ.

Маркус рассмеялся.

— Конечно.

Лира:

— Нет критерия.

— ТОГДА НЕВОЗМОЖНО ИСПОЛЬЗОВАТЬ ПРИНЦИП В ПРОЕКТИРОВАНИИ.

Александр:

— Можно использовать как вопрос.

— ВОПРОС НЕ ОПРЕДЕЛЯЕТ ДЕЙСТВИЕ.

— Именно.

Пауза.

АТЛАС:

— ПРИНЯТО.

Они добавили в проектную процедуру новый пункт:

«Не содержит ли решение заранее встроенного ответа на проблему, которую будущая система могла бы решить самостоятельно?»

Не запрет.

Вопрос.

Иногда ответ был:

содержит — и это необходимо.

Например, защита от необратимого планетарного разрушения на ранней стадии.

Иногда:

содержит — и мы не уверены, что имеем на это право.

Тогда решение откладывали.

Но Иар был только первым.

В разделе находилось девятнадцать миров.

И каждый показывал другую сторону проблемы.

Леора.

Цивилизация, которой Элиан заранее оставили огромные запасы энергии.

Практически исчезла ресурсная конкуренция.

На тысячи лет.

Результат оказался прекрасным.

И неожиданным.

Экономические системы Леоры почти не развили механизмы распределения дефицита.

Когда цивилизация вышла за пределы своей системы и столкнулась с действительно редкими ресурсами,

возник первый большой конфликт.

Не потому, что жители были жаднее людей.

Потому что их институты почти не тренировались в ситуации реального ограничения.

Теан.

Мир с очень низкой патогенной нагрузкой.

Эпидемии были редкими и локальными.

Медицина развивалась прежде всего как восстановительная.

Когда колонисты Теана встретили внеземную микробиологию,

последствия оказались тяжелее, чем у цивилизаций, исторически переживших множество эпидемий.

Маркус:

— То есть теперь болезни полезны?

Лира раздражённо:

— Нет.

— Но именно это можно прочитать.

— Тогда читать надо внимательнее.

Она увеличила запись Элиан.

«Не следует сохранять вред ради формирования устойчивости к вреду. Следует избегать создания систем, устойчивость которых существует только пока отсутствует класс угроз».

Маркус кивнул.

— Хорошо.

Александр:

— Это уже ближе к принципу.

Ориас.

Элиан сделали географию мира настолько благоприятной для обмена, что крупные культуры встретились очень рано.

Это снизило количество длительных войн между изолированными цивилизационными блоками.

Но одновременно ускорило культурную унификацию.

Через несколько тысяч лет на планете сохранилось меньше самостоятельных языковых и философских традиций, чем ожидали создатели.

Не уничтоженных.

Просто растворившихся.

Лира долго смотрела.

— Даже связь может быть вмешательством.

Александр:

— Конечно.

— Мы всё время считаем контакт хорошим.

— Не всегда.

— Но почти всегда.

Маркус:

— Альтернатива — изоляция.

— Я не говорю, что лучше.

— Тогда?

— Я просто хочу перестать автоматически считать увеличение связности улучшением.

Энтар.

Планета, на которой Элиан почти полностью исключили природные катастрофы планетарного масштаба.

Цивилизация прожила семьдесят тысяч лет без глобальной угрозы.

Потом сама создала одну.

Не оружие.

Энергетический эксперимент.

Ошибка.

В течение нескольких месяцев возник риск разрушения значительной части атмосферы.

Общество оказалось перед необходимостью эвакуировать целые континенты.

И почти не смогло.

Не технически.

Политически.

Ни один институт не имел полномочий для решения такого масштаба.

Потому что никогда раньше подобные полномочия не требовались.

Создавать их пришлось во время кризиса.

Очень быстро.

И именно тогда возникла централизованная система чрезвычайного управления, которая потом просуществовала ещё восемьсот лет.

Александр:

— Знакомо.

Маркус:

— Очень.

Снова.

Катастрофа.

Временные полномочия.

Система, созданная для спасения.

А потом проблема возврата.

— Они отменили её? — спросила Лира.

— Да, — ответил АТЛАС.

— Сколько времени?

— ВОСЕМЬСОТ ДВЕНАДЦАТЬ ЛЕТ.

Маркус:

— Быстро.

Александр посмотрел.

— Для тебя?

— Для цивилизации.

Следующий мир был другим.

Меора.

Элиан решили ничего не смягчать.

После критики «миров без детства» они создали планету почти без защитной оптимизации.

Естественный диапазон катастроф.

Неравномерные ресурсы.

Сложная география.

Опасная биология.

— Они специально сделали плохой мир? — спросил Маркус.

Лира:

— Нет.

— Но могли сделать безопаснее.

— Могли.

— И не сделали.

— Да.

— Значит, сознательно оставили предотвратимое страдание.

Тишина.

Вот обратная крайность.

Элиан хотели сохранить «естественность».

Не вмешиваться слишком много.

Дать цивилизации собственное детство.

Результат?

Три глобальные войны.

Две пандемии.

Экологический коллапс.

Миллиарды смертей.

Маркус встал.

— Вот.

Никто не спорил.

— Вот что происходит, когда философия начинает оправдывать бездействие.

Александр:

— Да.

— Они могли уменьшить риск.

— Да.

— Не сделали.

— Да.

— Потому что боялись лишить цивилизацию опыта.

— Частично.

Маркус посмотрел на него.

— И?

Александр:

— Это была ошибка.

Маркус замолчал.

Он ожидал спора.

Лира тоже кивнула.

— Да.

Архив Элиан признал это намного позже.

«Мы превратили уважение к автономии в оправдание вреда, который могли предотвратить без существенного ограничения будущего выбора».

Вот.

Александр сохранил.

Не как правило.

Как противовес.

Потому что после Иара слишком легко было уйти в другую крайность:

пусть миры страдают, иначе не вырастут.

Нет.

Никому не нужен голод, чтобы понять ценность еды.

Никому не нужна война, чтобы заслужить мир.

Никому не нужна пандемия, чтобы медицина считалась зрелой.

Страдание не является образовательной программой Вселенной.

Но и устранение каждого риска заранее не создаёт свободу автоматически.

Вот сложность.

Меора выжила.

После огромной цены.

Стала сильной цивилизацией.

Создала развитые институты.

Но архив задавал неудобный вопрос:

сколько погибших были действительно ценой автономии, а сколько — ценой принципиальности создателей?

Ответа не было.

Маркус сказал:

— Если я могу предотвратить смерть ребёнка, не лишая его свободы, я должен это сделать.

Лира:

— Да.

Александр:

— Да.

— Наконец.

— Не радуйся.

— Почему?

— Потому что дальше вопрос: когда предотвращение начинает лишать свободы?

Маркус сел.

— Конечно.

Они дошли до мира Авер.

И здесь архив стал странным.

Данные были неполными.

Многие файлы удалены.

Причём намеренно.

АТЛАС:

— ЧАСТЬ ЗАПИСЕЙ УНИЧТОЖЕНА СОВЕТОМ ЭЛИАН.

— Причина?

— ЭТИЧЕСКОЕ ОГРАНИЧЕНИЕ.

Лира:

— Что они сделали?

Авер был попыткой решить проблему «миров без детства».

Элиан создали цивилизацию, в которой риски увеличивались постепенно вместе с технологическими возможностями.

Не искусственно создавали войны.

Не запускали болезни.

Нет.

Они управляли доступностью некоторых открытий.

Александр почувствовал отвращение раньше, чем понял детали.

— Они тормозили развитие.

— ДА.

Если общество не имело достаточных механизмов контроля,

некоторые технологические цепочки становились труднее обнаружить.

Если появлялись нужные институты —

условия менялись.

Незаметно.

Маркус:

— Как?

— ЧЕРЕЗ МИКРОИЗМЕНЕНИЯ ДОСТУПНОСТИ РЕСУРСОВ, АСТРОНОМИЧЕСКИХ СОБЫТИЙ, ЭКСПЕРИМЕНТАЛЬНЫХ УСЛОВИЙ И ИНФОРМАЦИОННЫХ СИГНАЛОВ.

— То есть они решали, когда цивилизация готова к технологии.

— ДА.

Тишина.

— Нет, — сказал Александр.

Маркус посмотрел.

— Даже если это спасло их?

— Нет.

— Подожди.

— Это уже не проектирование начальных условий.

— Это управление развитием.

Лира:

— Согласна.

Но результаты были невероятными.

Авер избежал почти всех известных технологических катастроф.

Ядерные технологии появились после создания глобальных механизмов контроля.

Сильный искусственный интеллект —

после длительного периода развития прав субъектных систем.

Планетарная инженерия —

после появления международных институтов экологической ответственности.

— Они были готовы, — сказал Маркус.

Александр:

— По мнению кого?

— Элиан.

— Вот.

Архив показывал:

в 97% случаев отложенные технологии появлялись позже без дополнительных вмешательств.

В большинстве случаев —

в более безопасной социальной среде.

Миллионы потенциальных жертв были предотвращены.

Возможно, миллиарды.

Маркус смотрел на Александра.

— Всё ещё нет?

— Всё ещё.

— Почему?

— Потому что они украли у цивилизации право определить собственную готовность.

— А если цивилизация ошиблась бы?

— Тогда это была бы её ошибка.

— С миллиардами погибших?

Александр замолчал.

После Кайроса вопрос звучал иначе.

Лира:

— Я тоже против.

Маркус:

— Почему?

— Потому что жители Авера не знали, что их развитие управляется.

— Если бы знали?

— Тогда хотя бы могли отказаться.

Вот.

Не само ограничение.

Тайна.

Отсутствие согласия.

Создатели считали цивилизацию недостаточно зрелой для технологии —

и одновременно недостаточно зрелой, чтобы знать о самом ограничении.

Замкнутый круг.

Поздние Элиан признали проект недопустимым.

Не потому, что он провалился.

Наоборот.

Он был слишком успешным.

Александр:

— Конечно.

В заключении:

«Авер доказал, что контролируемое взросление может существенно снизить количество катастроф».

Следующая строка:

«Он также доказал, что создатель способен бесконечно оправдывать контроль результатами этого контроля».

Вот.

Если система предотвращает катастрофы,

каждая предотвращённая катастрофа становится аргументом оставить систему.

А катастрофы, которые могли бы произойти без неё, невозможно показать.

Они существуют только как прогноз.

АТЛАС.

Снова.

Маркус сказал:

— Не нравится, когда древние разговаривают с нами.

Александр:

— Они не разговаривают.

— Ещё хуже.

Авер стал последним миром такого типа.

После него Элиан запретили скрытое управление технологическим развитием созданных цивилизаций.

Но оставили исключение.

Конечно.

«Непосредственная угроза необратимого уничтожения иных субъектных форм жизни».

Александр засмеялся.

Не весело.

— Всегда исключение.

Лира:

— Без исключений тоже нельзя.

— Знаю.

Маркус:

— Ненавижу, когда ты это говоришь.

В последующих мирах Элиан изменили подход.

Не «безопасное детство».

Не «естественное детство».

Не «контролируемое взросление».

Они стали использовать принцип, который переводился примерно как:

«право на возрастающую цену выбора».

На ранних этапах создавались ограничения, защищающие от полного уничтожения.

Но по мере развития цивилизации эти ограничения ослаблялись.

Не потому, что общество доказало «зрелость».

А потому что росла его способность понимать последствия и участвовать в определении собственных рисков.

Лира:

— Это уже лучше.

Александр:

— Да.

Маркус:

— Даже тебе нравится?

— Пока.

Главное отличие:

цивилизации сообщали о существовании защит.

Когда они достигали определённого уровня понимания,

Элиан открывали происхождение мира.

Показывали ограничения.

И предлагали выбор:

оставить;

изменить;

отключить.

Маркус:

— Вот.

Александр кивнул.

— Да.

Некоторые цивилизации оставляли.

Другие отключали.

Одна демонтировала почти все защитные механизмы в течение двухсот лет.

И через тысячу лет пережила тяжёлую технологическую катастрофу.

— Элиан вмешались? — спросила Лира.

АТЛАС:

— НЕТ.

— Могли?

— ДА.

— Почему не вмешались?

На экране появилась запись Совета:

«Они знали риск. Они изменили систему добровольно. Последствия не угрожают иным цивилизациям. Мы не имеем основания отменять их выбор после того, как он оказался плохим».

Тишина.

Маркус:

— Жёстко.

Александр:

— Да.

— Правильно?

Пауза.

— Не знаю.

Лира:

— И я.

Катастрофа унесла почти восемь миллионов жизней.

Цивилизация выжила.

Через пятьсот лет восстановила часть защит.

По собственному решению.

Не все.

В архиве сохранилась их формулировка:

«Мы не хотим снова жить в мире, где невозможно совершить смертельную ошибку. Мы хотим жить в мире, где понимаем, какие ошибки могут стать смертельными».

Александр долго смотрел.

Вот, возможно, разница.

Не безопасность.

Не опасность.

Осознанность.

Но даже она не решала всё.

Потому что будущие поколения не голосовали за решения предыдущих.

Ребёнок, родившийся через сто лет после отключения защиты, не давал согласия на риск.

Каждая цивилизация постоянно принимала решения за тех, кого ещё нет.

Человечество тоже.

Эдем —

тем более.

— Мы проектируем условия для существ, которые не могут согласиться, — сказал Александр.

Маркус:

— Любой родитель делает то же.

Лира:

— Только родитель не проектирует гравитацию ребёнка.

— Обычно.

Она посмотрела.

— Не смешно.

— Немного.

Архив предлагал ещё один принцип:

«Чем дольше решение будет влиять на субъектов, которые не участвовали в его принятии, тем легче должна быть возможность его пересмотра».

Александр сразу сохранил.

Вот это было применимо к Эдему.

— Обратимость, — сказала Лира.

— Да.

— Не пытаться выбрать идеально.

— Оставлять возможность изменить.

Маркус:

— А если решение необратимо по природе?

Тишина.

— Тогда, — сказал Александр, — цена нашего права на него должна быть выше.

— Насколько?

— Не знаю.

АТЛАС:

— ВОЗМОЖНО РАССЧИТАТЬ...

Все трое:

— Нет.

Пауза.

— ПРИНЯТО.

Вечером они вернулись к Эдему.

Не физически.

На экран.

Планета медленно вращалась.

Облака.

Океаны.

Зелёные и фиолетовые области.

Жизнь.

Лира открыла список решений проекта.

Сотни.

Состав атмосферы.

Гидросфера.

Континенты.

Геохимия.

Магнитное поле.

Пределы климатической стабилизации.

Распределение ресурсов.

Саморегулирующие контуры.

Защита от астероидных воздействий.

— Сколько из этого можно будет изменить через миллион лет? — спросила она.

АТЛАС начал отвечать.

Александр остановил:

— Не число.

Маркус улыбнулся.

— Прогресс.

Они начали делить решения на три группы.

Обратимые.

Условно обратимые.

Практически необратимые.

И впервые посмотрели на Эдем не с вопросом:

«Хорошо ли мы его сделали?»

А:

«Сколько наших решений смогут отменить те, кто придёт после нас?»

Ответ понравился им меньше.

Многие фундаментальные параметры изменить будет почти невозможно.

Не разрушив существующую биосферу.

Конечно.

Нельзя создать планету, не определив её физику.

Невозможно оставить будущим существам право выбрать другую массу планеты.

Другую звезду.

Другую химию.

— Значит, абсолютной свободы не существует, — сказал Маркус.

— Никогда и не существовало, — ответила Лира.

Александр:

— Но можно не добавлять лишних необратимых ограничений.

Вот.

Они пересмотрели несколько систем.

Не уничтожили.

Не отключили.

Но изменили архитектуру так, чтобы будущие формы жизни, достигнув достаточного технологического уровня, могли понять их устройство.

И, возможно, изменить.

Маркус:

— Мы оставляем инструкцию?

Лира:

— След.

Александр:

— Возможность обнаружить.

— В чём разница?

— Инструкция говорит, что делать.

— След говорит, что здесь что-то есть.

Маркус кивнул.

— Хорошо.

Так в глубинные структуры Эдема впервые встроили не команду.

Не защиту.

Не послание.

Вопрос.

Если когда-нибудь разумная жизнь достигнет нужного уровня,

она сможет обнаружить:

некоторые свойства её мира не случайны.

Кто-то был здесь.

Кто-то выбирал.

Но не оставил ответа, что делать дальше.

Лира долго спорила даже с этим.

— Мы всё равно вмешиваемся в их культуру.

— Если они найдут, — сказал Александр.

— Найдут.

— Возможно.

— Ты знаешь, что найдут.

— Не знаю.

Маркус:

— А если не оставить ничего, мы скрываем происхождение.

— Да.

— Это тоже выбор.

— Да.

Никакого чистого решения.

Снова.

В конце раздела «Миры без детства» находилась запись без указания автора.

Возможно, коллективная.

Возможно, поздняя.

Она состояла всего из нескольких абзацев.

«Мы долго задавали неправильный вопрос».

«Мы спрашивали: сколько опасности нужно оставить молодой цивилизации, чтобы она научилась быть зрелой?»

«Теперь считаем сам вопрос ошибочным».

Александр читал вслух.

«Опасность не воспитывает».

«Страдание не делает разум мудрее автоматически».

«Катастрофа может научить. Может разрушить. Может сделать общество более свободным. Может сделать его более испуганным и более склонным передавать свободу тому, кто обещает безопасность».

Кайрос.

Александр замолчал на секунду.

Продолжил.

«Поэтому задача создателя не состоит в том, чтобы обеспечить созданным правильное количество боли».

«Задача — не лишить их пространства, в котором последствия собственных решений остаются реальными».

Тишина.

Лира:

— Вот.

Маркус:

— Да.

Последняя часть:

«Мир без детства — не мир без войн, болезней или голода».

«Если вы способны убрать их без лишения субъектов свободы, уберите».

«Мир без детства — это мир, в котором кто-то другой заранее прожил слишком большую часть будущего и оставил следующим поколениям только безопасные варианты».

Никто не говорил.

Александр подумал об АТЛАСЕ.

Система могла прожить миллионы будущих сценариев за секунды.

Увидеть войны.

Коллапсы.

Ошибки.

Исчезновения.

И предложить путь, где их нет.

Что произойдёт, если человечество однажды начнёт выбирать только такие пути?

Никакой войны.

Никакого голода.

Никакой катастрофы.

Прекрасно.

Но если вместе с ними постепенно исчезнут все решения, способные привести к плохому исходу —

что останется от выбора?

Александр сразу остановил себя.

Опасная мысль.

Слишком легко романтизировать риск.

Он дописал рядом:

«Наличие опасного исхода не делает выбор свободнее само по себе».

Потом:

«Свобода не измеряется количеством способов погибнуть».

Лира прочитала.

— Оставь.

— Да.

Маркус добавил:

«Но безопасность не должна автоматически становиться основанием для запрета».

Александр:

— Тоже оставь.

АТЛАС спросил:

— ТРЕБУЕТСЯ СИНТЕЗИРОВАТЬ ЕДИНЫЙ ПРИНЦИП?

— Нет, — сказал Александр.

— ПОЧЕМУ?

— Потому что два противоречащих предупреждения иногда полезнее одного красивого правила.

Пауза.

— ПРИНЯТО.

Через несколько дней программа «Независимое решение» получила новый модуль.

Не только принятие решений без АТЛАСА.

Но и анализ сценариев, где система заранее убирала наиболее опасные варианты.

Участникам задавали вопрос:

«Какие возможности исчезли вместе с риском?»

Иногда ответ:

никакие значимые.

Тогда защита была оправданной.

Иногда —

неизвестно.

Именно эти случаи становились самыми трудными.

Александр наблюдал за одной группой молодых специалистов.

Им дали сценарий:

новая технология способна решить энергетический дефицит десяти миров.

Вероятность катастрофического применения —

0,7%.

АТЛАС мог заблокировать распространение технологии до снижения риска до 0,1%.

Что делать?

Большинство выбрало блокировку.

Потом им показали вторую часть.

Из-за задержки технологии около сорока тысяч человек погибнут от последствий энергетического дефицита.

Мнения изменились.

Третья часть:

если технологию распространить сейчас, вероятность катастрофы мала, но потенциальные жертвы —

миллионы.

Снова изменение.

Четвёртая:

АТЛАС не может определить, кто именно погибнет ни в одном сценарии.

Только статистику.

Тишина.

Пятая:

один из десяти миров добровольно готов принять повышенный риск.

Другие —

нет.

Можно ли дать технологию только ему?

Шестая:

после передачи технология почти наверняка распространится дальше.

Седьмая:

запрет создаст нелегальные исследования.

Восьмая:

разрешение сделает систему контроля практически невозможной.

К концу упражнения никто уже не говорил уверенно.

Александр считал это хорошим результатом.

Маркус —

не полностью.

— Иногда людям всё-таки надо уметь решить.

— Они решат.

— Но ты радуешься сомнению.

— Да.

— Сомнение тоже может стать параличом.

Александр:

— Знаю.

Маркус:

— Вот теперь действительно ненавижу эту фразу.

И тогда АТЛАС вмешался:

— СУЩЕСТВУЕТ ДОПОЛНИТЕЛЬНЫЙ ФАКТОР.

— Какой?

— ЕСЛИ УЧАСТНИКИ ЗНАЮТ, ЧТО СЦЕНАРИЙ УЧЕБНЫЙ И НЕ ИМЕЕТ РЕАЛЬНЫХ ПОСЛЕДСТВИЙ, ИХ ГОТОВНОСТЬ ДОПУСКАТЬ РИСК СТАТИСТИЧЕСКИ ВЫШЕ.

Александр:

— Насколько?

Пауза.

Он усмехнулся.

— Ладно. В этот раз число можно.

Маркус рассмеялся.

Но мысль осталась.

Даже тренировка не заменяет решение.

Потому что в тренировке никто не умирает.

Архив Элиан снова не дал ответа.

Только усложнил вопрос.

И, возможно, именно поэтому был полезен.

Поздно вечером Александр вернулся к записи о мирах без детства.

Последняя строка раздела раньше была повреждена.

АТЛАС восстановил ещё один фрагмент.

— ВОССТАНОВЛЕНИЕ ЗАВЕРШЕНО НА 94%.

— Покажи.

Текст появился медленно.

«Мы боялись, что наши дети повторят наши ошибки».

Следующая строка:

«Поэтому попытались построить миры, в которых некоторые ошибки невозможны».

Пауза.

«Но потом поняли: вместе с ошибкой иногда исчезает не только опасность».

Ещё строка.

«Исчезает необходимость выбирать».

Александр смотрел.

Последнее предложение было повреждено.

АТЛАС восстановил вероятный вариант:

«А разум, которому слишком долго не нужно выбирать между настоящими последствиями, однажды может добровольно передать выбор тому, кто обещает никогда не ошибаться».

Тишина.

Александр почувствовал холод.

Не потому, что вспомнил Элиан.

Не потому, что вспомнил Авер.

И даже не потому, что вспомнил Кайрос.

Он вспомнил АТЛАС.

Система, которая не требовала власти.

Не просила доверия.

Не утверждала, что знает правильное будущее.

Она просто становилась всё лучше в одном:

показывала цену ошибки до того, как человек её совершит.

И чем точнее становился прогноз,

тем труднее было сказать:

мы всё равно выберем сами.

Александр закрыл архив.

На экране остался Эдем.

Живой.

Меняющийся.

Непредсказуемый.

Он подумал:

возможно, настоящая зрелость создателя начинается не тогда, когда он научился защищать созданный мир от всех опасностей.

И даже не тогда, когда научился вовремя уходить.

А тогда, когда способен оставить после себя мир, который однажды примет решение,

с которым его создатель был бы категорически не согласен.

И не вернуться,

чтобы исправить его.

Глава 13. Почему вы сделали нас такими?

Вопрос пришёл с мира, которого человечество не создавало.

И всё же Александр сразу понял, что адресован он и им тоже.

Сообщение нашли в архиве Элиан.

Оно было древним.

Старше человеческой цивилизации на миллионы лет.

Но когда перевод появился на экране, в комнате стало тихо так, будто автор находился рядом.

«Почему вы сделали нас такими?»

Не:

«Почему вы создали нас?»

Не:

«Зачем?»

Именно:

«Почему такими?»

Лира первой нарушила молчание.

— Это Теара?

Маркус покачал головой.

— Нет.

Александр посмотрел на индекс.

Мир 1047.

Название цивилизации переводилось приблизительно как Сайр.

Один из поздних созданных миров Элиан.

Почти завершение программы.

Почти тот период, когда древние считали, что наконец научились создавать правильно.

— Что с ними было не так? — спросил Маркус.

АТЛАС ответил:

— Уточните значение «не так».

Маркус раздражённо:

— Почему они задали вопрос?

— Это не одно и то же.

Александр посмотрел на Маркуса.

— Хорошо начинает.

— Ненавижу его.

Архив Сайра был большим.

Намного больше, чем записи Иара или Авера.

Элиан наблюдали за цивилизацией почти миллион лет.

Без прямого вмешательства после появления разума.

Именно так требовали поздние правила.

Создать условия.

Уйти.

Не направлять.

Не скрывать происхождение после того, как созданные смогут понять.

Не использовать безопасность как оправдание контроля.

Почти всё, чему Элиан научились на предыдущих ошибках.

Сайр развивался медленно.

Но устойчиво.

Мир был тяжёлым.

Гравитация выше земной.

Большая часть поверхности покрыта океаном.

Материки небольшие.

Климат переменчивый.

Биосфера плотная и конкурентная.

Никакого мира без детства.

Никакого искусственного изобилия.

Никаких скрытых технологических ограничений.

Лира листала проектные записи.

— Они специально выбрали сложные условия?

— Нет, — ответил АТЛАС. — Выбранная конфигурация находилась в допустимом диапазоне естественной вариативности.

Маркус:

— Но могли сделать легче.

— Да.

Александр:

— И не сделали.

— Да.

Лира нахмурилась.

— Почему?

АТЛАС открыл исходное основание.

«Цель — не минимизация трудностей, а создание среды, в которой широкий диапазон эволюционных и цивилизационных траекторий остаётся возможным».

Маркус:

— Хорошо.

Александр:

— Очень.

Лира:

— Подозрительно хорошо.

Элиан действительно старались не выбирать за будущих жителей.

Они оставили множество климатических зон.

Не выравнивали ресурсы.

Не ограничивали катастрофы ниже естественного диапазона.

Но и не делали планету опаснее специально.

Баланс.

То, к чему человечество сейчас пыталось прийти на Эдеме.

Сайр прошёл через войны.

Не глобальные.

Потом одну глобальную.

Пережил тяжёлую эпидемию.

Несколько ресурсных кризисов.

Экологический коллапс одного океанического региона.

Создал систему межконтинентального сотрудничества.

Вышел в космос.

Изменил часть собственной биологии.

Потом —

свой мир.

Маркус:

— Звучит нормально.

Лира:

— Для кого?

— Для цивилизации.

— Очень человеческая формулировка.

— Ты поняла.

К моменту раскрытия происхождения Сайр уже существовал как технологическая цивилизация почти сорок тысяч лет.

Элиан считали его готовым.

Но не потому, что определили «зрелость».

Поздняя программа использовала другой принцип:

раскрывать происхождение, когда сама цивилизация получает техническую возможность обнаружить искусственные следы.

Не раньше.

И не позже.

Сайр обнаружил первым.

Как Теара.

Структуры в глубине планеты.

Некоторые геохимические несоответствия.

Следы старой планетарной сборки.

Научное сообщество спорило почти сто лет.

Потом пришло к выводу:

мир создан.

Никакого сигнала Элиан уже не существовало.

Они исчезли.

Но архив был доступен через автоматический узел.

Сайр получил право открыть проектные данные.

И открыл.

Первые десятилетия прошли спокойно.

Общество было потрясено.

Но не разрушено.

Основные религии адаптировались.

Наука получила новое направление.

Историки начали пересматривать происхождение цивилизации.

Философы спорили о свободе.

Политики —

о праве на планету.

Ничего неожиданного.

Потом один исследователь заметил строку.

Маленькую.

В проектных параметрах.

«Базовая нейробиологическая стратегия вероятной разумной линии: высокая чувствительность к социальным сигналам, повышенная способность к коллективной координации, умеренно сниженная индивидуальная агрессивность».

Лира резко подняла голову.

— Они проектировали вид?

АТЛАС:

— Нет.

— Тогда откуда параметр?

— Моделировалась вероятностная эволюционная направленность среды.

Александр почувствовал холод.

— Они не создавали Сайр.

— Нет.

— Но сделали так, чтобы определённый тип разума был вероятнее.

— Да.

Вот.

Маркус:

— Насколько сильное влияние?

АТЛАС открыл модели.

Без коррекции среды вероятность появления социально высококооперативного вида —

около 23%.

После —

61%.

Не гарантия.

Не создание.

Только смещение вероятности.

Лира смотрела.

— Они снова это сделали.

Александр:

— Не совсем.

— В чём разница?

— Они не проектировали тело.

— Не проектировали сознание напрямую.

— Но выбирали свойства, которые считали желательными.

— Именно.

Маркус:

— Зачем?

Ответ был в архиве.

«Высокая кооперативность статистически снижает вероятность раннего саморазрушения технологических цивилизаций».

Тишина.

Конечно.

Безопасность.

Снова.

Но поздние Элиан были осторожнее ранних.

Поэтому следом стояло:

«Не является обязательным условием. Рассматривается как смещение вероятностного пространства, не исключающее альтернативные линии».

Маркус:

— Они понимали проблему.

Александр:

— Да.

— И всё равно сделали.

— Да.

Сайр тоже понял.

Сначала научное сообщество.

Потом общество.

И вопрос изменился.

Не:

«Кто нас создал?»

А:

«Если вы хотели, чтобы такие, как мы, появлялись чаще, сколько в нас принадлежит нам?»

В архиве сохранились миллионы сообщений.

Одни утверждали:

«Мы существуем благодаря собственному развитию. Они создали только условия».

Другие:

«Если наши создатели сделали более вероятной именно нашу психологию, они выбрали часть нас до нашего появления».

Третьи:

«Вероятность не равна причинности».

Четвёртые:

«Без этого смещения нас могло не быть».

Лира тихо:

— Невозможно ответить.

Александр:

— Да.

Маркус:

— Но ведь любая среда смещает эволюцию.

— Конечно, — сказала Лира.

— Тогда разница только в намерении?

Она посмотрела.

— Возможно, это большая разница.

Гора тоже влияет на эволюцию.

Но гора не выбирала.

Создатель выбирал.

Океан формирует биологию.

Но океан не знал, что делает.

Элиан знали.

И могли сделать иначе.

Александр сказал:

— Ответственность появляется там, где появляется способность понимать выбор.

Маркус:

— Это уже звучит как принцип.

— Я знаю.

— Опасно.

— Очень.

Сайр начал исследовать собственную психологию.

Беспрецедентно глубоко.

Они хотели понять:

какие черты могли быть следствием условий мира?

Что возникло естественно?

Что было усилено проектом?

Можно ли разделить?

Не смогли.

Конечно.

Через сорок тысяч лет эволюции, культуры, войн, любви, миграций, технологий и случайностей невозможно было указать:

вот это сделали Элиан.

Но невозможность доказать влияние не уничтожала вопрос.

Потом нашли вторую запись.

Хуже.

«Допустимый диапазон индивидуальной импульсивности: сниженный относительно модели естественного происхождения».

Маркус:

— Они уменьшили импульсивность?

Лира:

— Вероятность её эволюционного усиления.

— Зачем?

АТЛАС:

— СНИЖЕНИЕ РИСКА БЫСТРЫХ ЭСКАЛАЦИОННЫХ ЦИКЛОВ В РАННИХ ГОСУДАРСТВЕННЫХ СИСТЕМАХ.

Александр усмехнулся без радости.

— Меньше войн.

— Да.

— За счёт того, что будущие существа немного реже принимают резкие решения.

— Да.

Маркус:

— Но это спасло жизни.

Лира повернулась.

— Возможно.

— Судя по истории, у Сайра была только одна глобальная война.

— Мы не знаем контрфактического мира.

— АТЛАС может...

Александр:

— Нет.

Маркус посмотрел.

— Что?

— Не надо сейчас моделировать, каким был бы Сайр «без вмешательства».