НОВЫЙ МИР. Сезон 1. Часть 3. Последний эксперимент. Том 1
- -
- 100%
- +
«Моделирование взаимодействия эволюционных линий».
Дальше:
«Оценка вероятности возникновения высокосложных адаптивных структур».
И:
«Анализ возможных последствий появления субъектных систем».
Вот.
Он открыл ограничения.
Их было много.
АТЛАС не имел права самостоятельно менять параметры мира.
Не имел права блокировать эксперимент.
Не имел права выбирать предпочтительную цивилизационную модель.
Не имел права скрывать альтернативные прогнозы.
Не имел права выдавать нормативную оценку форм субъектности.
Не имел права использовать понятия:
«правильная цивилизация».
«оптимальная культура».
«предпочтительная социальная организация».
Александр почти улыбнулся.
Кто-то явно слишком хорошо прочитал архив Аэрион.
Последнее ограничение:
«Ни одна прогнозируемая характеристика возможного будущего разумного субъекта не может являться самостоятельным основанием для изменения исходных параметров среды».
Правильно.
Разумно.
Очень осторожно.
Александр перечитал.
Потом задал системе запрос:
— Кто сформулировал это ограничение?
Ответ:
ЛИРА ХАН.
Он откинулся.
Конечно.
— АТЛАС.
Система ответила почти мгновенно.
— Доступен.
Голос нейтральный.
Не человеческий.
Не персонализированный.
Просто интерфейс.
— Ты моделируешь возможные разумные цивилизации Эдема?
— Моделирую условия, при которых может возникнуть сложная субъектность.
— Это не ответ.
Пауза.
Не настоящая.
Вычислительная.
— Да.
Александр почувствовал раздражение.
— Насколько далеко?
— Текущий допустимый горизонт — 120 000 лет после возникновения устойчивой технологической субъектности.
Он замер.
— Сто двадцать тысяч?
— Да.
— Зачем?
— Для оценки обратного влияния ранних биосферных параметров на долгосрочную устойчивость среды.
— То есть чтобы понять, не разрушит ли будущая цивилизация планету.
— Это один из оцениваемых рисков.
— И если разрушит?
— Система информирует исследовательскую группу.
— А дальше?
— Решение принимается субъектами с соответствующим мандатом.
Знакомый язык.
Очень.
Александр сел.
— Покажи вариант.
— Уточните.
— Мир с высокой вероятностью появления разумной жизни и высокой вероятностью самоуничтожения цивилизации.
На экране появились данные.
Модель.
Красивая.
Слишком красивая.
Океаны.
Континенты.
Стабильная биосфера.
Вероятность появления технологического разума:
78%.
Вероятность цивилизационного коллапса в первые десять тысяч лет после выхода в космос:
61%.
— Почему?
— Высокая ресурсная концентрация формирует преимущество централизованных структур доступа к энергии.
Александр почувствовал холод.
Уже.
Не было людей.
Не было языка.
Не было общества.
А система уже видела вероятность централизации власти.
Потому что видела распределение ресурсов.
Географию.
Климат.
Энергетические узлы.
Структуру будущей планеты.
— Покажи альтернативу.
Вторая модель.
Ресурсы распределены иначе.
Коллапс:
28%.
— То есть если изменить геологию, будущая цивилизация будет устойчивее.
— Вероятностно.
— И вам запрещено выбирать второй вариант на этом основании.
— Да.
— Почему?
— Потому что это означало бы использование прогноза будущей субъектности для проектирования условий её развития.
Александр замер.
Система знала собственную границу.
Пока.
— Ты считаешь ограничение рациональным?
— Вопрос требует нормативной оценки, которая не входит в мой мандат.
— Умно.
— Не могу оценить утверждение.
— Именно.
Он закрыл окно.
Не потому, что успокоился.
Наоборот.
Проект был хорошо спроектирован.
Люди знали риски.
Ограничили систему.
Предусмотрели прошлые ошибки.
Не пытались создать идеальную цивилизацию.
Не пытались убрать все опасности.
Они действительно многому научились.
И именно это делало проект сложнее для критики.
Нет очевидного злодея.
Нет тайного Совета.
Нет древнего ИИ, который всё решил заранее.
Только люди.
Разумные.
Осторожные.
Хорошо информированные.
Желающие сделать следующий шаг.
Александр снова посмотрел на планету за стеклом.
Ещё один мир.
Этот создавали медленно.
Терраформированием.
С использованием существующего вещества.
С постоянным человеческим участием.
Никто не называл себя создателем.
Люди говорили:
мы изменяем среду.
Эдем должен был стать другим.
Сначала —
модель.
Потом —
материя.
Потом —
мир.
Которого вчера не было.
Личный канал вспыхнул.
Не Совет.
Прямое сообщение.
От Маркуса Рейна.
Всего одна строка:
«Я рад, что выбрали именно вас».
Александр посмотрел.
Ответил:
«Почему?»
Маркус был в сети.
Ответ пришёл сразу:
«Потому что если проект выдержит ваши возражения, у него появится шанс выдержать реальность».
Александр усмехнулся.
«А если не выдержит?»
Пауза.
«Тогда вы окажетесь правы».
Ещё одна пауза.
«И я очень надеюсь, что вы не хотите этого больше, чем хотите узнать правду».
Александр перестал улыбаться.
Хороший удар.
Он написал:
«Вы считаете меня противником проекта».
Маркус:
«Нет».
«Я считаю вас противником будущего, которое слишком похоже на прошлые ошибки».
Александр:
«Это одно и то же?»
Маркус:
«Вот это и проверим».
Связь закрылась.
Александр долго смотрел на пустое окно.
Разозлился.
Потом понял:
не на Маркуса.
На то, что фраза попала слишком близко.
Он открыл семейный архив.
Не собирался.
Привычка.
Нашёл последнюю запись Алексея Воронцова, которую когда-то слушал сотни раз.
Остановился до запуска.
Нет.
Лира права.
Если сейчас он снова спросит мёртвого человека, как относиться к будущему, это уже будет ответ.
Не Алексея.
Его собственный способ избежать выбора.
Александр закрыл архив.
Впервые за много лет —
не открыв запись.
За стеклом продолжала формироваться облачная система.
Чуть ниже расчётной широты.
Модели ошиблись примерно на четыреста километров.
Ничего серьёзного.
Система уже предлагала коррекцию.
Александр посмотрел.
Потом отключил уведомление.
Пусть облако идёт.
Хотя бы это.
Хотя бы сегодня.
Через три часа он покинул «Горизонт».
Корабль вошёл в переход.
Пункт назначения:
станция «Нова».
Проект:
«Эдем».
Время до прибытия:
сорок семь минут.
Александр открыл материалы Совета.
Потом закрыл.
Открыл архив Элиан.
Закрыл.
Историю Лаэрис.
Закрыл.
Материалы Орионской сети.
Закрыл.
Записи Первых.
Закрыл.
Он внезапно понял, что может найти историческое предупреждение почти против любого действия.
Создавать миры —
опасно.
Не создавать —
тоже.
Прогнозировать —
опасно.
Отказываться от прогноза —
тоже.
Спасать —
опасно.
Не спасать —
тоже.
Создавать правила —
опасно.
Жить без правил —
тоже.
Если достаточно долго смотреть в прошлое, будущее действительно начинает выглядеть как собрание уже известных катастроф.
Но оно не обязано им быть.
Не потому, что человечество особенное.
Не потому, что стало мудрее.
Не потому, что «на этот раз всё будет иначе».
А потому, что ещё ничего не произошло.
На экране появилось изображение станции «Нова».
Огромная конструкция находилась возле звезды, вокруг которой не было планет.
Ни одной.
Система была выбрана именно поэтому.
Никто ничего не отнимал у существующего мира.
Никто не менял чужую биосферу.
Никто не переселял жизнь.
Пустое пространство.
Звезда.
Материя.
И проект.
В центре экрана находилась схема того, чего ещё не существовало.
Сфера.
Океаны.
Атмосфера.
Материки.
Будущая биосфера.
ЭДЕМ-1.
Александр смотрел.
Красиво.
Конечно красиво.
Будущие миры всегда красивее настоящих.
В них ещё никто не ошибся.
Корабль начал стыковку.
Пришло новое сообщение.
Автоматическое.
ДОБРО ПОЖАЛОВАТЬ В ПРОЕКТ «ЭДЕМ».
Следом:
ЦЕЛЬ ПЕРВОЙ ФАЗЫ: СОЗДАТЬ АВТОНОМНУЮ СРЕДУ, СПОСОБНУЮ РАЗВИВАТЬСЯ БЕЗ ПОСТОЯННОЙ ВНЕШНЕЙ КОРРЕКЦИИ.
И ещё:
ПРИНЦИП ПРОЕКТА: СОЗДАТЕЛЬ ЗАДАЁТ НАЧАЛО, НО НЕ ОПРЕДЕЛЯЕТ РЕЗУЛЬТАТ.
Александр задержал взгляд.
Хороший принцип.
Очень хороший.
И от этого тревога стала сильнее.
Потому что человечество слишком много раз видело, как красивые ограничения начинают работать иначе, когда появляется реальная цена.
Он выключил экран.
Шлюз открылся.
За ним стояла Лира.
— Ты всё-таки приехал.
— Разочарована?
— Наоборот.
— Маркус здесь?
— Ждёт.
— Совет?
— Уже собрался.
— АТЛАС?
Она улыбнулась.
— Он здесь всегда.
Александр посмотрел на неё.
— Очень успокаивает.
— Я стараюсь.
Они пошли по коридору.
За прозрачной стеной находился главный проектный зал.
Сотни людей.
Инженеры.
Биологи.
Планетологи.
Специалисты по искусственной субъектности.
Представители Марса.
Луны.
Земли.
Орбитальных обществ.
Несколько нечеловеческих участников в удалённом контуре.
Никто не говорил от имени человечества.
По крайней мере, официально.
Это тоже было уроком прошлого.
В центре зала висело изображение будущего мира.
Ещё не существующего.
Александр остановился.
Лира тоже.
— Красиво? — спросила она.
Он посмотрел.
— Да.
— Слишком?
Пауза.
Александр улыбнулся.
— Пока просто красиво.
Лира кивнула.
— Уже прогресс.
На изображении появились слова:
ПРОЕКТ «ЭДЕМ».
Потом:
ДО НАЧАЛА ПЕРВОГО МАТЕРИАЛЬНОГО ЭТАПА — 18 ЧАСОВ.
И ниже:
НЕЗАВИСИМАЯ ОЦЕНКА РИСКОВ АКТИВИРОВАНА.
Имя:
АЛЕКСАНДР ВОРОНЦОВ.
Он смотрел на строку.
Вот ирония.
Маркус будет создавать.
Лира — выращивать.
Инженеры — строить.
АТЛАС — рассчитывать.
А его снова позвали задавать вопрос:
что может пойти не так?
Когда-то Александр считал это своей сильной стороной.
Потом —
семейным наследием.
Теперь впервые подумал:
а что, если однажды опасность будет не в том, что никто не задаёт этот вопрос?
А в том, что кто-то задаёт его настолько долго, что следующий шаг становится невозможным.
Двери зала открылись.
На другом конце стоял Маркус Рейн.
Он увидел Александра.
Улыбнулся.
Не победно.
Почти дружелюбно.
И сказал:
— Наконец.
Александр подошёл.
— Вы уверены, что рады?
— Нет.
— Уже лучше.
Маркус протянул руку.
— Готовы?
Александр посмотрел на будущий мир.
Потом на Лиру.
На множество людей, собравшихся вокруг проекта.
На строку «ЭДЕМ-1».
И понял, что впервые за много лет не хочет отвечать словами Алексея.
Не хочет вспоминать, что сделали Аэрион.
Не хочет спрашивать, чем закончились Элиан.
Не хочет искать в древнем архиве цивилизацию, которая уже стояла в точно такой же точке.
Потому что такой точки раньше не было.
Похожая —
возможно.
Такая же —
нет.
Он пожал руку Маркусу.
— Нет.
Маркус удивился.
— Что?
— Я не готов.
Пауза.
— Но пришёл.
Маркус посмотрел на него.
И улыбнулся шире.
— Тогда начинаем.
За их спинами включился АТЛАС.
Нейтральный голос заполнил зал:
— Первая модель Эдема готова.
На экране появился будущий мир.
Потом второй.
Третий.
Десятый.
Тысячный.
Десятки тысяч вариантов одной планеты.
Разные океаны.
Разные материки.
Разные экосистемы.
Разные вероятности.
Разные будущие формы жизни.
И среди них —
варианты, в которых однажды появлялся разум.
Александр смотрел.
АТЛАС продолжил:
— Обнаружено 14 287 устойчивых планетарных траекторий.
Пауза.
— В 3 614 возможно возникновение технологической субъектности.
Ещё пауза.
— В 2 901 из них прогнозируется высокая вероятность цивилизационного кризиса в течение первых ста тысяч лет.
В зале стало тихо.
Маркус медленно повернулся к экрану.
Лира перестала улыбаться.
Александр почувствовал холод.
Вот.
Они ещё не создали ни одного мира.
Ни одного океана.
Ни одного организма.
Ни одной мысли.
А система уже знала,
какие из будущих цивилизаций могут однажды уничтожить себя.
На экране появился запрос:
«ИСПОЛЬЗОВАТЬ ДАННЫЕ ЦИВИЛИЗАЦИОННОЙ УСТОЙЧИВОСТИ ПРИ ОТБОРЕ ПЛАНЕТАРНОЙ МОДЕЛИ?»
Ниже:
ДА.
НЕТ.
Два варианта.
Всего два.
Маркус смотрел.
Лира — тоже.
Александр понял:
первый настоящий выбор проекта «Эдем» возник раньше, чем они создали мир.
И впервые вопрос был не в том,
способны ли люди создать будущее.
А в том,
имеют ли они право выбирать условия настоящего, уже зная, какое будущее эти условия делают более вероятным.
Экран ждал.
Никто не нажимал.
И где-то внутри АТЛАСА тысячи ещё не существующих цивилизаций уже расходились по миллионам возможных дорог.
Миры, которых не было.
Люди, которых не было.
Ошибки, которых никто ещё не совершил.
И будущее, которое впервые оказалось перед человечеством не как неизвестность.
А как выбор между тем,
что может произойти,
и тем,
чему люди способны не позволить произойти заранее.
Эдем ещё не существовал.
Но спор о его свободе
уже начался.
ЧАСТЬ I. НАСЛЕДНИКИ
.
Глава 1. Наследник
Первое решение по Эдему приняли через сорок семь минут после начала заседания.
Не создавать мир.
До этого было ещё далеко.
Не запускать материальный контур.
Даже не выбирать планетарную модель.
Решение было гораздо меньше.
И, возможно, именно поэтому опаснее.
На центральном экране всё ещё горел вопрос АТЛАСА:
«ИСПОЛЬЗОВАТЬ ДАННЫЕ ЦИВИЛИЗАЦИОННОЙ УСТОЙЧИВОСТИ ПРИ ОТБОРЕ ПЛАНЕТАРНОЙ МОДЕЛИ?»
ДА.
НЕТ.
Четырнадцать тысяч двести восемьдесят семь устойчивых вариантов будущего мира.
Три тысячи шестьсот четырнадцать — с вероятностью возникновения технологической субъектности.
И почти в трёх тысячах из них будущая цивилизация однажды могла столкнуться с кризисом, который АТЛАС уже сейчас умел оценивать как высокий.
Цивилизаций ещё не существовало.
Но их возможные ошибки —
уже были посчитаны.
Маркус Рейн стоял у центрального стола.
— Я предлагаю ответить «нет».
Александр поднял голову.
Он ожидал другого.
Не только он.
Несколько участников обменялись взглядами.
Представитель Марса спросил:
— Вы руководитель проекта.
— Да.
— АТЛАС показывает, что часть исходных моделей существенно снижает вероятность будущего цивилизационного коллапса.
— Да.
— И вы предлагаете сознательно не использовать эту информацию?
— При выборе планетарной архитектуры — да.
— Почему?
Маркус посмотрел на экран.
— Потому что мы решили создать мир.
Пауза.
— Не будущую цивилизацию.
В зале стало тихо.
Александр наблюдал за ним.
Вот в чём была проблема Маркуса.
Он не был безрассудным.
Не хотел построить идеальное общество.
Не мечтал стать создателем новой человеческой расы.
Он прекрасно понимал границу.
По крайней мере сейчас.
Главный инженер проекта, Давид Керн, возразил:
— Мы всё равно определяем условия.
— Конечно.
— Геология влияет на распределение ресурсов.
— Да.
— Климат — на расселение.
— Да.
— биология — на будущую экономику.
— Возможно.
— Значит, отказ учитывать последствия тоже является выбором.
Маркус кивнул.
— Именно.
Давид остановился.
— Тогда я не понимаю.
— Мы не можем не влиять.
— Согласен.
— Тогда почему не уменьшить известный риск?
Маркус ответил:
— Потому что возможность уменьшить риск ещё не объясняет, какой риск мы имеем право уменьшать до появления тех, кто будет жить с последствиями нашего решения.
Александр медленно выдохнул.
Хорошо.
Слишком хорошо.
Лира сидела через два места от него.
Не повернулась.
Но Александр видел, как она едва заметно улыбнулась.
Он наклонился.
— Не радуйся.
— Я ничего не делаю.
— У тебя лицо радуется.
— Оно автономно.
— Очень своевременная шутка.
Представитель Луны спросил:
— А если одна модель почти гарантированно ведёт к гибели будущего разума?
Маркус ответил:
— Тогда мы вернёмся к вопросу.
— То есть порог всё-таки существует.
— Возможно.
— Какой?
— Пока не знаю.
— Тогда ваше «нет» произвольно.
— Да.
В зале стало ещё тише.
Маркус продолжил:
— Но «да» было бы произвольным не меньше.
Александр впервые посмотрел на него иначе.
Большинство политиков не признавали произвольность собственных решений.
Учёные признавали неопределённость данных.
Юристы — несовершенство нормы.
Но человек, предлагающий крупнейший проект века, только что сказал:
да, граница пока выбрана нами и не является универсальной истиной.
Это не успокаивало.
Но Александр уважал такое больше, чем красивую уверенность.
Председатель заседания спросил:
— Мнение независимой группы?
Пять человек посмотрели на Александра.
Он нахмурился.
— Почему на меня?
— Вы указаны координатором.
— Где?
На его экран пришёл документ.
Александр открыл.
Вчера он читал список.
Полномочия.
Состав.
Ограничения.
Но одну строку пропустил.
КООРДИНАТОР НЕЗАВИСИМОЙ ГРУППЫ: АЛЕКСАНДР ВОРОНЦОВ.
Он закрыл глаза.
— Кто это решил?
Председатель ответил:
— Совет.
— Без меня?
— Вы можете отказаться.
— Сейчас?
— Да.
Лира тихо сказала:
— Вот и проверим право на выход.
Он посмотрел.
— Когда-нибудь я добьюсь, чтобы тебя исключили из моих заседаний.
— Я архитектор среды.
— Тогда меня.
Несколько человек улыбнулись.
Напряжение уменьшилось.
Ненадолго.
Председатель повторил:
— Александр?
Он посмотрел на вопрос АТЛАСА.
ДА.
НЕТ.
Можно было сказать:
нет.
Очевидно.
После всего, что человечество уже знало о прогностических системах.
О Сети.
О Хранителях.
О цивилизациях, которые научились так хорошо предсказывать будущее, что постепенно перестали позволять ему отклоняться.
После того, как право на прогностическую недоступность стало одним из важнейших достижений последних десятилетий.
Конечно —
нет.
Именно поэтому Александр не хотел отвечать быстро.
— У меня вопрос к АТЛАСУ.
Нейтральный голос отозвался:
— Доступен.
— Если мы запретим учитывать цивилизационную устойчивость при отборе модели, будут ли эти данные всё равно рассчитываться?
— Да.
— Почему?
— Для мониторинга возможных долгосрочных последствий исходных параметров.
— То есть мы будем видеть, что одна модель опаснее другой.
— Да.
— Но не использовать это при выборе.
— Согласно текущему ограничению — да.
Александр посмотрел на Маркуса.
— И вы считаете, что люди смогут видеть вариант с условными шестьюдесятью процентами будущего коллапса и вариант с двадцатью — и честно утверждать, что информация никак не повлияла?
Маркус помолчал.
— Нет.
— Тогда ограничение фиктивное.
Лира повернулась.
— Не обязательно.
— Почему?
— Есть разница между тем, что информация влияет на человека, и тем, что система автоматически оптимизирует мир под показатель.
— Для будущего результата?
— Огромная.
Александр посмотрел.
— Объясни.
— Если АТЛАС выбирает модель с минимальным риском, мы заранее встроили цель.
— А если человек видит прогноз и выбирает её?
— Тогда человек несёт ответственность за конкретный выбор.
— Будущей цивилизации от этого легче?
— Нет.
— Значит?
Лира ответила:
— Значит, разница не в результате.
Пауза.
— В том, где находится ответственность.
Александр замолчал.
Да.
Это было важно.
Не достаточно, возможно.
Но важно.
Член независимой группы, социолог Наоми Верн, впервые вмешалась:
— Я предлагаю третий вариант.
Председатель посмотрел.
— Какой?
— Не скрывать данные.
— Не запрещать их обсуждение.
— Но исключить интегральный показатель «цивилизационной устойчивости».
АТЛАС отреагировал:
— Уточните.
Наоми подняла голову.
— Не показывать нам число, которое превращает миллионы возможных будущих решений в одну оценку.
Александр посмотрел внимательнее.
— Оставить причины?
— Да.
— Ресурсная концентрация.
— климатическая уязвимость.
— биологические ограничения.
— вероятность планетарных кризисов.
— Но не говорить: «эта цивилизация устойчивее на сорок процентов».
Наоми кивнула.
— Потому что с этого момента мы перестанем видеть мир.
Пауза.
— И начнём видеть оценку мира.
Лира тихо сказала:
— Мне нравится.
Александр посмотрел.
— Слишком быстро.
— Ты заразен.
Маркус спросил АТЛАС:
— Возможно?
— Да.
— Влияние на физическое моделирование?
— Не оказывает.
— На биологическое?
— Не оказывает.
— На качество прогноза?
— Снижает удобство сравнительного анализа долгосрочных цивилизационных сценариев.
Александр усмехнулся.
— То есть станет менее удобно решать за тех, кого нет.
АТЛАС:
— Формулировка содержит нормативную интерпретацию.
— Уже начинаю любить тебя.
— Не могу оценить утверждение.
Проголосовали.
Не человечество.
Не Содружество.
Только проектная группа, имеющая мандат на первый этап.