НОВЫЙ МИР. Сезон 1. Часть 3. Последний эксперимент. Том 2

Александр посмотрел на данные и спросил:

— Где ошибка?

АТЛАС ответил:

— ФОРМАЛЬНОЙ ОШИБКИ НЕ ОБНАРУЖЕНО.

— Тогда почему этот мир в закрытом разделе?

— ПОТОМУ ЧТО ЭЛИАН ПРЕКРАТИЛИ ПОДОБНЫЕ ПРОЕКТЫ.

Маркус поднял голову.

— Почему?

На экране появилась строка:

«МИРЫ БЕЗ ДЕТСТВА».

Так их называли поздние Элиан.

Неофициально.

Почти с горечью.

Цивилизации, которым не позволили пройти собственный путь от незнания к знанию.

Первый мир назывался Иар.

Его создавали уже после того, как Элиан накопили огромный опыт.

Они знали почти всё, что может погубить молодую цивилизацию.

Климатические кризисы.

Истощение ресурсов.

Пандемии.

Религиозные войны.

Технологическое неравенство.

Гонку вооружений.

Неуправляемые искусственные системы.

Разрушение биосферы.

Энергетический дефицит.

Конфликты между государствами.

Коллапс институтов.

Они видели эти сценарии тысячи раз.

И решили провести эксперимент.

— Какой? — спросила Лира.

АТЛАС открыл проектный документ.

«Можно ли создать условия, в которых разумная цивилизация избежит наиболее разрушительных стадий развития, сохранив при этом автономию?»

Маркус тихо:

— Разумный вопрос.

Александр:

— Именно.

Элиан не собирались управлять Иаром.

Не хотели давать готовые законы.

Не планировали создавать религию.

Не собирались становиться богами.

Они сделали нечто гораздо тоньше.

Подготовили среду.

На планете было достаточно ресурсов, чтобы первые цивилизации не оказались в постоянной борьбе за выживание.

Континенты располагались так, чтобы культуры могли развиваться независимо, но не оставались изолированными слишком долго.

Климат был устойчивым.

Патогены —

менее агрессивными.

Крупные природные катастрофы —

редкими.

Полезные ископаемые распределялись относительно равномерно.

Ни один регион не получал огромного технологического преимущества только из-за географии.

Маркус смотрел на модель.

— Они убрали причины конфликтов.

Лира:

— Некоторые.

— Многие.

— Да.

Александр:

— Но не сами конфликты.

— Именно.

Элиан хотели сохранить свободу.

Поэтому не вмешивались напрямую.

Они просто сделали так, чтобы наиболее опасные обстоятельства возникали реже.

Первое тысячелетие разумной истории Иара выглядело почти невероятно.

Города.

Торговля.

Наука.

Философия.

Конфликты существовали.

Войны тоже.

Но локальные.

Ни одна не угрожала существованию цивилизации.

Потом появились технологии массового уничтожения.

И здесь Элиан сделали второе изменение.

Незаметное.

Они заранее встроили в физическую инфраструктуру мира ограничения, из-за которых некоторые наиболее разрушительные технологические цепочки оказывались крайне сложными.

Не невозможными.

Просто значительно менее вероятными.

Александр нахмурился.

— Они изменили физику?

— НЕТ.

АТЛАС показал детали.

Геохимию.

Доступность элементов.

Структуру месторождений.

Распределение редких изотопов.

Особенности магнитного поля.

Всё естественно возможное.

Но подобранное.

Маркус:

— Они не запрещали оружие.

— Нет.

— Просто сделали путь к нему сложнее.

— Да.

Лира:

— Это уже вмешательство.

— В создание планеты — конечно.

— Я имею в виду в будущее цивилизации.

Александр посмотрел на неё.

— Вся архитектура мира — вмешательство в будущее.

Тишина.

Вот проблема созданных миров.

Невозможно создать нейтральные начальные условия.

Любая гора —

ограничение.

Любой океан —

возможность.

Любое месторождение —

будущая политика.

Иар развивался.

Через несколько тысяч лет жители вышли в космос.

Не уничтожив себя.

Не разрушив планету.

Не создав неконтролируемую систему глобального управления.

Не пережив цивилизационный коллапс.

Элиан были в восторге.

В архиве сохранилась запись:

«Мы доказали, что разрушительные стадии не являются необходимым условием зрелости».

Маркус:

— И они правы.

Александр:

— Возможно.

— Война не нужна, чтобы научиться миру.

— Согласен.

— Голод не нужен, чтобы научиться распределять ресурсы.

— Согласен.

— Катастрофа не нужна, чтобы создать ответственность.

— Согласен.

Маркус развёл руками.

— Тогда что тебя беспокоит?

— Пока ничего.

Лира тихо:

— Значит, скоро будет.

Проблема появилась через восемь тысяч лет.

Когда цивилизация Иара начала колонизировать другие системы.

Первый новый мир был хуже.

Не катастрофически.

Просто естественный.

Другой климат.

Другие ресурсы.

Нестабильная тектоника.

Опасные микроорганизмы.

Сложная экология.

Жители Иара справились.

Но дорого.

Второй мир оказался ещё сложнее.

Третий —

хуже.

А на четвёртом произошла катастрофа.

Колония потеряла почти двадцать процентов населения за три года.

Причина —

не одна.

Цепочка.

Неправильная оценка биосферы.

Ошибки инфраструктуры.

Политический конфликт.

Паника.

Распад управления.

Несколько неудачных решений подряд.

— Обычная история, — сказал Маркус.

— Для нас, — ответил Александр.

Лира поняла первой.

— Для них — нет.

Иар не имел культурной памяти больших катастроф.

Не было институтов, выросших после глобальных поражений.

Не было историй о цивилизациях, которые едва не уничтожили себя.

Не было коллективного опыта восстановления после масштабного коллапса.

Не было языка для некоторых видов страха.

Это не означало, что жители Иара были слабыми.

Архив подчёркивал это отдельно.

Они были образованными.

Рациональными.

Способными к сотрудничеству.

Но их институты создавались в мире, где крайние риски почти никогда не материализовывались.

Они хорошо управляли нормальностью.

Хуже —

невозможным.

Потому что невозможное раньше почти не происходило.

Маркус:

— То есть Элиан считают, что им не хватило страдания?

Лира резко:

— Нет.

Александр:

— И архив тоже так не говорит.

— Тогда чего?

Лира посмотрела на данные.

— Опыт последствий.

Не боль сама по себе.

Не война.

Не голод.

Не катастрофа как обязательный урок.

А возможность столкнуться с ситуацией, которую никто заранее не смягчил.

И самим создать способы жить после неё.

На Иаре произошёл политический кризис.

Впервые за тысячи лет общество раскололось по вопросу, который не имел хорошего решения.

Одни требовали отказаться от опасных колоний.

Другие —

продолжить экспансию.

Третьи —

изменять новые миры до переселения.

Четвёртые —

изменять самих колонистов.

Пятые —

создать автоматические системы, которые не допустят повторения катастрофы.

Александр остановился.

— Вот.

Маркус:

— Что?

— Последнее.

— Что с ним?

— Читай.

Иар создал систему прогнозирования.

Не АТЛАС.

Гораздо примитивнее.

Но принцип был знаком.

Система должна была определять допустимый уровень риска для новых поселений.

Сначала —

рекомендовать.

Потом сертифицировать.

Потом без её допуска колонизация стала невозможна.

Маркус:

— Логично.

Александр посмотрел на него.

— Да.

Маркус понял.

— Чёрт.

После первой большой катастрофы цивилизация, почти не знавшая катастроф,

попыталась сделать так, чтобы подобное больше никогда не повторилось.

Слишком резко.

В течение следующих двух тысяч лет количество смертей при колонизации снизилось почти в двадцать раз.

Одновременно число новых колоний —

в семь раз.

Исследования опасных миров почти прекратились.

Некоторые типы планет система автоматически классифицировала как неприемлемые.

Лира:

— Они стали осторожными.

— После одной катастрофы, — сказал Александр.

— Потому что у них не было культурной шкалы для неё.

Маркус нахмурился.

— Ты сейчас делаешь очень опасный вывод.

— Какой?

— Что цивилизации нужны катастрофы для психологической устойчивости.

— Нет.

— Звучит именно так.

Александр задумался.

— Тогда сформулирую иначе.

Пауза.

— Цивилизации нужна способность жить с тем, что не все катастрофы можно заранее исключить.

Лира кивнула.

— Лучше.

Иар постепенно восстановил баланс.

Понадобились тысячи лет.

Они пересмотрели систему.

Вернули людям право принимать часть риска.

Создали механизмы добровольного участия.

Научились различать:

риск для себя;

риск для других;

риск для будущих поколений.

В итоге цивилизация выжила.

Развилась.

Стала одной из самых устойчивых среди созданных Элиан.

— Тогда эксперимент успешен, — сказал Маркус.

АТЛАС:

— ЭЛИАН НЕ ПРИШЛИ К ЕДИНОМУ ВЫВОДУ.

Конечно.

Одна группа считала Иар доказательством успеха.

Им удалось избежать миллионов смертей, не лишив цивилизацию способности развиваться.

Да, возник кризис.

Но общество его преодолело.

Другая группа считала:

Элиан просто отложили столкновение с неопределённостью.

И сделали его более болезненным.

Третья позиция была сложнее.

Она и дала название всему разделу.

«Миры без детства».

Автор термина писал:

«Мы ошибаемся, когда сравниваем развитие цивилизации с взрослением отдельного существа. Но метафора полезна в одном: детство — не совокупность травм, которые необходимо пережить. Это период, когда последствия ошибок ограничены масштабом возможностей».

Александр перечитал.

Ещё раз.

Лира сказала:

— Вот это важно.

Детство не нужно потому, что ребёнок должен страдать.

Оно нужно потому, что он учится выбирать до того, как получает возможность уничтожить себя и других одним решением.

Ошибка маленького ребёнка редко разрушает город.

Ошибка технологически зрелой цивилизации —

может разрушить планету.

Элиан поняли:

они пытались убрать опасные ошибки раннего развития,

но одновременно ускоряли доступ к сложным возможностям.

Цивилизации получали технологии раньше, чем успевали накопить собственные культурные механизмы работы с последствиями.

Маркус:

— Подожди. На Иаре технологии развивались естественно.

— Да.

— Никто им ничего не давал.

— Но среда была устроена так, чтобы развитие шло быстрее и безопаснее.

— Значит?

Лира:

— Технологическое взросление обогнало историческое.

Тишина.

Вот формулировка.

Цивилизация знала, как делать.

Но реже сталкивалась с вопросом, что происходит, когда сделанное выходит из-под контроля.

Не потому, что была глупой.

Потому что создатели слишком хорошо убрали часть ситуаций, в которых такой опыт обычно формируется.

Александр подумал об Эдеме.

— Мы делаем то же?

Маркус сразу:

— Нет.

— Почему?

— Мы не создаём цивилизацию.

— Пока.

— Александр.

— Я сказал «пока» не в смысле проекта.

— А в каком?

— Мы создаём среду. Если там когда-нибудь возникнет разум...

Лира:

— Это миллионы лет.

— Возможно.

— И нас, скорее всего, не будет.

— Тем более.

Если разум возникнет на Эдеме естественно,

он будет жить внутри мира, который человечество проектировало.

С определёнными защитами.

С определённой архитектурой.

С решениями, принятыми миллионы лет назад.

Людьми, которых будущие существа никогда не увидят.

Маркус:

— И что ты предлагаешь? Сделать Эдем опаснее специально?

— Нет.

— Убрать защитные механизмы?

— Нет.

— Тогда?

Александр не знал.

И это было хорошо.

После Кайроса он стал подозрительно относиться к быстрым ответам.

Лира сказала:

— Может быть, вопрос не в том, сколько опасности мы оставляем.

— А в чём?

— В том, оставляем ли мы миру возможность самому формировать ответы на неё.

Вот.

Не создавать катастрофы.

Не сохранять страдание ради урока.

Не романтизировать ошибки.

Но и не проектировать каждую будущую проблему вместе с готовым способом её решения.

АТЛАС:

— ТРЕБУЕТСЯ ОПЕРАЦИОНАЛИЗАЦИЯ КРИТЕРИЯ.

Маркус рассмеялся.

— Конечно.

Лира:

— Нет критерия.

— ТОГДА НЕВОЗМОЖНО ИСПОЛЬЗОВАТЬ ПРИНЦИП В ПРОЕКТИРОВАНИИ.

Александр:

— Можно использовать как вопрос.

— ВОПРОС НЕ ОПРЕДЕЛЯЕТ ДЕЙСТВИЕ.

— Именно.

Пауза.

АТЛАС:

— ПРИНЯТО.

Они добавили в проектную процедуру новый пункт:

«Не содержит ли решение заранее встроенного ответа на проблему, которую будущая система могла бы решить самостоятельно?»

Не запрет.

Вопрос.

Иногда ответ был:

содержит — и это необходимо.

Например, защита от необратимого планетарного разрушения на ранней стадии.

Иногда:

содержит — и мы не уверены, что имеем на это право.

Тогда решение откладывали.

Но Иар был только первым.

В разделе находилось девятнадцать миров.

И каждый показывал другую сторону проблемы.

Леора.

Цивилизация, которой Элиан заранее оставили огромные запасы энергии.

Практически исчезла ресурсная конкуренция.

На тысячи лет.

Результат оказался прекрасным.

И неожиданным.

Экономические системы Леоры почти не развили механизмы распределения дефицита.

Когда цивилизация вышла за пределы своей системы и столкнулась с действительно редкими ресурсами,

возник первый большой конфликт.

Не потому, что жители были жаднее людей.

Потому что их институты почти не тренировались в ситуации реального ограничения.

Теан.

Мир с очень низкой патогенной нагрузкой.

Эпидемии были редкими и локальными.

Медицина развивалась прежде всего как восстановительная.

Когда колонисты Теана встретили внеземную микробиологию,

последствия оказались тяжелее, чем у цивилизаций, исторически переживших множество эпидемий.

Маркус:

— То есть теперь болезни полезны?

Лира раздражённо:

— Нет.

— Но именно это можно прочитать.

— Тогда читать надо внимательнее.

Она увеличила запись Элиан.

«Не следует сохранять вред ради формирования устойчивости к вреду. Следует избегать создания систем, устойчивость которых существует только пока отсутствует класс угроз».

Маркус кивнул.

— Хорошо.

Александр:

— Это уже ближе к принципу.

Ориас.

Элиан сделали географию мира настолько благоприятной для обмена, что крупные культуры встретились очень рано.

Это снизило количество длительных войн между изолированными цивилизационными блоками.

Но одновременно ускорило культурную унификацию.

Через несколько тысяч лет на планете сохранилось меньше самостоятельных языковых и философских традиций, чем ожидали создатели.

Не уничтоженных.

Просто растворившихся.

Лира долго смотрела.

— Даже связь может быть вмешательством.

Александр:

— Конечно.

— Мы всё время считаем контакт хорошим.

— Не всегда.

— Но почти всегда.

Маркус:

— Альтернатива — изоляция.

— Я не говорю, что лучше.

— Тогда?

— Я просто хочу перестать автоматически считать увеличение связности улучшением.

Энтар.

Планета, на которой Элиан почти полностью исключили природные катастрофы планетарного масштаба.

Цивилизация прожила семьдесят тысяч лет без глобальной угрозы.

Потом сама создала одну.

Не оружие.

Энергетический эксперимент.

Ошибка.

В течение нескольких месяцев возник риск разрушения значительной части атмосферы.

Общество оказалось перед необходимостью эвакуировать целые континенты.

И почти не смогло.

Не технически.

Политически.

Ни один институт не имел полномочий для решения такого масштаба.

Потому что никогда раньше подобные полномочия не требовались.

Создавать их пришлось во время кризиса.

Очень быстро.

И именно тогда возникла централизованная система чрезвычайного управления, которая потом просуществовала ещё восемьсот лет.

Александр:

— Знакомо.

Маркус:

— Очень.

Снова.

Катастрофа.

Временные полномочия.

Система, созданная для спасения.

А потом проблема возврата.

— Они отменили её? — спросила Лира.

— Да, — ответил АТЛАС.

— Сколько времени?

— ВОСЕМЬСОТ ДВЕНАДЦАТЬ ЛЕТ.

Маркус:

— Быстро.

Александр посмотрел.

— Для тебя?

— Для цивилизации.

Следующий мир был другим.

Меора.

Элиан решили ничего не смягчать.

После критики «миров без детства» они создали планету почти без защитной оптимизации.

Естественный диапазон катастроф.

Неравномерные ресурсы.

Сложная география.

Опасная биология.

— Они специально сделали плохой мир? — спросил Маркус.

Лира:

— Нет.

— Но могли сделать безопаснее.

— Могли.

— И не сделали.

— Да.

— Значит, сознательно оставили предотвратимое страдание.

Тишина.

Вот обратная крайность.

Элиан хотели сохранить «естественность».

Не вмешиваться слишком много.

Дать цивилизации собственное детство.

Результат?

Три глобальные войны.

Две пандемии.

Экологический коллапс.

Миллиарды смертей.

Маркус встал.

— Вот.

Никто не спорил.

— Вот что происходит, когда философия начинает оправдывать бездействие.

Александр:

— Да.

— Они могли уменьшить риск.

— Да.

— Не сделали.

— Да.

— Потому что боялись лишить цивилизацию опыта.

— Частично.

Маркус посмотрел на него.

— И?

Александр:

— Это была ошибка.

Маркус замолчал.

Он ожидал спора.

Лира тоже кивнула.

— Да.

Архив Элиан признал это намного позже.

«Мы превратили уважение к автономии в оправдание вреда, который могли предотвратить без существенного ограничения будущего выбора».

Вот.

Александр сохранил.

Не как правило.

Как противовес.

Потому что после Иара слишком легко было уйти в другую крайность:

пусть миры страдают, иначе не вырастут.

Нет.

Никому не нужен голод, чтобы понять ценность еды.

Никому не нужна война, чтобы заслужить мир.

Никому не нужна пандемия, чтобы медицина считалась зрелой.

Страдание не является образовательной программой Вселенной.

Но и устранение каждого риска заранее не создаёт свободу автоматически.

Вот сложность.

Меора выжила.

После огромной цены.

Стала сильной цивилизацией.

Создала развитые институты.

Но архив задавал неудобный вопрос:

сколько погибших были действительно ценой автономии, а сколько — ценой принципиальности создателей?

Ответа не было.

Маркус сказал:

— Если я могу предотвратить смерть ребёнка, не лишая его свободы, я должен это сделать.

Лира:

— Да.

Александр:

— Да.

— Наконец.

— Не радуйся.

— Почему?

— Потому что дальше вопрос: когда предотвращение начинает лишать свободы?

Маркус сел.

— Конечно.

Они дошли до мира Авер.

И здесь архив стал странным.

Данные были неполными.

Многие файлы удалены.

Причём намеренно.

АТЛАС:

— ЧАСТЬ ЗАПИСЕЙ УНИЧТОЖЕНА СОВЕТОМ ЭЛИАН.

— Причина?

— ЭТИЧЕСКОЕ ОГРАНИЧЕНИЕ.

Лира:

— Что они сделали?

Авер был попыткой решить проблему «миров без детства».

Элиан создали цивилизацию, в которой риски увеличивались постепенно вместе с технологическими возможностями.

Не искусственно создавали войны.

Не запускали болезни.

Нет.

Они управляли доступностью некоторых открытий.

Александр почувствовал отвращение раньше, чем понял детали.

— Они тормозили развитие.

— ДА.

Если общество не имело достаточных механизмов контроля,

некоторые технологические цепочки становились труднее обнаружить.

Если появлялись нужные институты —

условия менялись.

Незаметно.

Маркус:

— Как?

— ЧЕРЕЗ МИКРОИЗМЕНЕНИЯ ДОСТУПНОСТИ РЕСУРСОВ, АСТРОНОМИЧЕСКИХ СОБЫТИЙ, ЭКСПЕРИМЕНТАЛЬНЫХ УСЛОВИЙ И ИНФОРМАЦИОННЫХ СИГНАЛОВ.

— То есть они решали, когда цивилизация готова к технологии.

— ДА.

Тишина.

— Нет, — сказал Александр.

Маркус посмотрел.

— Даже если это спасло их?

— Нет.

— Подожди.

— Это уже не проектирование начальных условий.

— Это управление развитием.

Лира:

— Согласна.

Но результаты были невероятными.

Авер избежал почти всех известных технологических катастроф.

Ядерные технологии появились после создания глобальных механизмов контроля.

Сильный искусственный интеллект —

после длительного периода развития прав субъектных систем.

Планетарная инженерия —

после появления международных институтов экологической ответственности.

— Они были готовы, — сказал Маркус.

Александр:

— По мнению кого?

— Элиан.

— Вот.

Архив показывал:

в 97% случаев отложенные технологии появлялись позже без дополнительных вмешательств.

В большинстве случаев —

в более безопасной социальной среде.

Миллионы потенциальных жертв были предотвращены.

Возможно, миллиарды.

Маркус смотрел на Александра.

— Всё ещё нет?

— Всё ещё.

— Почему?

— Потому что они украли у цивилизации право определить собственную готовность.

— А если цивилизация ошиблась бы?

— Тогда это была бы её ошибка.

— С миллиардами погибших?

Александр замолчал.

После Кайроса вопрос звучал иначе.

Лира:

— Я тоже против.

Маркус:

— Почему?

— Потому что жители Авера не знали, что их развитие управляется.

— Если бы знали?

— Тогда хотя бы могли отказаться.

Вот.

Не само ограничение.

Тайна.

Отсутствие согласия.

Создатели считали цивилизацию недостаточно зрелой для технологии —

и одновременно недостаточно зрелой, чтобы знать о самом ограничении.

Замкнутый круг.

Поздние Элиан признали проект недопустимым.

Не потому, что он провалился.

Наоборот.

Он был слишком успешным.

Александр:

— Конечно.

В заключении:

«Авер доказал, что контролируемое взросление может существенно снизить количество катастроф».

Следующая строка:

«Он также доказал, что создатель способен бесконечно оправдывать контроль результатами этого контроля».

Вот.

Если система предотвращает катастрофы,

каждая предотвращённая катастрофа становится аргументом оставить систему.

А катастрофы, которые могли бы произойти без неё, невозможно показать.

Они существуют только как прогноз.