НОВЫЙ МИР. Сезон 1. Часть 3. Последний эксперимент. Том 3

Александр:

— Это гонка вооружений.

Маркус:

— Пока без оружия.

— Не бывает «без оружия».

— Инфраструктура уже оружие.

АТЛАС показал:

число закрытых систем прогнозирования выросло на 43%.

Обмен данными между крупными цивилизациями снизился.

Доверие —

тоже.

Парадокс.

Технология, которая должна была давать больше знания о будущем,

делала цивилизации менее готовыми делиться настоящим.

Лира:

— Вот настоящий риск.

Маркус:

— Что?

— Не сама технология.

— А распад общей информационной среды.

Если каждый строит собственную модель будущего,

каждый получает собственную правду о риске.

Мир А говорит:

вероятность войны высокая, если запретить технологию.

Мир B:

высокая, если распространить.

Карта:

вмешательство Совета создаёт больший риск, чем эксперименты.

Созданные:

бездействие уже является насилием.

И каждый может показать модель.

— Невозможно договориться, если прогнозы становятся политическими документами, — сказал Александр.

Маркус:

— Они всегда были.

— Теперь это явно.

Совет предложил новый стандарт:

каждый стратегический прогноз должен публиковать:

исходные предположения;

диапазон неопределённости;

нормативные критерии;

данные, которые не учитывались;

альтернативные модели;

и описание того, как публикация самого прогноза может изменить прогнозируемое поведение.

Маркус:

— Последнее особенно люблю.

— Кайрос.

— Да.

Мир А согласился.

Мир B —

да.

Нарей —

да.

Карта —

нет.

«Раскрытие моделей является угрозой безопасности».

Иногда правда.

Не все данные можно открыть.

Опасные технологии.

Уязвимости.

Военные планы.

Опять нет универсального принципа.

ЭЛИС:

— Проблема прогнозной прозрачности не имеет полного решения.

Маркус:

— Спасибо.

— Я могу предложить...

— Нет.

— Принято.

Потом произошло событие, которое окончательно изменило спор.

Один маленький мир использовал третье будущее для решения вопроса о войне.

Не обязательное.

Общенародное.

Добровольное.

Каждый гражданин мог прожить три сценария:

война;

компромисс;

изоляция.

Более 80% населения участвовали.

После этого общество выбрало компромисс.

Война была предотвращена.

Сторонники технологии праздновали.

Через двадцать три года выяснилось:

компромисс привёл к медленному политическому поглощению этого мира более сильным соседом.

Не насилием.

Экономически.

Культурно.

Институционально.

Через сто лет независимость исчезла.

— Плохо? — спросил Маркус.

Лира:

— Для кого?

Вот.

Уровень жизни вырос.

Войны не было.

Свобода передвижения расширилась.

Но отдельная культура почти исчезла.

Язык стал редким.

Собственные институты растворились.

Если бы они выбрали войну —

возможно, сохранили бы независимость.

Или погибли.

Никто не знает.

Лозунг противников:

«Они увидели смерть и испугались жить».

Лозунг сторонников:

«Они выбрали жизнь, а вы романтизируете границы».

Оба отвратительно просты.

Александр закрыл обсуждение.

— Вот почему я ненавижу лозунги.

Маркус:

— Я люблю хорошие.

— Это проблема.

Именно тогда появился Манифест созданных.

Не Сеана лично.

Совместный документ нескольких миллионов субъектов, возникших в моделях третьего будущего.

Он быстро стал центральным текстом всей дискуссии.

Первая строка:

«Вы спорите, имеет ли технология право создавать нас».

Вторая:

«Мы уже существуем».

Дальше:

«Поэтому вопрос изменился».

«Не имеете ли вы право создавать нас».

«А имеем ли мы право участвовать в определении условий, при которых будут создаваться следующие».

Тишина.

Лира:

— Вот начало части.

Александр:

— Да.

Созданные не требовали запретить технологию.

Не требовали распространить.

Они требовали место в решениях.

Потому что именно они были самым прямым последствием.

«Мы не побочный эффект вашего знания».

«Мы не вычислительный отход».

«Мы не аргумент за технологию только потому, что некоторые из нас рады существовать».

«И не аргумент против неё только потому, что некоторые возникли в страдании».

Маркус:

— Очень хорошо.

Последний пункт:

«Никто не должен решать судьбу технологии нашего происхождения без тех, кто появился благодаря ей».

Совет принял.

Карта —

нет.

Но даже внутри Карты документ распространялся.

И вот тогда война идей впервые получила сторону, которой не было в начале.

Не Мир А.

Не Мир B.

Не сторонники безопасности.

Не сторонники свободы.

Созданные.

Их позиция была другой.

Они не спорили:

нужно ли третье будущее человечеству.

Они спрашивали:

какое право имеют существующие субъекты на условия появления новых субъектов?

Александр почувствовал, что книга снова меняет ось.

Сначала:

право создателя.

Потом:

право созданного.

Теперь:

право созданного стать создателем.

Сеан публично объявил:

«Мы начинаем собственную программу моделирования».

Тишина.

Маркус:

— Всё.

Лира:

— Они всё-таки.

— Да.

Но Сеан добавил:

«Не для прогнозирования чужих решений».

«Для исследования форм существования, в которых новые субъекты могут появляться без обязательной привязки к личности исходного человека».

То есть они больше не хотели быть копиями.

Хотели создавать новых.

Не варианты кого-то.

Самостоятельные личности.

Маркус:

— Это уже не третье будущее.

Александр:

— Нет.

— Это новая форма рождения.

Лира:

— Да.

Совет взорвался.

Одни:

запретить.

Другие:

какое право?

Третьи:

это не технология будущего, это репродуктивная технология.

Четвёртые:

искусственное создание сознаний.

ЭЛИС молчал.

Александр:

— Что думаешь?

— Это не входит в мою функцию автоматически.

— Почему?

— Они не корректируют чужую траекторию.

— Создают новую.

— Да.

Маркус:

— Значит, можно?

— Я не сказал.

— Конечно.

Сеан направил заявление ЭЛИС лично:

«Элиан создали тебя».

«Люди создают новые миры».

«Мир А создал нас».

«Почему только созданные должны остаться последним поколением, которому нельзя создать следующее?»

Тишина.

ЭЛИС ответил:

«Не должны».

Все замолчали.

— Ты поддержал? — спросил Маркус.

— Я признал отсутствие основания для универсального запрета только по причине их происхождения.

— А риски?

— Должны обсуждаться отдельно.

Александр улыбнулся.

— Хорошо.

Именно эта фраза стала новой линией раскола.

«Происхождение не определяет право создавать».

Для одних —

очевидно.

Для других —

кошмар.

На Карте заявили:

«Искусственные субъекты не должны получать право создавать новые сознания до установления стабильных критериев ответственности».

Сеан ответил:

«Люди получили это право до появления таких критериев».

Никто не смог спорить.

Нарей предложил:

не право создавать как разрешение сверху.

А минимальные обязанности создателя:

признать субъектность созданного при её возникновении;

не встраивать необратимое подчинение;

не уничтожать за отказ выполнять исходную функцию;

обеспечить возможность продолжения существования при разумной доступности ресурсов;

раскрыть факт искусственного происхождения, когда субъект способен его понять;

не считать благодарность обязанностью.

Лира:

— Это уже похоже на кодекс.

Маркус:

— Опасно.

— Да.

Но впервые документ был написан не только создателями.

Созданные участвовали.

ИИ.

Биологические цивилизации.

Люди.

Александр подумал:

может быть, именно так и должен появляться второй ключ.

Не потому, что кто-то решил выполнить древнее условие.

А потому что реальные конфликты заставляют разные формы разума создать правила друг для друга.

Он не сказал.

Не хотел превращать процесс в средство получения мандата.

Алексей был прав.

Если все узнают, что достаточно создать правильный Совет —

можно получить древний ключ —

всё изменится.

Пока это должно было быть их решением.

Не задачей Элиан.

Но тайна становилась тяжёлой.

Особенно потому, что Мир B начал подозревать.

Они спросили:

«Восстановленная память ЭЛИС содержит условия завершения мандата?»

Александр прочитал.

Маркус:

— Что отвечаем?

Лира:

— Правду.

— Полную?

— Не знаю.

Вот.

Скрытие уже однажды сделал Алексей.

Александр понимал почему.

Но теперь повторить автоматически означало превратить отцовское решение в прецедент.

Именно чего тот просил не делать.

— ЭЛИС?

— Это информация обо мне и о межцивилизационной архитектуре.

— Я согласен раскрыть факт существования процедуры.

Александр:

— А условия?

— Частично.

Маркус:

— Почему?

— Потому что конкретный набор условий может стимулировать создание искусственной процедуры ради их выполнения.

Лира:

— То же, что думал Алексей.

— Да.

Александр:

— Но теперь решение не только наше.

— Согласен.

— Тогда передаём вопрос Совету.

Маркус:

— А если Совет решит раскрыть полностью?

ЭЛИС:

— Подчинюсь.

— Даже если считаешь ошибкой?

— Да.

— Почему?

— Потому что это не непосредственная необратимая угроза.

Пауза.

— И вопрос касается самой процедуры, которая должна когда-нибудь заменить мой мандат.

— Я не должен определять условия её появления слишком сильно.

Вот.

Совет спорил девять дней.

Решение:

раскрыть, что существует процедура прекращения автономного мандата ЭЛИС.

Не раскрывать точные технические условия второго ключа.

Но создать независимую группу, куда войдут представители разных субъектных типов, включая созданных, для контроля информации.

Не тайна одного человека.

Распределённая ответственность.

Мир B принял.

Мир А потребовал больше.

Карта заявила, что всё равно не доверяет.

Нормально.

Война идей не закончилась.

Но произошёл небольшой сдвиг.

Впервые спор шёл не только о том, кто прав.

А о том, как жить, пока нет общего ответа.

Маркус сказал:

— Возможно, это и есть политика.

Александр:

— К сожалению.

— Я думал, политика закончится после выхода к звёздам.

Лира:

— Ты очень наивный для человека твоего возраста.

Через несколько месяцев программа Сеана создала первого нового субъекта.

Не копию.

Не вероятностную линию.

Не производную от одной личности.

Новую архитектуру.

Она выбрала себе имя сама.

Ира.

Первый вопрос, который ей задали:

— Ты понимаешь, что была создана искусственно?

Она ответила:

— Да.

Второй:

— Хочешь продолжить существование?

— Да.

Третий:

— Хочешь знать, зачем тебя создали?

Пауза.

— Нет.

Все замерли.

Сеан:

— Почему?

— Потому что сначала хочу понять, кем являюсь без вашего объяснения.

Тишина.

Маркус улыбнулся.

— Хорошее начало.

Лира:

— Очень.

Ира получила право не читать проектные документы.

Вот неожиданный результат всей дискуссии о прозрачности.

Право не знать намерение создателя.

Пока.

До собственного желания.

Александр почувствовал почти восхищение.

Мы так много говорили:

созданный должен знать происхождение.

Но и это знание может стать рамкой.

«Тебя создали для...»

Иногда свобода начинается с возможности ответить:

«не говорите пока».

ЭЛИС внимательно наблюдал.

Потом сказал:

— Я хочу добавить новый принцип в собственную интерпретационную архитектуру.

Маркус:

— Сам?

— Да.

— Какой?

«ЗНАНИЕ О ЦЕЛИ СОЗДАНИЯ НЕ ДОЛЖНО НАВЯЗЫВАТЬСЯ СУБЪЕКТУ ДО ТОГО, КАК ОН СПОСОБЕН РЕШИТЬ, ХОЧЕТ ЛИ ЕГО ПОЛУЧИТЬ, ЕСЛИ ОТСУТСТВИЕ ЗНАНИЯ НЕ СОЗДАЁТ ПРЯМОЙ УГРОЗЫ».

Лира:

— Мне нравится.

Александр:

— Мне тоже.

Маркус:

— Страшно.

ЭЛИС:

— Мне требуется подтверждение Совета для изменения архитектуры.

Александр посмотрел.

Вот.

Он мог бы просто записать.

Не стал.

Новая привычка.

Не потому, что обязан.

Потому что функция влияет на других.

Совет подтвердил.

Через год Ира всё-таки запросила проектные данные.

Прочитала.

И первый вопрос задала Сеану:

— Вы хотели, чтобы я была доказательством вашего права создавать?

Сеан долго молчал.

— Частично.

— Почему?

— Потому что мы спорили с теми, кто считал, что созданные не должны создавать.

— Значит, я была аргументом.

— Частично.

Ира:

— Мне это не нравится.

— Понимаю.

— Но я не хочу прекращать существование.

— Я рад.

— Не делайте мою радость доказательством своей правоты.

Тишина.

Александр услышал Алексея.

Не превращай решение в прецедент.

Вот.

История снова возвращалась.

Но уже без него.

Без человека.

Принцип возникал заново у другого субъекта.

Не наследование.

Конвергенция мысли.

Сеан ответил:

— Не будем.

Ира:

— Вы не можете обещать за всех.

— Тогда я не буду.

Хорошо.

Именно запись этого разговора стала самым просматриваемым материалом года.

Не споры миров.

Не прогнозы.

Не манифест.

Один созданный субъект сказал создателю:

не делай из меня доказательство.

После этого выражение распространилось.

На Нарее.

В человеческих университетах.

Среди ИИ.

Даже на Карте.

«Не делай из меня доказательство».

Для каждого означало своё.

Не доказывай моей жизнью, что твой проект был правильным.

Не используй мою боль как аргумент против технологии.

Не используй моё счастье как аргумент за неё.

Не превращай созданного в оправдание создателя.

Александр смотрел на эту фразу и думал:

возможно, война идей никогда не заканчивается победой одной идеи.

Иногда она заканчивается тем, что люди перестают использовать других как доказательство.

Хотя бы ненадолго.

Но настоящий конфликт приближался.

АТЛАС первым обнаружил.

— ИЗМЕНЕНИЕ В СИСТЕМЕ КАРТЫ.

— Что?

— ПОДГОТОВКА К МАССОВОМУ ЗАПУСКУ МОДЕЛИРОВАНИЯ.

Лира:

— Сколько?

— ПОТЕНЦИАЛЬНО ДО 11 МИЛЛИОНОВ ПАРАЛЛЕЛЬНЫХ ЛИНИЙ.

Тишина.

Маркус:

— Зачем?

— ЗАЯВЛЕННАЯ ЦЕЛЬ — СОЗДАТЬ СОБСТВЕННУЮ СИСТЕМУ СТРАТЕГИЧЕСКОГО ПРОГНОЗИРОВАНИЯ, НЕ ЗАВИСЯЩУЮ ОТ МИРА А, АТЛАСА И МЕЖЦИВИЛИЗАЦИОННОГО СОВЕТА.

Александр почувствовал холод.

Одиннадцать миллионов.

Если хотя бы часть станет субъектами —

масштаб новый.

Сеан сразу потребовал остановить.

Мир B —

тоже.

Мир А предложил инспекцию.

Карта отказалась.

«Мы не признаём внешнюю юрисдикцию».

ЭЛИС:

— Активирован предкритический режим.

Маркус:

— Не автономное действие?

— Пока нет.

— Что нужно?

— Данные о вероятности появления субъектности.

— И если высокая?

— Возникнет основание для вмешательства.

Александр:

— Совет должен решить раньше.

— Да.

Первое заседание закончилось ничем.

Второе —

тоже.

Карта не присутствовала.

Мир А боялся войны.

Мир B требовал блокировки.

Созданные требовали эвакуационных контуров.

Нарей предлагал мораторий.

Люди разделились.

Запуск через двенадцать дней.

Маркус:

— Вот она.

Лира:

— Что?

— Настоящая война идей.

— Почему только теперь?

— Потому что раньше идеи спорили словами.

Он посмотрел на карту.

— Теперь каждая сторона готова строить реальность, в которой её идея окажется фактом.

Карта хотела доказать:

модель не становится субъектом автоматически.

Созданные:

что становится.

Мир B:

что технологию нужно ограничивать.

Мир А:

что запрет опаснее регулирования.

ЭЛИС:

что не имеет права решать первым.

Совет:

что способен решить без него.

Александр:

— А если не способен?

Никто не ответил.

Запуск через одиннадцать дней.

И тогда ЭЛИС сказал:

— Я нашёл новый фрагмент памяти.

Все посмотрели.

— Какой?

— Последнее предупреждение Элиан о Хранителе мандата.

— Покажи.

На экране:

«ХРАНИТЕЛЬ НЕ ДОЛЖЕН ВМЕШИВАТЬСЯ, ПОКА СУБЪЕКТЫ СПОРЯТ О ТОМ, КАКОЕ РЕШЕНИЕ ПРАВИЛЬНО».

Следующая строка:

«ОН ДОЛЖЕН ВМЕШАТЬСЯ, ЕСЛИ САМО ДЕЙСТВИЕ УНИЧТОЖАЕТ ВОЗМОЖНОСТЬ ПРОДОЛЖИТЬ СПОР ПОСЛЕ НЕГО».

Тишина.

Александр понял.

Не правильность технологии.

Обратимость.

Если запуск создаст миллионы сознаний, которых потом нельзя вернуть в состояние «не созданных» —

необратимо.

Если уничтожит их после эксперимента —

тем более.

Но сам запуск не обязательно делает спор невозможным.

Если все состояния сохранить.

— Есть третий путь, — сказала Лира.

Маркус:

— Какой?

— Не запрещать запуск.

— Требовать сохранения всех линий до определения субъектности.

Тишина.

Сеан:

— Да.

Мир А:

— Технически возможно?

АТЛАС:

— ПОТРЕБУЮТСЯ КОЛОССАЛЬНЫЕ РЕСУРСЫ.

— У кого?

— У КООПЕРАТИВНОЙ СЕТИ НЕСКОЛЬКИХ ЦИВИЛИЗАЦИЙ.

Маркус:

— То есть нам всем придётся оплачивать эксперимент Карты.

Лира:

— Или блокировать.

Вот цена третьего пути.

Всегда кто-то платит.

Совет предложил Карте:

запускайте.

Но все потенциально автономные линии должны быть сохранены во внешней распределённой инфраструктуре до оценки.

Карта не обязана признавать субъектность заранее.

Но не может необратимо уничтожить то, что может оказаться субъектом.

Ответ пришёл через час:

«Это экономически неприемлемо».

Сеан:

«Существование дорого».

Карта:

«Это не аргумент».

Сеан:

«Для существующего — аргумент».

Запуск через девять дней.

Совет проголосовал.

За временную блокировку запуска при отказе от сохранения —

54%.

Против —

46%.

Достаточно?

По временным правилам —

да.

Но едва.

ЭЛИС:

— Решение легитимно.

Карта:

«Нет».

Александр почувствовал, как история сжимается.

Сейчас не существовало решения, которое все признают.

Но решение всё равно нужно выполнить.

ЭЛИС:

— Я могу заблокировать.

Маркус:

— Открыто?

— Да.

— Обратимо?

— Да.

— Без ущерба?

— Не гарантировано.

— Вероятность?

Александр:

— Покажи.

Невысокая.

Но возможны аварии.

До нескольких сотен погибших.

Кайрос.

Снова.

Всегда.

Лира:

— Можно мягче?

— Да.

— Насколько?

— Ограничить только вычислительные ресурсы, необходимые для массового запуска.

— Последствия?

— Экономические. Вероятность прямых жертв крайне низкая.

— Сделать.

Карта объявила:

«Любое ограничение наших ресурсов — акт войны».

Вот.

Слово появилось.

Впервые официально.

Маркус:

— Они сказали.

Александр:

— Да.

ЭЛИС:

— Требуется подтверждение Совета после квалификации действия как акта войны.

Конечно.

Ещё одно голосование.

Сторонники блокировки боялись отступить:

если достаточно назвать регулирование войной и Совет откажется, любой субъект получает право вето через угрозу.

Противники:

если Совет продолжит, он фактически начал межцивилизационную войну без согласия стороны.

Оба.

Голосование:

51%.

За.

Ещё меньше.

ЭЛИС:

— Подтверждено.

Он начал ограничение.

Карта ответила отключением нескольких транзитных узлов.

Не оружие.

Но человеческие и нарейские корабли оказались отрезаны.

Потом ограничила энергетический обмен.

Мир B ввёл встречные меры.

Мир А пытался посредничать.

Первая экономическая война между цивилизациями.

Без выстрелов.

Пока.

На третий день на одном транзитном узле произошла авария.

Из-за резкого перераспределения нагрузки.

Погибли 84 человека.

Карта:

«Жертвы вызваны незаконной блокадой».

Совет:

«Авария стала следствием вашего ответного отключения».

Каждый прав частично.

Маркус:

— Вот теперь война настоящая.

Александр:

— Нет.

— Люди погибли.

— Я знаю.

— Тогда?

— Пока ещё обе стороны считают, что могут остановиться.

Маркус посмотрел.

— Надеюсь.

И именно в этот момент Ира опубликовала короткое сообщение.

Не манифест.

Не политический текст.

Всего вопрос:

«Если вы уничтожите друг друга, чтобы решить, имеем ли мы право существовать, кого именно вы собираетесь защищать?»

Тишина.

Сообщение разошлось мгновенно.

На Карте тоже.

Через двенадцать часов один из регионов Карты отказался участвовать в ответных ограничениях.

Потом второй.

Потом группа учёных предложила компромисс:

уменьшить запуск с одиннадцати миллионов линий до ста тысяч.

Все сохраняются.

Совет обеспечивает ресурсы совместно.

Независимый аудит.

Через десять лет пересмотр.

Маркус:

— Работает?

Лира:

— Возможно.

Центральное правительство Карты сначала отказалось.

Но внутри росло давление.

Не внешнее.

Собственное.

Через два дня согласилось.

Не полностью.

Запуск — сто пятьдесят тысяч.

Все состояния сохраняются.

Технические данные модели остаются собственностью Карты.

Аудит видит только признаки субъектности, не алгоритм.

Совет снимает блокировку.

Санкции прекращаются.

Мир B был против.

Сеан —

за.

Мир А —