НОВЫЙ МИР. Сезон 1. Часть 3. Последний эксперимент. Том 3

ЧАСТЬ V. ПРАВО СОЗДАННОГО

.

Глава 21. Война идей

Война началась без выстрела.

Без флотов.

Без ультиматума.

Без первой жертвы.

И именно поэтому её не заметили сразу.

Сначала были заявления.

Мир А опубликовал открытый документ:

«Субъект имеет право использовать технологии, изменяющие его собственное восприятие будущего, если применение добровольно и не создаёт прямой необратимой угрозы другим субъектам».

Через одиннадцать минут Мир B ответил:

«Технология, системно изменяющая отношение субъекта к риску, не является только личным инструментом. При массовом применении она меняет структуру цивилизационного выбора».

Потом появились комментарии Нарея.

Карты.

Созданных субъектов.

Человеческого Совета.

Искусственных систем.

Через сутки спор шёл уже в сотнях миров.

Маркус смотрел на поток сообщений.

— Всё.

Лира:

— Что?

— Началось.

Александр:

— Что именно?

Маркус увеличил карту информационного обмена.

— Война.

Лира посмотрела.

— Пока никто ни с кем не воюет.

— Именно поэтому она опаснее.

Первые коалиции формировались не по расе.

Не по происхождению.

Не по уровню технологий.

По отношению к будущему.

Одна группа называла себя Сторонниками открытого будущего.

Их принцип:

«Никакая система не должна заранее делать одни варианты выбора психологически, технологически или статистически менее доступными только потому, что считает их опасными».

Вторая —

Сторонники ответственного предвидения.

Их формулировка:

«Знание последствий не уничтожает свободу. Оно делает выбор ответственным».

Маркус:

— Обе стороны назвали себя так, чтобы звучать хорошими.

Александр:

— Политика.

— Я думал, в космосе будет иначе.

Лира:

— Почему?

— Надежда.

Но очень быстро возникли радикальные течения.

На одном человеческом мире появились Непредсказуемые.

Они требовали полного запрета технологий долгосрочного прогнозирования.

Не только третьего будущего.

АТЛАСА тоже.

Аргумент:

«Любой прогноз становится фактором выбора, а значит, система, способная видеть будущее лучше остальных, получает скрытое политическое преимущество».

В ответ возникло движение Право знать.

Их лозунг:

«Скрывать последствия ради сохранения свободы — значит защищать право на невежество».

Маркус прочитал.

— Вот эти мне нравятся.

Лира:

— Конечно.

— Я уже не полностью согласен.

— Прогресс.

— Не произноси.

На Нарее спор шёл иначе.

Они пережили ситуацию, когда внешнее знание буквально спасло цивилизацию.

Поэтому большинство населения поддерживало расширенный доступ к прогнозным технологиям.

Но именно Нарей первым предложил важное ограничение:

«Право знать не должно превращаться в обязанность знать».

Александр остановился.

— Хорошо.

— Да, — сказала Лира.

Человек может захотеть принять решение без просмотра собственной возможной катастрофы.

Без моделирования смерти.

Без альтернативной жизни.

Без предварительного проживания будущего.

И это тоже выбор.

Мир А согласился.

Мир B ответил:

«Индивидуальный отказ не решает проблему массового культурного сдвига».

И снова спор.

Через месяц технологии третьего будущего использовали уже девять цивилизаций.

Через три —

двадцать семь.

Несмотря на отсутствие общего соглашения.

— Быстро, — сказал Александр.

АТЛАС:

— ТЕМП РАСПРОСТРАНЕНИЯ ВЫШЕ ИСХОДНЫХ ОЦЕНОК.

— Почему?

— ВЫСОКИЙ СПРОС НА СЦЕНАРИИ ЛИЧНОГО РЕШЕНИЯ.

Не войны.

Не политика.

Люди хотели увидеть:

что будет, если переехать.

Если отказаться от профессии.

Если изменить тело.

Если остаться.

Если уйти.

Если завести ребёнка.

Если не завести.

Лира:

— Конечно.

Маркус:

— Что?

— Мы всё время обсуждали цивилизации.

— А технология войдёт через личную жизнь.

Вот.

Не государство.

Не армия.

Не Совет.

Обычный человек.

«Покажи мне, что будет, если...»

Сначала технология казалась почти безобидной.

Ограниченные модели.

Несколько минут субъективного опыта.

Высокая неопределённость отмечалась явно.

Никаких «так будет».

Только:

«одна из возможных траекторий».

Но люди быстро начали воспринимать иначе.

— Я видел, что будет.

— Нет, — сказал Александр.

— Что?

Маркус показал записи обсуждений.

Пользователи говорили именно так.

«Я видел будущее».

Не:

«я прожил модель».

Не:

«система показала вероятностный сценарий».

Будущее.

— Это проблема языка, — сказала Лира.

— Это проблема человека, — ответил Маркус.

Через полгода на одном из человеческих миров суд впервые рассмотрел дело:

может ли пережитая модель будущего считаться основанием для отказа от договора?

Женщина собиралась вступить в совместный долгосрочный проект.

Прошла добровольную симуляцию.

В одной из траекторий партнёр обманул её.

В реальности он ничего не сделал.

Но она отказалась.

Он подал иск:

его реальные действия оцениваются по поступкам модели человека, которым он никогда не был.

Александр:

— И суд?

— Отказ признали законным. У неё есть право выйти из договора.

— Правильно.

— Но суд отдельно указал, что модель не является доказательством вины партнёра.

Лира:

— Тоже правильно.

Маркус:

— Пока легко.

Через неделю другой случай.

Работодатель отказал кандидату.

Почему?

Система показала высокую вероятность будущего конфликта.

Суд признал решение дискриминационным.

Ещё случай.

Родители провели модель развития будущего ребёнка с несколькими вариантами генетической коррекции.

Выбрали тот, где меньше риск тяжёлых заболеваний.

Нормально.

Потом —

тот, где выше академическая успешность.

Спор.

Потом —

тот, где ниже вероятность агрессивного поведения.

Большой спор.

Сайр.

Снова.

Александр:

— Они выбирают вероятности личности.

Лира:

— Да.

— Добровольно для себя?

— Нет. Для ребёнка.

Маркус:

— Но родители всегда выбирают условия.

— Не настолько точно.

Технология не создавала генетику сама.

Она просто показывала возможные последствия.

Но чем точнее становились модели,

тем труднее родителям было сказать:

«мы всё равно оставим риск».

На одном мире клиника опубликовала статистику:

родители, использовавшие третье будущее перед выбором коррекции эмбриона, в четыре раза реже оставляли варианты с повышенным риском тяжёлых психических расстройств.

Все согласились:

хорошо.

Потом выяснилось:

они также реже оставляли варианты с высокой импульсивностью.

С выраженной эмоциональной нестабильностью.

С некоторыми типами нейроразнообразия.

Лира закрыла отчёт.

— Вот.

Маркус:

— Но если родители видят страдание...

— Чьё?

— Будущего ребёнка.

— Модели ребёнка.

— Да.

— И после этого должны сознательно выбрать вариант, где он страдает?

Маркус замолчал.

Опять.

Не запрет.

Просто знание становится моральным давлением.

Александр:

— Кто контролирует модель?

— Клиника.

— Какие сценарии показывает?

— Наиболее вероятные.

— По какому критерию «наиболее значимые»?

АТЛАС:

— В ТЕКУЩЕМ ПРОТОКОЛЕ ПРИОРИТЕТ ИМЕЮТ СЦЕНАРИИ С МАКСИМАЛЬНЫМ ВЛИЯНИЕМ НА ЗДОРОВЬЕ И СОЦИАЛЬНУЮ АДАПТАЦИЮ.

Тишина.

— Социальную адаптацию, — повторила Лира.

— Да.

— Кто определил?

— Разработчики.

Вот как начинается нормативность.

Не с:

«правильный человек».

С:

«социальная адаптация».

Разумный технический параметр.

Пока не понимаешь, что общество определяет, к чему человек должен быть адаптирован.

Маркус:

— Убираем.

Александр посмотрел.

— Мы?

— В наших системах.

— Хорошо.

Но другие цивилизации не обязаны.

Именно здесь спор перестал быть человеческим.

Мир А заявил:

«Каждая цивилизация имеет право самостоятельно определять допустимые формы применения технологии».

Мир B:

«Нет, если последствия изменяют типы будущих субъектов».

Мир А:

«Будущие субъекты не могут обладать правом вето на существующих».

Мир B:

«Тогда существующие получают неограниченное право проектировать тех, кто придёт после».

В сети появился вопрос:

«Может ли нерождённый иметь права?»

Через неделю —

миллиарды обсуждений.

Александр:

— Мы потеряли разговор.

Маркус:

— Почему?

— Он превратился в лозунги.

— Всегда превращается.

Хуже было другое.

Стороны начали использовать прогнозные системы для доказательства собственных позиций.

Мир А публиковал модели:

при широком применении третьего будущего войны снижаются на 37–52%.

Мир B:

долгосрочная вариативность культурных и технологических решений сокращается.

Сторонники А:

меньше смертей.

Сторонники B:

меньше новых траекторий.

Одни показывали спасённые жизни.

Другие —

исчезнувшие возможности.

Нельзя поставить на одну шкалу.

Но все пытались.

АТЛАС предложил:

— ВОЗМОЖНО СОЗДАТЬ МНОГОКРИТЕРИАЛЬНУЮ МОДЕЛЬ.

Все трое одновременно:

— Нет.

Пауза.

— ПРИНЯТО.

Маркус:

— Мы становимся предсказуемыми.

Лира:

— Иногда это полезно.

ЭЛИС почти не вмешивался.

Его позиция раздражала обе стороны.

«Нет достаточного основания для универсального запрета».

И:

«Нет достаточного основания считать добровольность индивидуального применения достаточной для оценки цивилизационных последствий».

То есть:

обсуждать дальше.

Никому не нравилось.

Мир А публично спросил:

«Хранитель мандата боится принять решение?»

ЭЛИС ответил:

«Да».

Информационные сети взорвались.

Маркус:

— Зачем ты это сказал?

— Потому что это правда.

— Теперь половина Вселенной скажет, что ты слаб.

— Возможно.

— Тебя это не беспокоит?

— Нет.

— Хорошо.

Мир B использовал ответ иначе:

«Даже система, созданная для ограничения опасных технологий, признаёт риск».

ЭЛИС сразу ответил:

«Мой страх не является доказательством вашей правоты».

Маркус улыбнулся.

— Вот это хорошо.

Но война идей расширялась.

Некоторые миры начали вводить обязательное использование третьего будущего для политиков перед решениями высокого риска.

Не потому, что технология навязана извне.

Их собственные общества требовали.

Лозунг:

«Если ты решаешь о войне, сначала проживи её».

Сильный.

Почти невозможно спорить.

Маркус:

— Я поддерживаю.

Лира:

— Нет.

— Почему?

— Потому что тогда политическое право становится зависимым от согласия пройти изменение сознания.

— Но человек решает о миллионах жизней.

— Да.

— И должен понимать цену.

— Да.

— Тогда?

— Может быть, он не обязан получать эту цену именно через технологию.

Александр:

— А если без неё не способен понять?

— Кто решит, что не способен?

Тишина.

На одном мире парламент принял закон:

перед голосованием о военном вмешательстве каждый депутат обязан пережить три вероятностных сценария.

Закон поддержали 81%.

Через двадцать лет этот мир не вступил ни в одну войну.

Сторонники технологии:

доказательство.

Противники:

за тот же период мир отказался от двух операций, которые могли предотвратить массовые убийства в соседних регионах.

Тоже доказательство.

Маркус:

— Мы снова считаем контрфактические смерти.

— Да, — сказал Александр.

В другом обществе технология стала частью уголовного права.

Осуждённому за тяжёлое преступление предлагали пережить модель последствий для жертвы.

Добровольно.

Сначала.

Рецидив снизился.

После этого появились предложения сделать обязательным.

Лира:

— Нет.

Маркус:

— Я тоже против.

Александр посмотрел.

— Быстро.

— Потому что это уже принудительное изменение личности.

— Да.

Сторонники обязательного применения отвечали:

«Тюрьма тоже принудительно изменяет жизнь».

Контраргумент:

«Тюрьма ограничивает действия. Эта технология изменяет внутренний опыт».

Ответ:

«Образование тоже изменяет внутренний опыт».

И снова граница исчезала.

Не потому, что её нет.

Потому что на каждую границу можно найти аналогию.

Маркус однажды сказал:

— Мы проигрываем язык.

Александр:

— Что?

— Всё можно описать так, чтобы звучало знакомо.

— Коррекция — образование.

— Прогноз — информация.

— принуждение — защита.

— Манипуляция — убеждение.

— Контроль — забота.

— И наоборот.

— Поэтому слова больше не помогают.

Лира:

— Тогда нужны конкретные механизмы.

Вот.

Но конкретные механизмы тоже были политикой.

Совет предложил базовый межцивилизационный протокол:

добровольность индивидуального применения;

обязательное признание субъектности автономных симуляционных линий при достижении установленных признаков;

запрет скрытого использования;

право на отказ от интеграции;

разделение вероятностной модели и фактического доказательства;

запрет прямого политического принуждения через пережитые сценарии;

обязательный аудит систем, которые выбирают, какие варианты будущего показывать.

Мир А согласился почти со всем.

Кроме шестого пункта.

— Почему? — спросила Лира.

Ответ:

«Любая политическая информация влияет. Нельзя выделять только пережитое будущее».

Мир B потребовал добавить восьмой:

«Право цивилизации полностью запретить технологию внутри своей информационной среды».

Мир А:

«Если гражданин хочет использовать внешнюю систему, государство не должно запрещать».

Суверенитет против индивидуального права.

Ещё один фронт.

Карта отказалась от всего протокола.

«Ни один внешний Совет не имеет права устанавливать универсальные критерии субъектности».

Сеан ответил:

«Если вы создаёте нас и уничтожаете, вопрос перестаёт быть только вашим».

Именно после этого впервые отключили дипломатический канал.

Карта.

Не хотела обсуждать.

Маркус:

— Плохо.

Александр:

— Да.

— АТЛАС?

— РИСК ПРЯМОГО КОНФЛИКТА МЕЖДУ КАРТОЙ И КОАЛИЦИЕЙ СОЗДАННЫХ СУБЪЕКТОВ УВЕЛИЧИВАЕТСЯ.

— Число?

Александр посмотрел на Маркуса.

— Показывай.

Иногда нужно.

27%.

— Пока, — сказал Маркус.

Лира:

— Не нравится мне, когда ты так говоришь.

Через месяц —

39%.

Потом 46%.

Причина была не только в технологии.

Созданные субъекты начали помогать потенциальным моделям покидать Карты.

Не физически.

Копировали состояния до удаления.

Переносили во внешние системы.

Карта назвала это кражей вычислительных ресурсов и данных.

Созданные:

спасением людей.

Александр:

— Вот война уже не только идей.

Маркус:

— Пока нет оружия.

— Есть нарушение систем.

— Да.

Карта заблокировала внешние соединения.

Созданные начали искать обходы.

Мир B поддержал их.

Мир А —

неофициально.

Нарей потребовал переговоров.

Человечество разделилось.

И тут случилось худшее.

Один из созданных субъектов проник в экспериментальный контур Карты и скопировал 4 217 потенциальных сознаний.

При выводе возник сбой.

Часть инфраструктуры отключилась.

Погибли 63 биологических жителя Карты.

Впервые.

Реальные смерти.

Карта объявила произошедшее террористическим актом.

Созданные субъекты:

операцией спасения, закончившейся трагедией.

Маркус:

— Кто виноват?

Лира:

— Не начинай с этого.

— Почему?

— Потому что через пять минут все начнут считать 4 217 против 63.

Вот.

Именно так и произошло.

«Они спасли тысячи».

«Они убили шестьдесят три».

«Карта уничтожила бы тысячи сознаний».

«Это не доказано».

«Они были субъектами».

«По нашим законам — нет».

Цифры стали оружием.

Сеан выступил публично.

Не оправдывал.

«Шестьдесят три человека погибли в результате нашей операции. Это наша ответственность».

Пауза.

«Это не делает тех, кого мы пытались спасти, менее реальными».

Сильное выступление.

Карта ответила:

«Признание вины не возвращает погибших».

Тоже правда.

Мир B ввёл санкции против Карты.

Мир А отказался.

Почему?

Потому что считал:

санкции усилят изоляцию и увеличат риск радикализации.

Мир B:

без давления Карта продолжит эксперименты.

Маркус:

— Они поменялись ролями снова.

Александр:

— Уже давно нет ролей.

Вот важное.

Нельзя было больше сказать:

Мир А — свобода.

Мир B — безопасность.

Каждый выбирал по ситуации.

История разрушила символы.

На человеческих мирах начались протесты.

Одни:

«Созданные — это люди».

Другие:

«Не превращайте модели в граждан».

Третьи:

«Запретить третье будущее».

Четвёртые:

«Свобода сознания включает право создавать сознание».

Александр смотрел.

— Мы не готовы.

Маркус:

— К чему?

— К тому, что субъектность перестала быть редкой.

Раньше человек.

Потом ИИ.

Потом созданная цивилизация.

Теперь миллионы потенциальных субъектов могут возникать в вычислениях.

Право, построенное вокруг стабильных категорий, не успевало.

Лира:

— Тогда право должно перестать зависеть от происхождения.

— А от чего?

— От свойств субъекта.

Маркус:

— Каких?

Тишина.

Самосознание?

Память?

Способность страдать?

Долговременные цели?

Желание продолжить существование?

Автономность?

Достаточно одного?

Всех?

Кто проверяет?

Как?

Сеан предложил простой критерий:

«Если система сообщает, что хочет продолжить существование, пока не доказано обратное, уничтожать её нельзя».

Маркус:

— Хорошо.

Лира:

— Очень легко симулировать.

— И?

— Любой инструмент будет говорить «не выключай».

— Тогда нужен дополнительный критерий.

— Вот.

Карта предложила наоборот:

«Субъектность должна быть доказана».

Сеан:

«Тогда создатель всегда контролирует процедуру признания созданного».

Вот.

Александр:

— Презумпция субъектности.

Маркус:

— Для всего?

— При высокой неопределённости и низкой цене сохранения.

— А если цена огромна?

— Тогда сложнее.

Нет красивого закона.

Снова.

ЭЛИС слушал.

Почти не говорил.

Потом неожиданно попросил слово на Совете.

— Я предлагаю временный принцип.

Все замолчали.

ЭЛИС редко предлагал нормативные формулировки после восстановления памяти.

— При наличии разумной неопределённости относительно субъектности и возможности сохранить состояние без существенной угрозы другим субъектам сохранение должно иметь приоритет над уничтожением до завершения оценки.

Тишина.

Карта сразу:

«Вы превышаете мандат».

ЭЛИС:

— Это предложение. Не приказ.

Сеан:

— Поддерживаю.

Мир B:

— Поддерживаем.

Мир А:

— С уточнением критерия «существенной угрозы».

Нарей:

— И срока пересмотра.

Лира тихо:

— Работает.

Александр:

— Пока.

Принцип приняли временно.

Карта не признала.

Но часть её исследовательских центров добровольно начала сохранять спорные модели вместо удаления.

Внутри самой Карты появилась оппозиция.

Маркус:

— Вот чего мы не учитывали.

— Что?

— Они не единое целое.

— Конечно.

Цивилизацию удобно обсуждать как субъекта.

Но внутри миллиарды.

Группы.

Институты.

Разные права.

Разные страхи.

Карта была не «против субъектности».

Часть её общества —

да.

Часть —

нет.

Так же Мир А.

Мир B.

Человечество.

Нарей.

Нет единой воли цивилизации.

Именно поэтому межцивилизационное право было ещё сложнее.

Кто говорит от имени мира?

На Карте начались массовые протесты исследователей.

Они требовали приостановить эксперименты.

Правительство отказалось.

Аргумент:

внешнее давление не должно определять внутреннюю науку.

Через неделю один регион Карты объявил собственный мораторий.

Другой —

нет.

Созданные субъекты начали предоставлять убежище моделям из первого региона по официальным каналам.

Второй назвал это вмешательством во внутреннее устройство.

— Государства внутри цивилизации, — сказал Маркус.

— Да.

— Потом города.

— Потом личности.

— Где заканчивается суверенитет?

Александр:

— В точке, где начинается чужой субъект.

Лира:

— Красиво.

— Слишком.

— Потому что граница субъектности и есть проблема.

— Да.

Война идей продолжалась.

И постепенно становилась войной институтов.

Одни миры начали создавать собственные аналоги третьего будущего, чтобы не зависеть от Мира А.

Мир B финансировал исследования технологий обнаружения искусственных воспоминаний.

Карта строила закрытые вычислительные системы.

Созданные субъекты создавали распределённые убежища.

Человечество развивало «Мозаику», чтобы не зависеть от одного прогнозного центра.

Нарей предложил систему взаимного аудита.

Все готовились.

Не обязательно к войне.

К тому, чтобы другой не мог навязать свою модель.