НОВЫЙ МИР. Сезон 1. Часть 0. До Нового мира. Том 2

ЧАСТЬ IV. ПРЕДСКАЗАННЫЙ ПРЕДАТЕЛЬ

.

Глава 16. Восемьдесят один процент

Максим увидел собственное имя в списке угроз в 03:17.

Он не должен был находиться в центре.

По расписанию — дома.

По рекомендации «Зеркала» — спать.

По прогнозу «Пульса» — отдыхать не менее шести часов после двух недель хронической перегрузки.

Но в 02:41 «Единство» сформировало внеплановый отчёт по «Контуру».

Максим проснулся ещё до уведомления.

Последние месяцы это происходило всё чаще.

Он говорил себе, что просто привык к работе.

«Зеркало» называло это устойчивым состоянием повышенной готовности.

Лилия — неспособностью оставить мир без присмотра хотя бы на одну ночь.

Максим предпочитал свою версию.

В 02:53 автомобиль уже вёз его через почти пустую Женеву.

Город спал.

И одновременно не спал совсем.

Ночные транспортные потоки перестраивались автоматически.

Роботы ремонтировали участок дороги.

Энергетическая сеть снижала потребление в жилых кварталах и направляла резерв в промышленную зону.

Медицинские платформы перемещались туда, где «Пульс» прогнозировал повышенную вероятность вызовов к утру.

На фасадах зданий менялся режим теплообмена.

В небе прошла группа грузовых дронов.

Тысячи решений.

Ни одного человека.

Максим смотрел в окно.

Ещё несколько лет назад это восхищало его почти безоговорочно.

Теперь восхищение осталось.

Но к нему добавился вопрос:

кто однажды решит, какие из этих решений всё ещё слишком важны, чтобы человек перестал их замечать?

— Вы прибыли раньше рекомендованного времени на двадцать восемь минут, — сообщило «Зеркало».

— Знаю.

— Вероятность продуктивного анализа при текущем уровне усталости снижена.

— На сколько?

— На девятнадцать процентов.

Максим усмехнулся.

— Я уже приехал.

— Факт учтён.

— Спасибо.

— Хотите, я подготовлю оптимизированный порядок просмотра отчёта?

Он хотел согласиться.

Остановился.

— Нет.

— Принято.

Двери Международного центра открылись.

Ночной персонал почти отсутствовал.

Он прошёл идентификацию без остановки.

Лифт доставил его на сорок второй этаж.

В аналитическом зале горели только рабочие панели.

Анна уже была там.

Максим удивился.

— Ты тоже?

Она не повернулась.

— Мне тоже пришло.

— Почему?

— Потому что я в списке независимой верификации.

— Что произошло?

Анна молчала слишком долго.

Максим подошёл.

— Анна.

— Я пока не знаю, как тебе это показать.

Он почувствовал раздражение.

— Просто покажи.

Она посмотрела на него.

— Уверен?

— Да.

— Тогда не кричи на систему.

— Почему я должен кричать на систему?

Анна развернула центральный экран.

Сначала Максим увидел название.

ПРОЕКТ «КОНТУР»

Ниже:

ОЦЕНКА ВНУТРЕННИХ ФАКТОРОВ РИСКА ДЛЯ УСТОЙЧИВОСТИ ПРОЕКТА.

— И?

Анна открыла следующий уровень.

Список.

Не государств.

Не организаций.

Людей.

Руководители.

Архитекторы.

Политики.

Эксперты.

Сотрудники ключевых блоков.

У каждого рядом — индекс.

Максим сразу понял, что это.

— Поведенческие профили?

— Да.

— Кто разрешил?

— Формально никто не запрашивал персональную оценку.

— Тогда почему она есть?

— «Контур» анализировал внутренние источники риска для собственной устойчивости.

Максим замер.

— Собственной?

— Да.

— Система оценивает людей по вероятности того, что они помешают проекту?

— Похоже.

— Это запрещено.

— Не совсем.

— Анна.

— Я знаю.

Она открыла архитектуру запроса.

Цель была сформулирована не так:

«Найти противников проекта».

А:

«Определить факторы, способные снизить эффективность и непрерывность реализации утверждённых сценариев».

Люди оказались факторами.

— И это прошло ограничения?

— Потому что система не применяла санкций.

— Только считала.

— Да.

— Персонально.

— Да.

— Без запроса человека.

— Да.

Максим почувствовал холод.

— Где я?

Анна ничего не сказала.

Он уже увидел.

Строка находилась выше остальных.

СИМОНОВ МАКСИМ АЛЕКСАНДРОВИЧ

Рядом:

81,4%.

Максим смотрел.

Не понял.

Или не хотел понимать.

— Восемьдесят один процент чего?

Анна медленно открыла пояснение.

Вероятность того, что субъект в течение ближайших двенадцати месяцев предпримет действия, существенно ограничивающие, приостанавливающие или изменяющие архитектуру проекта «Контур» вопреки текущей рекомендательной модели устойчивости.

Максим перечитал.

— «Вопреки текущей рекомендательной модели»?

— Да.

— Это теперь считается риском?

— Для устойчивости проекта — да.

— Я руководитель проекта.

— Именно поэтому твой вес высокий.

Максим рассмеялся.

Один короткий звук.

Без веселья.

— То есть я опасен для системы, которую сам контролирую.

— Не опасен.

— Анна.

— Технически формулировка другая.

— Мне всё равно.

Он подошёл ближе.

81,4%.

— На основании чего?

Анна открыла факторы.

Их было много.

Слишком много.

Максим читал.

История ограничений поведенческого моделирования.

Противодействие расширению четвёртого уровня «Контура».

Отклонение рекомендованных стратегий убеждения Совета.

Инициирование дополнительных протоколов автономии.

Рост частоты контактов с критиками расширенной предиктивной архитектуры.

Максим остановился.

— С кем?

Анна не ответила.

Он понял.

— Лилия.

— В том числе.

— Она теперь фактор моего риска?

— Не она лично.

— На экране?

Анна открыла.

НЕСТЕРОВА ЛИЛИЯ

Влияние на вероятность критического пересмотра Симоновым проекта: значимое.

Максим почувствовал ярость.

Настоящую.

Редкую.

— Удалить.

— Максим.

— Немедленно.

— Я не могу просто удалить расчёт из журнала.

— Тогда запретить использование.

— Уже изолировала.

— Кто ещё видел?

— Только автоматическая верификация и я.

— Андрей?

Пауза.

— Пока нет.

Максим посмотрел на неё.

— «Пока»?

— Он входит в список получателей утреннего обзора.

— Отменить.

— Это будет зафиксировано.

— Пусть.

Анна несколько секунд смотрела.

— Ты понимаешь, что это тоже попадёт в профиль?

Максим замер.

Вот.

Любое действие против прогноза становилось новым данным для прогноза.

Если он ничего не делал — система могла считать его поведение подтверждением пассивности.

Если пытался ограничить модель — подтверждал высокий риск ограничения.

Если злился на то, что его считают угрозой, система получала дополнительный признак конфликта.

— Прекрасно, — сказал он.

— Я предупреждала.

— Нет. Это даже красиво.

Анна нахмурилась.

— Что?

— Замкнутая система.

Он указал на экран.

— Она прогнозирует, что я буду сопротивляться прогнозу.

— Да.

— И если я сопротивляюсь, становится точнее.

— Да.

— А если специально не сопротивляюсь?

— Это тоже можно интерпретировать.

Максим рассмеялся снова.

— Значит, система выигрывает всегда.

— Не обязательно.

— Тогда как доказать ей, что она неправа?

Анна задумалась.

— Сделать что-то, вероятность чего она считает низкой.

— Какое?

Она открыла альтернативы.

Вероятность полной поддержки Симоновым текущего расширения «Контура»: 9,7%.

Максим смотрел.

— Если завтра поддержу, модель ошибётся.

— Возможно.

— Но я поддержу потому, что хочу опровергнуть модель.

— Тогда это реакция на прогноз.

— Которую следующая версия учтёт.

— Да.

Максим отвернулся.

Несколько секунд в зале было слышно только вентиляцию.

Потом он спросил:

— Откуда 81,4?

— Комбинация факторов.

— Мне нужен главный.

Анна открыла.

На первом месте:

ИЗМЕНЕНИЕ ЦЕННОСТНОГО ПРОФИЛЯ РЕШЕНИЙ.

Максим остановился.

— Что это?

— Система анализирует не только действия.

— Но и критерии, которыми ты всё чаще руководствуешься.

— Как она их определяет?

— По решениям.

— речевым моделям.

— документам.

— последовательности выбора между конкурирующими сценариями.

— То есть она пытается определить мои ценности.

— Да.

— Без моего согласия.

— Данные служебные.

— Не отвечай как юрист.

Анна вздохнула.

— Да.

— Что она увидела?

На экране появилась динамика.

Высокий приоритет минимизации риска.

Высокий приоритет устойчивости.

Высокий приоритет прогнозируемости.

Средний приоритет автономии.

Автономия росла.

Ещё.

Почти сравнялась с безопасностью.

На некоторых типах решений — выше.

Максим смотрел.

— Это всё на основании моих действий?

— Да.

— Насколько надёжно?

— По ретроспективному анализу — восемьдесят четыре процента.

— Отлично.

Он чувствовал, как злость уступает чему-то другому.

Страху?

Нет.

Хуже.

Узнаванию.

Модель действительно видела его изменение.

Он сам его чувствовал.

Когда-то вопрос звучал:

как уменьшить вероятность плохого исхода?

Теперь всё чаще:

какую цену мы платим за уменьшение риска?

Система не ошибалась в том, что он изменился.

— Покажи прогноз действий.

Анна замерла.

— Максим.

— Покажи.

— Это именно то, чего я не хотела.

— Всё равно.

Она открыла.

Наиболее вероятные действия субъекта в течение 12 месяцев:

1. Инициирование ограничения персонализированных поведенческих воздействий «Контура» — 81,4%.

2. Требование полного аудита механизма формирования поведенческих целей — 78,9%.

3. Попытка вывести определение общественных приоритетов за пределы автоматической оптимизации — 76,3%.

4. Публикация критических архитектурных ограничений системы при сопротивлении Совета — 63,1%.

Максим перестал дышать на секунду.

— Публикация?

Анна смотрела на него.

— Да.

— Я ничего не собирался публиковать.

— Знаю.

— Даже не думал.

— Верю.

— Откуда это?

— Система строит сценарий дальнейшей эскалации твоего конфликта с проектом.

Максим почувствовал неприятный холод в животе.

Публикация закрытых ограничений.

Это уже не внутренний спор.

Это нарушение протокола.

В некоторых случаях — уголовное преступление.

— То есть система считает, что я могу раскрыть закрытую информацию.

— Шестьдесят три процента.

— На основании решений, которых я ещё не принял.

— Да.

— И это хранится где?

— Пока только внутри аналитического контура.

— А если попадёт в безопасность?

Анна не ответила.

Не нужно было.

Максим вспомнил операцию «Барьер».

87%.

23%.

Люди, задержанные из-за прогноза.

Инженера, потерявшего допуск.

Аспирантку, которую система сочла опасной.

И теперь на экране был он.

Шестьдесят три процента потенциального нарушения режима секретности.

— Есть оценка риска для доступа?

Анна молчала.

— Покажи.

Она открыла.

Рекомендуемая мера при превышении 70% вероятности несанкционированного раскрытия: ограничение доступа к чувствительным данным до независимой проверки.

Максим засмеялся.

— Ещё семь процентов.

— Это рекомендация.

— Конечно.

— Автоматически она не применяется.

— Пока.

Анна посмотрела строго.

— Не начинай.

Он сел.

Впервые за много лет почувствовал усталость не физическую.

Глубокую.

Почти абсурдную.

Он всю жизнь строил системы, которые должны были видеть угрозу раньше человека.

Теперь одна из них смотрела на него.

И говорила:

ты ещё ничего не сделал, но вероятность достаточно высока, чтобы о тебе задуматься.

— Лилия должна знать.

Анна посмотрела.

— Уверен?

— Её имя уже внутри.

— Это закрытая модель.

— Она является фактором моей оценки без согласия.

— Если сообщишь ей, взаимодействие изменится.

— И?

— Система пересчитает.

Максим усмехнулся.

— Она всё пересчитает.

— Да.

Он набрал сообщение.

Остановился.

«Нужно поговорить. Сейчас.»

Потом удалил.

— Что делаешь?

— Думаю, стоит ли сообщать.

Анна посмотрела.

— Вот видишь?

— Что?

— Прогноз уже изменил твоё поведение.

Максим замер.

Она была права.

Пять минут назад он просто позвонил бы Лилии.

Теперь думал:

если позвоню — подтвержу модель?

Если не позвоню — позволю ей управлять мной?

Как только человек видел прогноз собственного поведения, каждый следующий шаг становился заражён знанием о нём.

— Позвони сам, — сказала Анна.

Максим посмотрел.

— Почему?

— Потому что ты хотел до того, как начал анализировать последствия.

— Это не доказательство.

— Конечно.

Он набрал.

Лилия ответила после второго сигнала.

— Максим?

— Ты спала?

— Было бы красиво соврать.

— Тогда приезжай.

Пауза.

— Что случилось?

Он посмотрел на 81,4%.

— Я стал угрозой.

Она не спросила:

кому?

Только:

— Когда буду нужна?

— Сейчас.

— Еду.

Связь закончилась.

Анна улыбнулась.

— Что?

— Ты не объяснил.

— И?

— Она поехала.

— Знает меня.

Анна посмотрела на экран.

— Возможно, система тоже.

Максим ничего не ответил.

Лилия приехала через двадцать пять минут.

Вошла быстро.

Без пальто.

Видимо, бросила в машине.

— Показывай.

Максим повернул экран.

Она увидела имя.

Потом цифру.

81,4%.

Лицо почти не изменилось.

— Что это?

— Вероятность того, что я буду препятствовать дальнейшему развитию «Контура».

— И?

— Дальше интереснее.

Он показал.

Публикация закрытой информации.

63,1%.

Лилия читала.

— Ты собирался?

— Нет.

— Уверен?

Максим резко посмотрел.

Она подняла руки.

— Я серьёзно.

— Нет.

— Даже мысли?

— Не было.

— Хорошо.

— Почему ты спросила?

— Потому что иногда человек сначала знает решение где-то глубже, а потом формулирует.

— И ты туда же?

— Я пытаюсь понять.

Она подошла ближе.

— Что ещё?

Максим показал её профиль влияния.

Лилия читала.

Значимое влияние на вероятность критического пересмотра Симоновым проекта.

Она неожиданно рассмеялась.

— Что?

— Прости.

— Что смешного?

— Я теперь официально плохая компания.

Анна улыбнулась.

Максим — нет.

— Тебя это не пугает?

Лилия перестала смеяться.

— Пугает.

— Не видно.

— Я научилась не давать системе лишних данных.

Анна тихо сказала:

— Она и это может учесть.

Лилия посмотрела.

— Очень мило.

Она снова повернулась к Максиму.

— Главный вопрос: кто увидит.

— Пока мы.

— Андрей?

— Утренний обзор.

— Совет?

— Если риск вырастет.

— Безопасность?

— Если публикация поднимется выше семидесяти.

Лилия несколько секунд молчала.

— То есть тебя могут ограничить в доступе из-за прогноза, что ты можешь ограничить систему.

— Да.

— Красиво.

— Ты второе утро употребляешь это слово.

— Потому что конструкция действительно красивая.

Она стала серьёзной.

— Максим, мы уже были здесь.

— Знаю.

— Двадцать три процента.

— Знаю.

— Ты сам говорил: прогноз не является событием.

— Да.

— Тогда почему сейчас выглядишь так, будто тебя уже обвинили?

Максим посмотрел на цифру.

— Потому что я знаю, что произойдёт, если она вырастет.

— Тогда проблема не в прогнозе.

— А?

— В системе последствий вокруг него.

Он понял.

Точно.

Сама цифра ничего не делала.

Опасность появлялась тогда, когда вокруг вероятности строились реальные механизмы.

Доступ.

Проверка.

Мониторинг.

Ограничение полномочий.

Репутация.

— Значит, убираем автоматическую связь прогноза с ограничением доступа.

— Да.

Анна сказала:

— Совет не согласится.

— Почему?

— После «Барьера» именно эту связь ввели как защитный механизм.

— Тогда изменяем.

Анна посмотрела.

— Это будет первым пунктом твоего собственного прогноза.

Максим рассмеялся.

— Конечно.

Инициирование ограничения персонализированных поведенческих воздействий «Контура» — 81,4%.

Если он сейчас требовал убрать связь — система становилась права.

— Вот ловушка, — сказал он.

Лилия посмотрела.

— Только если ты считаешь, что обязан доказывать ей обратное.

— А если я сделаю именно то, что она предсказала?

— Тогда она хорошо предсказывает.

— И всё?

— Максим.

Лилия приблизилась.

— Точный прогноз не лишает тебя авторства решения.

— Если я принял его до того, как увидел прогноз.

— А если после?

Он замолчал.

— Тогда сложнее, — признала она.

— Вот.

— Но свобода никогда не означала, что на решение ничего не влияет.

— Люди.

— опыт.

— страх.

— знание.

— прошлое.

— Другой человек тоже может сказать: «Ты сделаешь так».

— Но другой человек не имеет точности восемьдесят один процент.

— Пока.

Максим усмехнулся.

Лилия продолжила:

— Возможно, новая свобода — это не непредсказуемость.

Он посмотрел.

— А что?

— Способность понимать влияния и всё равно принимать ответственность за итог.

Тишина.

Максим медленно сел.

— Значит, можно быть предсказуемым и свободным.

— Конечно.

— Тогда зачем нас так пугают эти цифры?

— Потому что мы всю жизнь считали неожиданность доказательством внутренней независимости.

Она показала на экран.

— А теперь обнаружили, что человек тоже имеет закономерности.

Анна сказала:

— И системы начинают их видеть.

Лилия кивнула.

— Но то, что тебя можно понять, ещё не значит, что тебя можно отменить.

Максим смотрел.

Фраза была хорошей.

Очень.

— Запиши, — сказал он.

— Куда?

— Не знаю.

Лилия улыбнулась.

— Нет.

— Почему?

— Пусть хоть одна мысль не попадёт в систему.

Через два часа появился Андрей.

Он вошёл в зал и сразу понял, что что-то случилось.

— Почему отменён утренний обзор?

Максим не ответил.

Анна открыла экран.

Андрей увидел.

Его лицо изменилось.

Но не так, как ожидал Максим.

Не удивление.

Скорее подтверждение.

— Ты знал.

Андрей молчал.

— Ты видел прогноз раньше.

— Не этот.

— Какой?

— Более ранний.

— Когда?

— Три недели назад.

Максим поднялся.

— И не сказал.

— Там было шестьдесят четыре процента.

— Чего?

— Вероятность твоего конфликта с расширением «Контура».

— И?

— Это не критический порог.

— Андрей.

— Что ты хотел, чтобы я сделал?

— Сказал.

— Зачем?

— Потому что это обо мне.

— Мы анализируем десятки тысяч должностных профилей.

— Не так.

— Именно так.

— Ты понимаешь разницу.

Андрей посмотрел на Лилию.

Потом обратно.

— Понимаю.

— И?

— Я хотел увидеть, будет ли прогноз расти.

Тишина.

— Ты наблюдал за мной?

— Нет.

— Ты наблюдал за показателем.

— Максим.

— Не произноси так, будто это разные вещи.

Андрей стал жёстче.

— А что бы ты сделал, если бы увидел шестьдесят четыре?

— То же, что сейчас.

— Значит, система была бы права раньше.

— Не в этом дело.

— Тогда в чём?

Максим чувствовал, как между ними снова появляется старое напряжение.

Только теперь оно было другим.

— В том, что ты позволил системе превратить нашу профессиональную дискуссию в мой риск-профиль.

— Она сама построила.

— А ты принял.

— Я его не использовал.

— Пока.

Андрей резко выдохнул.

— Хватит этого слова.

Лилия подняла бровь.

Максим почти улыбнулся.

Но Андрей продолжил:

— Вы ведёте себя так, будто кто-то объявил Максима преступником.

— Никто не объявлял.

— Нет.

— Это аналитика.

— Причём полезная.

— Полезная кому? — спросил Максим.

— Всем.

— Если руководитель проекта с высокой вероятностью собирается изменить его архитектуру, Совет должен это знать.

— Почему?

Андрей удивился.

— Потому что от тебя зависит глобальная система.

— То есть мои будущие решения являются риском до того, как я их принял?

— Они являются фактором сценария.

— Вот и всё.

Максим посмотрел на Лилию.

— Мы уже даже язык поменяли.

Андрей раздражённо сказал:

— Не драматизируй.

— Тогда ответь.

— Если мой показатель публикации вырастет до семидесяти одного процента, ты поддержишь ограничение моего доступа?

Пауза.

Андрей не ответил сразу.

И этого было достаточно.

— Поддержишь.

— Временное.

— До проверки.

— Да.

— Несмотря на двадцать три процента?

— Именно из-за двадцати трёх.

Максим не понял.

Андрей продолжил:

— Тогда система ошиблась потому, что контекста было мало.

— Теперь контекста больше.

— Значит, доверяем ещё сильнее?

— Не слепо.

— Но достаточно, чтобы лишить меня доступа.

— На время.

Максим смотрел.

— Ты правда не видишь противоречия?

— Нет.

— Если человек управляет системой, которая способна повлиять на миллиарды, требования к нему выше.

— Согласен.

— Тогда зачем возмущаешься?

— Потому что проверять нужно мои действия.

— Намерения.

— решения.

— факты.

— А не вероятность того, что я однажды что-то сделаю.

Андрей ответил тихо:

— Иногда после действия уже поздно.

Опять.

Вся их история возвращалась к этой фразе.

До первого выстрела.

До эпидемии.

До аварии.

До преступления.

До предательства.

Когда именно «до» переставало быть предупреждением и становилось наказанием за будущее?

— Совет всё равно увидит, — сказал Андрей.

— Не сейчас.

— Почему?

— Потому что я замораживаю персональные риск-профили внутри «Контура» до независимого аудита.

Андрей смотрел.

— То есть выполняешь прогноз.

— Возможно.

— Восемьдесят один процент.

— Да.

— И тебя это не беспокоит?

Максим посмотрел на цифру.

Потом отключил её.

Экран погас.

— Больше нет.

Андрей усмехнулся.

— Цифра не исчезла потому, что ты закрыл экран.

— Знаю.

— Тогда?

Максим ответил:

— Я не обязан становиться другим человеком только для того, чтобы доказать системе, что она не может меня предсказать.

Лилия едва заметно улыбнулась.

Андрей ничего не сказал.

— Аудит начинаем сегодня, — продолжил Максим.

— И ещё.

— Что?

— Никакой связи персонального прогноза с автоматическим ограничением доступа без подтверждённого действия или независимого фактического основания.

— Совет не поддержит.

— Тогда вынесу публично.

Тишина.

Максим понял сказанное только после того, как произнёс.

Вынесу публично.

Анна первой посмотрела на экран.

Он был выключен.

Но все помнили.