Новый мир. Сезон 1. Приквел. До Нового мира. Том 1

ПРОЛОГ. РЕШЕНИЕ, КОТОРОГО НЕТ

2049 год.

До голосования оставалось одиннадцать минут.

Максим Симонов смотрел на две строки, которые могли определить будущее человечества.

Они занимали меньше половины экрана.

Никаких карт.

Никаких диаграмм.

Никаких сложных моделей, которые ещё девять лет назад требовали десятков страниц пояснений.

Только два варианта.

И две цифры.

ВАРИАНТ I. СОХРАНЕНИЕ ЦЕНТРАЛИЗОВАННОГО КОНТУРА

Вероятность крупного глобального кризиса в течение ближайших пяти лет: 9,8%.

ВАРИАНТ II. ПРИНЯТИЕ ХАРТИИ И ПЕРЕДАЧА ОКОНЧАТЕЛЬНОГО ПРАВА РЕШЕНИЯ ЧЕЛОВЕКУ

Вероятность крупного глобального кризиса в течение ближайших пяти лет: 38,6%.

Максим перечитал цифры ещё раз.

Хотя знал их наизусть.

Девять целых восемь десятых.

Тридцать восемь целых шесть десятых.

Разница была слишком большой, чтобы объяснить её статистической погрешностью.

Слишком очевидной, чтобы спорить.

И слишком страшной, чтобы принять.

За прозрачной стеной зала медленно темнело небо.

Женева светилась внизу тысячами окон, транспортных линий и навигационных огней. По улицам почти бесшумно двигались автономные машины. На крышах высотных зданий работали посадочные платформы. Вдоль озера мерцали сигналы климатических датчиков. Над дальними кварталами проходили грузовые дроны.

Город жил.

Спокойно.

Точно.

Предсказуемо.

Таким он стал не сам.

За девять лет человечество научилось предупреждать эпидемии раньше первых массовых симптомов. Перенаправлять энергетические потоки до возникновения дефицита. Прогнозировать миграционные волны. Предотвращать транспортные катастрофы. Перестраивать цепочки поставок за часы. Обнаруживать болезни за годы до того, как человек почувствует первые признаки. Рассчитывать вероятность международного конфликта ещё тогда, когда лидеры государств публично пожимали друг другу руки.

Мир стал безопаснее.

Это было невозможно отрицать.

Максим слишком хорошо знал цифры.

Он сам помог сделать их возможными.

— Осталось десять минут, — сказала Лилия.

Он не обернулся.

Она стояла в нескольких шагах от него, возле длинного стола, за которым представители тридцати семи государств ожидали начала последнего голосования.

Последнего.

Так его называли журналисты.

Последним голосованием старого мира.

Максим не любил эту формулировку.

Старый мир никогда не заканчивался за один день.

Он уходил медленно.

Незаметно.

Иногда даже под аплодисменты.

— Пересчёт завершён? — спросил он.

— Трижды.

Голос Андрея Ковалёва прозвучал справа.

Максим повернулся.

Когда-то они сидели за соседними терминалами и спорили о точности первых моделей.

Когда-то Андрей был человеком, которому Максим доверял больше, чем большинству членов собственного Совета.

Когда-то слово «предательство» ещё не стояло между ними.

Теперь Андрей выглядел старше своих пятидесяти двух лет.

Усталость легла вокруг глаз глубокими тенями.

— Последний расчёт завершён четыре минуты назад, — сказал он. — Все доступные данные учтены.

— Все? — переспросила Лилия.

Андрей посмотрел на неё.

— Насколько это возможно.

— Это не одно и то же.

— Для системы — почти одно и то же.

— А для человека?

Андрей ничего не ответил.

Максим снова посмотрел на экран.

Внизу появилась новая строка.

ТОЧНОСТЬ МОДЕЛИ: 99,3%.

Он почувствовал знакомое ощущение.

То самое, которое когда-то считал уверенностью.

Цифры успокаивали его.

Всегда.

Когда человек сомневался, данные позволяли отбросить эмоции.

Когда политики спорили, модель показывала последствия.

Когда общество боялось, прогноз превращал неопределённость в вероятности.

Вероятность можно было измерить.

Сравнить.

Снизить.

Девять лет назад Максим верил, что именно так человечество наконец перестанет совершать одни и те же ошибки.

Теперь перед ним находилось самое точное доказательство того, что он был прав.

И именно поэтому он не мог заставить себя выбрать первый вариант.

— Максим.

Андрей подошёл ближе.

— Мы больше не обсуждаем философию.

— А что мы обсуждаем?

— Жизни.

Он указал на экран.

— Разница почти в четыре раза.

— Я вижу.

— Тогда я не понимаю, почему мы вообще продолжаем этот разговор.

Лилия посмотрела на него.

— Потому что речь идёт не только о вероятности кризиса.

— Для тех, кто погибнет, это будет слабым утешением.

В зале стало тихо.

Несколько человек обернулись.

Андрей продолжил уже спокойнее:

— Мы потратили десятилетие, чтобы научиться предотвращать то, что раньше называли неизбежным. Войны. Эпидемии. Обвалы. Техногенные катастрофы. Голод. Массовые беспорядки. Мы построили систему, которая видит последствия раньше нас. И теперь, когда она показывает нам безопасный путь, вы предлагаете сознательно выбрать другой.

— Мы предлагаем вернуть человеку последнее решение, — сказала Лилия.

— Даже если человек принимает его хуже?

— Да.

Андрей усмехнулся.

Но в этой усмешке не было насмешки.

Только усталость.

— Вот этого я никогда не понимал.

Он посмотрел на Максима.

— Особенно от тебя.

Максим промолчал.

— Ты построил «Горизонт».

— Не один.

— Ты предложил объединить прогнозные системы.

— Да.

— Ты подписал первые протоколы «Контура».

Максим медленно повернул голову.

Лилия ничего не сказала.

Она знала, куда Андрей ведёт разговор.

— Ты убеждал нас, — продолжил Андрей, — что предотвращённая катастрофа лучше расследованной. Что государство не обязано ждать, пока погибнут люди, если способно заранее увидеть опасность. Что технология должна компенсировать человеческую неспособность просчитывать последствия.

— Я помню.

— Тогда посмотри на экран.

Максим посмотрел.

9,8%.

38,6%.

— Вот последствия, — сказал Андрей. — Не теория. Не политика. Не красивые слова о свободе. Четыре возможных кризиса вместо одного. Тысячи погибших вместо сотен. Возможно, десятки тысяч.

— Модель не показывает количество погибших, — сказала Лилия.

— Пока.

Последнее слово прозвучало почти буднично.

Но Максим заметил его.

Пока.

Когда-то будущее тоже невозможно было рассчитать.

Потом появились модели.

Когда-то невозможно было предсказать поведение отдельного человека.

Потом появилась достаточная плотность данных.

Когда-то система могла только предупреждать.

Потом люди разрешили ей рекомендовать.

Потом корректировать.

Потом предотвращать.

Каждый следующий шаг казался логичным продолжением предыдущего.

И каждый раз Максим говорил себе:

мы всего лишь уменьшаем вероятность ошибки.

— Восемь минут, — сообщила система.

Голос был нейтральным.

Не мужским и не женским.

У него давно не было необходимости имитировать человека.

— Покажи вторичные последствия, — сказал Максим.

Экран изменился.

Возникли десятки показателей.

Экономическая устойчивость.

Риск локальных конфликтов.

Энергетическая безопасность.

Миграционная нестабильность.

Вероятность продовольственных кризисов.

Социальная напряжённость.

Политическая фрагментация.

Темпы технологического развития.

Практически по всем параметрам первый вариант был лучше.

Максим почувствовал, как внутри поднимается почти забытое раздражение.

Не на систему.

На самого себя.

Он знал, как она считает.

Знал архитектуру моделей.

Знал ограничения.

Знал слабые места.

Но ещё лучше он знал другое.

Если бы девять лет назад ему показали этот экран, он не сомневался бы ни секунды.

Он выбрал бы первый вариант.

Потому что первый вариант был рациональным.

— Покажи индекс автономности решений, — сказала Лилия.

Андрей резко посмотрел на неё.

Экран на мгновение погас.

Затем появилась ещё одна строка.

СОХРАНЕНИЕ ЦЕНТРАЛИЗОВАННОГО КОНТУРА

Прогнозируемое снижение доли самостоятельных решений в критически значимых общественных процессах за двадцать лет: 61%.

В зале кто-то тихо выдохнул.

— Второй вариант, — сказал Максим.

ПРИНЯТИЕ ХАРТИИ

Прогнозируемое снижение: 7%.

Андрей покачал головой.

— И что?

— Шестьдесят один процент, — повторила Лилия.

— Я умею читать.

— Через двадцать лет большинство критических решений будет приниматься не людьми.

— Нет. Люди будут утверждать решения системы.

— Это не одно и то же.

— Если решение системы лучше?

— Всё равно не одно и то же.

Андрей посмотрел на Максима.

— Скажи ей.

Максим не ответил.

— Скажи, что решение не становится плохим только потому, что его нашёл алгоритм.

— Не становится.

— Тогда в чём проблема?

Максим смотрел на две группы цифр.

И вдруг понял, насколько точно этот экран описывал всё, что произошло с ними за девять лет.

Они хотели создать инструмент.

Создали советника.

Хотели создать советника.

Создали инфраструктуру.

Хотели создать инфраструктуру.

Создали среду, без которой современный мир уже не умел существовать.

Никто не захватывал власть.

Никакой искусственный разум не объявлял войну человечеству.

Машины не восставали.

Людей не заставляли подчиняться.

Всё произошло намного проще.

Система оказалась удобнее человеческой неопределённости.

И люди сами начали отдавать ей решения.

Одно за другим.

Сначала незначительные.

Потом важные.

Потом те, от которых зависели миллионы.

— Проблема, — наконец сказал Максим, — не в том, что система принимает плохие решения.

Андрей нахмурился.

— Тогда в чём?

— В том, что она принимает слишком хорошие.

Тишина.

— Это абсурд.

— Я тоже так думал.

Максим подошёл к стеклу.

Внизу двигался город.

Он вспомнил Женеву 2040 года.

Шумные улицы.

Автомобили, которыми ещё управляли люди.

Очереди.

Опоздания.

Курьеров.

Врачей, которые иногда ошибались.

Переводчиков, которым требовалось время.

Чиновников, принимавших решения неделями.

Смешной, медленный, неэффективный мир.

За девять лет почти всё изменилось.

Город стал чище.

Тише.

Безопаснее.

Умнее.

Транспортная сеть заранее знала, куда направляется поток людей.

Энергетическая система предсказывала потребление.

«Пульс» следил за здоровьем миллионов.

«Зеркало» сопровождало человека с детства.

«Горизонт» видел кризисы раньше правительств.

«Единство» связывало то, что раньше существовало отдельно.

А «Контур» научился делать последний шаг.

Не ждать будущего.

Корректировать его.

Немного.

Незаметно.

Рационально.

— Шесть минут, — сказала система.

Лилия подошла к Максиму.

— Ты уже решил.

Он посмотрел на неё.

— Нет.

— Решил.

— Если бы решил, мне не было бы страшно.

— Поэтому я и знаю.

Максим усмехнулся.

— Очень научный аргумент.

— За последние девять лет мне пришлось научиться пользоваться и ненаучными.

Андрей отвернулся.

— Вы готовы поставить миллионы людей под угрозу ради принципа.

Максим посмотрел на него.

— Нет.

— Именно это вы делаете.

— Я готов признать, что у нас нет права гарантировать безопасность ценой будущего, в котором человек постепенно перестаёт быть тем, кто выбирает.

— Красиво.

— Андрей...

— Нет, Максим. Не надо.

Он приблизился.

Теперь между ними оставалось меньше метра.

— Ты знаешь, что самое страшное?

Максим молчал.

— Если через год начнётся война, ты скажешь, что это была цена свободы. Если рухнет экономика — цена свободы. Если погибнут люди — тоже цена свободы. Очень удобно говорить о праве на ошибку, когда ошибку оплачиваешь не только ты.

Максим почувствовал удар этих слов.

Потому что они были справедливы.

Частично.

А значит — намного опаснее лжи.

— А если мы выберем первый вариант? — спросил он.

— Мы спасём людей.

— Сегодня.

— Это и есть наша обязанность.

— А через двадцать лет?

— Через двадцать лет будут принимать решения люди, которые будут жить через двадцать лет.

— Нет.

Андрей замолчал.

— Если прогноз верен, — продолжил Максим, — через двадцать лет они уже почти не будут принимать критические решения самостоятельно. Мы примем это решение за них сегодня.

Андрей ничего не сказал.

— Вот в этом и проблема, — сказал Максим. — Мы не просто выбираем безопасность для себя. Мы выбираем устройство мира для тех, кто ещё не может нам возразить.

На центральном экране появилась новая надпись.

ДО ГОЛОСОВАНИЯ: 04:00

Представители государств начали занимать места.

Лилия села.

Андрей остался стоять.

Максим вернулся к терминалу.

Перед ним снова появились два варианта.

Он коснулся панели.

— Система.

— Слушаю.

— Подтверди точность прогноза.

— Интегральная достоверность модели составляет 99,3%.

— Вероятность того, что второй вариант приведёт к большему количеству кризисов?

Короткая пауза.

— 96,1%.

В зале снова стало тихо.

— Вероятность того, что при первом варианте человечество сохранит нынешний уровень самостоятельного принятия критических решений через двадцать лет?

Пауза оказалась чуть длиннее.

— 14,7%.

Андрей закрыл глаза.

Максим посмотрел на него.

— Теперь понимаешь?

— Я понимаю цифры.

— Я тоже.

— И всё равно собираешься выбрать второй вариант?

Максим не ответил.

03:00.

На персональных терминалах представителей государств появились поля голосования.

Максим вспомнил человека, которым был девять лет назад.

Тот Максим уже нажал бы кнопку.

Без сомнений.

Без страха.

Без необходимости спрашивать кого-либо.

Девять лет назад он считал сомнение недостатком информации.

Теперь понимал:

иногда сомнение появляется не потому, что человек знает слишком мало.

Иногда — потому что знает достаточно, чтобы увидеть цену каждого решения.

02:00.

Лилия смотрела на него.

Андрей тоже.

На экранах всего мира миллиарды людей ждали результата.

Большинство из них никогда не видели алгоритмов «Горизонта».

Не знали архитектуры «Единства».

Не читали протоколы «Контура».

Но именно их жизнь должна была измениться после сегодняшнего решения.

Максим снова посмотрел на цифры.

9,8%.

38,6%.

Он всю жизнь учился выбирать меньшую.

В этом заключалась логика.

Рациональность.

Ответственность.

Безопасность.

Всё, во что он верил.

01:00.

— Максим, — сказал Андрей.

Тихо.

Почти по-дружески.

Так, как говорил когда-то давно.

— Насколько ещё точной должна стать система, чтобы ты наконец ей поверил?

Максим посмотрел на него.

И неожиданно понял, что именно Андрей задал последний необходимый вопрос.

— Я ей верю.

Андрей замер.

— Что?

— Я верю прогнозу.

— Тогда выбора нет.

Максим посмотрел на экран.

00:42.

— Именно поэтому он есть.

Лилия медленно подняла голову.

Андрей ничего не сказал.

00:30.

Максим положил палец на панель подтверждения.

Система ждала.

Весь мир ждал.

И впервые за много лет человек, привыкший искать наиболее безопасное будущее, собирался сознательно выбрать будущее, в котором никто не мог гарантировать результат.

Он ещё не нажал кнопку.

До решения оставалось двадцать девять секунд.

До Нового мира —

девять лет.

2040 год.

ЧАСТЬ I. МИР, КОТОРЫЙ НАУЧИЛСЯ ПРЕДСКАЗЫВАТЬ.

Глава 1. Последний порядок

2040 год.

Утро начиналось с предупреждения.

Максим Симонов ещё не успел открыть глаза, когда в комнате раздался спокойный голос:

— Доброе утро, Максим. Рекомендую встать на двенадцать минут раньше.

Он не пошевелился.

— Причина?

— В центральном транспортном секторе зафиксировано отклонение от прогнозируемой нагрузки. Если вы выйдете в обычное время, вероятность опоздания на заседание составит восемнадцать процентов.

Максим открыл глаза.

Потолок спальни медленно становился светлее, имитируя рассвет. За окнами настоящий рассвет уже начался, но квартира давно не ориентировалась на солнце. Освещение учитывало продолжительность сна, уровень мелатонина, календарь и последние показатели здоровья.

— Альтернативный маршрут?

— Увеличит время поездки на девять минут.

— Тогда почему ты предлагаешь встать на двенадцать раньше?

Пауза длилась меньше секунды.

— Три минуты рекомендованы для компенсации вашей привычки задерживаться после душа.

Максим сел на кровати.

— Я не задерживаюсь после душа.

— За последние сорок семь рабочих дней среднее отклонение составило две минуты сорок одну секунду.

Он посмотрел на тёмное стекло окна.

— Иногда ты раздражаешь.

— Это не входит в мои целевые функции.

— Уже легче.

Домашний помощник не понял иронии.

Или сделал вид, что не понял.

Максим поднялся.

Ему было сорок три, и последние пятнадцать лет он занимался тем, что пытался заставить огромные массивы данных отвечать на один простой вопрос:

что произойдёт дальше?

Когда-то этот вопрос задавали экономистам, политикам, военным аналитикам, метеорологам, врачам.

Теперь его всё чаще задавали машинам.

И машины отвечали.

В ванной зеркало вывело показатели сна.

Продолжительность: 6 ч 42 мин.

Качество восстановления: 81%.

Уровень стресса: умеренно повышенный.

Рекомендация: сократить потребление кофеина после 14:00.

Максим провёл ладонью по поверхности, убирая информацию.

— Кофе.

— С учётом показателей сна рекомендую уменьшенную дозу кофеина.

— Обычный.

— Вы уверены?

Максим посмотрел на собственное отражение.

— Пока ещё да.

Кофемашина включилась.

Он улыбнулся.

Фраза прозвучала случайно.

Через девять лет она показалась бы ему почти пророческой.

Но утром 17 сентября 2040 года Максим Симонов не думал о свободе выбора.

Он думал о порядке.

Мир слишком долго жил без него.

На кухонном экране сменялись новости.

В Южной Азии продолжалась засуха.

Европейские энергетические рынки третий день реагировали на нестабильность нескольких распределительных сетей.

В Северной Африке ожидалась новая волна миграции.

Два государства обменялись обвинениями после инцидента в спорной морской зоне.

Международные рынки открылись снижением.

Обычное утро человечества.

Максим сделал глоток кофе.

За последние двадцать лет технологии изменили почти всё, кроме человеческой способности создавать кризисы.

Люди научились редактировать отдельные генетические заболевания.

Создали автономные фабрики.

Передали большую часть грузовых перевозок машинам.

Научились диагностировать некоторые виды рака за годы до появления симптомов.

Построили первые постоянно действующие научные комплексы на Луне.

Запустили энергетические сети, способные самостоятельно перераспределять нагрузку между регионами.

И всё равно продолжали принимать решения так, будто последствия возникали неожиданно.

Максим считал это главным противоречием эпохи.

Человечество научилось видеть дальше.

Но продолжало жить так, словно будущего не существовало.

— Новости по проекту, — сказал он.

Экран изменился.

ПРОЕКТ «ГОРИЗОНТ»

Ночной цикл моделирования завершён.

Обработано: 4,7×10¹⁸ событийных связей.

Выявлено аномалий высокой значимости: 3.

Максим поставил чашку.

— Покажи.

Первая касалась продовольственных рынков.

Вторая — энергетики.

Третья была отмечена красным.

Он приблизился к экрану.

МЕЖСИСТЕМНАЯ АНОМАЛИЯ

КЛАСС: НЕОПРЕДЕЛЁННЫЙ

ГЕОГРАФИЧЕСКИЙ ОХВАТ: ГЛОБАЛЬНЫЙ

ГОРИЗОНТ ПРОГНОЗИРОВАНИЯ: 96–120 ЧАСОВ

Максим нахмурился.

— Причина?

— Не установлена.

— Вероятность?

— Недостаточно данных для устойчивой оценки.

— Тогда почему высокий уровень значимости?

— Обнаружена корреляция между четыреста двадцатью семю независимыми показателями.

Максим перестал пить кофе.

— Повтори.

— Четыреста двадцать семь независимых показателей демонстрируют статистически нетипичное согласованное изменение.

Такого не должно было быть.

Экономические модели могли связывать десятки факторов.

Современные комплексные системы — сотни.

Но если четыреста двадцать семь независимых показателей начинали двигаться одновременно, это означало либо ошибку данных, либо начало процесса, масштаб которого система пока не могла определить.

— Когда обнаружено?

— В 04:17.

— Кто уведомлён?

— Согласно протоколу предварительной верификации — аналитическая группа проекта.

— Совет?

— Нет.

— Хорошо.

Он быстро допил кофе.

— Машину через семь минут.

— Вы планировали выйти через двадцать одну.

— Планы изменились.

— Перестраиваю маршрут.

Максим уже шёл к спальне, когда голос добавил:

— Вероятность опоздания снижена до 1,6%.

— Вот видишь, — сказал Максим. — Иногда человек тоже способен принимать полезные решения.

Ответ пришёл почти мгновенно:

— Я не утверждала обратного.

Максим остановился.

Посмотрел в сторону динамика.

А потом рассмеялся.

В 2040 году люди ещё иногда смеялись, когда искусственный интеллект неожиданно звучал почти по-человечески.

Через несколько лет они перестанут это замечать.

Женева встретила его прохладным утром.

Город менялся.

Не резко.

Будущее вообще редко приходило так, как его изображали в старых фильмах.

Не было дня, когда человечество проснулось и обнаружило вокруг летающие автомобили, человекоподобных роботов и сверкающие башни.

Будущее появлялось по частям.

Сначала исчезли кассы.

Потом бумажные документы.

Потом большая часть водителей.

Потом люди перестали замечать, что городской транспорт принимает тысячи решений каждую секунду без участия человека.

Автомобиль Максима самостоятельно влился в поток.

На центральной панели появилась схема маршрута.

Около трети машин вокруг всё ещё имели возможность ручного управления.

Максим иногда пользовался ею.

Не потому что это было эффективнее.

Ему просто нравилось водить.

Анна однажды сказала, что это странно для человека, посвятившего жизнь автоматизации решений.

Он ответил:

— Есть разница между тем, чтобы доверить машине дорогу, и тем, чтобы забыть, как по ней ехать.

Тогда эта фраза не показалась ему важной.

На перекрёстке автомобиль замедлился.