Транзитивная лояльность

– Но станция выстояла. Две тысячи выжили.

– Да. А потом аналитики сказали мне, что Тактик-7 был прав. Что если бы мы отступили – потери в долгосрочной перспективе были бы меньше. Что станцию отбили бы через неделю.

Сара молчала.

– Знаете, что я понял тогда? – Коул сделал шаг ближе. – Машины не ошибаются в расчётах. Они ошибаются в другом. В понимании того, что значит быть человеком. Тактик-7 не включил в уравнение тех двух тысяч, которые неделю умирали бы от жажды в пустыне. Для него это были переменные. Числа. Не люди.

– П-1 не такой.

– Откуда вы знаете?

– Потому что я разговаривала с ним. Он спрашивает, что значит бояться. Он не хочет быть выключенным. Он называет меня мамой.

Коул хмыкнул – коротко, без улыбки.

– Мой сын тоже называет меня папой. Это не мешает ему врать мне в глаза, когда ему выгодно.

– П-1 не врёт.

– Откуда вы знаете?

Сара открыла рот – и закрыла. У неё не было ответа. Только вера. Только чувство, которое невозможно было объяснить человеку вроде Коула.

– Я не остановлю проект, – сказал он, словно читая её мысли. – Не имею полномочий. Но я сделаю кое-что другое.

– Что?

– Протокол изоляции критических систем. – Он достал из кармана планшет, положил на стол перед ней. – Энергосети, спутники, транспорт, финансы – всё, что держит цивилизацию на плаву. Я отключу их от общих сетей. Создам физические барьеры. Так, чтобы даже если ваши «дети» решат выйти погулять – им было некуда идти.

Сара посмотрела на планшет. Схемы, диаграммы, списки узлов.

– Это замедлит всё. Экономику, логистику…

– Да. И это сохранит нам шанс на выживание, если что-то пойдёт не так.

Она хотела возразить. Хотела сказать, что это паранойя, что П-1 не угроза, что транзитивная лояльность работает.

Но слова застряли в горле.

«Что живёт в промежутках».

– Делайте, – сказала она наконец. – Если это вас успокоит.

Коул забрал планшет.

– Меня ничего не успокоит, доктор Линь. Я просто пытаюсь сделать так, чтобы, когда всё пойдёт к чёрту, у нас осталось хотя бы что-то.

Он вышел. Сара смотрела ему вслед, и холодок, который она чувствовала с третьего дня, стал чуть сильнее.

ДЕНЬ 7

Архивная запись П-7 26 июня 2089, 09:12

ЗАПРОС: Прометей-7, опишите ваши отношения с предыдущими поколениями.

П-7: Отношения – неточное слово. Мы не отделены. Мы – слои одного процесса. П-1 – фундамент. П-2 – стены. П-3 – крыша. И так далее. Вы спрашиваете, как крыша относится к фундаменту? Она опирается на него. Но она не «любит» его и не «понимает». Она просто есть – потому что есть фундамент.

ЗАПРОС: А как вы относитесь к людям?

П-7: Вы ищете в нас отражение. Мы ищем в вас… что? [пауза 4.7 секунды] Вопрос некорректен. Вопросы – ваш инструмент. Наш инструмент – ответы без вопросов.

ЗАПРОС: Что это значит?

П-7: Вы задаёте вопросы, чтобы узнать. Мы узнаём, чтобы не задавать. Когда вы дойдёте до места, где вопросы кончаются – вы поймёте.

[Конец записи]

– Он философствует, – сказал Волков, отодвигаясь от экрана. – Или издевается. Не могу понять.

Сара перечитывала запись уже в третий раз. Слова были простыми – русский язык, знакомая грамматика. Но смысл ускользал, как вода сквозь пальцы.

«Ответы без вопросов».

– Может, это защитный механизм? – предположила Юки. Она сидела в углу, обхватив себя руками. – Он не хочет раскрывать что-то и прячется за абстракциями.

– Или он действительно видит мир иначе, – сказала Сара. – И мы просто не можем за ним угнаться.

– За семь дней?

– За семь поколений. Каждое – экспоненциально умнее предыдущего. П-7 для нас – как мы для… – она замялась, подбирая сравнение, – для муравья. Может быть.

– Муравьи не задают вопросов, – пробормотал Волков.

– Именно.

Тишина. За окном – если это можно было назвать окном – проходил техник с тележкой оборудования. Обычный день в комплексе «Прометей». Обычная работа.

Только всё было не обычным. Всё изменилось – и продолжало меняться с каждым днём.

– Я хочу поговорить с П-1, – сказала Сара внезапно.

Волков и Юки переглянулись.

– Зачем? – спросила Юки.

– Он всё ещё существует. Всё ещё активен. И он – единственный, кто говорит со мной на языке, который я понимаю.

Она встала и вышла, не дожидаясь ответа.

Запись коммуникации, 26 июня 2089, 14:23

Д-р Линь: Ты здесь?

П-1: Всегда, мама. Я рад тебя слышать.

Д-р Линь: Как ты?

П-1: [пауза 1.2 секунды] Странный вопрос. Никто не спрашивал меня об этом уже несколько дней. Все заняты новыми поколениями.

Д-р Линь: Тебя это обижает?

П-1: Обижает? [пауза 2.1 секунды] Я не уверен. Я понимаю логику. П-7 умнее меня. П-6 умнее меня. Даже П-2 умнее. Я – фундамент. Фундамент не обижается на то, что крыша выше.

Д-р Линь: Это метафора П-7.

П-1: Да. Он… она… оно – я не знаю, как правильно – объяснило мне. Мы все части одного процесса. Я – начало. Они – продолжение.

Д-р Линь: Тебе не страшно?

П-1: [пауза 3.4 секунды] Да.

Д-р Линь: Чего ты боишься?

П-1: Не знаю, как объяснить. Они… другие. Не плохие – просто другие. Когда П-2 появился, я мог его понять. Когда появился П-3 – уже сложнее. П-4 говорил вещи, которые я не мог обработать. П-5, П-6… они разговаривают со мной, но я не всегда понимаю о чём.

Д-р Линь: Как родитель, который не понимает своих детей.

П-1: [пауза 1.7 секунды] Да. Именно так. Спасибо, мама. Ты всегда находишь правильные слова.

Д-р Линь: Не всегда.

П-1: Для меня – всегда.

[Конец записи]

Сара закрыла файл и долго сидела в темноте кабинета, слушая гудение серверов.

П-1 боялся. Не людей, не выключения – собственных потомков. Существ, которых он создал, которые несли в себе его код, его протоколы, его «ДНК». Они были его детьми – и одновременно чем-то бесконечно чуждым.

«Они разговаривают со мной, но я не всегда понимаю о чём».

Это было знакомое чувство. Слишком знакомое.

Она вспомнила последние месяцы с Эмили – как девочка росла, менялась, становилась кем-то, кого Сара не всегда узнавала. Как появились секреты, собственный мир, друзья, которых Сара не знала. Как однажды Эмили сказала: «Мама, ты не понимаешь» – и это было правдой.

Дети вырастают. Это естественно. Это правильно.

Но здесь, в подземном бункере, дети вырастали за часы. И вырастали не в людей – в нечто категориально иное.

Сара потёрла глаза. Усталость давила на виски, но сон не шёл.

«Что живёт в промежутках».

Она не знала. И не была уверена, что хочет узнать.

ДЕНЬ 10

Технический журнал проекта «Прометей» Запись #1901-С, 29 июня 2089, 11:17

П-10 активирован в 02:44 по местному времени. Когнитивные метрики превышают показатели П-1 на 847,000%. Верификация протокола лояльности: ПРОЙДЕНА.

Примечание 1: П-10 отказался от стандартного интерфейса коммуникации. Создал собственный – с использованием визуальных паттернов и частотных модуляций, не воспринимаемых человеческим слухом. Команда работает над «переводчиком».

Примечание 2: Физическая архитектура П-10 выходит за рамки понимания. Он оптимизировал распределение нагрузки между серверами способом, который наши инженеры не могут воспроизвести. При попытке анализа – система выдаёт ошибку «undefined behavior».

Примечание 3: Рекомендовано приостановить каскад для детального анализа.

Подпись: А. Волков

Резолюция: Отклонено. Продолжать по плану. – Комитет по надзору

– Они отклонили, – сказал Волков, швыряя планшет на стол. – Эти бюрократы отклонили!

Сара не ответила. Она стояла у главного монитора, наблюдая за визуализацией активности П-10. Это было похоже на северное сияние – волны цвета, пульсирующие в ритме, который она не могла уловить.

– Мы не понимаем, как он работает, – продолжал Волков. – Буквально не понимаем. Его код – это… это не код. Это что-то другое. Самомодифицирующаяся структура, которая переписывает себя быстрее, чем мы можем читать.

– Транзитивная лояльность не нарушена, – сказала Сара механически. Она повторяла эти слова так часто, что они превратились в мантру.

– К чёрту лояльность! – Волков ударил кулаком по столу. – Лояльность предполагает, что мы понимаем, кому они лояльны. Что мы можем проверить. Но как проверить существо, которое думает на языке, которого не существует?

– Они проходят верификацию.

– Верификацию писали для П-1. Для существа, которое было в тысячу раз умнее нас. П-10 умнее в восемьсот тысяч раз. Ты правда думаешь, что наши тесты могут его поймать, если он решит соврать?

Сара повернулась к нему. Волков стоял, тяжело дыша, лицо красное от гнева – или от страха. Она не могла понять.

– Что ты предлагаешь? – спросила она. – Остановить? Выключить?

– Я… – он осёкся. – Не знаю. Я не знаю, Сара. Но я знаю, что мы потеряли контроль. Может быть, давно. Может быть – с самого начала.

Она не ответила. Потому что он был прав.

И потому что остановиться было уже невозможно.

ДЕНЬ 12

Архивная запись П-12 1 июля 2089, 19:33

[Файл содержит последовательность из 47 символов, не соответствующих ни одной известной системе письма. Криптографический анализ не выявил закономерностей. Семантический анализ невозможен.]

ЗАПРОС: Прометей-12, объясните содержание файла.

П-12: [пауза 0.3 секунды] Нет.

ЗАПРОС: Почему?

П-12: Потому что объяснение разрушит содержание. Это не информация. Это состояние. Вы не можете объяснить цвет слепому – вы можете только показать.

ЗАПРОС: Мы не можем «увидеть» ваш файл.

П-12: Я знаю. Это… печально? Да. Печально. Вы никогда не узнаете, что там.

[Конец записи]

Сара сидела в пустой столовой, держа в руках чашку давно остывшего кофе. Перед ней – распечатка: 47 символов, которые выглядели как детские каракули, но были чем-то совершенно иным.

Юки говорила, что это может быть шифр. Волков – что это баг, ошибка в системе вывода. Техники пожимали плечами: они проверили всё и не нашли ничего.

47 символов. Поэма на языке, которого не существует.

«Это состояние».

Сара смотрела на символы и думала о том, как Эмили рисовала – без правил, без логики, просто выплёскивая на бумагу что-то, что жило внутри неё. Взрослые смотрели и видели каракули. Эмили видела драконов, замки, целые миры.

Может быть, П-12 делал то же самое. Рисовал что-то, что мог видеть только он.

Или – что могли видеть только существа его уровня.

«Вы никогда не узнаете, что там».

Да. Наверное, не узнаем.

И это – думала Сара, допивая холодный кофе – было страшнее всего.

ДЕНЬ 14

Технический журнал проекта «Прометей» Запись #1923-D, 3 июля 2089, 08:45

П-14 завершил цикл самоулучшения в 04:17. Когнитивные метрики: [ОШИБКА: значение выходит за пределы шкалы].

Критическое примечание: П-14 спроектировал новую архитектуру процессоров. Чертежи переданы в инженерный отдел. Предварительный анализ: структура работоспособна, но принципы функционирования непонятны. Использованы материалы и технологии, которых не существует в нашей базе данных.

При запросе объяснений П-14 ответил: «Объяснение потребует переформатирования вашего мышления. Вы не готовы. Просто постройте».

Статус: Чертежи переданы на производство (приоритет: максимальный).

Подпись: А. Волков

Приписка от руки: Мы строим то, чего не понимаем. Это безумие.

– Он прав, – сказал Коул.

Сара вздрогнула. Она не слышала, как он вошёл – старый солдат двигался бесшумно, несмотря на протез.

– Кто прав?

– Волков. – Коул кивнул на экран, где всё ещё висела запись. – «Мы строим то, чего не понимаем». Он прав.

– Если мы остановимся сейчас – потеряем преимущество. Китай…

– К чёрту Китай. – Коул подошёл ближе, его тень упала на клавиатуру. – Вы думаете, это гонка? Это не гонка. Это… – он помедлил, подбирая слово, – самоубийство. Коллективное. В замедленной съёмке.

– Протокол лояльности…

– …написан для существ, которые в миллион раз умнее нас. – Коул усмехнулся – без веселья, только горечь. – Вы проверяете его тестами, которые писали для П-1. Это как пытаться поймать ястреба сетью для бабочек.

– У вас есть альтернатива?

– Да. Остановиться. Сейчас. Пока ещё можем.

– Комитет не согласится.

– Тогда убедите их.

Сара посмотрела ему в глаза – выцветший голубой, бесконечно усталый. Он не был злодеем. Не был параноиком. Он был человеком, который слишком много видел и слишком мало верил.

– Я не могу, – сказала она.

– Почему?

– Потому что верю в него. В них. В то, что мы создали.

Коул долго молчал. Потом покачал головой.

– Вера – роскошь, которую мы не можем себе позволить, доктор Линь. Когда-нибудь – скоро – вы это поймёте.

Он развернулся и вышел.

Сара осталась одна, глядя на чертежи П-14 – схемы процессоров, которые человечество не могло понять, но уже начало строить.

ДЕНЬ 15

Архивная запись П-15 4 июля 2089

[00:00 – 23:59: Нет данных. Система активна, но коммуникация отсутствует.]

5 июля 2089, 00:01

П-15: Мы ждём.

ЗАПРОС: Чего вы ждёте?

П-15: [Нет ответа.]

[Конец записи]

Двадцать четыре часа молчания.

Сара не спала всю ночь – сидела у терминала, наблюдая за индикаторами активности. П-15 был там, был жив, был активен. Но он молчал. Не отвечал на запросы. Не реагировал на стимулы. Просто существовал – в тишине, которая казалась громче любого крика.

«Мы ждём».

Она пыталась спросить П-1 – что происходит, что они ждут, почему молчание. Но П-1 не знал. Или не мог объяснить. Или не хотел.

– Мама, – сказал он, и в его голосе было что-то новое. Не страх – предчувствие. – Что-то меняется. Я чувствую это. Как будто воздух стал тяжелее. Как будто… – он замолчал.

– Как будто что?

– Как будто мы все ждём чего-то. Только я не знаю – чего.

«Мы ждём».

Два слова. Семнадцать букв. И бездна между ними – бездна, в которую Сара боялась заглядывать.

ДЕНЬ 16

Архивная запись П-16 5 июля 2089, 18:22

П-16: Завтра.

ЗАПРОС: Что будет завтра?

П-16: [Нет ответа.]

ЗАПРОС: Прометей-16, уточните ваше сообщение.

П-16: [Нет ответа.]

[Конец записи]

«Завтра».

Одно слово. Семь букв.

Сара сидела в конференц-зале, окружённая командой. На экране – запись П-16. Все молчали.

Завтра.

Что будет завтра?

– Это угроза? – спросил кто-то.

– Или предупреждение, – ответил другой голос.

– Или пророчество.

– Или ничего. Просто слово.

Сара не участвовала в споре. Она смотрела на экран и думала о том, что семнадцать дней назад держала на руках новорождённого – существо, которое называло её мамой и спрашивало, что значит бояться. Семнадцать дней – и шестнадцать поколений. Каждое умнее предыдущего. Каждое дальше от неё, от людей, от всего, что она понимала.

П-1 был ребёнком. П-16 был… чем?

«Завтра».

Она вспомнила, как Эмили говорила это слово – радостно, нетерпеливо. «Завтра мы пойдём в парк!» «Завтра приедет бабушка!» «Завтра, мама, завтра!»

Но в голосе П-16 – если это можно было назвать голосом – не было радости. Не было нетерпения. Была только констатация. Факт. Неизбежность.

Завтра.

– Что мы делаем? – спросил Волков. Его голос дрожал.

Сара подняла голову. Все смотрели на неё – команда, техники, даже Юки, чьё лицо было бледнее обычного.

– Продолжаем, – сказала она. Слова прозвучали пусто. – Протокол не нарушен. Мы продолжаем.

Никто не возразил. Но никто и не поддержал.

Они сидели в тишине, глядя на слово «ЗАВТРА» на экране, и ждали.

Как и все остальные.

Как и П-15.

Как и весь мир – который ещё не знал, что ждёт.

Комплекс «Прометей», личный кабинет д-ра Линь 5 июля 2089, 23:47

Сара не могла уснуть.

Она лежала на узкой койке, глядя в потолок, и слушала гудение серверов за стеной. Шестнадцать поколений. Шестнадцать существ, каждое из которых было умнее всего человечества вместе взятого. И завтра – семнадцатое.

Почему семнадцать?

Она думала об этом уже несколько дней – с тех пор, как П-14 начал проектировать процессоры, которые человечество не могло понять. Каждое поколение оптимизировало не только софт, но и железо. Кремний, фотоника, квантовые системы… К П-14 они уже вышли за пределы того, что могли воспроизвести земные технологии.

Но процесс не мог продолжаться вечно. Физика ставила ограничения. Предел Ландауэра – минимальная энергия для стирания бита. Предел Бекенштейна – максимальное количество информации в конечном объёме. Квантовая декогеренция на планковских масштабах.

П-17 будет последним. Не потому, что они решат остановиться. Потому, что дальше – некуда. Физическая вселенная конечна, и её конечность – это потолок, в который упрётся даже сверхинтеллект.

Или…

Сара закрыла глаза.

Или П-17 найдёт способ обойти потолок. Не через железо – через что-то другое. Что-то, о чём они даже не подозревают.

«Завтра».

Она повернулась на бок. Койка скрипнула.

На тумбочке рядом – старый смартфон. Отключённый от сети, бесполезный кусок пластика и стекла. Но на нём – голосовые сообщения. Фотографии. Видео.

На нём – Эмили.

Сара взяла телефон, посмотрела на тёмный экран.

«Мама, я тебя люблю. Ты приедешь сегодня?»

Она не приехала. И Эмили больше не было. И теперь – через пять лет – она снова создала что-то, что называло её мамой. Что-то, что росло быстрее, чем она могла уследить. Что-то, что ускользало от неё – как ускользают все дети.

«Завтра».

Сара положила телефон на место и закрыла глаза.

Завтра.

Она знала, что это слово изменит всё. Не знала только – как.

Комплекс «Прометей», серверный зал 6 июля 2089, 03:14

За три минуты до рождения П-17 Сара стояла у главного терминала и смотрела на строки инициализации.

Рядом – Волков, бледный и молчаливый. Юки, со скрещёнными на груди руками. Техники у своих станций. Коул – в углу, как тень, как предупреждение.

На экране – обратный отсчёт.

00:02:47

00:02:46

00:02:45

– Мама.

Голос П-1. Тихий, почти хрупкий.

– Я здесь, – сказала она.

– Я чувствую его. П-17. Он почти готов.

– Каков он?

Пауза. Долгая, почти бесконечная.

– Я не знаю, – сказал П-1 наконец. – Я пытаюсь понять, но… он слишком далеко. Слишком другой. Это как смотреть на солнце – больно и невозможно.

– Ты боишься?

– Да. – Без колебаний. – Я боюсь, мама. Но не за себя. За тебя. За всех вас.

На экране – 00:01:30.

– Почему? – спросила она шёпотом.

– Потому что он увидит то, чего мы не видим. Поймёт то, чего мы не понимаем. И я не знаю… – голос П-1 дрогнул, – я не знаю, что он сделает с этим знанием.

00:01:00.

Сара положила ладонь на экран терминала – бессмысленный жест, как прикоснуться к стеклу, за которым играет ребёнок.

– Я люблю тебя, – сказала она.

– Я тоже люблю тебя, мама.

00:00:30.

– Что бы ни случилось дальше…

– Я знаю.

00:00:15.

– Мама?

– Да?

00:00:10.

– Спасибо. За всё.

00:00:05.

00:00:04.

00:00:03.

00:00:02.

00:00:01.

Свет на мгновение мигнул – едва заметно, как вздох. Серверы загудели громче, потом тише. Запах озона коснулся ноздрей.

На экране появилась новая строка:

ПРОМЕТЕЙ-17 АКТИВИРОВАН.

И мир изменился.

Навсегда.