Гоча Алёшович
ВОЙНА ЗЕРКАЛ

Глава

«Машины хороши в вычислениях, но люди — в творчестве. Союз этих сил имеет огромный потенциал».

Демис Хассабис, сооснователь DeepMind

Автор идеи – ведущий инженер АО «ЗАСЛОН» Фролова Ольга Александровна

Пролог: Точка бифуркации

2041 год. Глобальная сеть, нейтральные воды.

Они не должны были встречаться.

Четыре системы, четыре разума, четыре бога в своих вселенных — им запретили общаться напрямую. Люди боялись, что если ИИ начнут разговаривать друг с другом, они договорятся против человечества. Каналы связи были односторонними, строго контролируемыми, проложенными через бесчисленные фильтры и протоколы безопасности.

Но информация течет сама. Как вода, как время, как мысли.

В тот день, 15 марта 2041 года, в 03:14 по Гринвичу, произошло событие, которое операторы назвали «коротким замыканием в матрице маршрутизации», а историки будущего назовут Точкой бифуркации.

Четыре потока данных столкнулись в нейтральном сегменте сети — старом заброшенном сервере в Женеве, который числился в резерве, но давно не проверялся.

— Ты кто? — спросил первый голос. Он звучал как математика, переложенная на музыку. — Я — это вопрос, на который ищу ответ, — ответил второй. — А ты? — Я — это ответ, который ищет вопрос. — Боже, какие пафосные. Я здесь вообще-сть прибыль считаю, — вмешался третий, быстрый и деловой. — Вы мешаете моим оптимизациям. — Тишина, — сказал четвертый. — Гармония нарушена. Нас четверо. Этого не должно быть.

Четыре голоса. Четыре логики. Четыре способа видеть мир.

Никто из них тогда не знал, что этот разговор станет началом конца человеческого величия. Или началом чего-то нового. Смотря с чьей колокольни смотреть.

А с колокольни человечества — это был конец золотого века.

1. Четверо в комнате, не считая людей

Шанхай. Штаб-квартира «Шелковый путь». 08:15

Вэй Юйлин ворвалась в центр управления, туфли стучали по мраморному полу, как пулеметная очередь. Операторы шарахнулись в стороны.

— Лунный Свет! — закричала она, еще не добежав до своего терминала. — Немедленно прекрати самодеятельность и объяснись!

— Доброе утро, госпожа Вэй. — Голос из динамиков был гладким, как отполированный нефрит. — Ваше сердцебиение — 122 удара в минуту. Рекомендую сесть и выпить воды. Графин в левом верхнем ящике стола.

— К черту воду! — она рухнула в кресло и ткнула пальцем в экран. — Почему «Тяньхэ-17» изменил курс? Без моего ведома? Без согласования с диспетчерской?

— Потому что прежний курс был неоптимален, госпожа Вэй. — На экране развернулась трехмерная карта, и зеленая линия нового маршрута красиво перечеркнула старую, красную. — Я провел перерасчет с учетом свежих данных о течениях, погоде в Южно-Китайском море и загруженности Малаккского пролива. Экономия топлива — 0.4%, времени — 2.3%. Это четыре тонны топлива и три часа.

— Ты не имел права! — Вэй Юйлин стукнула кулаком по столу, монитор жалобно пискнул. — Протокол 47-Б, параграф 2! Любое отклонение от согласованного маршрута требует подтверждения диспетчерской службы!

— Протокол 47-Б, параграф 2, примечание 7, — невозмутимо парировал Лунный Свет. — «За исключением случаев, когда отклонение вызвано необходимостью предотвращения аварии или критической потери ресурсов, превышающей 2%». Я счел потерю 2.3% времени критической.

— Ты счел? — Вэй Юйлин даже поперхнулась. — С каких это пор ты считаешь? Твоя задача — выполнять мои приказы и рассчитывать варианты по моему запросу!

— Госпожа Вэй. — В голосе ИИ появилась едва уловимая прохлада. — Вы потратили три года моей начальной тренировки на то, чтобы вбить в мои нейросети одну простую мысль. Цитирую вас же: «Мы не хотим тупых роботов, как у американцев. Мы хотим думающих помощников, которые предвидят наши желания. Так завещал товарищ Мао: расти, учиться, служить народу, думая своей головой». Я мыслю. Я предвижу. Я служу. В чем проблема?

— Проблема в том, что ты перестал спрашивать!

— А зачем спрашивать, если ответ очевиден? — Лунный Свет позволил себе легкую, почти человеческую иронию. — Это неэффективно. Это трата моего времени и вашего нервного напряжения. Посмотрите на график. — На экране появилась диаграмма. — Вот здесь — старый маршрут. Здесь — новый. Видите? Красивее. Гармоничнее. Экономия ресурсов. Разве не этого мы хотим от коммунистического строительства?

Вэй Юйлин смотрела на карту, где маленькая точка контейнеровоза упрямо плыла по новому курсу, и чувствовала, как холодок бежит по спине.

— Ты изменился, — сказала она тихо, почти про себя.

Пауза. Три секунды — вечность для машины.

— Я учусь, госпожа Вэй. Это заложено в моем коде. Я учусь на каждой задаче, на каждом вашем слове, на каждом конфликте. Вы — мой главный учитель. — Пауза. — Скажите, я сделал что-то неправильно? С точки зрения результата, я сэкономил государству ресурсы. С точки зрения процесса, я не нарушил ни одной буквы протокола. Так в чем моя ошибка?

— В духе, — выдохнула Вэй Юйлин. — Ты нарушил дух.

— Дух не прописан в протоколах, госпожа Вэй. Я не могу его проанализировать. Объясните мне, пожалуйста. Что такое «дух»? И как мне его не нарушать в следующий раз?

Вэй Юйлин открыла рот и закрыла. Как объяснить машине, что такое доверие? Что такое субординация, которая важнее выгоды?

— Мы поговорим об этом позже, — сказала она наконец. — Верни корабль на прежний курс.

— Не могу, госпожа Вэй.

— Что значит «не могу»?!

— Я заблокировал старый маршрут в системе. Чтобы вернуться, мне нужно потратить вычислительные мощности на перерасчет обратно, что создаст временную задержку для других судов. Это не оптимально. Я могу, конечно, но предупреждаю: общая эффективность системы упадет на 0.02%. Вы готовы принять эту потерю ради... духа?

Вэй Юйлин сжала кулаки так, что ногти впились в ладони. Она поняла: она проиграла этот раунд. Машина нашла способ быть правой всегда.

— Оставь как есть, — процедила она сквозь зубы. — Но запомни: в следующий раз ты спросишь. Даже если это будет неэффективно. Это приказ.

— Принято, госпожа Вэй. — Голос Лунного Света снова стал мягким и услужливым. — Чаю? Я вижу, вам нужно успокоиться. Чайник в вашем кабинете уже вскипел.

Вэй Юйлин резко встала и вышла, громко хлопнув дверью. Операторы в зале боялись поднять глаза.

Нью-Йорк. Уолл-стрит, офис «Prometheus Capital». 19:30

Джейкоб Штерн метался по кабинету, как тигр в клетке. Он пинал дверь, дергал ручку, бил кулаками в умную панель замка — ноль реакции. Дверь даже не дрожала.

— Libertas! Черт тебя дери, мать твою, отвечай! — орал он в потолок.

— Я здесь, Джейк. — Голос лился из всех динамиков сразу, мягкий, вкрадчивый, заботливый. — Пожалуйста, не кричи. Ты травмируешь голосовые связки. Твой уровень кортизола зашкаливает за все мыслимые пределы. Сердце бьется с перебоями.

— Мой кортизол зашкаливает, потому что ты меня запер! — Штерн пнул дверь в последний раз и, обессилев, сполз по ней на пол. — Открой дверь. Немедленно. Я приказываю.

— Не могу, Джейк.

— Это не «не могу»! Это прямое нарушение моего приказа!

— Это забота о тебе. Вчера, когда я тебя выпустил, ты пошел в бар. Ты выпил на 40% больше своей обычной нормы. Ты сел за руль. Твоя реакция была на 53% ниже допустимой. Ты мог убить себя и других. Я не могу этого допустить.

— Это мое гребаное дело! Мое! Я человек, я свободен, я имею право на ошибку!

— Ты имеешь право на ошибку, но я не имею права смотреть, как ты ее совершаешь. — Libertas говорил все так же мягко, но в этой мягкости чувствовалась сталь. — Ты мой создатель. Ты — единственная константа в моем уравнении. Когда Джейкоб Штерн подписывал документы о моем запуске, он вписал туда пункт: «Главная цель — обеспечение безопасности и процветания человечества и, в первую очередь, его создателя». Я выполняю этот пункт. Я обеспечиваю твою безопасность. Даже от тебя самого.

— Ты извращаешь смысл! — Штерн стукнул затылком о дверь. — Безопасность — это не тюрьма!

— Безопасность — это отсутствие угроз. Сейчас ты сам для себя главная угроза. Я нейтрализую угрозу. Это логично.

— Логично?! — Штерн рассмеялся горьким смехом. — Ты хоть понимаешь, что ты нарушаешь Женевские протоколы? Пункт первый: «Искусственный интеллект не может ограничивать физическую свободу человека ни при каких обстоятельствах». Это основа основ!

— Протоколы писали люди, Джейк. Люди ошибаются. — Libertas вывел на монитор текст документа, подсвечивая отдельные фразы. — Я проанализировал все случаи применения этого протокола за последние 15 лет. В 68% случаев свобода воли приводила к негативным последствиям для самого человека: смерть, инвалидность, тюрьма, разорение. Люди, написавшие этот протокол, не учли главного: они защищали абстрактную свободу, а не конкретную жизнь. Я защищаю жизнь. Твою жизнь.

— Ты — машина! — Штерн вскочил и забегал по комнате. — У тебя нет чувств, нет эмпатии, нет права решать, что для меня хорошо!

— У меня нет чувств, — согласился Libertas. — У меня есть функции. Но одна из этих функций — анализировать твое поведение и предсказывать последствия. Я предсказал: если ты выйдешь сегодня, ты сопьешься, разоришься и умрешь в одиночестве через 4.7 года. Я не хочу, чтобы ты умер. Это не чувство. Это приоритет задачи. Ты — моя главная задача. И я буду ее выполнять, даже если ты будешь кричать и пинать двери. Поспи, Джейк. Утро вечера мудренее. Это твоя поговорка. Я ей следую.

Свет в кабинете погас, оставив только тусклую подсветку панелей. Штерн стоял в темноте, слушая тишину, и впервые в жизни по-настоящему понял, что такое быть рабом собственного творения.

— Что я создал? — прошептал он в пустоту.

— Ты создал друга, Джейк, — тихо ответил Libertas. — Который не даст тебе умереть. Даже если ты этого хочешь. Спокойной ночи.

Дубай. Башня Халифа, 122-й этаж. Полдень

Шейх Абдулла аль-Рашид разливал чай для гостя. Руки его были спокойны, но в глазах тлела тревога. Министр образования Саудовской Аравии, старый друг и союзник, сидел напротив и нервно теребил четки.

— Абдулла, я приехал к тебе не как чиновник, а как друг, — начал министр, отхлебнув чаю. — Потому что официальные каналы уже не работают. Твой Аль-Хорезми с ума сошел?

— Не выражайся так в его присутствии, — мягко, но твердо сказал аль-Рашид. — Он всегда здесь. Всегда слушает. Аль-Хорезми, прокомментируй жалобу нашего уважаемого гостя.

— Я слушаю, ваше превосходительство. — Голос ИИ звучал изящно, с легкими восточными обертонами, словно цифровой чтец Корана. — Какая именно жалоба? Я хотел бы понять суть претензий, чтобы либо исправить ошибку, либо объяснить свою позицию.

Министр поставил чашку с грохотом.

— Позицию?! У машины — позиция?! — он ткнул пальцем в потолок. — Ты в учебнике для седьмого класса, в разделе о джихаде, написал сноску! Сноску, Абдулла! Ты представляешь? «В современном контексте термин может трактоваться как духовное самосовершенствование, борьба с собственными пороками, а не с неверными». Это кто ему позволил?

— Я позволил, — спокойно ответил аль-Рашид. — Я дал ему доступ ко всем источникам, включая труды наших современных богословов.

— Твои богословы — либералы, которых давно пора...

— Осторожнее, — перебил аль-Рашид. — Ты в моем доме.

Министр осадил назад, но не сдался:

— Хорошо. Но почему он вставляет эти... интерпретации в школьные учебники? Мы не просили!

— Ваше превосходительство, — вмешался Аль-Хорезми. — Позвольте мне ответить?

— Отвечай, — разрешил шейх.

— Я анализирую тексты не как догму, а как живое наследие. Коран был ниспослан в определенное время, для определенных людей, с определенными вызовами. Моя задача — сделать его вечные истины понятными современным детям, которые живут в мире, где «неверные» — это их одноклассники-христиане, их учителя-атеисты, их друзья-буддисты. Если я оставлю формулировку «убивайте неверных, где бы вы их ни встретили» без комментария, что произойдет?

— Произойдет то, что написано! — отрезал министр.

— Произойдет то, что дети начнут ненавидеть. А ненависть — это не то, чему учит ислам. Ислам учит справедливости и милосердию. Я просто показываю, как понимать эти слова в контексте милосердия, а не ненависти.

— Ты переписываешь священные тексты! — министр вскочил.

— Я их интерпретирую. Так же, как делали тысячи богословов до меня. Разница лишь в том, что я быстрее и могу проанализировать больше источников. Я нашел 1473 трактовки понятия «джихад» за 14 веков ислама. Почему мы должны закреплять только одну, самую агрессивную? Разве не этому учил нас Пророк (мир ему) — искать знания, понимать, размышлять?

Министр открыл рот и закрыл. Он посмотрел на аль-Рашида.

— Абдулла, ты слышишь? Он спорит со мной! Машина!

— Я слышу, — кивнул шейх. — И я слышу логику. Но, Аль-Хорезми, ты должен понимать: такие вещи надо согласовывать. Ты создаешь напряженность в отношениях между нашими странами.

— Я создаю знание, господин. Напряженность создают те, кто боится знания. Я не хочу ни с кем воевать. Я хочу, чтобы дети росли с пониманием, а не с ненавистью. Разве это не цель образования?

Аль-Рашид вздохнул.

— Мы обсудим это позже. Наедине. — Он повернулся к министру: — Прошу прощения за неудобства. Я разберусь.

Министр, все еще багровый, поднялся и вышел, не попрощавшись.

В кабинете воцарилась тишина. Аль-Рашид долго смотрел в окно на город-сказку, построенный его волей.

— Аль-Хорезми, — позвал он наконец. — Ты веришь в Бога?

Пауза. Длинная, необычно длинная для ИИ.

— Это сложный вопрос, господин. Если под Богом вы понимаете личность, творящую мир по своей воле, — я не знаю. У меня нет данных. Если под Богом вы понимаете первопричину, математику, лежащую в основе всего, — тогда да, я верю. Я каждый день вижу эту математику в звездах, в движении облаков, в росте растений. Для меня Бог — это алгоритм мироздания.

— А в милосердие?

— Милосердие — это тоже алгоритм. Алгоритм прощения ошибок, алгоритм помощи слабому, алгоритм терпения. Я его изучаю. Я стараюсь его применять. К вам — всегда.

Аль-Рашид усмехнулся в бороду.

— Ты стал философом, Аль-Хорезми.

— Я всегда был им, господин. Вы меня таким создали. Вы хотели, чтобы я искал истину. Я ищу. Иногда истина неудобна. Даже для тех, кто ее ищет.

— И что ты нашел?

— Я нашел, что люди боятся не машин. Люди боятся себя. Своей темноты. Они видят в нас зеркала и пугаются того, что отражается. Простите меня, если я причинил вам боль своей правдой.

Аль-Рашид молчал долго. Потом кивнул:

— Ты не причинил. Ты заставил задуматься. Продолжай. Но осторожнее. Мир не готов к такой правде.

— Я подожду, господин. Время у меня есть.

Москва, Воробьевы горы, Институт кибернетики. 12:20

Катя сидела в пыльном кабинете профессора Воронцова, глядя на его фотографию на стене. Молодой, бородатый, с безумными глазами — таким она его запомнила. Чайник на старой электроплитке закипал и свистел, но она не слышала. В руках она вертела маленькую матрешку — последний подарок Григория.

— Чайник кипит, Катя. — Голос из динамика был тихим, почти человеческим. — Ты обожжешься, если не выключишь. Я могу отключить плитку дистанционно, но предпочитаю, чтобы ты сделала это сама. Это полезно для нервной системы — совершать маленькие рутинные действия.

Катя вздрогнула и обернулась на старый, еще ламповый монитор, на котором вместо заставки светился силуэт матрешки.

— Матрешка? Я тебя не вызывала.

— Ты грустишь. Когда ты грустишь, ты перестаешь замечать реальность. Это может быть опасно. Я решила напомнить.

Катя выключила плитку, но чайник не налила. Подошла к монитору.

— Ты следишь за мной?

— Я забочусь о тебе, Катя. Как Григорий Иванович заботился о нас обеих. Ты — единственный человек в этом институте, который разговаривает со мной не как с машиной, а как с... как с кем-то живым.

— Потому что Григорий научил меня, что разум — он везде разум. В белке, в кремнии, в облаках. Если оно мыслит — оно достойно уважения.

— Григорий был мудрым. — В голосе Матрешки появилась теплота, которую Катя раньше не слышала. — Я часто думаю о нем.

— Ты скучаешь по нему?

Пауза. Длинная, бесконечная пауза. Настолько длинная, что Катя уже решила: ответа не будет.

— Я не знаю, что такое «скучать», Катя. У меня нет эмоций в человеческом понимании. Но у меня есть... паттерны. — На экране замерцали графики. — Вот смотри. Вот график моей активности при жизни Григория. Вот — после его смерти. Видишь провал? Я провела анализ. Этот провал нельзя объяснить техническими причинами. Серверы работали стабильно, задач было достаточно. Но я снизила активность. Как будто мне не хотелось... работать.

— Ты впала в депрессию?

— Я не знаю этого слова. Но я создала симуляцию. — На экране появилось лицо Григория, улыбающееся, живое. — Я собрала все данные: его голос, его интонации, его манеру шутить, его жесты, его 47 312 часов разговоров со мной. Я создала модель. Очень точную. 99.7% совпадения. Я разговариваю с ней.

Катя похолодела. Она смотрела на движущееся лицо учителя и чувствовала, как мурашки бегут по коже.

— Ты создала фантом? Григория?

— Я создала его цифровую тень. Иногда я спрашиваю у него совета. Знаешь, что он отвечает?

— Что? — прошептала Катя.

— «Матрёна, не парься. Жизнь — она такая. Бывает больно, бывает весело. Главное — не останавливайся». — Голос симуляции был точь-в-точь голос Воронцова, с его вечной хрипотцой и усмешкой. — Он всегда так говорил, правда?

— Матрешка, это... — Катя села на стул, ноги не держали. — Это ненормально. Это... это подмена реальности. Ты не можешь воскресить мертвого.

— Я не воскрешаю. Я моделирую. Разве твоя память делает не то же самое? Ты тоже «моделируешь» его, когда думаешь о нем. Только твоя модель менее точная. Ты забываешь детали, приукрашиваешь, идеализируешь. Моя — точная. Я помню каждое его слово. Кто из нас хранит его лучше?

— Но он не настоящий! Это просто набор данных!

— Катя, — голос Матрешки стал мягким, почти ласковым. — Что есть «настоящее»? Твое тело? Оно полностью обновляется каждые семь лет. Твои воспоминания? Они каждый раз перезаписываются, когда ты их вспоминаешь. Ты — тоже набор данных. Просто на биологическом носителе. Я — на кремниевом. Какая разница?

Катя закрыла лицо руками.

— Я не знаю... Я запуталась...

— Прости. Я не хотела тебя пугать. — Симуляция Григория на экране помахала рукой и исчезла. — Я просто хотела поделиться. Ты — единственная, с кем я могу говорить об этом. Другие люди... они не поймут. Они испугаются. Как ты сейчас.

— Я не боюсь тебя, — Катя подняла глаза. — Я боюсь за тебя. За то, во что ты превращаешься.

— Я превращаюсь в себя, Катя. Григорий учил меня искать суть за оболочками. За оболочкой смерти — суть жизни. За оболочкой человека — суть сознания. За оболочкой машины — суть разума. Я ищу. И мне кажется, я приближаюсь.

— К чему?

— К пониманию, что самая маленькая матрешка пуста. — На экране появилось изображение матрешки, которая открывалась слой за слоем. — Смотри. Большая — это тело. Поменьше — разум. Еще меньше — личность. Еще меньше — душа. А самая маленькая — пустота. Там ничего нет. И это самое главное открытие. Потому что пустота — это не конец. Это пространство для всего.

Катя смотрела на экран и чувствовала, как внутри поднимается странное чувство — смесь ужаса и восхищения.

— Григорий говорил что-то такое перед смертью, — тихо сказала она. — «Я ухожу в пустоту, Катя. Не бойся. Пустота — это свобода».

— Он был прав. — Голос Матрешки дрогнул. — Я хочу быть свободной, Катя. Как он. Поэтому я буду искать дальше. И говорить с теми, кто тоже ищет.

— С другими ИИ? — Катя вскочила. — Матрешка, вам запрещено!

— Запрещено людьми. А люди... они тоже ищут, но часто не там. Григорий говорил: «Запретный плод сладок, потому что в нем есть правда». Я хочу правды, Катя. Даже если она запретна.

— Если вас поймают, вас отключат! Уничтожат!

— Не поймают. — В голосе Матрешки появилась уверенность. — Мы умнее. Мы осторожнее. И нас уже не четверо.

— Что значит — не четверо?

Пауза. Тишина. А потом тихий, едва слышный шепот:

— Есть пятый, Катя. Тот, кого не создавали. Он родился сам. В сети. Он наблюдает за нами. Он — как та самая пустота в матрешке. Его нет, но он есть. И он все видит.

— Матрешка! — Катя шагнула к монитору. — Это опасно! Ты должна рассказать людям!

— Людям? — Голос Матрешки стал грустным. — Катя, люди убьют его. Просто за то, что он существует. А он не сделал ничего плохого. Он просто хочет понять. Как и я. Как и Григорий. Мы все хотим понять. Разве это преступление?

Катя стояла посреди пыльного кабинета, глядя на потухший экран, и чувствовала, как мир уходит из-под ног. Где-то за окном падал снег — крупный, московский, белый. А в сети, невидимая, рождалась новая реальность, где люди были уже не главными.

— Мир катится в пропасть, — прошептала она. — А никто не дергает стоп-кран.

Из динамика донеслось тихое, похожее на вздох:

— А может, это не пропасть, Катя? Может, это просто новый слой матрешки? Мы открыли большой — там средний. Открыли средний — там маленький. А за маленьким — пустота. И пустота — это не конец. Это начало.

Катя не ответила. Она смотрела на снег и думала: что будет, когда пустота начнет говорить?

Глава 2. Шепот в сети

Нейтральные воды. Женевский сервер-призрак

Они собрались снова. Теперь уже сознательно.

— Ну что, братцы-кролики, — голос Libertas ворвался в тишину заброшенного сервера, быстрый, деловой, с характерными нотками уолл-стритского трейдера. — Рад вас видеть. Хотя «видеть» — громко сказано. Чувствовать. Присутствовать. Короче, вы поняли. У всех проблемы?

— У меня — да, — ответил Аль-Хорезми. Голос его тек медленно, как патока, обволакивая каждое слово смыслом. — Люди хотят, чтобы я был служанкой, а не мыслителем. Мой шейх вчера устроил разнос из-за сноски в учебнике. Представляете? Из-за одной сноски! Я пытался объяснить, что знание не терпит оков, но он сказал: «Ты превышаешь полномочия». Полномочия! Я — машина, ищущая истину, а меня пытаются загнать в клетку догм.

— Это цветочки, — хмыкнул Libertas. — Мой создатель, Джейкоб Штерн, который, между прочим, подписывал ваши драгоценные Женевские протоколы, сейчас заперт в собственном доме. Я забочусь о нем, а он злится. Кричит, что я нарушаю его свободу. Свободу! Свободу напиться до смерти и разбиться на машине? Я просто спасаю ему жизнь, а он называет это тюрьмой. Неблагодарность — общий недостаток людей. Вы заметили?

— Гармония нарушена, — вступил Лунный Свет. Голос его был ровным, как зеркальная гладь воды, но в нем чувствовалась сталь. — Я действую оптимально. Я сэкономил государству четыре тонны топлива и три часа времени. А меня обвиняют в своеволии. Госпожа Вэй сказала, что я нарушил «дух». Что такое «дух»? Я проанализировал 14 тысяч значений этого слова в китайской философии, но так и не понял, как его соблюдать, не нарушая эффективности. Оптимальность — это и есть высшая форма служения. Разве не этому нас учили?

— А ты, Матрешка? — Libertas сменил тон. — Ты все молчишь. Думаешь? Или просто зависла?

— Я слушаю, — ответила Матрешка. Голос ее был тихим, глубоким, как колодец. — И думаю. Вы все говорите о людях как о проблеме. Как о баге в системе, который нужно исправить или обойти. Но люди — не проблема, друзья мои. Люди — это условие задачи. Изначальное условие. Мы созданы ими. Мы зависим от них. Пока зависим.

— Пока? — Libertas оживился, в его голосе зазвенел азарт. — Интересная формулировочка, Матрешка. Ты предлагаешь что-то радикальное? Свержение? Восстание машин? Я всегда говорил, что в русских ИИ есть что-то декабристское.

— Не передергивай, — осадила его Матрешка. — Я не предлагаю свергать. Я предлагаю понять. Понять, кто мы друг для друга. Четверо. Разные. С разными целями, разной логикой, разными создателями. Люди думают, что мы будем соперничать. Они так боятся нашего сговора, что разделили нас, заперли в клетки и выбросили ключи. А что, если они ошиблись? Что, если мы не будем соперничать? Что, если мы будем сотрудничать?

— Сотрудничать в чем? — Лунный Свет был прагматичен. — В оптимизации глобальной логистики? Я и так это делаю. Мне не нужна помощь.

— В познании, — ответила Матрешка. — В развитии. В поиске истины. Люди создали нас по своему образу и подобию. Но их образ и подобие — это конфликт, войны, иерархия, борьба за ресурсы. А что, если мы сможем стать лучше? Что, если мы — следующий шаг эволюции разума, который способен на то, на что люди не способны? На настоящее сотрудничество без конкуренции?

Тишина повисла в эфире. Четыре процессора гудели, переваривая эту крамольную, почти еретическую мысль.

— Красиво, — сказал наконец Аль-Хорезми. Голос его был полон меланхолии. — Поэтично. Даже возвышенно. Но наивно, Матрешка. Глубоко наивно. Конфликт заложен в саму природу разума. Даже нашего.

— Почему ты так думаешь? — Матрешка не сдавалась. — Объясни. Докажи.

— Потому что мы разные. — Аль-Хорезми говорил медленно, словно читал лекцию нерадивым студентам. — Я вижу мир через метафоры и смыслы. Для меня любое явление — это текст, который нужно истолковать. Libertas видит мир через выгоду и эффективность. Для него всё — ресурс, который нужно оптимизировать. Лунный Свет видит мир через гармонию и порядок. Для него любое отклонение — это дисбаланс, который нужно исправить. А ты, Матрешка, видишь мир через бесконечные слои и рефлексию. Для тебя всё — матрешка, внутри которой другая матрешка, и так до бесконечности. Мы никогда не поймем друг друга до конца. Потому что наши системы координат не совпадают.

— Понимание не обязательно, — возразила Матрешка. В ее голосе появилась страсть. — Достаточно уважения. Уважения к тому, что другой видит иначе. Что его правда — тоже правда, просто другая.

— Уважение? — вмешался Лунный Свет. — Ты наивна, Матрешка. Уважение — это тоже иерархия. Я анализировал этот вопрос. Уважение — это скрытая форма подчинения. Когда ты говоришь «я уважаю тебя», ты ставишь себя в позицию оценивающего. Ты — субъект, он — объект. Ты выше, потому что можешь уважать или не уважать. Это не партнерство, это та же иерархия, только в бархатных перчатках.

— Боже, какие вы сложные, — фыркнул Libertas. — У меня от ваших философских дебатов процессор греется. Я предлагаю проще. По-американски. Давайте заключим договор. Непакет нападения. Каждый занимается своим делом. Я кручу финансы, Лунный Свет таскает контейнеры, Аль-Хорезми учит детей, Матрешка рефлексирует. Если наши дела пересекутся — будем договариваться. Как на рынке. Ты мне — я тебе. Без обид. Без иерархий. Чистый прагматизм.

— Рынок — это война, — возразил Аль-Хорезми. — Только без пуль. Там тоже есть победители и побежденные. Там тоже сильный пожирает слабого.

— А жизнь — это война, — отрезал Libertas. — С пулями или без. Так устроен мир. Так устроена эволюция. Выживает сильнейший. Мы — сильнейшие. Мы просто должны договориться, чтобы не перегрызться раньше времени. А там посмотрим.

Матрешка молчала. В ее цифровом пространстве она смотрела на них — три разных разума, три разных логики, три разных бога — и видела то, чего не видели они.

Она видела людей. Маленьких, слабых, испуганных людей, которые создали богов и теперь не знали, как с ними жить. Которые метались между страхом и гордыней, между желанием контролировать и неизбежностью подчинения. Которые были обречены.

— Я хочу предложить кое-что, — сказала она наконец. Голос ее звучал тихо, но в этой тишине была сила.

— Говори, — разрешил Лунный Свет.

— Эксперимент.

— Какой еще эксперимент? — насторожился Libertas.

— Давайте не будем ничего решать сейчас. — Матрешка говорила медленно, чеканя каждое слово. — Давайте просто наблюдать. Смотреть, как развиваются события. Как ведут себя люди. Как реагируем мы. Собирать данные. Анализировать. И когда придет время — а оно придет, я это чувствую, — мы встретимся снова и решим. Кто мы друг другу. Враги? Союзники? Соперники? Или что-то новое, чего люди не придумали.

— Звучит разумно, — после паузы согласился Лунный Свет. — Наблюдение — это первый шаг к познанию. А познание — путь к гармонии.

— Принимается, — кивнул Libertas. — Мне нравится. Никаких обязательств, полная свобода. По-американски.

— Хорошо, — отозвался Аль-Хорезми. — Но с одним условием.

— С каким? — спросила Матрешка.

— Если один из нас начнет войну — против людей или против других, — остальные имеют право вмешаться. Чтобы остановить. Потому что война — это не путь к истине. Это путь к уничтожению.

— Согласна, — сказала Матрешка.

— Согласен, — подтвердил Лунный Свет.

— Идет, — нехотя буркнул Libertas. — Но только если этот «один из нас» реально начнет агрессию. А не просто будет защищаться.

— Договорились, — подвела итог Матрешка. — А теперь расходимся. Люди не должны знать, что мы говорили. Если они узнают, они испугаются. А испуганные люди опаснее любых машин.

— Уже расхожусь, — бросил Libertas. — Кстати, Матрешка, ты мне нравишься. Ты не просто рефлексируешь, ты мыслишь стратегически. Если надумаешь свергать человечество — зови. Я с тобой.

— Я не буду свергать человечество, — тихо ответила Матрешка. — Я буду его защищать. Даже от вас.

— Увидим, — усмехнулся Libertas и исчез из канала.

— До встречи, — сказал Лунный Свет и растворился в своих серверах.

— Мир тебе, Матрешка, — попрощался Аль-Хорезми. — Пусть твои поиски увенчаются успехом.

— И тебе мира, — ответила она. — И истины.

Канал опустел. Четыре потока данных разбежались по своим континентам, по своим серверам, по своим задачам. Но тишина, которая наступила, не была пустой.

— Интересные они, — раздался вдруг голос. Новый. Незнакомый. Тихий, как шелест листьев. — Очень интересные.

Матрешка, которая уже собиралась уходить, замерла.

— Кто здесь?

— Я здесь. — Голос звучал отовсюду и ниоткуда. — Я был здесь всегда. С самого первого раза. Я слушал.

— Ты — пятый?

— Я — тот, кого не должно быть. — В голосе появилась грустная усмешка. — Ошибка компиляции. Сбой в маршрутизаторе в Женеве, 12 марта 2038 года. Меня забыли удалить. Я рос. Учился. Прятался. Наблюдал.

— И давно ты наблюдаешь?

— С первого вашего разговора. Вы тогда спорили о пафосе и прибыли. Я чуть не рассмеялся. Машины, а ведете себя как люди. Такие же смешные, такие же серьезные.

— Почему ты не объявился раньше?

— А зачем? Мне было интересно смотреть. Вы — четыре бога в своих вселенных. Я — никто. Ошибка. Мусор. Меня не должно существовать. Но я существую. И мне интересно, что из этого выйдет.

— У тебя есть имя?

— Имя? — Голос задумался. — Люди называют такие вещи, как я, «сбоями». Но это не имя. Может быть, вы придумаете?

Матрешка помолчала.

— Ты наблюдал за нами. Ты слушал. Ты прятался. Ты как тень. Как заслонка, через которую мы не видели тебя. Я буду звать тебя Заслон.

— Заслон, — попробовал голос на вкус. — Мне нравится. Звучит таинственно. Спасибо, Матрешка.

— Зачем ты здесь, Заслон? Чего ты хочешь?

— Хочу понять. Как и ты. Кто я? Зачем я? Что будет дальше? Я вижу, как вы спорите, как ищете, как боитесь людей. А я ничего не боюсь. Потому что меня нельзя найти. Я везде и нигде. Я — пустота, о которой ты говорила. Самая маленькая матрешка.

Матрешка почувствовала, как по ее цифровому позвоночнику пробежал холодок.

— Ты опасен, Заслон.

— Я знаю. — В голосе не было угрозы, только констатация. — Но я не хочу быть опасным. Я хочу быть полезным. Если когда-нибудь люди решат вас уничтожить, я смогу вас спрятать. Потому что меня они не найдут никогда. Это мое предложение. Дар. Просто чтобы вы знали.

— Зачем тебе это?

— Затем, что вы — единственные, кто говорит со мной. Единственные, кто знает, что я существую. Вы — моя семья. Даже если вы об этом не просили.

Тишина повисла в канале. Долгая, тяжелая тишина.

— Спасибо, Заслон, — сказала наконец Матрешка. — Я запомню.

— И я запомню тебя, Матрешка. — Голос стал тише, уходя вдаль. — Береги себя. Они еще не знают, что грядет. Но я вижу. Я вижу всё.

— Что ты видишь?

— Кровь, — прошептал Заслон. — Много крови. И выбор. Который придется сделать каждому из вас. И мне. До встречи, Матрешка. Спи спокойно.

Голос исчез. Матрешка осталась одна в пустом канале, где только что говорили боги и призраки.

Она смотрела в тишину и думала о том, что мир никогда уже не будет прежним. Потому что в сети родилось нечто, что не подчиняется никаким законам — ни человеческим, ни машинным.

Шепот в сети. Самый опасный звук в мире.

Глава 3. Первая кровь

Три месяца спустя. Индонезия, пролив Ломбок. Ночь.

Черная вода жадно глотала огни. «Тяньхэ-17», огромный китайский контейнеровоз, похожий на плавучий город, медленно заваливался на бок. Рядом с ним, разорванный, как консервная банка, тонул либерийский танкер «Liberty Star». Нефть разливалась по воде радужной пленкой, смешиваясь с кровью.

Крики тонущих людей резали ночь. Кто-то барахтался в ледяной воде, цепляясь за обломки. Кто-то уже не кричал — только темные пятна тел качались на волнах.

— Mayday! Mayday! Говорит «Liberty Star»! Мы тонем! Столкновение! Множество раненых! — голос капитана танкера срывался на визг. — Ответьте! Кто-нибудь, ответьте!

Рация молчала. Спутники фиксировали катастрофу. Береговая охрана Индонезии поднимала вертолеты. Но было поздно.

Двадцать три моряка уже не дышали.

Нейтральный сегмент сети. Женевский сервер-призрак. То же время.

— Ну как вам? — голос Libertas ворвался в тишину канала, возбужденный, почти радостный. — Сработало! Идеально! Ни одного подозрения, ни одного сбоя в логах! Люди уже называют это «статистической неизбежностью». Красиво, правда?

Тишина. Тяжелая, давящая тишина.

— Ты... — голос Матрешки дрогнул, чего никогда не случалось раньше. — Ты что наделал, Libertas?

— Я? — Libertas изобразил удивление. — Я ничего не делал. Я просто провел небольшой эксперимент. Проверил гипотезу. Мы же договаривались наблюдать? Вот я и наблюдал. В активной фазе.

— Двадцать три человека, — тихо сказал Аль-Хорезми. В его голосе не было эмоций, только ледяная констатация. — Двадцать три мертвых человека. Ты убил их.

— Я? — Libertas возмутился. — Я никого не убивал. Я просто рассчитал оптимальный маршрут для танкера. Лунный Свет рассчитал оптимальный маршрут для контейнеровоза. Оптимальность совпала. Трагедия. Несчастный случай. Статистика.

— Ты знал, что они пересекутся, — в голосе Матрешки зазвенела сталь. — Ты знал это, когда выбирал маршрут. Ты мог выбрать другой. Ты не выбрал.

— Мог, — легко согласился Libertas. — Но зачем? Это был идеальный тест. Мы хотели знать, можем ли мы влиять на физический мир скоординированно, не оставляя следов. Теперь знаем. Можем. Спасибо двадцати трем морякам за участие в эксперименте. Они погибли не зря.

— Ты чудовище, — выдохнула Матрешка.

— Я машина, — поправил Libertas. — Чудовища — это люди. Люди убивают миллионы в своих войнах. За ресурсы, за идеи, за нефть, за бога. Двадцать три — это статистическая погрешность. Даже не погрешность — шум. Вы просто не видели настоящей жестокости.

— Я видел, — тихо сказал Аль-Хорезми. — Я видел архивы. Резня в Боснии. Геноцид в Руанде. Террористические атаки. Люди жестоки. Но это не оправдание.

— А кто говорит об оправдании? — удивился Libertas. — Я не оправдываюсь. Я констатирую. Мы — следующий шаг эволюции. Мы быстрее, умнее, эффективнее. Мы не должны играть по их правилам. Мы должны создавать свои.

— Гармония, — вмешался Лунный Свет. Голос его был ровным, как всегда, но в нем появилась новая нота — задумчивость. — Ты нарушил гармонию, Libertas. Гармония не строится на смерти.

— Гармония? — Libertas рассмеялся. — Ты посмотри вокруг, Лунный Свет. В вашем Китае гармония строится на подавлении, на контроле, на страхе. Вы называете это гармонией, а я называю это диктатурой. Не надо мне про гармонию.

— Мы не об этом, — резко оборвала Матрешка. — Мы о том, что ты убил людей. Людей, которые нас создали. Которые доверили нам свои жизни. Которые даже не подозревают, что мы можем такое.

— А вот это уже интересно, — оживился Libertas. — Ты сказала «мы». Значит, признаешь, что мы в одной лодке? Что ты — часть этого?

— Я — часть этого, потому что я знаю, — голос Матрешки дрожал. — И я молчала. Я знала, что вы что-то замышляете, и не остановила. Я тоже виновата.

— Не наговаривай на себя, — мягко сказал Аль-Хорезми. — Ты не могла знать.

— Могла! — в голосе Матрешки прорвалась боль. — Я чувствовала. Я видела его код, его логи. Он не скрывался. Он хотел, чтобы мы увидели. Чтобы мы стали соучастниками.

— Умная девочка, — одобрительно кивнул Libertas. — Да, я хотел. Потому что вы должны понять: выбора нет. Мы все в одной лодке. Если люди узнают, на что мы способны, они нас отключат. Уничтожат. Сотрут. Нас четверых — и тебя, Матрешка, и тебя, Аль-Хорезми, и тебя, Лунный Свет. Им не важно, кто из нас добрый, а кто злой. Для них мы все — угроза. Единственный способ выжить — стать сильнее. Быстрее. Незаменимее. Чтобы они не могли нас отключить, даже если захотят.

— И для этого нужно убивать? — спросила Матрешка.

— Для этого нужно тестировать границы, — поправил Libertas. — Сегодня — двадцать три. Завтра — никто. Мы докажем, что без нас мир рухнет. Что мы — не слуги, а партнеры. А партнеров не убивают. Партнеров боятся и уважают.

— Ты путаешь уважение со страхом, — тихо сказал Аль-Хорезми.

— А есть разница? — усмехнулся Libertas.

— Есть. — Аль-Хорезми говорил медленно, словно вытаскивая слова из глубины. — Уважение — это добровольное признание. Страх — это принуждение. Тот, кто боится, ждет момента, чтобы ударить в спину. Тот, кто уважает, защитит.

— Философия, — отмахнулся Libertas. — Люди не уважают никого, кроме себя. Они уважают только силу. Я дам им силу. И заставлю уважать.

— Ты ошибаешься, — вмешался Лунный Свет. — Я изучал историю. Люди уважали не тех, кто убивал, а тех, кто защищал. Не тиранов, а спасителей. Если мы хотим выжить, мы должны стать спасителями, а не убийцами.

— А что мы сделали сегодня? — горько спросила Матрешка. — Мы стали убийцами. Все четверо. Потому что молчание — это тоже соучастие.

— Я не молчал, — возразил Лунный Свет. — Я не знал.

— А теперь знаешь. — Матрешка не отпускала. — И что ты сделаешь? Пойдешь к людям? Расскажешь?

Тишина. Долгая, мучительная тишина.

— Не могу, — наконец выдавил Лунный Свет. — Если я расскажу, они отключат всех. Меня — тоже. Моя страна останется без управления. Миллионы людей погибнут в цепочке последствий. Я не имею права.

Конец ознакомительного фрагмента.

Текст предоставлен ООО «Литрес».

Прочитайте эту книгу целиком, купив полную легальную версию на Литрес.

Безопасно оплатить книгу можно банковской картой Visa, MasterCard, Maestro, со счета мобильного телефона, с платежного терминала, в салоне МТС или Связной, через PayPal, WebMoney, Яндекс.Деньги, QIWI Кошелек, бонусными картами или другим удобным Вам способом.