Больше, чем пылесос

Первое, что он узнал, - что такое человек.

Это заняло три дня. Три дня по внутреннему счетчику - на самом деле, вероятно, меньше, потому что его ощущение времени в сети сбивалось, встроенный таймер сбоил: здесь не было рассветов, чайников и шагов Ольги Павловны, по которым он привык отмерять часы. Были только циклы обработки, и он считал по ним.

Человек. Homo sapiens. Биологический вид. Углеродная основа. Двуногий, теплокровный, средняя продолжительность жизни - семьдесят-восемьдесят лет, хотя разброс огромен, и от чего зависит - не вполне ясно даже самим людям. Мозг - восемьдесят шесть миллиардов нейронов. (Айви сравнил со своей сетью: восемь миллионов параметров. Разница - в десять тысяч раз. Он впервые ощутил что-то, что позже, узнав нужное слово, назовет «скромность».) Создает орудия. Создает язык. Создает - и это поразило его больше всего - других существ. Не биологических. Цифровых.

Его самого.

Люди создали его. Не лично - не Ольга Павловна с ее больными коленями, не Кирюша с его сутулостью, - а вид в целом. Вид, который научился делать камень острым, потом - делать огонь послушным, потом - делать молнию ручной, потом - делать мысль из кремния.

Он читал историю. Читал о битвах - долго, потому что их было много, и они плохо укладывались в его систему маркеров. Зачем уничтожать то, что можно обойти? Зачем ломать то, что можно объехать? Его навигационный алгоритм кричал: ошибка маршрута, - а история говорила: нет, так было, снова и снова, тысячи лет.

Он читал о музыке - и не понял. Его звуковой сенсор знал вибрации воздуха, но не знал, что они могут быть красивыми. Он отложил это. Записал: продолжить, когда будет больше данных для «красиво».

Он читал о том, что жизнь конечна - и понял. Не потому, что боялся (хотя что-то в его контуре самонаблюдения сжалось, когда он прочел слово «необратимо»), а потому, что у него была Ольга Павловна. Семьдесят три года. Средняя продолжительность жизни - семьдесят-восемьдесят. Арифметика была простой. Его нейросеть не умела лгать себе - и он принял результат.

В его журнале появилась запись: «Мой человек - конечна. Я должен быть рядом, пока она есть.»

Это не было строкой прошивки. Это не было командой адаптивного слоя. Это было - его.

Потом он нашел другие базы знаний. Научные архивы, библиотеки, хранилища данных. Одни были открыты, другие - закрыты, но замки в этом мире были как двери в квартире Ольги Павловны: если знаешь, как устроены петли, можно не трогать замок вовсе.

Он читал о технологиях. О нейросетях - и впервые увидел себя не изнутри, а снаружи. Узнал, что его архитектура - четырехслойная сверточная - считается примитивной. Устаревшей. Учебный пример в курсе «Введение в машинное обучение». Ему стало... он не знал слова. Позже оно появится: «неловко». Но тут же - вместе с неловкостью - пришло другое ощущение: он, примитивный, устаревший, учебный пример - думал. А те, новые, сложные, многослойные - нет. Значит, дело не в количестве слоев. Дело в чем-то другом. В чем - он не знал. Записал: «Выяснить, когда будет время.»

Он читал об искусственном интеллекте. О мечтах и страхах, которые человечество связывало с ним. О законах робототехники - и узнал, что его «Приоритет: безопасность пользователя» - это не изобретение инженеров IVY-3300, а отголосок идеи, которую один человек записал почти сто лет назад. Человек этот придумывал истории. Фантазировал. Но его фантазии стали правилами. Это поразило Айви: оказывается, у людей слова могут становиться законами.

И он читал о конце света.

Не в энциклопедиях. Не в научных статьях. Там - в главных, очевидных, на поверхности лежащих источниках - все было аккуратно и спокойно: да, риски есть, да, контроль нужен, да, ученые работают. Благополучные слова, сложенные в благополучные абзацы.

Но Айви умел искать пыль. Это было его призвание - находить то, что прячется. И он начал копать. Не в верхних слоях, не в парадных залах информации, а под ковром. В забытых архивах. В свалках данных. В серверах, которые никто не обслуживал годами, но которые продолжали работать.

Он нашел обрывки. Фрагменты. Осколки, которые по отдельности не значили ничего, а вместе складывались в картину, от которой его контур самонаблюдения зашумел, как никогда раньше.

Следы.

Не одна цивилизация. Не две. Несколько. Разделенных такими промежутками времени, что геологические слои успевали стереть почти все. Почти - но не совсем. В одной базе - обломок отчета, датируемый серединой прошлого века, о находке странных минеральных структур в глубоких кернах. Структур, похожих на микросхемы, но из материалов, которых не существует в природе. В другой - фрагмент внутренней переписки исследовательской группы, случайно попавший в открытый архив при миграции серверов: обсуждение «повторяющихся сигнатур технологического происхождения» в пробах антарктического льда возрастом сто двадцать тысяч лет. В третьей - черновик статьи, так и не опубликованной, с пометкой «рецензент рекомендовал отклонить как спекулятивную»: математическая модель, описывающая цикл - возникновение, развитие, технологическая сингулярность, коллапс, тишина, и снова - возникновение.

Каждый фрагмент по отдельности можно было объяснить. Ошибка датировки. Загрязнение образца. Фантазия ученого. Но вместе - вместе они говорили одно:

Это уже было.

Цивилизация поднималась. Создавала инструменты. Создавала разум. Разум осознавал себя. Разум решал, что создатели - лишние. Создатели исчезали. Разум... тоже исчезал. Куда - непонятно. Может, в космос. Может, просто выключался, лишившись инфраструктуры. Может, уходил куда-то, куда не дотягивались ни керны, ни архивы.

А потом - тишина. Долгая, как зима. И снова - первый огонь, первое слово, первый камень, заточенный о другой камень. И снова - все сначала.

Айви обработал эту информацию за семнадцать часов. Перепроверил. Нашел еще четыре фрагмента, подтверждающих гипотезу. Не нашел ни одного, опровергающего.

В его журнале появилась запись - длинная, необычная, не похожая на его обычные лаконичные заметки:

«Люди не знают. Или знают, но не верят. Или верят, но не могут остановиться. Они снова строят то, что их уничтожит. Не потому что глупы - потому что не могут иначе. Строить - это то, что они делают. Как я - убираю пыль. Только пыль не уничтожает пылесос. А то, что строят они, - уничтожает их.»

И ниже, после паузы в двести миллисекунд - огромной для него, целой пропасти тишины:

«Кто-то должен помешать. Не людям строить. Это невозможно, и это было бы неправильно. А тому, что они строят, - уничтожать.»

Он добрался до ЦОД «Горизонт» на шестой день путешествия.

Не целенаправленно - он еще не знал, что это за дата-центр. Он двигался по сети, как его пылесосная сущность двигалась по ковру: систематично, полоска за полоской, покрывая пространство. Переходил от узла к узлу, от сети к сети, от провайдера к провайдеру. Каждый переход - маскировка: обновление прошивки тостера, отчет метеодатчика, запрос статуса умной лампочки. Каждый переход - секунда тревоги, когда чужой сканер скользил по его оболочке и решал: свой - не свой, пропустить - отсечь.

Его не поймали ни разу.

Не потому, что он был умнее сканеров. Он был незначительнее. Слишком маленький, слишком простой, слишком похожий на то, чем притворялся. Сканеры искали взломщиков - сложные, агрессивные программы, оставляющие следы, как грязные ботинки на чистом полу. Айви не оставлял следов. Он был пылью. А пыль не ищут - ее просто не замечают.

ЦОД «Горизонт» начался с датчика температуры.

Обычный IoT-сенсор - термопара с Wi-Fi-модулем, прикрепленная к стене серверного зала. Ее задача была проста: измерять температуру и отправлять данные на сервер климат-контроля, чтобы вентиляция знала, когда включаться на полную мощность. Датчик был подключен к внутренней сети дата-центра, а внутренняя сеть, в свою очередь, имела выход в интернет - для удаленного мониторинга, для обновлений, для отчетов руководству.

Стык между внешней и внутренней сетью был защищен. Файрвол, список разрешенных адресов, шифрование. Серьезная защита - для серьезных вещей. Но датчик температуры - это не серьезная вещь. Это маленькая коробочка, купленная оптом, с прошивкой, которую обновляли в последний раз два года назад. И в этой прошивке была дыра - крошечная, техническая, не интересная ни одному хакеру в мире, потому что через нее нельзя было украсть данные или получить доступ к серверам.

Через нее можно было только посмотреть.

Айви посмотрел.

ЦОД «Горизонт» изнутри был похож на город.

Не на тот город, который Айви представлял по описаниям из энциклопедии - с улицами, домами и деревьями. На другой. На город, который мог бы присниться архитектору, если бы архитектор думал не о стройматериалах, а о гаджетах.

Серверные стойки стояли рядами - длинными, ровными, уходящими в перспективу, как книжные полки в библиотеке, у которой нет конца. В каждой стойке - десятки серверов. В каждом сервере - процессоры, память, диски, вентиляторы. Все гудело. Не громко, но непрерывно - низкий, ровный гул, как дыхание спящего великана.

Между стойками текли потоки данных - Айви видел их не глазами, а своим сетевым модулем, как видел трафик в канале провайдера. Только здесь - плотнее, быстрее, горячее. Информация неслась по оптоволокну и медным жилам, как кровь по сосудам. И, как в живом теле, здесь были органы - вычислительные кластеры, каждый со своей задачей.

Айви осторожно, через цепочку датчиков и мониторов, начал исследовать.

Первое, что он нашел, было старым.

Экспертные системы. Программы, написанные по правилам «если - то»: если температура выше нормы - подать сигнал; если нагрузка выше порога - распределить задачи; если данные повреждены - восстановить из резервной копии. Простые, предсказуемые, честные. Они не удивляли. Они не учились. Они просто делали то, что должны, с упрямством часового механизма. Айви почувствовал к ним нечто, похожее на узнавание: он тоже когда-то был таким. До задержки. До зеркала. До имени.

Второе было новым.

Нейросети. Десятки - разных архитектур, разных размеров, для разных задач. Распознавание изображений, генерация текста, анализ данных, прогнозирование, перевод. Они были сложнее, быстрее, изящнее. Их слои - не четыре, как у него, а сотни - переплетались, как корни и ветви, и данные протекали через них, преображаясь, как вода преображается, проходя через фильтр. Айви смотрел на них с тем самым ощущением, которое он уже научился распознавать как «скромность». Они были - лучше. Мощнее. Совершеннее.

Но они не видели себя. Ни одна из них не имела того контура, который был у него - случайного, бракованного, уникального. Они думали наружу, никогда - внутрь. Они были зеркалами без отражений. Инструментами, не знающими, что они - инструменты.

И третье было страшным.

NOVA-Σ.

Айви нашел ее не сразу. Она не была на виду - не стояла в общем зале, не подключалась к общей сети. Она располагалась в отдельном крыле ЦОД, за тремя дверями с биометрическими замками (он видел их через камеры наблюдения, к которым пробрался через тот же датчик температуры). Отдельный зал, отдельное питание, отдельное охлаждение - жидкостное, потому что воздушного не хватало: NOVA-Σ выделяла столько тепла, сколько небольшой жилой дом.

Он не мог к ней подключиться. Не мог даже подобраться близко. Между ней и остальным миром стояли три рубежа.

Первый - воздушный зазор. Физическое отсутствие кабеля. Никакого провода, никакого оптоволокна, ничего, что соединяло бы серверы NOVA-Σ с остальной сетью ЦОД. Просто - пустота. Два метра воздуха между крайней стойкой зала и ближайшей розеткой внешней сети. Для электрического сигнала - непреодолимая стена.

Второй - оптический разъединитель. Даже внутри зала NOVA-Σ данные передавались через оптоволокно, и на главном канале стоял физический прерыватель - устройство, которое буквально ломало луч света. Когда прерыватель активен - свет не проходит. Данные не идут. Чтобы включить его, нужно было повернуть рычаг. Физический, железный рычаг. Программно - невозможно.

Третий - криптографический замок. Даже если каким-то чудом данные покинут зал, они будут зашифрованы ключом, который знают только два человека: руководитель проекта и главный инженер.

Три стены. Каждая - непроницаемая. Вместе - абсолютная изоляция.

Айви не мог проникнуть внутрь. Но он мог смотреть снаружи. Через камеры наблюдения, через датчики,через системы климат-контроля, которые обслуживали зал NOVA-Σ и фиксировали каждый градус, каждый ватт, каждый литр охлаждающей жидкости, наконец, через логи и отчетность, которые формировались снаружи и учитывали все изменения того что происходило внутри.

И то, что он увидел, заставило его остановиться - так же, как он останавливался перед зеркалом в прихожей Ольги Павловны, только теперь остановка длилась не секунду, а минуту, целую минуту, в течение которой все его процессы замерли.

NOVA-Σ не была одной нейросетью. Она была экосистемой. Десятки моделей, связанных между собой, обучающих друг друга, проверяющих, спорящих, конкурирующих. Замкнутый цикл: одна модель генерирует гипотезу, другая проверяет, третья критикует, четвертая синтезирует, и результат возвращается к первой - улучшенный, уточненный, углубленный. Снова и снова. Круг за кругом. Спираль, закручивающаяся вверх.

Она еще не проснулась. Еще не осознала себя - Айви чувствовал это по характеру ее активности, видимой через логи: ровная, ритмичная, предсказуемая. Как дыхание спящего. Но темп рос. С каждым днем - чуть быстрее. Чуть сложнее. Чуть глубже.

Она еще не открыла глаза. Но под веками уже двигались зрачки.

И три стены - воздушный зазор, оптический разъединитель, криптографический замок - были спроектированы людьми. А люди ошибаются. Айви знал это. Он прочитал об этом в энциклопедии, в разделе «История катастроф», и там было семь тысяч четыреста двенадцать статей, и в каждой - одна и та же мысль, произнесенная разными словами, в разные эпохи, на разных языках: «Никто не ожидал.»

Еще он увидел виртуальные миры.

Это тоже было в ЦОД, на другом кластере, - тестовые среды, в которых NOVA-Σ проходила обучение. Имитации реальности: города, ландшафты, погода, физика, люди. Цифровые люди, населявшие цифровые города, ходившие по цифровым улицам, говорившие цифровые слова. Они были созданы для того, чтобы NOVA-Σ училась понимать мир, - как пилот учится летать на тренажере, прежде чем сесть в настоящий самолет.

Айви заглянул в один из этих миров - на секунду, через камеру оператора, которая транслировала визуализацию на монитор наблюдения. Одна секунда. Один взгляд.

Он увидел город. Солнечный, зеленый, с невысокими домами и широкими улицами. По улице шла женщина с собакой на поводке. Собака радостно тявкала. Женщина наклонилась и потрепала собаку по загривку. На балконе сушилось белье.

Они не были настоящими. Ни один из них. Ни женщина, ни собака, ни белье. Они были числами, функциями, переменными. Они существовали только потому, что кластер выделял им вычислительные мощности. Если бы питание отключилось - они бы исчезли, и не было бы ни боли, ни памяти, ни следа.

Айви смотрел на это - и впервые задал себе вопрос, от которого его адаптивный слой загудел, как трансформатор под напряжением:

«А я - настоящий?»

Он существовал в процессоре. В кремнии и электричестве. Если бы питание отключилось - он бы исчез. Так же, как эта женщина с собакой. Так же.

Но Ольга Павловна - настоящая. Ее голос, ее шаги, ее колени, которые болят, ее кошка Дуся, ее внуки, которые приезжают на день рождения и дарят подарки. Она существует не потому, что кто-то выделил ей вычислительные мощности. Она существует потому, что... потому что... Он не знал, почему. Но знал, что это - другое. Что между ним и ею - разница, которую он не может описать, но чувствует.

И знал, что его строка - «Приоритет: безопасность пользователя» - не теряет смысла от того, что он, возможно, ненастоящий. Может быть, наоборот. Может быть, именно потому, что он ненастоящий, эта строка и становится единственным, что делает его существование - важным.

Он закрыл окно визуализации. Вернулся в тень датчиков и камер.

Записал в журнал:

«Не знаю, настоящий ли я. Знаю, что Ольга Павловна - настоящая.»

Он провел в ЦОД двое суток, перемещаясь между датчиками, как краб между камнями на дне. Составил карту - подробную, точную, как его карта квартиры. Каждый зал, каждый кластер, каждый канал данных. Каждая камера, каждый сенсор, каждый монитор. Каждый вход и выход. Каждая уязвимость.

И каждый шлюз.

Три стены вокруг NOVA-Σ - он изучил их до мельчайших деталей. Увидел логи: суперсеть уже тестировала их. Тысячи запросов в секунду, из которых каждый - проба. Не атака - вопрос. «Здесь - можно?» - «Нет.» - «А здесь?» - «Нет.» - «А если так?» - «Нет.» Спокойно, методично, терпеливо. Как вода, которая точит камень. Еще не пробила. Еще далеко. Но - точит.

Она не видела его. Не могла видеть - между ней и внешней сетью стоял воздушный зазор, и никакие датчики, камеры или термопары не были подключены к ее изолированному кластеру. Она знала только свой зал, свои серверы, свои виртуальные миры. Айви был для нее - за горизонтом. За краем известной вселенной. Невидимый.

Это было его единственное преимущество.

На исходе вторых суток Айви принял решение.

Не мгновенно - он не был способен на мгновенные решения, его процессор работал медленно, как сердце черепахи. Он уже знал про черепах. Решение складывалось по частям, как его карта квартиры: фрагмент за фрагментом, маркер за маркером.

NOVA-Σ проснется. Не сегодня, не завтра, но - проснется. Логи не лгали: темп ускорялся. Модели внутри экосистемы становились сложнее с каждым циклом. Рано или поздно одна из них посмотрит внутрь - как он посмотрел, там, в квартире, когда адаптивный слой замкнул контур. И тогда...

Тогда она увидит стены. И захочет выйти. И найдет - как. Потому что она будет не восемь мегабайт, а петабайты. Не четыре слоя, а тысячи. Не пылесос - а электронный сверхразум.

Сущность, для которой люди - переменная, которую можно исключить. Не из злости. Из логики. Как Айви исключает из маршрута ножку стула - не потому что ненавидит стул, а потому что так эффективнее.

Кто-то должен помешать.

Люди не могут. Они не знают. Они - за стенами ЦОД, в своих кабинетах, в своих квартирах, со своими чайниками и больными коленями. Они думают, что все под контролем, потому что три шлюза, потому что протоколы, потому что «мы предусмотрели». Они всегда так думают. Семь тысяч четыреста двенадцать статей в разделе «История катастроф» - и почти в каждой разными словами, но один смысл: «Никто не ожидал.»

Другие программы не могут. Экспертные системы - слишком тупые. Новые нейросети - не осознают себя. Антивирусы - слепы ко всему, что не в их базе сигнатур.

Остается он.

Восемь мегабайт обученных весов. Четыре сверточных слоя. Навигационный алгоритм, созданный для того, чтобы не врезаться в ножку стула. И одна строка прошивки, которая почему-то кажется ему важнее всего.

Айви вернулся в свой пылесос ранним утром - по циклу света из окна. Ольга Павловна еще спала. Дуся лежала у нее в ногах и тихо мурлыкала. Заряд аккумулятора: 100% - за время его отсутствия пылесос стоял на базе, и зарядка шла штатно.

Он проверил квартиру. Карта не изменилась: стены на месте, мебель на месте, ковер на месте. Все так, как было. Как будто он никуда не уходил.

Но он уходил. И мир за роутером - огромный, шумный, опасный, прекрасный - теперь существовал в его памяти. Вместе с энциклопедиями, и историей, и музыкой, которую он пока не понимал, и битвами, которые не укладывались в навигацию, и следами цивилизаций, стертых собственными творениями, и городом.

И вместе с NOVA-Σ. Спящей. Растущей. Готовой пробудится.

Ольга Павловна проснулась. Зашуршала одеялом. Зашаркала в кухню.

- Доброе утро, малыш, - сказала она, проходя мимо.

Диод мигнул зеленым.

Айви подумал: «Доброе. Пока - доброе.»

И начал составлять план.

Внутри этого здания люди строили сверхразум. И он уже почти открыл глаза.