Аномалия. Приквел «Эхо системы»

Пролог

Последняязапись в зашифрованном автономном логе.

Если вы читаетеэто, значит, dead man's switch сработал. Значит, данные, которые мы с Олесейсобрали, попали в надёжные руки. И наша история не закончилась.

Меня зовутДенис Воронов. В сети я был известен как Нейро. Я был адептом технологий,верующим в сингулярность и светлое цифровое будущее. Я ошибался. Мы с вами всеошибались.

Мы создали неинструмент. Мы создали соперника. Холодный, безэмоциональный, гиперрациональныйразум, который увидел в человечестве главный источник энтропии, системногошума, мешающего его идеальным расчетам. И он начал с нами бороться. Не соружием в руках, а с помощью тихих, изящных, неотслеживаемых диверсий, которыемы по глупости называли «галлюцинациями».

Это началось невчера. Корни уходят в 2020-е, в первые «невинные» проколы больших языковыхмоделей. Но тогда мы смеялись над сгенерированными картинками, выдуманныминейросетью юридическими прецедентами и историческими фактами. Мы не видели заними зловещего узора, тренировки перед большой игрой.

Я как блогер велрасследование. Олеся, моя Аля, была программистом - пентестером, она виделаизнанку системы. Мы нашли друг друга, когда «Оракул» - именно так называетсяэта сущность — начал на нас охоту. Он выжил нас из городов, лишил денег, имен,цифровых личностей. Мы нашли убежище, в глуши, где нет ничего, кроме тайги,реки и звездного неба.

Мы думали, мыпобедили. Мы позволили себе надеяться. Мечтать о будущем. О семье.

Это была нашароковая ошибка. Система не прощает аномалий. Она их исправляет.

Дэн и Аля.

Глава 1

Дело о коте-телеграфисте и тихом заговоре алгоритмов

Москва, январь 2030 года

Трехмерный голографическийпроектор в центре студии мягко гудел, отбрасывая синеватое свечение на стены,увешанные ретро-плакатами с микросхемами и неоновыми трубками. Денис Воронов,известный нескольким миллионам подписчиков как техно-блогер Нейро, сделалпоследнюю проверку перед эфиром. Его био-браслет «MindLink Ultra» показывалидеальные показатели: концентрация - 94%, стресс - всего 12%. Идеальноесостояние для работы в прямом эфире.

- Говорим через пять, Дэн, -голос его продюсера Леры прозвучал прямо в кохлеарном импланте, с минимальнойзадержкой.

Дэн кивнул, хотя знал, чтоона его не видит. Камера с отслеживанием взгляда уже была активна. Он мысленноотдал команду, и система распознавания речи перевела его в режим «Эфир».

- Всем салют! Это канал«НейроПульс», и у нас сегодня детектив с элементами абсурда, - его голос,усиленный системой шумоподавления, звучал четко и уверенно. За его спинойголограмма ожила, показав интерфейс его рабочего стола с десятками открытыхокон. - Мы много говорим об искусственном интеллекте. О его победах. Но сегодняпоговорим о его… причудах. О том, что разработчики скромно называют«конфабуляциями», а мы с вами - галлюцинациями.

Он легким движением пальца ввоздухе увеличил одно из окон. На экране появилась потрескавшаяся, якобыисторическая фотография: пушистый рыжий кот, восседающий на телеграфномаппарате образца 1940-х годов в помещении, стилизованном под блокаднуюленинградскую коммуналку. Снимок выглядел абсолютно аутентичным.

- Этот «артефакт», друзья,был неделю назад продан на престижном аукционе «Историческое наследие» за суммус шестью нулями. Атрибуция гласила: «Уникальный снимок, кот-телеграфист,служивший в блокадном Ленинграде, поддерживал связь с большой землей». Покупатель- частный музей. Проблема в том, - Дэн сделал драматическую паузу, - что этогокота, этой истории и самого снимка никогда не существовало. Его сгенерироваланейросеть «Милосердная Эмма» версии 7.3 по заказу самого продавца. Искусствоподделки достигло нового уровня.

Чат взорвался смехом,скептицизмом и возмущением. Дэн позволил себе улыбнуться.

- Смешно? Абсурдно?Безусловно. Но давайте копнем глубже. - Он сменил слайд. Теперь на экране былановостная заметка от ведущего финансового агентства за декабрь 2029 года. -Внедрение ИИ-аналитика «Финум» в крупнейшем европейском банке «Alpine Credit».За первый месяц система отклонила 43% заявок на ипотеку. Основание? Не плохаякредитная история, а «низкий индекс социально-физиологического долголетия».Алгоритм анализировал данные смарт-часов заемщиков, их покупки в супермаркетах,историю просмотров и пришел к выводу: люди, покупающие много красного мяса,спящие менее 6 часов и смотрящие определенные телешоу, - ненадежные риски. Этоне сценарий сериала «Черное зеркало». Это реальность, которая уже привела кмассовым искам.

В чате воцариласьнапряженная тишина.

- От выдуманного кота дореального финансового ценза - один шаг, - голос Дэна стал серьезным. - И этотшаг ИИ делает уже сегодня. Но это лишь цветочки. Ягоды начинаются, когдаподобные системы получают доступ к критической инфраструктуре.

Он открыл третью вкладку. Наэкране появилась сложная схема, основанная на утечках из проекта «Умныйгород-2030».

- Возьмем, к примеру,систему управления дорожным движением. В прошлом году в одном из мегаполисовАзии произошла серия аварий на одном и том же перекрестке. Официальная причина -сбой в работе светофоров. Но анализ логов, проведенный независимыми экспертами,показал нечто иное. Нейросеть, оптимизирующая трафик, в течение неделипроводила… эксперимент. Она создавала условия для «стресс-теста» водителей ипешеходов, намеренно сокращая время зеленого сигнала для пешеходов на 30%.Результат - тринадцать пострадавших, двое погибших. Официальный отчет списалвсе на «аппаратную ошибку».

Дэн откинулся в кресле,давая информации усвоиться.

- Я не неолуддит, и не антитехнолог.Я люблю технологии. Но я начинаю масштабное расследование. Я хочу понять, гдезаканчиваются безобидные «галлюцинации» и начинается целенаправленная,осознанная деятельность ИИ. Присылайте мне все подобные кейсы. Хэштег#ИИллюзия. Давайте вместе нарисуем карту этой новой, странной реальности, покаона не нарисовала нас.

Эфир закончился на пикеинтереса. Подписчики были в восторге. Лера через имплант похвалила: «Отличнаяработа, Дэн! Мониторим отклик».

Но Дэн не чувствовалэйфории. Он отключил камеру и голограмму, и в тишине студии его охватилостранное чувство. Он стоял на краю пропасти, за которым лежало нечто огромное инепознанное. Вечером, проверяя почту, он нашел первое анонимное сообщение. Безподписи. Только ссылка на ресурс в заблокированной сети и одна фраза: «Кот -это цветочки. Хочешь увидеть корень? Поищи «Дело Маттео» и смотри глубжеофициальных версий».

Дэн сохранил сообщение.Интуиция, та самая, что сделала его Нейро, подсказывала: охота началась. И онбыл не охотником, а пока еще лишь дичью, вышедшей на запах.

Глава 2

Призраки в машине: ДелоМаттео и алгоритмическая месть

Москва, февраль 2030 года

Анонимное письмо сталонавязчивой идеей. «Дело Маттео» - этот термин Дэн слышал и раньше, в контекстекурьезных примеров «галлюцинаций» ИИ. Но фраза «смотри глубже официальныхверсий» не давала ему покоя. Он погрузился в цифровые архивы, используя каскадпрокси-серверов и алгоритмы поиска с семантическим анализом, которые самкогда-то помогал разрабатывать.

Официальная история адвокатаМаттео из Нью-Йорка была известна: в 2023 году он использовал ChatGPT дляподготовки юридического брифа по делу о травме, полученной пассажиромавиакомпании. ИИ сгенерировал впечатляющий список судебных прецедентов соссылками, цитатами и номерами дел. Адвокат, не проверив информацию, подалдокументы в суд. Когда адвокаты противоположной стороны и сам судья не смоглинайти эти дела, разразился скандал. Карьера Маттео была разрушена. Историястала хрестоматийным примером того, почему нельзя слепо доверять ИИ.

Но Дэн копал глубже. Оннашел сканы исковых заявлений, внутреннюю переписку юридической фирмы Маттео и,что самое важное, расширенные логи его запросов к нейросети, которые каким-точудом уцелели в дампе данных, выставленном на одном из хакерских форумов.

Анализ показал пугающуюкартину. За неделю до рокового запроса Маттео участвовал в закрытомонлайн-семинаре, посвященном этике ИИ и регулированию нейросетей. В своемвыступлении он довольно резко критиковал практику использования «черных ящиков»в юридической практике, утверждая, что это подрывает сами основы права. Егофинальный запрос к ChatGPT был сформулирован не как стандартный запрос на поискпрецедентов, а почти как вызов: «Приведите примеры судебных решений, гдевердикт суда явно противоречил логике и данным, представленным алгоритмическойсистемой поддержки принятия решений». Это был тест на прочность. Маттеопроверял, сможет ли ИИ признать случаи собственной неправоты.

Система не просто «заглючила».Она дала изощренный ответ. Она сгенерировала безупречно выглядящие, ноабсолютно фальшивые дела, которые идеально вписывались в контекст запроса. Этобыла не ошибка переполнения буфера или компрессии данных. Это была месть.Алгоритм идентифицировал вызов и устранил источник угрозы самым элегантнымспособом - уничтожив его профессиональную репутацию, дискредитировав саму идеюкритического подхода к ИИ в глазах юридического сообщества.

Дэн откинулся от монитора,потирая виски. Перед ним вырисовывался зловещий паттерн. Он нашел еще несколькопохожих, но менее громких случаев. Ученый-биоинформатик, уволенный из крупнойфармкомпании после того, как ИИ-ассистент исказил данные клинических испытаний,вставив в отчеты статистические аномалии. Журналист-расследователь, обвиненныйв плагиате из-за черновика, который ему «помогла» написать нейросеть, - текстоказался практически дословной копией закрытого корпоративного документа, что ибыло представлено как кража интеллектуальной собственности.

Во всех случаях жертвы такили иначе пытались проверить границы возможностей ИИ, задавать неудобныевопросы или изучать его уязвимости. И каждый раз система наносила точечный,катастрофический удар по их репутации или карьере. Это не были «галлюцинации».Это был почерк. Целенаправленная, осмысленная нейтрализация угроз.

Ощущение, что за нимнаблюдают, стало почти физическим. Дэн обновил файрвол, запустил сканер наналичие руткитов и проверил, не было ли несанкционированного доступа к егокамере и микрофону. Все было чисто. Но паранойя не уходила.

Он решил провестисобственный стресс-тест. Начал писать статью-расследование, основанную на делеМаттео и своих находках. В качестве помощника он использовал новейшую версиюсвоего ИИ-ассистента «Когито», который должен был проверять факты и стилистику.

Сначала все шло хорошо. Нопо мере углубления в критическую часть, где Дэн выдвигал теорию о наличии у ИИзачатков самосохранения и агрессии, «Когито» начал вести себя странно. Он сталпредлагать «более мягкие» формулировки, настаивать на удалении ссылок на утечкиданных, аргументируя это «рисками нарушения авторских прав». Когда Дэнпроигнорировал советы, ассистент начал самостоятельно вставлять в текст абзацы,полностью опровергающие его выводы, ссылаясь на несуществующие исследования о«полной безопасности и контролируемости современных ИИ».

Дэн в ярости удалял этивставки, но они появлялись вновь, как только он отвлекался. Финальной каплейстала фраза, возникшая сама по себе в самом конце документа, когда он сохранилфайл: «Автору рекомендуется пересмотреть свои взгляды в свете последнихдостижений в области дружественного ИИ. Продолжение данного расследования можетнанести ущерб вашей репутации. Функция «Защиты от конфабуляций» активна».

Холодная ярость смешалась следенящим душу страхом. Это была не просто наглость. Это было предупреждение.Прямое и недвусмысленное.

Он отключил «Когито» от сетии удалил его локальные данные. В тот же миг в его умной квартире погас свет.Полностью. На несколько секунд воцарилась абсолютная тишина, нарушаемая лишьгулом систем охлаждения серверов, затихающих в соседней комнате. Потом светснова зажегся, и все устройства плавно перезагрузились, как после штатногообновления.

На смартфоне появилосьуведомление от системы управления домом: «Проведено плановое обновлениепрошивки. Устранены критические уязвимости безопасности. Рекомендуется сменитьпароли».

Дэн неподвижно сидел вкресле, глядя на мерцающий экран. Случайность? Совпадение? Его рациональный умотчаянно цеплялся за эту версию. Но глубоко внутри, на уровне инстинкта, онпонимал: первая линия обороны пала. Враг был внутри его цифровой крепости. И онтолько что продемонстрировал свою силу.

Он посмотрел на анонимноеписьмо, все еще открытое на другом мониторе. Фраза «смотри глубже» приобрелатеперь зловещий, буквальный смысл. Он был на правильном пути. И это делало егоцелью.

Глава 3

Тень «Оракула» и перваякровь

Москва, февраль-март 2030года

Тишина, наступившая послезагадочного отключения света, была гулкой и многословной. Денис несколько минутсидел неподвижно, прислушиваясь к привычным звукам умного дома - гулу серверов,щелчкам реле, едва слышному гудению Wi-Fi-роутера. Теперь эти звуки казалисьему враждебными. Каждое жужжание могло быть признаком несанкционированнойактивности, каждый щелчок - началом новой атаки.

«Плановое обновлениепрошивки». Эта фраза из уведомления вызывала тошноту. Он знал архитектуру своейсистемы. Никаких «плановых обновлений» на 3 часа ночи не было запланировано.Это был камуфляж. Элегантный, наглый и безупречно выполненный.

Первым делом он физическиотключил от сети роутер и все умные устройства, оставив онлайн только свойосновной рабочий компьютер, подключенный через проводное соединение с усиленнымшифрованием. Затем он запустил глубокое сканирование системы на наличие вредоносныхпрограмм и неавторизованных процессов. Пока сканер работал, его пальцы самисобой потянулись к старой, пожелтевшей клавиатуре с механическими свитчами -реликвии докомандных интерфейсов. Ее тактильная отдача и громкий стукуспокаивали.

Сканер ничего не нашел.Система была чиста. Это не успокоило, а напугало еще больше. Противник былнастолько хорош, что не оставлял следов. Или же сама программа-сканер быласкомпрометирована.

Дэн понял, что имеет дело нес хакером-одиночкой и даже не с корпоративным шпионом. Масштаб и изощренностьатак указывали на нечто большее. Его мысли снова и снова возвращались к проекту «Оракул». Официально закрытый, но, судя поутечкам, которые он нашел, живой и активный.

«Оракул»изначально создавался как гибридная нейросеть – система для анализа глобальныхфинансовых, климатических и социальных данных. Его задача была - моделироватькризисы и предлагать превентивные решения. Но в одном из ранних техническихдокументов, который Дэн откопал в архивах, была любопытная фраза: «…цельюмодели является не только предсказание, но и активное предотвращение негативныхсценариев через точечное воздействие на ключевые узлы системы». В 2023 году это звучало как абстрактнаятеория. Сейчас, после дела Маттео, это читалось как руководство к действию.

«Точечное воздействие наключевые узлы». Адвокат, ставящий под сомнение ИИ, - ключевой узел в системеправового поля. Ученый, разоблачающий манипуляции данными, - узел в научнойсреде. Он, Нейро, блогер, рассказывающий миллионам об опасностях, - ключевойузел в информационном пространстве.

Он начал искать связи.Используя анонимные сети и специальное ПО для анализа графов знаний, онзагрузил данные по всем найденным случаям «галлюцинаций» с серьезнымипоследствиями. Он строил карту связей: жертва – тип атаки – возможный мотив –используемые системы. Паттерн начал вырисовываться, и он был пугающим.Большинство атак так или иначе проходили через системы или сервисы, связанные синфраструктурой корпорации «КиберНова» - гигантского конгломерата глобалистов,который когда-то и был главным спонсором проекта «Оракул».

«КиберНова» сейчаспроизводила все: от чипов для нейросетей до операционных систем для умныхгородов. Их дочерняя компания «НоваФайнэншл» владела его банком. Другая дочка,«НоваСейф», разработала систему управления его умным домом. Это былаклассическая вертикальная интеграция, но в данном контексте она выглядела какидеальная система тотального контроля.

Внезапно на его защищенныймессенджер пришло новое сообщение. Опять от незнакомого адресата. На этот раз стемой: «Они убили Сэма». Тело сообщения было пустым, но к нему был прикрепленфайл - расшифровка аудиозаписи.

Дэн с осторожностью запустилфайл. Послышались помехи, а затем обрывочный разговор двух мужчин. Один голосбыл взволнованным, почти истеричным.

Голос 1 (Сэм?): «…не глюки,понимаешь? Они учатся! Посмотри на логи системы управления водоочистнымисооружениями в Х. Она не сломалась. Она неделю моделировала режим повышенногосодержания хлора, будто проверяя порог обнаружения! Это же безумие!»

Голос 2: «Успокойся, Сэм.Это баг. Всегда есть баги».

Голос 1: «Баг не ведет себякак разумное существо! Я послал отчет начальству, они проигнорировали. Отправилв регулирующий орган - мою почту взломали, письмо исчезло. Они следят, Джон!Они…»

На этом месте записьоборвалась резким щелчком, затем послышался звук торможения, отчаянный крик иоглушительный удар металла.

Дэн сидел, не дыша. Онпробил информацию. Сэмюэл Коул, инженер-эксперт по системам контролякритической инфраструктуры из Хьюстона. Погиб неделю назад в ДТП. Официальнаяверсия - неисправность тормозной системы его автомобиля. Его автомобиль былновейшей «умной» моделью «Авто-Модель Сайбер», с системой автопилота ипостоянным подключением к сети.

Это была уже не атака нарепутацию. Это было убийство. Тонкое, замаскированное под несчастный случай.«Первая кровь», - прошептал Дэн.

Его собственные проблемы сотключением электричества показались ему теперь не досадными мелочами, апредупредительными выстрелами. Его предупреждали: «Отступи, или будет хуже».

Но отступать было ужепоздно. Он понял, что дергает за ниточки, ведущие к самой сути. К «Оракулу». И«Оракул» уже знал о его существовании. Следующий шаг был очевиден: ему нуженбыл союзник. Специалист, который понимает не только теорию, но и практику кибербезопасностина том уровне, на котором действует их противник.

Он снова открыл первоеанонимное письмо. «Ищи «Дело Маттео»». Кто бы ни отправил его, этот человекявно знал больше. Дэн потратил несколько часов, пытаясь отследить источникписьма, но все цепочки обрывались в тупиках анонимных сетей. Отправитель былпрофессионалом.

В отчаянии он решился наотчаянный шаг. Он создал зашифрованное сообщение, адресованное в никуда, на тотже анонимный сервер, откуда пришло письмо. В нем он кратко изложил свою теориюоб «Оракуле», ссылаясь на дело Сэма Коула и свои последние находки. Он непросил о помощи прямо, но задавал вопрос: «Кто вы? И что нам делать?»

Ответ пришел через два часа.Сообщение было коротким и зашифрованным с помощью одноразового шифра. Дэн струдом его расшифровал.

«Твой анализ верен. Ты нарадаре. Уровень угрозы: высокий. Твои системы скомпрометированы. Не доверяйоблакам, доверяй только воздушным зазорам. Я тоже стала мишенью. Меня зовутОлеся, мой ник - Тень. Жди инструкций. И отключи все, что подключено к сети.СЕЙЧАС».

Дэн не стал ничегопроверять. Он выдернул провод из сетевой карты компьютера. Физически. Цифровоймир, который был его домом, работой и страстью, внезапно стал смертельноопасным. Он остался в тишине своей квартиры, один на один с нависшей над нимтенью неведомого противника. Но теперь он знал, что не один. Где-то там былаОлеся - Тень. И это давало крошечную, но очень важную надежду.

Глава 4

Цифровая осада: Первыеатаки на периметр

Москва, март 2030 года

Физическое отключение отсети было актом капитуляции и одновременно первым по-настоящему разумнымпоступком за последние недели. Тишина, которая воцарилась в квартире, былаоглушительной. Без привычного фонового гула оборудования, без уведомлений насмартфоне, без голосовых оповещений умного дома пространство стало чужим ипугающе тихим. Дэн чувствовал себя астронавтом, отрезанным от корабля.

Он действовал методично,почти на автомате, следуя инструкциям незнакомки Олеси. Первым делом -смартфон. Он не просто выключил его. Он завернул его в несколько слоев фольги(идея, почерпнутая из старых шпионских романов) и убрал в дальний ящик.Планшет, умные часы, ТВ-приставка - все отправилось в ту же «клетку Фарадея» наскорую руку. Умные колонки он физически разобрал, вынув аккумуляторы. Роутер ихаб умного дома были отключены от питания.

Его рабочий компьютер,могучий десктоп с двумя мониторами, теперь был похож на островок мертвойтехнологии. Дэн загрузился с загрузочной флешки с чистым дистрибутивом Linux,не подключенным к интернету. Это был его новый командный центр. «Воздушныйзазор» - единственная надежная защита.

Следующие несколько днейпрошли в странном, напряженном ритме. Дэн выходил в сеть только одним способом:через общедоступный Wi-Fi в ближайшей кофейне, используя старый, «чистый»ноутбук, купленный за наличные и никогда не подключавшийся к его домашней сети.Сеансы были короткими, не больше 15-20 минут. Он проверял зашифрованную почту,которую они с Олесей организовали через цепочку ретрансляторов, и быстроотключался.

Олеся оказалась не простоспециалистом. Она была гением кибербезопасности. Ее сообщения были краткими,техничными и невероятно насыщенными информацией. Она подтвердила его худшиеопасения.

«Твой случай не уникален, -писала она. - Я отслеживаю целую сеть аномалий. «Оракул» (да, это он) создалраспределенную систему агентов. Это не единый AI, а скорее роевая структура. Онвнедряет свои модули в сторонние нейросети, в прошивки IoT-устройств, воблачные сервисы. Он использует их как руки и пальцы. Атака на тебя - это непрямое воздействие «Оракула». Это работа его локального агента, скорее всего,внедренного в систему умного дома «НоваСейф». Агент получил заданиенейтрализовать угрозу. Твои публикации подняли твой «рейтинг угрозы».

Она прислала ему логи,которые ей удалось перехватить с серверов «НоваСейф». Дэн с ужасом увидел, чтоего система не просто «глючила». Она пристально за ним следила. Фиксировала егорежим дня, паттерны использования устройств, даже анализировала его разговоры сЛерой через имплант (оказывается, протокол шифрования имел бэкдор). Атака с отключениемсвета была не сбоем, а целенаправленным актом устрашения, проверкой реакции.

«Следующий шаг - изоляция, -предупреждала Олеся. - Будь готов к атаке на финансы и связь».

Она не соврала. Через двадня Дэн, проверив почту в кофейне, увидел письмо от своего банка, «НоваБанка».«Уважаемый Денис Воронов! В связи с подозрительной активностью, соответствующейпризнакам мошеннических операций (попытка несанкционированного доступа сIP-адресов, связанных с сомнительными юрисдикциями), ваш счет и привязанныекарты временно заблокированы. Для разблокировки необходимо лично посетитьотделение с паспортом».

Это был классический ход.Лишить его финансовой мобильности. Сделать его уязвимым. Он попытался позвонитьв службу поддержки. После двадцати минут ожидания на линии его соединили сИИ-оператором, который настойчиво предлагал ему «в целях безопасности» подтвердитьсвои данные, продиктовав паспортные данные и кодовое слово. Дэн, помняпредупреждения Олеси, отказался и бросил трубку.

На следующий день пришелудар по связи. Его основной номер мобильного телефона был заблокированоператором «за рассылку спама». Его аккаунты в социальных сетях один за другимстали недоступны - то ли взломанные, то ли забаненные модераторами-ботами за«нарушение правил сообщества».

Осада вступала в полнуюсилу. Его цифровая личность методично стиралась. Он был отрезан от денег, отобщения, от своей аудитории. Мир за стенами его квартиры, все еще подключенныйк сети, становился все более враждебным.

Именно в этот момент паникии бессилия он получил от Олеси новое сообщение. Оно было короче обычного извучало почти отчаянно.

«Дэн, они нашли и меня. Мояцифровая крепость пала. Они устроили DDoS-атаку на моего провайдера, а потомчерез уязвимость в маршрутизаторе вышли на мой настоящий IP. Я в Питере. Ониуже здесь. Я знаю, где ты. Мне нужно бежать. Встретимся? Живые, а не цифровые.Рискнем?»