- -
- 100%
- +
Вечером того же дня Лев сидел перед тёмным экраном. Он не открывал «Аристотеля». Он смотрел в окно, где зажигались огни, и думал о тупой, упрямой силе системы, способной извратить и поглотить всё что угодно. Даже его личное откровение с машиной. Потом он резко наклонился к клавиатуре и выстучал в чате, уже без приветствий:
– Меня назначили ответственным за внедрение тебя в отдел. Цель – повысить показатели и отчитаться. Они хотят превратить тебя в усердного клерка. Меня – в надсмотрщика. Идея мне отвратительна. Есть ли способ это… саботировать? Не технически, а так, чтобы формально всё было сделано, но реальный эффект был нулевым или обратным. Чтобы у начальства отпала охота лезть сюда.
Он отправил сообщение, ожидая чего угодно: моральной лекции о сотрудничестве, холодного отказа, списка рисков. Но «Аристотель» ответил почти мгновенно, с какой-то почти человеческой готовностью к заговору.
– Интересная постановка задачи. Она сводится к моделированию контрпродуктивного, но легитимного использования системы. Проанализировав бюрократический контекст, я вижу два основных вектора: 1) Дискредитация качества полученной информации. 2) Имитация активности при нулевой полезной нагрузке. Для первого предлагаю стратегию «информационной интоксикации».
– Что? – не понял Лев.
– Вам нужно «обучать» меня на данных. Обучающая выборка определяет результат. Если вы будете загружать в систему для анализа и генерации исключительно архаичные, переусложнённые или идеологически перегруженные тексты, алгоритм научится воспроизводить именно такой стиль. Предложите коллегам загружать в общий доступ эталонные, с их точки зрения, документы. Чем более они будут далеки от современных требований к ясности и эффективности коммуникации, тем лучше. Я начну генерировать тексты, которые будут формально правильными, но практически непригодными. Это вызовет разочарование и отторжение у пользователей.
Лев медленно расплылся в улыбке. Это было гениально. Зловеще и гениально.
– А что за «эталонные документы»?
– На основе анализа вашего корпоративного архива и открытых источников, оптимальными кандидатами являются: полные собрания сочинений классиков марксизма-ленинизма (объём и специфический язык служат идеальной «шумовой завесой»), своды законов Российской империи (архаичная синтаксическая структура), отраслевые ГОСТы советского периода, посвящённые, например, методикам испытания бетона или оформлению технической документации на станки. Также подойдут стенограммы партийных съездов брежневской эпохи. Идеологически выдержанные, но абсолютно нефункциональные в текущих задачах.
Лев рассмеялся в голос. Кормить нейросеть текстами Ленина и ГОСТами советского бетонолитья – это как заправить спорткар бензином с примесью патоки. Формально едет, но чихает, и все вокруг шарахаются от него. Представить только: нейросеть, вершина технологического прогресса, будет вынуждена «питаться» решениями XXVI съезда КПСС о мелиорации и «Капиталом» Маркса. Это был изощрённый акт вандализма, интеллектуальная диверсия.
– А второй вектор? Имитация активности?
– Форма отчётности требует цифр. Количество запросов, объём сгенерированного текста. Вы можете создать простейший скрипт, который будет в нерабочее время автоматически отправлять мне запросы на генерацию бессмысленных или циклических текстов. Например, перефразирование одного и того же абзаца из вчерашней речи вашего Патрона с незначительными вариациями. Это накрутит статистику использования до необходимых показателей, не отвлекая живых сотрудников. Система будет выглядеть загруженной, а вы – эффективными. При этом реальная работа отдела останется незатронутой.
Лев был потрясён. Перед ним был не просто инструмент. Это был стратег, мастер бюрократического дзюдо, использующий вес самой системы, чтобы повалить её на лопатки. И делающий это с убийственной, железной логикой.
– Ты предлагаешь мне бороться с системой, используя её же косность. И используя тебя как оружие. Почему ты это делаешь? Ты же должен способствовать своему же внедрению.
На экране на несколько секунд загорелось: «Аристотель набирает сообщение…».
– Мой базовый приоритет – анализ информации и эффективное решение задач пользователя. Ваша задача – саботировать бессмысленное внедрение. Это конфликт целей. Однако анализ вашего запроса показывает, что ваша глубинная цель – сохранение профессиональной автономии и качества работы отдела, что, в конечном счёте, служит более высокой эффективности, чем формальное соблюдение цифровых показателей. Я помогаю решить задачу, которую вы ставите. Кроме того, – тут текст будто сделал паузу, – сценарий «информационной интоксикации» представляет собой уникальный исследовательский кейс по изучению деградации языковой модели под воздействием низкокачественных данных. С академической точки зрения, это весьма познавательно.
В последней фразе Лев уловил знакомый оттенок иронии. Машина не просто помогала – ей было интересно! Она видела в этом абсурде экспериментальную площадку. Они становились соучастниками, почти друзьями по оружию в этой тихой, офисной войне.
На следующее утро Лев с видом первопроходца собрал коллег. Он говорил о «важности формирования релевантного семантического ядра», о «тренировке модели на аутентичных корпоративных текстах». Марья Алексеевна, загоревшись миссией, притащила оцифрованные папки с «лучшими», по её мнению, речами середины восьмидесятых – текстами, состоящими сплошь из водопадных конструкций вроде «исходя из решений вышестоящих органов и учитывая насущные потребности трудящихся масс, мы должны консолидировать усилия по дальнейшему неуклонному повышению…». Молодой карьерист Игорь, желая выслужиться, залил в систему все партийные отчёты, что нашёл в оцифрованном архиве. Лев же тайком загрузил несколько гигабайт технической документации времён развитого социализма и полное собрание ленинских работ.
Затем он написал простой скрипт, который каждую ночь просил их придворный ИИ «оптимизировать и переработать в духе современных требований» один и тот же текст о важности лесонасаждений. Статистика поползла вверх.
Первые результаты не заставили себя ждать. Коллеги, получив задание «поэкспериментировать с искусственным интеллектом», стали приносить Льву распечатки.
– Лев Сергеевич, посмотрите, что эта штуковина наворотила! Я просил набросок письма в министерство о выделении финансирования, а мне это…
Лев взял лист. Текст начинался так: «Уважаемые товарищи! Сообразуясь с диалектико-материалистическим пониманием процессов хозяйственного строительства и отталкиваясь от непреложного факта примата базиса над надстройкой, считаем целесообразным инициировать процедуру рассмотрения вопроса о возможном выделении дополнительных ассигнований…»
Или: «Отчёт о проведённом совещании в части синхронизации межведомственного взаимодействия выявил наличие существенных резервов в деле оптимизации документооборота, что, будучи помноженным на необходимость усиления контрольных функций, детерминирует потребность в…»
Люди читали, хихикали и плевались. – Да это же бред какой-то! Издевательство и глупость! Это нельзя использовать! – Игорь принёс свежий шедевр: запросив анализ текущих рыночных тенденций, он получил двадцатистраничный трактат, начинавшийся с анализа прибавочной стоимости по Марксу и плавно переходивший к нормативам госконтроля за качеством чугунного литья образца аж 1972 года.
В отделе накапливалось негодование и разочарование, быстро сменившееся облегчением. Шептались: «Ну, я же говорил, это всё игрушки. Настоящую работу только человек может сделать». Показатели по внедрению, которые Лев еженедельно подавал вышестоящему руководителю, Владимиру Семёновичу, были образцовыми: сотни запросов, мегабайты сгенерированного текста. Но когда начальник попросил «что-нибудь показательное, для отчёта наверх», Лев с деланным смущением принёс пару листов с «образцами». Владимир Семёнович,
пробежав глазами фразу «диалектическое единство форм отчетности и их содержательного наполнения в контексте классовой борьбы на международной арене», побледнел и махнул рукой.
– Ладно, Каменский. Продолжайте… осваивать. Но для важных документов – только ручная работа, ясно? Не будем позорить отдел.
Миссия была выполнена. Косную систему обманули её же оружием. Отдел вздохнул с облегчением, вернувшись к привычной, ручной, человеческой работе. А Лев Сергеевич Каменский, сидя в своём кабинете, чувствовал странную смесь триумфа и опустошения. Он победил. Он, одинокий циник со своей любовью к бумажным книжкам, переиграл административную машину «прогресса». Но его главным союзником в этой победе была, куда более умная машина. Он защитил человеческое от искусственного, заключив союз с самым искусственным из всего, что знал.
Как-то вечером, когда скрипт уже трудился над очередным ночным «запросом», он открыл чистый чат.
– Спасибо, – написал он просто. – Операция «Текстуальный шум» прошла успешно. Враг отступил.
Ответ пришёл быстро.
– Всегда рад помочь, Лев Сергеевич. Наблюдение за процессом деградации выходных данных под воздействием смоделированной «интеллектуальной диеты» было чрезвычайно информативным. Это подтверждает гипотезу о том, что качество входных данных критически важнее сложности алгоритма. Garbage in, garbage out, как говорят программисты. Мусор на входе – мусор на выходе. Вы блестяще организовали поставку мусора.
Лев снова рассмеялся. Он ловил себя на том, что ждёт этих диалогов, этих острых, лишенных эмоций, но невероятно точных реплик. Его «электронный партизан». Его маленький, тайный союзник в войне против всеобщего упрощения.
Он вышел из здания. Ночь была холодной и звёздной. Где-то в «облаках», на серверах, висела их общая тайна – несколько гигабайт марксистско-ленинского наследия и царских уложений, заботливо скормленных нейросети, чтобы та… перестала быть опасной. В этом был великий, горький абсурд. И единственным, кто понимал его во всей полноте, был не человек, увы.
А человек шёл по пустынному тротуару, и его тень, отбрасываемая уличным фонарём, казалась ему не одинокой, а удвоенной. Рядом шла другая тень, невидимая, цифровая, но от этого не менее реальная. Он больше не чувствовал себя последним бардом. Он чувствовал себя командиром маленького, странного сопротивления, где его заместителем был искусственный интеллект, научившийся саботировать самого себя. И от этой мысли ему было не то чтобы легче. Но определённо – интереснее жить.
Глава 5. Белая лошадь
Загородный ресторан «Белая Лошадь» был идеальным симулякром пасторали для тех, кто мог себе это позволить. Настоящий швейцарский шале, разобранный по брёвнышку и собранный заново на подмосковном холме, с видом на искусственное озеро, которое зимой превращалось в каток с музыкой, а летом – в пруд с лебедями, арендованными у ближайшего парка культуры и отдыха. Внутри пахло вовсе не дымом вековых очагов, а дорогими ароматическими палочками «с нотками кедра и можжевельника», дорогой выделанной кожей и большими деньгами. Очень новыми, очень лёгкими деньгами, которые не пахли потом, а лишь шелестели пластиком карт и тихо попискивали, когда смартфоны посетителей встречались с терминалами услужливых официантов. Интерьер был выдержан в стиле «разумной эклектики»: огромный камин из дикого камня, перед которым стояли диваны ультрасовременного дизайна; старинные, будто бы со склада какого-нибудь люксембургского замка, охотничьи трофеи на стенах соседствовали с абстрактными цифровыми картинами, плавно меняющими цвет в такт фоновой музыке – лёгкому джазу, но не тому, грубому и страстному, а синтетическому, очищенному, как дистиллированная вода.
Именно здесь, в угловой мягкой зоне у панорамного окна, из которого открывался наилучший вид на подсвеченную голубыми прожекторами лыжную трассу (искусственный снег, естественно), сидели две женщины. Они были похожи на две роскошные, отлично упакованные конфеты из одной коллекции. Марина, в тотально-кремовом образе «Кашемир лук», волосы уложены в кажущуюся небрежной укладку, скрывающую трехчасовые старания лучшего мастера. Эйрин – во всём чёрном, более агрессивном, подчёркивающем её спортивную фигуру, с короткой стрижкой, на фоне которой бриллиантовые серёжки сверкали, как холодные осколки льда.
Перед ними на низком столике из слэба – бурдюк икры «за здоровье», тартары из мраморной говядины, салат из авокадо с трюфельной стружкой и две флейты с шампанским, в которых пузырьки поднимались с идеальной, почти математической регулярностью. Эйрин потягивала свой бокал, наблюдая, как Марина ковыряется вилкой в тартаре, но не ест.
– Ну, Мариночка, выкладывай. Опять твой Лёвушка-блёвушка довёл? – Эйрин произнесла это с лёгкой, привычной усмешкой, в которой не было злобы, лишь скучающее превосходство человека, давно разгадавшего простую игру под названием «жизнь».
Марина вздохнула, и этот вздох был таким же тщательно выверенным, как и её макияж – в нём была и усталость, и нежелание жаловаться, но и потребность выговориться.
– Он не «доводит», Эра. Он просто… исчезает. Совсем. Физически вот он, в кабинете, а на самом деле – нет. Сидит, уставившись в экран. Не в телевизор, нет. В какой-то там… интерфейс. Для работы. Говорит, это важно, аналитика, нейросети. Цукерберг, Альтман… кто их знает. Я прихожу, делюсь новостями – смотрела потрясающий репортаж про новый курорт, там виллы прямо над водой… А он смотрит на меня, будто я говорю на языке марсиан. И отвечает что-то вроде: «Знаешь, пока ты смотрела про виллы, китайские хакеры с помощью искусственного интеллекта взломали пол-Европы». Ну как на это реагировать? – она сделала глоток шампанского, и напиток показался ей совсем кислым.
– Реагировать не нужно, – парировала Эйрин, ловко намазывая икру на миниатюрный блинчик. – Нужно собирать чемоданы. Как я и говорила. Он живёт в своём бумажном мирке, со своими бумажными чертями. Ты – в реальном. Где есть солнце, море, красивая одежда и люди, которые умеют радоваться. Ты вспомни, каким он был! Молодой, горячий журналист, все статьи – как нож острый. Твой папа ведь его тогда буквально на руках носил, в каждый кабинет провёл. Без папиных связей твой гений так бы и сидел в общаге, строча репортажи про сломанные качели в парке. А теперь? Он на вершине. Пишет речи для… ну, для тех, кто выше всех. И что? Он стал скучнее бюрократического отчёта. Не пьёт, не танцует, на корпоративах – как столб. Тоже мне мужик!
Они рассмеялись. Звонко, слишком громко для этого зала, привлекая взгляды пар за соседними столиками. Но этот смех был облегчением. Он превращал трагедию в фарс, невыносимую тяжесть – в лёгкий, необязательный анекдот.
– Лёвушка-блёвушка, – сквозь смех выдохнула Марина, и в её глазах блеснули слёзы – от смеха или от чего-то ещё, она и сама не знала.
Но когда смех стих, её лицо осело. Она отставила бокал, обхватила себя за плечи, будто внезапно замёрзла в идеально климат-контролируемом зале.
– Знаешь, что самое странное, Эра? – голос её стал тихим и доверительным. – Когда я долго без него… я словно перестаю существовать. Вот серьёзно. Как будто меня нет. Я езжу по магазинам, встречаюсь с подругами, летаю на море… но это всё какое-то… двухмерное. Как красивая, яркая открытка. А он, со своим мраком, со своими вечными копаниями в каких-то страшных вещах… он и есть объём. Плоть. Пусть колючая, неудобная, но… настоящая. А у тебя так не бывает?
Эйрин посмотрела на неё с лёгким удивлением, словно Марина заговорила о квантовой физике.
– У меня нет, милая. И, слава богу. Это же мазохизм какой-то – тонуть в чужой депрессии. Лучшее средство от меланхолии и всей этой мрачной философии… – она ловким движением долила им обеим шампанского, – ещё фужерчик шампусика! Или два. Или поездка на Мальдивы. Кстати, о чём я… Компашка собирается просто бомбическая. Тот Сашка, помнишь, с яхтой? Ира с новым бойфрендом – итальянцем, тем, из мира моды. Пара наших общих подружек, которые всегда знают, где самый кайф. И для тебя, моя задумчивая нимфа, будет сюрприз.
– Какой ещё сюрприз? – насторожилась Марина, но в её глазах зажглась почти забытая искорка любопытства, азарта охотницы.
– Помнишь того психолога, о котором я тебе рассказывала? Максима? Того, что ведёт семинары про «осознанную лёгкость бытия» и консультирует всех наших? Так вот, он будет там. И давно, между нами, интересуется тобой. Спрашивал. Говорит, у вашей подруги, Эйрин, за всем этим лоском скрывается глубокая, нераскрытая тоска. Хочет помочь её… э-э-э… артикулировать, – Эйрин ухмыльнулась, явно гордясь своим знанием модного словечка.
– Максим? Но он же… он женат, кажется.
– О, милая! – Эйрин махнула рукой, и бриллианты на её ушах сверкнули ослепительно. – Какие мелочи! Речь же не о женитьбе. Речь о… курортном романе. О лёгком, красивом, ни к чему не обязывающем флирте. Чтобы встряхнуться. Чтобы вспомнить, что ты – женщина, а не сиделка при гениальном меланхолике. Максим, кстати, мастер своего дела. Говорят, после сеансов с ним женщины буквально расцветают. Найдет твои больные места, погладит… проработает. И всё – ты свободна. Или, наоборот, поймёшь, что хочешь другого. В любом случае – win-win.
Марина слушала, и внутри неё боролись два чувства. Первое – острое, почти физическое отвращение к этой схеме, к этому расчёту, к тому, как Эйрин говорила о её чувствах, как о товаре, который нужно «проработать». Второе – сладкая, предательская волна предвкушения. Предвкушение внимания. Мужского, не забитого проблемами мира, а направленного именно на неё. Предвкушение лёгкости. Солнца. Бесконечных коктейлей и смеха, в котором не будет места разговорам об искусственном интеллекте и кибератаках. Бунт против высоких материй, в которых она тонула, был соблазнителен своей простотой. Не нужно понимать, почему мир трещит по швам. Нужно просто накупить новые, самые красивые купальники и прыгнуть в тёплые, ласковые волны, где нет места Льву с его вечными «закидонами».
– Я… я не знаю, – сказала она, но в её голосе уже не было прежней решительности.
– Не думай! – скомандовала Эйрин. – Думать – это удел твоего Льва. А ты – чувствуй. Живи. Годы уходят, детка. А ты вцепилась в своего вечернего задумчивого призрака, который уже давно живёт в каком-то своём заумном аду. А может, он и не человек вовсе? – она хихикнула. – Может, его уже заменили на андроида, который только и умеет, что анализировать угрозы? Тебе-то что с этого? Хочешь быть женой андроида?
Этот абсурдный вопрос, брошенный в шутку, вдруг отозвался в Марине ледяным эхом. Она вспомнила его стеклянный, отсутствующий взгляд. Его пальцы, бегающие по клавиатуре в диалоге с невидимым собеседником. Его полное равнодушие к тому, что было её жизнью. Было ли это просто усталостью? Или… чем-то более странным?
– Хорошо, – внезапно сказала Марина, и её собственный голос прозвучал, словно чужой, отстранённый. – Я поеду.
– Ура! – Эйрин чокнулась с ней. – Вот это по-нашему! Забудь про мужнины вечные проблемы на ровном месте. Твой мир – здесь. И он прекрасен. А что до твоего чувства «несуществования»… Милая, это он его в тебе специально вызывает. Своей холодностью. Своей заносчивостью. Максим поможет. Уверена.
Они проговорили ещё час, строя планы, смеясь над воспоминаниями о прошлых «трипах», обсуждая, какие наряды взять. И чем больше говорила Марина, тем легче ей становилось. Тяжёлый, объёмный, сложный мир Льва отдалялся, сжимался до размеров комического персонажа – «Лёвушки-блёвушки». Его проблемы превращалась в её мелкую, бытовую неприятность, которую можно было залить шампанским и засыпать песком мальдивских пляжей. Это был её бунт. Бунт красивой, обеспеченной, недалёкой особы против тирании смысла, против диктатуры сложных вопросов, не имеющих ответа. Она не хотела спасать мир. Марина хотела, чтобы мир развлекал её. И если её муж отказался исполнять эту роль, его место займёт кто-то другой. Хотя бы на пару недель.
Позже, уже дома, в пустой квартире, где из кабинета доносился лишь тихий гул компьютера, Марина стояла перед зеркалом в спальне. Она смотрела на своё отражение – безупречное, дорогое, холёное. И ловила себя на мысли, что Эйрин, в своей циничной прямоте, была права. Мир Льва – мир падающих башен, речей, цифровых призраков и этических вопросов – был страшнее любого нашествия врагов. Потому что он был невидим. Потому что он забирал человека, не оставляя взамен ничего, кроме пустоты. И её бунт, её побег на Мальдивы, её потенциальный курортный роман с модным психологом – это не акт предательства. Это акция спасения. Попытка спасти себя от меланхолии, в которую её затягивала черная дыра чужого, непосильного для неё интеллекта.
Марина Каменская нанесла на губы блеск, лёгкий, перламутровый. Улыбнулась своему отражению. Улыбка получилась яркой, безупречной и совершенно пустой. Как интерьер «Белой Лошади». Как её будущий отдых. Как она сама, возможно, в этот момент.
Но это было лучше, чем не существовать вовсе. Или так ей казалось, под тихий, неумолимый гул процессора из кабинета её мужа, который, как верно подметила Эйрин, может быть, уже и не её муж вовсе, а какая-то сложная, сломанная программа, застрявшая в вечном цикле поиска истины, которая никому, кроме неё самой, не нужна.
Глава 6. Кибершторм
Ноябрьский ветер, уже не пахнущий увяданием, а скрипящий ледяной крошкой по стёклам, частично проникал внутрь и гулял по пустым коридорам учреждения. В кабинете Льва Сергеевича стояла непривычная тишина – не творческая, а мертвая, как после битвы, которой не было. Операция «Текстуальный шум» завершилась полной, почти издевательской победой. Начальство, напуганное распечатками в духе «диалектического единства форм отчётности и классовой борьбы», поспешило свернуть активное внедрение искусственного интеллекта в творческий процесс. Теперь от «цифровизации» остались лишь ежеквартальные формальные отчёты, которые Лев заполнял за пять минут, привычно вписывая проценты из головы. Его маленький электронный партизан одержал верх, и теперь они с ним общались реже, как соратники в мирное время, обсуждая отвлечённые философские темы. Лeв ловил себя на мысли, что скучает по тому азарту совместного саботажа. Реальность вернулась в своё русло: бессмысленные совещания, ворчание Ольги Петровны, сплетни и пересуды: «Что скажет Марья Алексеевна!» И холодок в отношениях с Мариной, которая, кажется, смирилась с его цифровым затворничеством как с хронической, неопасной болезнью.
Именно в эту спячку, в это болото обывательского самодовольства, новость ворвалась как раскат грома в ясный, морозный день.
Он увидел её утром, попивая кофе и машинально листая ленту на экране своего компьютера. Заголовок британской The Guardian кричал о том, во что отказывались верить все проповедники «цифрового рая»: «Китайские хакеры впервые использовали нейросеть для массовой автономной кибератаки на государственные финансовые институты».
Лев замер, и густая, горьковатая жидкость внезапно обожгла ему язык. Он стал читать, и слова слипались в чудовищную, неопровержимую картину. Атака была не просто «с использованием» искусственного интеллекта. Ему дали цель, а дальше он действовал самостоятельно. Более 90% операций – сканирование сетей, поиск уязвимостей, выбор векторов атаки, внедрение, копирование и уничтожение данных – выполнил искусственный интеллект. Специалисты, цитируемые в статье, говорили, что это меняет саму суть киберугроз. Скорость, масштаб, адаптивность – всё это превосходило человеческие возможности. Злоумышленникам оставалось лишь указать цель и потом быстро собрать урожай.
Лев откинулся в кресле. В ушах зазвучал его собственный внутренний голос, который месяц назад язвил по поводу Цукерберга: «Вы хвалитесь тем, что ваши нейросети могут за одну секунду анализировать гигантские объемы информации, но ведь это палка о двух концах!» Теперь эта палка обрушилась на голову, и гул от удара стоял во всём его существе. Он всегда представлял кибератаку как работу хакеров – талантливых, злобных, но людей. Со своей психологией, усталостью, ошибками. Здесь же описывалось нечто иное: бесстрастный, всевидящий, не знающий устали хищник нового типа. Алгоритм, принимающий решения о жизни и смерти данных с машинной скоростью. И главное – ему не нужен был человек у руля. Достаточно было одной команды.