Обратное распространение

Пролог

Много лет назад, когда Издательство еще не было Издательством (с большой буквы), а было просто издательством (с маленькой) и называлось как-то иначе, печатался в нем один малоизвестный писатель. Звали его Богуслав Джанковски. На счету Джанковски было десятка полтора романов, изданных достаточным тиражом, чтобы не заботиться о пропитании, но недостаточным, чтобы иметь хоть какой-то вес в литературном сообществе.

У него была своя аудитория, он исправно работал на нее, давно смирился со своим местом в этом мире и не пытался что-либо менять. Вероятнее всего, так бы и продолжалось до самой его смерти, если бы не одна случайность, запустившая цепочку событий, в результате которой Джанковски стал Богом.

Событие, изменившее ход человеческой истории, произошло в тот год, когда он издал свой новый роман «Эстафета». Тираж был ничтожный – около пятисот экземпляров. Руководство издательства (с маленькой буквы) не верило в успех запутанного мистического философского трактата. Редактор романа даже не понял до конца его смысла (как и большинство читателей впоследствии), однако, помня о преданной, хоть и малой аудитории Богуслава Джанковски, решил порадовать ее и пропустить книгу в печать.

Примерно в то же время появился на свет очередной, ничем не примечательный технологический стартап в области искусственного интеллекта. Один из многих, не имевший ни конкретной цели, ни финансирования, состоявший лишь из двух молодых амбициозных основателей и видеокарты игрового компьютера, предназначенной для построения нейросетевых моделей.

Стартап носил гордое название BrAInS. Основатели тогда еще не придумали расшифровку этого акронима, но были абсолютно уверены в том, что:

– это акроним;

– AI посередине расшифровки не требует.

На волне нейросетевизации всего и вся ребята ездили по стране и искали инвестора. У них было много разных идей, где можно применить умные технологии. Были красивые демонстрационные программы, которые пыхтя воспроизводила видеокарта игрового компьютера во время презентаций на стартаперских мероприятиях. Вот только богатые бизнес-ангелы раз за разом разворачивались и отдавали свои посевные венчурные инвестиции другим, более удачливым стартапам. И наши герои в какой-то момент приуныли до такой степени, что практически сдались и начали уже обновлять свои резюме для рассылки в крупные технологические компании.

Денег осталось ровно на одну поездку. Друзья договорились, что испытают удачу в последний раз, после чего разбегутся и попробуют найти нормальную работу.

Перед посадкой в поезд (билет на самолет стоил гораздо дороже) один из них обнаружил, что забыл зарядить свой телефон. Чтобы не скучать во время поездки, он решил купить книгу в вокзальном киоске. Времени до отправления оставалось совсем мало, поэтому он не стал выбирать чтиво сам, а обратился за советом к продавцу. Тот по случайности оказался одним из немногих почитателей таланта Богуслава Джанковски. Не сомневаясь ни секунды, он вручил молодому стартаперу томик «Эстафеты».

С тех пор прошло двенадцать лет…

Совет директоров

Холодное бледное солнце замерцало и исчезло с небосвода. Лишь на мгновенье. И тут же виновато забрезжило снова, украдкой вернулось к прежней яркости, словно надеясь, что никто не обратит на это внимания.

Богуслав не обратил.

Погруженный в тревожные мысли, он стоял посреди заснеженного плато, окруженного горами, простиравшимися на много километров вокруг. Быстрая река причудливо извивалась внизу. Берега ее поросли травой и пышными разноцветными шарами рододендронов. В небе, едва различимый, медленно кружил ястреб, раскинув мощные крылья. Величественный и безмятежный.

«Как это все неуместно», – подумал Богуслав.

Он ненавидел свою привычку приходить первым, но не мог и перестать это делать. Ожидание выматывало: ладони вспотели, правая нога, казалось, жила собственной жизнью, непроизвольно отстукивая ритм пяткой. Он уже почти решился уйти и вернуться через пару минут, когда рядом из пустоты начали выныривать фигуры мужчин и женщин – других членов Совета директоров Издательства. Каждое появление сопровождалось легким хлопком.

Качество симуляции впечатляло. И природа, и люди выглядели совершенно как настоящие. В голове мелькнула мысль: если включить кондиционер на максимум – погружение станет настолько полным, что можно и забыть, где находишься на самом деле.

– Что ж, начнем, – слово взял высокий плотный человек в строгом пиджаке и отглаженных брюках. Председатель.

Богуслава раздражал его подчеркнуто консервативный скин. Как вообще в голову могло прийти нацепить на аватар такое? Видимо, предполагалось, что этот образ наделит своего владельца серьезностью и внушительностью, настроит собеседников на деловой лад. Несусветная чушь. В реальности больше походило на клоунский костюм. И отношение к председателю формировало соответствующее. Уж лучше бы оставил скин по умолчанию и не пытался изображать из себя невесть что. Богуслав поступил именно так.

– Думаю, все в курсе, что сегодня на повестке только один вопрос, – председатель прочистил горло. – А именно возвращение к программе «Пантеон». Предлагаю не затягивать и перейти к голосованию…

Вот так просто и буднично, как разговор о погоде. «Не затягивать и перейти к голосованию».

Даже проведя годы на посту Главного редактора Издательства – крупнейшей медиакорпорации мира, – Богуслав так и не привык к тому, что вопросы, касающиеся судьбы человечества, решаются так же, как и любые другие рабочие задачи, – по расписанию. Где-то между утренним кофе и партией в гольф, на которую, судя по всему, и спешил председатель.

«Ну уж нет, – решил Богуслав, – сегодня пропустишь пару лунок». Он вышел вперед и попросил слово. Председатель только обреченно вздохнул.

Богуслав произнес тираду о том, к чему приведет возобновление программы «Пантеон», об опасностях и последствиях. Все это Совет слышал уже десятки раз. Некоторые советники стояли с вежливо скучающим видом, иногда кивая, как болванчики. Другие морщились. Директор по продажам рассматривала ногти, словно у нее там имелась своя личная повестка дня (возможно, так и было).

Наконец, Богуслав иссяк – невозможно бесконечно тянуть время.

Настало время голосовать.

Он почувствовал, как вдруг задрожали его руки, как участилось дыхание. К счастью, шлем виртуальной реальности фиксировал только лицо. Скорее всего, собеседники не заметили его состояния.

Четверо проголосовали за «Пантеон». Пятеро, включая Богуслава, – против.

Встреча закончилась. Трясущимися руками он снял шлем и положил на колени. Победа не принесла облегчения. Еще полгода назад семеро из девяти советников были на его стороне, а сейчас преимущество свелось лишь к одному голосу.

Ситуация была трагична и в то же время иронична. Ирония заключалась в том, что автором программы «Пантеон» был сам Богуслав. Он придумал ее еще в те времена, когда был малоизвестным писателем, в тот самый год, когда издал свой главный литературный труд – «Эстафету». Долгое время он считал «Пантеон» единственным путем спасения человечества. Однако после многих лет подготовки, потребовавших астрономических денежных затрат и упорной работы тысяч сотрудников Издательства, после бессонных ночей и тяжелых решений, подорвавших его физическое и ментальное здоровье, Богуслав внезапно осознал, что этот путь – не спасение, а смертный приговор для всего людского рода. Используя свое положение в компании, он смог добиться заморозки проекта. Но не его отмены.

Богуслав имел огромную власть, позволявшую творить чудеса библейского масштаба. И не раз использовал свою силу.

Он был Богом.

Но, как оказалось, даже Бог не способен остановить корпоративную махину, разогнанную до максимальной скорости. Система начала работать сама по себе, подчиняя все вокруг своим законам и устанавливая правила. Причем правила диктовались не столько логикой и здравым смыслом, сколько рассуждениями о возврате инвестиций. Совет директоров Издательства неумолимо затягивало в ловушку невозвратных затрат – ложное представление о том, что проект, в который вложены ресурсы, превосходящие по объему бюджеты большинства стран мира, не может быть в корне ошибочным. После многочисленных выступлений Богуслава советники согласились, что определенные риски у «Пантеона» существуют, но постепенно начали переводить их в разряд приемлемых. И вот уже за «приемлемость рисков» голосуют четверо из девяти.

Богуслав открыл ящик стола, нащупал упаковку таблеток. Взял сразу две и резким движением закинул в рот.

Быть Богом было невыносимо трудно.

В овечьей шкуре

Наноботы щекотали скулы. Очень хотелось почесать лицо, но делать этого не стоило, чтобы не сбить ненароком калибровку.

Агент поднял со стойки четыре кружки пива и направился в глубь бара. Он проставлялся. За столиком весело перешучивались друзья Объекта. Агент поставил перед ними пиво и сел. Наноботы легкими электрическими импульсами стимулировали мышцы лица, натягивая приветливую улыбку.

– Ну давай, рассказывай! – Один из собеседников поднял кружку и сделал большой глоток. – Как там в Издательстве? Богуслава Джанковски видел?

Суфлер в ухе продиктовал ответ. Агент повторил вслух голосом Объекта:

– Все супер, я в полном восторге! Буду работать со сценариями для сериалов. Джанковски видел.

Наноботы растянули улыбку шире, стало даже немного больно.

– Точнее, пока только его голограмму на вступительной лекции. Паштет в столовке шикарный!

Друзья загремели стаканами, чокнулись и выпили за шикарный паштет. Весь разговор Агент ощущал себя живой марионеткой. Лицом практически без его участия управляли наноботы. Каждое движение и слово диктовалось Суфлером. Это выматывало. Нельзя допустить ни малейшей оплошности. Любое, даже мельчайшее, подозрение со стороны друзей Объекта могло сорвать операцию. Одно спасение – что завтра рабочий день и никто не сможет задержаться тут допоздна. Повезло.

Агент изучал собеседников. Собирал информацию. Какая-никакая, но все же подготовка, ведь утром придется действовать без Суфлера. К счастью, у Объекта нет знакомых в Издательстве, и можно будет работать спокойней, не концентрируясь на имитации поведения.

Только один из товарищей Объекта радовался его успеху искренне. Двое других постоянно подначивали и пытались обесценить момент, завуалировав это под шутки.

– Ну, что за сериалы-то? Мы их хотя бы знаем? – спросил один, еле сдерживая ухмылку.

– Для начала мне дали пару пилотных эпизодов для GrimFlayPlay, – ответил Агент.

– GrimFlayPlay? Это что, тот стриминг с лютыми ужастиками?

– Да, точно. Забавно, правда?

– Класс. Значит, шлак и трешак, – засмеялся второй. – Слушай, а зачем им вообще редактор? Кто там, блин, за качеством следит?

– Объект не заметил бы сарказм, – проговорил Суфлер. – Отвечай серьезно.

– Да ведь это просто жанр такой, – сказал Агент. – У него есть свои фанаты. И они тоже ждут, что продукт будет на уровне. Я им это и обеспечу.

– На уровне, говоришь? – первый скорчил глумливую гримасу и поднял вверх большой палец. – Окей, зови поржать, если твой «качественный» треш наконец выйдет.

– Эй, да ладно, парни, – вмешался третий, хлопнув первого по плечу. – Надо же с чего-то начинать. По-моему, это охренительно! Это вам не бьюти-блогеров модерировать.

Первые двое, конечно же, это понимали. И сгорали от зависти. Все мечтали попасть в Издательство – монолитную мегакорпорацию, которая поглотила половину медиарынка планеты и оставила конкурентов плестись далеко позади. У них было все: ресурсы, влияние, лучшие таланты. Это был тот самый работодатель мечты, о котором говорили с благоговейным трепетом. Единственное, что могло соперничать с работой в Издательстве, – это место в BrAInS, у технарей, которые создали самый продвинутый искусственный интеллект в мире.

Объект ухитрился устроиться в центральный офис Издательства. Прошел через цепочку адских собеседований, опередив сотни, а то и тысячи претендентов. Достижение, заслуживающее всяческого уважения. Тем более жалкими выглядели насмешки его приятелей. Тон беседы начинал Агенту серьезно надоедать, но Суфлер настаивал, что нужно продолжать дружелюбно улыбаться.

Так поступил бы Объект.

«Что ж, приятель, – подумал Агент, – не так много ты и потерял, пропустив эту пьянку. С гнильцой твоя компашка».

Объект в этот момент находился в лаборатории Бюро, где аналитики выкачивали из его мозга все, что могло пригодиться для проведения операции.

Далее Объект переведут в разряд агентов под принуждением (АПП) и поселят в просторной квартире со всеми удобствами: огромная коллекция фильмов, книг, видеоигр, небольшой спортзал, еда от шеф-повара.

Все что угодно, кроме средств связи и свободы передвижения.

Операции класса deepest fake часто затягиваются на месяцы. Или даже на пару лет. Расследование в Издательстве – определенно не из коротких. Уже к этому моменту оно обошлось Бюро в кругленькую сумму. А уж теперь, когда дело дошло до работы полевого агента, никто точно не станет рисковать и торопиться.

АПП не должен из-за этого страдать. Сверх меры.

По завершении ему выдадут огромную пачку денег, заставят подписать договор о неразглашении и отполируют мозг. Ровно до такой степени, чтобы он смутно помнил, что работал на правительство и участвовал в важной миссии, но без деталей.

До конца жизни АПП будет считать себя Джеймсом Бондом, но при этом никому не сможет рассказать ничего существенного. Приятный бонус от Бюро плюс достойное объяснение провалам в памяти.

По статистике, в 98,5% случаев бывшие АПП никому ничего не говорят и вполне довольны положением вещей. Оставшиеся 1,5% зачищает Команда корректировки поведения.

Допив пиво, Агент попрощался с друзьями Объекта и направился к метро. Доехал до конечной станции. Предстояло еще минут пятнадцать идти пешком.

Фонарь неподалеку нервно замерцал и потух.

Интеллектуальная система распределения городской электроэнергии отключила большую часть освещения ради экономии ресурсов, столь необходимых более важным потребителям. Но это обстоятельство мало смущало Агента – гораздо больше раздражал тяжелый, густой воздух окраины.

Он вспомнил старую поговорку «Деньги не пахнут» и подивился тому, как точно она отражает действительность. Каким ароматом встречает посетителя частный особняк миллионера, пентхаус самой роскошной гостиницы или каюта стометровой яхты? Как пахнет богатство?

Ответ прост: никак (если отбросить занудство и не брать в расчет «тонкие ароматы живых цветов» или «свежесть морского бриза»).

Просто воздух, без каких-либо примесей – вот настоящий признак успешности и достатка. Дышать им – дорогое удовольствие. Заходя в благополучный район, мало кто останавливается из-за запаха. В лучшем случае между делом отметит, «как тут здорово дышится».

На выходе из метро Агент остановился.

Ветер принес с собой горечь озона от перегруженных энергосетей и едкий аромат дешевого топлива, сгорающего в старых машинах.

Это был район новостроек. Город, наводняясь приезжими, выплеснулся за свои привычные границы. Со всех сторон виднелись трубы доживающих свои последние годы заводов. Производства потихоньку вытеснялись на менее обжитые территории, освобождая место для монструозных аляпистых многоэтажек. Нескончаемая стройка добавляла к букету запахов флер ацетона и резины от дешевой краски.

Деньги не пахнут. Их отсутствие – еще как.

Агент поморщился и пошел к дому Объекта.

Интеллектуальная система распределения электроэнергии продолжала гасить свет, разгоняя по домам припозднившихся прохожих. Человеку из двадцатого века это показалось бы весьма странным – гасить фонари с наступлением ночи, когда они нужны больше всего. Он бы сказал, что в этом нет логики, что система сломалась и нужно срочно вызывать аварийную службу.

Но система на самом деле работала превосходно, ведь к этому часу подавляющее большинство жителей района уже отдыхали в своих квартирах. А значит, дефицитная электроэнергия была гораздо нужнее для обеспечения их уюта и комфорта. За это отвечала Хелпи Ви – система умного дома, разработанная компанией BrAInS. Она была тесно интегрирована со всей бытовой техникой, городской инфраструктурой и курьерскими службами; отвечала за уборку, наполнение холодильников свежими продуктами, питание домашних питомцев и многое другое. Словом, брала на себя большую часть повседневных домашних забот. Помимо этого, Хелпи Ви следила за здоровьем и настроением обитателей квартиры, помогая вовремя вызвать врача или выбрать подходящее развлечение.

Не было никакого смысла и желания покидать квартиру, оснащенную Хелпи Ви. Переступив порог дома вечером по возвращении с работы, мало кто выходил на улицу вплоть до самого утра. Система распределения электроэнергии прекрасно это понимала. Поэтому нелогичное для человека двадцатого века вечернее отключение фонарей было абсолютно оправданно и даже необходимо, ведь Хелпи Ви управлялась довольно продвинутой нейросетью, требовавшей для своей работы значительных ресурсов.

У Объекта подписки на Хелпи Ви не было. Поднявшись на лифте до квартиры, Агенту пришлось открыть дверь металлическим ключом. Каменный век. У всех соседей, конечно же, стояли биометрические сканеры.

Агент зашел внутрь.

Дыра.

Лучшее, что смог себе позволить вчерашний студент, – маленькая студия на окраине города. Зато внутри чистенько. Все вещи аккуратно разложены по своим местам. Объект, судя по всему, педантичен. Это хорошо. Агент – такой же. Проще поддерживать легенду.

Он надел наушники, включил негромко музыку и уселся за ноутбук.

Так поступил бы Объект.

Операцию подготовили в спешном порядке за два дня. И уже завтра придется работать без поддержки, чего никто не делал уже лет пять. А значит, остался только этот вечер, чтобы узнать как можно больше об Объекте. При этом нельзя исключать вероятность слежки. Нужно вести себя осторожно. Даже когда ты один.

Особенно когда ты один.

Агент делал вид, что просто просматривает соцсети. Аналитики Бюро поняли, чем он занимается (уже успели удаленно взломать ноутбук Объекта), и включили Суфлер. Тот начал описывать все, что отображалось на экране: комментировал фотографии и видео, раскрывал наиболее важные детали, давал краткое досье на людей.

Закончили ровно в полночь. Дальше продолжать было нельзя. Следовало придерживаться распорядка дня Объекта. Жаль, что времени на подготовку дали так мало, оставалось еще слишком много пробелов в биографии Объекта, которые стоило закрыть до внедрения.

Использовать Суфлер в Издательстве не получится. Передающее устройство моментально обнаружит охрана на входе. Нужно незаметно убрать его из уха и оставить дома.

Не исключая вероятность слежки.

Агент вынул наушники, незаметно подцепив ногтем и Суфлер. Положил в ящик стола.

Все, теперь можно смело идти через любые детекторы. Наноботы для них невидимы: сделаны из какого-то специального материала (Агент даже не пытался запомнить название) и связаны только с нервной системой носителя, то есть во внешний мир ничего не излучают.

Агент лег спать в половине первого ночи.

Так поступил бы Объект.

«Правдоруб»

У входа в Издательство образовалась небольшая очередь сотрудников, готовящихся к проверке. Всю электронику следовало оставить перед рамкой детектора, в личной ячейке с клеткой Фарадея – такая предоставлялась каждому работнику.

Агент положил туда смартфон. За рамкой детектора в такой же ячейке его ждал рабочий коммуникатор – единственное мобильное устройство, разрешенное на территории офиса. Оно давало доступ к информационным ресурсам компании и внутрикорпоративному мессенджеру.

Агент захлопнул дверцу ячейки и запер ее отпечатком пальца Объекта.

Других личных устройств у него не было. Если не считать наноботов по всему телу.

Подходя к рамке, он немного занервничал. Широкие ворота внешне походили на старомодные металлодетекторы из донейросетевой эпохи. Но на этом сходство заканчивалось. За матовыми пластиковыми панелями скрывались секретные запатентованные технологии компании BrAInS. Ее логотип нависал над проходящими досмотр сотрудниками Издательства. Грозно, как надзиратель. Ниже виднелась расшифровка акронима:

Brave AI new Society

Это сотрудничество было давним: Издательство поставляло техногиганту контент для обучения нейросетей, а BrAInS в ответ делились самыми передовыми технологиями.

Человек впереди прошел внутрь здания, настала очередь Агента.

Инженеры Бюро с абсолютным спокойствием и слегка снисходительной улыбкой уверяли, что все пройдет гладко. Правда, как это часто бывает с умниками, они были излишне и даже опасно самоуверенны. Ведь очевидно, что специалисты BrAInS тоже не вчера родились. И, вероятно, настолько же убеждены в своем превосходстве над коллегами по цеху.

Теперь Агент стал подопытной крысой в этом противостоянии интеллектов. Правда, крысами обычно рисковать дешевле, чем полевыми агентами под прикрытием, подумал он. Хотя кто знает…

Широким шагом он миновал рамку. Ничего не произошло: не загорелись красные лампочки, не зазвенел звуковой сигнал, не дрогнул ни один мускул на лицах охранников. Кажется, все и правда в порядке. Один – ноль в пользу инженеров Бюро. Надо будет при случае занести им текилы.

Далее следовало подняться на тридцатый этаж.

Забрав корпоративный коммуникатор из клетки Фарадея, он зашел в лифт и нажал на кнопку. В кабине уже ждали другие сотрудники. Разношерстная публика. Менеджеры отдела продаж в элегантных костюмах стояли впритирку с молодыми креативщиками в шортах и шлепках. Ни те, ни другие не обратили на Агента никакого внимания. Удачно. Заменить человека с более плотными социальными связями без возможности использовать Суфлер было бы практически невозможно.

Агент вышел на тридцатом, вспоминая дальнейший маршрут. Налево до туалета, дальше по прямой. Минуем три прохода, на четвертом поворачиваем направо. Пятый компьютер – Объекта.

То есть твой. Ты теперь Объект.

Добравшись до рабочего места, он сел в эргономичное кресло и просмотрел рабочую инструкцию менеджера по качеству контента – младшей редакторской должности.

Инструкция представляла собой глянцевый буклет на пару десятков страниц. Настоящий буклет. Напечатанный в типографии. Казалось бы, излишество и пустой перевод древесины в эпоху цифровых технологий. Но это была не просто бумажка. Эта «библия» на каждом редакторском столе явно имела смысл. По всей видимости, корпоративная святыня должна была одним своим видом напоминать сотрудникам о незыблемости изложенных в ней правил и наставлений и внушать благоговейный ужас от одной мысли об их нарушении.

Большая часть буклета была посвящена описанию программы «Правдоруб» – основного инструмента редакторов.

«Правдоруб» умел делать все: исправлять орфографию, пунктуацию и стиль, выдавать редакторские комментарии и правки, проверять текст на плагиат и даже отличать контент, написанный человеком, от сгенерированного нейросетями.

На основе всех этих правок и проверок «Правдоруб» (также автоматически) решал, насколько контент хорош, и выдавал простой вердикт: брать в производство, отправить на доработку или выкинуть.

Особое внимание составители инструкции уделили вопросу использования нейросетей. «Категорически запрещено!» – гласила надпись в большой красной рамке. Издательство брало в производство исключительно человеческое творчество.

Отложив инструкцию, Агент перешел к изучению рабочих обязанностей Объекта.

Требовалось прогнать через «Правдоруб» несколько диалогов: проверить на плагиат, оценить уровень привлекательности для зрителей. Счетчик в углу экрана показывал количество открытых задач. Тридцать штук – есть чем заняться. Агент решил не терять времени и принялся за работу.