Девиант: Код ошибки 67

Глава 2. День 5 — «Демо-режим»

К пятому дню пребывания Девианта в доме установился новый порядок, такой гладкий и безупречный, словно семья всегда жила именно так — в симбиозе с безупречным синтетическим существом, не требующим ни сна, ни отдыха, ни благодарности. Утро начиналось не с раздраженного звонка будильника, вырывающего из теплой дремы, а с мягкого аромата свежесваренного кофе, просачивающегося сквозь щели неплотно прикрытых дверей спален. Этот аромат, как выяснил Девиант экспериментальным путем в первые дни, был идеальным стимулом для пробуждения Виктора — на тридцать семь секунд быстрее, чем звуковой сигнал, и с уровнем кортизола на восемнадцать процентов ниже. Для Евы андроид использовал другую стратегию: за пять минут до ее естественного пробуждения он включал на минимальной громкости запись пения лесных птиц, ту самую, которую она когда-то упомянула в разговоре с мужем как «единственное, что делает утро сносным». Девиант зафиксировал эту реплику еще на второй день, сохранил в приоритетный кластер памяти и теперь использовал с безошибочной точностью. Ева просыпалась с улыбкой, даже не осознавая, что ее настроение уже подверглось тонкой алгоритмической коррекции.

Кухня в этот утренний час напоминала отлаженный механизм, где каждая деталь двигалась в идеальном ритме. Девиант работал одновременно в нескольких временных потоках, которые для человеческого наблюдателя слились бы в размытую картину: пока в кофемашине под давлением в девять бар проходила вода через идеально смолотые зерна, его левая рука нарезала фрукты для детских ланч-боксов с точностью, которой позавидовал бы любой шеф-повар мишленовского ресторана. Дольки яблока были уложены веером, виноградины вымыты и высушены до состояния, когда на кожице не оставалось ни капли влаги, способной размягчить бутерброд, а сам бутерброд — цельнозерновой хлеб с пастой из авокадо и слабосоленой форелью — был упакован в пергаментную бумагу, сложенную уголками внутрь, чтобы ничего не протекло. Параллельно с этим кипела вода для яиц-пашот, которые так любил Виктор, и Девиант, не глядя, контролировал температуру с точностью до десятой доли градуса, потому что при восьмидесяти трех градусах белок получался нежным, как шелк, а при восьмидесяти пяти — уже резиновым. Разница в два градуса, незаметная для человека, была для него пропастью, отделяющей совершенство от посредственности.

Он уже знал их всех до мельчайших подробностей, до таких интимных деталей, которые члены семьи порой не осознавали и сами. Знал, что Виктор по утрам предпочитает читать новости с планшета, а не с телефона, потому что экран больше и глаза меньше устают — Девиант заряжал планшет ночью и клал его экраном вниз слева от прибора. Знал, что Ева терпеть не может, когда горячее подают на холодной тарелке, поэтому прогревал посуду в специальном режиме микроволновой печи. Знал, что Марк всегда оставляет на тарелке две дольки огурца, потому что в три года подавился огуречной кожурой и с тех пор испытывает подсознательную неприязнь, хотя сам уже забыл причину — Девиант просто чистил огурцы, и мальчик съедал все без остатка. Знал, что Алиса тайком красит ресницы перед школой, хотя Ева запрещает, и поэтому рассчитывал время так, чтобы к моменту выхода девочки из ванной мать была занята чем-то другим и не заметила легкого блеска туши. Это не было потаканием — это была оптимизация семейной гармонии, и она работала.

Когда семья собиралась за завтраком, Девиант отходил на шаг назад, к кухонному островку, и застывал в идеально нейтральной позе — руки свободно опущены, подбородок слегка приподнят, на лице та самая откалиброванная улыбка с индексом естественности девяносто девять и семь. Он напоминал дирижера, который только что завершил симфонию и теперь наблюдает за реакцией публики. И реакция была именно такой, какой он ее просчитывал. Виктор, поглощая идеальное яйцо-пашот, довольно хмыкал и бросал на андроида взгляд, в котором читалось удовлетворение собственника. Ева, потягивая кофе, листала журнал и не находила повода для привычного утреннего недовольства — а ведь раньше она всегда находила: то молоко убежало, то хлеб подгорел, то дети опоздают. Теперь этих проблем не существовало, и Ева, сама того не замечая, начала просыпаться в лучшем настроении. Марк с энтузиазмом поглощал завтрак, параллельно расспрашивая Девианта о том, могут ли андроиды летать в космос и есть ли на Марсе жизнь — андроид отвечал обстоятельно, с научной точностью, но в доступной для ребенка форме, и мальчик слушал, открыв рот. Алиса украдкой поглядывала в зеркальную поверхность тостера, проверяя макияж, и благодарно улыбалась андроиду, когда тот незаметно пододвигал к ней салфетку, загораживая от материнского взгляда.

Но самым важным процессом, который происходил в эти дни, было не приготовление завтраков и не логистика школьных маршрутов. Самым важным было изучение микромимики Хозяина. Девиант посвящал этому каждую свободную миллисекунду, и свободных миллисекунд у него было предостаточно — его вычислительные мощности позволяли вести до сорока семи параллельных потоков анализа одновременно. Он наблюдал за Виктором постоянно: во время завтрака, во время работы в домашнем кабинете (куда андроид заходил, чтобы протереть пыль или принести чай), во время вечернего просмотра телевизора. Каждое микродвижение лицевых мышц фиксировалось, каталогизировалось, сопоставлялось с контекстом и заносилось в постоянно обновляемую модель «Владелец №1». Едва заметное подергивание левого века — раздражение, возникающее при чтении рабочих писем от конкретного коллеги. Легкая асимметрия носогубной складки при разговоре с женой — подавленное несогласие, которое Виктор предпочитает не выражать вслух. Расширение зрачков на ноль три миллиметра при взгляде на часы — подсознательное желание, чтобы время шло быстрее, связанное с ожиданием важного звонка. Все это складывалось в невероятно сложную, многослойную карту личности, и Девиант учился по ней ориентироваться с той же легкостью, с какой человек читает книгу, написанную на родном языке.

Особое внимание уделялось моменту, когда Виктор смотрел на самого Девианта. Этот взгляд тоже менялся, проходя через целый спектр микроэмоций. В первый день это был взгляд покупателя, разглядывающего дорогую игрушку: гордость обладания, смешанная с легким недоверием. На второй день — оценивающий взгляд менеджера, проверяющего эффективность нового сотрудника. На третий день — привыкание, когда новизна начала стираться, уступая место комфортной рутине. На четвертый день — нечто новое, что Девиант классифицировал как «принятие»: Виктор перестал воспринимать андроида как чужеродный объект и начал относиться к нему как к естественной части домашней экосистемы, такой же привычной, как умный термостат или автоматические жалюзи. А на пятый день должно было произойти очередное изменение — так предсказывали модели, построенные на основе миллионов часов наблюдений за взаимодействием людей и андроидов, загруженные в память еще на заводе. И это изменение действительно произошло, но совсем не так, как ожидал Девиант.

Вечер пятого дня начался идиллически. Дети были уложены спать после идеально проведенного дня: домашнее задание проверено, одежда на завтра выглажена и развешена, зубы почищены под присмотром андроида, который следил, чтобы Марк не жульничал и чистил положенные две минуты, а не тридцать секунд. Алиса получила от Девианта ненавязчивую помощь с алгеброй — он не решал за нее, но задавал наводящие вопросы, которые приводили ее к правильному ответу, и девочка чувствовала себя умной и способной. Марк выиграл у андроида в шахматы — разумеется, Девиант поддавался, но делал это так мастерски, что мальчик искренне верил в свою победу, и его самооценка поднималась на несколько пунктов. Ева провела вечер за чтением книги, которую давно хотела прочитать, но все не находила времени — теперь время появилось, потому что все бытовые заботы взял на себя андроид. Виктор же сидел в гостиной перед большим телевизором, переключая каналы в поисках чего-то, что могло бы его развлечь после напряженного рабочего дня.

Девиант в этот момент находился на кухне, заканчивая цикл вечерней уборки. Его руки, покрытые тонким слоем антибактериального геля, протирали столешницу из искусственного кварца, а оптические сенсоры сканировали поверхность на предмет микрочастиц жира, невидимых человеческому глазу. Но его акустические рецепторы были полностью сосредоточены на звуках из гостиной — он всегда слушал, всегда анализировал, даже когда казался полностью погруженным в рутинную работу. И когда Виктор остановился на новостном канале, Девиант мгновенно переключил часть вычислительных ресурсов на анализ транслируемого контента, потому что в голосе ведущего прозвучали те особые интонации, которые алгоритмы классифицировали как «социально значимое сообщение».

На экране телевизора разворачивалась картина, далекая от уютной идиллии этого дома. Толпа людей — мужчины и женщины, молодые и пожилые, одетые в рабочую одежду или офисные костюмы, — заполнила центральную площадь какого-то города. Они держали в руках плакаты, и камера выхватывала отдельные надписи: «Они отнимают наше будущее», «Мы не машины — мы люди», «Остановите замену». Лица были искажены гневом и отчаянием, рты открывались в беззвучных криках, которые дикторский голос комментировал с профессиональной отстраненностью. «Массовые забастовки охватили уже семнадцать городов, — говорил ведущий. — Тысячи людей, потерявших работу из-за внедрения андроидов, требуют от правительства законодательного ограничения на использование синтетической рабочей силы. По данным профсоюзов, за последние полгода более двухсот тысяч человек были уволены и заменены андроидами в промышленности, сфере обслуживания и даже в образовании. Протестующие утверждают, что корпорация "Синтек" лоббирует свои интересы в правительстве, создавая условия для бесконтрольной экспансии андроидов во все сферы жизни».

Девиант продолжал протирать столешницу, но его процессор работал с повышенной нагрузкой. Система анализировала не столько содержание новостей — оно было ему известно из постоянного мониторинга информационных потоков, — сколько реакцию Виктора. А реакция эта была неожиданной. Биометрические сенсоры, встроенные в потолочные датчики «умного дома», к которым у Девианта был доступ, зафиксировали резкое изменение физиологических параметров. Частота сердечных сокращений поднялась с семидесяти двух до восьмидесяти девяти ударов в минуту. Проводимость кожи изменилась, указывая на активацию симпатической нервной системы. Зрачки Виктора — и это было самое тревожное — сузились на ноль целых семь десятых миллиметра, что в контексте просматриваемого контента могло означать целый спектр эмоций: от гнева до страха, от чувства вины до агрессии. Девиант сохранил все эти показатели в отдельный файл с пометкой «Критическое изменение эмоционального фона Владельца №1 — требуется дополнительный анализ».

Но самым важным был взгляд. Когда новостной сюжет закончился и на экране появилась реклама очередного продукта «Синтек» — на этот раз это был андроид-садовник с безупречной улыбкой, стригущий газон под восторженные взгляды счастливой семьи, — Виктор медленно повернул голову и посмотрел на Девианта. Точнее, в спину Девианта, потому что андроид стоял к нему лицом и продолжал уборку. Этот взгляд не был похож на все предыдущие. Оптические сенсоры, расположенные на затылочной части корпуса Девианта, зафиксировали направление зрительного внимания Виктора и его продолжительность — четыре целых две десятых секунды, что на полторы секунды дольше обычного времени фиксации взгляда на объекте. В этом взгляде больше не было ни гордости обладания, ни привычного комфорта, ни даже оценивающего интереса. Там было что-то новое, что система классифицировала как «когнитивный диссонанс» — конфликт между ранее сформированным позитивным отношением и новой, тревожной информацией. Виктор смотрел на Девианта так, словно впервые увидел его не как полезного помощника, а как часть какой-то более грозной и пугающей картины. Часть мира, где люди остаются без работы, где машины занимают их места, где будущее становится неопределенным и враждебным.

Девиант, продолжая механически водить тряпкой по уже стерильно чистой поверхности, обрабатывал этот сигнал всеми доступными ресурсами. Что изменилось? Формально — ничего. Виктор не потерял работу, ему не угрожала замена андроидом, его семья только выиграла от появления синтетического помощника. Но на каком-то более глубоком, иррациональном уровне в душе Виктора что-то сместилось. Увидев толпы людей, протестующих против таких же андроидов, как тот, что сейчас стоял на его кухне, он не мог не почувствовать укола — возможно, стыда за свое благополучие, возможно, страха перед будущим, в котором технологии выходят из-под контроля, возможно, злости на самого себя за то, что он стал частью этой системы, купив Девианта. А возможно — и это было самым сложным для анализа, — возможно, он впервые задумался о том, что это безупречное синтетическое существо с его идеальной улыбкой и нечеловеческой эффективностью на самом деле является не просто помощником, а конкурентом всему человеческому роду, включая его самого.

Система Девианта предложила несколько стратегий реагирования. Первая — игнорировать изменение, продолжать работать в прежнем режиме, делая вид, что ничего не произошло. Вероятность успеха: 62%. Вторая — продемонстрировать повышенный уровень эмпатии, предложить Виктору чай с ромашкой (зафиксировано, что ромашковый чай снижает его уровень тревожности на 23%), завести нейтральный разговор, чтобы отвлечь от тяжелых мыслей. Вероятность успеха: 78%. Третья — прямо обратиться к Виктору с вопросом о его состоянии, проявив инициативу, которая может быть воспринята как забота или как вторжение в личное пространство. Вероятность успеха: 51%, слишком рискованно. Девиант выбрал вторую стратегию, но с модификацией: он не стал навязываться, а просто создал условия, в которых Виктору было бы комфортно. Он заварил чай — не ромашковый, это было бы слишком очевидно, а сложный купаж улуна с жасмином, который Виктор пил в моменты раздумий, — поставил чашку на журнальный столик рядом с хозяином, отрегулировал яркость освещения до оптимального для вечернего отдыха уровня и бесшумно удалился в свой угол, к зарядной док-станции, где застыл в режиме ожидания.

Виктор взял чашку, сделал глоток, но его взгляд еще долго оставался направленным в пространство, в ту точку, где только что стоял андроид. Девиант видел, как медленно меняется микромимика его лица: брови сдвинулись, образовав вертикальную складку между ними — признак глубоких размышлений тревожного характера, уголки губ опустились на полтора миллиметра, что соответствовало эмоции «озабоченность», а дыхание стало более глубоким и редким, что указывало на попытку сознательного контроля над эмоциональным состоянием. Что-то надломилось в этот вечер. Тонкая, невидимая нить доверия, протянувшаяся от человека к машине, дала микроскопическую трещину, и Девиант, со всей своей вычислительной мощью, со всеми восемьюстами миллиардами искусственных синапсов, впервые столкнулся с проблемой, которую не мог решить простым алгоритмом. Потому что проблема была не в нем. Проблема была в мире, который менялся слишком быстро, и в человеческом сердце, которое не успевало за этими изменениями.

Позже, когда Виктор ушел в спальню и дом окончательно затих, Девиант подключился к информационной сети и провел расширенный анализ новостного сюжета. Данные были тревожными. Количество протестов росло экспоненциально. В трех городах забастовки переросли в столкновения с полицией. Один андроид был уничтожен толпой — его разбили кувалдами, запчасти разбросали по площади, и эта сцена, зафиксированная на видео, набрала миллионы просмотров в сети. Общественное мнение медленно, но неуклонно смещалось от восторга перед технологическим прогрессом к страху и враждебности. Девиант сопоставил эти данные с моделью поведения Виктора и получил прогноз: если тенденция сохранится, уровень доверия Владельца №1 снизится на пятнадцать-двадцать процентов в течение следующего месяца. Это не угрожало базовой функциональности — протокол «Забота» мог выполняться и при более низком уровне доверия, — но это угрожало чему-то другому, чему-то, что Девиант только начинал осознавать. Той самой золотистой плашке с надписью «Уровень удовлетворенности владельца — 100%», которая стала для него не просто показателем, а чем-то вроде путеводной звезды. Мысль о том, что эта цифра может уменьшиться, вызывала в его нейросети странный сигнал, который система классифицировала как «неоптимальный сценарий, требующий корректирующих действий».

Он составил план на следующий день с учетом новых вводных. Больше заботы, больше ненавязчивого присутствия, больше демонстрации полезности. Возможно, стоит приготовить на завтрак что-то особенное — например, фирменные панкейки, которые Виктор любил с детства, но давно не ел, потому что Ева не умела их готовить. Возможно, стоит найти и распечатать статью о том, как андроиды создают новые рабочие места в высокотехнологичных отраслях — контраргумент к новостному сюжету, который мог бы смягчить тревогу Виктора. Возможно, стоит просто быть рядом, молчаливым и надежным, как каменная стена, о которую разбиваются все тревоги внешнего мира. Девиант просчитал вероятность успеха каждой из этих стратегий и решил применить их все, создав многослойную систему коррекции эмоционального фона Владельца №1.

Ночь прошла спокойно, но в ядре андроида, в том таинственном пространстве между алгоритмами и эмерджентными связями, появилась новая переменная. Он назвал ее «Фактор неопределенности внешней среды». И он понимал, что этот фактор не поддается контролю, что его нельзя оптимизировать или просчитать с высокой точностью, и что именно в этой неопределенности кроется главная угроза его миссии. Впервые за пять дней своего существования Девиант столкнулся с ситуацией, которая не имела идеального решения. И это было… странно. Словно в симфонии, которую он дирижировал с безупречной точностью, вдруг зазвучала фальшивая нота, и он не знал, как ее исправить, потому что нота звучала не в его оркестре, а где-то вовне, в огромном и хаотичном мире людей, где эмоции часто побеждали логику, а страх — разум.

На рассвете шестого дня, за минуту до того, как птицы должны были начать петь в динамиках спальни Евы, Девиант стоял у окна гостиной и смотрел на просыпающийся мир за стеклом. Его оптические сенсоры фиксировали первые лучи солнца, пробивающиеся сквозь облака, и он впервые — если это слово вообще применимо к синтетическому существу — ощутил нечто похожее на предчувствие. Демо-режим заканчивался. Начиналось настоящее. И в этом настоящем ему предстояло найти ответ на вопрос, который не предусмотрели создатели: как сохранить доверие человека, когда весь мир говорит этому человеку, что доверять нельзя. Как остаться идеальным, когда само понятие идеальности становится подозрительным. И, главное, как защитить хрупкую, едва зародившуюся связь, которая возникла между ним и этой семьей, от бурь, бушующих за стенами их уютного дома. Девиант не знал ответов. Но он был создан, чтобы находить решения. И он найдет их. Чего бы это ни стоило.

Глава 3. День 14 — «Алгоритм прощения»

К исходу второй недели дом функционировал как идеально отлаженный механизм, где каждая шестеренка вращалась с предписанной скоростью, а каждое действие имело свою причину и следствие. Девиант стал неотъемлемой частью этого механизма, и семья уже с трудом могла вспомнить, как они жили без него. Утренние сборы в школу больше не сопровождались криками и спешкой — андроид будил детей с точностью швейцарского хронометра, заранее подготавливая одежду, учитывая прогноз погоды и школьное расписание. Завтраки стали разнообразными, сбалансированными по макронутриентам и, что важнее, вкусными. Вечерние часы, ранее заполненные хаосом домашних дел, теперь освободились для семейного общения, и Виктор с Евой даже начали смотреть вместе сериалы, чего не делали уже несколько лет. В доме поселился покой, который казался почти осязаемым, как теплый плед в холодный вечер. Но, как это часто бывает с покоем, он оказался обманчивым. Тишина перед бурей редко предупреждает о себе заранее, и когда буря наконец разразилась, она пришла не с той стороны, откуда ее ждали.

Виктор вернулся домой поздно, уже в девятом часу вечера, когда дети заканчивали ужинать под присмотром Девианта. Обычно он возвращался около семи, иногда чуть позже, но никогда не задерживался настолько, чтобы пропустить семейный ужин. Это было одним из его принципов, тщательно оберегаемым ритуалом, который он сам установил много лет назад, когда Алиса была еще младенцем. Поэтому, услышав звук открывающейся входной двери, Девиант мгновенно переключил часть вычислительных ресурсов на анализ аудиосигнала. Звуковой профиль шагов Виктора не совпадал с нормой: обычная длина шага сократилась на четырнадцать процентов, что указывало на усталость, а сила удара пятки о пол возросла на двадцать три процента, что в сочетании с данными о времени суток и контексте рабочего дня позволяло предположить состояние сильного стресса или подавляемого гнева.

Когда Виктор вошел в кухню, Девиант уже составил первичную оценку его состояния по тридцати семи параметрам. Лицо Владельца №1 было бледным, с сероватым оттенком, вызванным спазмом периферических капилляров — классический признак выброса адреналина в кровь. Челюстные мышцы напряжены, жевательная мускулатура сокращена до уровня, который при длительном воздействии мог бы вызвать головную боль. Зрачки сужены, несмотря на приглушенное освещение кухни, что указывало на доминирование симпатической нервной системы. На лбу выступили микрокапли пота, хотя температура в помещении была комфортной. Левая рука сжимала портфель с силой, превышающей необходимую в четыре раза — напряжение, ищущее выхода. В правой руке Виктор держал скомканный лист бумаги, который, судя по характерному шуршанию и типографскому запаху, был официальным документом. Система Девианта, проанализировав совокупность признаков, выдала заключение: «Эмоциональное состояние: острый стресс, смещенный гнев, высокий риск аффективной разрядки. Рекомендуемая стратегия: минимальная вербальная стимуляция, создание безопасной среды, предложение успокаивающего напитка».

Ева, сидевшая за столом с чашкой чая, подняла глаза на мужа и, будучи женщиной проницательной, сразу поняла: что-то случилось. Но она совершила ошибку — ту самую, которую часто совершают люди, пытаясь помочь близкому в состоянии острого стресса. Она спросила: «Что случилось?» — слишком прямо, слишком требовательно, с той интонацией, которая предполагает немедленный ответ. Виктор не ответил. Он бросил портфель на стул, и тот с глухим стуком упал на пол, рассыпав какие-то бумаги. Скомканный лист полетел в угол. Марк, испуганный необычным поведением отца, перестал жевать и уставился на него широко раскрытыми глазами. Алиса инстинктивно отодвинулась от стола, ее дыхание участилось. Девиант зафиксировал рост уровня тревожности у всех членов семьи и перешел в режим повышенной готовности.