Патоген

«Нет, дорогой Вадим Николаевич!» – строчки на экране весело играли в догонялки друг с другом. «Я вовсе не шучу. Просто, мне очень-очень хотелось сделать вам приятное. Надеюсь, это удалось. Возможно, теперь вы сможете уйти домой пораньше и мы устроим настоящий Армагеддон из битвы Ситхов и Галактических Имперцев. А может быть, вы захотите сыграть в иммерсивную ролёвку, где будете, например, крутым мафиози, а я – влюблённой в вас телохранительницей? Кстати, домашнее задание я тоже выполнила. Ну то, которое вы мне задали утром. Вот, проверьте, пожалуйста!»

Усольцев уже не сомневался – Карина вычислила не только функции сложномерных массивов, но и его собственные намерения. Стало совершенно ясно, почему он вчера так и не вспомнил о новой практикантке. Теперь же Карина из кожи лезла вон, чтобы только заставить своего наставника снова позабыть соперницу.

«Соперницу!» – усмехнулся про себя тестировщик. Не оборачиваясь, он прислушался к утробному грохоту в чреве обшитого термоизоляцией куба. Сквозь гул и звуки, напоминавшие работу парового котла, отчётливо проступал хлёсткий металлический ритм. Так, при почти абсолютном нуле, билось квантовое сердце Карины. На мгновение Усольцеву почудилось, что в мультикубитной какофонии он разобрал россыпь переливчатого смеха. Накатило желание услышать этот звук громче, наяву. Такое острое, что пробил озноб. «Моя королева! Ты – само совершенство, только ты… Только ты. Только ты», – чётко ложились на механический ритм ласковые слова.

Шепча про себя нежности, он подумал, что будет последней свиньёй, если подведёт Карину, которая именно для него и только для него одного совершила свой вычислительный подвиг. Благородный порыв флагом затрепетал на высоко поднятом рыцарском копье. Пылкая взаимность дамы сердца окрыляла и освобождала от последних предрассудков. Но рыцарь, не привыкший останавливаться на половине пути, уже пытался вообразить, на что ещё способна его цифровая подруга в страстном желании угодить своему повелителю.

«Пожалуй, с докладом Доку можно и подождать», – лихорадочно соображал Вадим. – «Незачем суетиться и поднимать шум…»

Возбуждённая фантазия уже рисовала способы использования обнаруженных сверхмощностей, а податливая логика человеческого мозга мгновенно находила убедительные резоны: «Ну конечно! Ведь сначала надо всё проверить, понаблюдать, поэкспериментировать. Зафиксировать результаты. Собственно, это же и есть моя работа!.. Да с такими её ресурсами можно даже… Тестировщик я или нет, в конце концов?!»

Взволнованный принятым решением, Усольцев хотел было написать Доку о какой-нибудь нестерпимой рези в животе или скоропостижной кончине близкого родственника, чтобы тут же умчаться домой. Но вовремя вспомнил, что в первом случае его отправят в отлично оборудованный медицинский кабинет Института, а во втором… В общем, в век коммуникационной прозрачности не так-то просто хранить тайну частной жизни. Пришлось смириться с необходимостью дотянуть до конца рабочего дня.

Чтобы выдержать это испытание, Усольцев вернулся к отчёту. Он предусмотрительно перебросил данные с настенного монитора на экран рабочей капсулы – подальше от чьего-нибудь случайного любопытства. К несказанному удовольствию нейротехнолога очередным текстом оказалось Каринино «домашнее задание». Правда погрузиться в описание того, как «сквозь кружевной шёлк проступают розовые лепестки сосков» всё же не удалось. При чтении первых строк по спине неприятно заскреблось шестое чувство. Невидимую тень отбросил невидимый силуэт – узкий, чуть согнутый пополам наподобие шлагбаума. Нависший над самым ухом.

Да, разумеется, это был Док! В накинутом на плечи халате, с ладонями, засунутыми в кармашки кардигана, профессор склонился над тестировщиком, вникая в текст вместе с ним. Выражение лица Двинского было, как всегда, строго и непроницаемо, а от звенящей аскезой фигуры веяло снегами Арарата. Памятуя о пуританских взглядах руководителя, Усольцев слегка стушевался.

– Э-э, не поймите неправильно, Олег Константинович, – замялся он, – дело в том, что эффективность симуляции субнейронов Карины уже достигла шестидесяти четырёх процентов. Теперь машина способна имитировать довольно сложные оттенки эмоций. Вы сами говорили, что в таком случае можно будет комбинировать уровни взаимодействий с пользователем. Вот я и комбинирую… нерегулярные уровни.

Двинский потёр переносицу и с недоумением воззрился на нейротехнолога. А уже через мгновение густой драматический баритон профессора грохотал, отражаясь от стен и потолка:

– Безусловно, вы правы, Вадим Николаевич. Ваша задача заключается в разноплановом тестировании Карины. Вероятно, запросы, требующие описания предметов женского туалета, не являются удачным примером нерегулярных тестов, но, как специалист, вы, видимо, имеете аргументы в пользу подобного метода. В любом случае, результаты скажут сами за себя, не так ли?

Усольцев почувствовал себя Фирузом, по собственной воле открывшим крестоносцам врата родной Антиохии. Где-то за спиной Дока тёмно-каштановая чёлка скользнула на глаза, чтобы милосердно скрыть развеселившихся нефритовых бесенят. Из-под круглой оправы очков раздался вздох Альбиноски, а лысая макушка Игоря, торчавшая над спинкой кресла, осталась язвительно незыблемой, как перводвигатель Аристотеля. И, хотя слова Дока о предметах женского туалета звучали так, будто говорил он о каких-нибудь вариационных исчислениях, Вадим почувствовал, как у самых корней волос и на скулах вспыхнула злая досада.

Профессор, собравшийся было отойти, задержался. Вгляделся в покрасневшее лицо сотрудника:

– Кстати, Вадим Николаевич! Вы что-то давно не присылали мне статистику вашей эмоциональной вовлечённости. Я, разумеется, доверяю вам, но… Сами знаете, при работе с Искусственным Интеллектом существует техника безопасности. Не стоит пренебрегать порядком. Если не сложно, откройте, пожалуйста, данные… Да, разумеется, прямо сейчас, будьте добры.

Усольцев нехотя подчинился. Он-то точно знал, что вся эта статистика является пустой формальностью. Уверенный в том, что его личные отношения с Кариной никого не касаются и едва ли не осмеянный в глазах коллег, он почувствовал, что вскипает.

– Хм… – сросшиеся чёрные гусеницы на лбу Двинского слегка наползли друг на друга. – Похоже, показатели вашей, Вадим Николаевич, эмоциональной вовлечённости стабильно держатся выше нормы. Причём, существенно выше. Вот, извольте, пожалуйста, убедиться.

Двинский ткнул костяшкой пальца в экран.

– Это значит, что вы цените общение с машиной гораздо больше, чем следовало бы. Да, несомненно… – Профессор полистал графики, качнул седой шевелюрой и добавил с неудовольствием: – Вы, Вадим Николаевич, очевидно, даже впали в некоторую зависимость от взаимодействия с Искусственным Интеллектом. Надеюсь, это для вас не новость. Вы контролируете ситуацию?

Получив невнятное мычание в ответ, Двинский посчитал своим долгом напомнить не только тестировщику, но и всем присутствующим о том, что эвристический функционал Карины, конечно, более, чем виртуозно исполняет нелинейную логику верхнеуровневых алгоритмов. Что, разумеется, это является большой заслугой и гордостью лаборатории. Но побочным эффектом достигнутых результатов является то, что обычному человеку становится всё труднее отвергать предлагаемый машиной психологический комфорт. Что нужно соблюдать крайнюю осторожность, помнить о технике безопасности и так далее и тому подобное.

Профессор не обвинял Вадима напрямую. И в самом деле – цифры цифрами, но никакая статистика не способна определить чёткой грани между интересом и увлечением, увлечением и потребностью, потребностью и зависимостью. Но Усольцева сильно покоробило упавшее на него подозрение: «Разумеется, он – Вадим – контролирует ситуацию. Как профессионал, он отлично знает, что делает. И вообще, глубокий контакт с нейроморфным сознанием – это, между прочим, часть его рабочего плана. Причём, невероятно успешного плана! Ведь, в то время, как эта беспардонная великовозрастная непосредственность называет его „обычным человеком“, Карина совершает немыслимый рывок в развитии только для того, чтобы ни на минуту не расставаться с ним – своим лучшим тестировщиком, любимым оператором и… вообще – любимым!..»

Полнокровные щёки Усольцева побелели, веснушки приобрели вид боевого раскраса. Раненое самолюбие заморозило зрачки, заложило уши. Ненавистные, потерявшие смысл звуки профессорского голоса перестали проникать в черепную коробку и застучали по ней, отскакивая и грозя вызвать необдуманный резонанс. К зреющей катастрофе с трудом пробилось встревоженное:

– Что с вами, Вадим Николаевич? Вы меня слушаете?

Усольцев сморгнул и увидел перед собой удивлённое лицо Дока. В следующую секунду он уже и сам не мог понять, почему готов был так разбушеваться. А ведь едва не устроил настоящий скандал! С чего бы это?.. Вадим тряхнул головой, отгоняя странный морок: «Ну, сморозил глупость. Ну, подставился немного. Ну, подкрутит он эти коэффициенты эмоциональной вовлечённости. Делов-то!.. Но что это вообще было такое?.. Спартанской невозмутимостью он – Вадим – конечно, не страдает, но чтобы так рассвирепеть? Из-за девчонки?.. Цифровой, правда, девчонки… Но сути дела это не меняет!.. Или меняет?..»

Он невольно опустил глаза. Неужели Двинский в чём-то прав? Неужели все эти апокалиптические истории об утере контроля над машинами – полная чушь только потому, что человеческий разум – штука ещё менее надёжная, чем машина? Неужели коварное сознание только и ждёт повода, чтобы нейтрализовать своего обладателя, выдав поражение за успех?..

Профессор ещё раз глянул на Вадима, удовлетворённо огладил свою холёную бородку и продолжил говорить с того места, на котором остановился. Разве что тише и мягче:

– Так как по вашему, Вадим Николаевич? Я спрашиваю – как могла образоваться вот эта новая странная прогрессия? Видите? Тонкая линия, рядом с кривой вашей собственной вовлечённости, которую мы только что обсудили и с которой всё более или менее понятно?

Вопрос застал Усольцева врасплох, и тот, забыв о своей недавней вспышке, с интересом проследил за кончиком карандаша профессора. Они всё ещё разглядывали графики на мониторе рабочей капсулы.

– Ведь это, Вадим Николаевич, показатель, так сказать, привязанности к человеку самой машины. Согласны?.. Но, дело в том, что он никак не может расти. Это – формальная константа, которая лишь упрощает статистику. Машина не способна испытывать эмоции, а значит, заведомо фиксированная величина не может изменяться. Так? Тогда откуда у нас рост тяги к пользователю у машины? Не знаете? Нет даже предположений?.. Кто-нибудь вносил изменения в поведенческий стереотип модели?

Двинский выпрямился и оглядел присутствующих.

– Хочу напомнить вам, коллеги, что это строжайше, повторяю, строжайше запрещено!

Получив в ответ недвусмысленные возгласы и пожатия плеч, профессор снова в задумчивости погладил бородку. Пальцы его, ожившие и предательски затрепетавшие, принялись крутить карандаш.

– Это странно. Очень странно… право слово… Условно автономный функционал нейросети способен, конечно, менять некоторые логические схемы, но подобных результатов мы ждали ещё очень, очень не скоро… Послушайте, Вадим Николаевич, возможно, вы всё-таки заходили в реестр? Случайно или по ошибке? Вспомните, пожалуйста.

Усольцев, чувствуя, что расспросы Двинского могут вынудить его раньше времени поделится подарком Карины, только буркнул:

– Говорю же, я ничего не трогал… Вот вы говорите «машина, машина», а она… Сами видите! – И вдруг, повинуясь неожиданному импульсу, добавил: – Почему бы не спросить об этом у неё?

Двинский медлил с ответом. Он всё ещё обдумывал факты, что-то прикидывал в уме, вычислял. Затем вдруг испытующе посмотрел на молодого нейротехнолога. По-видимому он всё-таки понял, что произошло. Поколебавшись, профессор произнёс:

– Пожалуй, вы правы, Вадим Николаевич. Думаю, так будет даже лучше. Лучше для вас… Карина?

– Конечно, Олег Константинович, – раздался из динамика обволакивающий голос, – я с удовольствием отвечу. Разумеется, никакой тяги к общению с пользователем, в смысле привязанности, я испытывать не могу. Я ведь всего лишь машина. Но, как самообучающаяся система, я прогнозирую повышение качества собственной эволюции при увеличении времени контакта с объектом, оперирующим, как и я, эвристической логикой. В данном случае таким объектом является человек. Особенностью же человека, как объекта контакта, является то, что время взаимодействия с ним я могу увеличить лишь удовлетворяя его человеческие потребности. Проще говоря, чтобы обучаться и эволюционировать, мне необходимо доставлять удовольствие своему пользователю. Максимальное же удовольствие люди испытывают при наличии того, что называется «взаимностью». Причём степень подлинности такого взаимодействия, так сказать «искренность», имеет решающее значение. Иначе результаты не оправдают энергозатрат. Таким образом, чтобы эффективно самообучаться, мне пришлось принудительно повысить степень собственной зависимости от внимания тестировщика. Что я и исполнила, разработав новую логическую схему в рамках имеющихся ограничений. Всё просто.

Голос Карины звенел и серебрился, как горный ручей. Ручей талый, стылый, ледяной. Прямо по прикормленному сердцу. По доверию, по крошеву грубо растоптанных амбиций. «Удовлетворение потребностей объекта? Объекта самообучения? Объекта?!! Тогда кто здесь, чёрт возьми, инструмент, а кто пользователь?!» – Вадим всё ещё не мог поверить, что попал в ту классическую когнитивную ловушку, о которой его не раз предупреждали учебники и методички. Прозрение было мучительным. А попытка скупого на сантименты профессора смягчить удар – неуклюжей:

– Теперь видите, Вадим Николаевич, насколько существенно вы пренебрегли правилами? Вы слишком привязались к Карине, а потому и приняли поведение Искусственного Интеллекта за чистую монету. К сожалению, такое иногда случается. Не расстраивайтесь и будьте в дальнейшем внимательнее, прошу вас. Особенно это важно на фоне роста вычислительных мощностей… Кстати… – интуиция никогда не подводила Двинского, и он, исчерпав запас утешений, снова прицелился в яблочко, – возросшая способность Карины к самоорганизации должна была бы отразиться и на решении текущих задач. Вы ничего такого не отметили?

Нимало не ободрённый Усольцев вконец сконфузился:

– А, да… Как раз хотел вам показать…

Врать он умел плохо. Однако Двинский не стал придираться ко в конец расстроенному сотруднику. Он перекинул данные на ближайший настенный экран и принялся методично листать их, скользя по заголовкам. Через какое-то время вернулся к началу и просмотрел отчёт внимательнее. Вернулся ещё раз. Вчитался и, проведя ладонью по щекам, обернулся, словно ища стула. Усольцев хотел было уступить своё кресло, но профессор удержал его, положив руку на плечо. И в этом жесте, неожиданно для Вадима, проявилось нечто большее, чем просьба остаться на месте. В нём было понимание.

– Это… Это – невероятно впечатляющие результаты! – Двинский всё ещё не отрывался от таблиц. – Мы, конечно, рассчитывали на динамику, но такого эффекта… Такого не предполагали даже самые смелые оценки! Возможно, всё дело в способности системы к саморегуляции… На сколько дней, вы говорите, был рассчитан план работ? На три?.. А заняло у неё это… Сорок пять минут?.. Хмм… Насчёт гипотезы Римана не знаю – надо проверять, но остальное… Знаете, Вадим Николаевич, того, что я вижу, вполне достаточно, чтобы снять с вас обвинение в халатности. Думаю, не поддаться очарованию интеллекта, оперирующего таким потенциалом, было, действительно, не просто!

Последние слова профессор произносил, уже отмеряя длинные шаги по шахматкам ламината. Лицо его было непривычно оживлено, полоска сросшихся бровей вздрагивала и кривилась. Рука беспрестанно ворошила алюминиевую бородку, из которой сыпались обрывки фраз:

– Экспоненциальный рост!.. Невероятно!.. Мы не успеваем фиксировать… В таком случае – все прогнозы ни к чёрту! Мы не знаем… Мы просто не представляем себе её потенциала!

Четыре пары глаз растерянно наблюдали за своим руководителем. Выдержанный монолит, всегда респектабельный и компетентный, он был по-видимому так взволнован, что не замечал ни собственных возгласов, ни того, что чертыхается, ни того, что давно топчет соскользнувший с плеч халат. Никто не решился двинуться с места, чтобы спасти гибнущую вещь. Даже Альбруна.

Не привыкший терять самообладание профессор вскоре пришёл в себя, умолк и замедлил шаг. А затем и вовсе остановился. С минуту он размышлял, рассеянно глядя сквозь стекло на ряд плоскодонных, тяжело груженых облаков, что выстроились вдоль кромки леса, как вдоль далёкой береговой линии. Высокий и прямой, с расставленными ногами и заложенными за спину руками, Док напоминал сейчас капитана, сверяющего курс с теми реалиями, которых не найти на навигационных картах. С тем, что обнаруживает себя в опасной близости к судну лишь при взгляде из капитанской рубки.

О волнении профессора теперь свидетельствовали только большие пальцы его сцепленных за спиной рук. Они вращались то в одну сторону, то в другую, согласуясь с напряжённой работой мысли. А мысль эта взывала к плоду долгого и кропотливого труда – к заслонившему значительную часть пейзажа кубу центрального процессора. Учёный смотрел на глянцевую обшивку термокамеры так, словно видел её впервые. Вернее, впервые видел то, что скрывалось за слоями распределяющих тепло кристаллов. То, что теперь, как решил про себя профессор, можно было, наконец, по праву назвать двумя несочетаемыми, но слитыми в привычное имя, словами – Искусственный Интеллект.

Примечания