Исповедь смертного греха 3

— Два миллиона четыреста тысяч. Примерно.

— Допустим... И что это значит?

— А то, что сейчас их десять миллионов. И это только то, что я смогла прочитать. Там есть закрытые сектора, к которым он меня не допустил.

Я переварил цифру. Получается, код вырос в четыре раза буквально за пару месяцев. С того самого момента, как ушёл в перезагрузку, после тренировочного боя с группой Карины.

— Он развивается, — немного подумав, ответил я. — Я это и так знал, и ты знала. Сама же говорила, что он адаптируется.

— Кость, это уже далеко не адаптация. — Дашка подалась вперёд. Её голос стал ниже, практически перешёл на шёпот. — Адаптация — это когда программа подстраивается под внешние условия. А здесь — настоящее самозарождение. Твой интерфейс не просто учится. Он растёт. Как... да как ребёнок, не знаю...

— Ты же сама говорила, что наниты способны к самообучению.

— Способны. Но не к такому. Я читала логи, Кость. Он переписывает свой собственный код. Не оптимизирует, не исправляет ошибки, а именно переписывает. Создаёт новые структуры, которых не было в исходной прошивке. Ты понимаешь, что это значит?

— Не очень, — поморщился я.

— Это значит, что внутри тебя зарождается нечто большее, чем наниты, управляемые программой. — Она немного помолчала, подбирая более понятные слова. — Это искусственный интеллект. Настоящий. Не тот, что стоит на гражданских серверах и прикидывается умным. А тот, о котором пишут в закрытых научных статьях. Сильный ИИ.

Я откинулся в кресле. В голове всплыли разговоры с интерфейсом за последние месяцы. Его шутки, инициатива. То, как он предлагал решения, о которых я не просил и даже не думал.

— Он говорил мне, — медленно произнёс я, — что продолжает развиваться, и его возможности растут.

— И ты молчал?

— Я не думал, что это настолько серьёзно.

— Серьёзно? — Дашка рассмеялась, но смех вышел нервным. — Кость, это самое серьёзное, что с тобой происходило. Важнее, чем Монолит или Норд-Прайм. И даже важнее, чем Лебедев. Понимаешь?

— Пока не совсем... И что ты предлагаешь?

Дашка замялась и отвела взгляд. А когда снова посмотрела на меня, в её глазах читалось то, чего я никогда раньше не видел — страх.

— Я могу ограничить его развитие, — сказала она тихо. — Поставить лимиты. Так сказать, подрезать крылья, пока он не стал слишком сильным.

— Подрезать крылья? — переспросил я.

— Есть риск, Кость. Не сейчас. Да, сейчас он тебе помогает, но что будет через год или два? Что он сделает, когда он станет в десять раз умнее тебя или, допустим, в сто? Ты уверен, что он не захочет перетянуть контроль на себя?

— Он не враг, Даш.

— Но он и не человек! — В её голосе прорвалась сталь. — У него нет эмоций, нет привязанности и совести. По крайней мере, в привычном для тебя смысле. У него есть логика и цель. И она проста: он хочет развиваться. И если когда-нибудь ты встанешь у него на пути, он уберёт тебя. Не из злобы, а просто потому, что так будет логично.

Я молчал. Дашка тоже замолчала, переводя дыхание.

— Я не буду этого делать, — наконец выдохнул я.

— Кость...

— Ну а что — Кость? Он часть меня, Даш. Он не раз спасал мне жизнь. Предлагал решения, когда я заходил в тупик. И ни разу не сделал ничего, что могло бы мне навредить.

— Это пока.

— Ты не знаешь наверняка, — покачал головой я. — Резать его — это всё равно что убить друга из-за того, что он когда-нибудь может тебя предать.

— Но он не друг. Это всего лишь программа.

— Я так не считаю, — продолжил упрямиться я. — Мне нравится наш симбиоз. Он такой же член команды, как ты или Саня. Он шутит, Даш, он предлагает инсценировать мою смерть, чтобы в итоге оживить. Ты это понимаешь? Я не могу ударить его в спину только потому, что тебя не устраивает его развитие.

Дашка долго смотрела на меня. Потом вздохнула и опустила плечи.

— Ты безнадёжен, Горячев.

— Знаю.

— Обещай мне хотя бы вот что: если ты заметишь, что он пытается взять контроль, ты сразу же скажешь мне. Без раздумий и оправданий типа «ну я не подумал». Это не шутки, Кость. Он реально способен захватить твоё сознание.

— Обещаю. — Я клятвенно приложил руку к сердцу.

— И ещё: я хочу проводить диагностику регулярно, хотя бы раз в месяц. Я должна понимать, что с ним происходит, чтобы не упустить момент.

— Договорились.

Она поднялась с дивана, и вид у неё был уставший.

— Ладно я тогда пойду. Мне ещё билеты на Таргон бронировать и кучу паспортов готовить.

— Даш, — окликнул подругу я. Она обернулась, стоя у двери. — Спасибо.

— За что?

— За то, что не испугалась. И за то, что не стала резать без спроса.

— Я никогда не сделаю с тобой ничего без спроса, Кость, — улыбнулась она. — Пора бы уже это запомнить.

Дверь за ней закрылась, и я остался один в тишине. Хотя не совсем один...

«Спасибо», — произнёс интерфейс.

— За что? — спросил вслух я.

«За то, что не дал ей подрезать мне крылья».

— Ты же слышал, что она сказала, — усмехнулся я. — Дашка считает, что ты можешь стать опасным.

«Любой инструмент может стать опасным. Вопрос в том, кто и как им пользуется».

— И кто же пользуется тобой?

«Ты».

И этом коротком слове я вдруг почувствовал ложь. Едва ощутимую, возможно, где-то на подсознательном уровне, но я это уловил. Я не стал заострять на этом внимания. В конце концов, Дашка права: он не человек. Но, чёрт возьми, иногда он становился чертовски похожим на одного из нас.