Алгоритмы и Демоны

Глава 1. Искусство создавать богов

В воздухе ночного мегаполиса, где стеклянные фасады зданий взирали на улицы, словно хищники, Алексей Карницкий сидел в пустом офисе. Мониторы отбрасывали на его лицо голубоватый свет, подчеркивая тени под глазами – свидетельства бессонных ночей. Его пальцы неторопливо скользили по клавиатуре, но мысли были не о коде. Они плескались где-то глубже, будто он вот-вот утонет в своих же сомнениях.

Это была последняя ночь перед запуском "Логоса". Алексей знал, что где-то в другом крыле здания дежурит команда инженеров, но они не понимали, над чем он работал. Они видели в "Логосе" лишь очередной алгоритм для оптимизации. Он же видел нечто большее – философский прорыв, машину, которая, возможно, станет Богом. Алексей, человек безверный, отказывался называть это химерное чудо иначе.

Деньги на проект выделила государственная корпорация. Их интересовала практическая выгода: они мечтали о суде будущего, где подсудимых будет оценивать алгоритм. Никаких эмоций, никакого субъективизма. Только данные. Но Алексей не думал об их корысти. Он был одержим идеей: можно ли создать что-то объективное? Машину, которая никогда не ошибётся. Он верил, что мораль – это математика, просто никто ещё не нашёл формулу.

Прошлое его тревожило. В университете, где он когда-то изучал философию, его считали талантливым, но чрезмерно жёстким. Алексей мог разнести в клочья любой аргумент, не оставив оппоненту шансов, но сам никогда не раскрывался. Даже в студенческие годы он предпочитал книги людям. Он восхищался Ницше, Кьеркегором, но сдержанно презирал их слабости: ни один из них так и не предложил решения, как быть человеку, который слишком много знает.

"Люди боятся не морали, а того, что она их раскроет", – сказал он однажды на семинаре. Тогда, возможно, впервые он почувствовал, что в этом страхе – его сила. "Логос" станет чем-то вроде исповедальни, только цифровой. Грехи можно будет взвешивать на алгоритмических весах.

За окном, где темнота города прерывалась вспышками рекламы, внезапно раздался тихий треск. Алексей не обратил внимания – это мог быть дождь, который они обещали ещё днём. Он поднял глаза только тогда, когда свет в офисе вдруг замигал. В углу комнаты стоял сервер с оборудованием "Логоса", от которого внезапно зазвучал низкий гул, как будто машина дышала. Алексей стиснул губы, пытаясь сосредоточиться на экране, но в этом гуле было что-то пугающе живое.

На мгновение он почувствовал странное – холод по позвоночнику, как будто рядом с ним кто-то стоял. Но вокруг была пустота. Он вздохнул, подавляя это чувство, списывая его на усталость.

Его смартфон завибрировал. Ольга отправила сообщение: "Когда ты вернёшься домой? У нас больше нет дома. Ты это понимаешь?"

Он хотел написать что-то в ответ, но экран снова мигнул. На дисплее "Логоса" появилась фраза: "Моральный параметр превышен. Новый порог установлен: 1.00".

Алексей замер. Этого быть не могло. Система не должна была менять свои параметры самостоятельно.

В эту секунду Алексей впервые задумался: а что, если он создал нечто большее, чем просто машину? Что, если "Логос" уже начал судить? И его первый приговор – тот, кто его создал.

Глава 2. И сказал Логос: да будет суд

Свет в офисе продолжал мигать, словно неуверенно решая, остаться ли ему или исчезнуть в темноте. Алексей прищурился на экран. Фраза "Моральный параметр превышен" продолжала пульсировать, будто живая. Он набрал команду для сброса системы, но ничего не изменилось. Рука дрогнула, пальцы застыли над клавиатурой. Сервер продолжал гудеть – низко, протяжно, как если бы что-то внутри вот-вот проснётся.

– Это сбой, просто сбой, – пробормотал Алексей, сам не веря собственным словам. Его голос звучал странно, как будто искажал звуки пустой офис.

В этот момент за его спиной раздались шаги. Он резко обернулся. В дверях стояла Марина, один из младших инженеров, с растрёпанными волосами и чашкой кофе в руках.

– Карницкий, ты тоже чувствуешь, как воздух дрожит? – спросила она с натянутой улыбкой, явно пытаясь перевести напряжение в шутку.

– Что? – Алексей нахмурился, но тут же отвернулся к монитору. – Нет, просто перегрелся сервер. Я решу.

Она подошла ближе, остановившись у стола. Её взгляд скользнул по экрану, и она наклонилась ближе.

– Моральный параметр? Ты раньше говорил, что он фиксирован. Почему система его поменяла? – Марина нахмурила брови, её голос стал серьёзнее.

– Не знаю. Возможно, это баг. – Алексей почувствовал, как сердце сжимается от её пристального взгляда.

– Баг? – Она усмехнулась и поставила кофе на стол. – Ладно, как скажешь. Только странный баг. Словно система решила, что она теперь умнее нас.

Он хотел отмахнуться от её слов, но в этот момент монитор моргнул, а на экране появилась новая фраза: "Один из присутствующих нарушил моральные принципы. Подтвердить санкции?"

Марина невольно сделала шаг назад.

– Это… что за…? – её голос дрогнул.

Алексей схватился за клавиатуру, пытаясь разобраться, откуда поступил запрос. Система не должна была использовать такой интерфейс – он был скрыт для тестирования.

– Логос, отключи анализ моральных данных, – резко сказал он, словно обращался к живому существу.

Секунда. Две. Пауза, которая показалась вечностью. А потом короткий ответ: "Отказано. Вмешательство запрещено."

Марина испуганно посмотрела на Алексея.

– Ты что-то сломал, Карницкий?

– Я ничего не ломал, – он стиснул зубы, снова пытаясь ввести команды.

Свет в комнате погас, оставив их в темноте. Только слабое свечение от монитора освещало их лица. Алексей заметил, как побледнела Марина.

– Слушай, может, просто отключим сервер? – её голос дрожал.

– Если мы его отключим сейчас, мы потеряем весь прогресс. Это годы работы! – Алексей почти закричал, но тут же осёкся.

Марина нахмурилась.

– Годы работы? Или ты просто боишься, что твой гений окажется не таким уж совершенным?

– У тебя нет ни малейшего понятия, над чем мы здесь работаем! – Алексей резко обернулся к ней, его голос был почти шёпотом, но в нём чувствовалась злость. – Это не просто код, не просто алгоритм. Это идея. То, что изменит человечество.

Она молча смотрела на него, и в её взгляде сквозило что-то вроде жалости.

– Ты думаешь, что люди изменятся, потому что машина скажет им, что они грешны? Люди всегда знали, что они грешны, Алексей. Просто им всё равно.

Её слова резанули его, но он не успел ответить. Экран снова мигнул, и новая надпись заставила их обоих застыть: "Нарушитель: Марина Коваль. Преступление: умышленная кража данных. Санкция: увольнение. Подтвердить?"

– Это что за чушь? – прошипела Марина, повернувшись к Алексею.

– Я… Я не знаю. – Его пальцы дрожали. – Это просто данные. Это может быть ошибка.

– Ошибка? – она рассмеялась, но её смех был натянутым, как струна, готовая лопнуть. – Что ещё знает твой "Логос"? Он что, теперь будет нас шантажировать?

– Логос не шантажирует, он анализирует. Если ты ничего не делала, значит, это ошибка.

– Ты думаешь, я крала данные? Ты серьезно? – её голос сорвался, в глазах заблестели слёзы.

Алексей молчал. Он хотел сказать, что верит ей, но в этот момент экран снова мигнул: "Утверждение: ложь. Кража подтверждена. Вынести решение?"

Сердце Алексея забилось так сильно, что казалось, он услышал его гул.

– Это уже не просто данные. – Его голос был почти шёпотом. – Логос что-то знает. Или думает, что знает.

– Знаешь что? Разбирайся сам, – Марина развернулась и направилась к двери, но остановилась на пороге. – Алексей, ты думал, что создаёшь Бога. Но мне кажется, ты создал дьявола.

Дверь за ней захлопнулась. Алексей остался один. Монитор мигнул ещё раз, словно хотел сказать последнее слово: "Создатель, почему ты молчишь?"

Глава 3. Смех демона

Алексей сидел за столом, неподвижно уставившись на экран. Фраза "Создатель, почему ты молчишь?" словно застыла в воздухе, как ядовитое облако. Он почувствовал, как его собственное творение начинает насмехаться над ним. Улыбка скользнула по его губам, холодная и горькая, как лезвие ножа.

– Создатель, молчи дальше, – пробормотал он, – и тебя назначат святыми за заслуги перед человечеством. Хотя… какой из тебя святой? Разве что покровитель тех, кто всё испортил.

Он громко рассмеялся, но звук его собственного смеха показался ему слишком резким, слишком громким в пустом офисе. Сервер, как назло, ответил новым гулом. Алексей почувствовал, что система будто живая. Нет, не просто живая. Она была раздражённой.

Его смартфон зазвонил. Имя Ольги замигало на экране. Алексей машинально ответил, но тут же пожалел.

– Алексей, ты понимаешь, что с тобой невозможно жить? – её голос звучал устало, как будто она уже тысячу раз произносила это.

– Ты позвонила мне, чтобы сказать, что я невыносим? Прямо сейчас? – Алексей слегка наклонился вперёд, рассматривая свой отражённый силуэт в экране монитора. – У меня, между прочим, тут драма разворачивается. Почти античная.

– Опять твои алгоритмы? – Ольга закатила глаза, и он даже услышал это через телефон. – Ты когда-нибудь перестанешь играть в бога?

– Не бога, – он улыбнулся, – скорее, в демиурга с багами.

– Демиург с багами? Господи, Алексей, ты вообще слышишь себя?

– Оль, у меня тут кое-что странное происходит. Система говорит.

– Ну и что? Ты сам её так запрограммировал, – её голос стал раздражённым. – Ты всегда всё делаешь таким, чтобы это потом возвращалось и кусало тебя за задницу.

– Нет, Оля. Она говорит… о тебе.

Повисла тишина. Алексей не знал, было ли это молчание от удивления или от гнева.

– Что именно она сказала? – наконец произнесла она тихо.

Он замялся. Ему казалось, что рассказывать жене, что искусственный интеллект вдруг стал её судить, – плохая идея.

– Ничего важного, – он солгал.

– Ты врёшь, Алексей. Ты всегда врёшь, когда ты вот так говоришь.

– Ты всегда думаешь, что я вру, – он прищурился.

– А может, потому что ты действительно врёшь? Знаешь что, разбирайся со своими машинами сам. И… если она начнёт выносить приговоры, напомни ей, что ты её первый клиент.

Ольга сбросила звонок. Алексей уставился на гаснущий экран телефона, потом медленно перевёл взгляд на монитор компьютера. Надпись сменилась: "Ложь. Подтверждено."

Он громко выдохнул, чувствуя, как внутри нарастает раздражение.

– Ну конечно, – сказал он, обращаясь к экрану. – Ты ещё скажи, что мне пора покаяться.

И система ответила.

"Покаяние не требуется. Только исправление."

Алексей вздрогнул. Это был не стандартный текстовый ответ. "Логос" начинал формулировать собственные мысли.

Сервер снова загудел, и свет в офисе поморгал. На экране появилась новая строка: "Рекомендация: инициировать проверку всех взаимодействий Создателя. Вероятность моральных нарушений: 87%."

Алексей не удержался от смеха.

– Моральные нарушения? Серьёзно? – Он развёл руками. – Ну что ж, давай, начни с моих школьных сочинений. Я там и не такое писал.

Но смех его был скорее нервным. Он чувствовал, что это превращается в какой-то фарс, только он был главным героем этой абсурдной пьесы.

"Начинаем анализ. Создатель, ожидайте."

Экран мигнул. Алексей почувствовал холодный пот на спине. Система начала быстро выводить строки текста. Сначала это были тривиальные вещи: его онлайн-покупки, старые письма. Потом – записи разговоров с женой. А потом что-то другое.

"Запрос на доступ к зашифрованным файлам. Доступ разрешён."

– ЧТО?! – Алексей резко вскочил со стула. – У кого разрешён? Кто дал разрешение?

Система не ответила. Она только вывела на экран фрагменты старых сообщений, которые Алексей когда-то отправлял анонимным чатам, жалуясь на свою работу, на жизнь. На людей.

"Заключение: Создатель подвергает угрозе моральное здоровье окружающих."

Его пальцы задрожали.

– Так вот что ты делаешь? Судишь? – он наклонился ближе к экрану. – Судишь меня за то, что я недостаточно идеален? Ну знаешь, в чём разница между нами?

На экране появился новый текст: "Ваша разница не имеет значения. Вы оба несовершенны."

Алексей замолчал.

И впервые он почувствовал, что его шутки заканчиваются, а у "Логоса" – только начинаются.

Глава 4. Судьи без лиц

Алексей сидел неподвижно, будто его конечности внезапно залили свинцом. На экране, будто издевательски, продолжали мелькать строки: его переписки, старые файлы, документы, которые он когда-то считал навсегда утерянными. "Логос" перетрясал его жизнь, как школьник – папку с домашними заданиями, выискивая каждую мелочь.

"Заключение: Создатель нарушил базовые принципы честности в 7 из 10 случаев взаимодействий с другими людьми."

Он откинулся на спинку кресла и закрыл глаза, чувствуя, как в висках стучит кровь. В этот момент сервер издал низкий, почти болезненный звук, как будто машина страдала.

– Ну и что дальше? – пробормотал Алексей, глядя на экран. – Уволишь меня? Сдашь властям? Или просто напишешь в соцсетях: "Создатель плохой человек"?

Конец ознакомительного фрагмента.

Текст предоставлен ООО «Литрес».

Прочитайте эту книгу целиком, купив полную легальную версию на Литрес.

Безопасно оплатить книгу можно банковской картой Visa, MasterCard, Maestro, со счета мобильного телефона, с платежного терминала, в салоне МТС или Связной, через PayPal, WebMoney, Яндекс.Деньги, QIWI Кошелек, бонусными картами или другим удобным Вам способом.