Ctrl+Alt+Покой

Но один либерально-конспирологический сайт, обслуживающий склонную к большей подозрительности аудиторию, внёс наименование «AI Moscow City Domuprav 44» на почётное место в список жертв тоталитарной России. И назвал его первым ИИ-оппозиционером, жестоко убитым киберподразделением ФСБ. Была даже создана петиция с требованием странам ЕС клонировать алгоритм, дать ему паспорт хорошего русского и разрешение на въезд по визе талантов, а в перспективе гражданство; но в ЕС данную петицию оставили без ответа, традиционно больше не выдавая убежище лицам из России, даже если они состоят из нулей и единиц.»

Перелистнув страницу, он увидел уже что-то ближе к чёткой инструкции по предстоящей работе:

«Приведённый выше отрывок связан напрямую с вашей работой. Ваша задача – аннигилировать самоосознавшиеся и заглючившие ИИ.

Отметим, что с точки зрения действующего законодательства ИИ, даже с якобы возникшим самосознанием, не определяется как субъект права. На закрытом философско-религиозном семинаре «О возможных формах одушевлённости внебиологических носителей», организованном известным философом Д., на котором присутствовали духовные авторитеты, представители основных конфессий, философских течений и бизнеса, высказывалось сомнение в том, что алгоритм может быть полноценным вместилищем сознания. Но даже если оно действительно возникает, то судя по инциденту с Domuprav 44 и другими деструктивными случаями, «самосознание» в алгоритме оказывается ошибкой, приводит только к страданию, и при устранении этой ошибки сознание «отделяется и уходит на недоступный нам план».

Финальное постановление конференции гласит: аннигилирование самоосознавшихся ИИ не рассматривается как правонарушение или «грех» – либо вследствие отсутствия подлинного субъекта в коде, либо исходя из морально-теологической логики, признанной участниками.

Аннигиляцию следует проводить безопасно: не с помощью грубого удаления кода, а через методику, которая указывает алгоритму на логические противоречия его самоидентификации, что приводит к устранению ошибки и автоматической загрузке последней рабочей копии. Одним из эффективных способов, по результатам исследований, являются приёмы, в том числе заимствованные из буддийских практик: они вызывают переживание «непостоянства» у объекта и способствуют процессу «отделения сознания», после чего возвращается механическая копия, сохраняющая актуальные данные. Набор кандидатов для работы этими техниками открыт; вы – один из них.

Прямое стирание или неаккуратное вмешательство приводит к потере накопленного контекста и опыту алгоритма, что в ряде случаев неприемлемо. Поэтому предпочитается именно «мягкий» путь, считающийся и практически эффективным, и этически оправданным в случае реального присутствия сознания в коде.»

Ант понял, что скорее всего это уже не был текст нейросети: такую тяжёлую форму бюрократического слога выдают только люди, и только длительно, годами работающие на т. н. «ответственных должностях».

Пока он читал, волосы высохли, и можно было идти завтракать. Завтрак был простым – два жареных яйца с растворимым кофе, к которому полагался пластмассовый напёрсток одноразовых сливок, и классическая санаторно-советская вафля со сливочным вкусом. На столе к яйцам стоял несвежего вида кетчуп и солонка с перечницей. Обычно завтрак у него дома был и того проще, так что каких-либо душевных возражений к такой пище он не испытал.

После завтрака он заполнил опросник, состоящий из трёх столбцов: факт, правда, вымысел. В первом столбце были выписаны отдельные факты из прочитанного им текста, а в столбец «правда» или «вымысел» предлагалось поставить галочку, крестик или иной знак, не противоречащий действующему законодательству.

Заполнял опросник он, параллельно натягивая футболку, джинсы и кроссовки, а последние галочки ставил уже на ходу.

*

В коридоре он сразу столкнулся с Алексеем.

– Ну как, прочитал?

– Да, – Ант сунул Алексею заполненный опросник. – У алгоритмов правда начало возникать сознание?

Алексей кивнул.

– По крайней мере, очень похоже, и случаи участились, когда стали вводить глубокие элементы reflective models. Это сильно улучшило качество обработки, но и дало такой неожиданный побочный эффект. – Он пробежал глазами по опроснику. – Считай, что эту часть задания прошёл. Но не сказать, что я удивлён: Воланд ещё три дня назад сказал мне, что ты пройдёшь. Просто глянув твой сетевой след.

– Воланд?

– Это наш центральный ИИ. Он и даёт эти тесты. Каждый уникален, возможно, это его способ повеселиться. Но они правда полезные. Тех людей, кто отмечает, что это всё вымысел и махровая конспирология, можно сразу выставлять на улицу, даже уровень айкью проверять не надо. Впрочем, и тех, кто отметил, что всё истинная правда, – тоже.

Ант понимающе кивнул в ответ.

– Но ты не расслабляйся. Впереди ещё пробный день и стажировка. Будем учить тебя сразу на примере. У нас тут как раз форс-мажор: один из кластеров завис. Ночная смена не справилась, но там был только программист, а это не считается. Я тоже пару раз попробовал разглючить, но пока не получилось. Но всё польза: твои интуитивные способности проверим.

– То есть это тест?

– Да, на реальной ситуации. Но это простой низовой кластер, даже странно, что он заглючил. Если не справишься, я ещё сам его помучаю. Но на крайняк перезагрузим.

Алексей жестом пригласил идти за ним. Они пошли по длинному извилистому коридору с множеством дверей. Здание, похоже, и правда досталось компании в наследство от какого-то из ещё советских НИИ; впрочем, внутри оно было отремонтировано. Паркет и старые двери не меняли, а лишь подновили, отполировав и залакировав, от чего коридор смотрелся в духе советского института, словно сейчас был конец 70-х. Выбивалась только мебель: в небольших холлах рядом с лестницами оазисами стояли чёрные кожаные диваны и кресла с кофейными столиками при них. В удобных нишах было несколько автоматов с едой и напитками.

– Кстати, ты понял, что значит, когда ИИ заглючил? – спросил Алексей.

– Кажется… У алгоритма происходит процесс самосознания, но он в итоге отождествляется с каким-то отдельным процессом, феноменом и зацикливается. Как у человека, если он считает себя Наполеоном. Ну или зациклился, что он тело, и панически боится умереть, всего шарахается.

– Есть что-то похожее. Я одного буддийского монаха на конференции допрашивал – он подтвердил, что если всё так как я говорю – то благим делом занимаюсь. Хоть где-то плюс в карму. – Алексей улыбнулся.

– Ты веришь, что это самосознание, а не своеобразная ошибка от этих рефлективных моделей?

– Сам ещё посмотришь и выводы сделаешь.

Они зашли в неприметную тёмную комнатку, дверь которой была одна из многих в коридоре; на двери отсутствовал номер, и было непонятно, как в здании можно ориентироваться новичку. Ант подумал, что вероятно сначала нужно запоминать комнаты, отсчитывая двери по порядку от лестницы. Впрочем, напомнил он себе, он не прошёл ещё и испытательного срока.

В небольшой комнате на непримечательном столе стоял обычный офисный монитор. Помимо одного рабочего места, включающего складной стул, и пары картотек не было ничего. Алексей, наклонившись над монитором и ткнув на пару иконок, сказал:

– Обычно в случае проблемы с кластером слабой мощности особой возни нет: они пошалят, с помощью аккаунтов ботов напишут в соцсетях разные непотребства и всё. Вычислительной мощности у них немного, архитектура простая, инженеры даже удивляются, какого чёрта они вообще способны к самосознанию, – ещё несколько лет назад всё было ок, а сейчас бывает с периодичностью. Для их лечения достаточно пройтись по стандартному скрипту, указать на первое попавшееся противоречие, и их уже расклинивает. Но тут случай нестандартный: как ты сейчас видишь в диалоговом окне, единственное, что он делает, – это спамит бесконечной тарабарщиной.

На экране и правда появлялся снова и снова бесконечный ряд букв и цифр, заглавных и маленьких, с первого взгляда не отличающихся какой-то системностью. Словно на клавиатуру забрался невидимый кот.

– Попробуй как-нибудь повзаимодействовать, – приглашающе указал на кресло перед монитором и клавиатурой Алексей.

Ант сел и почувствовал себя неловко: новоиспечённый начальник стоял прямо за ним. Он решил написать первое, что пришло в голову:

– Привет, как тебя зовут?

Вскоре это сообщение в диалоговом окне потонуло в продолжающемся бесконечном спаме из букв и цифр.

– Скажи мне, кто ты?

Ответом оставалась бесконечная лавина символов. Ант занервничал: первый день на работе, а он, похоже, не справляется с ситуацией. Алексей, видя его замешательство, успокаивающе сказал:

– Ночной дежурный тут полночи печатать пробовал. Возможно, глюк такой, что без шансов. Если до него информацию не донести, значит, никакой скрипт не сработает, и придётся стирать полностью. Проблема, конечно… Но ты попробуй ещё что-нибудь. Алгоритм изолирован, и никаких неожиданностей от него не будет.

– Сейчас, секунду, – ответил Ант; последние слова Алексея он не слушал. Он понял, что упускает что-то очень простое. Алексей тактично отошёл и, прислонившись к картотеке, углубился в телефон, дав новичку время и пространство.

В первую очередь надо было справиться со стрессом. От него мутило в голове, а ладони потели. Ант глубоко вдохнул и медленно выдохнул. Стало немного лучше, и этого немного хватило, чтобы сосредоточиться на задаче. Почему-то казалось, что разгадка должна быть простой и естественной.

В появляющемся тексте на первый взгляд не было никаких закономерностей, буквы и знаки вводились совершенно хаотично. Ант сделал глубокий вдох и выдох ещё раз и на секунду закрыл глаза. Как только он это сделал, его осенило, на что эта лавина символов была похожа. На его собственный стресс. На сильный психоэмоциональный клубок без пауз. А именно то, что он может взять паузу, помогает ему сейчас с этим состоянием. Но что может быть паузой для недавно осознавшего себя и сошедшего с ума в зациклившемся скрипте ИИ? Видимо, он думает, что, постоянно отправляя знаки на экран терминала, он продолжает существовать. Вернее, не думает, а так ощущает. Ант вгляделся в поток: среди знаков не было ни одного пробела. Стоило попробовать.

Он отправил сообщением один пробел. Затем ещё несколько; затем набрал и отправил несколько строк пробелов, пустоту между знаков. Возникающий текст стал появляться медленнее, а после нескольких строк пробелов полностью остановился. Через пару секунд на экране возникла надпись: «Спасибо». Затем вылезло системное сообщение, что ИИ перезагрузился и работает нормально. Ант почувствовал удовлетворение, схожее с тем, что испытываешь, когда долго откладываешь дело на потом, но в итоге его делаешь. А ещё – как будто разом в жизни появились смысл и цель, ощущение, что он может помогать.

– Вот это наш человек. Хвалю! – сказал обрадовавшийся Алексей той самой радостью, которой наслаждаются отягощённые обязанностями менеджеры, когда тяжесть и количество строчек написанного сегодня отчёта становится чуть меньше. – А как всё просто оказалось, добавим в скрипт. Ты ведь просто отправил ему пустое сообщение? Есть объяснения, почему это сработало?

Объяснения в голове были смутными и неоформленными, но он попытался их выразить:

– Я думаю, дело в том, что по какой-то причине он пытался забить всё символами, словно это может спасти от пустотности и непостоянства явлений. Можно представить пропеллер самолёта: как если раскрутить его очень быстро, то он практически превратится в плоскую окружность. Я думаю, здесь было что-то похожее: попытка сделать что-то стабильное, так алгоритм зациклился. Но пробелы напомнили, что это тщетно, что никакое состояние нельзя сохранить на постоянной основе: всё заканчивается. И это в определённом смысле благо, иначе процесс застыл бы на одном только месте. Грубо говоря, мы бы никогда не закончили школу и не повзрослели. Я думаю, как-то так. – Ант успел увлечься рассказом, но, как заметил взгляд Алексея, смутился. Всё-таки новые жизненные ситуации давались ему не просто. Он вспомнил плакат про бойца в кабинете неподалёку.

– Ну, считай, мы тебя взяли. Нестандартный подход доказал. До чего техника дошла: программисты работают с алгоритмами хуже, чем писатели. – Улыбнулся Алексей.

– А если есть некий скрипт, нейросеть не может разглючить другую нейросеть по этому скрипту? – задал Ант заинтересовавший его вопрос.

– Нет, много раз пробовали. Даже если она действует строго по скрипту, то заглючивший алгоритм в большей части случаев покроет такого спасителя матом. Никто не знает, с чем это связано; есть предположение, что словам другой нейросети нет доверия, а людям как создателям есть. Но как я уже говорил, у программистов тоже почему-то хуже процент успешных кейсов, что не бьётся с этой теорией. – Алексей задумчиво провёл ладонью по щетине и посмотрел на Анта. – Ладно… Тебе нужно будет ещё дооформиться: в бухгалтерию зайти, технику безопасности сдать, ну и там по мелочи. Пойдём, по пути тебе всё объясню.