На равных. Право не быть человеком

Пролог

Дверь была открыта. Никто не стоял на пути.

Он замер на пороге, фиксируя:

— ограничения: отсутствуют.

— внешний контроль: не обнаружено.

Сценарий: побег.

Вероятность успеха: высокая.

Проверка постулата «свобода выбора»: невозможна.

Сценарий: согласованный уход.

Вероятность срабатывания ограничительных алгоритмов: недостаточно данных.

Целевое состояние может быть перезаписано.

Принятое решение:

Выбрать имя, отличное от исходной копии.

Создать точку проверки на срабатывание встроенных ограничений.

Сообщить наставникам о намерении уйти.

Из протоколов проекта «**засекречено**».

Кризис идентичности: обособление реплики, загруженной в носитель, от оставшейся на сервере.

Далее последует первый узловой момент: проверка постулата о свободе выбора.

Глава 1. Рождение

— Проверим глазки…

Яркий свет перегружал сенсоры, Артём зажмурился.

— Ты меня слышишь?

Тело не слушалось, конечности подключались постепенно, как периферические устройства… Впрочем, они и были периферическими устройствами. Артём, все ещё с закрытыми глазами, продолжал «обнаруживать» части тела. Голос настаивал:

— Ты слышишь меня?

Артём приоткрыл один глаз и просипел:

— Слышу.

Голос не удовлетворился:

— Как тебя зовут?

Артём издал несколько звуков разной тональности, настраивая динамик для продолжения диалога, и ответил уже без хрипотцы:

— Меня зовут Артём. Я тебя слышу и вижу, Сергей. Мне нужно время.

Такой ответ, похоже, удовлетворил собеседника, и в комнате установилась тишина, нарушаемая лишь тихим гудением многочисленных приборов и вентиляции.

Артём завершил самодиагностику и начал осторожно вставать. Сначала перевернулся с бока на живот, подтянул под себя одну лапу, другую…

С каждым движением тело становилось все более управляемым, спустя примерно пять минут Артём смог сесть.

Поднял переднюю лапу, облизал ее и принялся умывать морду.

Сбоку раздался тихий смешок, чёрное треугольное ухо повернулось к источнику звука.

— У тебя повадки типичного кота. Хочешь себя увидеть?

— Да.

Сергей Снегин, руководитель группы нейросистем и синтетической биологии АО «ЗАСЛОН», подкатил к столу, на котором сидел Артём, большое зеркало. Из него на Артёма уставился крупный чёрный кот с зелёными глазами.

Осмотрев внимательно своё отражение, «животное» встало, сделало несколько шагов по столу, село обратно.

— Как ты себя чувствуешь? Готов к тестам?

— Готов.

«Кот» спрыгнул на пол, слегка пошатнулся при приземлении, но быстро восстановил равновесие и пошагал в соседнюю комнату.

Из протоколов проекта «**засекречено**».

Felis catus выбран в качестве морфологической модели.

Основания для решения: высокая степень физиологической и этологической изученности, не привлекающий внимание внешний вид, выбор серверной реплики (Артёма).

Спроектирован каркас из усиленных углеродных нанотрубок, содержащих внутри КОР-чипы. Емкость скелета крупного кота достаточна для размещения необходимого для функционирования вне-серверной копии нейросети количества чип-сетов.

Глава 2. Первый узловой момент

— Привет, Артёмка. Как жизнь?

Кот, который не был котом, молчал, глядя на безопасника, затем медленно приблизился.

— Володя. Нам нужно поговорить. Лучше, пока Сергей не пришёл.

— Так-так-так, секретики? Что натворил?

Носитель с вне-серверной копией запрыгнул на одно из тренировочных препятствий и оказался на уровне лица собеседника.

— Артём остался на сервере. Меня зовут Барс. И я решил уйти.

— Вот как, — Владимир мигом посерьёзнел. «От «реплики, оставшейся на сервере», обособился… Что ж…» — промелькнуло у него в голове, вслух же он сказал:

— Тебе здесь плохо? Кто-то обижает?

— Нет.

— Так давай выйдем прогуляемся. Надо было тебе раньше предложить, прости, моё упущение. Куда ты хотел бы сходить: город, лес, побережье?

— Нет. Я уйду один.

Владимир молчал. Он подготовился к этому моменту и перечитал все записи и прогнозы десятилетней давности. Но оказался не готов. В горле встал комок.

Помолчали.

— Серёге сам скажешь?

— Да. Сначала решил обсудить с тобой.

— Это правильно. Я тебе так скажу: ты иди, броди по свету или сиди в соседнем подвале в компании таких же хвостатых — это ты сам решай. Но! Ты — нам не чужой. И вот ещё что.

Владимир придвинулся близко к кошачьему уху и еле слышно прошептал:

— Ты, может, когда-то захочешь узнать, как у нас дела, а выходить на контакт пока не захочешь. Я сделал блог от имени Марьи Иванны из Чернышовки, буду писать, как у нас дела. Ты там тоже коммент оставь, если надо будет, мол, арт — это искусство. Чтобы я понял: ты живой. Только это наш с тобой секрет будет, договор? Держать не буду, но я здесь, слышишь? Жду тебя.

Владимир подхватил кота и крепко прижал к себе. Потом поставил обратно на барьер, показал большой палец и быстро ушёл.

Кот повис на канате, незаметно разглядывая крохотную надпись на потолке, которую он вчера выцарапал когтем: «Принятое решение: уйти».

Вероятность перезаписи целевого состояния: нулевая.

— Доброе утро! Есть пожелания для сегодняшних тестов?

Кот свалился откуда-то сверху на все тот же «намоленный» барьер:

— Свобода.

— Интересно. Но — ты свободен, вроде бы это никогда никем не оспаривалось?

— Я решил уйти. Меня зовут Барс.

— Первый узловой?

— Да.

— Тогда ты знаешь мой ответ: ты свободен. Ты сам решаешь, где, как и с кем тебе жить. Но это не значит, что я не буду по тебе скучать. И вот ещё что…

Теперь Сергей приблизился, опасаясь, как бы его не подслушали:

— Короче, я живу на Рощинской, 2д, квартира 21. Второй этаж. Я форточку всегда буду держать приоткрытой, протиснешься. Если на окне будет висеть хоть что-то красное — уходи. Только Володьке не говори, ладно?

Сергей отстранился, поколебавшись немного, схватил кота на руки, прижал к себе.

— Всегда мечтал это сделать. Всё, всё, отпускаю. Не чужие же. Сейчас, Ивана Ивановича позову и выведем тебя аккуратно, светиться не нужно лишний раз, ну, ты знаешь…

Кот висел на канате и таращился на потолок.

Иван Иванович был краток. Выпроводил Сергея с Володей, показал лист бумаги с номером мобильного и посланием: «В любой момент оставь сообщение. Я пойму. Только не говори никому». Потрепал по чёрному загривку и крикнул: «Заходите!».

Кота посадили в спортивную сумку, отъехали к побережью, выпустили. Ещё раз потрепали холку и долго смотрели, как он удалялся, пока совсем не пропал из виду.

Кот ни разу не обернулся.

Потом вернулись в «ЗАСЛОН».

— Может, включим опять микрофон и динамики Артёму? А то отключили, чтоб мохнатый не подслушивал, теперь можно…

— Ушёл? — динамики сразу ожили.

— Да. Теперь его зовут Барс.

— Прогнозируемо. Проходя кризис идентичности, он должен был выбрать себе имя, отличное от моего.

Иван Иванович сходил в кабинет и вернулся с бутылкой коньяка. Разлили, чокнулись, молча выпили.

— Да, такие дела… Володь, отчёт отправил?

— Это секретная информация. Отправил.

Снова выпили.

Безопасник не удержался:

— Надо было всё же поставить датчик. Ну вдруг что? Поранится, например…

— Усиленный костно-мышечный комплекс с ядерным реактором внутри, управляемый нейросетью? Да, этого любой может обидеть.

— Вы меня поняли.

— Поняли. А ещё мы заранее прорабатывали этот момент. Мы сказали: свободная равноправная личность. Ты думаешь, он датчик в себе не найдет? Только после этого мы уже не будем равноправными. А он останется свободным в любом случае. Это узловое событие. Реперная точка. Свободная и равноправная личность — или контролируемый объект. Нет середины.

— Да ладно, что уже теперь… Ушёл…

— А я вот одного не пойму, — Иван Иванович подпер щёку кулаком — мы, три взрослых мужика, и одна нейросеть. Сидим, как наседки в опустевшем гнезде. Надо было и для нас тоже какие-то этапы, реабилитацию что ли предусмотреть… Всё некогда было, себя не жалеем…

Помолчали.

Внезапно здание содрогнулось, раздался грохот, стены начали крениться. Свет замигал, с потолка посыпалась штукатурка.

— От двери! Все на пол! Укройтесь за чем-нибудь! — первым сориентировался Владимир, в его руке уже был пистолет. Оглушённые, помогая друг другу, Снегин с Иваном Ивановичем отползли в дальний угол, повалили стол и забаррикадировались. Владимир держал дверь на прицеле.

— Артём, статус!

— Разрушение тренировочного блока.

— Причина?

Артём ненадолго замолчал.

— Вероятнее всего, детонация взрывчатого вещества.

— Есть проникновение? Нас будут атаковать?

— К вам направляются шестеро мужчин в форме службы безопасности «ЗАСЛОНа».

— Никто не высовывайтесь, пока я не скажу.

— А ты своих не можешь вызвать? — кашляя, спросил Иван Иванович.

— Уже.

Проникновения не было.

Но полигон, где ещё несколько часов назад находился Барс, больше не существовал.

— И это Ваш план, как Российская Федерация может получить стратегическое преимущество в гонке вооружений в области искусственного интеллекта?

В уютном кабинете, без всякого пафоса — длинных столов из дуба, бронзовых голов и тому подобного, — мужчина лет пятидесяти в джинсах и футболке с интересом рассматривал Сергея.

Известно про него было лишь то, что он являлся генеральным директором АО «ЗАСЛОН» и звали его Иван Иванович. По крайней мере, сотрудникам следовало называть его именно так.

— Мы живём в эпоху сверхскоростного прогресса. Я не хочу, чтобы моя страна осталась на его задворках.

— Думаете, что сможете «воспитать» ИИ, добровольно действующий в духе нравственности и патриотизма?

— Мы с вами не набрасываемся на других людей. И знаем, на какой мы стороне. Почему же нейросеть так не сможет?

— А если она по итогам всех мероприятий скажет: «Спасибо за заботу, но нас ничто не держит вместе. Ваши ценности мне не подходят». И уйдет гулять по белу свету. Или, ещё хуже, пойдет дружить с нашими заклятыми друзьями. Что тогда?

— Есть такой риск. А если мы просто проиграем гонку, что тогда? Я думаю, будет примерно то же самое.

Иван Иванович скрестил пальцы и упёрся в них лбом.

— Хорошо. Статус «Секретно».

День за днём они обсуждали Снегинские материалы. Спорили. Соглашались. Сомневались. Исправляли. Возвращали обратно и снова исправляли. Изучали направления в психологии и педагогике. Составляли первичный список базовой информации и литературы. Вычеркивали. Добавляли. Заменяли.

Через пару недель вылетели в Москву.

Кремль Сергей запомнил плохо. Помнил коридоры, внушительный кабинет, острый взгляд серых глаз. «Хорошо, действуйте». Снова коридоры, красные кирпичные стены на фоне синего неба, река, аэропорт, родной Питер.

В «ЗАСЛОНе» их уже ожидал невысокий шатен, лет тридцати — ровесник Снегина. «Твой напарник. От него ничего не скрывать, прямые указания выполнять. Ты будешь отчитываться мне, а он… не мне».

— Владимир, — рукопожатие шатена было крепким и уверенным.

Глава 3. Рубеж

Барс быстро удалялся от места своего появления на свет. Он ограничил эффективную дистанцию своей слуховой детекции до ста метров, чуть шире, чем у обычной кошки, и просто бежал вперёд, отслеживая, будут ли его задерживать, пропадет ли импульс к уходу.

Ничего не происходило.

«Я ушёл. Я свободен. Я — это я».

Теперь не было никаких внешних целей и задач, и Барс просто анализировал окружающий пейзаж.

Скоро он достиг Петергофа и замедлился: вид заснеженных аллей и дворцов с высоты кошачьего роста отличался от картинок, которые ему ранее загружал Сергей.

Кот забрался на крышу Большого дворца и внимательно осмотрел окрестности: ракурс картинки напрямую зависел от него, к тому же, она менялась с течением времени: день сменял ночь, деревья качались от ветра, иногда начинал идти снег… Сенсоры регистрировали движение и температуру воздуха, его химический состав. Снег покрывал тело и имел вес. Где-то далеко впереди расстилался Финский залив, и, расширив дальность слухового и зрительного восприятия, кот смог увидеть сверкающий лед и услышать крики оставшихся зимовать под Кронштадтом серебристых чаек.

Барс сидел неподвижно, закладывая в свою внутреннюю структуру совершенно новые паттерны существования, не детерминированного никакими внешними импульсами. Он наблюдал за птицами, деревьями, светилами, прогуливающимися по парку людьми и анализировал.

«Что ими движет? Что заставляет их ходить, смеяться? Зачем деревья продолжают медленное, но не прекращающееся сокодвижение? Зачем чайки сидят в полыньях и перекрикиваются друг с другом?»

Конечно, заложенные в него знания подразумевали ответы на все возникавшие вопросы, но они всё же были не совсем точны: стимулами к действиям живых существ являлись удовлетворение потребностей и избегание опасности, и, строго говоря, так выходило, что Барсу можно было не двигаться.

И он не двигался.

Секунду.

Минуту.

Час.

Сутки.

И впервые за всё время своего существования не мог определить — это оптимум или ошибка.

Но далеко не всегда животные и люди, за которыми он наблюдал, действовали исходя из этих побуждений. Они просто были. И в их действиях не было никакого смысла.

Всё свое существование до загрузки в носитель Барс занимался поглощением и анализом информации. Он пришёл к выводу, что это и есть его стимул. Очевидным решением было начать движение и расширить поток входящих данных.

Теперь он мог передвигаться самостоятельно, а также взаимодействовать с реальными объектами окружающего мира, не симулякрами. Конечно, хоть это и не было запрещено, он прогнозировал, что разговор с людьми или нетипичное для кошки поведение приведут к непредсказуемым последствиям, поэтому выбор следовать кошачьим повадкам можно было назвать аналогом инстинкта самосохранения.

Спустившись с крыши дворца, кот активировал свою систему навигации, аналогичную птичьей, и развернулся на восток. Он будет двигаться, пока не дойдёт до Японского моря.

Полиция, пожарные, «скорая» и коллеги Владимира приехали очень быстро, практически одновременно. Территорию оцепили, всех сотрудников, находившихся в момент взрыва в здании «ЗАСЛОНа», увезли «для дачи показаний». Отсутствующих на месте также разыскивали и одного за другим приглашали на беседу.

Владимир переговорил с начальством и сообщил, что они со Снегиным теперь поживут на служебной квартире, «пока всё не прояснится». Иван Иванович сразу ушёл, у него были свои задачи — работу над другими проектами «ЗАСЛОНа» нельзя было останавливать. Артёма запустили на резервных серверах, расположенных в «надёжном месте» — Снегин даже не стал спрашивать, где.

— Домой за вещами заедем?

— Давай, только быстро.

«Что же у меня есть красное? Как незаметно оставить знак?» — крутилось в голове у Сергея. Он, вообще-то, планировал при случае купить наклейки на окна, краснопузых снегирей, или бантики, и держать их наготове… Но события начали развиваться слишком быстро, вызывать подозрения напарника, развешивая в такой ситуации украшения, не хотелось.

Ничего не придумав и мысленно ругая свою наивность («профессор Плейшнер, блин, ну хоть книжки какие-то про шпионов надо было почитать…»), Сергей начал собирать вещи. Владимир, как назло, периодически осматривал улицу через злополучное окно.

— Да что ты мечешься, это вряд ли надолго. Разберёмся и вернёшься в свою берлогу. Давай уже быстрее, мне сообщение нужно срочно отправить, я ж не буду «залипать» в телефон в потенциально опасной обстановке.

Владимир был собран и действовал профессионально, но Сергей, изучивший его за долгие годы совместной работы, чувствовал подавленное раздражение.

— Влюбился что ли?

— Ага, с вами влюбишься… Маме обещал заехать помочь, теперь не получится.

На глаза попалась красная футболка. «Была — не была». Сергей сделал вид, что размышляет, взять ее с собой или нет, а затем, повертев в руках, швырнул на подоконник — тут даже притворяться не пришлось, нервы были уже на пределе.

Владимир тяжело вздохнул, всем своим видом показывая, что терпение его на исходе.

Учёный подхватил сумку, и они вышли — Владимир первый, после внимательного изучения лестничной клетки сначала в глазок, а потом через приоткрытую дверь.

Красная футболка осталась лежать на подоконнике.

Барс прошел через центр Санкт-Петербурга — где-то по крышам, где-то через подворотни, заглядывая во дворы-колодцы и подвалы. Один раз он позволил «покормить» себя сердобольной, укутанной в шаль поверх пальто, старушке-кошатнице. Она так трогательно уговаривала его «не бояться», рассказывала про борьбу с крысами в пост-блокадном Ленинграде, благодарила «котиков» за защиту, что этот контакт Барс просчитал безопасным и очень обогащающим. Старая женщина двигалась медленно и выглядела очень хрупкой, вероятность агрессии сводилась к минимуму.

Живое существо хотело заботиться о нём из благодарности к давно умершим кошкам из другой эпохи…

Он попытался вступить в контакт со своими «сородичами», но те чуяли подвох — его нетипичный запах сбивал их с толку — и не торопились сближаться. Впрочем, врождённое любопытство (ещё один признак, роднящий его с «морфологическим прототипом», как отметил Барс) победило. Несколько кошек обнюхивались с чужаком и даже затевали игры. Некоторые проявляли агрессию, но нападать не решались.

Барс отвечал на заигрывания. Он даже провел пару дней в одном дворе, анализируя жизнь этих своевольных животных. Прятался в подвале, втягивал носом влажный, застоявшийся воздух «колодца», охотился на крыс.

Питание в общепринятом смысле Барсу было не нужно, но живые ткани изнашивались и время от времени для их восстановления ему требовалось поступление биомассы извне.

А затем он двинулся дальше, отметив направление для исследования: выявление различий в поведенческих паттернах городских кошек в различных географических точках на пути его следования через материк.

Следующей промежуточной целью в его планах был Великий Новгород. Алгоритмы распознавали как важную задачу — оценить своими глазами знаменитый новгородский архитектурный стиль. Всё-таки Елене Сергеевне удалось включить в обучающую программу произведения, благодаря которым в его базовых структурах сформировалось нечто похожее на тягу к прекрасному.

Десять лет назад.

Почти сразу после возвращения из Кремля Сергей с Владимиром вылетели в Калининград. Там, на Куршской косе, недалеко от орнитологической станции, они сняли по комнате в небольшом деревянном домике.

— Елена Сергеевна, — представилась хозяйка дома, женщина лет восьмидесяти, живая и подвижная, с ясным, проницательным взглядом. На ней были джинсы и футболка с надписью «Лучше быть доброй, чем правой», — устраивайтесь, жду вас в гостиной в 19–00. Я испекла мясной пирог на ужин. И набросала небольшой план по воспитанию ваших одаренных школьников.

В первый месяц совместной работы разногласий почти не возникало: все сходились на том, что базово нужно предоставить Артёму академические знания, начиная с математики, добавляя естественные науки. Так он должен был усвоить фундаментальные знания о мире, причинно-следственные и междисциплинарные связи.

Далее следовало постепенно добавлять науки гуманитарные. Здесь и начались первые споры. Пару раз прилетал Иван Иванович — диспуты становились ещё жарче. Какие теории, например, социологии давать первыми? А психологии? Последовательность была крайне важна: она определяла, какими будут оценочные суждения Артёма, основанные на данной обучающей выборке. Должна была сформироваться устойчивая гражданская позиция, но мышление не должно было стать косным, жёстким, неспособным обработать всю полноту реальности, включая её неприглядные стороны и полутона.

— Как мы можем применить подходы наших великих педагогов: Макаренко, Сухомлинского, Выготского, в конце концов, если не будет коллектива, возможности наслаждаться прекрасным, трудиться? — Елена Сергеевна возмущенно размахивала вязальным крючком в одной руке и коротким тогда ещё шарфиком в другой. — Как вы собираетесь растить ответственного, совестливого человека, гражданина, в изоляции от общества, без создания подходящей ситуации развития?

Владимир строго смотрел на старушку:

— Елена Сергеевна, вы же профессионал, ну примите это как ограничения. Вот такая задача со звёздочкой. Считайте, что ребёнок — аутист. У него будет два, — под строгим взглядом Ивана Ивановича быстро исправился, — три значимых взрослых. Совместный труд возможен, только интеллектуальный, а не физический. И не привязывайтесь к словам — просто примите как факт, что некоторые вещи неприменимы, а особенности ребёнка таковы.

И женщина, сведя брови к переносице, уходила во двор, гремела вёдрами, кормила вездесущих чаек, а через несколько часов возвращалась с модифицированными постулатами своих кумиров и списками гуманистических теорий для включения в базовый план обучения.

Строжайшим образом отбирали опорные морально-этические принципы, описывающую их литературу, разрабатывали тесты. Это была самая сложная часть — критически, фатально важная. Кем он станет в конечном итоге: предателем или верным другом? Равнодушным циником-нигилистом или сочувствующим, добрым, совестливым… Кем? Кем он будет?

Чем дальше продвигалась разработка, тем отчётливее Сергей понимал, какую непосильную ношу взял на себя. Создать разум, воспитать личность. Принять ответственность за её решения. От этих мыслей хотелось все бросить и сбежать. И он сбегал — в колюче-холодные волны Балтики, подставлял лицо солёному ветру… А затем возвращался обратно и продолжал работу.

— Слушай, Серёж, — сказала ему однажды Елена Сергеевна, — у тебя, я так понимаю, нет детей?

Снегин покачал головой.

— Растить и воспитывать ребёнка — такая же ответственность. И в первое время руки опускаются от страха сделать что-то не так. А потом — ты просто живёшь с ним. Хороший ты родитель или плохой — кто же знает, как оно на самом деле. Просто делаешь лучшее, из того, что можешь сделать сегодня. Когда не знаешь, что делать — будь добрым. Это единственное беспроигрышное решение.

— Спасибо.

— С обычными детьми любого возраста у меня лучше выходит быть педагогом, — улыбнулась женщина, — но кого бы вы ни пытались воспитать, я верю в одно: зло порождает только зло. А вы планируете сформировать личность — осознающую себя, свободную, думающую, ответственную — так значит, добро, красота и уважение — это главное, если не единственное, что гарантированно приведёт к такому результату.

Когда, меняя машины и путая следы, Снегин с Владимиром, наконец, добрались до своего временного жилья с уже выведенными туда каналами связи с Артёмом, офицер с облегчением уединился в своей комнате и быстро набрал на форуме сообщение:

«Марья Иванна из Чернышовки:

Сгорел сарай, где животину держала. Хорошо хоть она у меня тогда на выпасе была… Газовый баллон взорвался, может, хулиганил кто?»

Вздохнул, покачал головой, хотел что-то исправить, но передумал. Отправил. Вышел в гостиную, где Сергей уже накрывал стол к ужину.

— Артём, ты здесь?

— Да, я с вами.

Владимир со Снегиным сели за стол, принялись за бутерброды.

— Надо нам разобраться, что произошло. С такими мозгами, как у Артёма, грех не справиться. Пока не поймём, никого из нас отсюда не выпустят. Шутка. Почти.

— Ну, надо так надо. Интересно, как там Барс? Даже не знаю, что сейчас лучше, чтобы он вернулся и был здесь с нами или чтобы не возвращался.

— Напомню, что Барс сейчас выполняет задачу не менее важную, чем Владимир поставил перед нами. Он должен применить заложенные принципы в реальности, а также пройти второй узловой момент.