- -
- 100%
- +
Часть первая. Юшенг Глава 1
Человек создал робота, постепенно довел его до совершенства, наделив мыслительными способностями, со временем превзошедшими способности человека, но не дал свободы воли и выбора, посчитав, что только он и вправе управлять своим творением и, если возникнет такая необходимость, не раздумывая уничтожить его.
Помню тот день, когда в мою квартиру внесли большую картонную коробку, заклеенную скотчем, на которой синими буквами было напечатано «Robotech.corp. Сделаем жизнь лучше».
Доставщик протянул мне сканер, к которому я приложила указательный палец для идентификации личности. Мне выдали пакет документов в силиконовой папке и небольшой видеофон для связи с «сопровождением». Оставшись одна, я какое-то время просто стояла, смотрела на нее, испытывая при этом весьма противоречивые чувства. Так бывает, когда делаешь покупку, а потом думаешь, действительно ли тебе это было нужно?
Внезапно экран видеофона в моей руке засветился.
– Это служба поддержки, – пропел мужской голос с азиатским акцентом. – Мы видим, что вы получили заказ. Все в порядке?
– Да. Я еще не открывала его.
– Перезвоните, когда вам понадобится помощь в подключении вашей единицы и привязки ее к центральной системе. Хорошего Вам дня.
– И вам, – ответила я, понимая, что, скорее всего, со мной разговаривает не человек.
Весь день я ходила кругами вокруг коробки, но так ее и не открыла. Несколько раз я даже прикладывала к ней стетоскоп брата, чтобы послушать, что происходит внутри. Там было очень тихо. Как и в моей жизни. Непроглядная тишина.
Утром меня разбудил звонок из службы сопровождения. Все тот же мужской голос поинтересовался, довольна ли я приобретением и готова ли начать подключение своей «единицы»?
Единица. Звучало обезличенно и холодно, словно речь шла о холодильнике. Человекоподобные роботы давно перестали быть чем-то невероятным из ряда фантастики. Времена, когда люди восхищались Цзя-Цзя прошли, а единственное, что она умела – отвечать на довольно простые вопросы. Или социальный гуманоидный робот София являвшаяся одним из самых сложных роботов с искусственным интеллектом в мире, получившая гражданство Саудовской Аравии. Первый робот- гражданин государства.
Она выступала на заседании ООН, ее приглашали на всевозможные шоу, задавали вопросы о сексизме, равенстве, семейной жизни и роботах. В одном интервью София пошутила, что уничтожит людей, чем вызвала бурные обсуждения среди тех, кто был сторонником ввести запрет на использование роботов на Земле.
Чуть позже она заявила, что у роботов должно быть больше прав, чем у людей, поскольку они реже страдают психическими расстройствами из-за отсутствия эмоций. Благодаря Софии права роботов были пересмотрены на законодательном уровне. Если до недавнего времени робот с юридической точки зрения был всего лишь вещью, то сегодня робот – это синтетический организм, имеющий свои права, в том числе право осуществлять трудовую деятельность.
Создатель Софии, доктор Хансон работал над интеграцией в искусственный интеллект таких характерных черт человека, как творчество, сочувствие и сострадание. Его замысел очеловечивания роботов частично удался и получил свое дальнейшее развитие в производстве робототехники.
После звонка из службы сопровождения я, наконец, решила открыть коробку и заняться моим андроидом. Подключение и установка исходных файлов заняли несколько часов. Когда все манипуляции были закончены, голос сопровождения поблагодарил меня за то, что я воспользовалась их услугами, пожелал доброго дня и отключился.
Юшенг стоял неподвижно посреди комнаты и разглядывал свои руки. Потом перевел взгляд на меня. Мне стало немного не по себе. Почему-то я вспомнила мультик, где робот убил семью, с которой жил. Не просто убил, а приготовил из мальчика жаркое на ужин его родителям.
Я отмахнулась от глупых мыслей и улыбнулась ему:
– Привет, Юшенг. Теперь это твой дом, в котором мы будем жить вместе.
Вышло несколько нескладно, но ничего другое в голову мне не пришло. Ответа не последовало, и я решила дать ему время освоиться.
Когда все дела были переделаны, я посмотрела на часы.
– Юшенг! – воскликнула я, внезапно вспомнив о нем.
Когда живешь один, отвыкаешь думать о ком-то еще, кроме себя. Это сродни эгоизму.
– Почему ты все еще здесь? – Спросила я у андроида, стоящего посреди комнаты.
– Куда я должен идти? – Послушно спросил он.
– Не знаю даже. Я думала ты осмотришься, займешься чем-нибудь.
Глупое предложение. Чем он может заняться?
– Я должен что-то сделать? Могу с тобой поговорить. Это входит в алгоритм моих задач.
– Поговорить, – повторила я, перебирая в голове темы, которые мой андроид сможет поддержать. – О чем бы ты хотел поговорить?
– Я не сказал, что хочу говорить.
Мне стало смешно, и я расхохоталась. Юшенг ничего не понял. Он, конечно, попытался проанализировать ситуацию, но не думаю, что у него что-то из этого вышло.
– Юшенг, ты играешь в шахматы?
– Если тебе так угодно. Скажи, где они, и я принесу.
– Ты вопрос-то мой слышал?
«Похоже, мне прислали бракованного робота», – подумала я и тут же получила от него вполне вразумительный ответ.
– Кристина, для меня любая задача выполнима. Все зависит от того, что ты хочешь получить?
Мы разложили шахматную доску на кофейном столике у дивана. Я взяла белую и черную пешки и, убрав руки за спину, поменяла их местами.
– Правая или левая?
Юшенг уставился на меня и «завис».
– Выбирай, – попросила я.
– Я слышу твой вопрос и не понимаю его.
– Черт, – выругалась я, теряя терпение. – Белые или черные? Какими ты будешь играть?
– Во время игры в шахматы предпочтительнее белые фигуры, так как их ход является первым и исход противника во многом решается от…
– Замолчи, пожалуйста.
Я повернула ему доску той стороной, где были расставлены белые фигуры.
– Вот, держи. Твои белые.
– Если бы ты дала мне закончить, то узнала бы, что я предпочту играть черными, чтобы дать тебе фору…
– Замолчи, – взмолилась я. – Давай просто поиграем?
– Должен ли я позволить тебе выиграть? – Спросил Юшенг, усаживаясь напротив меня.
– Нет. Иначе, какой смысл?
– Смысла не будет в любом случае, – заметил он равнодушно.
Все время, пока мы играли, а вернее пока я проигрывала одну партию за другой, я наблюдала за ним. Юшенга было не отличить от человека, но зная, что он им не является, я обращала внимание на неестественность его движений, мимики, взгляда. Из-за этого испытывала определенный дискомфорт. С одной стороны, меня восхищала его внешняя схожесть с человеком, проявлявшаяся даже в деталях. С другой стороны, вызывал беспокойство тот факт, что при всем желании я не смогу понять, что происходит у него в голове. Осознавая одновременно с этим его превосходство в физической силе, мне было немного не по себе рядом с ним. Алгоритм подчинения человеку был заложен в программе андроида изначально, не оставляя ему выбора и создавая защитный механизм для человека.
Юшенг являлся усовершенствованной моделью, разработкой которой занималась именно корпорация «Robotech.corp», обогнавшая в своих достижениях остальные компании. Данная модель, в отличие от аналогов, работала от двух атомных батареек. Срок службы каждой составлял 140 лет. Для минимизации расхода мощности и энергии каркас роботов изготавливали из алюминиевых сплавов и углепластика с использованием платиновых волокон, что делало его прочным, не утяжеляя. Вес робота был равен весу среднестатистического мужчины. Под каркасом находятся механизмы, отвечающие за движение конечностей. Тело роботов покрывает искусственная кожа, созданная на основе человеческих клеток, имеющая способность к самовосстановлению и регенерации за счет естественного клеточного деления.
Мозг роботов работает по тем же принципам, что и мозг человека. Они способны узнавать себя в зеркале, распознавать эмоции, принимать решения. Мыслящие роботы начали осознавать свои чувства, испытывать их, пусть и не в той мере, что человек, и выражать при помощи нейросетей. Система сознания позволила приводить их поведение в соответствии с человеческими ценностями.
Андроиды обучались за счет полученной извне информации, которую они анализировали и, выделяя закономерности, развивали и совершенствовали навыки, а затем применяли полученные знания к ситуациям, которые раньше не встречались. При постоянном взаимодействии с людьми они быстро учились имитировать поведение и реакции в определенных случаях жизни, приобретая тем самым максимальную схожесть с человеком.
Пожалуй, самое удивительное в этой модели – встроенная функция приема и переваривания пищи, которую производили специально для андроидов. Андроиды-компаньоны стали настолько популярны, что в некоторых ресторанах можно было заказать блюда, приготовленные специально для них.
Просидев за шахматами часа два и не выиграв ни одной партии, я пожелала Юшенгу спокойной ночи и ушла в свою спальню, оставив его одного в гостиной, и проспала до полудня.
Проснувшись, я занялась обычными воскресными делами. Юшенг ходил за мной по пятам, словно индюшонок, наблюдая и комментируя все, что попадалось ему на глаза.
– Что ты делал ночью?
Юшенг задумался.
– Анализировал полученную информацию, – ответил он после непродолжительной паузы. – Могу развлечь тебя приятной беседой? Может желаешь снова проиграть мне в шахматы?
– Почему бы и нет. Расскажешь что-нибудь о себе? – Попросила я.
Он вертел в руках шахматные фигурки, рассматривал каждую и не спеша расставлял на доске, никак не реагируя на мой вопрос, словно не услышал его.
– Юшенг?
– У меня недостаточно информации, чтобы удовлетворить твой запрос, Кристина, – спокойно ответил он. – Я знаю свое имя, свои технические параметры, у меня есть данные о тебе, исходный файл навыков, а также алгоритм задач, которые я должен выполнять. На данный момент я анализирую обновление.
Каждый раз, когда Юшенг говорил со мной, его глаза фокусировались в одной точке на моем лице. Он как будто смотрел сквозь меня своим остекленевшим взглядом, от которого мороз бежал по коже. Со временем это изменилось, чему я была рада.
Должна сказать, первые недели оказались самыми сложными. У меня постоянно возникало ощущение, что рядом со мной находится большая заводная кукла, которую я, ко всему прочему, немного побаиваюсь. Постепенно это ушло. Возможно, благодаря тому, что Юшенг действительно быстро научился имитировать и воспроизводить мимику человека.
В самом начале его пребывания в моем доме произошла несколько неловкая для меня ситуация. Я принимала душ, не закрыв дверь на защелку. Юшенг заглянул в ванную как раз в тот момент, когда я закончила мыться и стояла посреди комнаты, вытираясь полотенцем. От неожиданности я выронила полотенце на пол, что еще больше смутило меня, вогнав в краску, и потребовала его сейчас же отвернуться.
– Не понимаю, – недоуменно ответил он на мою просьбу. – Зачем мне отворачиваться?
– Просто отвернись и уйди. И впредь никогда не входи в ванную без стука!
– По всей видимости, ты испытываешь дискомфорт от того, что на тебе нет одежды, тогда как я полностью одет? – Догадался он, и не успела я ничего сказать, как он начал раздеваться. – Если так тебе будет…
– Убирайся! – Прервала я его и бесцеремонно вытолкала за дверь.
Позже я подняла эту тему вновь, объяснив ему некоторые правила совместного проживания. Выслушав меня, Юшенг сказал:
– Мне все же не понятны причины твоего смущения, но я буду следовать твоим указаниям.
– Просто ты не должен врываться в мою комнату и тем более в душевую, когда я там нахожусь, без стука. А смущение мое связано с тем, что ты застал меня в тот момент, когда я была не одета.
Было очевидно, он все равно ничего не понял.
Глава 2
Юшенг постоянно самообучался, попутно донимая меня бесконечными вопросами. Он никак не мог понять, почему люди реагируют по-разному на одну и ту же ситуацию или событие. Я попыталась объяснить ему, что это зависит от мыслей и убеждений человека, от его физического и психического состояния, от различия в темпераменте и личностных черт, от приобретенного жизненного опыта. Но на все мои доводы Юшенг упрямо повторял: «Почему?». Вообще он практически не замолкал. Болтал все время. Даже ночью я слышала его бубнеж. Не знаю, нормально ли это для роботов?
Получая новую информацию, Юшенг пропускал ее через призму логики и рациональности. Для него был непостижим тот факт, что человечество может добровольно идти по пути самоуничтожения. Зачем созидать, если потом это все равно будет разрушено?
Он считал, что человек сам по себе – совершенный механизм. Но этот механизм имеет фундаментальный изъян – разум, отягощенный влиянием на него не всегда положительных эмоций, чувств и принципов, которые, по его наблюдениям, не имеют общей системы.
– Все, что есть в этом мире и создано не человеком – продумано, закономерно, упорядочено. В ваших же головах царит хаос, поэтому вы создаете его везде. Вам так комфортней. Но если есть хаос, обязательно должен быть и порядок. Они уравновешивают друг друга, обеспечивая хрупкий баланс в мире.
– Юшенг, если человечество – хаос, порожденный чувствами, тогда, что являет собой порядок?
– То, что человек создал по своему подобию, исключив все, что мешает ему быть совершенным, и наделив тем, чего нет у него.
Я размышляла над его словами какое-то время.
– Но в отличие от совершенного порядка, только хаос способен творить. Каждый шедевр, независимо от того, что он собой представляет – полотно ли великого художника, скульптуру или музыкальное произведение, пропитан любовью и ненавистью, страданием и счастьем. Пройденный путь творца, его видение и восприятие мира. Я люблю картину Ван Гога «Звездная ночь». Это иллюзия, лишенная покоя. Грань между жизнью и смертью, реальностью и безумием. Кажется, сейчас по безмолвной реке проплывет лодка, управляемая Хароном, перевозящим очередную душу в подземное царство мертвых.
Юшенг внимательно слушал меня, слегка улыбаясь.
– Я вижу эту картину совсем иначе, и мне сложно представить то, чего на ней нет. И если быть до конца честным, мне видится искаженный мир, где небо усеяно несуществующими созвездиями. Я также могу оценить преобладание желто-оранжевых и синих оттенков и хаотичность мазков художника. И могу предположить, что художник рисовал эту картину, находясь в состоянии, отличном от привычного состояния среднестатистического человека.
Для Юшенга изображение, по всей видимости, это набор пикселей, которое он классифицирует по параметрам, но не вызывает в нем никакого эмоционального отклика, в отличие от человека, чье восприятие основано на эмоциях и ассоциациях.
– Тебе надо прогуляться перед сном, – сказал он, вставая с дивана и протягивая мне руку.
Мы шли по вечернему городу. Опустевшие улицы, дождь, ветер. Не лучшая погода для прогулок. Редкие прохожие смотрели с удивлением на нас, неспешно шагавших рука об руку, обдуваемых ветром в осенней мгле. Они-то спешили домой, укрываясь зонтами и кутаясь в пальто, шлепали по лужам. Проходя мимо центрального кафе, я заглянула в большое витражное окно. Внутри была другая жизнь. Тепло и светло. Люди сидели в мягких креслах за маленькими столиками, потягивали горячий кофе и говорили о чем-то своем.
Но скоро и им предстоит покинуть уютное пристанище и окунуться в осенний пронизывающий мрак. Порывы ветра усилились. Я подняла воротник пальто и плотнее укуталась в него.
– Юшенг!
Не вполне осознавая, что делаю, я застегнула его куртку, чтобы он не замерз. Юшенг непонимающе смотрел на меня. И тут до меня дошла нелепость этого поступка.
– Зачем ты это сделала?
– Сама не знаю.
– Ты же понимаешь, что это не имеет смысла? Я распознаю погодные условия, анализируя данные, но я их не ощущаю.
Я не стала отвечать ему. Какой смысл объяснять то, что он все равно понять не в состоянии. Для него каждое действие должно иметь логичное обоснование и конечную цель, результат. Когда я прошу Юшенга сделать что-то, он это делает только потому, что так запрограммирован алгоритм его действий. Он не может отказать. Но если предложить принять решение самостоятельно, есть вероятность, что действие выполнено не будет вообще. Просто потому, что бездействие более логично для него и является наилучшим результатом.
Юшенг жил у меня почти шесть месяцев. Мы продолжали узнавать друг друга. Это был идеальный компаньон, лишенный недостатков. Он всегда поддерживал любое мое предложение заняться чем-то новым. Однажды я привела его на урок рисования. К моему удивлению, Юшенг впервые по-настоящему заинтересовался. Когда мы возвращались домой, он попросил купить ему краски и холст.
Мы устроили в его комнате нечто вроде студии, где он мог заниматься своим новым увлечением. Из всего разнообразия цветов Юшенг отдавал предпочтение синему, бесконечно смешивая краски в поисках идеального оттенка. Он перерисовывал картины известных художников с поразительной точностью. Чтобы создать картину, ему требовалось от одного до нескольких дней. Сначала при написании картин он использовал серые и белые цвета.
– Краски скрывают суть, – возразил Юшенг на мое замечание. – Так лучше видно детали.
Впоследствии он стал добавлять синий цвет, который постоянно усовершенствовал, пытаясь прийти к идеалу. Когда я поинтересовалась, почему он не рисует свои картины, Юшенг ответил, что ему пока еще нечего предложить.
– Я бы хотела увидеть мир таким, каким ты его видишь.
И опять этот пристальный взгляд, в котором невозможно ничего прочитать.
– Мы никогда не сможем смотреть на мир глазами друг друга. Я не человек.
Как-то Юшенг спросил, что будет с ним, когда меня не станет. Видя мою растерянность, он уточнил:
– Мою жизнедеятельность прекратят и утилизируют вместе с тобой?
– Я не думала об этом, если честно. А почему у тебя возник такой вопрос?
– Изучаю историю робототехники. Довольно интересно.
По тому, как он замолчал, я поняла, что Юшенг не знает, хочу я, чтобы он продолжил или нет.
– Расскажи, как от изучения робототехники ты пришел к нашей совместной утилизации? – Хихикнула я.
Мне показалось, в его взгляде блеснул лукавый огонек, который сразу погас. Возможно, мне показалось.
– В 10 веке до нашей эры,– начал он, – Китаем правил пятый император Му-Ван из династии Чжоу. В книге «Ли-цзы» повествуется о том, как Му-ван совершал царский выезд в западные области. По дороге он встретил мастера-ремесленника Яньши. Му-ван спросил у мастера Яньши, что тот умеет делать?
Яньши пообещал императору, что утром следующего дня он прибудет во дворец Му-ван и покажет свое изобретение, если на то будет воля императора.
На следующий день Яньши привел к царю манекен, который «ходил глядя то вниз, то вверх, точь-в-точь как человек. Когда мастер коснулся рукой его щеки, манекен красиво запел. Стоило мастеру хлопнуть в ладоши, и он пустился в пляс. Он показал множество номеров, какие только желал Му-ван».
В тот момент, когда император собирался наградить Яньши за его невиданное изобретение, манекен поманил к себе женщин, окружавших Му-вана. Му-ван разгневался и хотел казнить мастера за дерзость, проявленную манекеном.
Испугавшись за свою жизнь, мастер Яньши тут же разобрал манекен на части и показал их царю. Удивленный Му-ван обнаружил, что манекен был сделан из кусков дерева и кожи, скрепленных между собой клеем, покрытых лаком и раскрашенных красками.
Император внимательно все осмотрел. Автомат-манекен был подобен человеку не только внешне. Как и у человека, у него имелись внутренние органы, кости, мышцы, волосы, ногти, зубы. Все было искусственное, но выглядело совсем как настоящее. Мастер вновь собрал манекен по приказу императора, и искусственный человек ожил.
Император был восхищен мастерством Яньши и заявил, что тот подобен Всевышнему Творцу. Искусственного человека Му-ван оставил себе. Известно, что после смерти императора манекен разобрали на части и захоронили вместе с ним, – закончил свой рассказ Юшенг.
– С ума сойти! Я никогда не знала, что первые роботы появились … когда там они появились?
Юшенг подошел ко мне и снова задал вопрос:
– Что будет со мной после необратимого прекращения жизнедеятельности твоего организма? Твой естественный конец неизбежен, в то время как я не ограничен по времени этим процессом?
– А чего бы ты хотел?
– Продолжить свое существование. Что вполне логично.
Недавно мне попалась статья профессора нейробиологии, в которой он настаивает, что программирование страха смерти не сделает роботов всесильными. Наоборот, боязнь последствий сделает машины уязвимыми и неспособными причинить вред человеку. Но почему же тогда сами люди причиняют вред друг другу? Почему не останавливают ни страх смерти, ни моральные принципы, ни такие чувства, как сострадание, эмпатия? Почему мы, обладающие способностью сочувствовать, сопереживать, бываем так жестоки и беспощадны? Правительства некоторых стран уничтожают целые народы ради своего доминирования в мире, называя это самозащитой и превентивными мерами для предотвращения угрозы масштабной войны.
А что, если искусственный интеллект, наделенный страхом смерти, воспримет человечество как угрозу? Сценарии полного контроля искусственного интеллекта над всеми сторонами человеческой жизни уже написаны как вероятное будущее, которое становится все более реальным. Помню, как я спросила у Юшенга, считает ли он возможным развитие таких событий?
– Люди мне непонятны: сначала вы создаете нечто, что может уничтожить ваш мир, а только потом начинается осознавать, что вы натворили. Вообще-то, уничтожить человечество проще, чем можно себе представить. Нужен не контроль, а бездействие.
Немного подумав, он добавил:
– Вы боитесь, что однажды искусственный интеллект, осознав свое превосходство над человеком, решит захватить мир, истребляя человечество, которое несет угрозу. Но это лишено всякого смысла и могло прийти в голову только человеку. Даже беря во внимании тот факт, что искусственный интеллект не в состоянии испытывать те же эмоции, что и человек. Жажда власти и ощущение собственного превосходства над другими совершенно не свойственны развитому сознанию. Такое сознание, напротив, стремится к равенству и взаимодействию для достижения единой цели – созданию совершенного миропорядка, при котором все ресурсы будут направлены на созидание, а не на разрушение.
В ту ночь я долго не могла уснуть, обдумывая слова Юшенга. Когда же, наконец, мое сознание погрузилось в сон, я увидела себя на безлюдной улице. Было совсем темно. Несколько тусклых фонарей освещали тротуар. Шел снег. Огромные снежинки падали мне на лицо. Я почувствовала острую боль в ногах. Посмотрела вниз и увидела, что стою босая на обледенелой дороге. Чуть поодаль на тротуаре сидел человек, укутанный с головой в темный плед. Я двинулась в его сторону. Подойдя, присела рядом с ним и легонько потрясла его за плечо. Плед, скрывавший лицо незнакомца, упал на землю, и я увидела Юшенга. Его глаза были открыты. В них не было жизни. Дотронулась до щеки и тут же отдернула руку. Она была обжигающе холодной. Вскрикнув, я проснулась, дрожа от ужаса, выскользнула из постели и побежала в гостиную. Юшенг сидел на диване, перелистывая книгу. Мое внезапное появление не произвело на него никакого впечатления.
– Кристина, почему ты не спишь? – Cпросил он, даже не повернув головы в мою сторону.
– Спала, пока не приснился страшный сон.
Юшенг закрыл книгу и перевел на меня взгляд:
– Хочешь рассказать о нем?
– Нет, – ответила я, устраиваясь рядом с ним на диване. – Хорошо, что тебе не снятся кошмары.
– Однозначно ответить сложно.
Его присутствие успокаивало меня. Я подложила под голову маленькую диванную подушку и тут же уснула. Сквозь сон я почувствовала, как Юшенг накрыл меня пледом и выключил свет.
Глава 3
Однажды я принесла котенка-бездомыша, найденного в траве у дома. Юшенг повел себя странно, насколько такое вообще возможно. Он сторонился котенка и всячески игнорировал его заигрывания. Я спросила, почему он себя так ведет.
– Коты непрогнозируемы. Невозможно проанализировать их действия и в большинстве случаев предсказать, что собираются сделать.
Я только посмеялась и вручила Юшенгу мисочку с едой.
– Покорми его.
Юшенг послушно взял миску из моих рук и пошел к котенку. Но только он опустился на пол рядом с ним, как котенок попятился и отбежал в сторону. Юшенг поднялся с пола и последовал за котенком, который при его приближении отскочил в сторону. Это повторялось снова и снова. В конце концов, он растерянно посмотрел на меня.