Калибан

И заметьте еще вот что: до самой эры Колонизации роботы были чрезвычайно редкими и дорогими. Сейчас мы ничуть не удивимся, видя человека, окруженного сотней собственных роботов. Но в первые несколько тысяч лет существования роботов их было во много тысяч раз меньше, чем людей. А к редким и дорогим вещам и отношение совершенно другое, чем к относительно дешевым и общедоступным. Человек, у которого был собственный робот, стоивший во много раз больше, чем все его остальное имущество, никогда бы не додумался использовать робота вместо якоря!

И вот в такой культурной среде формировались Три Закона роботехники. Расхожие байки о кошмарных бездушных чудовищах, слепленных из мертвой плоти; нависшая над миром смертельная опасность, готовая в любой момент выйти из-под контроля; глубокая неприязнь к разумным машинам, отнимающим у бедняков кусок хлеба; недостаток в роботах, из-за которого их воспринимали как дорогостоящую редкость. Заметьте, я говорю сейчас о том, как люди воспринимали роботов, а не о том, каковы были роботы на самом деле. Так вот, эти люди считали роботов жадными до чужого добра чудовищами!

Фреда перевела дыхание и окинула взглядом притихший зал. Ее слушатели потрясенно внимали невероятному рассказу. Фреда продолжила:

– Вот, говорят, что мы, колонисты, – слабые, никчемные людишки, порабощенные собственными роботами. Точно так же много чего поговаривают и о наших друзьях поселенцах, которые зарылись под землю и прячутся там, уверяя самих себя, что жить в пещерах куда лучше, чем под открытым небом, на вольном воздухе. Это их культурное наследие со времен подземных городов-убежищ Земли. Эти два взгляда на жизнь зачастую предстают как взаимоисключающие. Одна культура – слабая и ущербная, в то время как другая – здравая и разумная. Но мне кажется более разумным рассматривать сильные и слабые стороны каждой из них по отдельности. И, по-моему, обе они весьма далеки от совершенства.

Так или иначе, никто не станет возражать, что общество, временной период, в котором создавались Три Закона, гораздо ущербнее нашего. Маниакальная подозрительность, страх, ужасные войны – Земля была тогда кошмарным местом! И наши предки, улетевшие колонизировать новые миры, оставили все это позади. Именно из-за того, что наши предки колонисты не хотели признавать такого наследия, они долго избегали любых контактов с материнской планетой. Тысячелетия мы не желали признаться самим себе в том, что у нас с поселенцами на Земле – общие корни. Мы не допускали их в свои пятьдесят миров, считали неполноценными людьми, и отношения между двумя народами никак не могли наладиться. Другими словами, нас разделяла вражда давно забытых веков. Истоки подозрительности и недоверия между поселенцами и колонистами таятся в страхе и ненависти, доставшихся нам с тех незапамятных времен. Недостатки пережили общество, которое их породило.

Должна сказать еще раз, что все изобретения человечества – отражение своей эпохи. Если это так, то Три Закона – наследие довольно мрачных времен. Тех времен, когда машин боялись и ненавидели, когда новые технологии были направлены во зло, когда винтовка, сделанная роботом, ценилась только потому, что стоила дешевле сделанной человеком, тех времен, когда даже самые богатые люди жили, по нашим меркам, как нищие, а бедняки, по вполне понятным причинам, ненавидели богатых. Я могу сказать много нелицеприятного о нашей с вами культуре, основанной на труде роботов, но есть в ней и много светлых сторон, много непреложных достоинств. В нашем с вами мире сохранилось такое понятие, как «бедность». Но, по крайней мере, никто сейчас не может себе даже представить, что такое настоящая нищета на самом деле. Мы не боимся друг друга, и наши машины обслуживают нас, а не наоборот. Мы создали много прекрасного и величественного.

Но вся наша культура, весь наш мир построен на Трех Законах, созданных в мрачные времена всеобщей ненависти и жестокости. Формулировка Законов построена так, что они предназначены для умиротворения злобных, полудиких людей той эпохи. И, осмелюсь предположить, эти Законы даже в те времена, когда были созданы, предусматривали некий «запас прочности», излишнюю предосторожность. А уж сейчас они безнадежно отстали от действительности.

Итак: для чего нужны роботы? В самом начале ответ, конечно, был простым. Роботы нужны, чтобы выполнять всякую работу. Но сегодня из-за устаревших тысячелетия назад Трех Законов истинное назначение роботов почти забылось, превратилось во второстепенную задачу. Сейчас роботы заняты тем, что оберегают и защищают людей от буквально всего на свете.

Естественно, те, кто создал Три Закона, и подумать о таком не могли! Но для каждого Закона существует некий подтекст, который выработался за многие тысячелетия совместного существования людей и роботов. И этот подтекст очень непросто разглядеть с позиций общества, долго сосуществующего с роботами.

Давайте посмотрим с самого начала и начнем с Первого Закона роботехники: «Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред». Это, конечно, имеет смысл – во всяком случае, так мы привыкли считать. Поскольку робот гораздо сильнее человека, нужно запретить применение этой силы против людей. Точно так же строятся наши собственные, человеческие законы против насилия. Они запрещают человеку использовать робота как оружие против других людей – например, приказывать роботу убить врага. Поэтому мы можем так доверять роботам.

Однако этот Закон ставит существование любого робота в зависимое положение по отношению к жизни любого человека. Это имело смысл, когда роботы были практически не способны говорить и рассуждать отвлеченно, но почти все современные роботы гораздо совершеннее и могут выносить самостоятельные суждения. Этот закон имеет смысл в обществе, где много бедных, а робот – редкое и дорогое удовольствие отдельных богачей. Тогда богачи вынуждены были защищаться от толпы недовольных – они могли приказать охранникам уничтожить своих недоброжелателей. Если бы этими охранниками оказались роботы – результат получился бы поистине ужасающий. Но по сей день всегда и везде существование самых высокоразвитых, умных, утонченных, сильных роботов ничто по сравнению с жизнью самого презренного, отвратительного, жестокого преступника-убийцы!

Второй пункт Первого Закона означает, что в присутствии роботов людям нет нужды защищать свою жизнь. Если я сейчас направлю винтовку на шерифа Крэша, который сидит передо мной, он знает, что ему не о чем беспокоиться.

Фреда на неуловимый, краткий миг представила, с каким удовольствием именно так бы и сделала! Крэш опасен. Сомневаться в этом не приходится.

– Его личный робот, Дональд, защитил бы его. Ариэль, что стоит позади меня на сцене, забрала бы у меня оружие. Собственно, у шерифа Крэша не было бы даже возможности как-то самому позаботиться о своей жизни. Например, если бы он решил взобраться на гору, не думаю, что Дональд отпустил бы его без еще пяти-шести роботов, которые карабкались бы впереди и сзади, все время готовые подхватить шерифа, если вдруг тот сорвется. Кроме того, робот непременно постарался бы в первую очередь отговорить господина от такой рискованной затеи. А то, что такая чрезмерная опека сводит на нет все удовольствие от скалолазания, отчасти объясняет, почему никто из нас не любит ходить в горы.

Кроме того, жизнь в окружении роботов приучила нас всякий риск считать дурным делом и любой риск воспринимать одинаково. Потому что роботы обязаны нас защитить от опасности, какой бы призрачной она ни оказалась, и не должны своим бездействием допустить, чтобы человеку угрожала какая-нибудь опасность – все равно какая! Потому что мы им так велели.

Не будет преувеличением сказать, что роботы с равным рвением бросаются защищать нас и от малейшего риска получить какую-нибудь царапину, и от реальной угрозы неминуемой смерти. Поэтому мы не привыкли различать малую и большую опасности – они для нас одинаковы, роботы защитят нас в равной мере от всего. Мы с вами утратили способность реально оценивать опасность. Я совершенно уверена, что каждый в этом зале знает, что роботы иногда поднимают шум из-за самых обычных, самых невинных на первый взгляд происшествий, которые и опасностью не назовешь. Из-за такой излишней предусмотрительности роботов мы привыкли бояться и избегать любого риска. В общем, боязнь риска у нас перешла с физического уровня на психологический. Отвага и риск кажутся нам непристойными, чем-то таким, что делать не принято. Наша культура учит нас не использовать никакие сомнительные возможности, действовать только наверняка.

Мы убеждены, что риск делает любое занятие недостойным, никчемным. Когда скалолаз взбирается на гору, чтобы насладиться прекрасными видами, все равно постоянно есть опасность сорваться, неважно, сколько роботов ползут за ним и подстраховывают. Когда ученый пытается изобрести что-то новое, он рискует напрасно потерять время, ресурсы, свою репутацию. Когда один человек признается другому в любви, всегда есть риск нарваться на отказ. Элементы риска можно найти буквально в любом занятии!

Но роботы приучили нас к тому, что всякий, любой риск – зло. Их обязанность – охранять нас от опасности, не причинять нам зла, а вовсе не творить для нас добро! Ни в одном Законе не сказано, что робот должен помогать человеку воплотить его или ее мечты, помогать достичь счастья! Их касается только охрана нас от разных неприятностей, но они нисколько не заботятся о наших удовольствиях. Преувеличенная опека со стороны роботов, постоянная забота о нашей безопасности с малых лет приучают людей к мысли, что мудрее не рисковать – не то что понапрасну, а вообще не рисковать! И никто из нас никогда не рискует! И упускает возможность достичь успеха – из опасения провала, неудачи.

Гробовая тишина, стоявшая до сих пор в зале, нарушилась. Поднялся многоголосый шум, раздались отдельные невнятные выкрики – возмущенные, недовольные, протестующие. Люди переговаривались с соседями, качали головами, вздыхали. В воздухе повисла напряженность.

Фреда замолчала, глядя на слушателей. Ей внезапно показалось, что комната стала как будто меньше. Задние ряды придвинулись, стали заметно ближе. Люди, сидящие в передних рядах, казалось, были теперь в нескольких сантиметрах от кафедры.

Фреда посмотрела на Альвара Крэша. Ей показалось, что он так близко, что до него можно дотянуться рукой. Воздух чуть ли не светился от накала страстей, прямые линии комнаты как будто изогнулись, искажая реальную геометрию пространства. Свет засиял ярче, цвета стали насыщенней.

Фреда почувствовала, как колотится в груди сердце. Она кожей ощущала все эмоции собравшихся здесь людей. Возмущение, неуверенность, протест, раздражение, злость, любопытство, смущение – все это стало таким реальным, осязаемым. У нее получилось! Как ни мала была надежда на то, чтобы убедить их, превратить в единомышленников, у нее получилось главное – задеть их чувства, заставить взглянуть на самих себя со стороны. Фреда заинтересовала их, и теперь начнется обсуждение сказанного.

Теперь остается только закончить вечер без скандала. Фреда заглянула в свои записи и снова заговорила:

– Мы боимся рисковать. И что из этого получается? Во всех областях науки, кроме роботехники, мы уступили лидерство поселенцам. Да и то, я уверена, только потому, что поселенцы имеют глупость бояться роботов! – Фреда засомневалась, сумела ли она вложить в эти слова достаточно иронии? Трудно сказать. – Но не только наука у нас спит мертвым сном. Все, буквально все! Новые здания, которые возводят наши роботы, строятся по устаревшим проектам. Колонисты не создают больше новых моделей космических кораблей или аэрокаров. Нет новых лекарств и новых систем поддержания жизни. И мы больше не ведем исследований в открытом космосе. «Пятидесяти планет вполне достаточно» – это стало почти пословицей. Мы говорим это так же, как «лучшее – враг хорошего». Однако Солярия уже саморазрушилась, и у нас осталось сорок девять миров вместо пятидесяти. И если на Инферно все останется по-прежнему, у колонистов скоро будет только сорок восемь планет. Для всего живого прекращение роста и развития – это первый шаг к гибели! И если это так для человеческих цивилизаций – мы все в смертельной опасности!

По всем показателям человеческой жизнедеятельности среди колонистов линии графиков медленно, но неуклонно ползут вниз, хотя по-прежнему не выходят за пределы относительной нормы. Но мы теряем почву под ногами даже в самых жизненно важных областях! Рождаемость на Инферно еще два поколения назад перестала перекрывать смертность, естественный прирост населения уже много лет выражается в отрицательных цифрах! Мы живем долго, но не вечно! И колонисты умирают чаще, чем рождаются. Население планеты неуклонно уменьшается, уже много кварталов в городе пустуют. И тех детей, которые все же рождаются, воспитывают не любящие родители, а толпы роботов, которые неусыпной заботой и опекой отрывают юных колонистов от остального человечества!

Поэтому неудивительно, что многие из нас предпочитают общество роботов обществу себе подобных. С роботами мы чувствуем себя в безопасности, нам уютнее и приятнее в их окружении. Роботы, которые беспрекословно подчиняются нам, защищают нас от любой неприятности – и, конечно же, от самого опасного, что только можно представить, – от других людей! Да-да, мы негласно признаем, что самое опасное – это люди, такие же, как мы сами. Общение с людьми гораздо опаснее, рискованнее, чем общение с роботами. Представьте себе, сейчас все больше людей даже половые потребности удовлетворяют со специально приспособленными роботами! Это стало настолько распространенным явлением, что в некоторых кругах такие предпочтения даже не кажутся чем-то необычным! Люди предпочитают безоговорочную покорность роботов радостям общения с себе подобными! Но ведь они тем самым отказываются от настоящих, живых эмоций, естественных чувств, неразрывно связанных с риском отказа и обид. Вместо этого они попросту удовлетворяют телесные потребности.

Мы, инферниты, почти забыли, как надо держать себя друг с другом. Хочу заметить, что на других планетах колонистов с этим обстоит куда хуже. В иных мирах приверженность к отчуждению, которую мы себе только позволяем, стала чем-то вроде навязчивости, – они не могут иначе! Там люди ужасно страдают, находясь в одной комнате с кем-то еще. Они не в состоянии даже просто прикоснуться к другому человеку – из-за непередаваемого отвращения! На этих планетах вообще нет городов, только разбросанные далеко друг от друга отдельные дома, в которых люди живут поодиночке, окруженные тысячами роботов. Не стану даже упоминать, насколько плохо обстоит вопрос с рождаемостью в таких мирах.

Но прежде чем поздравлять друг друга с тем, что на Инферно все не так плохо, позвольте напомнить, что город все больше и больше пустеет, население Аида убывает значительно быстрее, чем может объяснить падение рождаемости. Все больше и больше людей селятся отдельно, подальше от остальных – как на тех планетах, о которых я говорила только что! Такие уединенные дома-крепости кажутся безопаснее, спокойнее. Наедине с самим собой человек лучше всего защищен от всяких волнений и опасностей.

Друзья мои, мы должны посмотреть в лицо фактам. Первый Закон приучил нас уклоняться от любых попыток что-то предпринять. Приучил нас к тому, что всякий риск есть зло, и единственный способ избежать опасности – ничего не делать самим, предоставить все свои заботы, каковы бы они ни были, роботам. И мало-помалу мы уступаем роботам все, чем должен быть человек, все, что должен человек делать. Мы позволяем роботам жить вместо нас!

Зал отозвался взрывом выкриков и перешептываний, из задних рядов, где сидели Железноголовые, послышались озлобленные, гневные вопли: «Поселенка, поселенка, поселенка!» Железноголовые не могли придумать худшего ругательства.

Фреда помолчала минуту-другую, давая им высказаться, выжидая, пока возмущенный зал не затихнет сам собой. Это сработало, в конце концов волнение улеглось. К Железноголовым оборачивались другие слушатели и шикали на них, чтобы те замолчали, полицейские Крэша подтянулись к задним рядам и пригрозили вывести самых ретивых возмутителей спокойствия. Наконец Железноголовые успокоились.

– Если позволите, я продолжу. Перейдем теперь ко Второму Закону роботехники: «Робот обязан подчиняться приказам человека, если эти приказы не противоречат Первому Закону». Этот закон обеспечивает покорность роботов и ставит их в подчиненное положение по отношению к любому человеку, хотя роботы во многом разумнее и сильнее людей.

Но, исходя из нашего анализа Первого Закона, мы видим, что люди, во всем полагаясь на роботов, попадают в зависимость от них. И Второй Закон только усиливает эту зависимость. Утратив желание и возможность самим заботиться о своем благополучии, люди перестали быть способными на любые решительные действия. Мы не можем ничего сделать для себя, кроме как приказать роботам сделать то, что нам нужно. И большая часть программы образования у нас – обучение тому, как правильно отдавать приказания роботам, чтобы они могли выполнять самые сложные задания.

Что из этого получается: кроме искусства, которое тем не менее пришло в невероятный упадок, мы сейчас не создаем ничего нового! Но если присмотреться, даже наше искусство не избежало влияния роботов.

Мы убеждаем себя, что стиль жизни колонистов позволяет создать высшую, лучшую культуру всех времен и народов, освобождает нас от необходимости тяжко трудиться, позволяет реализовать все лучшие порывы человеческой души. А что получается на самом деле?

Объясню на простом примере. Сегодня мы с вами встретились в одном из лучших залов планеты. Это Дворец искусства, гордый монумент созидательному творчеству. Но кто здесь сейчас работает? Для чего мы используем этот Дворец? Ответ очень прост. Здесь хранятся мертвые остатки нашей культуры, которые роботы собрали по нашему приказу.

Никто больше не ставит спектаклей – ведь это требует слишком много усилий! Я специально поинтересовалась – прошло двадцать лет с тех пор, как здесь последний раз ставили пьесу! С тех пор ни здесь, ни где-нибудь еще в Аиде ничего подобного не было! А представление, в котором участвовали только актеры-люди, давалось последний раз почти полвека назад! А потом все – и главные, и второстепенные роли в пьесах стали исполнять специальные роботы-актеры, подобные людям с виду и подготовленные для того, чтобы воспроизводить на сцене действия персонажей. И все равно это показалось слишком сложным: управлять роботами-актерами, задавать программы для их ролей. И мы сказали себе: стоит ли беспокоиться?

Мне кажется, что великие актеры прошлого ни за что не согласились бы отказаться от творчества. И ни один директор театра не допустил бы, чтобы все его творчество сводилось к выбору пьесы и подходящей группы роботов-исполнителей.

И когда роботы давали представления, зачастую они выступали перед пустым залом. Миллионы и миллионы зрителей, которые смотрели эти пьесы, предпочитали просто включить телевизор, а не идти в театр. Дома – привычнее и безопаснее. И очень редко случалось, что хотя бы двадцать мест в этом зале были заняты людьми. Но зал не казался пустым – остальные кресла занимали человекоподобные роботы, способные всего лишь смеяться и хлопать по команде в нужных местах пьесы. Их неподвижные пластиковые лица достаточно походили на человеческие, чтобы у тех, кто смотрел представление по телевизору, создавалось нужное впечатление, когда камера поворачивалась к залу. И вы, леди и джентльмены, сидели дома и смотрели на представление в зале, полном роботов, глядевших на сцену, где тоже были одни только роботы! Откуда же тогда взяться человеческому участию, человеческим чувствам, которые только и делают театр живым?! Сегодня этот зал наполнен настоящими эмоциями, реальными чувствами. Как можно было надеяться на такое, если бы вместо вас здесь сидели бездушные манекены, запрограммированные отвечать определенным образом на слова и действия других бездушных манекенов на сцене?!

В ответ – неловкая тишина. Фреда заметила, что некоторые слушатели даже начали оглядываться по сторонам, чтобы убедиться, что рядом сидят настоящие живые люди, а не роботы-манекены.

– И в остальных видах искусства – то же самое. В наших картинных галереях выставлены полотна, написанные роботами «по заданию» номинальных авторов-людей. Писатели надиктовывают примерные задумки своих книг роботам-«помощникам», которые потом выдают готовые произведения, несколько «расширив» наметки «авторов».

Должна сказать, что и по сей день есть еще истинные художники, скульпторы, писатели и поэты, которые творят сами. Но не знаю, как долго это будет продолжаться. Искусство вырождается. Признаюсь, мои исследования в этой области неполны. Прежде чем выступить здесь, я интересовалась, знают ли люди, которое из произведений искусства создано роботами, а которое нет. И должна признать, что мало кто обращает на это внимание. Это очень печально, друзья мои!

Я не узнала и не узнаю, читает ли кто-нибудь эти книги, любуется ли картинами. И не знаю, что хуже: пустые упражнения в никому не нужном псевдотворчестве или бессмысленная шарада, которая продолжается, хотя никому до нее нет дела. Вряд ли это знают и сами псевдохудожники и писатели. Как и во всем нашем обществе, в искусстве не может быть наказания за ошибку, как не может быть и награды за успех! Ведь поскольку успех приносит едва ли не больше переживаний, чем неудача, зачем вообще к нему стремиться? К чему все это, если есть роботы, которые в любом случае обо всем позаботятся?

Фреда отпила еще глоток воды и выпрямилась за кафедрой. Пока все идет как надо. Но что тут начнется, когда она перейдет к следующей части лекции?

– И Третий Закон: «Робот должен заботиться о своей безопасности, пока это не противоречит Первому и Второму Законам». Из всех Трех законов этот меньше всего касается отношений между людьми и роботами. Это единственный Закон, оставляющий роботам свободу действий; я снова к этому возвращаюсь. Согласно Третьему Закону роботы следят за собственной сохранностью, исправляют свои повреждения и неполадки, если только их вообще можно исправить. Это означает, что продолжительность существования роботов не зависит непосредственно от вмешательства человека. Сам Третий Закон – проявление заботы людей о роботах. По крайней мере, это выглядит так на первый взгляд.

Тем не менее Третий Закон так же непосредственно касается людей, как предыдущие два. Если роботы способны сами о себе позаботиться, значит, людям не надо беспокоиться об их сохранности. Таким образом, Третий Закон тоже ставит роботов в зависимое положение по отношению к людям. Если робота нужно зачем-то уничтожить, или робот должен неизбежно погибнуть, защищая человека от опасности, значит, этот робот будет уничтожен!

Обратите внимание, что большая часть положений Трех Законов предписывает, чего роботы не должны делать. Самостоятельные действия роботов почти не поощряются. Однажды мы провели в нашей «Лаборатории» один эксперимент. Мы создали высокоразвитого робота и встроили в его главную цепь временной переключатель. Мы усадили робота одного в пустой комнате и прикрыли дверь, но на замок не закрыли. Временной переключатель сработал, робот включился. Но рядом не было людей, и некому было отдавать приказания. И не пришел никакой другой робот, чтобы передать приказ человека. Мы просто оставили этого робота одного, чтобы проверить, как он будет себя вести. И робот просидел там два года, неподвижный, совершенно безучастный ко всему. Мы даже забыли о нем, пока нам зачем-то не понадобилась эта комната. Когда я туда вошла, то приказала роботу встать и найти себе какое-нибудь занятие. Он так и сделал! И он до сих пор остается в лаборатории, выполняет много полезной работы, и во всем остальном ведет себя совершенно нормально.

Дело в том, что в Трех Законах не заложено никаких побуждений к действию. Наши роботы так созданы, что не станут делать ничего, если им не прикажут. Я считаю, что это бессмысленная потеря огромных возможностей роботов. Представьте только, что можно создать еще один, Четвертый Закон: «Робот может делать все, что пожелает, кроме тех действий, что противоречат Первому, Второму или Третьему Законам»! Почему до этого еще никто не додумался? Или если не Закон, то почему мы хотя бы не отдаем такого приказа? Когда последний раз вы приказывали своим роботам: «Иди и делай что хочешь»?

В зале раздался дружный смех.

– Да, я понимаю, это звучит нелепо! Может, это и в самом деле нелепо. Я знаю, что большинство, если не все существующие ныне роботы просто не способны чего-то хотеть. И если бы кто-то и отдал такой приказ, то робот просто сидел бы на месте и не делал ничего из тех соображений, что, ничего не делая, он не сможет никому причинить никакого вреда. Но по крайней мере мой предполагаемый Четвертый Закон рассчитан на то, что роботы – мыслящие существа, которым нужно дать шанс выбрать, о чем размышлять. Потому что просто невероятно, чтобы вам больше нравились привычные спутники и собеседники, которые в свободное время только и делают, что торчат без движения, без мысли в своих нишах или возятся с какой-нибудь никому не нужной, бессмысленной работой.