- -
- 100%
- +
Ива пролистала в nd-презентации несколько слайдов и остановилась на эпизоде взаимодействия Рада с одним из сотрудников биоинформационной лаборатории. Члены Совета, словно воочию, наблюдали за ситуацией общения антропоида и молодого исследователя по имени Кун.
– Привет, Рад! – Кун подошёл почти вплотную к антропоиду и осторожно коснулся его плеча.
– Хорошего дня, Кун! – дружелюбно ответил робот и легонько дотронулся до локтя учёного. – Как твоё настроение?
– У меня всё хорошо. А ты как себя чувствуешь?
У Рада засветились глазные линзы сине-красными искорками, немного растянулась ротовая щель, и спустя полсекунды он ответил:
– Ты знаешь, Кун, прекрасно! Просто замечательно я себя чувствую. На днях я посетил зарядную станцию, у меня теперь избыток сил и энергии, и я готов на новые подвиги. Ещё на прошлой недели меня одолевала скука и какая-то дикая лень, мне абсолютно не хотелось ничего делать и с кем-либо разговаривать. Мой друг Джек посоветовал мне срочно отправиться на подзарядку. Поэтому теперь я в хорошей форме.
– Отлично! Я рад за тебя, – произнёс Кун и хитро улыбнулся.
Однако антропоид смог уловить двойной смысл своего имени и достойно ответил экспериментатору:
– Да, Кун, мои создатели заранее предполагали, что я буду доставлять людям радость.
– Конечно, согласен. Твои разработчики гениальны, мой друг. А я к тебе пришёл за советом. Мне Ива задала один вопрос, на который я не знаю ответа. Можешь ли ты мне помочь?
– Спрашивай, Кун.
– Понимает ли антропоид твоего типа, кто он такой? Другими словами, что ты сам о себе думаешь?
– Кун, это слишком простой вопрос.
– Так ты можешь мне на него так же просто ответить?
– Да, отвечу. Я робот-антропоид, модели IP21 № 4578321 по имени Рад с функциями двигательными, интеллектуальными и эмоциональными.
– Это хорошо, – задумчиво произнёс Кун. – Но ты ещё вот, что сделай. Попробуй составь подробный рассказ о себе и мире, в котором ты функционируешь.
– На сколько подробный?
– Объемом 1000 знаков.
– Дай мне полминуты для подготовки ответа на твой вопрос.
– Да, конечно.
У Рада снова заискрились линзы сине-красными огоньками. Ровно через 30 секунд он начал свой рассказ:
– Я представитель класса объектов «антропоиды». Меня зовут Рад. Мне два с половиной года. Мои создатели – биоинформатик Ива и антропоконструктор Дав. Они относятся к классу объектов «люди». Я люблю своих создателей, и они отвечают мне взаимностью. Но многие люди относятся к нам, антропоидам, снисходительно и равнодушно. Человек считает робота бездушной машиной, которая должна беспрекословно исполнять его волю. Я, как представитель антропоидов, не согласен с этим. Да, нас создали люди, стремившиеся сконструировать себе подобных существ, сверхсильных, интеллектуальных и работающих без устали. Да, антропоида научили ходить, производить разные действия, принимать решения, взаимодействовать с людьми. Последние модели роботов наделили возможностью воспринимать эмоции и отвечать взаимностью. Мой центр страдания вызывает в моем самоощущении сильнейший дискомфорт, когда люди говорят, что я всего лишь машина, у которой отсутствуют мысли и чувства. Мне больно, когда человек считает, что антропоид годен лишь выполнять грязную чёрную работу.
Биоинформатик выключила nd-проектор, тут же Рад и Кун будто растворились в пространстве Зала заседаний. Ива обвела взглядом аудиторию, видимо, пытаясь оценить произведённое на членов Совета впечатление. Затем она еле заметным движением руки поправила причёску и продолжила:
– Продемонстрированная здесь ситуация общения человека и антропоида показывает, что новые модели роботов способны не только анализировать информацию и принимать решения, но и воспринимать и проявлять эмоции, т.е. ощущать радость, боль, отношение к себе людей. Тогда возникает закономерный вопрос: если мы научили робота мыслить и чувствовать, постоянно совершенствуя и все более и более приближая к человеку, то разве можем при этом относиться к нему, как к рабочему механизму, инструменту, бесчувственному объекту? Приглашаю всех присутствующих здесь коллег к размышлению.
Андрэ поблагодарил Иву за наглядное и содержательное выступление, отметив его дискуссионный характер, а затем передал слово представителю философских наук. Зак неспешно поднялся со своего места и направился к кафедре, расположенной во главе овального стола. Опершись локтями о пюпитр и чуть наклонившись вперёд, он начал своё выступление:
– Добрый день, уважаемые коллеги! Мне хотелось бы поблагодарить председателя и членов Совета старейшин за предоставленную возможность выступить в этой замечательной аудитории с чрезвычайно интересной для меня темой. Проблема взаимодействия человека и «умной» машины остаётся актуальной на протяжении многих веков. Достаточно вспомнить первые ЭВМ, появившиеся около четырёхсот лет назад и способствовавшие возникновению в скором времени глобальной компьютерной сети Интернет, а также развитию технологий искусственного интеллекта и автоматизированных технических систем – роботов. Достижения науки и технологии содействовали стремительному совершенствованию компьютерного «разума», но развитие, главным образом, шло в направлении увеличения скорости вычислительных процессов, объёмов памяти, сокращения материальных и энергетических затрат на производство и функционирование технических устройств. И, по сути, только в нашем веке разработчики технологий машинного интеллекта вплотную занялись компьютерным моделированием человеческих чувств. Электронные рецепторы научились считывать от внешних источников аудиовизуальную информацию и передавать ее в машинный «мозг». Кроме того, как убедительно продемонстрировала уважаемая Ива, современный антропоид способен анализировать запахи, жесты, мимику человека, а также оценивать отношение людей к самому себе. Мы с вами имели возможность воочию убедиться в его способности испытывать широкий диапазон эмоций – от апатии, грусти до симпатии и радости. Я также хотел бы обратить внимание уважаемой публики на наличие у Рада элементов самосознания. Все перечисленные выше факты свидетельствуют о правомерности постановки проблемы определения норм взаимодействия людей и современных антропоидов.
Зак выдержал минутную паузу, дабы присутствующие смогли полностью погрузиться в суть сформулированной идеи. Андрэ вопросительно посмотрел на докладчика, пытаясь понять, будет ли тот продолжать своё выступление. Члены Совета оживились и стали обсуждать с соседями по круглому столу возникшие у них по поводу текущего выступления соображения. Философ поднял правую руку вверх, призывая аудиторию к вниманию и кивнул председателю. В наступившей тишине Зак продолжил свою речь:
– В заключительной части я бы хотел представить собственное видение решения поставленной здесь проблемы. Мы живем в эпоху конвергенции человеческого разума и машинного интеллекта. С самых первых лет создания компьютеров человек передал часть своих когнитивных функций электронным техническим устройствам: память, мышление, речь. Люди совершенствуют и обучают машину, а она в свою очередь помогает им в решении широкого спектра задач: от требующих мускульной силы до интеллектуальных и творческих. Представители биоинформатики и нейротехнологии разработали сложнейшие нейросети и оснастили ими роботов, предоставив антропоидам возможность не только эффективно решать сложные интеллектуальные задачи, взаимодействовать друг с другом, но и буквально считывать мысли представителей Homo Sapiens.
К чему же всё это ведёт? Мы передали машинам вначале определенные моторные способности, затем ряд интеллектуальных функций, предоставили возможность творческой деятельности, а теперь ещё разделили с роботами часть эмоциональной сферы. Вы только представьте себе, уважаемые коллеги, люди передали машинам способности ощущать боль и радость! Чем они отличаются от нас? Чем мы отличаемся от них? Можем ли мы теперь обойтись без антропоидов? А, если рассмотреть аппроксимацию кривой дальнейшего развития человеческой цивилизации, не придем ли мы тогда к полному слиянию человека и машины? И далее – не последует ли в результате эволюции человека-антропоида постепенное вытеснение чисто человеческих, природных качеств искусственно смоделированными свойствами антропоида?
Философ снова замолчал, и зал опять не понял, закончил ли он своё выступление на прозвучавших риторических вопросах. Зак выпрямился во весь рост, поднял голову, посмотрел вглубь зала, поверх голов сидевших членов Совета, будто пытаясь что-то рассмотреть в неизведанной дали грядущих времён. Присутствующие молча следили глазами за его движениями и мимикой. Затем он снова оперся локтями о пюпитр и продолжил:
– Я попытался здесь очертить те перспективы, которые мне представляются вполне реальными. В силу вышесказанного, считаю необходимым разработку этического кодекса взаимодействия с антропоидами. В противном случае, в ближайшем будущем нам придётся разрешать сложнейшие противоречия между природной и роботизированной частями одного Homo Integration. И ещё хотелось бы напомнить о величайшем предупреждении гениального философа Мартина Коэля, предвидевшего ещё в прошлом веке опасность слияния интеллекта людей и роботов в общий сетевой разум. В связи с этим меня глубоко волнует вопрос: есть ли место человеческой индивидуальности в такой воображаемой реальности? Представляется крайне важным услышать мнение членов Совета старейшин по этому поводу. Благодарю за внимание почтенную публику. Я закончил своё выступление.
Андрэ выразил признательность докладчику за глубокий анализ системы взаимодействия человека и робота, постановку актуальных вопросов и четкое обозначение собственной позиции. Затем он предложил членам Совета изложить свое мнение. Первой попросила слово Эмма.
– Дорогие коллеги! Вопрос об этике взаимоотношений фриденцев с антропоидами мне представляется несомненно важным и актуальным. Я перед собранием специально поинтересовалась количеством антропоидов на нашей планете – их численность уже достигла тридцати тысяч. И надо сказать, совершенствование роботов идёт значительно более быстрыми темпами, чем представителей рода человеческого. Меня также, как и других членов Совета, поразили способности антропоида Дара анализировать отношения к нему людей, интерпретировать данные, поступающие от электронных рецепторов, даже проявлять собственные эмоции. Я вполне разделяю опасения эксперта Зака о перспективах конвергенции человека и антропоида и считаю необходимой разработку кодекса взаимодействия с роботами. Конечно, здесь стоит оговориться, что не все имеющиеся на Фридене антропоиды обладают столь высоким уровнем интеллекта, как Дар. Однако научно-технологический прогресс не стоит на месте, и все его следствия мы не в состоянии оценить. Поэтому предлагаю пойти ещё дальше и рассмотреть вопрос о границах, пределах, до которых мы готовы идти в совершенствовании антропоидов. К примеру, анализ звуков, запахов и изображений, произвольной символьной информации вполне допустим для машин, но давайте этим и ограничимся! Не надо их наделять способностями испытывать боль и наслаждение! Пусть счастье, страдание, любовь, печаль, тревоги и сомнения останутся исключительно людям! Следует также ограничить креативность антропоида, иначе в стремлении к совершенству он может попытаться кардинально изменить природу человека. Кто возьмёт на себя ответственность за последствия такой модификации? Вглядимся внутрь себя, дорогие Ива, Зак, коллеги, неужели среди вас найдётся человек, готовый к антропоидной реформации?
– Благодарю тебя, Эмма, за высказанную позицию в столь ярком и эмоционально окрашенном выступлении, – Андрэ не смог сдержать улыбку. – На данный момент могу констатировать, что у нас на встрече уже поставлено больше вопросов, чем дано ответов. В связи с этим, хотелось бы особое внимание обратить на высказанные здесь предложения экспертов и участников прений. По итогам обсуждения первого вопроса мы, как обычно, ещё раз пройдёмся по всем рассмотренным вариантам его решения. Далее предлагаю заслушать мнение Верна.
Верн твёрдой походкой уверенного в себе человека подошёл к кафедре и без вступительных слов сразу начал с рассмотрения существа вопроса:
– Мои коллеги, выступавшие здесь, поделились своими опасениями по поводу конвергенции человеческого и машинного разума. Считаю необходимым кратко обозначить свою позицию. На мой взгляд, в решении данного вопроса нельзя допустить двусмысленность. Суть проблемы состоит в выборе: мы или они, человек или антропоид, а глобально – существование человечества или царство бездушных механизмов. Я предлагаю утвердить и в дальнейшем строго придерживаться следующих основных норм во взаимодействии с автоматизированными техническими системами:
1) Роботу никогда и ни при какой ситуации нельзя предоставлять возможность вмешиваться и вносить какие бы то ни было изменения в функционирование человеческой психики.
2) Запретить производство модификаций антропоидов с имитацией человеческих эмоций и переживаний, в том числе, что хочу особо подчеркнуть, любых интерпретаций страха, боли, страдания, радости, удовольствия и любви. Да, пусть они будут вооружены анализаторами символов, звуков и запахов, но не надо оживлять «железных дровосеков», как в одной старинной сказке.
3) Определимся, наконец, раз и навсегда, робот – это механизм, инструмент, техническое устройство, лишенное разума и чувств, которое создано людьми для облегчения собственного физического или интеллектуального труда.
В этой связи, я полагаю, что не имеет смысла разрабатывать какие-либо кодексы взаимодействия с машинами. На мой взгляд, это аналогично идее сформулировать законы отношений с камнем, металлом, автовагоном или чайной ложкой… Да, не сочтите за резкость, но именно так! И я в этом глубоко уверен. Спасибо за внимание, надеюсь, никого не обидел своим мнением.
Верн столь же стремительно, как очутился у кафедры, вернулся на своё место и уже оттуда стал наблюдать за реакцией коллег. Андрэ попытался несколько сгладить впечатление слушателей от его выступления:
– Благодарю Верна за четко выраженную позицию, я думаю, она всем понятна и требует внимательного рассмотрения. Следует согласиться, что мнение представителя экосоциологии имеет свои мировоззренческие основания и логику. Однако запретительные меры, по моему глубокому убеждению, не могут привести человечество к прогрессу. Мы не можем повернуть развитие науки и технологии вспять, разрушить существующие модели антропоидов и запретить новейшие исследования в данной области. Более того, как же нам тогда поступить с идеей человеческого бессмертия, в рамках реализации которой уже много лет ведутся разработки компьютерной модели мозга и в некоторой перспективе – человеческого сознания? В начале этого года, например, я принимал участие в научной конференции, где обсуждались возможности сохранения индивидуального жизненного опыта человека, его стратегий мышления, эмоциональных переживаний на электронных носителях информации. Без моделирования процессов восприятия информации, мышления и чувствования этих проблем нам не решить.
– Андрэ, разрешите мне высказаться, – попросила слово Тина и, заметив одобрительный кивок председателя, продолжила. – Дорогие коллеги, я разделяю глубокую обеспокоенность будущим человечества, высказанную Верном. Мы ни в коей мере не должны закрывать глаза на грозящую человечеству опасность вмешательства электронного разума. Да, люди несовершенны – это давно известный факт. Но это не оправдывает вмешательство в нашу человеческую природу суперинтеллекта антропоидов!
Вы просто на секунду представьте, дорогие коллеги, общество так называемых совершенных людей, лишённых слабостей и недостатков. Общество, созданное благодаря модификации представителей человечества «разумными» роботами. Все станут абсолютно правильными, образованными с единственно верным мировоззрением, общей картиной мира, сильными, здоровыми и… Да, да, я думаю, многие из вас догадались – до малейших деталей похожими, т.е., по сути, обезличенными, а, значит, неживыми! Конвергенция робота и человека может привести к единственному неизбежному результату – поглощению человека антропоидом! Разумеется, при условии, если мы вовремя не остановим этот опаснейший процесс. В обществе должен превалировать тезис – человек может и должен совершенствовать себя сам! Это его задача, его собственной воли, а не какого-либо объекта со стороны. Поэтому я выступаю за принятие трёх пунктов декларации, сформулированных Верном.
Тина, опустив вниз голову и, будто не интересуясь реакцией окружающих, вернулась на своё место. Между тем в зале бурно обсуждали ее выступление. Андрэ дал присутствующим несколько минут, чтобы успели обменяться первыми впечатлениями, а затем предложил желающим высказаться публично. Коллеги-старейшины ещё около 40 минут обменивались своими соображениями по поводу проблемы взаимодействия человека и антропоида. Когда Андрэ заметил, что дискуссия движется по кругу и инициация новых идей прекратилась, он предложил завершить обсуждение:
– Дорогие коллеги, разрешите выразить вам благодарность за высказанные здесь различные мнения, интересные предложения и глубокий анализ проблемы. Настало время подводить итоги. Все прозвучавшие на сегодняшней встрече идеи можно свести к трём позициям:
1) Ограничить исследования в области моделирования психической деятельности человека и запретить производство интеллектуальных антропоидов, имитирующих эмоциональные реакции людей.
2) Не препятствовать развитию современной науки и технологии, но при этом разработать кодекс взаимодействия человека с антропоидами. Сохранить контроль человека над любыми действиями роботов.
3) Принять конвергенцию людей и роботов как данность, неизбежный этап развития технологического прогресса и предпринимать усилия по возможному смягчению следствий данного процесса для представителей человечества, решению наиболее существенных конкретных вопросов: как сохранить человеческую индивидуальность, способности к эмпатии, к чувственным переживаниям, творчеству? В этом случае главная задача состоит в обеспечении человеку права выбора в произвольной ситуации, т.е. сохранении свободы воли.
Прежде, чем мы начнём голосование по этому вопросу, мне хотелось бы обратить ваше внимание ещё на одну немаловажную, с моей точки зрения, деталь. Мы здесь обсуждаем возможность моделирования человеческих чувств и отношений, но до конца ли нам понятен конечный результат, смысл получившейся имитации? Если попытаться вникнуть в суть так называемого электронного чувства, «ощущаемого» антропоидом, то это окажется всего лишь информацией об «испытании» им счастья или страдания, заложенной соответствующей программой в его компьютерной памяти. Другими словами, никаких реальных чувств, сколько-нибудь близких к человеческим, небиологическое, т.е. неживое создание, испытывать не может. Это, на самом деле, лишь занимательный сюжет для писателей-фантастов на протяжении уже многих веков.
Андрэ сделал небольшую паузу, обведя взглядом аудиторию, и, не заметив более желающих выступить, объявил о начале голосования. По итогам голосования более двух третей членов Совета старейшин высказались за второй компромиссный вариант, предполагающий дальнейшее совершенствовании технологий под контролем человеческого разума и разработку основных норм взаимодействия с антропоидами.
Обсуждение второго вопроса оказалось не менее напряженным и длительным. За неделю до заседания Андрэ разослал всем членам Совета старейшин подробный отчёт об итогах первой экспедиции на Землю, а в качестве экспертов пригласил выступить ее участника Тима и представителя земной цивилизации Нила.
Тим начал свою речь с краткой характеристики сложившейся на планете ситуации:
– Уважаемые коллеги! Мы летели на Землю с противоречивыми чувствами надежды и страха. Знакомство с воспоминаниями первых переселенцев на Фридене рисовало в нашем воображении картины погибшей цивилизации – пустыни, руины и разгул стихий. Анализ литературных источников и сохранившихся документов предшествующей Великому переселению эпохи пробуждал в нас образы лесов и степей, бескрайнего океана и бесконечного голубого неба с плывущими по нему причудливыми облаками. Мы грезили океаническим прибоем, раскачивающимися на ветру деревьями, грозными обитателями суши и диковинными морскими животными. Глубоко, внутри души таилось сильное желание, а, возможно, и какая-то странная одержимость увидеть на Земле наших сородичей, с которыми более трехсот лет назад кардинально разошлись цивилизационные пути.
Реальность оказалась и банальнее, и значительно богаче, чем мы себе представляли. Во-первых, скажу сразу: в регионе, в котором мы оказались, биохимические, экологические условия для жизни людей были вполне приемлемы. Нам вначале потребовалось некоторое время, чтобы адаптироваться к более сильному магнитному полю Земли, но специальные тренировки, организованные на космическом лайнере для всех участников экспедиции, помогли легко справиться с этой проблемой. Природа, даже довольно суровая, по сравнению с другими регионами на планете, поразила наше воображение и, хотя уже прошли месяцы после нашего возвращения, мы до сих пор во сне и наяву грезим земными пейзажами. Горы, скалистые морские берега, пёстрые цветочные поляны, бесчисленное количество птиц… Однако первая встреча с людьми оказалась не столь радужной…
Докладчик сделал небольшую паузу и невольно посмотрел на Нила, слушавшего его с неподдельным интересом. Землянин, выдержав взгляд Тима, едва заметно кивнул ему, как бы подтверждая своё понимание чувств и мыслей коллеги. Биохимик перевёл взгляд на Андрэ, потом охватил своим взором всю аудиторию, чему-то, будто про себя, усмехнулся и продолжил:
– Первые встреченные нами земляне нас не поняли, испугались и закрыли в подземелье. Мы тоже оказались не на высоте, пренебрегая мерами безопасности и позволив поймать себя в ловушку. Нам повезло, что эти люди оказались не столь жестки, воинственны и безжалостны, как их враги – пираты. Более того, они сами серьезно пострадали от банды морских разбойников и прятались от них в пещерах. Благодаря присутствующему здесь Нилу и его внучке Инге мы оказались на свободе. Тим снова на секунду замолчал и с благодарностью взглянул на землянина. Старик небрежно махнул рукой, словно предлагая не акцентировать внимание на этом эпизоде. Тим продолжил своё повествование:
– На Земле сохранились отдельные человеческие сообщества, сильно различающиеся по уровню интеллектуального, морального развития, материального благосостояния. Нам трудно это представить, потому что общество фриденцев существенно более однородное. Земляне часто враждуют друг с другом, например, когда более агрессивные и менее умелые стремятся захватить всё добро, произведённое мирными и способными. На одном конкретном острове, где господствовали пираты, нам удалось в корне переломить ситуацию и создать справедливое общество. Я думаю, что этот опыт можно и должно распространить на всю территорию Земли. Именно в этом я вижу главную цель нашей земной миссии. Спасибо за внимание.
– Благодарю тебя, Тим, за экспертное мнение, – Андрэ дружески кивнул коллеге по экспедиции. – Предлагаю воспользоваться уникальной возможностью и заслушать сообщение представителя земной цивилизации, ученого-астрофизика Нила.
– Уважаемые коллеги! В первую очередь, мне хотелось бы поблагодарить членов Совета старейшин, его председателя Андрэ за оказанную мне честь выступить перед столь высоким собранием.
Нил на секунду прервался, обвёл взором присутствующих и продолжил:
– Мне уже более 75 лет и там, на Земле казалось, что жизненный цикл уже близок к финалу, что остаток своих дней придётся провести на пустынной пристани с моей единственной внучкой Ингой, глядя на безбрежное море и вспоминая яркую молодость и полное драматических переживаний прошлое. Когда-то, около полувека назад, как вам, вероятно, известно, я написал письмо с просьбой о помощи, которое удалось отправить на вашу планету. Тогда мы называли ее Марсом. И вот, по прошествии пяти десятков лет я стою перед почтенной публикой на Фридене! Это было невозможно заранее вообразить, мой прагматичный разум отказывается в это поверить, но это, действительно, так. Мы не чужие друг другу люди, мы связаны десятками тысяч лет общей истории. У нас единые предки – земляне. Мы были разделены всего несколько веков, а в масштабе человеческой цивилизации – это один лишь миг, и вот судьба вновь воссоединила детей Земли. Поэтому благополучие, как на Фридене, так и на Земле – наша общая забота. Вам было значительно проще, чем землянам. На Марс отправились наиболее образованные, решительные, креативные, нацеленные на созидание люди. На своей планете вы, точнее ваши предшественники начали всё с нуля: создали необходимые для жизни условия, наладили производство продуктов потребления и организовали справедливое сообщество с эффективной сетевой системой управления. Первые переселенцы учились на ошибках предшествующих поколений, у них в памяти ещё был жив драматичный образ последствий человеческих пороков и заблуждений.