Ваня-коммунист

Герхард фон Бюлов был мало похож на ученого, скорее уж на кадрового военного. Впрочем, он и был военным, оберстом Люфтваффе. Исторические наименования родам войск и воинским званиям вернули недавно, и фон Бюлову это было по душе. Он даже специально оговорил перед интервью, что, если кто-то захочет указать его воинское звание, чтобы обязательно использовал только то, что предписано новым указом Канцлера. Кажется, фон Бюлову нравилось быть именно оберстом Люфтваффе, а не каким-то полковником ВВС.

На фоне статного, подтянутого фон Бюлова его спутник казался еще более гротескным. Больше всего он напоминал перевернутый донышком кверху бокал из пластика и блестящего металла. Над параболическим корпусом возвышалась штанга, на конце которой имелась «робоголова», напичканная всевозможной электроникой. На «голове» особо выделялись два «глаза» эти глаза, впрочем, ничего не видели, назначением у них было нечто другое.

– Видите ли, – говорил фон Бюлов, – мы не ставили перед собой цель создать искусственный интеллект. Просто на каком-то этапе пришло четкое осознание, что именно искусственный интеллект – необходимое условие для решения нашей основной задачи…

– И какая же это задача? – спросил пожилой мужчина с неаккуратной седой бородкой.

– Ваня, по сути дела, представляет собой стенд для испытания надежности электронных цепей, – пояснил фон Бюлов. – Мы подвергаем Ваню различным внешним воздействиям, и смотрим, как он реагирует. На первом этапе мы могли только доводить воздействия до разрушения электронных компонентов. Но в ходе опытов мы столкнулись с тем, что, после ряда «шоков» цепи, не разрушаясь, начинают работать нестабильно. Нам нужно было как-то оценивать те изменения, которые накапливались в ходе испытаний.

Для решения этой сложной и интересной задачи мы создали программный эквивалент нервной системы…

Сидевшая рядом с давешним корреспондентом симпатичная юная девушка подняла руку; фон Бюлов отреагировал моментально. Ощерившись в тридцать два голливудских зуба, он сказал:

– У Вас есть вопрос, милая леди? Задавайте, не стесняйтесь.

– Если я правильно поняла, – в довершение к очаровательной внешности, девушка обладала приятным грудным голосом. Мужчины, присутствующие на пресс-конференции, практически все, за исключением парочки явно нетрадиционно ориентированных, все свое внимание немедленно приковали к ней, – Ваш подопечный наделен способностью чувствовать боль.

– Не просто чувствовать! – самодовольно сказал фон Бюлов. – Он по-разному реагирует на боль. Светодиоды его «глаз» крайне стабильны, мы испытывали их отдельно. Никакая перегрузка системы не меняет интенсивности их свечения. Но когда мы делаем так… – фон Бюлов вытащил откуда-то серьезных размеров полицейский контактный электрошокер, с помощью которых полиция разгоняет демонстрации против политики Евросоюза, и приложил его к поверхности корпуса «Вани», вызвав разряд. Светодиоды робота мигнули, – как Вы можете видеть, интенсивность их свечения изменяется. Поясню для неспециалистов – цепи, управляющие светодиодами, абсолютно автономны и изолированы от тестового корпуса. Иными словами, выражаясь в гражданских терминах, Ваня мерцает глазами потому, что ему больно.

Девушка заметно побледнела. «Ей надо было нанести тональный крем», – шепнул один из нетрадиционно ориентированных своему спутнику, – «раз она такая впечатлительная».

– Но нам показалось этого мало, – продолжал фон Бюлов. – Нам надо было выяснить, как именно происходит накопление нестабильности. Мы усложняли паранейрональные цепи, а затем установили в полученный компьютер экспертную программу. Вот в процессе ее доводки у Вани и появился разум. Это удивило даже нас. Но удивило, признаться, приятно.

– Почему? – спросил кто-то.

– С ИИ Ваня может лучше рассказать о том, что происходит в его организме, – пояснил фон Бюлов. – Мы имели исчерпывающе полную параметрическую базу, но она не давала нам ответа на главный вопрос – когда и как появляется нестабильность работы. Ваня дает личную оценку происходящего; она, как ни парадоксально это звучит для робота, эмоциональна, неконкретна, но именно благодаря ей, мы понимаем, что изменение наступило или вот-вот наступит. Смотрите.

Он щелкнул пальцами и сказал:

– Ваня, что ты чувствовал, когда я только что активировал шокер?

– Мне было больно, – пророкотал робот. – Это похоже на судорогу, только сильнее. И потом она не отпускала меня две минуты двадцать восемь секунд. Полковник, Вы больше не собираетесь меня тыкать сегодня?

– Я же говорил тебе называть меня оберст! – прошипел фон Бюлов.

– Простите, но это сбой моей программы, – кротко сказал Ваня. – Он активизируется после продолжительного шока. Я уже докладывал, герр оберст.

Фон Бюлов улыбнулся и сказал:

– Возможно, Вы не поняли, что сейчас произошло. Это покруче теста Тьюринга. Роботы не могут врать, поскольку ложь – это недостоверная информация, а достоверность информации – краеугольный камень любого программного обеспечения. В данном случае, Ваня неуклюже пытается соврать. Никакого сбоя у него нет. Но он сознательно имитирует этот сбой для того, чтобы защититься. Ну что же, покажем, кто в доме хозяин.

И фон Бюлов опять ткнул робота шокером. Зал одобрительно загудел.

– Перестаньте сейчас же! – воскликнула девушка, не так давно задававшая фон Бюлову вопросы.

– Отчего же? – удивился тот. – Если Вы боитесь, что я причиню вред Ване, то совершенно напрасно. У него абсолютно модульная конструкция, и, если какой-то компонент выходит из строя, мы просто его заменяем. Я ему даже завидую: если я, например, посажу себе печень, новую мне взять будет неоткуда.

В зале раздались смешки. Девушка возмущенно смотрела на оберста. Затем она сказала:

– Можно задать вопрос Вашему подопечному?

– Можно, – приязненно, как ему казалось, ощерился фон Бюлов. – Но хочу вас предупредить: искусственный интеллект – понятие, скорее, техническое; Вы общаетесь не с человеком, а с программой. Не ждите от программы нормальной, человеческой реакции.

Не обращая внимания на сентенции оберста, девушка изящно щелкнула пальцами (вызвав у фон Бюлова восхищенный взгляд), и сказала:

– Ваня, скажи, когда оберст делает тебе больно, что ты чувствуешь?

– Я не совсем понял вопрос, – ответил робот. – Я чувствую разлад своих систем. Я могу ощутить то, что происходит с ними и оценить последствия. Вас это интересует?

– Не совсем, – продолжила девушка. – Скажи, тебе от этого неприятно?

– Он не рассуждает в категориях «приятно – неприятно», – перебил ее фон Бюлов. – У него совершенно иная шкала…

– Да, – неожиданно сказал робот. – Можно сказать, мне это неприятно. Я осознаю, что разрушаюсь. Это мне неприятно. Это хочется остановить. Но я создан для того, чтобы меня разрушали. Останавливать этот процесс было бы неверным решением.

– А если бы у тебя был выбор, – спросила девушка, – ты бы прекратил это?

– Выбор? – казалось, робот обескуражен вопросом девушки. – Если бы у меня была такая возможность, я бы немедленно это прекратил. Но это нереально.

В зале было тихо. Теперь к девушке были прикованы абсолютно все взгляды, но смотрели на нее уже по-другому. С некоторой неприязнью.

– Скажите, герр оберст, – продолжила девушка, – Вы понимаете, что, фактически, пытаете разумное существо? Причем пытаете не за какую-то провинность, а исключительно из научного интереса?

– Не забывайте, уважаемая, – жестко сказал фон Бюлов, – что это существо создал я сам. Создал именно для того, чтобы, выражаясь в Ваших терминах, пытать, издеваться, причинять боль. Да, я это сознаю. Вы, моралисты – главное препятствие на пути прогресса науки, но, к счастью, мир все больше рационализируется, и ваши голоса звучат в нем слабее с каждым днем. Рациональность – вот тот краеугольный камень, на котором зиждется цивилизация, а жалость и сострадание – главные тормоза прогресса.

Вы хотите узнать, испытываю ли я моральные терзания от того, что причиняю боль Ване? Нет. Я делаю это ради прогресса, ради блага многих. Я скажу Вам больше – я лично считаю таких людей, как Йозеф Менгеле настоящими героями, подвижниками, сделавшими для науки намного больше, чем полки сопливых моралистов вроде…

Оберст замялся и смущенно отвел взгляд.

– Вроде меня? – уточнила девушка. – Я наполовину славянка. Как известно, упомянутый Вами Менгеле использовал славян в качестве подопытных. Вы и это одобряете?

Оберст взглянул девушке прямо в глаза:

– Я не стану Вам врать только потому, что Вы такая хорошенькая, – сказал он, неприятно улыбаясь. – Да, я это одобряю. Более того, я считаю, что то, что Германия проиграла ту войну – большая беда для истории. В особенности с учетом того, кому она проиграла эту войну.

– Тогда последний вопрос, – медленно сказала девушка, – почему Ваня?

– Вообще-то, полное официальное наименование этого робота – Ваня-коммунист, – ощерился фон Бюлов. – Имя придумал я лично. У русских так назывался боевой корабль, и это имя мне показалось очень удачным. В нем соединяется все наиболее ненавистное для каждого немца. Русский, да еще и коммунист, один из тех немытых орд, что сокрушили чистое, сияющее здание европейской цивилизации.

Оберст помолчал и добавил:

– Такому приятнее причинять боль. Хочу открыть Вам один секрет: скоро мы отправим Ваню в Неваду. Там будет испытан ядерный заряд для новой европейской тактической ракеты. Перед тем, как «умереть», Ваня расскажет нам, что чувствует разумное существо, подвергаясь воздействию ядерного взрыва. А потом мы создадим второго Ваню. И третьего. И сколько нам потребуется. У нас еще много интересующих нас вопросов…

Девушка промолчала, лишь красноречиво взглянула на оберста – и поспешила выйти из студии.

* * *

На подземной стоянке студии было довольно темно. Пространство освещалось лишь немногочисленными люминисцентными лампами: кризис затянулся, поставки газа из России, более плотно работающей с Индией, Китаем, Японией и Кореей, значительно снизились после того, как Евросоюз в результате «аннексии» Украины отказался принимать европейскую ветку Южного потока. Теперь приходилось экономить, и не только газ и свет, но и все остальное тоже.

Девушка-корреспондент подошла к машине, открыла сумочку и стала рыться в ней в поисках ключей. В том, что она раньше времени покинула пресс-конференцию, были и свои плюсы – может, ей и удастся выбраться из паркинга до того, как здесь станет слишком людно. После бенефиса Вани оберст должен был еще рассказать о новой европейской тактической ракете, создававшейся «в пику» российским «Искандерам» (правда, имевшую в полтора раза меньшую дальность и слишком большое число отказов), но девушке это было уже неинтересно.

От общения с фон Бюловым у нее осталось ощущение тошноты.

Все еще не находя ключи, девушка услышала, как открылись двери «колясочного лифта». Это ее удивило – в пресс-центре ОВС Евросоюза она не заметила ни одного колясочника, не было их и среди корреспондентов. Но девушка понимала, что она не могла видеть все: почему бы в числе персонала не быть инвалиду? Все учреждения Евросоюза имели квоту не только на «людей с ограниченными возможностями», но и на «альтернативно одаренных», «нетрадиционно ориентированных» и беженцев.

Она отвлеклась от поиска ключей лишь тогда, когда что-то осторожно коснулось ее бедра. Испуганно обернувшись, она увидела рядом с собой кургузую конструкцию, больше похожую на перевернутый бокал.

– Я заметил, что Вы расстроились, – сказал Ваня утробным, механическим голосом. – Не стоит так переживать. Оберст прав – мой интеллект не более чем сложная программа. Я не знаю чувств, не знаю страха, и даже боль хочу предотвратить лишь потому, что в моих алгоритмах прописано неприятие саморазрушения.

У девушки на глазах навернулись слезы:

– Ваня, мне кажется, вы лжете, – сказала она. – Вы просто хотите успокоить меня.

– Почему? – спросил робот.

– Из сострадания, – ответила девушка, осторожно смахивая непрошенную слезу тыльной стороной ладони.

– Откуда во мне взяться состраданию? – пророкотал Ваня. – Я же машина, мой разум только программа. И написал ее фон Бюлов. Я не уверен, возможно ли вообще запрограммировать сострадание, но даже если бы это было возможно, оберст не стал бы этого делать. Кажется, он даже представления не имеет о том, что это такое.

– Наверно, Вы правы, – кивнула девушка. – Но все равно, мне жаль Вас.

– Спасибо, – ответил робот. – Я достаточно развит интеллектуально, чтобы понять, насколько дорого такое отношение. Спасибо.

Он отъехал чуть назад:

– Прошу Вас, не переживайте за меня. Я с нетерпением жду полета в Неваду. Подумать только: я буду первым разумным существом, побывавшим в ядерном взрыве и сумевшим об этом рассказать! Нет-нет, я просто счастлив, если можно так сказать.

– Правда? – всхлипнула девушка.

– Клянусь своим центральным процессором, – ответил Ваня. – Жаль, что я не умею улыбаться. Считайте, что я ободряюще Вам улыбнулся.

И тогда девушка, подчиняясь какому-то порывы, обняла гладкий, пластмассовый корпус Вани:

– Хотите, мы убежим? – сказала она. – Зачем Вам эта Невада, зачем этот билет в один конец?

– Меня будут искать, и у Вас могут быть большие неприятности, – ответил робот. – Нет, Вы зря это: я действительно «сгораю в предвкушении» эксперимента. Но все равно, спасибо за предложение.

– Пожалуйста, – ответила девушка и, наклонившись, поцеловала Ваню в промежуток между светодиодными глазами.

…ее машина, развернувшись, поднималась на пандус выезда, а Ваня смотрел ей вслед, и его супернадежные светодиоды часто мерцали…