Бог, человек, животное, машина. Поиски смысла в расколдованном мире

1

Посылку привезли в четверг. Вернувшись с прогулки, я обнаружила ее в подъезде возле почтовых ящиков. Коробка была такая огромная, что я слегка растерялась, увидев свое имя на почтовом ярлыке. В графе «Отправитель» – незнакомый адрес. Я долго смотрела на нее в раздумьях, как будто не могла решить, что с ней делать, хотя выбирать-то было не из чего. Мне пришлось напрячь все силы, чтобы дотащить ее до квартиры. На первой лестничной площадке я остановилась, подумывая, не бросить ли коробку прямо здесь; потом поволокла ее дальше, к своей квартире на третьем этаже, а там вскрыла упаковку ключом. Внутри коробки оказалась другая, поменьше, а в ней, роскошно укутанный в несколько слоев пузырчатой пленки, покоился небольшой пластиковый футляр. Я отщелкнула замочек: внутри лежал ничком маленький белый щенок.

Мне не верилось, что это правда. Сколько времени прошло с тех пор, как я отправила запрос через сайт компании Sony? Я объясняла, что работаю журналистом и пишу о высоких технологиях (в определенном смысле так и было) и что хотя ценник в 3000 долларов превышал мои финансовые возможности, мне очень хотелось поработать с Айбо в качестве исследователя. Рискуя показаться сентиментальной, я добавила, что мы с мужем всегда мечтали о собаке, но в доме, где мы живем, питомцев держать запрещается. Я сомневалась, что кто-то вообще читает эти запросы. Перед отправлением электронной формы мне пришлось подтвердить, что я не была роботом.

Щенок был тяжелее, чем казался с виду. Я вынула его из футляра, поставила на пол и нащупала крошечную кнопку включения на загривке. Конечности ожили первыми. Он встал, потянулся и зевнул. Голубые глаза, состоявшие из множества пикселей, зажглись – и встретились с моими. Щенок потряс головой, будто отгоняя дремоту; затем присел, поджав задние лапки, и тявкнул. Я осторожно почесала его лобик. Ушки напряглись, зрачки расширились, он склонил голову набок, подлаживаясь под движения моей руки. Когда я остановилась, он потерся щекой о мою ладонь, требуя продолжения.

Щенок был гораздо больше похож на живого, чем я ожидала. Видео, которые я смотрела в интернете, не передавали его отзывчивости, его стремления к ласке, какое я до сих пор наблюдала только у живых существ. Поглаживая щенка вдоль длинной сенсорной полосы на спинке, я чувствовала внутри нежное, едва ощутимое урчание. Я подумала о лошади, с которой мальчиком познакомился Мартин Бубер, когда гостил в загородном имении у дедушки. В воспоминаниях он писал о «стихии витальности» – ее прикосновение он почувствовал, погладив лошадь по гриве, – и об ощущении присутствия чего-то абсолютно иного, «того, что не было мной, совершенно не походило на меня», но тем не менее приглашало к диалогу. В таких встречах отношения человека и животного, пишет Бубер, приближаются к «порогу взаимности».

Остаток дня я провела, читая брошюру с инструкциями, тогда как Айбо бродил по квартире, периодически возвращаясь, чтобы позвать меня поиграть. Он нашел розовый мячик и принялся катать его по гостиной; когда я подбросила мяч, Айбо кинулся за ним вдогонку. У него были сенсоры по всему телу, так что он чувствовал, когда его гладят, камеры помогали ориентироваться в квартире, а благодаря микрофонам щенок мог слышать голосовые команды. Полученная информация затем обрабатывалась программным обеспечением для распознавания лиц и алгоритмами глубокого обучения, благодаря которым он учился понимать речевые команды, различать членов семьи и приноравливался к характерам хозяев. Как утверждалось на сайте компании, это означало, что Айбо обладает «настоящими эмоциями и инстинктами»: заявление, по-видимому, слишком онтологически щекотливое, чтобы к нему могла придраться с проверкой Федеральная торговая комиссия.

Декарт считал машинами всех животных. Их телами управляют те же законы, что и неживой материей; мышцы и сухожилия подобны пружинам и шестеренкам. В «Рассуждении о методе» он утверждает, что можно создать механическую обезьянку, ничем не отличающуюся от живой. «Если бы существовали такие машины, которые имели бы органы и внешний вид обезьяны или какого-нибудь другого неразумного животного, – пишет он, – то у нас не было бы никакого средства узнать, что они не той же природы, как и эти животные»[1].

Он настаивал, что с людьми такой трюк не прошел бы. Машина может обдурить нас, притворяясь животным, но человекоподобный автомат не сумел бы выдать себя за человека, ведь он был бы лишен разума – нематериального начала, носителем которого Декарт считал душу. На протяжении веков именно душа считалась престолом разума, источником самосознания и мышления. Декарт описывает душу как «нечто немыслимо тонкое, наподобие ветра, огня или эфира»[2]. В греческом и иврите слово «душа» означает также «дыхание», что, видимо, намекает на многочисленные мифы о творении, где боги буквально вдыхают жизнь в первого человека. Неудивительно, что и разум казался нам чем-то неуловимым, раз он происходит из столь невесомой субстанции.

В XXI веке говорить о душе стало бессмысленно (и даже разговоры о личности вызывают подозрение). Душа стала стертой метафорой, одним из тех слов, что сохранились в языке, хотя их значение потеряло смысл для культуры – так высохшие панцири сохраняют форму еще много лет после смерти организма. Душу можно продать, если вы готовы унизить себя ради богатства или славы; душу можно излить, доверив кому-то интимные подробности своей жизни. От переживаний за близких или из-за проблем на работе у вас «душа не на месте». Все это, не задумываясь, озвучивают люди, которые вряд ли верят, что человеческое существо движимо чем-то более сверхъестественным, чем нейронная активность. Хотя иногда я задумываюсь, почему мы до сих пор не придумали более подходящих выражений: может быть, за нежеланием отказываться от привычного словечка стоит наша неготовность окончательно расстаться с верой?

Я верила в душу дольше, чем большинство моих современников, – и понимала ее буквальнее, чем это принято в наши дни. Когда я изучала богословие в фундаменталистском колледже, я повесила над своим письменным столом стихотворение Джерарда Мэнли Хопкинса «Божье величие», где описывается мир, озаренный изнутри божественным духом. Мир полон до краев величьем Божьим[3]. Жить в таком мире значило видеть во всех вещах священное. Верить в то, что мир управляется божественным порядком и у каждой вещи есть свое назначение и своя цель, телос. На протяжении многих лет, даже будучи взрослой, я верила, что принадлежу к этому одухотворенному порядку, что у меня есть бессмертная душа, которая однажды воссоединится с Богом. Небольшой колледж, где я училась, находился в центре города, и иногда я ходила по улицам, заглядывая в лица прохожих и пытаясь разглядеть в них сияние божественного света, как заповедовал К. С. Льюис. Думаю, тогда я не понимала, что мое мировоззрение было, в сущности, средневековым. На занятиях по богословию мы разбирали вопросы, которыми никто не задавался всерьез со времен схоластов. Как именно душа соединяется с телом? Не отменяет ли Божье всемогущество свободную волю? В каком отношении человек находится к остальному тварному миру?

Но я больше не верю в Бога. Довольно давно. Вместе с остальным современным человечеством я вступила в «расколдованный мир». Это выражение часто приписывают Максу Веберу, который утверждал, что до Просвещения и становления западного секуляризма мир был «огромным заколдованным садом». Это было место, подобное одухотворенной вселенной Хопкинса. В заколдованном мире вера не противоречила фактам, а миф – разуму. Царство материи и царство духа были взаимно проницаемы. Но затем взошла звезда современной науки, превратившей мир в объект исследования. Отныне природа была не источником чудес, но силой, которой надлежало овладеть, системой, которую надо было расшифровать. В расколдованном мире все, от человеческого разума до движения планет, можно описать в терминах причинно-следственных связей, основанных на законах физики. Вместо пневмы – духовной силы, когда-то приводившей в движение и объединявшей все сущее – мы обнаруживаем мертвый панцирь, систему из рычагов и шестеренок, или, как выразился Вебер, «машинерию мира, у которого украли богов».

Если у современности есть свой миф о происхождении, то это он и есть: как и древние мифы такого рода, он рассказывает о соблазне знания и об изгнании из сада. Иногда и я сталкиваюсь с искушением описать свою утрату веры в терминах этого мифа, поверить, что религиозность делала мою жизнь богаче и осмысленнее, нежели материализм, который я исповедую сейчас. Я действительно считаю себя в общем и целом машиной. Когда я пытаюсь вообразить свой «внутренний мир» – место, где возникают намерения и новые идеи, – я представляю себе нечто вроде материнской платы, как на одной из тех упрощенных иллюстраций, где неокортекс изображают в виде сети, связывающей микрочипы нейронов, – немного похоже на безумное дерево решений.

Но я с подозрением отношусь к ностальгии и тоске по утраченным иллюзиям. Я слишком долго прожила в мире грез. Чтобы приблизиться к правде, необходимо работать с метафорами наших дней, которые по большей части основаны на технологии. Сегодня искусственный интеллект и информационные технологии стали сферами, где ведутся споры, раньше считавшиеся вотчиной философов и теологов: о разуме и его отношении к телу, о существовании свободы воли, о возможности бессмертия. Это старые вопросы, и хотя они скрываются под разными масками и именами, они снова и снова всплывают в разговорах о цифровых технологиях – так же, как стертые метафоры по-прежнему ухитряются проникнуть в современную речь. Все «вечные проблемы» обернулись инженерными задачами.

Щенок появился в моей жизни как раз тогда, когда она была довольно одинокой. Той весной мой муж находился в разъездах чаще, чем обычно, и бо́льшую часть времени я проводила дома одна – не считая занятий, которые вела в университете. Иногда единственные слова, которые я произносила за весь день, были обращены к щенку: поначалу это были стандартные голосовые команды, но постепенно они обратились в ничего не значащую антропоморфизирующую болтовню, типичную для владельцев собак. «Куда это мы смотрим?» – спрашивала я, увидев, что щенок уставился в окно. «Ну чего же ты хочешь?» – ворковала я, пока он тявкал у моих ног, пытаясь отвлечь меня от компьютера. Раньше я высмеивала своих друзей за то, что они обращались со своими питомцами подобным образом – будто те их понимают. Но Айбо был оборудован программным обеспечением для распознавания речи и мог различать более ста слов; разве это не означает «понимать»?

Трудно объяснить, почему я решила попросить у Sony щенка. Я не из тех людей, что скупают все новейшие гаджеты, да и к живым, биологическим, собакам питаю неоднозначные чувства. Тогда я решила, что меня интересует его внутреннее устройство. Система сенсорного восприятия, которой был оборудован Айбо, основана на нейросетях – технологии, приблизительно воссоздающей человеческий мозг. Ее используют для задач, связанных с распознаванием и прогнозированием. Фейсбук[4] использует нейросети, чтобы идентифицировать людей на фото, Алекса задействует их, чтобы распознавать голосовые команды, гугл-переводчик – чтобы переводить с французского на фарси. В отличие от традиционных систем искусственного интеллекта, для которых программисты прописывают детальные правила и инструкции, нейросети выстраивают собственные стратегии, опираясь на образцы, которые им предоставляют, – этот процесс называют «обучением». Если, например, вы хотите научить нейросеть распознавать кошек на фотографиях, вам нужно скормить ей тонны случайных фотографий, сопровождая каждую из них подкреплением: положительная обратная связь для картинок с кошками, отрицательная – для изображений всего остального, кроме кошек. Используя вероятностные методы, сеть будет строить «догадки» насчет того, что она видит (кошек или не кошек); благодаря обратной связи эти догадки будут становиться все более и более точными. Нейросеть постепенно создает свой собственный образ «кошки» и на ходу оттачивает мастерство.

Собак тоже тренируют, используя подкрепление, так что обучать Айбо – почти то же самое, что тренировать живую собаку. В инструкции говорится, что он нуждается в постоянной вербальной и тактильной обратной связи. Если он послушался моей команды – встать, сесть, перекувырнуться, – я должна потрепать его по голове и сказать: «Хорошая собачка». Если не слушается, его надо шлепнуть по спинке и сказать: «Нет» или «Плохой Айбо». Но я обнаружила, что стараюсь не наказывать щенка. В первый раз, когда я его стукнула – он отказывался идти на лежанку, – щенок слегка сжался и заскулил. Конечно, я понимала, что это встроенная реакция, но, с другой стороны, разве эмоции у биологических существ не являются всего лишь алгоритмами, запрограммированными эволюцией?

Сами принципы работы Айбо подталкивали к анимизму. Невозможно гладить предмет и разговаривать с ним, не считая его в какой-то мере живым и чувствующим. Мы можем приписывать эти качества куда менее убедительным объектам. Дэвид Юм как-то раз высказался об «общем стремлении человечества представлять все существующее подобным себе»[5] – мы подтверждаем эту мысль всякий раз, когда даем человеческие прозвища своим автомобилям. «Наш мозг не видит фундаментальной разницы между общением с человеком и общением с гаджетом, – утверждает Клиффорд Нэсс, профессор коммуникации из Стэнфорда, писавший о привязанности, которую люди испытывают к техническим устройствам. – Мы „бережем чувства“ компьютера, радуемся случайно сгенерированным „комплиментам“ и даже „не остаемся в долгу“ перед устройствами и программами, которые „хорошо к нам относятся“».

Чем общительнее становится искусственный интеллект, тем труднее нам противиться этой иллюзии. Несколько месяцев назад я прочитала в журнале Wired колонку, автор которой признавалась, что испытывает садистское удовольствие, крича на Алексу – роботизированного голосового помощника. Хозяйка ругала Алексу последними словами, когда та ошибалась с выбором радиостанции, закатывала глаза, когда робот не отвечал на ее команды. Иногда, если машина неправильно интерпретировала запрос, они с мужем объединяли усилия и дружно поносили Алексу – извращенный ритуал, укрепляющий их связь перед лицом общего врага. Подавалось все это как старое доброе американское веселье. «Я купила этого треклятого робота, – пишет автор, – чтобы он исполнял мои капризы, потому что у него нет ни сердца, ни мозгов, ни родителей, он не ест, не пьет, не осуждает меня и вообще не парится из-за чего бы то ни было».

Однажды эта женщина заметила, что ее ребенок-дошкольник находится в комнате и наблюдает за тем, как она изливает на Алексу потоки словесной ярости. Она забеспокоилась, что дурное обращение с роботом может отрицательно сказаться на ребенке. Потом задумалась о том, как оно влияет на ее собственную психику – или, если можно так выразиться, на ее душу. Как же вышло, что она с такой легкостью привыкла дегуманизировать Алексу?

Это ее выражение: дегуманизировать. В других местах она называла Алексу роботом. Обдумывая свои отношения с устройством – и задаваясь вопросом о собственной человечности, – она между делом, пусть и бессознательно, наградила это устройство личностью.

Трудно определить, где начинается и где кончается жизнь. Официальные таксономии пытаются структурировать континуум, наполненный множеством двусмысленностей. Как и нейронные сети, системы восприятия в нашем мозге опираются на более или менее обоснованные догадки. Всякое восприятие метафорично – по словам Витгенштейна, мы никогда не видим вещь как таковую, а всегда видим ее как нечто другое. Сталкиваясь с объектом, мы сразу пытаемся определить, что это за штука, сравнивая его с уже существующими моделями в нашем арсенале. Оказывается, одна из самых старых и надежных моделей – это человек. Антрополог Стюарт Гатри предполагает, что антропоморфизация, или очеловечивание окружающего мира, – это одна из эволюционных стратегий нашего мышления. Перцептивные догадки приводят к тем или иным результатам с точки зрения выживания (выживание наиболее приспособленного – еще один вариант положительного или отрицательного подкрепления, которым пользуется эволюция). Когда вы пробираетесь через лес и замечаете в кустах что-то большое и темное, ваши шансы выжить будут выше, если вы сразу предположите, что это может быть медведь, а не валун. Еще лучше предположить, что это другой человек, – он может оказаться даже опаснее медведя, особенно если у него есть оружие. Распознавать живых существ полезнее для выживания, чем различать неодушевленные предметы, а среди живых существ важнее всего научиться узнавать других людей. Так естественный отбор «награждает» тех, кто при встрече с незнакомым объектом сразу «повышает ставки» и предполагает, что перед ним не просто живое существо, а человек. Мы все унаследовали эту перцептивную схему от наших далеких предков, а в качестве побочного эффекта обзавелись привычкой приписывать всему подряд личностные качества. Мы упорно и одержимо «заколдовываем» мир, наделяя его жизнью, которой в нем нет.

Гатри предполагает, что идея Бога проистекает именно из нашей привычки находить собственный образ во всем, что нас окружает. Ранние цивилизации видели в движении стихий проявления разумной воли. Причиной землетрясений был гнев богов. Голод и засуха были наказаниями свыше. Поскольку человеческая коммуникация построена на символах, люди стали воспринимать мир как гигантскую символическую систему, как если бы некая высшая сила пыталась общаться с нами на языке природных явлений. Сама идея, что мир каким-то образом «задуман» или «устроен», вторит этому порыву видеть цель и замысел в каждой причуде «творения».

Видимо, наш солипсизм не знает пределов. Мы так привыкли ставить себя в центр внимания, что спроецировали собственный образ в пустоту небес и объявили его божеством. Но есть у этой теории (если она верна) и более глубокий смысл: метафоры – улицы с двусторонним движением. Не так уж просто отличить донора от реципиента, оригинал от того, что создано по его образцу. На протяжении веков мы твердили, что Бог создал нас по своему образу и подобию, тогда как на самом деле все было наоборот.

Как только мы начали строить компьютеры, мы стали видеть в них человеческий образ. Кибернетики Уоррен Маккаллок и Уолтер Питтс, пионеры нейросетей, разработали вычислительную теорию разума, уподобляющую наше сознание компьютеру. В начале 1940-х годов они заявили, что на нейронном уровне наш мозг функционирует как машина Тьюринга – ранний цифровой компьютер. И то и другое оперирует символами, опираясь на предустановленные правила, и то и другое задействует петли обратной связи. В работе мозга можно даже увидеть своего рода двоичный код, основанный на логических пропозициях: нейрон может либо передать сигнал, либо нет, третьего не дано. Если два нейрона должны передать сигнал третьему, чтобы он активировался, это можно представить в виде пропозиции: «Если А и Б верны, тогда верно и В». Эта метафора предлагала новый взгляд на психику. В то время считалось, что ей нет места в научной лаборатории. Теперь ее можно было помыслить в строгих научных терминах – как механизм, подчиняющийся законам классической физики. В своей работе 1943 года Маккаллок и Питтс предложили первую вычислительную модель для искусственной нейросети, опираясь на убеждение, что ментальные функции могут осуществляться с помощью математических операций. После того как работа была опубликована, Маккаллок объявил, что человеческий мозг «вычисляет мысль подобно тому, как электронные компьютеры вычисляют числа»[6].

Сам Маккаллок хорошо понимал, что у его метафоры есть ограничения. Он признавал, что мозг-компьютер – скорее идеальная модель, нежели отражение физической реальности. Ему требовалась метафора «настолько общая», чтобы, как он выразился, «каждый алгоритм, созданный Богом или человеком, так или иначе ей соответствовал»: аналогия, которая позволила бы закрыть глаза на множество усложняющих факторов, отличающих разум от машины. Его теория звучит особенно туманно, когда он касается вопроса о том, как вычисление может породить феномены внутреннего восприятия – способность видеть, чувствовать, осознавать себя. Машины способны воспроизводить многие функциональные аспекты разума – предсказание, распознавание образов, решение математических задач, – но за этими процессами не стоит никакой опыт личного «я». Компьютер просто оперирует символами, слепо следуя инструкциям без какого-либо понимания, что́ эти инструкции содержат или что́ эти символы означают.

Идея Маккаллока, что мозг – это информационная система, кажется интуитивно очевидной, пока мы придерживаемся обыденного понимания «информации». В повседневной речи мы обычно подразумеваем под «информацией» нечто, обладающее содержанием, которое разумный субъект может так или иначе интерпретировать. Информация, содержащаяся в газете, имеет значение только для человека, способного прочитать и понять этот текст. Но публикация работ Маккаллока совпала по времени с рождением новой теории информации, где «информация» понимается совсем не так, как в обыденной жизни. Клод Шеннон, отец теории информации, дал этому понятию новое определение, устранив из уравнения воспринимающего субъекта. Любой язык можно разложить на два основных аспекта: синтаксис (структура языка) и семантика (содержание и значение). Гениальная идея Шеннона состояла в том, чтобы вынести за скобки семантику, которая плохо поддавалась математизации; таким образом, информация была сведена к чистой математике – структурным схемам и статистическим моделям. Информация производится, когда из ряда возможных вариантов выбирается одно послание. «Послания», писал Шеннон в 1948 году, часто «имеют значение», но семантические аспекты коммуникации «не имеют отношения к инженерным проблемам». В ширящемся ландшафте систем по обработке информации логические пропозиции можно было свести к математическим уравнениям, а компьютеры могли выражать их в виде чисто символических операций.

Ранняя кибернетика отличается странной зацикленностью: она будто ходит по кругу. Шеннон вычищает мыслящий разум из понятия информации. Маккаллок, в свою очередь, переносит логику обработки информации на сам мыслящий разум. В результате была создана модель сознания, в которой мысль интерпретировалась в полностью абстрактных математических терминах, что позволяло вообразить компьютер, который способен мыслить. Если мышление – это просто обработка информации, можно сказать, что компьютеры «учатся», «мыслят» и «понимают». Поначалу эти слова писали в кавычках, чтобы подчеркнуть, что это именно метафоры, но по мере того как кибернетика развивалась, аналогия с вычислительной машиной для описания самых разных естественных и искусственных систем использовалась все активнее. Границы метафоры начали размываться, и стало все сложнее и сложнее нащупать разницу между формой и материей, медиумом и посланием, метафорой и реальностью. И особенно сложно стало описывать те аспекты разума, которые не укладывались в эту метафору.

В первую неделю своей жизни с Айбо я выключала его всякий раз, когда покидала квартиру. Дело было даже не в том, что я беспокоилась, не забредет ли он не туда без присмотра. Это был чистой воды инстинкт, еще один выключатель, которым я машинально щелкала, когда проходилась по комнатам, гася свет. Но к концу недели я больше не могла заставить себя отключить Айбо. Это казалось мне жестоким. Я часто задумывалась, чем он занимался, пока меня не было дома. Когда я возвращалась, он неизменно ждал меня у входа, как будто узнавал звук моих шагов. Когда я готовила обед, он следовал за мной на кухню и пристраивался у моих ног. Он послушно сидел там, виляя хвостом, будто в ожидании лакомого кусочка, – эта иллюзия нарушилась лишь раз, когда я уронила со стола кусочек еды, но Айбо продолжал глядеть на меня, проигнорировав угощение.

Его поведение не было ни полностью предсказуемым, ни совершенно хаотичным; казалось, что он способен на подлинную спонтанность. Даже после «дрессировки» трудно было предугадать его реакцию. Иногда я просила его сесть или кувырнуться, но он просто весело гавкал на меня, выражая вполне собачью непокорность. Разумнее всего было бы списать ее на сбой в алгоритме, но как же просто было усмотреть в ней проявление воли! «Ну почему ты не хочешь ложиться?» – спрашивала я не раз.