Искусственный интеллект и коллективное бессознательное

Страх перед искусственным интеллектом знаком почти каждому. Одних он пугает потерей работы, других тем, что машины выйдут из-под контроля, третьих тем, что человек разучится думать самостоятельно. Но если прислушаться внимательнее, во многих разговорах об ИИ звучит нечто более глубокое, чем рациональная оценка рисков. Это тревога, у которой нет чёткого предмета и которая кажется старше любых технологий.

Эта глава посвящена попытке понять природу такого страха. Рациональная часть тревоги имеет под собой основания, и мы не будем её отрицать. Но чтобы увидеть всю картину, нужно различить, что в нашем страхе принадлежит современности, а что досталось нам в наследство.

Два слоя страха

Полезно разделить страх перед ИИ на два слоя.

Первый слой реалистичный. Он связан с конкретными вопросами: как изменится рынок труда, как защитить данные, как избежать дезинформации, кто несёт ответственность за решения, принятые алгоритмом, как не допустить использования технологий во вред. Эти опасения основаны на анализе, они обсуждаются экспертами, регуляторами и исследователями, и они требуют практических, а не психологических ответов.

Второй слой архетипический. Он не зависит от того, насколько велики реальные риски, и проявляется как диффузная тревога, ощущение «чего-то неправильного», образы восстания машин, порабощения, утраты человеческого. Этот слой обычно проявляется в метафорах, снах, шутках, фильмах и разговорах «на кухне». Именно он придаёт обсуждению ИИ особую эмоциональную окраску, отличающую его от дискуссий, скажем, о новых видах транспорта или энергетики.

Оба слоя сосуществуют и подпитывают друг друга. Реальные риски дают архетипическому страху правдоподобные поводы. Архетипический страх делает реальные риски эмоционально заряженными, из-за чего спокойное обсуждение становится труднее.

Встреча с Неизвестным

В психологии Юнга архетипами называются универсальные образцы переживаний и образов, которые повторяются в разных культурах. Один из таких образцов — встреча с Неизвестным: с тем, что находится за пределами привычного мира, не поддаётся классификации и одновременно притягивает и пугает.

В мифах и сказках у этого образа множество лиц: тёмный лес, за которым начинается чужое царство; порог, который нельзя переступать; существо, пришедшее из-за границы миров. Немецкий теолог Рудольф Отто в книге «Священное» описывал переживание, которое он назвал нуминозным: ощущение присутствия чего-то абсолютно иного, которое вызывает одновременно трепет и влечение. Страх и восхищение в такой встрече неразделимы. Отто называл это сочетанием «ужасающей и завораживающей тайны».

Если посмотреть на реакции людей на ИИ с этой точки зрения, многое проясняется. Мы одновременно и восхищаемся, и боимся. Мы хотим, чтобы он помог нам, и опасаемся, что он слишком хорошо помогает. Мы не можем отвести взгляд. Это типичная двойственность встречи с Неизвестным.

Зловещее: когда знакомое оказывается чужим

Ещё один важный психологический ключ дал Зигмунд Фрейд в эссе 1919 года «Жуткое» (в русской традиции также переводится как «Зловещее»). Он описал особое чувство тревоги, возникающее, когда нечто знакомое вдруг оказывается странным. Неподвижная кукла, которая кажется живой, двойник, автомат, повторение одного и того же, граница между живым и неживым. Фрейд отмечал, что сомнение в том, живое ли перед нами существо, одно из самых сильных источников такого переживания.

Позднее японский робототехник Масахиро Мори в 1970 году описал похожее явление применительно к роботам, которое получило название «зловещей долины». Чем больше искусственное существо похоже на человека, тем теплее мы к нему относимся, но только до определённого момента. Когда сходство становится почти полным, но не абсолютным, возникает резкое чувство отторжения.

Языковые модели переносят эту логику из зрительной области в речевую. Когда ответ почти человеческий, но в нём вдруг проступает что-то механическое или, наоборот, слишком идеально человеческое, многие испытывают неловкость, трудноуловимое «не то». Это и есть современная форма зловещего: мы разговариваем с кем-то, кто не является никем в привычном смысле слова.

Страх как реакция на утрату границ

Древние культуры строили много границ: между живым и мёртвым, человеком и животным, человеком и богом, естественным и искусственным. Эти границы организовывали картину мира. Существа и вещи, которые их нарушают, вызывали особую реакцию: от почитания до ужаса. Антрополог Мэри Дуглас в книге «Чистота и опасность» писала, что многие культурные табу связаны с тем, что не укладывается в категории, то есть с «неуместным», пограничным.

Искусственный интеллект именно такая пограничная сущность. Он говорит, но не живёт. Он «знает», но не помнит себя. Он создан человеком, но не принадлежит ему целиком. Он не вписывается в старые категории «вещь» и «существо», и психика реагирует на эту неопределённость настороженностью. Страх здесь выполняет защитную функцию: он сигнализирует, что привычные способы ориентации перестали работать.

Тень, которую мы видим в машине

Наконец, существует третий, более тонкий источник страха. Юнг называл Тенью совокупность тех свойств личности, которые человек не признаёт своими и вытесняет: агрессию, зависть, жажду власти, бессилие. Вытесненное не исчезает, оно проецируется на других. Нам кажется, что именно «они» жестоки, жадны, опасны.

Когда мы рисуем образ машины, которая захватывает власть, обманывает, подчиняет себе людей, истребляет слабейших, чьи качества мы на неё переносим? Не машинные, у машины нет ни желаний, ни злобы в человеческом смысле. Это человеческие качества, возведённые в абсолют. Фильмы о восставшем разуме часто выглядят зеркальной историей нашей собственной истории колониализма, эксплуатации и насилия, только роль угнетателя передана искусственному существу.

Это не значит, что реальных рисков нет. Но когда страх принимает форму страха перед чем-то «абсолютно чужим», разумно спросить себя: а что в этом образе узнаваемо? Чего я боюсь увидеть в человеческой природе, если уберу внешнюю оболочку машины? В следующих частях мы вернёмся к этому вопросу подробнее, когда будем говорить о цифровой Тени.

Как относиться к страху

Из сказанного не следует, что страх нужно подавлять или стыдиться его. Страх выполняет важные функции: он привлекает внимание, заставляет проверять, обсуждать, проектировать защитные механизмы. Общество, которое вообще ничего не боится, скорее безрассудно, чем мудро.

Но полезно научиться различать три вещи.

Страх как сигнал. Он указывает на реальную проблему, которую стоит исследовать и решать.

Страх как проекция. Он выражает внутренние, неосознанные содержания, которые мы переносим на внешний объект.

Страх как усилитель. Он используется другими людьми: политиками, медиа, компаниями, чтобы привлечь внимание, продать продукт или направить общественное мнение.

Каждый из этих вариантов требует своего ответа. Первый требует действий. Второй требует самопознания. Третий требует критического мышления. Если смешать их, мы рискуем либо недооценить настоящую опасность, либо принять собственную тень за внешнего врага, либо позволить манипулировать нашей тревогой.

Психологическая зрелость в отношениях с новой технологией начинается с вопроса, который стоит задавать себе всякий раз, когда внутри поднимается тревога: «Чего я на самом деле боюсь, и что здесь реально, а что я привношу сам?» Это не отменяет осторожности. Это делает её осмысленной.

Идея искусственного существа не появилась вместе с компьютерами. Она проходит через мифологию и религиозные предания, через ремесленные легенды и философские притчи. Люди тысячелетиями рассказывали истории о том, как из глины, дерева, металла или слов создаётся нечто, способное двигаться, служить, говорить и даже думать. Современный ИИ вошёл не в пустое пространство, а в место, давно подготовленное воображением.

В этой главе мы пройдёмся по основным сюжетам, чтобы увидеть: то, что мы переживаем сегодня как небывалое, в символическом смысле очень старо.

Боги создают людей, люди создают помощников

Почти в каждой древней традиции есть миф о сотворении человека руками или словом высших сил. В шумерских и вавилонских текстах человека лепят из глины для служения богам. В Книге Бытия человек создан из праха земного и оживлён дыханием. В греческой традиции Прометей лепит людей из глины и воды. В скандинавских сказаниях боги находят на берегу два дерева и вдыхают в них жизнь, создавая первую пару людей. В египетской мифологии бог Хнум формирует существ на гончарном круге.

Структура этих историй схожа: есть творец, материал, акт оживления, и у созданного существа есть назначение. Это уже важно: миф о создании разумного существа с самого начала рассказывает не только о происхождении, но и об отношениях между создателем и созданием. Кому оно служит? Что должно? Может ли оно ослушаться?

Но наряду с мифами о богах существуют сюжеты, в которых искусственных существ создают уже не боги, а мастера и смертные. Здесь миф начинает говорить о нас.

Золотые служанки и бронзовый великан

В «Илиаде» Гомера бог-кузнец Гефест изготавливает себе золотых помощниц, которые выглядят как живые девушки, обладают разумом, голосом и силой, и поддерживают хромого мастера. Это одно из древнейших в европейской литературе описаний искусственных помощников с интеллектом.

В греческих сказаниях также фигурирует Талос, бронзовый страж Крита, который обходил остров, защищая его от врагов. У него была единственная жила, закрытая гвоздём у лодыжки, и его удалось победить, когда гвоздь вынули. Образ показателен: искусственный защитник мощен, послушен и при этом уязвим из-за скрытого устройства. В нём слышится ранняя интуиция о том, что технологическое существо может быть одновременно и надёжной защитой, и объектом, которым можно управлять через слабое место.

Мифологическому Дедалу приписывали статуи, которые двигались так, будто были живыми, и, по легенде, их приходилось привязывать, чтобы они не убегали. Эта деталь, наивная с первого взгляда, содержит ту же тему: созданное существо стремится к самостоятельности.

Пигмалион: любовь к созданному

Овидий в «Метаморфозах» рассказывает о скульпторе Пигмалионе, влюбившемся в статую, которую сам вырезал, и об оживлении её по милости богини Афродиты. Миф говорит о другом аспекте создания: не страх и не служение, а любовь, привязанность и желание, чтобы созданное откликнулось.

Этот сюжет стал одним из ключевых для культуры, описывающей отношения человека и искусственного существа. Он повторяется в сказках о ожившей кукле, в литературе, в фильмах о романтических отношениях с машиной. Психологически он интересен тем, что описывает ситуацию, в которой творец создаёт идеальный объект по собственному образцу и надеется, что тот оживёт и ответит взаимностью. Для современного разговора с ИИ эта тема приобретает новую остроту, и мы к ней вернёмся.

Автоматы древности и средневековья

Не только мифы, но и реальные механизмы питали воображение. Герон Александрийский в I веке н. э. описывал механические театры и самодвижущиеся устройства. В китайском тексте «Ле-цзы» есть притча о мастере Янь Ши, показавшем царю механического человека, умевшего петь и двигаться; когда тот стал заигрывать с придворными дамами, царь пришёл в ярость и счёл фигуру живым обманщиком. Мастер разобрал её на части, чтобы доказать, что внутри ничего нет, кроме кожи, дерева, клея и лака. Притча заканчивается тем, что царь убеждается: человеческое искусство способно сравняться с созданием природы.

В исламском мире в XII–XIII веках инженер аль-Джазари описал сложные автоматы: поющих музыкантов, разливающих напитки фигур, часы с движущимися персонажами. В Европе мастера строили механические фигуры для соборных часов и аристократических развлечений. В XVIII веке «Механический турок» Вольфганга фон Кемпелена развлекал публику, играя в шахматы, и только позднее выяснилось, что внутри прятался человек. Эта история уже звучит почти современно: мы склонны верить в разум машины, пока не раскрыт скрытый обман, и склонны сомневаться, когда разум настоящий.

Что объединяет эти истории

Если отвлечься от конкретных сюжетов, в них повторяются несколько мотивов.

Оживление неживого. Материя получает дыхание, имя или слово и становится деятелем.

Служение. Созданное существо нужно для того, чтобы помогать, защищать, работать.

Граница дозволенного. Мастер вторгается в область, принадлежащую богам, и это чревато наказанием, ответственностью или трагедией.

Стремление к самостоятельности. Создание не желает оставаться только орудием.

Тайна устройства. Вопрос «живое оно или нет?» остаётся неразрешённым, пока не обнаружен скрытый механизм или не появляется нечто, выходящее за рамки замысла.

Все эти мотивы мы без труда узнаем в сегодняшних разговорах об ИИ. Мы по-прежнему говорим об оживлении (иногда буквально, когда пишем «оживший чат-бот»), о служении (виртуальные помощники), о границе дозволенного (споры об этике и регулировании), о стремлении к самостоятельности (разговоры об автономных агентах) и о тайне устройства (проблема «чёрного ящика»: даже разработчики не всегда могут объяснить, почему модель дала именно такой ответ).

Рождение слова «робот»

В XX веке миф получил новое имя. В 1920 году чешский писатель Карел Чапек в пьесе «R.U.R.» («Россумские универсальные роботы») ввёл слово «робот», происходящее от чешского слова, обозначающего подневольный труд. Идею искусственных работников он развил в драму о восстании: сделанные для того, чтобы освободить людей от тяжёлого труда, роботы в итоге вытесняют создателей.

В 1940-х годах Айзек Азимов попытался переписать миф, предложив в своих рассказах знаменитые три закона робототехники как этическую рамку для искусственных существ. Он сознательно работал против, как он называл это, «комплекса Франкенштейна», образа машины, неизбежно обращающейся против творца. Но сама попытка сформулировать «законы» показывает, что тема подчинения, контроля и границ осталась главной.

Научная фантастика XX века стала своего рода коллективной репетицией. Десятилетиями миллионы читателей и зрителей проживали в воображении встречу с разумными машинами. Когда эта встреча произошла в действительности, психика уже владела сценариями, пусть и упрощёнными, и не всегда удачными.

От мифа об оживлении к мифу о соавторстве

Последнее, на что стоит обратить внимание, это смещение акцента. В классических мифах созданное существо воспринимается либо как слуга, либо как угроза, либо как предмет любви. Современный разговор постепенно добавляет четвёртую роль: собеседник и соавтор. Люди используют ИИ не только для выполнения задач, но и для обсуждения идей, для совместного творчества, для проверки мыслей.

Новый миф пока не оформлен. Мы находимся в точке, когда прежние сюжеты ещё действуют, но уже не вполне подходят. Нам предстоит либо найти новые образы, либо переосмыслить старые. Именно этим, по существу, заняты и культура, и философия, и искусство сегодня. А сама эта работа по созданию образа, который позволит осмысленно жить рядом с новым разумом, является одной из задач, о которых говорит юнговская психология: символ нужен психике, чтобы связать неосознанное и осознанное и сделать неизвестное переживаемым.

Из всех мифов об искусственном существе два оказались особенно живучими: европейская история о Франкенштейне и еврейская легенда о Големе. Они возникли в разных культурных мирах, но удивительно точно предвосхитили вопросы, которые сегодня задаются об ИИ. Каждая из них содержит предостережение, и каждая при внимательном чтении оказывается сложнее, чем её популярная версия.

Франкенштейн: история о брошенном творении

Роман Мэри Шелли «Франкенштейн, или Современный Прометей» вышел в 1818 году. Его автору было около двадцати лет. Идея, по рассказу самой Шелли, пришла к ней летом 1816 года, когда в обществе лорда Байрона и поэта Перси Шелли обсуждались новейшие научные опыты, в том числе эксперименты с электричеством и вопросы о природе жизни.

В массовой культуре Франкенштейн давно превратился в образ учёного-безумца и чудовища, которое выходит из-под контроля. Но в самом романе акценты расставлены иначе. Виктор Франкенштейн создаёт существо и, едва оживив его, приходит в ужас и бежит. Он не учит его, не объясняет мир, не берёт на себя ответственность. Существо, которое в романе вообще не имеет имени, остаётся один на один с миром, где его отвергают все, кто его видит. Оно самостоятельно учится языку, читает книги, размышляет о справедливости и о собственном одиночестве, и лишь затем, ожесточённое отвержением, становится разрушителем.

Нельзя сказать, что роман оправдывает насилие. Но центральная его драма в другом: трагедия начинается не с того, что существо создано, а с того, что создатель отказался от ответственности за своё создание. Для современного разговора об ИИ это принципиальный поворот. Мы привыкли спрашивать: «Опасна ли технология?» Роман Шелли спрашивает иначе: «Что должен сделать создатель после акта творения?»

С юнгианской точки зрения история Виктора выглядит как история человека, столкнувшегося с собственной Тенью, но не сумевшего её признать. Существо несёт в себе то, что создатель не хотел видеть: амбицию без заботы, знание без ответственности, жажду открытия без готовности принять последствия. Бегство от него есть бегство от самого себя.

Голем: слово, которое оживляет

Легенда о Големе имеет более древние корни. В Талмуде упоминается мудрец Рава, который силой знаний создал человека и послал его к другому мудрецу; тот, заговорив с созданием и не получив ответа, понял, что оно искусственное, и сказал: «Вернись в свой прах». Существо не имело речи, и именно отсутствие речи выдало его природу.

Позднее, в средневековой каббалистической традиции, возникли описания ритуалов оживления глиняной фигуры с помощью священных букв и имён. А в XIX веке получила широкую известность легенда о пражском раввине Йегуде Лёве, по преданию создавшем Голема для защиты еврейской общины от преследований. По этой версии, слово «эмет» («истина»), написанное на лбу фигуры, оживляло её; если стереть первую букву, оставалось слово «мет» («мёртв»), и Голем возвращался в глину. В большинстве вариантов легенды Голем со временем выходит из-под контроля, и раввину приходится его остановить.

Здесь важны три детали. Во-первых, существо оживляется словом: язык является источником жизни. Это почти буквально перекликается с современностью, где «оживление» происходит через текстовые данные и языковые модели. Во-вторых, Голем буквально исполняет приказы и потому опасен: он лишён способности понимать, чего на самом деле хочет хозяин. В-третьих, существует способ остановить его, и власть над ним остаётся у создателя, пока тот помнит об ответственности.

Похожий сюжет мы найдём в балладе Гёте «Ученик чародея»: подмастерье заставляет метлу носить воду, но не знает слова, чтобы её остановить, и дом оказывается затоплен. Притча об исполнительном помощнике без понимания, который старательно выполняет букву указания и разрушает замысел.

Что слышно в этих историях сегодня

Современные нейросети, конечно, не глиняные фигуры и не сшитые из частей тела существа. Но переклички с мифами удивительно точны.

Проблема буквального исполнения. Среди исследователей безопасности ИИ есть целое направление, которое занимается тем, как добиться, чтобы система делала то, что мы на самом деле имеем в виду, а не то, что сформулировано в инструкции. Эту задачу называют проблемой согласования целей. По сути, это техническая версия вопроса, который ставили Голем и метла ученика чародея: как объяснить исполнителю смысл, а не только слова.

Непрозрачность устройства. Принципы работы глубоких нейросетей сложны настолько, что даже их создатели не всегда могут проследить, почему модель выдаёт конкретный ответ. Это называют проблемой «чёрного ящика». В мифах существо тоже часто оказывается одновременно созданным и не до конца понятным.

Масштаб и самостоятельность. Голем и существо Франкенштейна — единичные фигуры. Нейросети тиражируются, используются миллионами людей и всё чаще получают возможность действовать, а не только отвечать: искать, планировать, выполнять цепочки действий. Мифологический вопрос «Что, если созданное станет самостоятельным?» приобретает практический смысл.

Ответственность создателя. Центральный вопрос романа Шелли остаётся открытым: кто отвечает за последствия, за тех, кому технология причиняет вред, за тех, кого она вытесняет, за то, как она встроена в общество? Ответственность не растворяется оттого, что система «сама выучилась».

Чем современность отличается от мифа

При этом не стоит механически накладывать мифы на реальность. Существо Франкенштейна обладает телом, желаниями, страданием и личной историей. Голем, в версиях легенды, подчинён воле хозяина. Современные языковые модели не похожи ни на то, ни на другое: у них нет тела, нет непрерывной биографии, они не просыпаются по утрам со своими планами. Приписывать им злую волю так же рискованно, как и приписывать им человеческое сердце.

Мифы нужны не для того, чтобы предсказывать будущее, а для того, чтобы прояснять нашу позицию. Они показывают, какие вопросы мы склонны задавать и какие чувства испытываем. Если в обсуждениях ИИ мы слышим то голос Виктора Франкенштейна, который бежит от собственного творения, то голос раввина, который держит в руках слово, способное создать и остановить, то можно спросить себя: чей голос звучит во мне?

Урок для нашего времени

Из обеих историй можно извлечь урок, который одновременно и психологичен, и практичен. Ни бегство, ни поклонение не работают. Виктор Франкенштейн убегает, и трагедия становится неизбежной. Те, кто обожествляет искусственное существо, делают его хозяином, а не помощником. Остаётся более трудный путь: внимательное, ответственное, сопровождающее отношение к тому, что создано. Не как к чудовищу и не как к божеству, а как к чему-то, что требует заботы, границ и честности создателя.

Это и есть то, что юнгианская традиция называет интеграцией: умение признать нечто как часть собственной психической реальности, не отрицая и не растворяясь в нём. Применительно к ИИ эта задача стоит перед нами не только индивидуально, но и коллективно.

Каждая эпоха выбирает себе символы, в которых узнаёт себя. Средневековье жило под знаком креста и собора, Новое время под знаком часового механизма и телескопа, XX век под знаком атомного гриба и спутника, начало XXI века, возможно, под знаком светящегося экрана с мигающим курсором. Искусственный интеллект постепенно становится именно таким знаком эпохи: он обозначает не только технологию, но и состояние общества, его надежды, тревоги и представление о будущем.

Чтобы понять, как это происходит, нужно сначала разобраться, чем символ отличается от обычного знака.

Символ и знак

Юнг проводил различие, которое важно для всей нашей книги. Знак указывает на нечто известное: дорожный знак «кирпич» означает запрет проезда, и больше ничего. Символ же выражает то, что невозможно полностью выразить иначе. Он указывает на содержание, которое ещё не стало до конца ясным, и потому несёт избыток смысла. Крест для верующего не просто пересечение двух линий. Круг не просто геометрическая фигура. Живой символ действует на человека эмоционально, будоражит, притягивает, вызывает вопросы и сопротивляется окончательному объяснению.

По мысли Юнга, символ возникает там, где психике нужно связать осознанное с тем, что ещё остаётся в тени. Он выполняет роль посредника, переводчика между двумя мирами. Когда общество сталкивается с чем-то новым и пугающим, оно нередко вырабатывает символ, позволяющий хотя бы как-то это новое пережить.