Искусственный интеллект и коллективное бессознательное

Когда новая технология вызывает бурю эмоций, полезно задать два вопроса. Первый: что в ней действительно опасно? Второй: что она пробуждает в нас самих? Первый вопрос обращён к инженерам, юристам, экономистам и политикам. Второй к психологу, философу и каждому, кто готов честно заглянуть в себя. Эта часть книги посвящена второму вопросу. Мы будем рассматривать ИИ как зеркало, в котором проступают коллективные страхи и желания, и начнём с общей карты.

Что показывают опросы

Общественное мнение об ИИ в большинстве стран окрашено двойственными чувствами. Опросы исследовательского центра Pew в США в 2023 году показали, что заметно больше людей скорее обеспокоены ростом использования ИИ в повседневной жизни, чем воодушевлены им, а доля тех, кто испытывает преимущественно воодушевление, была небольшой. Похожие настроения фиксировали и исследования в других странах, хотя цифры и оттенки различаются: в одних обществах больше надежд, в других больше опасений.

У этих данных есть важная особенность: беспокойство часто выражается в общих формулах, а не в конкретных сценариях. Люди говорят «страшно», «непонятно, чем это кончится», «чувствую тревогу», не всегда умея назвать, чего именно боятся. Такая размытость обычно указывает на то, что затронут глубинный слой переживаний, а не только рациональная оценка.

Карта страхов

Если внимательно прислушаться к публичным разговорам, можно выделить несколько основных тем, вокруг которых группируется тревога. Им будут посвящены следующие главы.

Страх потери контроля. Что, если система станет делать то, чего мы не хотели, или перестанет нас слушаться?

Страх собственной ненужности. Что, если машина сможет делать мою работу лучше, и я окажусь лишним?

Страх исчезновения человеческой уникальности. Что, если то, что я считал особенным в человеке, окажется воспроизводимым?

Страх неизвестного будущего. Что, если мир изменится так быстро, что я не успею понять, где мое место?

У этих страхов есть и «обратные стороны», желания, которые мы тоже рассмотрим: мечта о совершенном помощнике, мечта о цифровом бессмертии, жажда высшего разума, который расскажет, как жить. Страх и желание в психике часто идут рука об руку: то, чего мы боимся потерять, мы обычно и страстно хотим удержать.

Страх как язык бессознательного

Юнг считал, что эмоции, особенно сильные, это способ, которым бессознательное сообщает о себе. Страх в таком понимании не только реакция на опасность, но и сообщение: он указывает на нечто важное, ещё не осознанное. Поэтому отмахиваться от страха («это глупости») или полностью ему подчиняться («всё пропало») одинаково непродуктивно. Продуктивно прислушаться: что он пытается сказать?

В этом смысле коллективные страхи перед ИИ можно рассматривать как своего рода «коллективный сон». Сны, по Юнгу, компенсируют односторонность сознательной установки. Если цивилизация несколько столетий строила свою идентичность на рациональности, контроле и производительности, то неудивительно, что именно эти ценности оказываются под угрозой в её страхах: контроль, нужность, особость разума. Тревога указывает на то, на чём мы слишком сильно стояли.

Это не отменяет реальных рисков, но добавляет к разговору о них психологическую глубину. Нас пугает не только то, что ИИ может сделать, но и то, что он может показать о нас самих.

Три способа не увидеть

Есть три распространённых способа уйти от встречи с собственными страхами в связи с ИИ, и каждый из них психологически понятен.

Отрицание. «Ничего страшного, это просто инструмент». Часть правды в этом есть, но когда фраза произносится слишком поспешно или агрессивно, за ней нередко стоит попытка заглушить тревогу.

Рационализация. Перевод эмоций на язык аргументов: человек строит сложные логические конструкции, доказывающие, что бояться нечего или, наоборот, что катастрофа неизбежна. Аргументы могут быть интеллектуально изощрёнными, но служат защитой от переживания.

Юмор и цинизм. Шутки о восстании машин, иронический тон, привычка махать рукой. Юмор действительно помогает справляться с тревогой, но если он становится единственным способом разговора, переживание остаётся непрожитым.

Служат ли эти способы защитой? Да. Плохо ли это? Не обязательно. Психика использует их, когда ресурсов на прямую встречу с тревогой пока не хватает. Но полезно хотя бы замечать, что мы делаем.

Как читать собственный страх

Чтобы применить юнгианский подход на личном уровне, можно попробовать простое упражнение, которое занимает не больше десяти минут.

Запишите, чего именно вы боитесь в связи с ИИ, одной-двумя фразами, как можно конкретнее.

Отметьте, какая часть страха относится к реальной ситуации (например, ваша профессия действительно меняется), а какая звучит как «что-то большое и тёмное».

Спросите себя: когда в жизни я уже переживал(а) похожее чувство? Часто оказывается, что нынешняя тревога откликается на более давние: страх быть брошенным, нужность, контроль.

Подумайте, какое действие в вашей власти: что можно узнать, чему научиться, с кем поговорить.

Если тревога сильная, мешает спать, работать, общаться с близкими, это повод обратиться к специалисту. Это не слабость, а нормальный способ позаботиться о себе.

Осторожность в интерпретациях

Прежде чем двигаться дальше, нужно оговорить одну вещь. Юнгианские интерпретации коллективных страхов это язык, помогающий задавать вопросы, но не способ ставить диагнозы обществу или отдельным людям. Мы не утверждаем, что все страхи перед ИИ «на самом деле» проекции: многие из них обоснованы. И мы не считаем, что те, кто не боится, лишены глубины. Разные люди переживают это по-разному, и это нормально.

Наша цель скромнее: показать, что рядом с технической и общественной дискуссией есть ещё одно измерение, и работа с ним способна сделать нас спокойнее и внимательнее.

В следующей главе мы начнём с первого и, пожалуй, самого распространённого страха: потери контроля.

Если попросить людей назвать главную тревогу, связанную с искусственным интеллектом, многие скажут примерно одно и то же: «Что, если он выйдет из-под контроля?» Эта фраза звучит в научных дискуссиях, в кино, в новостях и в разговорах между друзьями. Она настолько привычна, что мы редко задумываемся, откуда в ней столько эмоционального заряда. В этой главе мы рассмотрим, какие реальные и какие символические слои скрыты за страхом потери контроля.

Реальная часть вопроса

Начнём с того, что тема контроля над ИИ это серьёзная область научных исследований, а не только фантазия. Специалисты по безопасности искусственного интеллекта занимаются несколькими группами проблем.

Проблема согласования целей. Как добиться, чтобы система делала именно то, что мы на самом деле хотим, а не то, что формально сформулировано? Мы уже вспоминали о Големе и ученике чародея: исполнитель, буквально следующий инструкции, способен причинить вред, не имея злого умысла.

Непрозрачность. Современные нейросети настолько сложны, что даже разработчики не всегда понимают, почему модель выдала тот или иной ответ. Область исследований, которая пытается заглянуть внутрь моделей, называют интерпретируемостью, и она пока далека от полной ясности.

Автономность. Всё чаще системы не просто отвечают, но выполняют цепочки действий: ищут информацию, пишут и запускают код, взаимодействуют с другими программами. Чем больше свободы, тем важнее вопрос о границах и надзоре.

Масштаб и скорость. Системы работают быстрее, чем человек успевает проверять, и одновременно с огромным числом людей. Ошибка, которая для одного человека была бы мелочью, при таком масштабе может стать серьёзной.

Применение во вред. Здесь контроль это вопрос о людях, которые используют технологию: для обмана, манипуляции, кибератак, слежки. Не менее важный вопрос, можно ли такие применения ограничить.

На эти темы написаны серьёзные книги. Философ Ник Бостром в «Суперинтеллекте» (2014) подробно рассматривал сценарии, при которых очень мощная система может преследовать цели, несовместимые с человеческими. Профессор Стюарт Рассел в книге «Совместимый с человеком» (2019) предложил подход, при котором система должна оставаться неуверенной в точных целях человека и потому открытой к поправкам. Оценки вероятности и сроков таких сценариев сильно расходятся: одни исследователи считают их главной угрозой столетия, другие уверены, что более насущные проблемы связаны с текущим использованием технологий. Мы не будем занимать здесь сторону. Важно, что у темы есть реальное основание, и психологический разбор его не отменяет.

Эго и иллюзия контроля

Теперь взглянем на ту же тему иначе. Для психики контроль это не просто практическое понятие, а один из основных способов ощущать безопасность. Эго, центр сознания, по Юнгу, выполняет функцию управления: оно выбирает, планирует, различает, решает. Ощущение того, что «я управляю своей жизнью», лежит в основе чувства собственного достоинства.

Психолог Эллен Лангер в 1975 году описала «иллюзию контроля»: людям свойственно переоценивать своё влияние на события, особенно случайные. Мы бросаем кубик сильнее, когда хотим большого числа. Мы чувствуем себя безопаснее за рулём, чем в самолёте, хотя статистика говорит об обратном. Иллюзия контроля отчасти защищает от тревоги, но при столкновении с чем-то, что явно нам неподвластно, она трескается, и вместе с ней трескается чувство опоры.

Искусственный интеллект бьёт именно в эту точку. Он вводит в нашу жизнь нечто, что действует, решает, отвечает, и при этом не поддаётся полному пониманию. Для психики, привыкшей считать, что контроль возможен, это болезненная встреча с пределом.

Тень контроля: страх бессознательного

Есть и более глубокий слой. Юнг подчёркивал, что человек находится в постоянном отношении с силами, которыми не управляет: с эмоциями, импульсами, снами, телом. Эго не хозяин в собственном доме, как писал Фрейд. Страх, что бессознательное прорвётся и захлестнёт, например, в виде психического срыва или неуправляемой ярости, один из древнейших человеческих страхов.

Когда мы боимся, что машина вырвется из-под контроля, не переносим ли мы на неё этот внутренний страх? Тема «созданного, которое выходит из повиновения» повторяется в мифах о Големе и в романе Шелли, и в каждом случае она рифмуется с переживанием, что наши собственные порождения, желания, амбиции, страсти, способны развиться вопреки нашей воле.

Это не значит, что внешняя проблема придумана. Но возможно, часть силы страха питается из этого внутреннего источника. Отсюда парадокс: люди, у которых в жизни много неосознанного напряжения, острее реагируют на образ неуправляемой машины.

Контроль и власть

Ещё одно измерение вопроса: кто контролирует и для кого. Часто страх потери контроля скрывает более конкретный вопрос: у кого сосредоточена власть над технологиями? Решения о том, какие системы создавать, как их обучать и где применять, принимают компании, государства, небольшие группы людей. Рядовой пользователь действительно имеет мало рычагов влияния.

Поэтому часть тревоги отражает не страх перед машиной, а чувство бессилия перед институтами, которые ею управляют. Психологи называют это выученной беспомощностью (так Мартин Селигман описал состояние, когда человек перестаёт действовать, убедившись, что его усилия ничего не меняют). Выход из такого состояния не в фантазиях о всемогуществе, а в возвращении ощущения собственной действенности там, где она реальна.

Два полюса, которые не работают

На страх потери контроля психика реагирует двумя крайностями.

Первая: гиперконтроль. Стремление всё запретить, обезопасить, зарегулировать, проверить. Разумные меры необходимы, но если ими движет не оценка рисков, а тревога, они рискуют стать бесконечными и бесплодными. Человек, пытающийся контролировать всё, не может ничему доверять.

Вторая: капитуляция. «Всё равно ничего не изменить, пусть будет, что будет». Она выглядит как спокойствие, но по сути это отказ от ответственности.

Зрелая позиция лежит между ними: признавать, что полный контроль невозможен, но частичное влияние реально и важно. Это знакомо каждому, кто воспитывает детей, лечится, управляет организацией: контролировать всё нельзя, но можно создавать условия, ставить границы, выстраивать обратную связь и ответственность.

Что можно делать

Практический ответ на страх потери контроля состоит из нескольких уровней.

Личный. Знать, какие данные вы отдаёте, какие настройки приватности использовать, какие решения вы не готовы делегировать системам. Сохранять право на «последнее слово» в важных вопросах: здоровье, деньги, отношения.

Профессиональный. Если вы используете ИИ в работе, выстраивать проверку результатов, понимать, где ошибка особенно дорога, и сохранять человека в цепочке принятия решений.

Гражданский. Интересоваться вопросами регулирования, поддерживать прозрачность, участвовать в общественных обсуждениях. Идея «значимого человеческого контроля» уже обсуждается, например, в связи с автономным оружием на международных площадках.

Внутренний. Практиковать способность выдерживать неопределённость. Это учится: через внимание к телу и дыханию, через разговоры с близкими, через чёткое различение того, что зависит от нас, а что нет.

Итог

Страх потери контроля сочетает в себе реальную инженерную и общественную проблему и древний психологический слой, связанный с ощущением хрупкости Эго. Разделять эти слои полезно: на первом нужно действовать, на втором нужно учиться жить. И чем яснее мы видим разницу, тем меньше шансов, что тревога будет управлять нами вместо нас.

Если страх потери контроля обращён к будущему и к машине, то страх ненужности обращён к себе. Он звучит тише, чаще остаётся невысказанным и, возможно, оттого сильнее. «Если ИИ умеет то, что умею я, то зачем нужен я?» Этот вопрос задают программисты и переводчики, дизайнеры и юристы, учителя и копирайтеры, а нередко и люди, которые ещё только выбирают профессию. В этой главе мы поговорим о том, что в этом страхе реально, а что связано с глубинными психологическими опорами.