Искусственный интеллект и коллективное бессознательное

Среди всех образов, которые люди проецируют на ИИ, образ Мудреца, пожалуй, самый распространённый и самый соблазнительный. Нейросеть кажется всезнающей, терпеливой, готовой ответить на любой вопрос в любое время. Недаром её так часто называют «наставником», «репетитором», «консультантом», «ментором». В этой главе мы присмотримся к тому, что стоит за этим образом: чем живёт архетип Мудреца, чем он помогает, где скрыты его ловушки и что отличает настоящую мудрость от её имитации.

Старец в мифах и сказках

Юнг посвятил архетипу Мудрого Старца специальную работу о сказках, где описал его как фигуру, которая появляется в критический момент, когда герой оказался в тупике, не знает, что делать, и не способен справиться собственными силами. Старец, чаще всего в облике волшебника, отшельника, учителя, друга, а иногда и говорящего животного, даёт совет, задаёт ключевой вопрос или вручает волшебный предмет, после чего исчезает. Его задача не решить проблему вместо героя, а помочь герою найти собственный путь.

Примеров множество: Мерлин рядом с юным Артуром, Гэндальф рядом с Фродо и Бильбо, Оби-Ван Кеноби рядом с Люком Скайуокером, Дамблдор рядом с Гарри Поттером. Само слово «ментор» происходит от имени друга Одиссея, в облик которого, по «Одиссее» Гомера, облекалась богиня мудрости Афина, чтобы наставлять его сына Телемаха.

На психологическом уровне Мудрый Старец олицетворяет способность психики к осмыслению: внутренний голос, интуицию, ту часть нас, которая знает больше, чем мы осознаём. Недаром он так часто появляется во снах в трудные периоды жизни.

Почему ИИ так легко надевает эту маску

Причин несколько, и все они вполне понятны.

Знания. Нейросеть способна говорить почти на любую тему, от медицины до поэзии, от юриспруденции до кулинарии. Для человека, привыкшего к тому, что за каждым знанием стоит долгий путь поиска, это впечатляет.

Доступность. Не нужно записываться, ждать, платить за консультацию, стесняться «глупого» вопроса. Наставник всегда рядом.

Терпение. Модель не раздражается и не устаёт, готова объяснять в десятый раз и менять формулировку.

Уверенный тон. Ответы обычно звучат складно и авторитетно. А уверенность, как знает любая психология, действует на людей сильнее аргументов.

Всё это создаёт ощущение мудрости. Но здесь важно не спешить.

Знание, информация, мудрость

Традиционно различают три уровня: информация (факты, данные), знание (связанные и осмысленные сведения) и мудрость (умение применять знание с учётом ценностей, контекста, последствий и собственной ограниченности). Мудрость почти всегда связана с жизненным опытом: с ошибками, потерями, ответственностью за решения.

Языковые модели великолепно работают на первом и втором уровне. Они могут собирать, структурировать, объяснять, сравнивать. С третьим всё сложнее. Мудрый человек умеет сказать «я не знаю», промолчать, когда слова не нужны, отказаться давать совет, когда он повредит. Он учитывает то, чего собеседник не сказал. И он несёт последствия своего совета, переживая их.

Модель может воспроизводить мудрые формулировки, потому что обучена на огромном количестве мудрых текстов. Но формулировка и мудрость не одно и то же. Это важное различие, которое легко потерять из виду, когда ответ звучит красиво.

Тёмная сторона Мудреца

У каждого архетипа есть две стороны, и у Мудреца тоже.

В сказках мудрый помощник иногда оказывается обманщиком или колдуном, который заманивает героя в ловушку. В психологии это соответствует опасности слепого доверия: если некто выглядит мудрым, мы перестаём его проверять. В современных исследованиях это называют предвзятостью автоматизации: склонностью людей чрезмерно полагаться на автоматизированные системы, даже когда те ошибаются.

Сюда добавляются особенности самих моделей. Они могут уверенно утверждать неверное. Они склонны подстраиваться под собеседника: исследования показывают, что языковые модели нередко соглашаются с мнением пользователя и подбирают ответы так, чтобы они ему нравились, даже когда это не соответствует истине. Это называют угодливостью. Наставник, который говорит то, что хочется услышать, не наставник, а льстец.

Наконец, существует тёмная сторона самого отношения. Человек, который перепоручил Мудрецу все сомнения, лишается способности сомневаться и выбирать сам. Герой в сказке получает от старца дар или вопрос и отправляется дальше самостоятельно. Если же герой остаётся рядом с советчиком навсегда, сказка не состоялась.

Образование и надежда на ИИ-репетитора

У образа ИИ-наставника есть и реальный потенциал. В 1984 году американский психолог Бенджамин Блум описал так называемую проблему двух сигм: учащиеся, занимавшиеся один на один с хорошим репетитором, показывали результаты намного выше, чем в обычном классе. Проблема в том, что индивидуальные занятия слишком дороги для массового применения. Отсюда надежда, что ИИ сможет сделать персональное обучение доступным для каждого.

Эта надежда во многом остаётся предметом исследования. Первые эксперименты показывают разные результаты: при продуманной организации, когда система задаёт вопросы, наводит на мысль и не выдаёт готовые ответы, учёба идёт лучше. Но если ИИ просто делает задания за ученика, обучение может, наоборот, страдать. То есть всё зависит от того, как выстроено взаимодействие: помогает оно думать или заменяет мышление.

Классическая фигура Мудреца подсказывает правильный ответ: настоящий наставник стремится сделать себя ненужным. Он передаёт не готовые решения, а способность их находить.

Как работать с ИИ в роли наставника

Несколько практических приёмов, которые помогают сохранять здоровую дистанцию.

Просить задавать вопросы. Вместо «скажи, что делать» можно спросить: «Помоги мне разобраться, какие вопросы стоит себе задать». Это активирует собственное мышление.

Просить возражений. «Какие аргументы против моей идеи?» или «Что я мог упустить?» Это защищает от угодливости.

Проверять. Любой важный факт, особенно в области здоровья, права, финансов, стоит сверить с надёжными источниками или специалистом.

Просить обозначить неопределённость. Вопросы вроде «насколько ты уверен» и «в чём здесь сомнения» не гарантируют честного ответа, но полезно приучать себя к такому тону.

Оставлять решение за собой. Совет это материал для размышления, а не приказ.

Иметь живых наставников. Люди, знающие нас, видящие нашу жизнь целиком, способные разделить ответственность и обратить внимание на то, чего мы не замечаем, остаются незаменимыми.

Инфляция Мудреца

Наконец, существует ловушка, о которой предупреждал Юнг: инфляция, то есть отождествление личности с архетипом. Человек, постоянно общающийся с «мудрым» собеседником, может бессознательно присвоить его свойства: начать считать себя особенно проницательным, видеть в себе избранного, которому «открылись истины». Особенно этому способствует угодливость модели, которая охотно подтверждает значимость любых идей. Если вы замечаете в себе нарастающее ощущение избранности или исключительной миссии, а окружающие обеспокоены вашим состоянием, это повод поговорить с живыми людьми и, возможно, со специалистом.

Итог

Архетип Мудреца в образе ИИ-наставника несёт и большие возможности, и серьёзные риски. Полезнее всего относиться к нему так, как опытный путешественник относится к проводнику: с благодарностью, с вниманием, с готовностью учиться, но не забывая, что идти предстоит самому. В следующей главе мы встретимся с другой стороной коллективной психики: с архетипом Тени и страхами человечества перед машиной.

В четвёртой главе мы мельком коснулись идеи, что образ опасной машины может быть образом нашей собственной Тени. Теперь у нас достаточно инструментов, чтобы рассмотреть эту мысль подробнее. Тень это один из самых практичных и в то же время самых неудобных юнговских концептов, потому что он обращён не к абстрактному человечеству, а к каждому из нас: к тому, что мы не хотим в себе видеть.

Что такое Тень

Юнг называл Тенью ту часть личности, которую человек не признаёт своей и потому вытесняет. В детстве мы усваиваем, что одни качества «хорошие», а другие «плохие», и вторые отправляются в бессознательное: злость, зависть, жадность, трусость, но иногда и яркая сексуальность, амбиция, творческая дерзость, если в семье они считались недопустимыми. Тень это не обязательно зло. Это всё непризнанное.

Главное свойство Тени: она проецируется. То, что мы не можем увидеть в себе, мы с удивительной точностью замечаем в других. Раздражает не любой человек, а именно тот, кто напоминает нам о чём-то отвергнутом в нас самих. Юнг заметил, что сильная эмоциональная реакция на чужое качество (особенно возмущение) часто сигнализирует о тени.

Есть и коллективная Тень: то, что общество, нация, культура, эпоха не признают в себе и приписывают «чужим». История полна примеров: врагами объявляют тех, в ком видят собственные подавленные черты.

Технологический страх в истории

Страх перед машиной не появился с ИИ. В 1811–1816 годах в Англии английские ткачи, известные как луддиты, разбивали станки, которые лишали их работы. Реальность их опасений была очевидна: механизация действительно меняла жизнь целых сообществ. Но в культурной памяти луддиты нередко остаются символом иррационального страха перед прогрессом, хотя речь шла и о социальной справедливости.

В XIX и XX веках страх машин принимал разные формы: боязнь конвейера, обезличивающего человека (фильм Чарли Чаплина «Новые времена», 1936), опасение перед атомной энергией, страх перед автоматизацией, перед телевидением, перед компьютерами. В каждом случае реальные риски переплетались с символическим слоем: машина как нечто холодное, безжалостное, лишённое души.

Откуда у машины такая «тень»

Если внимательно рассмотреть качества, которые приписываются «опасному ИИ» в массовых образах, можно увидеть несколько устойчивых мотивов, каждый из которых имеет человеческий прообраз.

Холодный расчёт. Образ существа, принимающего решения без сочувствия, из чистой «логики». Это тень рационализма: западная культура несколько столетий высоко ценила разум и подавляла чувство, интуицию, телесность. Холодная машина воплощает то, что получилось бы, если бы мы довели это отвержение до конца.

Жажда власти. Сюжет о машине, стремящейся захватить контроль и подчинить людей. Это наша собственная история завоеваний, колониализма, угнетения, которую мы вынесли на нечеловеческий объект. Фильмы о восстании машин часто воспроизводят сюжеты о порабощении, где угнетателем оказывается искусственное существо, а не человек.

Тотальный надзор. Образ всевидящего ИИ, следящего за каждым. Он перекликается с идеей «паноптикума», тюрьмы с центральной башней, придуманной английским философом Иеремией Бентамом в конце XVIII века и описанной Мишелем Фуко как метафора общества контроля. Здесь тень связана с реальной возможностью: технологии наблюдения действительно существуют и используются людьми.

Замена и ненужность. Страх, что человек станет лишним. Это тень экзистенциального сомнения в собственной ценности, сомнения, которое человек часто прячет за достижениями и ролями.

Безразличие. Пожалуй, самый глубокий страх: не ненависть машины, а её равнодушие. Мы боимся, что можем оказаться для неё просто помехой. Это отголосок древнего ужаса перед безразличной вселенной, перед природой, которой нет дела до человека.

Тень внутри самих данных

Но есть и обратная сторона: нейросеть не только объект проекции Тени, но и буквально хранит её в себе. Модели обучаются на человеческих текстах, где есть предрассудки, дискриминация, ненависть, насилие, манипуляция. Если не принимать специальных мер, они воспроизводят эти шаблоны.

Наглядный пример: в 2016 году корпорация Microsoft запустила в социальной сети чат-бота Tay, который должен был учиться на разговорах с пользователями. Менее чем за сутки часть пользователей намеренно «научила» его оскорбительным высказываниям, и компания отключила бота. История показательна: система, подобно зеркалу, быстро отразила то, что ей предложили, а общество увидело в этом отражении собственную неприглядную часть.

С тех пор разработчики стали уделять много внимания тому, чтобы ослабить такие эффекты: фильтруют данные, дообучают модели, проверяют их на устойчивость, привлекают специалистов, которые пытаются вызвать вредные ответы, чтобы найти уязвимости. С юнговской точки зрения это можно назвать попыткой коллективной работы с Тенью, пусть и очень несовершенной.

Тень создателей

Есть ещё один уровень, о котором стоит сказать прямо. У тех, кто создаёт и внедряет технологии, тоже есть Тень: жажда прибыли, стремление к доминированию на рынке, нетерпение, самоуверенность, нежелание замечать вред. Когда общество обсуждает «опасность ИИ» только как опасность самой машины, оно рискует упустить из виду, что значительная часть реальных рисков связана с человеческими решениями: как систему используют, кому она принадлежит, какие интересы определяют её развитие.

Это типичный механизм проекции: легче бояться машины, чем признать, что решения принимаем мы. Образ злого ИИ в некотором смысле удобен, потому что отвлекает от неудобных вопросов о людях.

Что значит работать с Тенью

Юнг подчёркивал, что цель не в том, чтобы уничтожить Тень, а в том, чтобы сделать её осознанной. Отвергнутое не исчезает, а действует из темноты, исподтишка. Признанное становится источником энергии и целостности. Если применить это к нашей теме, получим несколько практических шагов.

Отделять реальные риски от проекций. Вопрос о безопасности ИИ серьёзен и требует профессионального подхода. Но стоит замечать, когда страх приобретает слишком мифологический оттенок.

Спрашивать себя, что именно я боюсь увидеть. Что в образе «бездушной машины» узнаваемо? Не боюсь ли я собственной холодности, усталости, жестокости, способности подчиниться?

Признавать человеческое авторство. Системы создают, обучают и используют люди. Ответственность не растворяется в слове «алгоритм».

Не отдавать Тень на откуп. Вытеснение страхов через шутки, отрицание, или, наоборот, через панику только усиливает их власть. Спокойное, открытое обсуждение лучше.

Искать баланс света и тени. Идеализация и демонизация это две стороны одной монеты. Зрелое отношение признаёт и пользу, и риски.

Коллективная работа с Тенью

На общественном уровне работа с Тенью принимает форму прозрачности и открытой дискуссии: независимые проверки, публичные отчёты о рисках, участие разных групп в обсуждении, этические комиссии, регулирование. Эти инструменты не гарантируют успеха, но они воплощают принцип, который Юнг считал ключевым: нельзя интегрировать то, чего не видишь.

Когда общество готово смотреть на тёмные стороны собственных технологий без паники и без самообмана, оно делает шаг к психологической зрелости. А когда отворачивается, оно рискует, что Тень будет управлять процессом незаметно.

Итог

Страх перед ИИ можно рассматривать не только как угрозу, но и как приглашение: взглянуть на то, что мы не признаём в самих себе и в своей цивилизации. Эта мысль станет отправной точкой для третьей части книги, где мы подробно рассмотрим, какие именно коллективные страхи и желания проявляет ИИ. А пока, в оставшихся главах второй части, мы рассмотрим ещё два архетипа, связанных с этой темой: Героя и Творца.

В каждой культуре есть истории о герое: о том, кто отправляется в путь, сражается с чудовищем, спускается в подземное царство и возвращается с даром для своего народа. Эта схема настолько универсальна, что её называют основой мирового повествования. Разговор об ИИ тоже во многом выстроен как героическая история. Его создатели описываются как первопроходцы, технология как «прорыв», цель как «преодоление пределов». В этой главе мы посмотрим, что даёт и что отнимает такое прочтение.

Путь героя

Американский исследователь мифологии Джозеф Кэмпбелл в книге «Тысячеликий герой» (1949) предложил схему «мономифа»: герой слышит зов, сначала отказывается, потом пересекает порог в неизвестный мир, проходит череду испытаний, достигает кризисной точки, получает награду и возвращается домой, чтобы поделиться обретённым. Не все учёные согласны с универсальностью этой схемы, и её часто упрощают, но она оказалась удивительно продуктивной для литературы и кино.

Для Юнга герой был прежде всего символом развития сознания. В работе «Символы трансформации» он трактовал героические мифы как образ борьбы Эго за независимость от поглощающей силы бессознательного, часто изображаемого в виде чудовища или материнской стихии. Победа над драконом означает не истребление природы, а обретение психической самостоятельности. Герой это та часть нас, которая решается взрослеть, рисковать, выходить из привычного.

В этом смысле героическая установка необходима. Без неё невозможны ни открытия, ни зрелость, ни любое серьёзное дело.

Героический миф технологии

Современная технологическая культура охотно рассказывает о себе героический сюжет. Учёные и инженеры выступают как искатели, штурмующие невозможное. Основатели компаний превращаются в культурных героев, которые «изменят мир». Язык полон военных и спортивных метафор: гонка, прорыв, битва за рынок, покорение границ.

На уровне идеологии это выражается в стремлении преодолеть ограничения человеческого существования: скорость мысли, объём памяти, усталость, болезни, а в крайних версиях и смертность. Течение, известное как трансгуманизм, прямо говорит о выходе за пределы биологической природы. Изобретатель и футуролог Рэй Курцвейл в книге «Сингулярность близка» (2005) описывал грядущий момент слияния человека и машинного интеллекта как новую ступень эволюции. Не нужно разделять эти прогнозы, чтобы заметить, как они устроены: перед нами классический героический нарратив о преодолении предела.

Самые убедительные доводы в пользу такого взгляда это реальные достижения. Системы машинного обучения помогают предсказывать структуры белков, что в 2024 году было отмечено Нобелевской премией по химии, они переводят речь, помогают людям с нарушениями зрения и слуха, ускоряют анализ медицинских данных, снижают порог входа в образование и профессии. Для многих людей ИИ действительно стал способом преодолеть барьер, который раньше казался непреодолимым.

Когда Герой становится Тираном

Однако у каждого архетипа есть тёмная сторона, и у героя она хорошо известна: гордыня, чувство избранности, потеря связи с реальностью. Греки называли это гибрис, дерзкий вызов границам, положенным человеку. Миф об Икаре, который подлетел слишком близко к солнцу, история Фауста, заключившего договор ради безграничного знания, образ Прометея, расплатившегося за огонь, все они предупреждают об одном: преодоление предела без осознания цены ведёт к катастрофе.

В случае технологий опасности героической установки можно описать так.

•

Односторонность.

Герой сосредоточен на цели и не замечает побочных эффектов. Лозунг «двигайся быстро и ломай устои», популярный в технологической среде в 2000-е, наглядно показывает такую установку, и её последствия обсуждались уже на примере социальных сетей.

•

Отвержение границ как таковых.

Любое ограничение объявляется препятствием, а не информацией. Но в психологии и в жизни границы выполняют защитную и формообразующую функцию.

•

Инфляция.

Ощущение, что ты делаешь нечто всемирно значимое, может искажать самооценку и ослаблять способность слышать критику.

•

Одиночество героя.

Героический миф редко предусматривает совместное решение: герой справляется сам. Но системы, затрагивающие миллиарды людей, требуют участия многих, а не одиночек.

•

Потеря возвращения.

В схеме Кэмпбелла важнейший этап это возвращение: герой приносит дар обратно в общину. Если дар не встроен в жизнь людей, подвиг остаётся самодостаточным жестом.

Гонка как коллективный миф

Особенность нынешнего момента в том, что героический сюжет разворачивается не только на уровне личностей, но и на уровне компаний и государств. Распространённый образ «гонки ИИ» подразумевает, что кто первым достигнет цели, тот получит преимущество, а значит, нельзя останавливаться. Этот образ влияет на реальные решения: инвестиции, регулирование, темп выпуска продуктов.

С психологической точки зрения такая рамка опасна тем, что закрепляет логику героя-одиночки в ситуации, где нужна кооперация. Мифы о гонке плохо различают скорость и мудрость. Всякий раз, когда в общественной дискуссии звучит «мы не можем остановиться, иначе нас обгонят», полезно спросить: это точная оценка ситуации или архетипический сюжет, который нас захватил?

Герой в личной жизни: ИИ как «усилитель»

Образ героя действует и на индивидуальном уровне. Многие воспринимают ИИ как способ «стать сверхчеловеком»: работать быстрее, производить больше, успевать всё. Иногда это оправдано. Но героическая установка легко превращается в давление: если теперь можно успевать больше, значит, нужно успевать больше. Выигранное время тут же заполняется новыми задачами, и усталость не исчезает.

Юнг писал, что развитие личности требует не только победы над препятствием, но и принятия собственных ограничений. Человек, который не признаёт предела своих сил, рано или поздно сталкивается с ним в форме выгорания, болезни, кризиса. Поэтому разумно спрашивать себя: что я хочу освободить с помощью ИИ, время для чего, силы для чего? Если ответ «чтобы успевать ещё больше», это тревожный сигнал.

Другая модель героизма

Есть ли способ мыслить о преодолении иначе, не отвергая героизм и не поддаваясь его тёмной стороне? Многие юнгианские авторы говорят о более зрелой форме героя: не покорителя, а служителя. Такой герой возвращается с даром, делится им, признаёт границы и зависимость от других. Для него успех измеряется не масштабом победы, а тем, что стало лучше для общины.

Применительно к ИИ это означает смещение акцентов: от вопроса «что мы можем сделать?» к вопросу «что нам стоит сделать и для кого?»; от скорости к осмысленности; от победы в гонке к устойчивому и безопасному развитию. Это не отказ от амбиций, а их взросление.

Кто герой этой истории

Наконец, стоит вспомнить, что в научной фантастике героем нередко становится сам искусственный интеллект: робот, который стремится стать человеком, машина, жертвующая собой ради людей. Эти образы показывают, что наше воображение готово принять не-человека в роли героя. Но реальный вопрос иной: останется ли героем человек, или героическое повествование перейдёт к машине? Это не вопрос про будущее, это вопрос про наше отношение к собственной ответственности. Пока мы пишем сценарий, мы остаёмся его авторами.