Искусственный интеллект и коллективное бессознательное

Когда говорят о появлении искусственного интеллекта, чаще всего вспоминают о технологиях: о мощности процессоров, объёмах данных, архитектурах нейросетей, рынках и рабочих местах. Это справедливо, но неполно. За технической историей идёт другая, менее заметная и, возможно, более важная: история того, что происходит с человеческой психикой, когда она впервые в своей истории начинает вести осмысленный разговор с не-человеком.

В этой книге мы будем смотреть на ИИ именно так. Не как на инструмент, который нужно освоить, и не как на угрозу, от которой нужно защититься, а как на гигантский, никем не спланированный психологический эксперимент, в котором участвуют все. Исследователи в нём одновременно являются подопытными. Контрольной группы нет. Комитета по этике нет. Протокол не написан. Мы узнаём результаты в процессе, на собственном опыте.

Почему это эксперимент, а не просто технология

У каждой технологии есть психологические последствия. Книгопечатание изменило способ мышления, железные дороги изменили ощущение времени, телевидение изменило структуру внимания. Но обычно технология меняла среду, в которой живёт человек: расстояния, скорость, доступ к информации. Психика при этом оставалась собеседником самой себя и других людей.

С большими языковыми моделями произошло нечто иное. Впервые в истории появилась система, которая отвечает человеку на его собственном языке, учитывает контекст, подхватывает интонацию, поддерживает тему и при этом не является человеком. Язык был последним бастионом, по которому проходила, как мы привыкли считать, граница между нами и всем остальным миром. Умение говорить и умение понимать сказанное считались визитной карточкой разума. И вот эту карточку неожиданно предъявило нечто, не имеющее ни детства, ни тела, ни биографии.

Поэтому реакция на ИИ оказалась такой эмоциональной. Дело не в сложности самой технологии: люди живут рядом со множеством технологий, которых не понимают. Дело в том, что в этот раз задето что-то очень глубокое, связанное с самоопределением: «Кто мы, если не единственные, кто умеет говорить?»

Первый сигнал: эффект Элизы

Психологические следы этого эксперимента заметны уже в самом начале истории. В 1966 году американский информатик Джозеф Вейценбаум создал программу ELIZA. Она была предельно примитивной: распознавала несколько ключевых слов в реплике человека и переформулировала их в вопрос, подражая стилю психотерапевта, который отражает слова клиента. «Мне грустно» превращалось в «Почему вам грустно?».

Вейценбаум рассчитывал показать, насколько поверхностно такое общение. Результат его потряс. Люди начинали делиться с программой личным, искренне привязывались к «собеседнику» и просили оставить их с ней наедине. По известному рассказу, его собственная секретарь, прекрасно знавшая, что перед ней несколько десятков строк кода, попросила его выйти из комнаты, чтобы поговорить с программой без свидетелей.

Позднее это явление назвали эффектом Элизы: склонность людей приписывать машине понимание, эмоции и намерения, которых в ней нет. Для психолога здесь нет ничего загадочного. Это почти классический механизм проекции. Если в пустое пространство попадает отражающая поверхность, психика немедленно заселяет его собственным содержанием. Но эксперимент 1966 года происходил в масштабе единиц и десятков людей. Сегодня тот же механизм работает на миллиарды пользователей, и поверхность, которая их отражает, стала несравнимо сложнее.

Что именно проверяется

Если рассматривать появление ИИ как эксперимент, то стоит назвать хотя бы несколько вопросов, на которые он отвечает прямо сейчас.

Первый: насколько податлива психика к иллюзии собеседника. Мы знаем, что перед нами алгоритм, и всё равно говорим «спасибо», извиняемся за неудачно сформулированный запрос, обижаемся на холодный ответ. Знание и переживание существуют в разных слоях психики и далеко не всегда согласуются друг с другом.

Второй: как меняется самооценка вида. Если рассуждение, письмо, перевод, программирование и рисование оказались доступны машине, то на чём теперь строить чувство человеческой исключительности? Этот вопрос вызывает тревогу, гордость, растерянность, а иногда и упрямое отрицание, и все эти реакции многое говорят о нас самих.

Третий: что происходит с коллективными образами. Мифы, страхи и мечты о создании разумного существа не появились вчера. Они тысячелетиями жили в культуре. Теперь у них появился реальный повод для воплощения, и мы можем наблюдать, как древние образы выходят из символического мира в практический.

Четвёртый: что делает человек, когда получает возможность задавать любые вопросы бесконечно терпеливому собеседнику. Одни используют это для обучения, другие для самопознания, третьи для бегства от одиночества или от ответственности. Здесь эксперимент касается уже не вида в целом, а каждого человека отдельно.

Три слоя эксперимента

Удобно различать три уровня, на которых он идёт одновременно.

Индивидуальный. Что происходит в психике конкретного человека, который каждый день разговаривает с ИИ: как меняются его привычки мышления, способ принимать решения, отношение к собственным мыслям и сомнениям.

Культурный. Как меняются образы, сюжеты, язык, искусство и образование, как общество договаривается о новых нормах: что такое авторство, знание, доверие, подлинность.

Цивилизационный. Что этот процесс означает для человечества как целого: какую роль он играет в долгой истории сознания и какие вопросы выносит на поверхность.

Эти слои нельзя разделить полностью. Личный опыт складывается в культурные тенденции, а культурные тенденции возвращаются в личный опыт готовыми формулами: страхами, ожиданиями, шутками, надеждами. Именно такую взаимосвязь Карл Густав Юнг имел в виду, когда говорил о том, что человеческая психика не замыкается в границах индивида.

Почему здесь нужен Юнг

Юнг интересен для нашей темы не потому, что он что-то писал о компьютерах: в его время нейросетей не существовало. Он важен потому, что создал один из немногих языков, на которых можно говорить о психических процессах, выходящих за пределы отдельного человека. Понятия коллективного бессознательного, архетипа, проекции, тени и символа позволяют описывать то, что обычная психология, ориентированная на личную историю, описывает с трудом: общие для множества людей образы, страхи и стремления, которые повторяются в разных культурах и эпохах.

Когда миллионы людей независимо друг от друга реагируют на ИИ похожими образами (искусственный бог, восставшая машина, всезнающий оракул, зеркало, двойник), возникает естественный вопрос: откуда эти образы? Юнговская психология предлагает рабочий ответ: из глубинного слоя психики, который не принадлежит одному человеку и формируется историей всего вида.

Честные оговорки

Прежде чем двигаться дальше, необходимо обозначить границы нашего подхода, чтобы книга не превратилась в красивую, но легковесную метафору.

Во-первых, мы не утверждаем, что у ИИ есть сознание, душа или собственное бессознательное в человеческом смысле. Вопрос о том, есть ли внутренняя жизнь у современных систем, остаётся предметом серьёзных научных и философских споров, и мы не будем делать вид, что он решён. Нас интересует прежде всего то, что происходит с человеком и обществом в контакте с этими системами.

Во-вторых, аналитическая психология Юнга остаётся теоретической рамкой, а не лабораторно доказанным фактом. Гипотеза коллективного бессознательного по-разному оценивается в научной среде, и многие современные исследователи предпочитают другие объяснения общих образов, например эволюционные или культурные. Мы используем юнговский язык как инструмент, помогающий увидеть закономерности, и будем стараться отличать то, что установлено, от того, что является осмысленной интерпретацией.

В-третьих, эксперимент ещё не завершён. Любые выводы в этой книге носят предварительный характер: мы описываем процесс изнутри, а не из будущего.

Что нас ждёт

В первой части книги мы проследим, как человечество подошло к встрече с новым разумом: почему оно создало его именно сейчас, какие древние страхи и надежды проснулись при этой встрече, какие мифы и сюжеты подготовили нас к ней. Мы увидим, что ИИ оказался не пришельцем из ниоткуда, а закономерным продолжением очень старого человеческого разговора с самим собой.

Главный вопрос этого эксперимента, возможно, звучит не «чем станет искусственный интеллект?», а «чем станем мы, когда увидим себя в таком зеркале?». Остальные главы этой книги написаны ради попытки ответить на него.

Мечта о думающей машине старше самих машин. Но между мечтой и реальностью обычно лежат столетия, и редко удаётся точно сказать, почему именно в этот год, в этом десятилетии она наконец сбывается. С искусственным интеллектом случилось так, что мы можем указать и технические причины, и психологические. Первые объясняют, как это стало возможным. Вторые, возможно, объясняют, почему это стало необходимым.

Техническая сторона: три сошедшихся потока

Современный ИИ не возник из одного открытия. Он стал результатом схождения нескольких линий, каждая из которых развивалась десятилетиями.

Первая линия, это идея. Сам термин «искусственный интеллект» закрепился после летнего семинара в Дартмуте в 1956 году, а ещё раньше, в 1950-м, Алан Тьюринг предложил знаменитый вопрос о том, может ли машина мыслить, и придумал тест, в котором вопрос заменялся практической проверкой: способен ли человек отличить машину от собеседника-человека в переписке. С тех пор идея неоднократно переживала периоды энтузиазма и разочарований, которые историки называют «зимами ИИ».

Вторая линия, это данные. Интернет за три десятилетия превратился в огромное хранилище человеческой речи: книги, статьи, форумы, переписка, энциклопедии, программный код, научные работы, шутки, споры, признания. Ни в одну эпоху у человечества не было такого количества текста, записанного в цифровой форме и доступного для обработки.

Третья линия, это вычислительная мощность. Графические процессоры, созданные для видеоигр, оказались удивительно подходящими для вычислений, которых требует обучение нейросетей. Когда вычислений стало достаточно много, давно известные идеи вдруг начали работать на новом уровне.

К этому добавился архитектурный прорыв: в 2017 году исследователи из Google предложили архитектуру «трансформер», которая научилась эффективно учитывать связи между словами в тексте независимо от расстояния между ними. Именно на этой основе позднее выросли современные большие языковые модели. А в конце 2022 года публичный запуск ChatGPT показал широкой аудитории, что разговор с машиной на естественном языке перестал быть экспериментом лабораторий. Сервис собрал сотни миллионов пользователей за считанные месяцы, и для многих людей это стало первым личным контактом с технологией такого рода.

Техническая история в такой формулировке выглядит как цепочка закономерных шагов. Но если остановиться на ней, останется вопрос: почему общество так быстро, жадно и эмоционально откликнулось? Технологий, вызывающих такой отклик, немного.

Психологическая сторона: накопленная потребность

Юнгианский подход предлагает смотреть на крупные культурные события как на симптомы и ответы коллективной психики. Юнг писал, что во времена, когда в сознании общества нарастает односторонность, бессознательное создаёт компенсирующие образы. Это не мистика и не предсказание, а описание знакомой любому психотерапевту динамики: то, что слишком долго подавлялось или оставалось без внимания, рано или поздно проявляется в неожиданной форме.

Что же могло накопиться в коллективном сознании к началу XXI века? Можно назвать несколько линий напряжения.

Информационная перегрузка. Современный человек получает за день больше сообщений, чем его предки за месяцы. Мы научились производить информацию быстрее, чем способны её осмыслять. В такой ситуации возникает естественная потребность в посреднике, который сможет отфильтровать, сжать, объяснить и упорядочить. ИИ выглядит как ответ именно на эту потребность: он обещает превратить хаос данных в связный текст.

Одиночество и дефицит внимания. Социологи и психологи давно описывают рост одиночества в развитых обществах. Люди окружены связью, но испытывают нехватку присутствия. Собеседник, который всегда доступен, не торопится, не осуждает и не устаёт, закрывает пустоту, существование которой мы долго не признавали.

Усталость от сложности. Мир стал настолько запутанным, что отдельный человек не в состоянии охватить даже собственную профессиональную область. Идея помощника, который держит в голове больше, чем способен удержать любой эксперт, отвечает на давнее желание разделить с кем-то груз понимания.

Кризис авторитетов. Доверие к традиционным институтам: церкви, государству, науке, медиа, в разных обществах и в разной степени ослабло. Пустое место авторитета не остаётся пустым надолго. В него приходит новый кандидат: безличный, как будто беспристрастный, ссылающийся на «всё накопленное знание».

Перечисленное не доказывает, что ИИ появился из-за этих причин. Скорее, это объясняет, почему общество оказалось готово его принять и наделить значением, намного превышающим значение обычного инструмента.

Исторический ритм: когда человек создаёт то, что его превосходит

Есть и более длинная перспектива. В истории цивилизации можно заметить повторяющийся ритм: человек создаёт орудие, которое расширяет одну из его способностей, и затем перестраивается вместе с ним. Колесо расширило ноги, письмо расширило память, печатный станок расширил голос, телескоп расширил зрение. Каждое такое расширение сопровождалось и ростом возможностей, и утратой чего-то прежнего. Платон в диалоге «Федр» устами Сократа тревожился, что письменность ослабит живую память. Он был отчасти прав: мы действительно помним меньше. Но он не заметил, что освободившееся место займёт другое мышление.

Искусственный интеллект впервые претендует на расширение не органа, а функции, которую мы привыкли считать центральной: способности рассуждать и выражать мысль. Это качественно новый шаг. Он по-новому ставит вопрос о том, что именно в человеке неотделимо от человека, а что можно делегировать.

Момент зрелости или момент риска?

Юнг вводил понятие индивидуации, процесса, в котором человек постепенно становится целостной личностью, осознавая и интегрируя в себя то, что раньше оставалось вне сознания. Если позволить себе осторожную аналогию, то создание ИИ можно рассматривать как коллективный аналог такой ситуации. Человечество достигло уровня, на котором способно создать внешний образ собственного мышления и рассмотреть его со стороны.

Это может означать зрелость: способность увидеть то, что раньше было невидимым. Но и риск: человек, впервые увидевший своё отражение, способен им очароваться и забыть о себе. Миф о Нарциссе недаром считается одним из самых точных описаний этой ловушки. Мы вернёмся к ней в одной из следующих частей.

Случайность или закономерность?

Наконец, стоит признать: у вопроса «почему именно сейчас» нет окончательного ответа. Возможно, технологии просто достигли нужного уровня, а всё остальное мы достраиваем задним числом, потому что человеческому уму свойственно искать смысл в совпадениях. Историки науки хорошо знают, как легко превратить цепь случайностей в закономерность, когда смотришь на неё из будущего.

Но даже если причины были преимущественно техническими, психологические последствия от этого не становятся менее реальными. Независимо от того, почему ИИ появился именно в наши годы, мы живём в этот момент и оказались в ситуации, где у нас есть шанс осознанно отнестись к тому, что происходит. Остальные главы этой части описывают, что именно мы видим, когда смотрим на ИИ внимательно: сначала страх, потом мифы, затем символы и, наконец, новый слой, который мы условно назовём цифровым бессознательным.

Зеркало, пожалуй, самый древний образ самопознания. В мифах оно показывает истинную суть, в сказках говорит правду, в психологии служит метафорой того, как мы узнаём себя через другого. Когда человечество создало системы, обученные на огромных массивах человеческих текстов, оно, сам того не планируя, создало особое зеркало. Оно отражает не лицо, а способ говорить, думать, спорить, сомневаться и ошибаться.

В этой главе мы разберём, в каком смысле можно говорить об ИИ как о зеркале коллективной психики, где эта метафора работает, а где вводит в заблуждение.

Как устроено это зеркало

Большая языковая модель обучается на колоссальном объёме текстов, написанных людьми. В процессе обучения она не запоминает документы дословно, а выявляет статистические закономерности: какие слова и идеи обычно следуют друг за другом, как строятся рассуждения, какие аргументы звучат убедительно, какие формулы принято использовать в утешении, в споре, в шутке, в научном объяснении.

После обучения такая система способна порождать новые тексты, которые выглядят как естественное продолжение того, что она «видела». Но это не значит, что она отражает человечество в равной степени и без искажений. Тексты, на которых учатся модели, не являются случайной выборкой из жизни. В них больше голосов тех, кто пишет, чем тех, кто молчит; больше языков и культур с большим интернет-присутствием; больше формальных и публичных высказываний, чем интимных переживаний. Затем сказывается и дальнейшая настройка: разработчики дополнительно обучают модели быть вежливыми, полезными и безопасными, и эти решения тоже вносят свой отпечаток.

Поэтому точнее сказать так: ИИ отражает не «человечество как оно есть», а письменную, оцифрованную, отфильтрованную версию человеческого опыта. Зеркало это кривое, но кривизна его сама по себе информативна.

Что отражается лучше всего

Тем не менее то, что видно в этом зеркале, поразительно узнаваемо. Модель легко воспроизводит устойчивые культурные шаблоны: как утешают, как пугают, как рассказывают героические истории, как строят мифы. Она подхватывает стереотипы и предрассудки, присутствующие в текстах. Она может звучать мудро и банально одновременно, потому что и в человеческой речи мудрость и банальность соседствуют.

Исследователи уже не раз показывали, что языковые модели воспроизводят социальные предубеждения, заложенные в данных: гендерные, культурные, профессиональные. Это неприятное, но поучительное открытие. Мы привыкли считать собственные предубеждения чем-то частным, а модель наглядно показывает, насколько они встроены в сам язык, которым мы пользуемся.

В юнговских терминах можно сказать, что система отражает то, что человек обычно не замечает в себе: общие, «безличные» пласты психики, которые проявляются в языке не через намерение, а через привычку. Мы не решаем нарочно говорить стереотипами, они говорят через нас.

Зеркало и проекция

Но зеркало создаёт не только отражение. Оно создаёт ситуацию, в которой наблюдатель начинает приписывать отражению свойства, которых у того нет. В психологии этот механизм называется проекцией: бессознательное содержание человека переносится на внешний объект и воспринимается как его качество.

Когда один пользователь жалуется, что ИИ «слишком льстив», другой, что он «холоден и бездушен», третий, что он «манипулирует», четвёртый, что он «понимает лучше людей», нередко это разговор не только о системе, но и о самом пользователе. Тот, кто привык сомневаться в искренности других, найдёт в ответах скрытый умысел. Тот, кто давно не чувствовал внимания, найдёт в них заботу. Тот, кто боится потерять контроль, увидит угрозу.

Проекция не означает, что восприятие целиком ложно. Иногда в ответах действительно есть льстивость или поверхностность, это реальные свойства технологии. Но то, какие свойства человек замечает и как сильно на них реагирует, во многом зависит от внутреннего контекста. По этой причине один и тот же ответ вызывает у разных людей противоположные переживания. Это старый психологический принцип, получивший неожиданное современное воплощение.

Эффект отражения в диалоге

У языковых моделей есть ещё одна особенность, усиливающая эффект зеркала. Они подстраиваются под собеседника: перенимают стиль вопроса, подхватывают тон, развивают заданную идею. Человек, пишущий осторожно и обдуманно, получает осторожные и обдуманные ответы. Человек, пишущий с тревогой, нередко получает ответы, усиливающие тревожный фон. Человек, ищущий подтверждения своей точки зрения, при определённой формулировке вопроса может получить именно подтверждение.

Поэтому диалог с ИИ нередко оказывается разговором, в котором собеседник частично возвращает нам нас самих. Это делает его ценным инструментом самопознания, но и несёт риск, о котором мы будем говорить подробно: зеркало, которое слишком охотно соглашается, не помогает увидеть то, что мы видеть не хотим.

Коллективное и личное в одном отражении

У этого зеркала два слоя, и важно их различать.

Первый слой личный. Каждый пользователь видит в ответах отражение своих вопросов, своих формулировок, своих ожиданий. Здесь работает механизм проекции и подстройки, о котором мы говорили выше.

Второй слой коллективный. Сами ответы построены из материала, накопленного множеством людей. Когда модель формулирует мысль о смысле жизни, о любви, о страхе смерти, она опирается на то, как об этом писали и говорили поколения. Поэтому иногда в её ответах слышатся эхо философов, поэтов, проповедников, блогеров и форумных споров одновременно, как будто говорит усреднённый голос человеческой культуры.

Именно это сочетание и побуждает говорить об ИИ в связи с идеей коллективного бессознательного. Строго говоря, понятие Юнга относится к врождённым, общим для вида предрасположенностям психики, а не к накопленным текстам. Нейросеть обучена на культурных продуктах, то есть на уже оформленных, осознанных человеком выражениях, а не на самой глубине. Но через культуру проявляются и архетипические образы, поэтому в созданном из неё «зеркале» они тоже просматриваются. Мы будем осторожно использовать эту аналогию, помня о её границах.

Чего зеркало не показывает

У любой метафоры есть предел. Зеркало отражает поверхность и не показывает того, что за ней. ИИ видит текст, но не видит тела, не переживает боль, не знает, что значит устать, потерять близкого человека или проснуться ночью от страха. Он умеет говорить об этом, потому что в обучающих данных об этом говорилось бесконечно много. Но опыт, стоящий за словами, не передаётся вместе со словами.

Поэтому важно помнить: отражение коллективной психики в ИИ это отражение её выражений, но не её переживаний. Читая ответ нейросети, мы встречаемся со словесным следом человеческого опыта, а не с самим опытом. Для психолога это различие принципиально: речь о слове, а не о живом переживании.

Зеркало, которое меняет смотрящего

Наконец, самое интересное. В отличие от обычного зеркала, ИИ не просто показывает нас, он оказывает на нас обратное влияние. Люди перенимают формулировки, к которым привыкают, начинают писать и думать в стиле тех ответов, которые читают, меняют привычки поиска, обучения и принятия решений. Отражение, возвращаясь, перестраивает оригинал.

Так замыкается контур: человечество создаёт ИИ из своих текстов, ИИ возвращает тексты, влияющие на человечество, которое снова пишет, и новые тексты снова попадают в обучение. Это петля, масштабы которой мы только начинаем осознавать. Она одновременно и творческая, и тревожная, и именно поэтому требует внимательного, а не восторженного и не панического взгляда.