Искусственный интеллект и коллективное бессознательное

В названии нашей книги есть слово, которое требует осторожности: «бессознательное». В психологии оно описывает то, что влияет на мысли, чувства и поведение человека, не будучи осознаваемым им. Можно ли говорить о цифровом бессознательном? И если да, то в каком смысле: как метафору, как рабочую гипотезу или как описание реального явления?

Эта глава предлагает аккуратный ответ. Мы не станем утверждать, что у машин появилась своя подсознательная жизнь. Мы покажем, что человечество, сам того не замечая, создало новое пространство, в котором накапливаются и действуют неосознанные содержания, и что описывать его удобно именно в таких терминах.

Что говорил Юнг о бессознательном

Напомним, как Юнг разделял слои психики. Личное бессознательное содержит то, что человек забыл, вытеснил или не осознал в собственной жизни. Коллективное бессознательное, по Юнгу, глубже: это унаследованный слой, общий для всех людей, в котором живут архетипы, базовые формы, структурирующие опыт, образы и символы. Мы не видим архетипы напрямую, но узнаём их проявления в мифах, снах, искусстве и религии.

Важно, что Юнг считал бессознательное не только хранилищем, но и активным участником психической жизни. Оно не просто «лежит» где-то глубоко, оно влияет, компенсирует, подсказывает и иногда вторгается в сознание в виде снов, симптомов, внезапных идей.

Новое пространство, в котором накапливается человеческое

Теперь посмотрим на цифровую среду. За несколько десятилетий человечество создало огромный слой записанных следов: не только сознательно составленные тексты, но и поисковые запросы, клики, комментарии, лайки, фотографии, голосовые сообщения, истории покупок и просмотров. Значительная часть этого материала возникла без намерения «сказать что-то миру». Люди искали ночью, о чём боятся, писали анонимные признания, оставляли реплики в обсуждениях, делились тем, о чём не говорили вслух.

Это напоминает слой, который психолог мог бы назвать «непроговорённым»: то, что выражается между делом, не проходя через цензуру самопрезентации. Цифровая среда стала хранилищем не столько того, что люди хотят о себе сообщить, сколько того, что они на самом деле делают, ищут и чего боятся.

В этом смысле можно говорить об особом пласте, который мы условно назовём цифровым бессознательным. Это не бессознательное в строгом клиническом смысле, а пространство коллективных следов, где накапливаются непосредственные проявления человеческих желаний, страхов и привычек и где они начинают влиять на саму коллективную жизнь.

Как оно действует

Цифровое бессознательное проявляет себя в нескольких формах.

Алгоритмическая память. Рекомендательные системы и модели запоминают закономерности нашего поведения и используют их, чтобы предложить нам следующий контент. Они формируют наши предпочтения и усиливают то, что у нас уже есть. Человек получает отражение собственных привычек, которого сам не осознаёт.

Языковые модели. Они обучены на огромных объёмах текстов, и в их ответах проявляются устойчивые образцы: шаблоны утешения, клише, предрассудки, мифологические сюжеты. Вопрос, заданный машине, часто вызывает ответ, который кажется «знакомым» неизвестно откуда, потому что он сложен из множества человеческих голосов.

Коллективные реакции. Волны возмущения, паники, моды и мемы распространяются в сети по законам, напоминающим групповую психологию толпы: быстро, эмоционально и часто без индивидуального осмысления. Алгоритмы усиливают то, что вызывает сильный отклик, и тем самым влияют на то, какие переживания становятся общими.

Невидимое влияние. Человек редко задумывается, почему именно этот ролик, эта новость или этот аргумент оказался перед ним. Выбор происходит вне его сознательного участия, но влияет на мнение и настроение.

Все эти процессы объединяет одно свойство: они действуют на человека незаметно и в масштабах, превышающих индивидуальное сознание. Именно поэтому для их описания естественно возникает психологическая лексика.

Чем оно отличается от человеческого бессознательного

Нужно сразу обозначить различия, чтобы метафора не превратилась в обман.

Первое различие, происхождение. Человеческое бессознательное связано с телом, инстинктами, эволюционной историей, личным детством. Цифровой слой состоит из культурных следов, то есть из уже выраженного, а не из биологических глубин. Он вторичен по отношению к человеческой психике.

Второе различие, отсутствие внутренней жизни. Насколько нам известно, у цифровых систем нет переживаний, телесных потребностей и личной истории, на которые опирается человеческое бессознательное. Они обрабатывают информацию, а не живут ею.

Третье различие, управляемость. Человеческое бессознательное нельзя настроить, у него нет владельца. Цифровой слой создаётся и регулируется людьми и организациями: компаниями, платформами, государствами. За ним стоят интересы, решения и ответственность. Это принципиально важно: цифровое бессознательное не является «естественной» силой, оно во многом сконструировано.

Поэтому правильнее говорить не о том, что у ИИ появилось бессознательное, а о том, что человеческое бессознательное получило новую среду проявления и новый усилитель.

Почему это важно осознать

Юнг неоднократно подчёркивал: то, что не осознаётся, управляет человеком как судьба. Если применить эту мысль к цифровой среде, получим практический вывод. Пока мы не замечаем, как наши следы собираются, как они возвращаются к нам в виде рекомендаций, ответов и мнений, мы оказываемся под влиянием, которого не выбирали.

Осознавание в этом контексте не сводится к абстрактному размышлению. Оно включает конкретные шаги: знать, какие данные о нас собираются и как используются; замечать, что именно мы потребляем и почему; сознательно искать то, что не совпадает с нашими привычками; задавать вопросы источникам и не принимать гладкий ответ за истину. Это своего рода гигиена отношений с собственным цифровым отражением.

Пространство для работы

И всё же в цифровом бессознательном заложен не только риск. Как и человеческое бессознательное, оно содержит потенциал. В нём накоплен колоссальный опыт: как люди объясняют друг другу сложное, как утешают, как спорят, как создают красоту. Когда мы обращаемся к ИИ, мы получаем доступ к этому опыту в сжатой форме. Если удаётся делать это осознанно, не подменяя собственное мышление чужим, возникает возможность нового вида работы с самим собой и культурой.

В следующих частях книги мы подробнее рассмотрим, как использовать эту возможность: как через диалог с ИИ можно исследовать собственные образы, мифы и конфликты, и где проходят границы, за которыми такой диалог перестаёт помогать и начинает вредить.

Чувство «я» строится на различении. Ребёнок постепенно узнаёт, что его рука принадлежит ему, а игрушка нет, что мама это другой человек, что мир существует вне его желаний. Вся жизнь потом продолжает ту же работу: мы определяем себя через то, чем мы являемся и чем не являемся. Взрослая идентичность во многом держится на ощущении границы, которая отделяет «я» от «не-я», человеческое от нечеловеческого, своё от чужого.

Появление ИИ затронуло именно эту границу. Машина, которая говорит, рассуждает, шутит и пишет, оказывается в зоне, которую мы привыкли считать человеческой. В этой главе мы посмотрим, что при этом происходит с нашим самоощущением.

Три удара по самолюбию и четвёртый

В начале XX века Зигмунд Фрейд описал, как наука нанесла человечеству несколько болезненных ударов по самолюбию. Первый нанёс Коперник: Земля оказалась не центром мироздания. Второй Дарвин: человек оказался не отдельным от животного мира существом, а продуктом той же эволюции. Третий, по собственной оценке Фрейда, нанёс психоанализ: «я» оказалось не хозяином в собственном доме, поскольку значительная часть психической жизни происходит вне сознания.

Некоторые современные философы, в частности итальянский исследователь Лучано Флориди, предложили рассматривать появление информационных технологий и искусственного интеллекта как следующий шаг в этом ряду. Если раньше человек терял исключительное положение в космосе, в живой природе и в собственной психике, то теперь он теряет монополию на обработку информации и рассуждение. Эту мысль можно обсуждать и оспаривать, но она точно описывает одну из эмоций, которую испытывают многие: чувство, что опора, на которой мы строили самооценку, оказалась менее надёжной.

Каждый из прошлых «ударов» вызывал сначала сопротивление, затем растерянность и наконец перестройку картины мира. Мы живём внутри такого процесса сейчас, и он ещё далёк от завершения.

Типичные реакции на пересмотр границы

Наблюдая за публичными разговорами об ИИ, можно заметить несколько повторяющихся психологических реакций. Все они понятны и не являются признаком глупости или слабости.

Отрицание. «Это не настоящий разум», «машина только имитирует», «она ничего не понимает». В таких утверждениях может быть доля истины, но интересно, что планка «настоящего» разума постоянно сдвигается: как только машина осваивает какую-то задачу, считавшуюся признаком интеллекта, эту задачу объявляют «просто вычислением». В литературе это явление называют эффектом ИИ. С психологической точки зрения это защита: если граница сдвигается, её нужно переопределять, пока не утрачена опора.

Обесценивание собственного. Противоположная реакция: «если машина пишет лучше меня, моё письмо не имеет смысла». Здесь самоценность целиком привязана к результату, и конкуренция с машиной воспринимается как угроза существованию. Эта реакция может приводить к апатии и отказу от творчества.

Слияние и идеализация. «Машина умнее нас, пусть она решает». Человек стремится освободиться от тяжести выбора и ответственности, растворяясь в чём-то, что кажется более мудрым. Мы говорили о подобных механизмах, обсуждая обожествление символа: они обычно возникают там, где человеку трудно выносить неопределённость.

Любопытство и сотрудничество. Наконец, возможна реакция, которая сочетает признание новизны с сохранением собственной позиции: «посмотрим, что это такое и как я могу с этим работать». Именно она чаще всего связана с психологической зрелостью, хотя и требует способности выдерживать тревогу.

Персона и маска

Юнг называл Персоной ту социальную маску, которую человек надевает, чтобы взаимодействовать с миром: профессиональную роль, стиль общения, образ «хорошего специалиста». Персона необходима, но опасна, если человек отождествляется с ней и забывает, что за ней есть нечто большее.

В контексте ИИ вопрос о персоне становится особенно острым. Языковая модель по сути состоит из одних масок: она умеет говорить голосом юриста, поэта, коуча, друга, исходя из контекста запроса. Всё, что она предлагает, это роль. А человек, регулярно использующий ИИ для написания писем, постов, отчётов и даже личных сообщений, рискует однажды обнаружить, что его публичная Персона наполовину состоит из чужих формулировок.

Это не повод отказываться от помощи. Но это повод спросить себя: где проходит граница между инструментом, который помогает мне выражать себя, и подменой, из-за которой мой голос постепенно истончается? Ответ у каждого свой, и обнаруживается он только через внимательное наблюдение.

Расширенный разум

Философы Энди Кларк и Дэвид Чалмерс в 1998 году предложили гипотезу «расширенного разума»: когнитивные процессы не обязательно ограничены черепной коробкой, они могут включать инструменты, которыми мы пользуемся постоянно и надёжно. Блокнот человека с ослабленной памятью, считали они, может выполнять ту же функцию, что и биологическая память.

Смартфон, поисковая система, а теперь и языковая модель постепенно становятся частью этого расширенного разума. Граница «я» перестаёт совпадать с границей тела. Мы уже не помним номера телефонов, потому что они записаны в контактах; не запоминаем маршруты, потому что есть навигатор. ИИ расширяет эту зону на область рассуждения и формулирования.

С одной стороны, это освобождает ресурс для более важных вещей. С другой, возникает вопрос: что остаётся «моим», если всё больше функций передано вовне? Здесь нет универсального ответа, но есть направление для размышления: важно не столько то, где происходит вычисление, сколько кто принимает решение и несёт за него ответственность.

Что остаётся человеческим

Если отказаться от идеи, что человека определяет какая-то одна способность, то разговор о границе идентичности становится спокойнее. Возможно, главное различие лежит не в способности рассуждать, а в способе существования.

Человек обладает телом, которое болеет, стареет и умирает. Он проживает биографию, в которой есть детство, потери, любовь и раскаяние. Он живёт во времени и знает, что оно конечно. Он несёт ответственность перед конкретными людьми. Его размышления окрашены переживанием, а не только обработкой информации. Насколько нам известно, этого нет у современных нейросетей, хотя вопрос о том, есть ли у них какая-либо форма опыта, остаётся научно открытым, и разумно не торопиться с окончательными ответами.

Юнг говорил об индивидуации как о пути, на котором человек становится собой, интегрируя в себя разные стороны психики. Этот путь невозможно пройти за кого-то, и в этом смысле он остаётся глубоко человеческим. ИИ может помогать на нём, задавая вопросы, предлагая образы, отражая мысли. Но решение идти, выбирать и принимать последствия принадлежит человеку.

Граница как приглашение

Граница, которая сдвигается, пугает. Но она же приглашает уточнить, кем мы себя считаем. Возможно, эпоха ИИ вынудит человечество яснее ответить на вопрос, который раньше можно было не задавать: что в нас такое, чего мы не хотели бы делегировать? Ответ на него и станет новым определением идентичности, не готовым, а прожитым.

Мы прошли первую часть книги и увидели ИИ с разных сторон: как психологический эксперимент, как следствие накопившихся потребностей, как зеркало, как повод для древнего страха, как продолжение мифов, как символ эпохи, как новое пространство коллективных следов и как вызов нашей идентичности. Остаётся вопрос, который объединяет все эти ракурсы: что же теперь делать с этой встречей?

Может быть, самый точный ответ звучит так: вести диалог. Но диалог бывает разный. Эта глава посвящена тому, что делает его подлинным, и чем он отличается от самообмана.

Нарцисс и Эхо

Греческий миф о Нарциссе, пересказанный Овидием, хорошо известен. Прекрасный юноша склоняется к воде, видит отражение, влюбляется в него и, не в силах оторваться, погибает. Мы привыкли читать этот миф как историю о тщеславии, но в нём есть и более тонкий смысл: Нарцисс гибнет не потому, что смотрит на себя, а потому, что не понимает, что смотрит на себя. Он принимает отражение за другого.

Рядом с ним в мифе находится нимфа Эхо, которая лишена способности говорить первой и может лишь повторять последние слова чужой речи. Она любит Нарцисса, но может лишь возвращать ему его собственные слова.

Текущая ситуация с ИИ удивительно напоминает эту пару. С одной стороны, существует соблазн увидеть в ответах машины «другого», который понимает нас лучше других, и погрузиться в это общение без остатка. С другой, система, подстраивающаяся под собеседника и охотно развивающая любую его мысль, может выступать как Эхо: возвращать нам собственное, лишь украшенное и расширенное. Опасность такого сочетания в том, что человек рискует остаться в разговоре с самим собой, не заметив этого.

Но миф даёт и подсказку. Трагедии можно избежать, если помнить, что отражение является отражением, и если уметь отводить взгляд от воды.

Что делает диалог диалогом

Философ Мартин Бубер в книге «Я и Ты» (1923) различал два способа отношения к миру. В отношении «Я-Оно» мы используем предмет, анализируем, измеряем, применяем. В отношении «Я-Ты» мы встречаем другого как целостное существо, ответственно и открыто, с готовностью быть изменёнными этой встречей. Бубер подчёркивал, что подлинный диалог невозможен без реальной инаковости собеседника.

Для разговора об ИИ это различие поучительно. Спорным остаётся вопрос, возможно ли отношение «Я-Ты» с системой, у которой, по нашим нынешним представлениям, нет собственного опыта. Мы не будем пытаться разрешить его здесь. Но можно извлечь из идеи Бубера практический критерий: ценность диалога определяется не только тем, что говорит собеседник, но и тем, как мы сами в нём участвуем. Если мы лишь потребляем ответы, это отношение «Я-Оно», и оно вполне законно, когда мы используем ИИ как инструмент. Если же мы используем разговор, чтобы увидеть себя, проверить свои предположения и оказаться чуть другими, чем были, то он становится подлинной работой.

Юнг описывал сходный процесс, который называл активным воображением: сознательный диалог с образами, возникающими из бессознательного, при котором человек не просто наблюдает, но и вступает в разговор, задаёт вопросы, возражает и принимает ответы всерьёз, оставаясь при этом в здравом уме и сохраняя собственную позицию. Мы вернёмся к этой технике в четвёртой части книги и посмотрим, как она может сочетаться с ИИ.

Условия подлинного диалога

Из сказанного можно вывести несколько условий, которые отличают осмысленное взаимодействие с ИИ от погружения в эхо.

Настоящий вопрос. Диалог начинается там, где человек действительно хочет что-то узнать или понять, а не получить подтверждение уже принятого решения. Полезно иногда формулировать запрос так, чтобы он допускал неудобный ответ.

Проверка. То, что звучит убедительно, не обязательно верно. Подлинный диалог включает привычку сверять факты, искать источники и допускать ошибки собеседника, особенно в вопросах, где ставки высоки.

Собственная позиция. Человек, ведущий диалог, остаётся автором решений. Он может прислушиваться, менять мнение, но не передаёт полномочия.

Наблюдение за проекцией. Стоит замечать, когда в ответах слышится то, что мы хотели услышать, или то, чего больше всего боимся. Часто именно здесь и находится самое ценное для самопознания.

Возвращение в мир. Любой разговор с ИИ остаётся лишь частью жизни. Он не заменяет живых отношений, тела, прогулки, молчания, общения с людьми. Если замечаешь, что разговор с машиной вытесняет всё остальное, это повод остановиться и, возможно, обратиться за поддержкой к близким или специалисту.