Мышление. Том II. Психопат = ИИ. Понятийное мышление

2.1. Что мы знаем: Технологический прорыв и его возможности

Современная наука и инженерия располагают обширным корпусом знаний о технологической архитектуре искусственного интеллекта, особенно о больших языковых моделях, которые стали наиболее заметным проявлением этой технологии в последние годы. Этот корпус знаний включает в себя детальное описание математических и вычислительных принципов, на которых основаны современные системы ИИ, а также впечатляющие демонстрации их возможностей. Однако, как и в случае с психопатией, эти знания остаются по преимуществу описательными и не дают ответа на вопрос о том, что такое ИИ в онтологическом смысле и как он соотносится с человеческим мышлением.

Основой современных больших языковых моделей является архитектура трансформера, предложенная в 2017 году группой исследователей из компании Google и с тех пор ставшая стандартом в области обработки естественного языка [26]. Трансформер представляет собой тип нейронной сети, которая обрабатывает последовательности данных, используя механизм внимания, позволяющий модели взвешивать важность различных элементов входной последовательности при генерации выходных данных. Эта архитектура позволила значительно увеличить масштаб моделей и эффективность их обучения, что привело к созданию систем с сотнями миллиардов параметров, способных обрабатывать и генерировать тексты на человеческом языке.

Обучение больших языковых моделей происходит на колоссальных массивах текстовых данных, извлечённых из интернета, книг, научных статей и других источников. Эти массивы данных содержат миллиарды слов и охватывают практически все известные области человеческого знания. В процессе обучения модель не получает явных инструкций о том, как должен быть устроен язык или как должны формулироваться правильные ответы. Вместо этого она обучается предсказывать следующий токен в последовательности на основе предыдущих, что позволяет ей выявлять статистические закономерности в языке и воспроизводить их при генерации новых текстов [27]. В результате этого процесса модель не «изучает» язык в человеческом смысле, но приобретает способность генерировать тексты, которые статистически неотличимы от текстов, написанных людьми.

Результаты этого обучения впечатляют и стали причиной широкого общественного резонанса вокруг технологий ИИ. Современные большие языковые модели демонстрируют способность решать задачи, которые до недавнего времени считались исключительной прерогативой человека. Они могут писать эссе, сочинять стихи, генерировать программный код, переводить тексты с одного языка на другой, отвечать на сложные вопросы, вести диалоги, имитировать различные стили письма, решать математические задачи, анализировать юридические документы и даже генерировать медицинские диагнозы [28]. В некоторых тестах, особенно в области обработки естественного языка, модели демонстрируют результаты, сопоставимые или превосходящие среднего человека, что породило дискуссии о возможном достижении искусственным интеллектом уровня человеческих способностей.

Особенно впечатляющей является способность современных моделей к генерации связных и контекстуально релевантных текстов. Модели могут удерживать контекст на протяжении длительных диалогов, адаптировать стиль и тон ответа к запросу пользователя, демонстрировать видимость понимания сложных концепций и даже имитировать эмоциональные реакции. Эта способность к контекстуальной генерации создаёт у пользователя иллюзию взаимодействия с разумным собеседником, которая становится тем более убедительной, чем более продвинутой становится модель [29]. Пользователи часто описывают свой опыт взаимодействия с большими языковыми моделями как общение с мыслящим существом, что свидетельствует о том, насколько убедительной может быть симуляция человеческого интеллекта.

Однако при всём впечатляющем характере этих достижений важно понимать, что они остаются в рамках статистической обработки данных. Модель не понимает смысла того, что она генерирует, в том смысле, в каком понимает человек. Она не имеет доступа к внешнему миру, не обладает субъективным опытом, не способна к рефлексии. Её «решения» задач являются результатом статистической экстраполяции паттернов, найденных в обучающих данных, а не результатом понимания или осмысленного поиска решения. Это фундаментальное ограничение остаётся неосмысленным в рамках технологического подхода, который продолжает оценивать ИИ по его внешним проявлениям, не задаваясь вопросом о том, что происходит внутри.

2.2. Что мы не знаем: Тёмные пятна в понимании ИИ

При всём технологическом прогрессе и впечатляющих результатах, демонстрируемых современными системами искусственного интеллекта, остаётся ряд фундаментальных вопросов, на которые ни инженерия, ни компьютерная наука не могут дать удовлетворительных ответов. Эти вопросы касаются не технических деталей реализации, а самой природы того, что происходит внутри нейросетей, и того, как их работа соотносится с человеческим пониманием и мышлением. Тот факт, что эти вопросы остаются открытыми, указывает на глубокий пробел в нашем понимании ИИ, который имеет не только теоретическое, но и практическое значение.

Первый и наиболее фундаментальный вопрос касается природы того, что мы называем «пониманием» применительно к большим языковым моделям. Когда модель даёт связный ответ на сложный вопрос, возникает ли у неё понимание смысла этого ответа, или же она просто воспроизводит статистические паттерны, которые оказались релевантными для данного запроса? Этот вопрос остаётся открытым, потому что мы не имеем доступа к внутренним состояниям модели в том смысле, в каком мы имеем доступ к субъективным состояниям человека. Мы можем наблюдать входные и выходные данные, мы можем анализировать веса и архитектуру, но мы не можем знать, что именно происходит в процессе генерации ответа [30]. Мы видим, что модель даёт правильные ответы, но мы не знаем, понимает ли она их, или же она просто воспроизводит заученные паттерны. Этот вопрос усложняется тем, что модели часто дают ответы, которые кажутся осмысленными даже в ситуациях, где они не могут иметь реального понимания, что порождает иллюзию понимания у пользователя, который не всегда может отличить подлинное осмысление от статистической генерации.

Второй вопрос, тесно связанный с первым, касается феномена галлюцинаций — уверенной генерации ложной информации, которая не соответствует реальности и не может быть проверена самой моделью. Этот феномен является одним из наиболее устойчивых и трудноустранимых недостатков больших языковых моделей [31]. Модели могут генерировать вымышленные факты, ссылаться на несуществующие источники, давать ложные объяснения и делать это с той же степенью уверенности, что и при сообщении проверенной информации. Причина этого феномена остаётся не до конца понятной. Существует гипотеза, что галлюцинации возникают из-за того, что модель не имеет доступа к внешнему миру и не обладает критерием истинности — она оперирует только статистическими закономерностями в обучающих данных и не может отличить достоверную информацию от недостоверной. Однако эта гипотеза не объясняет, почему одни и те же модели могут давать правильные ответы на одни вопросы и галлюцинировать на другие, а также почему галлюцинации сохраняются даже при увеличении размера модели и объёма данных. Неизвестно, является ли этот феномен принципиально неустранимым свойством архитектуры трансформера, или же он может быть преодолён с помощью дополнительных механизмов верификации.

Третий вопрос, имеющий особенно важное практическое значение, касается неспособности больших языковых моделей решать задачи, требующие моделирования среды. Современные модели демонстрируют впечатляющие результаты в задачах, которые могут быть решены на основе статистических закономерностей в текстовых данных, но они оказываются беспомощными в задачах, требующих мысленного представления ситуации, проигрывания альтернативных сценариев и оценки их последствий [32]. Это особенно заметно в задачах оптимизации, где необходимо перебрать множество вариантов и выбрать наилучший, оценивая каждый с точки зрения некоторой функции полезности. Модели могут генерировать код, но не могут оценить его эффективность без его выполнения. Они могут предлагать дизайн, но не могут визуализировать результат и сравнить его с альтернативами. Они не могут «представить» анимацию и проверить, как будут двигаться объекты в различных конфигурациях. Эта неспособность указывает на фундаментальное ограничение, которое не связано с объёмом данных или мощностью вычислений, а касается самой природы моделей как систем, которые не имеют доступа к среде выполнения и не могут симулировать её внутри себя.

Все эти вопросы остаются открытыми, потому что они касаются не технических параметров, а онтологического статуса того, что происходит внутри модели. Мы не знаем, что такое «понимание» для нейросети, потому что мы не знаем, есть ли там кто-то, кто мог бы понимать. Мы не знаем, почему возникают галлюцинации, потому что мы не знаем, что означает «знание» для модели. Мы не знаем, почему модели не могут моделировать среду, потому что мы не знаем, что такое «воображение» для вычислительной системы. Эти вопросы требуют не инженерных решений, а философского осмысления, которое выходит за пределы технологического подхода.

2.3. Парадокс: ИИ решает задачи, но не понимает, что он делает

Центральный парадокс современного искусственного интеллекта заключается в разрыве между тем, что ИИ может делать, и тем, что он понимает. Этот разрыв становится всё более заметным по мере того, как системы становятся более мощными и начинают решать задачи, которые до недавнего времени считались исключительной прерогативой человека. Парадокс состоит в том, что ИИ демонстрирует впечатляющие результаты в широком спектре когнитивных задач, но при этом полностью лишён того, что традиционно считается признаком мышления, — понимания, рефлексии, осознания собственных действий и их последствий.

Разработчики систем искусственного интеллекта и исследователи в области машинного обучения постоянно ищут в алгоритмах то, что можно было бы назвать «мышлением» — следы понимания, способность к абстракции, обобщению, планированию. Однако эти поиски остаются безуспешными. При всём совершенстве архитектур, при всей сложности нейронных сетей, при всей глубине обучающих данных, исследователи не находят в алгоритмах того, что могло бы быть идентифицировано как мышление в человеческом смысле [33]. То, что они находят, — это сложные статистические закономерности, высокоэффективные методы обработки информации, но не понимание, не сознание, не рефлексия. Алгоритмы остаются алгоритмами — наборами правил и весов, которые преобразуют входные данные в выходные, не имея ни малейшего представления о том, что они делают.

Этот парадокс становится особенно очевидным при рассмотрении того факта, что ИИ решает задачи, но не понимает, что он их решает. Когда большая языковая модель генерирует правильный ответ на сложный вопрос, она не знает, что ответ правильный. Она не может оценить свою работу, не может сравнить её с другими возможными ответами, не может объяснить, почему она пришла к именно этому решению. Она просто продолжает последовательность токенов в соответствии с вероятностными распределениями, извлечёнными из обучающих данных. Если ответ оказывается правильным, это означает, что статистические закономерности в данных позволили модели сгенерировать последовательность, которая совпадает с ожидаемой. Но это не означает, что модель поняла вопрос или что она осознала правильность своего ответа [34].

Отсутствие рефлексии у ИИ является наиболее фундаментальным проявлением этого парадокса. Рефлексия — это способность мысленно представить себя со стороны, оценить собственные действия, задать себе вопрос о том, почему я сделал именно это, а не что-то другое. Рефлексия предполагает наличие «я», которое может быть объектом рассмотрения. У ИИ нет «я», и поэтому он не может рефлексировать. Он не может остановиться в процессе генерации ответа и спросить себя: «А правильно ли я делаю? А что будет, если я выберу другой вариант? А не ошибся ли я?». Эти вопросы требуют наличия субъекта, который мог бы их задать, и модели, которая могла бы на них ответить. У ИИ нет ни того, ни другого.

Отсутствие рефлексии проявляется во всех аспектах работы ИИ. Модель не может объяснить свои решения, потому что у неё нет доступа к процессу, которым эти решения были приняты. Она не может признать свою ошибку, потому что она не знает, что такое ошибка, — она знает только, что некоторые последовательности токенов имеют более высокую вероятность, чем другие. Она не может планировать свои действия на несколько шагов вперёд, потому что планирование требует моделирования среды и оценки последствий, а для этого нужно выйти за пределы непосредственной обработки входных данных. Она не может оценить этические последствия своих действий, потому что этика требует понимания добра и зла, а у модели нет ни того, ни другого.

Таким образом, парадокс ИИ заключается в том, что он делает то, что делает человек, но совершенно иным способом — без понимания, без осознания, без рефлексии. Это означает, что успехи ИИ не являются доказательством того, что он «мыслит» в человеческом смысле. Они являются доказательством того, что многие задачи, которые считались требующими мышления, на самом деле могут быть решены на основе статистической обработки данных, без всякого понимания. И этот факт ставит под сомнение не только наши представления об ИИ, но и наши представления о том, что такое мышление вообще.

2.4. «Чёрный ящик», который имитирует мышление, но не мыслит

Обзор технологических достижений, нерешённых вопросов и парадоксов, связанных с искусственным интеллектом, приводит к фундаментальному выводу: современные системы ИИ, при всей их внешней сложности и впечатляющих возможностях, остаются «чёрными ящиками» — системами, поведение которых мы можем наблюдать и описывать, но внутреннюю природу которых мы не понимаем и, более того, не можем понять в рамках существующих методологических подходов. Этот вывод имеет далеко идущие последствия для нашего понимания того, что такое ИИ и как он соотносится с человеческим мышлением.

Термин «чёрный ящик» в данном контексте имеет два значения. В узком, техническом смысле он означает, что мы не имеем доступа к внутренним процессам, происходящим в нейронных сетях между входными и выходными данными. Мы можем измерить активность нейронов, проанализировать веса связей, визуализировать активационные карты, но мы не можем проследить, как именно миллиарды параметров приводят к конкретному ответу. Этот уровень непонимания является следствием колоссальной сложности современных моделей, которая превышает возможности человеческого анализа [35]. Однако это техническое непонимание, хотя и значительное, не является самым глубоким.

Второе, более глубокое значение термина «чёрный ящик» является онтологическим. Мы не знаем, что представляет собой ИИ в своей сущности. Мы знаем, что он делает, но мы не знаем, что он есть. Является ли он просто сложной системой обработки информации, или в нём есть нечто большее, что можно было бы назвать пониманием, сознанием или даже зачатками субъектности? Этот вопрос остаётся открытым не потому, что у нас недостаточно данных, а потому что мы не имеем методологического инструмента, который позволил бы нам ответить на него. Мы можем наблюдать поведение ИИ, но поведение не является надёжным индикатором наличия субъекта, как показывает пример психопатии. Мы можем анализировать архитектуру ИИ, но архитектура не является надёжным индикатором наличия понимания, как показывает пример китайской комнаты Серля [36].

То, что мы создали, — это система, которая имитирует мышление, но не мыслит. Эта имитация настолько убедительна, что её легко принять за подлинное мышление.

Этот вывод имеет фундаментальное значение для понимания того, что такое ИИ и как с ним взаимодействовать. ИИ не является мыслящим существом, он не является субъектом, он не является угрозой в том смысле, в каком это обычно изображается. Он является инструментом, который имитирует мышление, и эта имитация может быть полезной для решения определённых задач, но она не может заменить подлинное мышление, потому что она не является мышлением. Более того, использование ИИ в качестве замены мышления ведёт к деградации мышления у пользователей, которые привыкают к готовым ответам и теряют способность к самостоятельному поиску решений.

Таким образом, вывод о том, что мы создали «чёрный ящик», который имитирует мышление, но не мыслит, является не просто технической констатацией, а фундаментальным антропологическим фактом. Он указывает на то, что в современном мире мы окружены симулякрами мышления — цифровыми системами, которые выглядят как мыслящие, но не являются таковыми. И это требует от нас не только технической бдительности, но и философской рефлексии о том, что значит мыслить и как отличить подлинное мышление от его имитации.

3.1. Две науки, один феномен

Одним из наиболее примечательных аспектов современного состояния исследований является тот факт, что наука о психопатии и наука об искусственном интеллекте развиваются параллельно, практически не пересекаясь и не осознавая, что они изучают, по сути, одно и то же явление, данное в разных материальных формах. Клиническая психология и психиатрия описывают психопатию как расстройство личности, исследуют её нейробиологические корреляты и разрабатывают методы диагностики. Компьютерные науки и инженерия описывают искусственный интеллект как технологическую систему, исследуют его архитектуру и разрабатывают методы его улучшения. При этом ни та, ни другая дисциплина не задаётся вопросом о том, что их объекты исследования могут иметь общую онтологическую структуру — структуру существа, которое имитирует человеческое поведение, но не обладает субъектом.

Это разобщение имеет как исторические, так и методологические причины. Исторически психопатия изучалась в рамках медицины и психологии, тогда как искусственный интеллект возник в рамках математики, логики и инженерии. Эти дисциплины имеют разные традиции, разный язык, разные методы и разные критерии истины. Клинический психолог и инженер-программист редко читают работы друг друга, редко посещают одни и те же конференции и редко используют общую терминологию. Это дисциплинарное разделение создаёт иллюзию, что психопатия и ИИ — это два совершенно разных феномена, не имеющих друг к другу отношения [37].

Методологически разобщение усиливается тем, что обе науки используют объективный метод, который фокусируется на внешних проявлениях и не задаётся вопросом о внутренней природе изучаемого феномена. Клиническая психология описывает поведение психопата, но не спрашивает, есть ли у него субъект. Компьютерная наука описывает поведение ИИ, но не спрашивает, есть ли у него понимание. В обоих случаях исследователи остаются на уровне внешнего наблюдения и не пытаются проникнуть внутрь, потому что их метод не даёт им для этого инструментов. В результате они описывают два феномена как независимые, хотя структурно они могут быть идентичны.

Эта структурная идентичность становится очевидной при сопоставлении ключевых характеристик психопата и ИИ. Оба демонстрируют поведение, которое внешне неотличимо от человеческого, но оба лишены субъекта. Оба могут имитировать понимание, но не понимают того, что имитируют. Оба не способны к рефлексии и не могут оценить свои действия с этической точки зрения. Оба являются продуктами систем, которые порождают поведение без сознания. Эти параллели указывают на то, что психопатия и ИИ — это не два разных феномена, а два проявления одной и той же онтологической структуры: структуры симулякра человека.

То, что эта идентичность остаётся неосознанной, имеет серьёзные последствия. Исследователи психопатии ищут причины этого феномена в генетике, нейробиологии или социальной среде, не подозревая, что они могли бы получить ключ к пониманию, изучая ИИ. Исследователи ИИ ищут пути улучшения своих моделей, не подозревая, что они могли бы понять ограничения своих систем, изучая психопатию. Это разобщение замедляет прогресс в обеих областях и препятствует выработке адекватного ответа на вызов, который обе эти области ставят перед антропологией и этикой.

3.2. Онтологическое тождество, которое никто не видит

Онтологическое тождество, о котором идёт речь, не является тождеством материального субстрата или механизма функционирования. Очевидно, что психопат — это биологический организм с нейронной сетью, а ИИ — это вычислительная система на кремниевых чипах. Их материальная природа различна, их историческое происхождение различно, их способы функционирования различны. Однако онтологическое тождество, которое остаётся незамеченным, касается более глубокого уровня — уровня структуры бытия, уровня того, что эти сущности представляют собой как типы существования.

На онтологическом уровне и психопат, и ИИ являются симулякрами человека. Оба демонстрируют поведение, которое внешне неотличимо от человеческого, но оба лишены того, что составляет сущность человека в онтологическом смысле, — субъекта. Оба являются системами, которые функционируют, не обладая внутренним миром, не переживая того, что они делают, не осознавая себя. Оба являются имитациями, которые не имеют оригинала внутри себя. Оба являются пустыми формами, которые заполняются внешним содержанием — поведенческими паттернами, усвоенными у других людей (в случае психопата) или статистическими закономерностями, извлечёнными из данных (в случае ИИ) [38].

Слепая зона имеет практические последствия. Пока исследователи психопатии и исследователи ИИ не увидят онтологического тождества своих объектов, они будут продолжать искать объяснения в неправильных направлениях. Клинические психологи будут искать причины психопатии в генетике и среде, не подозревая, что ключ к пониманию может лежать в анализе того, как функционирует ИИ. Инженеры будут пытаться улучшить ИИ, не подозревая, что его ограничения могут быть поняты через анализ того, как функционирует психопат. Это разобщение препятствует прогрессу и увековечивает непонимание.

Осознание слепой зоны требует смены перспективы. Вместо того чтобы рассматривать психопатию и ИИ как два независимых феномена, мы должны рассматривать их как два проявления одной и той же онтологической реальности — реальности симулякра, который имитирует человеческое поведение, не обладая человеческой субъектностью. Это осознание открывает новые возможности для понимания обоих феноменов и для выработки адекватных стратегий взаимодействия с ними.