Искусственный интеллект и архитектура сознания. Переход от Narrow AI к General AI

Но именно в отношении этого прогноза – сроков и самой возможности достичь уровня человеческого интеллекта на искусственных носителях – у большого числа специалистов возникают обоснованные сомнения. Более того, все чаще приходится слышать от авторитетных экспертов, что никакого ИИ вообще не существует, а то, с чем мы имеем дело – это лишь программное обеспечение, не имеющее ничего общего ни с интеллектом, ни с сознанием человека.

Три уровня искусственного интеллекта

Традиционно выделяют два или три основных уровня ИИ. Первый – «Ограниченный» или «слабый» (Narrow/ Weak AI), к которому относятся все современные виды ИИ, созданные к настоящему времени. Такие виды ИИ (Narrow /Weak AI) характеризуются способностью ИИ выполнять отдельные задачи, как правило, намного эффективнее и стремительнее, чем это мог бы сделать человек. Например, обработка больших массивов данных (Bigdata), переводы текстов, распознание лиц, сбор информации, управление процессами и производствами, голосовые помощники, беспилотные автомобили, игры в шахматы, Го и т.п.

Второй уровень или тип ИИ – «Расширенный» или «Мощный» (General/ Strong AI) – это ближайшая зона развития современного ИИ, функционирующий по аналогии с человеческим сознанием, способному к самостоятельному обучению, принятию решений, приоритизации задач, эмпатии и т.п. Термин Strong AI предложил в 1980 John Rogers Searle в своей работе "Minds, Brains, and Programs" (1980). Strong AI – «когда машины смогут по-настоящему понимать, что происходит» («This is when a machine truly understands what is happening». Searle, 1980; перевод цитаты – С.Ф.).

Также часто выделяют третий уровень – Super AI или Superintelligence (Nick Bostrom, 2014) – ИИ, превосходящий уровень человеческого сознания и воплощающий в себе все интеллектуальные и когнитивные возможности, которые предоставляет природа и мироздание. Однако, представления о Super AI носят настолько фантастический и недостижимый в обозримом будущем характер, что обсуждать их в настоящее время не имеет смысл.

При этом экспертная оценка того, где сейчас находится прогресс в развитии ИИ – неоднозначна, и по этому вопросу существует несколько точек зрения. Одни эксперты считают, что в настоящий момент мы уже находимся на пути к ИИ, уровня человека и остались считанные годы до наступления «сингулярности». Так, например, известный футуролог и лингвист Рой Курцвейл (в настоящее время – руководитель natural language-oriented project в Google) установил четкую дату создания ИИ, уровня человека – 2029 год, а футурист и специалист в области технологий и гуманизма Gerd Leonhard еще раньше – в 2025. И хотя далеко не все сторонники столь скорого появления ИИ, уровня человека, разделяют его оптимизм, тем не менее, многие настроены позитивно в отношении скорого перехода к ИИ, уровня человека и даже к Super ИИ. Например, Ник Бостром, Стюарт Рассел и другие футуристы, не только прогнозируют появление ИИ, уровня человека в ближайшие десятилетия, но всерьез рассматривают сценарии технологического апокалипсиса, революции «терминаторов» и «восстании машин».

С другой стороны, Родни Брукс (Brooks, 2001) считает, что до создания уйдут многие десятилетия или даже века, прежде чем мы сможем приблизиться к ИИ, уровня человека. В качестве источника возможного решения он предлагает рассмотреть «невообразимое» и открыть некий совершенно новый взгляд на интеллект, сознание и мышление, которые позволят преодолеть «стеклянный потолок» нынешнего ИИ и перейти на новый уровень – ИИ, аналогичного человеческому. «Для систем восприятия может существовать какой-то организующий принцип… какие-то математические принципы или понятия, необходимые для построения хороших объяснений деталей эволюции, познания, сознания или обучения, что позволит расцвести ИИ и Искусственной жизни» (Brooks, 2011; перевод цитаты – С.Ф.)

Дэвид Чалмерс, философ-футуролог предлагает искать «новые свойства, неизведанной материи», которые позволит нам открыть тайну человеческого интеллекта и создать ИИ, уровня человека: «для объяснения сознания может быть необходим принципиально новый тип нового материала, новое физическое свойство вещей во Вселенной, подчиненное физическим законам, которые мы просто еще не понимаем…» (Chalmers, 1996).

Скептицизм

Где же истоки новой волны скептицизма, доходящего до отрицания того, что ИИ действительно создан? – В первую очередь, основные претензии связаны с тем, что технологии, которые по традиции называются ИИ, не являются «интеллектом» как таковым – это лишь продвинутый программный софт и алгоритмы (Rouhiainen, 2018). «Вообще говоря, разница между ИИ и программным обеспечением не такая уж и явная» (Bostrom, 2014). Человеческий интеллект и сознание намного сложнее и не могут быть сведены к набору алгоритмов и решению отдельных задач, или даже множеству самых сложных задач, но по отдельности.

Действительно, что же мы называем ИИ и на каком основании? Является ли пульт от телевизора или кнопки лифта искусственным интеллектом? Смартфон и автоматизированная система обработки Bigdata? Автопилот автомобиля и голосовой помощник? Компьютер для игры в шахматы или в Го?

Мельница с огромными жерновами, скрипящими лопастями, массивными приводящими механизмами и шестернями ни при каких обстоятельствах не удостоится звания ИИ. Но если процесс помола станет невидимым для пользователей, будет управляться с помощью touch screen, начнет подчиняться ситуационным потребностями пользователя и текущим условиям, распознавать лица пользователей, самостоятельно определять – в каком количестве и какого помола выдать муку каждому из них, и если все это еще будет сопровождаться имитацией диалога, подборкой музыкального фона и выдачей красивой аналитики в цветных диаграммах и анимированных презентациях – то уже вполне реалистично претендовать на грант на внедрение ИИ в мукомольной сфере.

Вряд ли кому-то придет в голову называть пульт ТВ или кнопки лифта искусственным интеллектом – условный социологический опрос выявит скорее всего из ста опрошенных ноль желающих назвать эти дивайсы ИИ. Но если лифт начнет «распознавать» входящего и отвозить его на нужный этаж самостоятельно? Возможно, уже один из ста человек согласится назвать такую технологию ИИ. Если при этом лифт начнет «здороваться» приятным голосом, обращаясь к входящему по имени, и включать музыку, соответствующую его предпочтениям и настроению? Поддерживать беседу и отвечать на вопросы о погоде, курсе акций, событиях в мире? Если прямо из лифта можно включить микроволновку или компьютер в своей квартире? Можно предположить, что число тех, кто готов сказать, что такой лифт обладает ИИ – будет возрастать. Но превратит ли это лифт в ИИ на самом деле?

В какой же момент происходит переход от простой «технологии кнопок» к искусственному интеллекту? Ведь по сути ничего не меняется от того, что лифт теперь способен выполнять больше задач, чем просто отвезти своего пассажира на нужный этаж. Также, как смартфон или компьютер, лифт не становится умнее от количества программ и приложений, установленных на них. Возможно ли определить универсальный и объективных маркер или индикатор, которые однозначно укажут: это – искусственный интеллект, а это – просто гаджет. Отсутствие четких границ и критериев, отделяющих ИИ от технологии, софта, программного обеспечения – с одной стороны, и отсутствие явных аналогий с человечески интеллектом и сознанием – с другой, во многом породили новую волну скептицизма в отношении современного ИИ. В результате увеличивается число специалистов, которые полагают, что мы достигли «стеклянного потолка» на данном уровне развития технологии, которую с легкой руки МакКарти традиционно продолжают называть ИИ.

Чтобы называться «интеллектом», недостаточно быть способным выполнять отдельные, узкоспециализированные задачи, даже если они очень сложные и «интеллектуальные». Наши собственные требования к ИИ стали включать сходство с человеческим поведением и сознанием, что неизбежно включает в себя наличие эмоций, чувство ситуации, эмпатию, гибкость в общении, эластичность поведенческих реакций, чувство юмора и т.п.

«ИИ – это не волшебство, а просто набор инженерных методов и алгоритмов, каждый со своими сильными и слабыми сторонами, подходящий для одних задач, но не для других» (Marcus&Davis, 2019). Гаджетам недостаточно простого, рабского послушания нашим командам чтобы называться интеллектом, даже если их функционирование и решение задач идеально, безотказно, эффективно и приятно для пользователя, превосходя «интеллектуальные» возможности самого пользователя. «Всякая компьютерная программа сводится к спискам инструкций. Microsoft Word и PowerPoint сводятся инструкциям. Call of Duty и Minecraft сводятся к инструкциям» (Wooldridge, 2021). Для того, чтобы иметь сходство ИИ с нашим собственным интеллектом, требуется нечто большее – мы ожидаем от искусственного интеллекта и искусственной жизни такого же поведения как наше собственное. Но что это означает на самом деле? Что именно мы ждем от поведения ИИ? Насколько наши требования обоснованы и реалистичны?

Проблема перехода к искусственному интеллекту, уровня человека

В настоящее время «все виды ИИ функционируют в режиме узкоспециализированного ИИ (Narrow AI)» (Bostrom, 2014). При этом задача создать ИИ, аналогичный человеческому, до сих пор не была формализована и определена так, чтобы стало ясно – в каком направлении должны развиваться исследования и как должен выглядеть итоговый результат. Чтобы создать искусственный интеллект, уровня человека, необходимо сначала определиться с тем, что вообще представляет интеллект и сознание человека, а также определиться с тем, что подразумевается под понятием «искусственный интеллект», и какие у нас ожидания от его дальнейшего развития.

Это не философские вопросы ради дискуссии на общую тему. Понятие ИИ, введенное с легкой руки Джона МакКарти для того, чтобы отделить новое направление от кибернетики, оказалось блестящим решением с маркетинговой точки зрения, но содержательно оно не было определено в полной мере ни самим автором, ни его последователями. От названия «ИИ» впоследствии даже пытались отказаться, но было уже поздно – оно цепко и навсегда закрепилось в общественном сознании.

Марвин Мински предложил такое определение: «ИИ – наука о том, как создавать машины, способные выполнять такую работу, которая требовала бы человеческого уровня интеллекта» (Minsky, 1962, цитата по Sleeman&Bernsen, 1992; перевод цитаты – С.Ф.). Это определение не прояснило главную проблему и вопрос остался прежним – что означает: «интеллект, уровня человека»? Каковы критерии? В чем измерять и по какой шкале?

Благодаря МакКарти и Мински, мы оказались в интересной, но непростой ситуации – сначала был придуман термин «искусственный интеллект», а затем началось его наполнение содержанием и поиск стратегии дальнейшего развития, исходя из случайно сгенерированного названия. Если на начальном этапе, когда ИИ только зарождался, такое положение дел не представляло проблемы и даже способствовало развитию ИИ, то для перехода от AGI к NGI, требуется ясность и четкое определение – в чем содержательная разница Narrow ИИ и General ИИ, что составляет проблему перехода от ANI и AGI, и что в конце концов мы желаем получить в качестве ИИ, уровня человека.

Проблема архитектуры сознания

На данный момент ответ очень прост и категоричен: «правда заключается в том, что даже близко не представляем себе то, что хотим создать» (Wooldridge, 2021).

Основная проблема перехода к ИИ, уровня человека заключается в отсутствии концептуального понимания – что именно собой представляет архитектура интеллекта (сознания), какие базовые структуры и «небиологических» принципы лежат в основе его функционирования.

Решение проблемы архитектуры сознания сдерживается отсутствием необходимых и достаточных представлений об интеллекте (сознании) человека, базовых структурах и «небиологических» принципах, с помощью которых сознание оперирует элементами информационного поля и конструирует реальность для его владельца с целью последующего выбора наиболее адекватного поведенческого решения в каждый момент времени.

Попытки решить задачу «архитектуры сознания» человека (и вообще живых организмов) регулярно предпринимаются, тем не менее она до сих пор не решена и едва ли можно говорить о существенном прогрессе. На данный момент ни психология, ни нейробиология, ни другие дисциплины не смогли сформировать понятную и практичную концепцию архитектуры сознания. Отсутствие модели архитектуры сознания (интеллекта) не позволяет сформулировать конечную цель и задачу таким образом, чтобы перейти к практическому созданию ИИ, уровня человека.

Возможно, прежде чем искать «новую материю» или думать о «невообразимом», имеет смысл вернуться к базовым понятиям, устранить искажения и неопределенности в формулировках, а также восстановить логику процессов и закономерностей, чтобы получить ответ на самый главный вопрос – каким образом сознанию удается распознавать именно те элементы информационного поля и определять наиболее актуальную задачу, которая требует поведенческого решения в каждый момент времени.

Условием создания ИИ, аналогичного человеческому, является структурно-функциональный подход к реконструкции архитектуры сознания, направленный на установление базовых когнитивно-поведенческих структур и небиологических принципов конструирования картины мира, позволяющих сознанию выделять именно те элементы, которые имеют значение для выбора и принятия поведенческого решения в каждый момент времени.

Распознание – две задачи

В свою очередь, проблема распознания подразделяется на две основные составляющие. Первая – каким образом наш интеллект (сознание) выделяет из всей картины мира только те элементы, которые значимы для нашей жизни в каждый конкретный момент. Вторая – каким образом приоритизируются значимые для нашей жизни задачи, и по какому принципу происходит выбор наиболее адекватного решения? Человек, как на индивидуальному уровне, так и видовом не смог бы прожить и минуты без способности распознавать и выделять из всего бесчисленного множества элементов информационного поля те, которые имеют значение для нашей жизни, определять сами значения, и на их основе выбирать наиболее эффективное решение в каждой конкретной ситуации.

Вообще говоря, если бы мы смогли ответить на эти два вопроса – как отделять «значимое» из всей картины мира, и почему именно данные элементы информационного поля имеют значение, то можно было сказать, что основная часть концептуальной работы по созданию ИИ была бы выполнена. Связав распознание значения элемента и соответствующее поведенческое решение, возможно более четко определить направление для дальнейшего технологического развития ИИ. Однако на данный момент, именно эти базовые вопросы не имеют ответов, без которых индустрия ИИ остается в границах Narrow AI, создавая, по сути, продвинутые калькуляторы, лишенные фундаментальных признаков человеческого сознания – мышления, эмоций, сопереживания и т.п.

Глава 2. Проблемы ИИ и барьеры на пути к ИИ, уровня человека

«Родовые проклятия» ИИ

В настоящее время для развития технологий в рамках Narrow ИИ, серьезных и глубоких знаний о психологии, сознании и биологии – не требуется. Основной объем работы и решений приходится на программирование, технологии, алгоритмы и т.п. Но если наши амбиции устремляются к созданию ИИ, уровня человека, то баланс существенным образом смещается в пользу психологии и смежных дисциплин – биологии, социологии, математики, логики, философии, антропологии, нейропсихологии и нейролингвистики, когнитивных дисциплин и др.

С одной стороны, предполагается, что ИИ уровня человека, обязательным образом должен интегрировать наиболее прогрессивные достижения этих дисциплин и накопленные научно-практические знания о человеке, сознании, мозге, интеллекте, мышлении и т.п.

С другой стороны, наряду с достижениями, ИИ вынужден наследовать нерешенные проблемы смежных дисциплин, которые зачастую в неизменном виде, некритично и подспудно переносятся в сферу ИИ. Удивительным образом эти «родовые проклятия» практически полностью совпадают с теми понятиями и феноменами, в которых индустрия ИИ ищет надежную опору для своего дальнейшего развития. В том числе, к таковым относятся наиболее фундаментальные и ключевые понятия, такие как: сознание, интеллект, психика, поведение, эмоции, эволюция, естественный отбор и др.

Например, на данный момент психология обладает лишь примерными знания о том, что представляют собой эмоции, зачем они нам, какова их адаптационная функция и эволюционная история. Не менее ускользающим понятием является сам термин «психика» – наука не способна однозначно указать виды, которые являются носителями и обладателями психики – только лишь человек, «высшие» млекопитающие или другие живые организмы тоже?

Также психология до сих пор не смогла определиться с тем, что именно является источником психики и сознания – мозг и нервная система или возможны другие варианты? Если мозг и нервная система – это источники психики и сознания, то как быть с «донервными» видами – бактериями, грибами, растениями и др.? В соответствии с такой логикой, не обладая нервной системой, они не могут обладать психикой и сознанием. Но в таком случае, каким образом организмам без психики и сознания удавалось распознавать и решать задачи выживания и репродукции в течение сотен миллионов лет? Как удавалось выживать и процветать организмам в «допсихическую» и «досознательную» эпоху, если они не имели функционала распознания и принятия решений?

В результате каких явлений и процессов организмы стали обладать сознанием и/или психикой? В какой момент истории жизни на Земле возникает сознание и психика – в ходе эволюции или сразу же в момент зарождения жизни? Какой психикой обладал LUCA – первый живой организм на Земле?

Что вообще из себя представляет эволюция психики и сознания, в чем ее измерять и по какой шкале? Психология также не сильно помогла в этом вопросе – эволюция психики и сознания также не имеет единой теории и концепции. Разработанная еще в Советском Союзе основателем психологического факультета МГУ, Леонтьевым Алексеем Николаевичем теория эволюции психики (Леонтьев, 1972), фактически, до сих пор остается единственной признанной теорией в отечественной психологии. Концепций эволюции сознания разработано на данный момент несколько, в том числе и автором данной работы («Эволюция сознания: пять базовых когнитивно-поведенческих паттернов», Фролов, 2021), но единой общепринятой теории эволюции сознания в настоящее время, тем не менее, на данный момент не существует.

В чем разница между сознанием, мышлением, интеллектом и психикой? Что такое интеллект, и в чем он измеряется применительно к живым организмам помимо человека? Аналогичные вопросы вызывают другие привычные термины научного обихода, в том числе – сознание, поведение, личность, инстинкты, эволюция и даже – жизнь. Строго говоря, однозначных определений и четких критериев для этих понятий до сих пор не существует, а имеющиеся – вызывают больше вопросов и споров, чем проясняют суть явлений.

Когнитивные дисциплины также не дают ответа на вопросы – что представляет собой архитектура сознания? Каковы базовые структуры сознания и каким образом организм выделяет из всего множества элементов информационного поля именно те, которые связаны с наиболее актуальной задачей, требующей поведенческого решения в каждый момент времени? Какова связь сознания с информационным полем данного организма и его поведением? Каким образом организмы управляют и контролируют процесс распознания значений элементов среды и их переводом в изменение поведения? Современные знания об интеллекте, сознании и психике человека ограничены и весьма расплывчаты: «современная когнитивная наука имеет мало, что сообщить о сознании» («Modern cognitive science has had almost nothing to say about consciousness». Chalmers, 1996; перевод цитаты – С.Ф.).

В биологии для искусственного интеллекта ситуация сложилась не сильно лучше: помимо отсутствия единой классификации животных (на данный момент существует не менее 4 основных), биология до сих пор не смогла представить шкалу эволюционного развития живых организмов.

На данный момент существует лишь хронологическая шкала появления и развития видов, но не существует единиц измерений и четких критериев для определения эволюционной «развитости» видов. Эволюционный подход в биологии – единственный и базовый со времен Дарвина, но что именно представляет собой эволюция, в чем она измеряется и по какой шкале – до сих пор однозначных ответов нет.

Так, например, Richard D. Levins and Richard C. Lewontin в своей работе «The Dialectical Biologist» (Levins&Lewontin, 1985) отмечают, что главная проблема эволюционных теорий заключается в отсутствие шкалы, на которой мы могли бы расположить виды в таком иерархическом порядке, чтобы можно было однозначно утверждать – данный вид эволюционно более «продвинутый» по сравнению с другим. Эта проблема одинаково актуальна как для биологической, так и когнитивной эволюции. О развитии и прогрессе в эволюции сознания можно говорить лишь в том случае, если существуют четкие критерии и единая шкала измерения, с помощью которых можно сказать – данный вид находится на шкале на более ранней стадии, а другой – на более поздней. Когнитивные способности одного вида более развиты, чем аналогичные способности другого.

Сам термин «эволюция» имплицитно подразумевает движение от простого к сложному, от примитивного к совершенному, от «низшего» к «высшему». Во многих работах по эволюции можно встретить подобного рода утверждения: «по мере эволюции жизнь усложняется, становится более опасной и конкурентной», «потребовала от видов стать более эффективными в соперничестве и добыче пищи». К таким, на первый взгляд, безобидным формулировкам и заключениям возникает множество вопросов. Например, для каких именно видов жизнь стала «более опасной и конкурентной»? Для всех сразу или для какой-то группы? В чем конкретно выражается повышение опасности? Насколько жизнь стала «более опасной и конкурентной», например, для акул, крокодилов или черепах за последние пару сотен миллионов лет? Если взглянуть на мир бактерий и одноклеточных, то первый вопрос, который возникает – что конкретно подобные виды организмов сделали для того, чтобы стать более «эффективными в соперничестве и добыче пищи»? – Просто остались бактериями и продолжают ими быть в течение 4 миллиардов лет, практически в неизменном виде?

Совсем непохоже, чтобы жизнь для бактерий стала «более опасной и конкурентной», а сами они существенно эволюционировали (если речь не идет о модификациях). Скорее наоборот, с появлением крупных многоклеточных организмов, для бактерий появились «передвижные дома» для жизни – уютные, полные пищи и подходящих условий для размножения.

Вообще, насколько верно утверждение, что бактерии менее развиты, чем животные или растения? «В каком смысле млекопитающие сложнее чем бактерия?» (Levins&Lewontin, 1985). «В чем измерить сложность, которая позволила сравнить человека и лягушку?» (Lewontin, 1998). Даже если бы удалось протестировать лягушку на уровень IQ, то такое сравнительное исследование показало бы лишь то, что лягушка не так хороша в тестах на IQ. Но вопрос – чем, например, человек сложнее лягушки – остался бы без ответа.

Современная картина живой природы представлена множеством совершенно разных видов. Каким-то образом «примитивные» и «низшие» виды сосуществуют вместе с «развитыми» и «высшими», как будто вопреки закону «естественного отбора», согласно которому менее приспособленные должны стать добычей и пищей более развитых. Тем не менее, не просто соседствуют, а процветают уже в течение миллиардов лет, в отличие от «вчера» появившихся (по эволюционным меркам) «высшим» млекопитающих и человека. Такое противоречие означает либо то, что «естественный отбор» не работает (что невозможно), либо то, что наши представления о «высших» и «низших» видах отражают реальность не вполне корректно.

Генетическая информация и связи также не могу быть использованы в качестве основания для градации видов по «сложности» на эволюционной шкале. В своей работе «Основные эволюционные переходы» Meynard Smith и Szathmáry подтверждают неоднозначность биогенетического подхода: «если мы посмотрим на общую ДНК, то будем вынуждены признать унизительный факт – двоякодышашие рыбы или морской лилии примерно в 40 раз сложнее человека» (Meynard Smith&Szathmáry, 1995; перевод цитаты – С.Ф.)

Лишь по сложившейся традиции, мы используем термины «высшие» и «низшие» виды, не обращая внимания на то, что не существует критериев, которые бы позволяли бы точно указать на то, что дельфины «выше» кошек или наоборот (MacLean, Matthews, Hare, et al, 2012). Такое деление, по сути – естественное желание людей упорядочить сложные системы каким-либо образом, чтобы упростить свое восприятие при отсутствии определения и критериев эволюционной «развитости» в целом.