Интеллект-стек 2023

Агенты

Всё больше и больше физиков, которые вдруг занялись физичностью жизни, включая физичность интеллектуальной жизни, прибегают к использованию физики частиц. Частицы/particles – это с одной стороны , с другой стороны – «что-то особенное, обособленное от остального». В физике такие объекты обычно называют /systems: они состоят из чего-то внутри себя (подсистем, частей систем) и находятся в окружении/среде (environment), которое тоже состоит из систем – и имеют границу, которая различает их и окружение (то есть не расплываются в среде, а как-то поддерживают свою «самость», отдельность, автономность). 119 части системами

Физики описывают состояния этих систем, давая эти состояния как точки в пространстве состояний (не только точка положения частицы в 3D пространстве, но и температура, цвет, даже структура их строения из подсистем, а также какие-то характеристики производных по времени – скорость, ускорение и т.д., всё это может быть размерностями пространства состояний). И вот дальше частицы могут быть инертными по отношению к изменению своих состояний и активными – и некоторые частицы настолько «странны», что планируют изменения своих состояний, ставя целью достижение выгодных для них состояний и при этом намеренно проходя состояния, которые для них менее выгодны, чем исходные – ожидая в конечном итоге получить результат лучше, чем у них сейчас. Грубо говоря, эти частицы имеют межвременные предпочтения и готовы чем-то пожертвовать сейчас, чтобы получить результат потом. По факту это поведение деятеля – он планирует путь через пространство состояний, предполагающий достижение конечной потенциально выгодной точки, хотя на этом пути могут встречаться и какие-то отдельные ухудшения. Такие «странные» автономные частицы, способные к планированию, называют . агентами 120

По сути дела, в таком подходе победили панпсихисты в той их ветви, где живое и неживое, а потом сознательное и несознательное представляют собой некоторый континуум, а не противоположности. То есть в природе существует «нечто», которое как-то ухитряется поддерживать свою отдельность по отношению к окружению – хоть атом, который довольно долго живёт не распадаясь, хоть капля масла в воде, хоть инфузория туфелька, хоть кошка, хоть человек в батискафе на дне Марианской впадины. Частица, или чувствующее (sentient) существо, или даже разумное существо с сознанием. 121 122

Примерно та же линия рассуждения об эволюции у Виталия Ванчурина со товарищи, но там чуть другие слова: про многомасштабную/multiscale эволюцию и IPU/information processing unit как «единицы информационной обработки». Астрофизики (они и сами вполне себе физические объекты, IPU) всполошились, что системная (в том числе инопланетная) жизнь проходит мимо них, и выдали статью про планетарный интеллект. Это продолжение линии рассуждений Вернадского и гипотезы Гайи (при всей её критике), работ Varela и Maturana по autopoiesis, идеи complex adaptive systems (CAS) /complexity science. Статья приходит к странным выводам о том, что в атмосфере цивилизация проявляется в запрещении выпуска фреонов и прочему влиянию на атмосферу (для астрофизики это важно: состав атмосферы можно измерить!). To conclude, an exploration of an exploration of planetary intelligence can draw together three domains of study: the evolution and function of Earth’s biosphere; the current emergence of the technosphere in the Anthropocene; and the astrobiology of worlds inhabited by technologically capable exo-civilizations. 123 124 125 126 127

Такого сорта статьи о Земле-существе физически вполне осмыслены, хотя вполне могут быть поставлены на одну полку с текстом о специальном компьютере Deep Thought, который в результате семи с половиной миллионов лет непрерывных вычислений наконец-то выдал ответ на ultimate question of life, the universe, and everything: «42». Deep Thought предложил создать другой, ещё более великий компьютер, который будет включать в себя живых существ как часть вычислительной системы, чтобы узнать, в чём, собственно, состоит Вопрос. Этот компьютер был назван Земля и был настолько огромен, что некоторыми по ошибке воспринимался как планета. Сами исследователи, которые управляли программами, выглядели как обычные мыши. Так что астрофизики в своём тексте просто начали догадываться о том, что давно было уже известно даже мышам! 128

Вообще, в этом направлении «агенты в физике» типичны статьи типа написанных Artemy Kolchinsky «Semantic information, autonomous agency and non-equilibrium statistical physics» и «A thermodynamic threshold for Darwinian evolution». Все эти статьи говорят об одном: понятие агента вполне физично, оно не требует какой-то теории витализма, признания особости живых разумных существ как агентов в части описаниях их поведения как чего-то, не укладывающегося в законы физики, существование каких-то трансцедентных (по ту сторону физического мира) свойств агентов. 129 130

Есть множество самых разных определений для агентов, но все они сводятся к тому, что речь идёт частицах, которые ставят целью улучшить своё состояние, активно влияя как на себя, так и на окружающий мир – и для этого они имеют модели себя, модели окружающего мира и занимаются постановкой целей и планированием достижения этих целей. И, конечно, сразу заходит речь о том, что агенты могут быть разной степени разумности. И вслед за этим приходится обсуждать самые разные смежные с  системы понятия. Вот глоссарий технологического подхода к вездесущости разума TAME (Technological Approach to Mind Everywhere), там всё крутится вокруг понятия «Я»/Самость/Self, как некоторой автономной сущности (частицы) с различными свойствами, и в самом глоссарном определении видно, что это «Я» имеет тип «система», то есть что-то более-менее устойчивое, отделяемое от окружающей среды, и далее мы будем постепенно разбираться с этими понятиями в самых разных практиках интеллект-стека: агентностью 131

• /agency – набор свойств системы, тесно связанных с принятием решений и действиями по приспособлению к обстоятельствам. Агентность определяет степень, в которой оптимальные способы взаимодействия с этой системой (в терминах коммуникации, предсказания и контроля параметров состояния) требуют моделей все более высокого уровня, определенных в терминах масштаба целей, стрессов, возможностей и предпочтений этой системы как воплощенного в ней «Я», действующего в различных проблемных пространствах. Это представление об агентности связано с представлениями о том, что некоторые системы могут перестраивать себя (autopoiesis, «создание себя») и они могут предвосхищать изменения в себе и окружении (anticipatory systems). Агентность 132 133

• /consciousness – феноменальный опыт от первого лица любого «Я» – то, что делает мою зубную боль несводимо отличной для меня от зубной боли любого другого человека или описания зубной боли от третьего лица. Степень и содержание сознания – это «каково это» быть этим «Я», в отличие от изучения его извне, независимо от того, достаточно ли развито это «Я», чтобы быть в состоянии что-то об этом сказать или даже как-то об этом думать. Сознание здесь не обязательно означает развитое, рефлексивное, вербальное самосознание, а скорее как чувство из цикла «чувство-обработка/вычисление-ответ», которое рассматривается как что-то непрерывное от самых примитивных проявлений у клеток или даже компьютерного AI до полноценного сознания, каким оно известно у человека. А поскольку все мыслящие/cognitive агенты неизбежно состоят из частей, то и любой человек тем самым будет коллективным интеллектом – то, каково быть «Я-человеком», в точности соответствует тому, каково быть «Я-хитро организованный коллектив не очень осознанных клеток». Сознание

• /cognition – вся деятельность (включая действия не только «ума», но и «тела» – в кавычках тут только потому, что это необязательно мышление человека!), осуществляемая «Я» любого масштаба и варианта материального воплощения, которая лежит в основе сбора, обработки и действия с информацией в целях приспособлений к условиям окружения и по возможности превентивной защиты от рассеивания (буквально: рассеивания молекул, смерти) системы этого «Я» в окружающей среде. Мышление включает активное (то есть с возможным включением операций с телом и окружающими предметами, меняющее ситуацию) умозаключение, познание/learning/обучение и базовую целенаправленную деятельность по изменению себя, мира, моделей себя и мира, а также сложные мыслительные навыки, такие как символические рассуждения, составление концепций, язык и мета-познание (познание того, что такое познание). Мышление

• /decision – событие во время прохождения состояния системы через некоторое релевантное пространство (помним, что это не только 3D пространство, но обобщённое пространство каких-то состояний, каждое из которых может быть описано многомерным вектором в пространстве состояний), которое эффективно моделируется как выбор между различными вариантами целевого состояния. Степень «принятия решения» любой данной системы пропорциональна пространственно-временному (в 4D) и сложному (с учётом других характеристик пространства состояний, не только пространства-времени) расстоянию между событиями, которые в конечном итоге приведут к определенному результату, и самим результатом. Продвинутые «Я» учитывают в их механизме принятия решений контрфактические будущие состояния. Речь идёт прежде всего об опоре в решениях на объяснения. Решение

• /ум/mind – функциональный, динамический аспект «Я», являющийся результатом всех его мыслительных и соматических (сома – тело, как оно ощущается «Я» изнутри этого тела) действий, который представляет собой склонность к определенным типам действий в перспективе от первого лица, и эта разумность сохраняется при изменениях тела. То есть это определённого сорта «вычислитель» (хотя в эти вычисления может входить и тело!). Разум

• /intelligence – функциональная способность «Я» решать проблемы в различных пространствах состояний (не обязательно в трехмерном пространстве), не привязанная к конкретным реализациям «Я», анатомическим структурам или временным шкалам. Сила интеллекта пропорциональна умелости в ориентировании и перемещениях по этим пространствам, . Сила интеллекта оказывается несводима к результатам простых классических IQ-тестов на обнаружение паттернов и удержание внимания на паттернах, она отражает не только наличие адекватной «аппаратуры» (фактор G) для вычислений интеллекта, но и результаты познания агентом окружающего мира и познания агентом себя. Продвинутый интеллект использует дополнительные уровни самомоделирования, что позволяет осуществлять многоуровневое самомоделирование «Я» и внешнего мира в его возможных будущих состояниях (контрфактическое мышление), а также включает тревожность и креативность (выявление возможных проблем, в отличие от решения только существующих сейчас проблем). Интеллект тоже «безмасштабный», ибо не существует разумного агента/системы, который не состоит из частей, поэтому интеллект всегда коллективный, и нет отдельного вида «Я» во многих системных уровнях, который только и будет обладать интеллектом. Интеллект включая, в частности, способность определять пути, которые временно ведут дальше от состояния цели, но в конечном итоге позволяют достичь лучших результатов

• /Maslow’s hierarchy of needs – мотивационная теория в психологии, которая фокусируется на относительных типах предпочтений и целей, которые преследуют человеческие (или другие) системы на различных стадиях и масштабах наблюдения (Maslow, 1943). Она также подчеркивает степень интеграции подсистем и модуляцию высших уровней уровнем стресса для частей. Помним, что мы пересказываем тут глоссарий TAME, поэтому сохранили тамошнюю отсылку к довольно старой идее иерархии потребностей. Вполне возможно, что в более свежих версиях TAME эта отсылка будет заменена на какую-то более современную. Иерархия потребностей Маслоу 134

• /Самость/Self – целостная система, состоящая из совместно действующих (интегрированных в неё) частей, которая служит функциональным владельцем ассоциаций, воспоминаний (то есть это не эргодическая система из физики, а имеющая память) и предпочтений (имеет предпочтения находиться в каких-то точках пространства состояний), которая действует для достижения целей в конкретных проблемных пространствах, где эти цели принадлежат коллективу подсистем как целому «Я», а не какой-то отдельной подсистеме. «Я»/самость определяется пространственно-временным масштабом (системным уровнем) и характером типов целей, которые она может преследовать (то есть каких мест в пространстве состояний она может достичь, и по каким путям) – ее «мыслительным световым конусом». «Я» имеют функциональные границы и материальные реализации, но не идентичны какому-либо конкретному типу несущей «Я» системы и могут пересекаться с другими «Я» на том же, более высоком и более низком системном уровне (то есть уровнях «часть-целое»). «Я»/самость – это теоретическая конструкция, представляемая внешними по отношению к «Я» системами (такими как ученые, инженеры и другие «Я») и самими системами по отношению к себе (через внутренние модели «Я»). Концепция «Я» облегчает прогнозирование изменений и приспособление к изменениям в окружении и самой системе-носителе «Я», сохранение «Я» служит эффективной высокоуровневой целью для стратегий вмешательства и контроля в «естественный» (без участия «Я») ход событий. «Я» 135

• /Stress/неудовлетворённость – удалённость целой системы «Я» от желаемого нахождения в каком-то желаемом/целевом месте пространства состояний, запускающая активные (мыслительные, включая телесные) действия по попаданию в это желаемое место пространства состояний, чем больше стресс, тем более активные действия предполагаются (хотя при огромном стрессе состояние такое, что действовать уже невозможно: система ломается, так что лучше бы ей действовать заранее, пока стресс не так велик). Пространственно-временной масштаб и масштаб сложности событий, которые могут вызвать стресс в системе, являются хорошим показателем мыслительной сложности системы. Стресс может возникнуть из-за несоответствия между внешними состояниями и потребностями «Я», между воспринимаемым миром и собой и ожиданиями того, что должно было бы восприниматься, или между целями нескольких подсистем внутри агента, как на одном, так и на разных уровнях организации. Таким образом, неустроенности/geometrical frustrations между системными уровнями, представления материаловедов о нагрузке (и возможной из-за неё поломке) как высокоуровневом факторе, влияющем на поведение системы во времени – это минимальные примеры фундаментальной концепции стресса. Стресс в его общем виде определяется так же, как метаболический стресс у бактерий, конкурирующие силы выравнивания клеток при образовании тканей и «настоящий психологический стресс» у разумных организмов. Стресс 136

Повторимся, что все эти важные понятия в разных школах мысли определяются немного (а иногда и совсем) по-разному, у каждого из них есть множество синонимов, но общая суть остаётся:

• Есть некоторый набор частей, которые в каком-то смысле «разумны» (но необязательно это осознают, хотя могут выполнять довольно сложное поведение, причём обучаться этому поведению), и из этих частей каким-то образом создаётся система, у которой есть «Я». То есть любой интеллект оказывается коллективным, собранным из частей.

• Эта система «Я» по мере роста разумности не просто избегает плохих для себя состояний «меня съели» или «я умер от голода или холода» (по большому счёту, это и есть «цель жизни» – «выжить сейчас и в будущем»), но и начинает предсказывать наступление этих состояний (тревога и креативность) и планировать, а также выполнять действия, которые уводят от этих состояний, возможно, проходя состояния ещё хуже текущего (агентность).

• Часто в таких рассмотрениях указывается, что клетка печени лучше выживает, если не мешает организму в целом добиваться улучшения условий существования организма – тогда её шансы уцелеть (и шансы её генов быть отреплицированными в печени новых поколений организмов) сильно растут.

• Это всё абсолютно физично, эти все рассмотрения не зависят от масштаба (клетки, организмы, популяции) или вида субстрата (живые существа, роботы), на котором реализованы «Я». Но обязательно, чтобы были датчики состояния среды и себя, эффекторы, влияющие на среду и себя, возможности вычислений, а также память (без которой обучение невозможно). Более того, это не зависит и от масштаба времени (филогенез как «развитие вида систем» и онтогенез как «развитие организма из генома или технической системы из мемома» рассматриваются одинаковым образом, разве что «время развития системы» и «время эволюции системы» по их масштабу могут различаться в тысячи раз).