Рефлексивные агенты и человечество: кооперация или конфликт?

(реплики на выдержки из книги Д. Хокинса и С. Блейксли «Об интеллекте»)

Аннотация

Как сказано в предисловии, в книге «Об интеллекте» Джефф Хокинс представляет революционную теорию на стыке нейробиологии, психологии и кибернетики и описывающую систему "память-предсказание" как основу человеческого интеллекта.

Автор отмечает, что все предшествующие попытки создания разумных машин провалились из-за фундаментальной ошибки разработчиков, стремившихся воссоздать человеческое поведение, но не учитывавших природу биологического разума.

Джефф Хокинс предполагает, что идеи, сформулированные им в книге «Об интеллекте», лягут в основу создания истинного искусственного интеллекта – не копирующего, а превосходящего человеческий разум.

Кроме этого, книга содержит рассуждения о последствиях и возможностях создания разумных машин, взгляды автора на природу и отличительные особенности человеческого интеллекта.

В одном из отзывов на книгу пишется [4]:

«…Восприятие мира и наши действия основаны на непрерывном формировании прогнозов о том, что произойдет в следующий миг. Человеческий разум, согласно Хокинсу, – это способность прогнозировать, а неокортекс – "орган предвидения".

На основе этой теории Хокинс предлагает нам ответы на вечные вопросы: что такое сознание, мышление, творчество, обучение, воображение? Конечно, скажете вы, все это сложно найти в мозге – там только нейроны, а способность мыслить по-человечески нам дает культура: без нее любой Маугли останется зверем среди зверей.

Но пускай себе мозг служит Хокинсу источником вдохновения, главное, чтобы его теория помогла созданию новых компьютеров».

Автор же данной статьи предлагает содержательный анализ некоторых положений книги Джеффа Хокинса «Об интеллекте». Высказаны соображения и аргументы «за» и «против» анализируемых положений. Схематически рассмотрены подходы к исследованию проблемы «псевдоразумности» автомата, основанные на иных, предположительно, более адекватных акцентах.

Основная часть

1. Дж. Хокинс: РЕПЛИКАЦИЯ не требует разума, и (искусственный) РАЗУМ не требует репликации. Вывод: РЕПЛИКАЦИЯ и РАЗУМ – самостоятельные непересекающиеся процессы…

ЕАГ: Всё дело – в возможности естественной совместимости процессов РЕПЛИКАЦИИ и (искусственного) РАЗУМА. И именно это может привести к неуправляемому развитию событий (даже при отсутствии необходимости их совместимости).

2. Дж. Хокинс: Разумным машинам не нужны эмоции, амбиции, потребности… Придание их разумным машинам – маловероятно, что столь сложная задача когда-либо окажется выполнимой…Модель ПАМЯТЬ – ПРОГНОЗИРОВАНИЕ есть достаточное основание для создания машины с интеллектом…

ЕАГ: Машинный интеллект, построенный на основе одной модели ПАМЯТЬ – ПРОГНОЗИРОВАНИЕ, будет основан на моделировании лишь только одной – логической – функции мозга. Все остальные перечисленные функции (удовлетворение потребностей, эмоции, настроение, общение, саморазвитие и т. д.) – окажутся за бортом.

На наш взгляд, необходимое основание создания Разумных машин – это реализация функций удовлетворения разных (материальных и нематериальных) ПОТРЕБНОСТЕЙ в разнообразных ДЕЯТЕЛЬНОСТЯХ, для чего необходимы функции РЕФЛЕКСИИ, ПЛАНИРОВАНИЯ и ПРИНЯТИЯ РЕШЕНИЙ о затратах ограниченных РЕСУРСОВ. Конечно, с учётом функций памяти и прогнозирования.

Кроме всего, придание Разумным машинам функций: эмоции, амбиции, удовлетворение потребностей – представляется существенным для их построения и развития ещё и потому, что это всё есть необходимые условия реализации феномена ТВОРЧЕСТВА. Иначе говоря, Разумная машина, построенная без учета перечисленных функций, будет принципиально неспособна к творчеству.

3. Дж. Хокинс: Самый разумный робот не сможет проявить того понимания и участия, на которое способен человек по одной лишь своей природе…

ЕАГ: Робот именно должен проявлять ПОНИМАНИЕ и УЧАСТИЕ по отношению к человеку. Поэтому у Разумной машины должна быть природа, очень близкая к природе человека (не по поведению, а по сущностным проявлениям).

4. Дж. Хокинс: С понятием сознания связаны понятия разума и души…

ЕАГ: Разум связан с понятием сознание, а душа связана с понятием самосознание. А именно самосознание (душа) и не рассматривается в работе Д.Хокинса как что-либо существенное.

В то же время, разум без души – это «хлопок одной ладонью», как сказано (правда, по другому поводу) у писателя Б.Акунина.

Душа есть необходимый ограничитель разума (интеллекта), обслуживающего животные инстинкты, и только все вместе они могут образовать сбалансированное целое, называемое личность.

5. Дж. Хокинс: Вероятно, нам так и не удастся до конца разгадать загадку творчества А.Эйнштейна, но можно с уверенностью утверждать, что отчасти в их основе лежали генетические факторы…

ЕАГ: И только это можно сказать о загадке творчества А.Эйнштейна?

Но тогда очень мощный компьютер (память, быстродействие), в который «генетически» заложен генератор случайных чисел, сможет выдавать массу «творческих» гипотез!

Выскажем предположение, что творчество субъекта, как целостный процесс, должно включать по крайней мере следующие составляющие:

• Формулировка конкретного вопроса (задачи) в рамках решения общезначимой проблемы, ответом на который может быть та или иная гипотеза,

• Генерация гипотез (и всё бессознательное, что с этим связано – интуиция, вдохновение, инсайт, «эврика»), поиск гипотез во внешней среде (случайные блуждания), сознательный выбор гипотезы как решения задачи, а также практическая проверка выбранной гипотезы самим субъектом,

• Общение с другими субъектами, в результате которого гипотеза (решение задачи) может быть принята или опровергнута ими. И если решение задачи ими как экспертами проверено на практике и признано как наиболее эффективное и имеющее повышенный спрос на рынке, то только тогда можно сказать, что вышеозначенный процесс есть творчество.

Т.о., попытаемся сформулировать необходимые и достаточные условия представления некоего процесса как процесса творчества субъекта.

Первое необходимое условие – осознание субъектом общезначимой проблемы и в её рамках – чёткое формулирование вопроса (задачи), ответом на который может быть та или иная найденная гипотеза.

Второе необходимое условие – наличие внешнего и/или внутреннего генератора гипотез; таковым генератором может быть как сам субъект (индивидуальное бессознательное), так и другие (коллективное бессознательное).

Третье необходимое условие – взаимопонимание творящего субъекта с другими субъектами в игре, борьбе или решении общих проблем. В свою очередь, взаимопонимание возможно при наличии у субъектов близкого мировосприятия. А близкое мировосприятие может основываться лишь на общности систем ценностей субъектов, общности ресурсной базы их среды существования и на ресурсном обмене (рынке).

Творчество также предполагает знание субъектом существующих способов решения задачи, неудовлетворённость ими и попытку решить задачу лучше.

И это лучшее решение ценно потому, что может принести ему как те или иные внешние выгоды (деньги, признание, власть), так и внутренние (самоуважение).

Отсюда выводится достаточное условие для признания некоего процесса и его результата творчеством: решение задачи, предложенное субъектом, должно быть признано на данный момент на рынке (ресурсов, идей) лучшим в соответствующем классе решений, и это должно быть подтверждено повышенным на него спросом (цитированием).

6. Дж. Хокинс: Модель «Память – Прогнозирование» в своей основе имеет феномен запоминания мозгом СЕРИЙ событий. В последующем мозг, на основе появления на входе отдельных элементов серии, ПРОГНОЗИРУЕТ (ПРЕДВОСХИЩАЕТ) появление на входе всей серии событий…

ЕАГ: Представляется, что это важный, но лишь один шаг в постижении феномена разума.

Не менее важен и следующий шаг: ПЛАНИРОВАНИЕ ПОВЕДЕНИЯ, которому в работе [1] уделено недостаточно внимания.

На наш взгляд, этот следующий шаг уже терминологически предполагает раздвоение единого процесса на два самостоятельных, алгоритмически равнозначных, процесса. Они могут быть названы так: ОСОЗНАНИЕ (включающее планирование) и собственно ПОВЕДЕНИЕ по плану.

Мы имеем в виду, что это два таких алгоритмических процесса, которые обязаны пользоваться ЕДИНЫМ ПОЛЕМ ПАМЯТИ так, что один процесс использует результаты другого.

Принципиально важно то, что оба процесса должны осуществляться не ПОСЛЕДОВАТЕЛЬНО, а ПАРАЛЛЕЛЬНО.

Это возможно лишь при условии, что их параллельное выполнение относительно общего поля памяти будет характеризоваться ФАЗОВЫМ сдвигом.

Понимать это надо так. Один процесс не ждёт конца исполнения другого процесса, а исполняется на текущем этапе, пользуясь результатами другого процесса, полученными на ПРЕДЫДУЩЕМ этапе. Второй процесс, выполняясь одновременно с первым, использует результаты первого, полученные также на ПРЕДЫДУЩЕМ этапе.

Тем самым через фазовый сдвиг вводится необходимый параметр ВРЕМЕНИ как критерий последовательности событий.

Приведённая совокупность двух процессов, выполняющих функции ОСОЗНАНИЯ (т. е. прогнозирования и планирования) и ПОВЕДЕНИЯ (как исполнения плана), может быть охарактеризована психологическим понятием РЕФЛЕКСИРОВАНИЕ и более общим кибернетическим понятием ОБРАТНАЯ СВЯЗЬ.

Парадоксально, что отдельно рассмотренный эвристически мощный психологический принцип рефлексии, не обязательно предполагающий взаимодействия двух параллельных процессов, сам по себе оказывается недостаточно эффективен для анализа сущности РАЗУМНОСТИ.

Каждый из двух вышеприведённых алгоритмических процессов является примером универсальной машины А.Тьюринга. Обобщённо говоря, предлагается единая модель, представляющая собой две универсальных машины Тьюринга, работающих на общем поле памяти под управлением супервизора.

Эвристическая эффективность совмещённой модели может оказаться значительно выше для понимания и машинной реализации феномена РАЗУМНОСТИ, чем сумма отдельно взятых моделей.

7. Дж. Хокинс: Одно из важных свойств мозга есть репрезентативная инвариантность, т. е. хранение информации о целом в виде инвариантных соотношений параметров объекта.

ЕАГ: Идея инвариантности, как чрезвычайно сильный методологический приём, нами взята за основу построения алгоритма существования «псевдоразумного» компьютерного

персонажа. К таковым инвариантам относятся следующие модели, в совокупности представляющие собой обобщенную инвариантную модель ДЕЯТЕЛЬНОСТИ персонажа:

• Модель «ПОТРЕБНОСТИ-ДЕЯТЕЛЬНОСТИ-РЕСУРСЫ» как инвариантная низшая модель жизненной активности персонажа.

• Модель «ПРОЕКТ: СЦЕНАРИЙ-РОЛИ-ИСПОЛНИТЕЛИ» как инвариантная первая промежуточная модель жизненной активности персонажа.

• Модель «АНАЛИЗ ПРИЧИН-ПРОБЛЕМА-ЗАДАЧА-ПЛАН» как инвариантная вторая промежуточная модель жизненной активности персонажа.

• Модель «ОБЩЕНИЕ: ПРОСЬБА-ПРЕДЛОЖЕНИЕ» как инвариантная третья промежуточная модель жизненной активности персонажа.

• Модель «САМОРАЗВИТИЕ: ДОЛГ ПЕРЕД СОБОЙ» – осознанная смена персонажем его приоритетов на множестве собственных потребностей в пользу нематериальных потребностей как инвариантная высшая модель жизненной активности персонажа.

• Модель «УНИВЕРСАЛЬНЫЙ ПРЕОБРАЗОВАТЕЛЬ: ИСХОДНЫЙ МАТЕРИАЛ-СРЕДСТВО-ЦЕЛЬ-РЕСУРСЫ» как инвариантная модель технологии преобразующей деятельности персонажа.

• Модель «РЕФЛЕКСИВНАЯ МАШИНА: ЗАПОМИНАНИЕ, ПЛАНИРОВАНИЕ, ИСПОЛНЕНИЕ и САМОКОНТРОЛЬ» как инвариантная модель технологии обратной связи в деятельности персонажа, связи между осознанием и поведением.

• Модель «САМООБУЧЕНИЕ: ВЫРАБОТКА СТЕРЕОТИПОВ ПОВЕДЕНИЯ» как инвариантная модель технологии самообучения. Эмпирическое вычисление класса наиболее эффективных вариантов поведения из потока вариантов за небольшое число шагов (обучение) и большое число шагов использования этого опыта в «боевых» условиях, с последующим многократным переобучением.

• Инвариантный критерий выбора момента ПРИНЯТИЯ РЕШЕНИЯ при последовательной генерации вариантов – совпадение величины предполагаемого дополнительного эффекта от искомого варианта поведения при продолжении поиска, с совокупными затратами на поиск искомого варианта (фактически осуществлёнными и предполагаемыми).

Изложенный критерий выбора момента принятия решений применим для каждой из вышеперечисленных моделей, т. к. в них предполагается последовательная генерация вариантов.

Это может быть решение о снижении планки желаемого выигрыша и продолжении поиска, если появившиеся варианты не сохраняются в памяти после появления. Или это может быть решение о прекращении поиска и выборе лучшего из уже появившихся вариантов, если они сохраняются в памяти после появления.

Единая инвариантная модель ДЕЯТЕЛЬНОСТИ персонажа представляет собой набор инвариантных моделей, образующий целое. Это целое обладает структурой, являющейся полным графом (каждый элемент связан с каждым, рис. 1).

Полный граф подчёркивает то обстоятельство, что рассмотрение любого из элементов структуры в отдельности, без связей друг с другом, даёт неадекватную (непроявленную) картину понимания существа целого.

Рис. 1.

В то же время представляется допустимым и целесообразным для понимания подхода сгруппировать модели так, чтобы выделить две группы, дуальные по отношению друг к другу с точки зрения их ролей:

• Группа технологических моделей существования персонажа (сфера «материального») и

• Группа моделей жизненной активности персонажа (сфера «нематериального»).

Этот принцип дуальности элементов целого как структурный инвариант сохраняется и при переходе на нижележащий уровень рассмотрения моделей (можно сказать, реализуется «фрактальность» как свойство сохранения структурной инвариантности при изменении масштаба рассмотрения объекта). Так, модель Рефлексивной машины представляет собой принципиально двухсферную структуру, сферу осознания и сферу поведения

В целом, с учётом масштабной инвариантности в модели последовательно реализуется методологический принцип дополнительности Н.Бора.

Рассмотрим иные примеры инвариантностей, уже в сфере языкового общения персонажей.

«Не спрашивай, о чём говорят – говорят о деньгах» – Эмманюэль Тодд (предположительно).

Сделаем попытку повторить подобный метафорический подход применительно к другим сторонам жизненного проявления и взаимодействия персонажей. Акцент сделаем на поиске инвариантностей в интерпретации их жизненных проявлений.

Не спрашивай, о чём (почему):

Говорят – о деньгах (просят деньги или услуги в счёт будущего дохода, или предлагают деньги или услуги за будущие услуги или деньги).

Плачут – жалеют себя (и предлагают другим разделить с ними горе).

Смеются – гордятся собой (и предлагают другим разделить с ними это удовольствие).

• Поют – о любви (желают её подарить, или желают её получить, или и то, и другое).

• Сердятся (оскорбляют) – «мстят» другому за собственное неуважение себя

• Действуют – стремятся к желаемой цели, ища эффективные средства при минимизации затрат ресурсов.

Борются (дерутся, воюют, занимаются политикой, вообще действуют) – добиваются победы над другим с целью заполучения лидерства, ресурсов, услуг. Или с целью пресечения зла, беззакония, несправедливости, угрозы своей безопасности или безопасности общества, основываясь на своём понимании нравственности.

• Дают кому-либо ресурсы, услуги – исполняют свой долг в соответствии с добровольным договором или свой внутренний долг, или покупают безопасность в связи с ультиматумом другого, или ультимативно навязывают в долг ресурсы, услуги другому.

• Дарят кому-либо ресурсы, услуги – бескорыстно исполняют долг перед собой, или корыстно провоцируют долг другого перед собой.

• Берут (получают в дар) у кого-либо ресурсы, услуги – воспринимают дающего своим должником (по добровольному договору или в связи с собственным ультиматумом берущего дающему), или готовы себя считать должником дающего (по добровольному договору или в связи с ультиматумом дающего берущему).

• Играют – сознательно ввергают себя в искусственную реальность, в которой быстрее можно проявить себя, имитируя реальную деятельность или борьбу в логическом, этическом или эстетическом отношении.

• Читают (потребляют предметы любого искусства) – сознательно ввергают себя в искусственную реальность, в которой быстрее можно понять другого и соотнести себя с ним.

• Пьют, потребляют наркотики, медитируют, болеют (в спорте, игре, споре) – сознательно ввергают себя в искусственную реальность, в которой можно быстрее (и сильнее) получить удовольствие, бездействуя и испытывая страсти, или получить кратковременный допинг (катализатор) для реальной деятельности.

• Обманывают (играют) – производят ложные движения (произносят лукавые тексты), сознательно ввергая другого в искусственную реальность и провоцируя его на действия, выгодные «обманщику» и невыгодные (или выгодные) его жертве/партнёру. Например:

• Просят деньги (услуги) у партнёра под обещания неочевидного будущего его дохода, или предлагают деньги (услуги) партнёру за его будущие несоразмерные услуги (платежи).

• Льстят – словесным наркотиком усыпляют разум другого (обманно утверждая о достоинствах, богатстве, авторитете, красоте, справедливости… другого) в расчёте на получение своего корыстного интереса.

• Играют на сцене (или в жизни) – произносят тексты и «прикидываются», желая, чтобы зрители поверили им и забыли, что они – просто исполнители.

В свою очередь, зрители – сами желают быть «обманутыми», но иногда «не верят»…

Поиск инвариантов в вышеперечисленном списке проявлений персонажа приводит к следующему. Вычленены смысловые пары как категории, к которым можно свести остальные проявления. Это следующие категории:

Живут или играют (настоящая реальность или искусственная (игровая, виртуальная).

Берут (получают) или дают (дарят), просят или предлагают.

Попытаемся понять, как соотносятся и различаются для персонажа настоящая реальность и искусственная (игровая, виртуальная). Представляется, что основой этому может быть различение понятий быть и казаться, а также понятий жить и играть.

И в той, и в другой реальности персонаж осуществляет ту или иную деятельность.

И в той, и в другой реальности одна и та же деятельность удовлетворяет одну и ту же группу потребностей персонажа (может быть, с разной интенсивностью).

Но:

• Любая деятельность в игровой реальности, в отличие от проявления подобной же деятельности в настоящей реальности, удовлетворяет ещё и дополнительные потребности – потребность в азарте (риске), а также потребность в удовольствии от удачного обмана! Обман – предумышленное действие персонажа по перевоплощению в исполнителя некоей роли, несвойственной персонажу, по мнению зрителей (партнёров). При этом персонаж испытывает удовольствие от ощущения готовности зрителей (знающих о перевоплощении) поверить в истинность этого действия, или от ощущения успешности обмана, если зрители (партнёры) не догадались о перевоплощении. Иначе говоря, азартная и/или «обманная» деятельность всегда есть игровая реальность! Здесь реализуются понятия играть (vs жить), а также казаться/прикидываться (vs быть).

• Существует подмножество деятельностей персонажа, которые могут присутствовать в обеих реальностях, и которые только в настоящей реальности (но не игровой) могут удовлетворить специфические потребности – физиологические потребности ТЕЛА персонажа! Т. е., такая деятельность всегда есть настоящая реальность! Здесь реализуется понятие жить и быть.

Для наблюдателя внешними признаками наличия искусственной реальности (не настоящей), в которой могут находиться персонажи, могут быть такие признаки, как:

• обман (провокация, финт, подставка, дезинформация) во взаимоотношениях персонажей,

• азарт (повышенная рисковость) в проявлениях персонажей, • повышенная эйфория (аффектация) в проявлениях персонажей.

При всей непререкаемости тезиса «жизнь есть игра» у автора есть интуитивное ощущение, что при каких-то обстоятельствах жизнь всё-таки остаётся просто жизнью, и не является игрой. Вопрос: при каких же условиях «жизнь не является игрой»?

Такая постановка вопроса представляется важной в рамках проблематики создания «псевдоразумного» компьютерного персонажа. Сделаем попытку на него ответить.

В дальнейшем термин «персонаж» будем понимать как «псевдоразумный» компьютерный персонаж, так и «человек».

Термин «жизнь» будем понимать как «существование компьютерного персонажа в виртуальной среде», так и «жизнь человека».

Термин «искусственная реальность» будем использовать в контексте «искусственная реальность, создаваемая персонажем, как вторичная по отношению к первичной реальности, интуитивно понимаемой как жизнь персонажа».

Приведём свои определения.

С одной стороны, Игра – это сознательно созданный персонажем-инициатором проект «искусственной реальности», имитирующей некую реальную деятельность, с участием себя как режиссёра и других персонажей как исполнителей.

С другой стороны, Игра – это процесс неосознанного исполнения персонажем – инициатором и персонажами-исполнителями ролей в проекте «искусственной реальности», т. е. собственно Игра.

Получается, что персонаж играет только тогда, когда он уже создал проект игры и приступил к его исполнению, или согласился исполнить роль в чужой игре!

Во всех остальных случаях персонаж не играет, а живёт, и когда только ещё создаёт тот или иной проект, и когда исполняет неигровой проект, и когда тайно играют с ним.

Таким образом, тезис «жизнь есть игра» правильнее представить в виде: «жизнь есть изобретение персонажем игр с другими, в то время как другие, возможно, уже давно играют с ним»!

Проект игры включает элементы:

• субъект (режиссёр, инициатор),

• сценарий (список ролей и планов их исполнения),

• объекты (персонажи-исполнители ролей).

В некоторых случаях субъект и объект совпадают (игра с самим собой).

Персонаж живёт реальной жизнью, когда разрабатывает проект игры.

Персонаж играет, или находится в «искусственной реальности», когда исполняет свой проект игры в качестве режиссёра или сознательно участвует в чужом проекте игры в качестве одного из исполнителей.

Цель имитации – всегда обман:

• сознательный самообман (игра с самим собой или сознательное вхождение в роль исполнителя не в своей игре),

• сознательный обман другого персонажа (вовлечение в свою игру другого персонажа, не осознающего этого).

Цель игрового самообмана для персонажа- инициатора:

• испытать более сильные страсти – азарт, эйфорию, оргазм (через участие в состязаниях, зрелищах, приём алкоголя, наркотиков, поиск любовных приключений),

• быстрее обучаться профессиональным навыкам (посредством моделирования, симулирования, тренировок),

• легче и быстрее познавать суть других персонажей и сравнивать их с собой, чем это возможно в жизни (посредством чтения, потребления предметов любого искусства).

Цель игрового обмана для персонажа-инициатора: