Понимание в мышлении, общении, человеческом бытии

Многие авторитетные специалисты по «искусственному интеллекту» (например, Р. Шенк и Г. Саймон) считают, что в существующих ныне «понимающих системах» моделируются процессы понимания человека; Ч. Ф. Шмидт даже утверждает, что разработанная им система BELIEVER является психологической теорией понимания человеком-наблюдателем смысла действия наблюдаемого субъекта [11]. Поскольку понимание является познавательным процессом постижения человеком смысла событий и явлений предметной действительности, названные авторы, безусловно, правы в том, что связывают разработку «понимающих систем» с процессами смыслообразования у человека. Однако содержания термина «смысл» в психологии и «искусственном интеллекте» не совпадают (специалисты по «искусственному интеллекту» подразумевают под «смыслом» то значение слова, которое выбрала в данный момент системы), и, значит, утверждение о том, что машинные программы воспроизводят процессы понимания, присущие человеку, следует признать метафорическим. Тем не менее работы по созданию «понимающих систем», опирающиеся отчасти на достижения современной психологии, оказывают в свою очередь прямое влияние на расширение проблематики психологии понимания, а также ставят перед психологами ряд конкретных задач (например, задачу компонентного операционального представления природы смысла).

Цель статьи – провести критический анализ тех представлений о понимании, которые воплощаются ныне в технических устройствах, и показать возможные перспективы внедрения психологических знаний о понимании в разработку «понимающих систем».

Машинные процедуры «приписывания смысла». Система может понять текст, описывающий некоторые ситуации, события и явления объективного мира, только в том случае, если сравнит этот текст с хранящейся в ее памяти моделью описываемой предметной области. Такая модель существует в ЭВМ в виде системы символов (последовательности нулей и единиц, сочетаниями которых кодируются отдельные слова). Эти системы символов представляют собой некоторое подобие физических объектов в том отношении, что их можно хранить, сличать, изменять и т. д. То, что понимание включает в себя процедуры оперирования символами, признают и психологи, и создатели «понимающих систем», но для воспроизведения понимания текста на ЭВМ этого мало. Для того чтобы компьютеры перешли от обработки числовых данных к целесообразному оперированию знаниями, символы машинной памяти должны наделяться смыслом.

Специалисты по «искусственному интеллекту» понимают проблему наделения смыслом машинных символов как проблему установления семантической связи. Они формулируют эту проблему следующим образом: как сделать так, чтобы ЭВМ могла устанавливать связь между системой символов и обозначаемым ею предметом, т. е. чтобы машина «рассматривала» последовательности символов как описание некоторой предметной области; иначе говоря, как «привязать» смысл к конкретной последовательности символов?

По мнению А. Слоумэна, важнейшей операцией, «побуждающей» машину ассоциировать одни символы внутреннего языка «понимающей системы» с отображенными в памяти объектами внешнего мира, а другие – с их свойствами и отношениями, является процедура приписывания символами оценок истинности. Если оценки истинности приписываются способом, зависящим от реального состояния мира (а не только от логической коррекции процедур манипулирования символами), то символы могут быть мыслимы системой как репрезентирующие фактические утверждения, т. е. конкретные высказывания о том, как обстоит дело в мире. Поскольку объекты, условно говоря, являются частью памяти «понимающей системы», то установленные связи между элементарными символами программ и объектами во внутреннем мире систем оказываются простыми причинными отношениями. Вместе с тем очевидно, добавляет А. Слоумэн, что, устанавливая такие связи, машина обращается с «истиной» и «ложью» как с чем-то большим, чем простые двоичные числа: она наделяет последние простейшей, зародышевой формой смысла [13].

Адекватность описанной А. Слоумэном процедуры задаче наделения смыслом машинных символов вызывает со стороны психологов ряд возражений, которые фиксируют, главным образом, ограниченность представлений разработчиков «понимающих систем» о сущности и механизмах человеческого понимания. Эта ограниченность выражается в преимущественной фиксации внимания на референтном аспекте смыслообразования и игнорировании его операционального и интенционального аспектов.

Референтный аспект смысла и его моделирование в «понимающих системах». Описанный А. Слоумэном способ референции символов не является единственным. Например, П. А. Колерс и У. Е. Смайт выделяют три способа, которыми символы у человека могут соотноситься с действительностью: обозначение (репрезентация); приведение примеров (буквальных и метафорических); выражение свойств, к которым относится символ [8]. Разнообразие способов референции, которыми обладает символ, непосредственно влияет на индивидуальные способы его интерпретации и понимания человеком. Но дело даже не в том, что психологам известно несколько способов референции символов, а в неудовлетворенности самого референтного подхода к формированию смысла слова: ведь в психологии давно стало аксиомой, что при одной и той же предметной отнесенности смысл слова для человека может быть разным.

Для психолога основной вопрос заключается не в том, какой предмет обозначается символом, а в том, как (в виде какого символа) тот или иной объект существует для субъекта (например, путь из одного города в другой одним человеком может осознаваться как яркий зрительный образ фрагмента географической карты, тогда как второй субъект лишь приблизительно помнит последовательность названий промежуточных населенных пунктов).

В отличие от психологов разработчики «понимающих систем» работают с названиями объектов как с объектами, которые уже имеются в их распоряжении, и поэтому видят свою задачу только в том, чтобы предложить такое правило комбинации символов (формализм, описывающий последовательность процедур понимания), соответствие которого интуитивным представлениям о человеческом понимании будет проверено в ходе эксплуатации системы.

Многие специалисты по «искусственному интеллекту», видя неудовлетворенность разработанных процедур «привязывания» смысла к символу, высказывают мнение, что разумную, познающую окружающий мир систему нельзя создать до тех пор, пока она не будет иметь обратной связи от объектов. Иначе говоря, символы для «понимающей системы» станут осмысленными (будут обозначать не копии объектов в машинной памяти, а сами объекты) тогда, когда у ЭВМ появятся рецепторы, посредством которых она сама сможет получать информацию о мире (сейчас предметные знания закладываются разработчиком).

Признавая важную роль перцептивного опыта в смыслообразовании у человека, все же следует напомнить, что предпринимавшиеся в психологии попытки связать смысл слова исключительно с теми скедениями о предметах и явлениях, которые человек получает непосредственно от органов чувств (А. Пейвио и др.), оказались неудачными: смысл предъявляемого предложения нередко осознается человеком раньше, чем у него появляются соответствующие перцептивные образы; синтаксические отношения и некоторые слова предложений естественного языка не поддаются представлению в образах (каковы, например, образы слов «если» или «затем»?).

Главная причина неудачи референтных подходов, по мнению Дж. Д. Брансфорда и Н. С. Маккаррелл, состоит в том, что «информации об изолированных объектах (things) недостаточно для уяснения их смысла» [7, с. 192]. Эти авторы отмечают, что перцепция дает человеку больше, чем прямую информацию об объекте: в данных органов чувств представлены и пространственно-временные отношения, характеризующие перцептивное событие. Согласно их точке зрения, объекты становятся осмысленными через отношения с другими объектами. Соответственно смысл любого предложения является результатом воссоздания в мозгу читателя предметной ситуации, в которой выраженные в предложении отношения правдоподобны.

Другие западные психологи, признавая важную роль в смыслообразовании контекста, предметных связей понимаемого, определяют смысл исключительно в терминах знаний. Например, Дж. Дж. Франкс пишет: «Структуры смысла есть частные порождения системы знаний. Они детерминируются знанием так же, как структура предложения детерминируется грамматикой» [7, с. 235]. У. Ф. Бруэр рассматривает смысл в широком и узком значении этого слова. При широкой интерпретации смысл слова, предложения, объекта или события для понимающего субъекта может быть выражен как целостная система его знаний, относящихся к слову (предложению и т. д.). Смысл в узком значении – это то подмножество знаний, указанных словом (высказыванием) в диалоге, которое, по предположению говорящего, будет выделено слушающим.

Сеть знаний человека, по Бруэру, образуется посредством взаимосвязанных высших психических процессов и включает как образные, так и вербально-логические знания [7, с. 281].

В соответствии с такой когнитивистской интерпретацией смысла усилия западных исследователей направлены главным образом на отображение характеристик объектов предметной области в виде стабильных структур знаний, которые можно записать на машинных носителях «понимающих систем». Такой способ отображения характеристик объекта вполне соответствует референтным принципам его осмысления. Проектируя системы, разработчики озабочены в основном тем, как с помощью структур знаний, используемых для понимания (наиболее распространенная из них – фрейм), вывести смысл понимаемого. Например, П. Уинстон пишет: «Смысл простых предложений в значительной степени может быть описан фреймами действия и фреймами изменения состояния, связанными друг с другом в причинно-следственную сеть» [6, с. 228]. И далее: «Понимание с операционной точки зрения на создание вопросно-ответных систем, вероятно связано с созданием тесно взаимосвязанного множества фреймов» [там же, с. 241].

Самое сложное для разделяющих эту точку зрения разработчиков – определить, какие именно фреймы необходимо ввести в систему, какой фрейм или набор фреймов может понадобиться для понимания входного текста. Другими словами, сложность заключается в определении перечня необходимых и достаточных для понимания знаний. Неудивительно, что некоторые разработчики высказывают мнение, что при создании систем, выполняющих интеллектоподобные функции, главная проблема состоит не в том, в каком виде представлять знания (фреймы, сценарии, продукции), а в том, какие именно знания следует заложить в систему, чтобы она могла успешно выполнять эти функции [2, с. 131–132]. Поэтому наиболее проницательные из специалистов по «искусственному интеллекту» пытаются уяснить, что принципиально нового привносится знаниями в функционирование систем.

Так, в 1982 г. А. Ньюэлл предложил дополнить традиционную для компьютерной науки схему иерархии уровней организации систем «искусственного интеллекта» (включающую уровни «технического устройства», «логической организации данных», «программный») уровнем «знаний» [10]. Содержание уровня знаний этот автор описывает на примере ситуации наблюдения одним субъектом за поведением другого. Наблюдаемый оказывается для наблюдателя системой на уровне знаний потому, что наблюдатель приписывает действующему субъекту некоторые знания о мире и цели вместе с возможными действиями. На основании компонентов уровня знаний наблюдатель может делать предсказания о поведении наблюдаемого. Поскольку в системной иерархии каждый вышестоящий уровень выступает в роли организующего начала по отношению к предшествующему, то, с одной стороны, уровень знаний определяет то, на что должны быть способны символьные структуры программного уровня, непосредственно над которым он находится; с другой стороны, он сам характеризуется радикальной незавершенностью, так как является высшим уровнем в организации систем, а знания используются неформально, т. е. не связаны формализованными процедурами с операциональными моделями обработки символов на программном уровне. Незавершенность, в частности, проявляется в том, что иногда поведение наблюдаемого субъекта может быть предсказано на основе описания на уровне знаний, однако целый ряд аспектов поведения таким описанием не охватывается и, следовательно, предсказан быть не может.

В настоящее время в «искусственном интеллекте» ведутся исследования в направлении конкретной технической реализации уровня знаний.

Одну из самых продуктивных и интересных, но вместе с тем слабо подкрепленных психологической теорией попыток такого рода предпринял У. Кинч [9, с. 301–312]. Занимаясь проблемой понимания текста, он разработал двухкомпонентную модель репрезентации его содержания в памяти компьютера. Эта модель состоит из пропозиционной основы (связной понятийной структуры, выражающей содержание написанного) и ситуационной модели, выстраиваемой «понимающей системой» посредством актуализации своих знаний об описываемой в тексте предметной области. Задача понимания, по Кинчу, состоит в том, чтобы преобразовать входной текст в концептуальное представление его смысла – список утверждений, представленных в табличной форме. «Быть понятым» в этой модели означает, что программа понимающего устройства построила такой род репрезентации смысла текста, который иллюстрируется в приводимых в статье таблицах. На наш взгляд, эта модель обладает существенным недостатком: абстрактная пропозиционная семантическая репрезентация, как шаблон прикладываемая к разным текстам, нечувствительна к психологической структуре деятельности читателя, так как игнорирует индивидуальные способы осмысления (символизации) элементов текста, в конечном счете и определяющие специфику понимания.

Игнорирование разработчиками операциональных механизмов смыслообразования. В психологии известны различные виды символов и соответственно их смыслов. Между тем специалисты по «искусственному интеллекту», моделируя познавательную деятельность, редуцируют символы к одному их виду, реализуемому в программах ЭВМ. П. А. Колерс и У. Е. Смайт, называя символы такого вида общепринятыми (consensual) и отмечая, что они «обеспечивают основу для референции в общении», характеризуют их как четкие (articulated) символы – дифференцируемые, идентифицируемые и повторимые. В противоположность этому личностные символы, т. е. феноменальные события, существующие только для переживающего их субъекта (умственные образы, сны и т. п.), являются нечеткими (dense) и не воспроизводятся в машинах. Личностные символы неотделимы от истории своего возникновения в деятельности и обстоятельств использования; кроме того, разные личностные символы отличаются по способности репрезентировать субъекту предметы, события и явления окружающего мира, да и человеческий разум неодинаково способен иметь дело со всеми символами [8].

Сравнение возможностей описания интеллектуальной деятельности с привлечением понятий общепринятых символов или личностных символов выявляет безусловное преимущество последних (Колерс и Смайт демонстрируют его на примере обучения человека и машины действиям по правилам). Поэтому в психологии естественно возникает задача анализа условий максимальной эффективности символизации объектов в процессе психической деятельности, в частности анализа того, какова относительная помощь для понимания, даваемая разными видами символизации одного и того же предмета. В этом плане основная проблема для психолога, изучающего смыслообразование, заключается в экспликации природы манипуляции личностными символами, т. е. в выявлении тех субъективных способов и средств, с помощью которых человек приходит к осмыслению (а следовательно, к интерпретации и пониманию) предмета деятельности. Советские психологи пытаются решить эту проблему путем выявления операциональной структуры человеческой деятельности.

В отличие от западных психологов, подчеркивающих когнитивную природу смысла, советские ученые стараются изучать смыслообразование как процесс, включенный в деятельность понимающего субъекта и детерминированный ее побудительными механизмами. В советской психологии показано, что смысл любого предмета (события, явления) для человека зависит не столько от его знаний о нем, сколько от того места, которое занимает этот предмет в структуре деятельности. Наряду с предметной отнесенностью важную роль в смыслообразовании играют функциональные характеристики объектов, проявляющиеся в их взаимодействии. Поскольку деятельность динамична, то в разные ее моменты одни и те же характеристики объекта занимают различное место в структуре поисковой активности субъекта и соответственно приобретают для него разный смысл. С этой точки зрения, наиболее важным является раскрытие конкретных механизмов деятельности, включающее указание на то, почему в один момент для субъекта становятся важными одни свойства, а в другой – другие. Описание же неизменных жестких структур знаний мало что может дать для машинного моделирования смыслообразования.

И наконец, еще один важный аспект проблемы: так как смыслообразование включено в структуру психической деятельности и является одним из динамических ее компонентов, то смысл оказывается результатом образующих познавательную деятельность интеллектуальных действий.

Значительная работа в направлении анализа операционально-динамических компонентов в деятельности проделана в исследованиях операционального смысла [5]. В них на примере игры в шахматы было показано, что одни и те же фигуры-символы (конь, слон и т. д.), вместо того чтобы иметь только стабильное общепринятое в соответствии с правилами игры значение, в разные моменты мыслительного поиска имеют для испытуемого различный операциональный смысл, который к тому же имеет тенденцию к изменению и развитию. Поскольку выявление операционального смысла элементов шахматной задачи происходит во время поисковых операций, направленных на установление связей между ними, то наряду со смыслом отдельных элементов у испытуемых формируется операциональный смысл целостной ситуации, отображенной в задаче. Таким образом, психологические исследования показывают, что процесс смыслообразования неразрывно связан со структурой психической деятельности человека и сам представляет собой сложное динамическое образование, поэтому все попытки воссоздать в ЭВМ этот процесс вне деятельности, абстрагируясь от нее, обречены на неудачу. Однако пока лишь немногие из специалистов по «искусственному интеллекту» ясно понимают это. Особенно отчетливо это проявляется в технических модельных реализациях интенциональных, целевых аспектов деятельности понимающего субъекта.

Интенциональный аспект смысла и модели целей «понимающих систем». Существенное отличие машинных процедур «приписывания смысла» от процессов смыслообразования человека состоит в том, что последние детерминируются побудительными механизмами деятельности, уходящими своими корнями в мотивационную сферу личности понимающего, не воспроизводимую в современных «понимающих системах». Зависимость смыслообразования от характера мотивации отражена в разработанном в советской психологии понятия личностного смысла. Личностный смысл, выражающий отношение субъекта к объекту деятельности, порождается взаимосвязью между мотивом действия и тем, на что действие направлено как на свой прямо результат, т. е. целью. Понимая предметные ситуации, события и явления, люди всегда так или иначе проявляют свое отношение к ним (в частности, эмоциональное); последнее оказывается непременным атрибутом понимания. Конкретные проявления отношений весьма многообразны, но все они, как правило, не вербализованы. Например, Т. А. ван Дейк показал, что в понимании смысла читаемого текста существенную роль играют не только осознаваемые знания, но и мнения, убеждения и аттитюды читателя [9, с. 35–51]. Поэтому психологически ориентированные разработчики «понимающих систем» полагают, что для того, чтобы символы имели для ЭВМ смысл, она тоже должна иметь собственные «убеждения», «желания» и «предпочтения». Для этого в системах должны быть предусмотрены модули, функция которых – порождать и изменять цели, в частности модули генератора мотивов, их сличения и т. п. [13, с. 998].

Важная роль побудительных механизмов деятельности в становлении процесса смыслообразования наиболее выпукло проявляется в интенциональной природе смысла: в человеческом общении смысл любого высказывания (текста) на естественном языке определяется не только тем, наименованием какого предмета (ситуации, события и т. д.) оно является, но и тем, каков замысел автора высказывания, с какой целью оно произносится. Поскольку понимание представляет собой процесс выявление смысла, то любую систему – естественную или искусственную – с полным правом можно назвать понимающей только в том случае, если она не только ищет предметные референты входного высказывания, но и выявляет цель, с которой оно было высказано. Если система не имеет у себя памяти хотя бы одной из этих моделей (предметной области и целей) и, следовательно, не соотносит с ней входное сообщение, то для такой системы сообщение не имеет смысла, и поэтому ее нельзя назвать понимающей.

Рассматривая под таким углом зрения эволюцию «понимающих систем» (см., например: [12]), сейчас можно утверждать, что многие системы, которые в 1960–1970 гг. назывались «понимающими», на самом деле таковыми не являлись, потому что производили операции над данными, не приписывая им смысла, т. е. оперировали данными, а не знаниями. Был также период, когда «понимающими» называли системы, способные осуществлять только синтаксический анализ входного предложения. Эти системы не имели моделей предметной области, не соотносили анализируемые и якобы понимаемое предложение с отображенной в нем предметной ситуацией. Устанавливая взаимно однозначные соответствия между буквами слов естественного языка и их машинными кодами, программы таких систем, по сути дела, манипулировали символами как изолированными от мира сущностями, связанными только между собой.

Надо отметить, что многие современные специалисты по вычислительной технике полагают, что поскольку в языках программирования символами программ приписываются определенные произвольно выбранные значения, то тем самым программа работает с символами как с чем-то действительно означенным. Они говорят, что могут закодировать любое слово естественного языка (например, «самолет») последовательностью нулей и единиц, приписывая тем самым этой последовательности символов тот смысл, который это слово имеет для человека. Они не учитывают, что предметная отнесенность и целевая направленность возможного использования слова в речевом общении остается у них в голове, не попадая в программу. Вследствие этого, хотя кодируемое слово, безусловно, имеет смысл для программиста и выступает для него как знание, обозначающее что-то вполне определенное, для системы, не имеющей моделей действительности и целей, оно выступает в роли данных, с которыми осуществляются преобразования, заданные алгоритмами программ. Для таких программистов вообще характерна путаница в употреблении понятия «понимание» применительно к человеку и машине; они, например, считают, что если система выполняет инженерные расчеты так, что результаты ее деятельности схожи с результатами решения расчетных задач человеком и потому понятные разработчику, то такая система понимает задачу, так как действует в соответствии с ее требованиями. однако объективно это говорит лишь о том, что понимает динамическую структуру задачи (т. е. может найти ее предметные и целевые корреляты в своем внутреннем мире) сам разработчик, а отнюдь не ЭВМ. Повторим еще раз: «понимающими», преобразующими данными в знании путем приписывания данным смысла являются только те технические устройства, которые соотносят входные сообщения с отображенными у них в памяти предметной областью и целями.

Модели предметной области стали включаться в состав систем «искусственного интеллекта» уже двадцать лет назад, а создание блоков целей – это характерная черта систем 80-х годов. В публикациях, посвященных «понимающим системам» (например, [14]), понятие «цель» чаще всего используется в контексте разработки планирующей компоненты системы – модуля построения или выведения плана (обычно речь идет о плане поведения человека, описываемого в тексте, который поступает на вход системы). Цели в них рассматриваются как вполне конкретные образования – препятствия, мешающие выполнению плана действующего субъекта. При воспроизведении в системе интерпретируемая таким способом «цель» оказывается просто одной из функций машины, имеющей мало общего с «целью» в психологии.

Гораздо более приближенными к процедурам целеобразования и соответственно приписывания смысла у человека оказываются «цели» «процедуры означивания» (термин, употребляемый разработчиками) в экспертных системах. Системы этого класса, принадлежащие к вершинным достижениям «искусственного интеллекта», несомненно, являются «понимающими», потому что означивание в них происходит способом, очень близким к человеческому. Так, в одной недавно созданной отечественной экспертной системе задачи, которые она должна решать (выдавать консультации врачам, геологам и т. д.), заносятся в рабочую память в виде фреймов, описывающих проблемную область, а действия, которые могут понадобиться для решения задач, – в виде продукций. Когда в систему поступает запрос, он попадает на некоторый шаблон, схему продукций. Затем, для того чтобы определить, какие продукции целесообразно применять для решения входной задачи, этот шаблон соотносится с проблемной областью. После соотнесения шаблон «возвращается» наполненным несколькими подходящими для решения продукциями. Разработчики называют его «означенным конфликтным набором» (конфликтным – потому что каждая из продукций набора в принципе может быть использована для решения), но, с точки зрения психолога, означивание произошло пока еще не до конца. Затем система применяет эвристические правила, с помощью которых вводятся ограничения, позволяющие в конечном счете выбрать только те продукции, которые нужны для решения. Эвристические правила, в сущности, делают то же, что у человека, например, читающего текст, осуществляет цель, – направляют деятельность. Разумеется, аналогия с целью здесь проводится только по функциям и достигаемым результатам, а не по механизмам. Разработчикам в содружестве с психологами предстоит еще много потрудиться для приближения машинных «целей» к человеческим. Процессы предвосхищения результатов будущих действий, превращения побочных результатов действия в цели через связь с мотивом, преобразования неосознаваемых результатов в осознанные – эти аспекты целеобразования человека и многие другие еще предстоит воплотить в «понимающих системах».