Моделирование рассуждений. Опыт анализа мыслительных актов

Рационален ли человек?

Этот вопрос может показаться странным. Мы привыкли, что рациональность, целенаправленность поведения человека, внутренняя логика его рассуждений тем больше, чем сильнее в нас проявляются «интеллектуальные возможности», чем более строго и научно мы действуем. Глубокое уважение к науке, вера в ее силу и исключительность в объяснении окружающего мира, в торжество научно-технического прогресса настолько сильны в нас, что мы склонны считать, что лишь научные способы рассуждений, опирающиеся на формальные логические схемы, могут оказаться продуктивными и справедливыми.

На предшествующих страницах этой книги была сделана попытка заронить сомнение в незыблемость этого расхожего мнения. Было показано, что строгие достоверные рассуждения, отвечающие самым полным ограничениям формальных логических систем, моделируют далеко не все виды рассуждений, которыми оперирует в своей деятельности человек. Многие виды научного знания базируются на рассуждениях нестрогих, носящих правдоподобный характер, или на выводах, использующих неполную исходную информацию. В этой главе обратим еще большее внимание на важность в моделировании человеческой деятельности и его поведения «нерациональных схем рассуждений».

Но начнем с того, что попытаемся описать основные черты целенаправленной (рациональной) модели поведения. Такая модель может быть охарактеризована следующими девятью особенностями.

1. В поведенческом акте четко разделяются конечные и промежуточные цели, средства достижения целей и результаты, возникающие при применении этих средств.

2. Имеется эффективная процедура, которая позволяет сравнивать между собой результаты и цели, оценивать степень достигнутости цели.

3. Имеется эффективная процедура, дающая возможность оценивать значимость достигаемых целей и сравнивать между собой различные цели по степени их важности.

4. Задана структура промежуточных целей. Другими словами, проведена декомпозиция конечных целей на промежуточные и определен порядок движения от целей нижнего уровня к целям верхнего уровня (переход с уровня на уровень соответствует приближению к конечным целям).

5. Средства сами по себе не имеют какой-либо ценности. Их ценность определяется лишь тем, насколько быстро идет движение к конечным целям.

6. Заданы условия выбора средств, не зависящие от целей, определяемые теми или иными четко осознанными обстоятельствами или возможностями.

7. Акт поведения оценивается по тому, насколько удалось в результате его совершения приблизиться к конечной цели.

8. Имеются процедуры оценки ресурсных ограничений, необходимых при выборе тех или иных средств или достижении тех или иных целей.

9. Ожидается, что в результате достижения конечной цели субъект получит некоторое «вознаграждение» (например, в виде морального удовлетворения).

Можно ли считать, что эти основные особенности реализуются в любом человеческом рассуждении или поведении? Всегда ли мы осознанно ставим перед собой цели, проводим анализ средств их достижения, оцениваем возможные ресурсы и делаем все остальное, без чего рациональное поведение не является таковым? Разве не ловим мы себя время от времени на мысли о том, что наши действия ни на что не направлены, что мы «просто убиваем время» или «ловим кайф»? Разве время от времени мы не делаем вещей, которые сами потом не в силах объяснить?

Но даже тогда, когда мы осознаем цель, которую хотим достичь, не начинаем ли мы действовать подобно Манилову, лишь рассуждая о пользе достижения этой цели, но не делая к этому никаких практических шагов. При тех или иных выводах мы часто прибегаем к некоторым утверждениям, в абсолютную истинность или ложность которых не верим. Когда мы говорим: «Ученье – свет, а неученье – тьма», мы, по-видимому, верим в истинность этой сентенции. Но в несколько иных обстоятельствах мы с той же внутренней убежденностью прибегаем к другой сентенции, явно противоречащей первой: «Век живи, век учись – дураком помрешь». В первой главе мы говорили о трех ипостасях человека: дитя, взрослый и родитель. И если рассуждения взрослого демонстрируют чисто логический характер, несомненно рациональный по особенностям, то рассуждения ребенка или родителя вовсе не преследуют рациональных целей. Дети часто получают удовольствие от самого процесса рассуждения, от тех эмоций, которые этот процесс вызывает, а рассуждающие в ипостаси «Родитель» часто как раз и занимаются тем, что «просто убивают время».

Стереотипы социального поведения, мода, сложившиеся в обществе морально-этические нормы во многом определяют наши рассуждения и поведение. В итальянском фильме «Игра в карты по-научному» баснословно богатая и бесчеловечная старуха обыгрывает в карты бедняков, мечтающих о том, что они, выиграв, разбогатеют. Так как старуха при каждом проигрыше просто удваивает ставку, а запас ее денег неиссякаем, то логически совершенно очевидно, что наступит момент, когда она отыграет все свои проигрыши и разорит противника. Подобный вывод строг и обоснован, ибо игра продолжается без ограничений. Но рассуждения двух детей, героев картины, основаны на иных принципах. Между ними происходит такой диалог: «Как ты думаешь, старуха проиграет? – Конечно! – А почему? – Потому что она плохая, а он хороший».

«Ты прав, но это меня не убеждает»

Факты для человека существуют не сами по себе. Они образуют взаимосвязанную и сложную структуру. Наличие того или иного факта, не подтверждаемого другими фактами, тесно связанными в сознании с ним, часто подвергается сомнению. И, наоборот, ненаблюдаемый факт может казаться истинным, если его релевантное окружение имеет место. Таким образом, для человека важен не только конкретный факт, но и тот контекст, в котором он существует в его сознании.

В последнее время в науке об интеллектуальных системах все чаще и чаще используется термин «уверенность». Факты принимаются или не принимаются людьми не только в силу их логической обоснованности, но и в силу той или иной уверенности людей в этих фактах, совместимости их с ранее сформировавшимися у человека представлениями и связями. Конечно, эта уверенность может быть мнимой, приводить к ошибочным умозаключениям.

«Выдергивание» фактов из контекста, оперирование ими вне релевантного окружения может приводить к их субъективному истолкованию. Вот как пишет о такой «операции» и ее последствиях для исторической науки писатель О. Сулейменов: «Я понял, что историческая ложь может оскорблять вещего так же, как историческая правда невежду. Мне приходилось видеть, как исторический факт мотается на качелях субъективной логики, возносясь на метафизические вершины и обрушиваясь в бездонные пропасти объективного незнания. Факт, взятый вне исторического контекста, превращается в мертвую игрушку ученых. Ибо факт – ядро эпохи, он живет в космосе обстоятельств своего времени, как земной шар в оболочке атмосферы».

Проблему аргументации можно было бы сформулировать как проблему поиска тех фактов (из которых данный факт вытекает), которые могли бы обосновать проявление интересующего нас факта. Факты, привлекаемые для аргументации, должны быть убедительными либо для самого субъекта (если он убеждает сам себя), либо для его оппонентов. Как-то на экскурсии в Больших Вязёмах автор услышал следующую аргументацию экскурсовода по поводу факта причастности Бориса Годунова к убийству царевича Дмитрия. Экскурсовод, показывая на храм Преображенья, стоящий в Больших Вязёмах, сказал: «Посмотрите на храм внимательно. Многие его детали напоминают Архангельский собор в Кремле. Значит, строя его, Борис Годунов как заказчик давал строителям образцы для подражания. Он еще не был на престоле, но явно думал о нем. Косвенно это для меня лично весьма убедительно свидетельствует, что Дмитрия убили по приказанию Годунова». Автору это рассуждение показалось малоубедительным. Но в процессе дальнейшего разговора с экскурсоводом он услышал немало других аргументов в пользу высказанного. И хотя автор не стал сторонником мнения о причастности Годунова к убийству Дмитрия, но соображения его оппонента стали для него более убедительными.

Таким образом, можно считать, что аргументация – это такой процесс, при котором одна из сторон пытается сменить систему аксиом у собеседника, «настроить» его на вывод из приведенной для аргументации совокупности фактов того утверждения, которое защищается. Но, чтобы добиться этого, необходимо сменить у собеседника систему ценностей, которая лежит в основе непринятия аргументации. Другими словами, при этом необходимо апеллировать не к чисто логическому содержанию утверждений, а к тем ценностным оценкам, которыми они обладают.

Процессы такого рода в практике человеческого общения называются «споры». Споры бывают самыми различными по своим целям и формам. Опишем ряд типичных видов спора.

1. Спорящий в процессе аргументации и ответов на нее хочет увеличить собственную уверенность в справедливости того тезиса, который он отстаивает. Возможно, что в процессе опровержения аргументации у лица, выдвинувшего тезис, произойдет смена аксиом, и он изменит свою точку зрения.

2. Спор происходит с единственной целью убеждения оппонента в справедливости выдвигаемого тезиса. При этом лицо, выдвинувшее некоторый тезис, может считать его истинным, но может и не считать его таковым. Во втором случае оправданием спора для него служит убеждение, что если оппонент примет тезис (хотя он и неверен), то оппоненту будет лучше. Например, происходит убеждение друга, что ему надо жениться на его новой знакомой, но стремление навязать ему этот брак проистекает вовсе не из того, что верен обосновываемый в споре тезис «Она лучше других тебе подходит», а потому, что «Жениться просто необходимо». И когда «Добрыня крестил огнем, а Путята мечом», то они были, по-видимому, уверены в том, что для язычников крещение было благом.

Два указанных вида спора исчерпывают то, что можно было бы назвать рациональным спором. Спорящие в них имеют свои четко осознаваемые цели и добиваются их, используя приемы, не содержащие обмана. Наверное, имитация таких споров в современных интеллектуальных системах – вещь вполне возможная. По крайней мере, ясно, как это делать принципиально, используя процедуры решателя и возможности базы знаний. Остальные виды спора, перечисленные ниже, реализовать в интеллектуальных системах намного труднее (да и с прагматической точки зрения целесообразность такой реализации требует особых обоснований).

3. Спор происходит ради победы в нем. Наградой за одержанную победу является укрепление личной установки, получение эмоционального подкрепления своей «всесильности». В таких спорах часто используются всевозможные обманы, подмены одних тезисов другими, отказ от ранее принятых положений и т.п. Споры такого рода представляют своеобразную психологическую игру, в которой целью является не истина, а доказательство своего превосходства над другим человеком.

4. Спор может использоваться «для убивания времени». Часто люди спорят просто ради любви к спору, к тем эмоциям, которые его сопровождают. В грибоедовское время жил в Москве Алексей Михайлович Пушкин, который ежедневно с утра искал кого-нибудь, чтобы начать с ним спорить, все равно о чем. Иногда в процессе спора он мог сменить тезис на противоположный, если видел, что оппонент уже согласен принять его тезис, и продолжал столь же красноречиво и яростно убеждать оппонента в верности антитезиса.

5. Спор ради обучения спору, когда не слишком опытный спорщик в процессе спора обучается приемам аргументации, уловкам и ловушкам и другим способам вести спор. Такие споры использовались в философских школах Античности для обучения учеников. Сократические диалоги являются одним из видов такого спора. Еще раз напомним, что вся силлогистика Аристотеля выросла из практики споров подобного типа.

6. Спор ради оскорбления оппонента, стремления унизить его, доказать, что его система ценностей намного хуже той, которой пользуется спорщик. В таком споре люди редко прислушиваются к аргументам оппонента. Иногда они попросту их не слышат. Об одном таком спорщике М.Ю. Лермонтов пишет в первой главе «Княжны Мэри»: «Спорить с ним я никогда не мог. Он не отвечает на ваши возражения, он вас не слушает. Только что вы остановитесь, он начинает длинную тираду, по-видимому, имеющую какую-то связь с тем, что вы сказали, но которая на самом деле есть только продолжение его собственной речи».

В процессе спора спорящий может слушать лишь себя, но может имитировать рассуждения своего оппонента. Во втором случае он пользуется схемами, получившими название схем рефлексии.

«Он думает, что…»

21-го августа 1974 года на шестнадцатой полосе «Литературной газеты» появилась миниатюра А. Жукова, имеющая непосредственное отношение к тому, о чем тут пойдет речь. Поэтому приведем ее полностью.

Личное мнение

«Да» или «нет»? – вот в чем вопрос. Если «да», не подумает ли Он, что я говорю «да» лишь потому, что я думаю, что так думает Он? То есть что я подхалим. А если «нет», не подумает ли Он, что, несмотря на то, что я думаю, что Он думает «да», я тем не менее говорю «нет», то есть что я не в меру строптив? Но если «да», Он подумает, что я говорю «да» потому, что мне показалось невыгодным говорить «нет». А если «нет», Он может подумать, что я говорю «нет» лишь для того, чтобы показать, что у меня есть собственное «Я», то есть что у меня его нет. А все таки «да» или «нет»? «Нет» или «да»? А почему это я вдруг решил, что Он думает «да»? А если Он думает наоборот? И тогда, если я скажу «нет»…

Мучения героя миниатюры по-человечески понятны. Знать мнение своего начальника – мечта многих поколений подчиненных. Еще во времена Римской империи был в ходу принцип Ipse dixit, который по-русски звучит весьма внушительно: «Сам сказал!». Но как узнать, что же Сам сказал? Нельзя же просто так спросить Самого. Выход из этого положения – моделирование предполагаемого мнения начальства. Основа такого моделирования – рефлексивные рассуждения.

При рефлексивном рассуждении мы как бы становимся не собой, а моделируемым персонажем, проводим рассуждение за него, глядим на мир и ситуацию его глазами. Для того, чтобы это было возможно, надо знать ту систему посылок и критериев, которые моделируемое лицо использует. Если таких знаний недостаточно или их нет, то существует лишь один выход: считать, что Он и Я одинаковы. Другими словами, считать, что Он обладает такими же посылками и критериями, как и Я, а его знания не больше моих.

Если внимательно прочитать эту юмореску, то можно заметить, что рефлексивные рассуждения очень напоминают вложенные друг в друга матрешки. Рекурсивный процесс вложения можно продолжать бесконечно, становясь попеременно на место моделируемого персонажа и свое. С этим вложением связано понятие ранга рефлексии, введенного в научный оборот В.А. Лефевром, впервые описавшим модель рефлексивных рассуждений. Понятие ранга рефлексии удобно проиллюстрировать на примере, использованном ранее тем же Лефевром.

Рис. 37.

На рис. 37 показана ситуация погони. Персонаж X пытается удрать от персонажа Y. Зная, что Y бегает быстрее его, X решает воспользоваться рефлексивным рассуждением, считая, что Y к нему не способен. Он вбегает в пещеру, показанную на рисунке, и при наличии двух коридоров А и В выбирает коридор В. Почему он это делает? Схема его рассуждений такова. Коридор А более приспособлен для передвижения, в нем можно бежать, а в узком коридоре В придется пробираться почти ползком. Другими словами, А

X и я знаем, что А

Здесь ХA и YA обозначают соответственно то, что X и Y выбирают движение по коридору А. Но для X такая ситуация никуда не годится. Не слишком умный, но быстроногий Y его догонит либо в пещере, либо после выхода из нее через выход А. Именно поэтому X прибегает к рефлексивному рассуждению. Оно выглядит следующим образом:

Y думает, что А

Но верно ли это предположение? Ведь X мог и просчитаться, не подозревать, что У сам обладает первым рангом рефлексии. В этом случае Y не бросается сразу в коридор А потому, что А

X думает, что А

В этом случае X проиграет.

А что будет, если X обладает вторым рангом рефлексии? В этом случае он предполагает, что Y способен к рефлексивным рассуждениям первого ранга. В этих условиях рассуждение X может выглядеть следующим образом:

Y думает, что X думает, что A

И если X правильно оценил возможности Y, то он ушел от погони. Но если X провел рефлексивное рассуждение на уровне второго ранга рефлексии, а Y обладал лишь нулевым рангом, то X попался. Он «перемудрил сам себя», посчитав, что Y обладает способностями рассуждать, которые тому и не снились.

Ситуация, очень похожая на этот последний случай, послужила основанием для рассказа «Ограбление произойдет в полночь», принадлежащего известному советскому писателю-фантасту И. Варшавскому. В нем описана следующая забавная ситуация. Полицейское управление получает в свое распоряжение мощный компьютер с пакетом программ, позволяющих прогнозировать возможные преступления. Проанализировав все случаи ограбления банков за последние пятьдесят лет, ЭВМ выдает прогноз, что сегодня произойдет ограбление Национального банка и сделает это известная банда папаши Сколетти. Машина даже рассчитывает оптимальный вариант ограбления, сулящий банде наибольший успех.

Все было бы хорошо, но у банды Сколетти тоже есть ЭВМ – родная сестра машины, стоящей в полицейском управлении, а программисты, работающие у бандитов, конечно, знают об ЭВМ, приобретенной полицией. И, конечно, они легко могут просчитать действия полиции при оптимальном варианте ограбления. Поэтому если их уровень рефлексии выше нулевого, то бандиты воспользуются не оптимальным вариантом, а тем, который наименее от него отличается.

Так начинается дуэль двух ЭВМ, которые постепенно наращивают ранги рефлексии своих рассуждений. Процесс этот, как мы уже говорили, бесконечен. ЭВМ рассчитывают и отвергают один вариант за другим, не останавливаясь окончательно ни на одном из них, предполагая, что противники уже рассчитали эти варианты. Дуэль кончается неожиданно. Шефу полиции сообщают, что десять минут назад Национальный банк ограблен. На испуганный вопрос программиста полицейского управления: «Неужели Сколетти?..», – шеф полиции яростно отвечает: «Думаю, что Сколетти целиком доверился такому же болвану, как вы. Нет, судя по всему, это дело рук Вонючки Симса. Я знаю его манеру действовать в одиночку, угрожая кольтом образца 1912 года и консервной банкой, насаженной на ручку от мясорубки».

Вонючка Симс не был способен к рефлексивным рассуждениям и выиграл на этом.

Рефлексивные рассуждения тесно связаны с некоторым классом игр, в которых игроки при выборе своих действий могут опираться на соображения о поведении других игроков. Простейшей из таких игр является игра, получившая название «Дилемма заключенного». Эта игра задается матрицей с определенными отношениями между выигрышами игроков при выборе ими одной из двух доступных им альтернатив. Например, матрица может иметь следующий вид: