Слепые зоны мышления. Почему мы не замечаем собственных ошибок и как научиться их видеть

Предположим, кто-то шепнул вам на ухо: «Возможно, ваш партнер что-то от вас скрывает».

Никаких доказательств, только одна фраза.

С этого момента вы не будете делать ничего особенного. Вы по-прежнему будете ходить на работу, есть, спать. Но ваше внимание уже переключилось на другой режим.

Его телефон лежит экраном вниз на столе — раньше вы никогда не обращали внимания на этот жест.

Кажется, в этом месяце он чаще работает сверхурочно.

Он берет телефон с собой в ванную, когда принимает душ.

Вчера он внезапно стал особенно добр к тебе и даже принес тебе подарок.

Все четыре пункта подтверждаются. Все четыре — это события, которые действительно имели место.

А теперь посмотри на это с другой стороны.

Если бы он не клал телефон экраном вниз, ты бы подумала: «Чего ему скрывать? Наверное, он сменил телефон». Если бы он в этом месяце вообще не работал сверхурочно, ты бы подумала: «Это даже подозрительнее». Если он холоден с тобой — это признак вины; если он добр к тебе — это тоже признак вины.

Обратите внимание на эту структуру.

В такой системе ни одно наблюдение не может служить опровержением.

А гипотеза, которую невозможно опровергнуть, не называется «подкреплённой весомыми доказательствами». Она называется «не прошедшей проверку».

1. Последовательность обратная

Большинство людей считает, что их мыслительный процесс выглядит так: сначала изучают информацию, а потом формируют суждение.

На самом деле порядок часто бывает обратным: сначала появляется суждение, а потом ищутся данные.

Уэйсон (Wason, 1960) продемонстрировал это очень наглядно.

Он сказал испытуемым: «У меня в голове есть правило, которое позволяет генерировать числовую последовательность. Цифры 2, 4, 6 соответствуют этому правилу».

Вы можете сами предложить любую группу из трёх чисел, и я скажу вам, соответствует она правилу или нет. Вы можете предлагать столько раз, сколько захотите. Только когда будете уверены, назовите правило, которое, по вашему мнению, я использую.

Первым предположением большинства людей было: «Каждый раз прибавляется два».

Затем они начинают называть числа: 8, 10, 12. Соответствует. 20, 22, 24. Соответствует. 100, 102, 104. Соответствует.

Получив подряд более десяти ответов «соответствует», они с большой уверенностью заявляют: правило заключается в том, что к каждому числу прибавляется два.

Неверно.

Настоящее правило заключается просто в том, что «числа становятся всё больше». Любая последовательность из трёх чисел, увеличивающихся по порядку, подходит.

Чтобы обнаружить это, достаточно было бы один раз предложить «1, 2, 30» или «5, 4, 3» — последовательность, которая, как можно было бы ожидать, не соответствовала бы правилу.

Но большинство людей ни разу не предложили таких вариантов.

Они не ленивы — они называли такие комбинации более десятка раз, проявив большую усердность.

Просто каждый раз они задают один и тот же вопрос: «Я прав?» — и никогда не задают другой: «А может, я ошибаюсь?»

Эти два вопроса приведут вас к совершенно разным результатам. На первый всегда есть ответ, и ответ всегда будет «да».

В этой статье есть одна деталь, которую легко упустить из виду.

Те, кто ответил неправильно, не потому что не понимают логику. Если той же группе людей задать вопрос «Как нужно доказать правило?», большинство из них сможет правильно сформулировать принцип.

На бумаге они знают, что нужно искать контрпримеры. Но когда дело доходит до того, чтобы самим сформулировать задачу, они ни разу не привели ни одного.

Знать принцип и применить его в конкретной ситуации — это две разные вещи. Этот разрыв будет постоянно возникать в этой книге.

Есть ещё один момент, заслуживающий особого внимания: их уверенность была раздута ими самими.

Каждое «совпадение» — это реальный ответ, исследователи их не обманывали. Когда накапливается более десятка реальных «совпадений», любой человек почувствует, что уже проверил всё достаточно тщательно.

Доказательства были подлинными, процесс — усердным, а вывод — ошибочным.

Эти три вещи могут иметь место одновременно.

2. Два этапа, два набора критериев

Искажение подтверждения на самом деле происходит в двух местах, но многие замечают только первое.

Первый этап — поиск.

Вы решаете, где искать, что искать и у кого спрашивать. Это решение принимается ещё до того, как вы увидите какие-либо данные, и оно уже определяет общее направление результата.

Если вы хотите купить ту или иную машину, вы посмотрите обзоры именно этой модели. Если вы подозреваете какого-то коллегу, вы спросите у того, кто с ним не ладит.

Никто не скажет, что вы предвзяты, ведь вы действительно проверили информацию.

Второй этап более скрыт: интерпретация.

Одна и та же информация лежит перед вами — как вы её интерпретируете?

Лорд, Росс и Леппер (1979) собрали две группы людей: одна поддерживала смертную казнь, другая — выступала против. Им дали прочитать два одинаковых исследовательских отчета: в одном делался вывод, что смертная казнь имеет сдерживающий эффект, в другом — что нет.

Методология обоих отчетов была специально разработана исследователями и была примерно одинаковой по убедительности.

После прочтения обе группы стали ещё более убежденными в своей позиции.

Сторонники смертной казни стали ещё более убеждёнными, а противники — ещё более решительными. Одни и те же данные ещё больше увеличили расстояние между позициями обеих сторон.

Самое интересное — это то, как они читали.

Отчет, выводы которого им по душе, они прочитали быстро, без труда приняли и сочли хорошо написанным.

А отчет, выводы которого им не нравились, они читали очень внимательно. Они выявили проблемы с выборкой, контрольной группой и статистическими методами.

Многие из их критических замечаний были справедливы.

Проблема в том, что такая критика звучит только с одной стороны. Те же недостатки присутствуют и в другом отчете, но никто их не ищет.

Вот в чём заключаются двойные стандарты.

Доказательства, с которыми вы согласны, проходят через один барьер и сразу попадают внутрь. Доказательства, с которыми вы не согласны, должны пройти через пять барьеров, причем каждый из них вы лично охраняете.

Вы не почувствуете, что проявляете пристрастность. Вы просто посчитаете, что один из отчетов написан более тщательно.

Что касается того, как эти два набора стандартов автоматически смягчаются или ужесточаются, и что стоит за этим механизмом, — это будет подробно рассмотрено в седьмой главе.

А пока давайте примем один весьма неудобный вывод.

Предоставление обеим сторонам большего количества информации не сблизит их позиции. Оно их разобьёт.

Потому что после поступления новой информации обе стороны обрабатывают её по своим собственным критериям и каждая из них извлекает из неё ещё больше аргументов.

«Давайте сядем, выложим факты на стол и разберемся» — это звучит вполне разумно, но на деле часто только усугубляет ситуацию. И дело не в том, что кто-то ведет себя нерационально, а в том, что у каждого из участников свои «фильтры».

3. Комплексная проверка и уголовное расследование

Если рассматривать один и тот же случай в масштабах организации и системы, цена вдруг становится очень высокой.

Рассмотрим сначала организационный уровень.

Прежде чем компания примет решение о слиянии или поглощении другой компании, она проводит комплексную проверку. Привлекаются юристы и бухгалтеры, проверяются финансовые отчеты и контракты, что требует значительных затрат.

С точки зрения процесса это делается для того, чтобы принять решение о целесообразности сделки.

На самом деле во многих случаях решение уже принято руководством, и функция due diligence сводится к его обоснованию.

В чём же разница? В том, как реагируют на обнаруженные проблемы.

Если обнаруживается проблема, а решение ещё не принято, эта проблема будет рассматриваться как повод для отказа от сделки.

Если обнаруживается та же самая проблема, но решение уже принято, она рассматривается как «козырь при переговорах о цене» или «возможность для улучшений после интеграции».

Одно и то же открытие — две разные судьбы. Судьбу определяет не само открытие, а момент, когда оно произошло.

То же самое касается и найма на работу. Уже в первую минуту собеседования у большинства интервьюеров в голове формируется определённое мнение. В течение следующих сорока минут вопросы неосознанно будут направляться в сторону этого мнения.

Если собеседник производит хорошее впечатление, его спрашивают о том, в чём он силен, и, получив ответ, убеждаются, что он действительно хорош. Если же собеседник не вызывает доверия, его допрашивают о слабых сторонах, допрашивают до тех пор, пока он не сможет ответить, а затем убеждаются в своей правоте.

После собеседования интервьюер искренне верит, что провел всестороннюю оценку. Ведь он действительно задавал вопросы в течение сорока минут.

Теперь рассмотрим уровень цивилизованности.

В уголовном расследовании существует давняя проблема: как только подозреваемый определён, направление дальнейшего расследования сужается.

Доказательства, подтверждающие эту версию, тщательно проверяются, а улики, противоречащие ей, отбрасываются в сторону, причём по вполне разумным причинам — ресурсы ограничены, и нужно сосредоточиться на наиболее вероятном направлении.

Каждый шаг выглядит логичным. А значительная часть ложных приговоров, которые были опровергнуты спустя много лет, именно так и складывалась — шаг за шагом.

Никто не лгал на протяжении всего процесса. Возможно, в нём не было ни одного злоумышленника.

Просто все с самого первого дня задавали один и тот же вопрос: «Он ли убийца?». И никому не было поручено спросить: «Если не он, то кто же?».

Что касается того, как машины берут на себя эту задачу и как с помощью алгоритмов помогают заранее отфильтровать несоответствующую информацию, об этом пойдет речь в семнадцатой главе.

4. Закон этой главы

Если свести всю главу к одной фразе:

Вы ищете не ответ, а согласие. И в этом мире всегда найдётся достаточно материала, чтобы вы его нашли.

Из этого утверждения следует один очень практичный вывод.

Фраза «У меня есть доказательства» не несет практически никакой информации.

У любого человека, занимающего ту или иную позицию, есть доказательства. У человека, придерживающегося противоположной точки зрения, доказательств не меньше, чем у вас, и он тоже честно их собрал.

Информативной является другая фраза: «Искал ли я всерьёз аргументы против?».

Речь идет не о том, «слышали ли вы аргументы противоположной стороны», а о том, искали ли вы активно самую убедительную версию противоположной точки зрения и были ли готовы изменить свою позицию до того, как найдете её.

Как это сделать и какие ловушки могут возникнуть в процессе — методы будут представлены в двадцать четвёртой главе.

А пока достаточно просто запомнить, где находится эта глава.

Глава 3 — это тот «счетный журнал», который отвечает за распределение заслуг и ответственности. Механизм, описанный в этой главе, отвечает за поставку материала — он гарантирует, что в «счетном журнале» всегда будут доступны достоверные доказательства.

В совокупности это дает следующий эффект: вы постоянно собираете доказательства в свою пользу, и ваша уверенность стабильно растёт.

А связь между уверенностью и способностями гораздо слабее, чем вы думаете. Особенно тогда, когда вы знаете меньше всего.

Об этом пойдет речь в следующей главе.

Контрольные точки для выявления «слепых зон»

1. Выберите одно из ваших суждений, в котором вы абсолютно уверены. Запишите: «Если я ошибаюсь, что я должен был бы увидеть?» Если вы не можете придумать ни одного конкретного, наблюдаемого явления, то у вас на руках не суждение, а позиция.

2. Вспомните, когда вы в последний раз «проверяли факты». Куда вы тогда пошли и кого спросили? Если место и собеседник для проверки были выбраны уже после того, как у вас сформировалось мнение, то вы проверяли не факты, а согласие.

3. Найдите статью, которую вы считаете плохо написанной и представляющую противоположную точку зрения, а также статью, которую вы считаете хорошо написанной и разделяющую вашу точку зрения. Проверьте аргументы обеих статей по пунктам, руководствуясь одним и тем же критерием. Большинство людей, выполняя это упражнение, останавливаются, как только обнаруживают первую проблему на своей стороне. Обратите внимание на тот момент, когда вы остановились.

Выставка оружия, на которой собрались одни только любители. Большинство из них владеют оружием более десяти лет, а некоторые — с детства.

Эрлингер и др. (2008) попросили их выполнить на месте две задачи.

Во-первых, самооценка: как вы оцениваете свои знания в области безопасности при обращении с оружием?

Во-вторых, пройти объективный тест.

Затем данные были сопоставлены.

У тех, кто поставил себе самую высокую оценку, результаты теста оказались не самыми лучшими. А у тех, кто показал худшие результаты в тесте, степень завышения самооценки была наибольшей.

Здесь стоит остановиться.

Плохой результат на экзамене обходится одной оценкой. Неправильный ответ по безопасности обращения с огнестрельным оружием обходится чужой жизнью.

И те, кому больше всего нужно посещать дополнительные занятия, как раз и считают, что им это не нужно.

В этом и заключается проблема: почему те, кто допускает самые серьезные ошибки, меньше всего это ощущают?

1. Недостатки могут побочно вывести из строя детектор

Кругер и Даннинг (1999) провели серию экспериментов, которые сейчас стали очень известны.

Они предложили студентам пройти тестирование по трем направлениям: логическое мышление, грамматика английского языка и оценка того, насколько смешны анекдоты. По завершении тестирования каждого попросили оценить, на каком процентиле по результатам находится его оценка среди сверстников.

У четверти участников с самыми низкими результатами фактические показатели находились примерно на 12-м процентиле.

По их самооценке — примерно на 62-м.

Разница превышала пятьдесят процентилей.

Ключ к объяснению этого заключается не в их самонадеянности.

А в том, что для определения правильности ответа вам нужны именно те знания, которые требуются для решения этого задания.

Если вы не знаете грамматики, вы не сможете обнаружить грамматическую ошибку в своём собственном предложении. Инструменты для обнаружения ошибок и для составления правильных предложений — это один и тот же набор инструментов.

Если этот набор инструментов неисправен, вы не получите никаких сообщений об ошибках.

Скажем проще.

Человек, который фальшивит при пении, обычно фальшивит не из-за проблем с голосовыми связками, а потому, что не слышит, как фальшивит. Его уши и горло используют один и тот же механизм оценки интонации.

Поэтому бесполезно просить его «петь точнее». Он и так считает, что поет точно.

Единственный способ заставить его это услышать — дать ему прослушать запись — информацию, не поступившую от его собственного слуха в данный момент.

Обратите внимание на эту структуру — она будет неоднократно повторяться в дальнейшей части книги.

Поэтому «невежество» в здесь — не просто состояние, а двойной удар. Оно одновременно лишает вас двух вещей: вашего выступления и возможности обнаружить, что вы выступаете плохо.

У этого вывода есть ещё одна сторона, которую часто упускают из виду.

В той же серии экспериментов участники, показавшие лучшие результаты, как правило, недооценивали себя.

Их логика такова: эти задачи несложные, я с ними справляюсь, значит, все должны справляться.

Они оценивают уровень других по своему собственному уровню. По-настоящему способные люди часто ошибочно считают себя обычными.

В результате складывается весьма неприглядная картина: те, кто знает меньше всего, говорят громче всех, а те, кто знает больше всего, колеблются.

2. Только освоив материал, ты понимаешь, насколько плохо у тебя получалось раньше

Кругер и Даннинг провели ещё один интересный эксперимент.

Они отобрали группу людей с самыми низкими результатами, провели с ними короткий тренинг и научили их, как правильно подходить к решению подобных задач.

После обучения реальные результаты этих людей улучшились.

В то же время их самооценка прежней работы снизилась.

Другими словами: только после обучения они впервые увидели, насколько плохо у них получалось раньше.

До того, как они научились, эта слабость была незаметна.

Из этого можно сделать весьма важный вывод.

Первая отдача от обучения — это не повышение способностей, а более точная самооценка. И эта отдача воспринимается как негативная — вам покажется, что вы стали хуже.

Многие, достигнув определенного этапа в изучении чего-либо, внезапно испытывают чувство разочарования, думая, что чем больше учатся, тем хуже у них получается.

Обычно это не откат назад. Это просто «детектор» только начал работать.

3. Честное признание относительно самого этого эффекта

Я хочу здесь сделать небольшую паузу, чтобы сказать об одном моменте, поскольку в дальнейшем в этой книге мы еще столкнемся с подобными ситуациями.

Эффект Дарка — один из наиболее обсуждаемых и подвергаемых сомнению психологических выводов последних лет.

Основные сомнения носят статистический характер: некоторые исследователи указывают, что при использовании такого способа построения графика — «фактическое ранжирование против самооценки» — даже если испытуемые отвечали наугад, на графике все равно появилась бы похожая кривая. Частично этот эффект может быть связан с явлением регрессии, а не с психологическим механизмом.

Эта критика имеет под собой основания, и я не собираюсь её скрывать.

Однако под сомнение ставится степень объяснения, а не само явление.

После многочисленных повторных измерений в различных областях один факт остаётся неизменным: корреляция между самооценкой своих способностей и объективными результатами у людей, как правило, низкая. При этом степень переоценки у людей с низкими результатами обычно выше, чем у людей с высокими.

Именно эта часть будет использоваться в книге.

Что касается широко разошедшейся по Интернету кривой — сначала подъём на «гору невежества», затем падение в «долину отчаяния» и, наконец, медленный подъём, — это не данные Крюгера и Даннинга. Это более поздняя схематическая иллюстрация.

В качестве описательной модели она по-прежнему полезна, поскольку отражает реальный опыт: пик уверенности наступает не тогда, когда вы ничего не знаете, и не тогда, когда вы уже достигли настоящего мастерства.

Она находится посередине.

В тот момент, когда вы только что усвоили достаточно терминов, достаточно концепций и достаточно примеров, чтобы свободно высказываться, но ещё не настолько много, чтобы знать исключения из этих терминов.

Поэтому запомните одну фразу — мы вернёмся к ней в одиннадцатой главе:

Немного знаний — это самое опасное.

Тот, кто ничего не понимает, не осмеливается действовать. Тот, кто действительно разбирается, знает, где проходят границы. А тот, кто находится посередине, смелее всех выносит суждения и излагает свои мысли наиболее логично.

Почему так происходит?

Потому что первое, чему учат в любой области, — это её основная линия. Основная линия понятна, легко запоминается и может быть изложена в виде истории.

А исключения, ограничения, ситуации, когда эта основная линия не применима — всё это усваивается медленно и фрагментарно, и обычно на них натыкаешься только после нескольких практических попыток.

Поэтому на промежуточном этапе у вас уже есть полная система объяснений, которая в большинстве случаев действительно работает.

Вы излагаете её очень убедительно, и окружающие считают, что вы разбираетесь в деле. Эта обратная связь с внешним миром поднимает вашу уверенность на новый уровень.

Опасность заключается не в том, что вы знаете мало. Опасность в том, что вы знаете ровно столько, чтобы убедить себя и ровно столько, чтобы убедить других.

4. Учебный зал и строка поиска

Рассмотрим ситуацию на двух уровнях.

Сначала рассмотрим организационный уровень.

Компания организует для всех сотрудников однодневный тренинг, тема которого может быть связана с коммуникацией, лидерством или аналитическим мышлением. Тренинг проходит отлично: лектор блестяще ведет занятие, приводит примеры и предлагает практические задания.

После занятия раздают анкеты — оценки очень высокие. Сотрудники значительно повышают свою самооценку по «степени усвоения материала».

Через три месяца поведение не изменилось.

Подобная ситуация повторяется во многих организациях, и руководство обычно объясняет это тем, что «сотрудники недостаточно вовлечены» или «нужно провести тренинг ещё раз».

На самом деле проблема в том, что анкета измеряет самооценку, а после однодневного тренинга легче всего изменить именно самооценку.

Она дает вам термины и структуру, позволяющие сформулировать полное предложение. Поведение ещё не изменилось, но изменилась способность описывать своё поведение.

В результате организация получает положительный сигнал, но в реальности ничего не изменилось.