Думайте лучше искусственного интеллекта. Управляйте мышлением, а не знаниями
- -
- 100%
- +
Научная фантастика уже давно рассказала нам
Тед Чанг в своем рассказе «Выдох» (Exhalation, 2008) описал анатома. Он жил в механическом мире, движимом атмосферным давлением, где все обитатели функционировали за счет аргона в лёгких. Однажды он заметил, что часы замедлились — не одни часы, а все. Никто больше не обратил на это внимания. Он начал подозревать: не часы замедлились, а мы ускорились — или, точнее, изменился наш мозг.
Чтобы проверить эту гипотезу, он сделал то, чего в его мире еще никто не делал: вскрыл себе череп и, используя зеркало, наблюдал за тем, как он думает, одновременно размышляя.
Оно увидело, как золотые лепестки перелистываются в потоке газа — это и был физический процесс мышления. Оно осознало, что аргон, питающий мысли, иссякает, и вся цивилизация обречена на тепловую смерть. Но оно не впало в панику. Оно использовало оставшееся время, чтобы записать всё наблюдаемое в виде записки, оставленной для тех, кто в будущем, возможно, откроет для себя существование этого мира.
Этот роман не о конце света. В нём речь идёт о том, что, когда ты способен наблюдать за собственным мыслительным процессом, ты обретаешь фундаментальную свободу — даже перед лицом предопределённого финала ты по-прежнему обладаешь способностью понимать и выбирать.
«Думать и одновременно наблюдать за тем, как ты думаешь» — именно так определяется метапознание.
Писатели-фантасты снова и снова обращаются к этой теме, поскольку это самый сущностный вопрос, возникающий у человека при столкновении с интеллектом, превосходящим его собственный.
В романе Дэниела Кейса «Цветы для Элджернона» (Flowers for Algernon, 1966) умственно отсталый Чарли благодаря операции обретает сверхчеловеческий интеллект. Самым мучительным открытием для него после обретения ума становится не сложность мира, а то, что он наконец-то может увидеть то, чего раньше не замечал — в том числе насмешки окружающих, ограниченность собственного познания и то, что все это в конечном итоге будет утрачено. Когда его интеллект достиг пика перед началом упадка, он написал: «Одно из самых важных вещей, которые я теперь понимаю, — это то, что я всё это время не знал, чего я не знаю». Это не история об интеллекте. Это история об осознании границ познания — теме третьей главы этой книги.
В романе Лю Цисиня «Три тела» (2008) основная логика проекта «Стеноходцы» заключается в следующем: жители планеты «Три тела» могут считывать всю информацию о человечестве, но не могут проникнуть в сам процесс человеческого мышления. Оружием «Стеноходцев» являются не больше знаний или более мощные вычислительные ресурсы, а стратегическое использование собственного мышления — о чем думать, о чем не думать, когда и в каком уголке какого уровня мышления скрывать истинные намерения. Ло Цзи в конечном итоге одержал победу не потому, что «знал» больше, чем жители «Трех тел», а потому, что лучше всех понимал, как он сам мыслит в этой игре. Проект «Стеноходцы» — это экстремальный эксперимент в области метапознания.
В рассказе Азимова «Последний вопрос» (The Last Question, 1956) на протяжении нескольких триллионов лет люди постоянно задают всё более мощным суперкомпьютерам один и тот же вопрос: «Можно ли обратить вспять энтропию?» Каждое поколение машин отвечает: «Недостаточно данных, не могу ответить». Только после наступления тепловой смерти Вселенной машина наконец нашла ответ — но людей, которые могли бы его услышать, уже не осталось. Настоящая тема этого рассказа — не термодинамика. В нём задаётся вопрос: когда машины смогут ответить на всё, кто будет решать, какие вопросы стоит задавать?
О чём эта книга
Общая нить, проходящая через все эти рассказы: самое глубокое преимущество человечества никогда не заключалось в том, чтобы «знать больше», а в осознании и контроле над собственным познанием.
Тед Чанг в «Анатомии» ученый, вскрывающий себе череп, чтобы посмотреть на себя изнутри. Чарли, достигший пика интеллектуального развития, осознал, чего он раньше не знал. Ложи, превративший само мышление в оружие. Люди Азимова, которые перед лицом машин так и не задали тот единственный, по-настоящему важный вопрос.
ИИ становится суперкомпьютером нашей эпохи. С каждым годом он берет на себя все больше задач, связанных с «мышлением»: анализ, поиск, генерация, прогнозирование, оптимизация. Большинство людей реагируют на это тем, что «учатся пользоваться ИИ» — используют более эффективные подсказки и оптимизируют рабочие процессы. Это, конечно, важно. Но при этом упускается из виду более фундаментальный вопрос:
какие способности «мыслить» вам по-прежнему нужны, когда ИИ думает быстрее вас и знает больше вас?
Ответ — метапознание, то есть размышление о самом процессе мышления. Речь идет не о том, о чём думать, а о том, чтобы наблюдать за тем, как вы думаете, решать, о чём вам следует думать, и нажимать на кнопку «пауза», когда нужно усомниться.
Эта книга не учит вас, как использовать ИИ. Эта книга учит вас, как сохранять ясность ума в эпоху ИИ.
Что вы извлечёте из книги
Аспекты
Конкретные выводы
Навыки
Осознание границ познания (понимание того, чего вы не знаете), постановка точных вопросов, регулирование внимания, отбор аналогий из разных областей, оценка ценности
Результаты
Список упражнений по метапознанию ( ), шаблон аудита внимания, структура семинара по междисциплинарным связям, эскиз личной метапознавательной операционной системы
Психологический настрой
Перестать стремиться знать больше, чем ИИ, а стремиться задавать вопросы лучше, чем ИИ; уметь использовать неизвестное; активно регулировать когнитивную нагрузку, не позволяя информации вести себя за собой
Обзор глав
Обзор глав
Глава
Название (китайский)
Название (англ.)
Основные вопросы
01
Инверсия
The Inversion
Когда ИИ знает больше вас, что останется?
02
Познание и метапознание
Cognition and Metacognition
Почему «думать» и «наблюдать за тем, как ты думаешь» — это две разные вещи?
03
Осознание того, чего ты не знаешь
Осознание своих пробелов в знаниях
Самая недостающая способность ИИ: осознание границ познания
04
Искусство задавать вопросы
Искусство задавать вопросы
Почему вопросы важнее ответов
05
Внимание — это валюта
Внимание как валюта
Метакогнитивная регуляция в эпоху когнитивной перегрузки
06
Научиться учиться
Learning to Learn
Стратегии саморегулируемого обучения в эпоху ИИ
07
Разрыв в способности к суждению
The Judgment Gap
Решения, основанные на ценностях, которые ИИ не может принимать
08
Междоменная связь
Междоменная синтеза
Кто определяет, какая связь действительно ценна?
09
Создание вашей метакогнитивной операционной системы
Ваша метакогнитивная ОС
Рамки от концепции до повседневной практики
10
Будущее человеческого познания
Будущее человеческого познания
Куда ведёт нас метапознание
Как читать
Рекомендуемый маршрут
Маршрут A (практический подход): 01 → 04 → 05 → 09. Перейдите сразу к главам «Переворот», «Вопросы», «Внимание» и «Операционная система» — эти четыре главы позволят создать применимую на практике метакогнитивную модель.
Маршрут B (приоритет понимания): 01 → 02 → 03 → 07 → 10. Сначала разберитесь в «Что осталось», «Двухуровневая структура», «Границы неизвестного», «Способность к суждению» и «Направления развития», а уже потом решите, стоит ли углубляться в методы.
Маршрут C (полное прочтение): по порядку глав 01–10. Подходит читателям, желающим систематически построить систему метапознания и имеющим время для выполнения упражнений.
Можно пропустить
Если вас не интересует концептуальная основа когнитивной науки, раздел 02 можно прочитать бегло — однако рекомендуется ознакомиться хотя бы с двухслойной моделью из подраздела 2.2, поскольку в последующих разделах к ней будут неоднократно обращаться.
Если вас не интересует вопрос «почему ИИ не может сделать то-то и то-то», можете пробежаться глазами по первой половине раздела 07.
Если у вас уже сформировались навыки управления вниманием, раздел 05 можно прочитать бегло.
Раздел 10 носит прогнозный характер; если вас интересуют только методы, его можно пропустить.
Метод трёхкратного чтения
Первое чтение: быстро просмотрите заголовки и подзаголовки, чтобы составить общее представление о книге (около 30 минут).
Второе чтение: внимательно прочитайте разделы, связанные с вашими проблемами, делайте пометки и записывайте вопросы.
Третье прочтение: с учетом структуры из раздела 09 объедините отмеченный материал в личный метакогнитивный список.
Условия использования книги
Условия
Пояснения
Диаграммы
Использование векторных диаграмм SVG (созданных в draw.io) для отображения структур, процессов и взаимосвязей; к каждой главе прилагаются диаграммы на китайском и английском языках, расположенные в каталоге images/.
Язык
В китайском издании преобладает упрощённый китайский; при первом упоминании собственных названий приводится их английский вариант.
Форматирование
Ключевые понятия при первом упоминании выделяются жирным шрифтом; инструкции представлены в виде нумерованных списков; примеры и цитаты оформлены в виде блочных цитат.
Двуязычность
Названия глав приводятся на китайском и английском языках; при первом упоминании ключевых терминов дается их английский вариант.
«Анатом» Теда Чжана в конце концов превратился в письмо к неизвестному читателю. Эта книга — тоже письмо, адресованное вам, стоящему на пороге эры искусственного интеллекта. Если вам интересно, к чему в конечном итоге приведет развитие человеческого познания, перейдите к десятой главе. Если же вы больше хотите узнать, что делать прямо сейчас, начните с первой главы.
Глава 1: Инверсия
The Inversion
Основной вопрос: что останется, когда ИИ будет знать больше, чем вы? / When AI knows more than you, what remains?
1.1 Вступительная история: шесть несуществующих судебных прецедентов
В июне 2023 года судья Федерального суда Южного округа Нью-Йорка П. Кевин Кастел в одном из публичных постановлений написал редкую фразу: «Наш суд никогда не сталкивался с такой беспрецедентной ситуацией — адвокат с тридцатилетним стажем представил суду шесть совершенно несуществующих судебных прецедентов».
Суть дела несложна. Адвокат Стивен Шварц представлял интересы клиента в иске против авиакомпании «Авианка» (Avianca) по делу Mata v. Avianca Inc. Для подготовки юридического заключения он использовал ChatGPT для поиска судебных прецедентов. ИИ предоставил ему шесть ссылок — с названиями дел, судами, в которых они рассматривались, датами вынесения решений и кратким изложением сути решений — со всеми необходимыми деталями. Шварц не проверил в Westlaw или какой-либо другой юридической базе данных, действительно ли эти прецеденты существуют. Он сразу же включил их в официальные документы, поданные в федеральный суд.
Адвокат противоположной стороны, не найдя этих дел в базах данных, подал возражение судье. Судья потребовал от Шварца предоставить тексты этих судебных прецедентов. Шварц обратился к ChatGPT с вопросом: «Ты уверен, что эти прецеденты подлинные?» ИИ ответил: «Да, они подлинные». Он также представил этот ответ суду.
Все шесть судебных прецедентов были выдуманы ИИ. Названия дел были вымышленными, суды — вымышленными, даты — вымышленными. Ни один из них не фигурировал в базе данных федеральной судебной практики. Шварц и его коллега Питер ЛоДука были публично наказаны судьей, оштрафованы на 5000 долларов и обязаны направить письма с извинениями каждому судье, «упомянутому» в вымышленных прецедентах.
Суть этого дела не в том, что ИИ допустил ошибку. Галлюцинации крупных языковых моделей — генерация контента, выглядящего правдоподобно, но являющегося полностью вымышленным — уже давно являются известной проблемой в технологическом сообществе. Настоящий повод для размышлений — человеческий фактор: адвокат с тридцатилетним стажем, получив результат работы ИИ, ни разу не подумал: «Мне нужно это проверить».
Дело не в том, что он не разбирался в праве. Ему не хватало более фундаментальной способности: осознания собственного познавательного процесса. Он не задал себе вопроса: «Насколько моё понимание этих судебных прецедентов основано на моём профессиональном суждении, а насколько — на слепом доверии к машине?» Он не сумел найти ту точку между доверием и скептицизмом, где следовало остановиться. Он принял уверенность ИИ за свою собственную.
Дело Шварца — не единичный случай, а сигнал, который свидетельствует о том, что в отношениях между человеком и машиной в сфере знаний происходят структурные изменения. На протяжении сотен лет наша профессиональная идентичность основывалась на одном неявном допущении: человек знает больше, чем машина. Врач разбирается в диагностике лучше, чем поисковая система, адвокат — в защите лучше, чем база данных, а аналитик — в тенденциях лучше, чем электронная таблица. Но когда ИИ способен за считанные секунды сгенерировать, казалось бы, полное юридическое заключение, четко структурированный отраслевой отчет или логически связный фрагмент кода, это допущение перестает быть надежным.
Асимметрия знаний меняется на противоположную. Раньше было так: «Я знаю то, чего ты не знаешь», а теперь стало: «Машина, возможно, знает больше, чем я — но я не уверен, верно ли то, что она знает». В этой новой ситуации «знать больше» больше не является ключевым преимуществом человека. Настоящей редкостью является способность, которую ИИ до сих пор с трудом может воспроизвести: осознавать, что ты знаешь, а чего не знаешь, понимать, когда следует доверять, а когда — сомневаться. Эта способность называется метапознанием (metacognition). Речь идет не о грандиозном вопросе «заменит ли ИИ человека», а о личном поиске ответа на вопрос: «В эпоху, когда ИИ способен производить больше, чем ты, какую незаменимую ценность ты все еще можешь предложить?».
Реальный отклик: дело Шварца — не единственный знаковый случай «переворота в соотношении знаний человека и машины». В том же году работа «Théâtre D’opéra Spatial», созданная Джейсоном Алленом с помощью инструмента искусственного интеллекта Midjourney, получила первую премию в номинации «Цифровое искусство» на художественной выставке в Колорадо — при этом члены жюри не знали, что произведение было сгенерировано ИИ. Это событие вызвало глобальную дискуссию о границах творчества: когда машина способна создавать произведения, превосходящие работы большинства человеческих участников, что означает статус «творца»? От судов до галерей, от судебных прецедентов до картин — переворачивание асимметрии знаний — это не теоретическое предсказание, а реальность, которая одновременно происходит во всех сферах.
1.2 Основная теза: переворачивание асимметрии знаний
Отношения между человеком и машиной долгое время строились на одном неявном допущении: человек знает больше, чем машина. Машина выполняет, человек принимает решения; машина вычисляет, человек судит; машина хранит, человек творит. Это допущение лежало в основе промышленной и информационной революций, а также сформировало наше представление об «экспертах». Врач разбирается в диагностике лучше, чем база данных, адвокат — в защите лучше, чем поисковая система, а аналитик — в тенденциях лучше, чем Excel.
В последние десять лет это предположение постепенно опровергается.
Шахматы, го, написание текстов, программирование, рыночный анализ, юридический поиск — в одной области за другой машины начинают понимать больше, чем люди. Под «пониманием» здесь подразумевается не только объем хранимой информации, но и синтез, логическое мышление, генерация. Один подключенный к сети ИИ способен за несколько секунд обобщить литературу, накопленную человечеством за несколько столетий; опытный эксперт, даже посвятив этому всю свою жизнь, сможет внимательно изучить лишь небольшую её часть. Когда ИИ сможет свободно составлять отраслевые отчёты, генерировать код и отвечать на специализированные вопросы, тот барьер, на котором держались работники умственного труда — «я знаю то, чего ты не знаешь», — начнёт рушиться слой за слоем.
Бринйольфссон и МакАфи в книге «Вторая эра машин» (, 2014) отмечают: ускорение технического прогресса переписывает соотношение способностей человека и машины. Это не постепенная корректировка, а структурная инверсия (structural inversion). Когнитивные высоты, когда-то принадлежавшие исключительно человеку, шаг за шагом захватываются машинами. В книге приводится образное сравнение: мы «соревнуемся с машинами», но правила игры изменились. Соревнование больше не заключается в том, кто знает больше, а в том, кто знает, что он знает, а чего не знает.
Таким образом, на поверхность выходит ключевой вопрос: когда асимметрия знаний переворачивается, в чём же заключается ценность человека?
Дело не в том, чтобы «знать больше» — в любой специализированной области вам будет трудно превзойти ИИ. Дело не в том, чтобы «делать быстрее» — по скорости и масштабам ИИ подавляет человека. Ответ кроется в способности, которую ИИ до сих пор не может воспроизвести: метапознании (metacognition), то есть осознании, контроле и регулировании собственных когнитивных процессов.
Метапознание интересует не то, что вы знаете, а то, как вы думаете. Знаете ли вы, что вы знаете, а чего не знаете? Знаете ли вы, когда следует доверять собственному суждению, а когда — подвергать его сомнению? Именно эта способность является слабым местом ИИ. В этой главе будут рассмотрены три вопроса: почему произошло это переворачивание, почему метапознание является когнитивной операционной системой человека в эпоху ИИ (обновляемой инфраструктурой, а не статической линией обороны), и как вам начать осознавать и применять его.
1.3 Доказательства и мыслительные эксперименты
1.3.1 Краткая история переворота асимметрии знаний
Перелом произошёл не за одну ночь. Если оглянуться на соперничество человека и машины в вопросе «кто знает больше», можно увидеть чёткую эволюционную кривую. За каждым важным этапом стоит очередное отступление человечества от границ того, «чего машина не может сделать».
1997 год, шахматы. «Депл Блу» победил Каспарова. Позже Каспаров сказал, что почувствовал нечто вроде «инопланетного интеллекта». Но тогда все сходились во мнении: правила шахмат фиксированы, пространство поиска ограничено, а машина просто применяет метод перебора. Пространство состояний в игре в го гораздо больше, чем в шахматах, а для писательского и творческого труда нужны интуиция и эмоции. Человечеству пока не о чем беспокоиться.
2016 год, го. AlphaGo победила Ли Се-ши. Ещё более поразительными оказались некоторые её ходы: профессиональные игроки сначала сочли их неудачными, но после анализа партии обнаружили в них глубокую стратегию. Машина не только умела рассчитывать, но и демонстрировала способность делать выбор, похожий на «интуицию». Общественное мнение начало колебаться. Однако такие области, как писательское творчество и принятие бизнес-решений, связанные с открытым контекстом, по-прежнему считались прерогативой человека. Граница «машина понимает правила, человек понимает мир» по-прежнему существует.
2020–2023 годы: письмо и программирование. Появление GPT-3 и последующих моделей. Повсеместное распространение помощников по программированию, инструментов для создания резюме и переводчиков. Программисты начали использовать Copilot для автодополнения больших фрагментов кода, а авторы — генерировать черновики с помощью ИИ, а затем дорабатывать их. Впервые работники умственного труда массово убедились, что «то, что написано ИИ, ничем не хуже того, что написал бы я». Граница снова сдвинулась: даже в такой открытой области, как естественный язык, машины могут создавать конкурентоспособный контент.
С 2023 года по настоящее время: анализ и отчетность. ИИ способен быстро интегрировать данные по заданной теме и генерировать структурированные отчеты. Аналитики, исследователи и консультанты обнаруживают: на уровне создания контента ИИ уже не уступает, а порой даже превосходит человека. Разница зачастую проявляется лишь в тонком понимании потребностей, оценке границ и метакогнитивной калибровке качества. Предположение о том, что «человек знает больше, чем машина», уже не подтверждается во всё большем числе вертикальных областей. Переворот из исключения превратился в норму.
Рис. 1-1: Переворот в асимметрии знаний
Этот рисунок обобщает логику такого переворота: в до-ИИ-эпоху преимущество было за человеческими знаниями, в эпоху ИИ — за знаниями машин, а метакогнитивный поворот означает, что преимущество человека смещается с «что он знает» на «как он осмысливает то, что знает».
Этапы
Относительное преимущество человека
Относительное преимущество машин
Доэра ИИ
Хранение знаний, профессиональные суждения, творчество
Скорость вычислений, объем памяти
Эпоха ИИ (настоящее время)
Метапознание, способность к принятию решений, ответственность
Интеграция знаний, скорость генерации, сопоставление шаблонов
После метакогнитивного перелома
Как думать, как принимать решения, как корректировать
То же самое, причем в постоянно расширяющемся масштабе
1.3.2 Мысленный эксперимент: если завтра ИИ усвоит все ваши профессиональные знания
Предположим, что со завтрашнего дня весь профессиональный багаж в вашей области — концепции, формулы, кейсы, передовой опыт — будет полностью усвоен ИИ. Он сможет, как и вы, отвечать на вопросы клиентов, составлять отраслевые отчеты, давать профессиональные рекомендации. У вас больше не будет никакого преимущества в плане «запаса знаний». Клиенты смогут обращаться напрямую к ИИ, и ответы будут не хуже ваших; начальник сможет поручить ИИ составлять отчеты, и, возможно, он будет делать это быстрее и лучше вас.
Какую ценность вы сможете предложить?
Большинство людей застрянут именно на этом. Наша профессиональная идентичность долгое время строилась на принципе «я знаю, а другие — нет». Врачи полагаются на диагностику, юристы — на знание законов, аналитики — на отраслевые знания. Как только эта основа исчезает, чувство идентичности рушится — когда «я знаю» больше не действует, возникает вопрос «кто я?».
Но если задуматься глубже, можно обнаружить некоторые ниши, которые ИИ заменить не сможет:
Вы знаете, чего вы не знаете. Вы умеете определять границы проблемы, понимаете, что выходит за рамки ваших текущих знаний и требует обращения за помощью или дополнительного исследования. ИИ склонен к излишней самоуверенности и с трудом признает: «В этом я не уверен». Он может сгенерировать ответ, который выглядит полным, даже если он основан на ошибочных предпосылках или устаревших данных. А вы можете сказать: «В этом я не уверен, нужно проверить».
Вы знаете, когда стоит доверять ИИ, а когда — подвергать его сомнению. Есть ли в логической цепочке этого отчета разрывы? Надежны ли источники данных? Не зашли ли выводы слишком далеко? Текст, сгенерированный ИИ, часто звучит плавно и связно, но плавность не означает правильность. Люди, способные самостоятельно «нажать на тормоза» и поставить под сомнение качество результатов, в эпоху ИИ, напротив, становятся еще более редкими.
Вы знаете приоритеты задач. Среди бесчисленного множества дел, которые можно выполнить, какие действительно стоят того, чтобы ими заняться? А какие только кажутся срочными? ИИ может выполнять задачи, но ему трудно самостоятельно судить о том, «что стоит рассматривать как проблему». Клиент выдвигает десять требований, и вам нужно определить, какие три из них имеют стратегическое значение, а какие семь можно отложить. Такое суждение основано на понимании контекста бизнеса, а не просто на поиске информации.