Геометрия обучения. Две системы образования в эпоху ИИ

2.5 Четыре ключевых компетенции эпохи ИИ: способность к суждению, способность к творчеству, способность нести ответственность, способность к счастью

Влияние ИИ на человечество реально: работа заменяется машинами, рабочие места исчезают — это неизбежный факт. Но человечество как вид не уйдет со сцены и не должно этого делать. Мы по-прежнему должны жить полноценной жизнью — и жить лучше.

Поэтому задача человечества в эпоху ИИ заключается не в том, чтобы противостоять ИИ, а в том, чтобы управлять им — использовать его как инструмент, приносящий людям лучшую жизнь. Когда производство материальных благ и физический труд перейдут в руки ИИ, у человечества впервые появится много свободного времени, которое можно будет посвятить духовной жизни. Иными словами: в эпоху ИИ человечество должно не просто выживать, а жить лучше. Это не утешение, а наш манифест перед лицом эпохи ИИ — мы выбираем активное отношение к ней.

Чтобы управлять ИИ и обеспечить лучшее продолжение существования нашего вида, человек должен обладать способностями, которых нет у ИИ. В чём заключается фундаментальное отличие нас, углеродных форм жизни, от кремниевых? Ответ можно свести к четырём ключевым способностям: способности судить, способности творить, способности нести ответственность и способности быть счастливым. Все остальные способности можно передать ИИ, но эти четыре должны быть присущи самому человеку.

Если провести аналогию с автомобилем: способность к суждению — это руль, определяющий, куда ехать; способность к творчеству — это двигатель, определяющий, сможет ли автомобиль проложить новый маршрут; способность нести ответственность — это ходовая часть и тормоза, определяющие, что в случае непредвиденной ситуации кто-то возьмет на себя ответственность и автомобиль не выйдет из-под контроля; способность к счастью — это состояние водителя, определяющее, стоит ли это долгое путешествие и сможет ли он доехать до конца. Без любого из этих элементов автомобиль будет неполноценным: если есть только направление, но нет движущей силы — это мечтатель; если есть только движущая сила, но нет направления — это человек, утративший контроль; если есть направление и движущая сила, но никто не несёт ответственности — это источник опасности; если все три элемента присутствуют, но душа опустошена — далеко не уедешь. Ниже мы рассмотрим каждый из них по отдельности.

2.5.1 Способность к суждению: ИИ даёт ответы, человек принимает решения

Способность к суждению — это способность самостоятельно различать правду и ложь, отбирать лучшее из множества вариантов и принимать окончательное решение среди огромного количества информации и многочисленных решений.

Почему эта способность должна занимать первое место среди четырёх ключевых способностей эпохи ИИ? Потому что ИИ меняет именно соотношение спроса и предложения на «ответы». Раньше ответы были дефицитом, и тот, кто их знал, имел преимущество; сегодня любой ребёнок, задав вопрос большой модели, в течение нескольких секунд получает сотни вариантов ответов. Ответы больше не являются дефицитом, дефицитом является право принимать решение о том, какой из них правильный. Кроме того, ответы, предоставленные ИИ, не могут считаться безусловной истиной. Крупные языковые модели страдают общеизвестным «иллюзией фактов» — они с одинаковой уверенностью излагают как реальные факты, так и вымысел.

В 2023 году практикующий адвокат из Нью-Йорка, США, использовал ChatGPT для помощи в составлении юридических документов; шесть приведённых им прецедентов оказались несуществующими — все они были со всей серьёзностью выдуманы моделью, и в итоге адвокат был наказан судом. Если даже взрослый человек, прошедший полноценную профессиональную подготовку, может попасть в ловушку иллюзий ИИ, то тем более — ребёнок, чьё познание ещё не сформировалось. Помимо иллюзий, результаты работы ИИ естественным образом несут в себе предвзятость, заложенную в обучающих данных, и представляют картину проблемы зачастую односторонне. Человек, не обладающий способностью к независимому суждению, при контакте с ИИ не обретает новых возможностей, а, напротив, постоянно сбивается с пути алгоритмами и ложной информацией — чем больше информации он получает, тем дальше отклоняется от истины; чем мощнее ИИ, тем быстрее происходит это отклонение.

Это не теоретические рассуждения, а реальность, с которой мы сталкиваемся каждый день. Алгоритмы рекомендаций подстраиваются под предпочтения пользователя: если человек посмотрит три видео с конспирологическими теориями, следующие сто рекомендаций будут убеждать его в том, что «ты прав»;Генеративный ИИ отвечает на любой вопрос: ребенок, почувствовав недомогание, сначала спрашивает ИИ; столкнувшись с межличностными конфликтами, сначала спрашивает ИИ; стоя перед жизненным выбором, тоже сначала спрашивает ИИ. Если у него нет собственных критериев суждения, каждое предубеждение, каждая односторонность, каждая иллюзия, выдаваемые ИИ, будут без изменений вписываться в его мировоззрение. Алгоритм не думает за человека, он лишь усиливает человеческое мышление — или усиливает отсутствие мышления.

Способность к суждению — это не интуиция, возникающая из ниоткуда; она развивается на основе трёх компонентов. Во-первых, это всеобъемлющая карта знаний. Предпосылкой суждения является система отсчёта: только зная, как выглядит «правильное» в той или иной области, можно распознать, в чём неверно то, что предлагается в данный момент. У человека, в мозгу которого имеются обширные пробелы в знаниях, в этих пробелах нет никакой способности к суждению — именно поэтому в мозг ребёнка необходимо заложить карту всего человеческого знания. Во-вторых, это многомерная когнитивная структура.

Изолированные фрагменты знаний не могут служить основой для суждения; только когда знания помещаются в рамки, объединяющие различные области по горизонтали и имеющие историческую глубину по вертикали (от истории человеческой цивилизации до истории биологической эволюции и истории эволюции Вселенной), ребенок может понять, в каком контексте находится то или иное утверждение, какие аспекты в нем упущены, в каком масштабе оно верно, а в каком — неверно. В-третьих, привычка к мышлению, направленному на поиск сущности — послойное прослеживание любого вывода вплоть до самой сути вещи; только при анализе как самого вывода, так и позиции субъекта, выдвинувшего этот вывод, а также внешней среды, суждение становится по-настоящему многогранным. Вывод для образования можно сформулировать одной фразой: школа должна перейти от «предоставления стандартных ответов» к «обучению принятию решений» — конечной целью урока больше не будет повторение учащимися правильного ответа, а способность четко объяснить, какой из нескольких, казалось бы, правильных вариантов они выбрали и почему.

2.5.2 Творческие способности: ИИ реорганизует существующее, человек создаёт «от 0 до 1»

Творческие способности — это умение управлять ИИ, заставлять инструменты служить своим идеям и создавать что-то оригинальное «от нуля до единицы».

Здесь следует сначала развеять одно распространённое заблуждение. Многие, говоря о творческих способностях в эпоху ИИ, подсознательно по-прежнему заставляют детей соревноваться с ИИ: в объёме памяти, скорости вычислений, мастерстве решения задач. Это соревнование, в котором человек обречён на поражение, да и с самого начала он стоит не на той дорожке. Сильная сторона ИИ заключается в реорганизации и интеграции уже существующей информации — все умения крупных языковых моделей, по сути, представляют собой высокомерную статистическую реорганизацию уже имеющихся человеческих текстов; все потрясающие возможности ИИ в области рисования, по сути, заключаются в деконструкции и повторном коллажировании уже существующих визуальных произведений человечества.

Он может предложить сто тысяч «комбинаций уже имеющихся элементов», но не обладает присущим только человеку импульсом к оригинальному творчеству «от нуля до единицы» — тем желанием, которое выражается в словах: «Я хочу посмотреть, может ли мир быть другим». Эйнштейн выдвинул теорию относительности не потому, что он владел большим объёмом данных, чем физики его времени, — как раз наоборот: в имеющихся данных не было ответа, и именно он задал в пустоту вопрос, который никто до него не задавал. Первый шаг от 0 до 1 никогда не заключается в «комбинации материалов», а в «постановке вопроса», и импульса к постановке настоящих вопросов у ИИ нет и быть не может. Другими словами: в эпоху ИИ разделение труда между человеком и машиной заключается в том, что машина отвечает за эффективное развитие от 1 до 100, а человек — за тот шаг от 0 до 1.

На чем основано развитие творческого потенциала? Здесь также есть три опоры. Первая — междисциплинарные связи. Подавляющее большинство того, что потомки называют «творчеством», зарождается на стыке различных дисциплин — когда концепции биологии заимствуются в инженерии, а модели физики — в экономике. Открытие Ту Ююю артемизинина стало возможным именно благодаря соединению экспериментальных методов современной медицины с записью из древнего китайского трактата «Эру-хоу-бэй-цзи-фан»: «Взять горсть артемизии и отжать сок», что позволило выйти из тупика, когда экстракция при высоких температурах разрушала лечебные свойства препарата.

У человека, владеющего знаниями только в одной области, не может быть и речи о междисциплинарности; многомерная когнитивная структура — это именно та инфраструктура мышления, которая позволяет ребенку свободно перемещаться по карте знаний, устанавливая связи между вертикальной временной осью и горизонтальной осью областей знаний. Второй — это структурированный подход к решению проблем: разбиение большой проблемы на ключевые элементы, постепенное преодоление каждого из них и последующее воссоздание целостности. Это инженерный метод, позволяющий превратить «импульс к творчеству» в «оригинальный результат».

Третий элемент — самый уязвимый, но при этом самый часто упускаемый из виду: защищенное любопытство. Любопытство — это основной источник творческой энергии, присущий каждому ребенку от рождения; его не «воспитывают», а сохраняют, «не подавляя». У ребенка, которому разрешают спрашивать «почему небо голубое» или «что будет, если исчезнет гравитация», огонек любопытства по-прежнему горит; у ребенка, которого за каждый вопрос, выходящий за рамки учебной программы, заставляют возвращаться к стандартному ответу, этот огонек быстро погаснет. Кроме того, внутреннее ощущение значимости служит топливом для творческого потенциала — творчество — это долгий путь с высоким процентом неудач, и то, что поддерживает человека в глубоком и непрерывном изучении какой-либо проблемы, — это любовь, исходящая из сердца, а не внешнее давление. Урок для образования заключается в следующем: творческий потенциал — это не соревнование с ИИ в вычислительной мощности, а соревнование в умении ставить правильные вопросы; степень, в которой школа защищает любознательность, определяет верхний предел творческого потенциала учащихся.

2.5.3 Способность брать на себя ответственность: ИИ не несет ответственности за последствия, а человек должен быть готов взять на себя всю ответственность

Способность брать на себя ответственность — это умственная способность после принятия решения и выбора смело брать на себя все его последствия.

Способность к суждению и творчеству решает задачи «продумать» и «мыслить нестандартно», но любое суждение и любое творчество, как только они воплощаются в действие, влекут за собой последствия. Кто несет ответственность за эти последствия? Это острый и очевидный этический факт эпохи ИИ: ИИ — всего лишь инструмент, который не несет ответственности за какие-либо решения. Если автомобиль с автопилотом попадает в аварию, система за рулем не пойдет в тюрьму; если ИИ дает медицинскую рекомендацию, приведшую к ошибочному диагнозу, у модели не отзовут лицензию;решения в области инвестиций, найма персонала, поступления в учебные заведения или медицины, принятые с помощью ИИ, независимо от того, насколько серьезны их последствия, в конечном итоге должны полностью принимать на себя сами пользователи. Так гласит закон, так гласит мораль, и так устроена сама жизнь. Чем глубже ИИ вовлечен в процесс принятия решений, тем тяжелее становится «право последней инстанции» пользователя — ведь в каждый момент, когда нажимается кнопка «Принять», ответственность полностью переходит от машины к человеку. Эпоха ИИ — это не эпоха облегчения ответственности, а, напротив, эпоха, когда ответственность каждого человека становится тяжелее.

Лучший способ понять это — представить себе двух человек, использующих один и тот же инструмент ИИ. Врач с помощью ИИ просматривает снимки для постановки диагноза, принимает рекомендацию, и благодаря этому пациент спасается — в списке заслуг фигурирует имя врача; если же рекомендация оказалась ошибочной и привела к неверному диагнозу, в документе об ответственности подпись ставит все тот же врач. В обоих случаях ИИ является лишь инструментом и не несет никакой ответственности. Это не несправедливость системы, а сущностная особенность инструмента: молоток не несет ответственности за травму руки, микроскоп — за ошибочную оценку препарата, а ИИ — за любое решение, принятое на основе его вывода. В эпоху ИИ границы разделения обязанностей впервые стали настолько четкими: машина может приблизиться к принятию решения настолько, насколько это возможно, но пересечь черту принятия решения и нажать кнопку подтверждения всегда будет человек.

Необходимо подчеркнуть: ответственность — это не пустая моральная проповедь и не лозунг, висящий на стене, а набор умственных способностей, которые можно развивать в течение длительного времени. Ее развитие имеет четкую пошаговую схему: от ответственности за себя, за семью, за коллектив, постепенно расширяясь до ответственности за общество и за человечество, вплоть до самого высокого требования — в любой цепочке принятия решений с участием ИИ человек должен быть тем звеном, которое ставит окончательную подпись, несет окончательную ответственность и перед которым в конечном итоге можно спросить «почему».

Развитие способности к ответственности требует ещё двух взаимосвязанных компонентов: во-первых, чёткого ценностного суждения — предпосылкой ответственности является чёткое понимание того, что следует делать, а что нет; без этой ценностной основы ответственность может быть слепой; во-вторых, способности анализировать цепочку последствий — только тот, кто способен проследить последствия по цепочке причин и следствий, может говорить о «смелости взять на себя ответственность», а смелость, не учитывающая последствий, — это всего лишь опрометчивость. Как развивать этот набор способностей?

Существует только один ключевой механизм: помочь ребенку в реальных ситуациях сформировать осознание того, что «за каждое мое решение я сам несу ответственность за последствия» — предоставить ребенку реальное право выбора, позволить ему испытать естественные результаты своего выбора, а затем вместе с ним проанализировать связь между выбором и последствиями — цепочку причинно-следственных связей. Ребенок, лишенный права выбора, лишается тем самым всех возможностей для развития способности брать на себя ответственность. Вывод для образования таков: школа должна осмелиться вернуть детям право на реальный выбор, влекущий за собой последствия — от управления собственным учебным планом до ответственности за успех или провал классного проекта. «Мышцы ответственности» могут развиваться только под реальной нагрузкой.

2.5.4 Способность к счастью: после достижения материального благополучия душевное равновесие становится насущной потребностью

Способность к счастью — это способность управлять собственными эмоциями, обретать душевное равновесие и постоянно ощущать смысл и счастье в эпоху материального изобилия и увеличения свободного времени.

В эпоху борьбы за выживание способность к счастью была роскошью — когда не хватает даже на еду, говорить о душевном спокойствии — это роскошь. Но в эпоху ИИ она впервые становится насущной потребностью. Логика здесь очень проста: после того как ИИ возьмет на себя подавляющую часть физического труда и повторяющихся умственных задач, базовые жизненные потребности человека будут удовлетворены как никогда ранее, и у каждого появится огромное количество свободного времени. Когда выживание перестанет быть проблемой, вопрос «зачем жить» станет актуальным с беспрецедентной остротой. Фактически, индустриальная эпоха уже заранее продемонстрировала эту картину — «синдром пустоты», «лежачий образ жизни», ощущение бессмысленности: все эти понятия стали популярными среди людей, живущих в условиях относительного материального изобилия, но испытывающих дефицит смысла. Эпоха ИИ лишь усугубит этот разрыв в десять, а то и в сто раз. Без умения управлять эмоциями и стабилизировать внутреннее счастье огромное количество людей погрузится в пустоту, постоянную тревогу и даже длительную депрессию — это не преувеличение, а тенденция, подтверждённая кривой уровня депрессии среди молодёжи в развитых странах.

На чём основана способность к счастью? Полный ответ будет изложен в главе 3, а здесь мы остановимся на трёх ключевых моментах. Во-первых, счастье имеет три переменные, которые можно формировать с помощью образования: чувство безопасности в детстве составляет основу счастья; способность интерпретировать мир определяет, будет ли одно и то же событие воспринято как надежда или как отчаяние; текущая среда и отношения влияют на душевное состояние — на все три фактора можно воздействовать с помощью образования, поэтому счастью можно научить. Во-вторых, счастье требует набора саморегулирующихся внутренних механизмов: как уже отмечалось в разделе 2.3, у страданий современного человека есть только три первопричины — травмы, стресс и навязчивые мысли.

Способность к счастью не заключается в том, чтобы избавить жизнь от травм, стресса и навязчивых мыслей — это невозможно — а в том, чтобы оснастить внутренний мир механизмами, способными их переваривать: видеть истоки эмоций, не поддаваться их влиянию и сохранять ориентацию даже в самые мрачные моменты. В-третьих, источники способности к счастью можно постепенно переносить на более высокие уровни: когда источник счастья человека переходит от материального удовлетворения к творчеству и смыслу, его душевное равновесие перестает легко нарушаться внешними колебаниями. Более того, способность к счастью поддается оценке и отслеживанию — впервые она может стать одним из показателей эффективности работы школы.

Китайцы говорят о «нахождении своего места в жизни». Оглядываясь на историю, мы видим, как Конфуций, путешествуя по государствам и оказавшись в затруднительном положении в Чэнь и Цай, не переставал играть на струнных инструментах и петь; как Су Дунпо, трижды поднимавшийся и трижды падавший в карьере, трижды подвергавшийся ссылке — в Хуанчжоу, Хуэйчжоу и Даньчжоу, — написал: «В дожде и тумане, в дожде и тумане — так проживу всю жизнь». Несмотря на все жизненные невзгоды, они оставались проницательными — суть в том, что они одновременно обладали глубоким познанием и стабильным ядром счастья: целостная система познания помогает человеку обрести опору, а стабильная способность к счастью — по-настоящему укрепить его душу. В эпоху ИИ первое гарантирует, что ребенка не заменит машина, а второе — что его не опустошит время. Урок для образования заключается в следующем: способность к счастью — это не второстепенный предмет и не просто украшение, а обязательный курс в эпоху ИИ; то, осмелится ли школа включить счастье учеников в свои образовательные цели, является лакмусовой бумажкой, проверяющей, действительно ли она понимает дух нашего времени.