Архитекторы познания. Как меняется мышление в эпоху искусственного интеллекта

«Эстетическая способность» — термин, который мы обычно ограничиваем сферами искусства, литературы и музыки, — в эпоху AGI приобретёт гораздо более широкий смысл. Она больше не будет означать лишь способность воспринимать «красоту», а станет способностью ценить «превосходство», способностью среди бесчисленных песчинок остроумно распознать тот единственный блестящий кусочек золота. В безбрежном море контента, генерируемого ИИ, эта способность станет ценнее самого золота.

Как мы уже отмечали ранее, AGI порождает «процветание посредственности». Это непревзойденный «средний» игрок, способный с лёгкостью генерировать бесчисленное количество «удовлетворительных» работ, набирающих 70 или даже 80 баллов. Эти работы — будь то статьи, код, чертежи или бизнес-планы — следуют установленным парадигмам, не содержат логических ошибок и безупречны с формальной точки зрения. Однако им как раз не хватает того «гениального штриха», способного поразить сердце и вызвать восторг, — той невыразимой «интуиции» и «вкуса», которые необходимы для скачка с 95 до 99 баллов.

Суть этого «вкуса» заключается в ощущении «идеального баланса». Это искусство понимать, когда следует «остановиться на этом», а где нужно «добавить последний штрих». Оно проявляется в чувстве ритма текста, балансе визуальной композиции, элегантности архитектуры кода, лаконичности бизнес-модели и даже в интуитивном понимании наиболее точного подхода к решению сложной проблемы. Эту способность невозможно количественно измерить или подчинить правилам, и именно поэтому современным моделям искусственного интеллекта крайне сложно её освоить и воспроизвести. Ведь она проистекает не из статистики огромных массивов данных, а из уникального «осадка» долголетнего жизненного опыта отдельного человека.

В своей прошлой профессиональной карьере мне посчастливилось работать с одним из ведущих международных инвестиционных банкиров. Он руководил сделкой по международному поглощению китайской компании, производящей потребительские товары, которая произвела на меня неизгладимое впечатление. На начальном этапе проекта наша команда, используя самые передовые на тот момент модели данных, построила для этой компании чрезвычайно сложную систему оценки; отчет насчитывал более 300 страниц и был наполнен всевозможными подробными анализами и прогнозами. Можно сказать, что это был «правильный» ответ, близкий к 80 баллам, который в будущем машина сможет сделать лучше. Однако в отчете, который этот банкир в конечном итоге представил совету директоров, он практически отказался от 90 % наших сложных моделей, оставив лишь одну страницу презентации. На этой странице PowerPoint не было ни одной финансовой цифры, только одна иллюстрация: слева — упаковка продукции этой китайской компании, пронизанная восточным колоритом; справа — предмет из династии Сун из коллекции Лувра во Франции. Под этими двумя изображениями была всего одна фраза: «Мы приобретаем не компанию, а возрождающуюся, неповторимую восточную эстетику жизни».

В тот миг во всей конференц-зале воцарилась тишина. Своей «эстетической силой», превосходящей любой финансовый язык, он мгновенно уловил самую суть и самую привлекательную ценность этого слияния. Из огромного количества «правильной» информации, предоставленной нашей командой, он с невероятной точностью «отсеял» самую блестящую «золотую крупицу» и представил её чрезвычайно впечатляющим образом. Эта способность упрощать сложное и проникать прямо в сердце — и есть та непреодолимая пропасть, которая разделяет первоклассного архитектора познания и обычного аналитика. В тот момент ни одна модель данных не могла дать такого ценностного суждения. Это и есть «божественный» момент человеческой эстетической силы.

Так откуда же берет начало эта ценная «эстетическая способность»? Это не врожденный дар, а «мышечная память», которую можно целенаправленно развивать в процессе обучения.

Во-первых, она проистекает из огромного количества высококачественного «входного материала». Вы должны сознательно погружать свои чувства и мозг в лучшие произведения человеческой цивилизации на длительный срок. Вам нужно читать первоклассную литературу, смотреть первоклассные картины, слушать первоклассную музыку, изучать первоклассные бизнес-кейсы и осваивать первоклассные научные идеи. Только увидев настоящие высокие горы, вы сможете сохранить трезвый суждение, сталкиваясь с бесчисленными холмами. Как сказал критик династии Сун Янь Юй в «Цанлан Шихуа»: «Для изучающих поэзию главное — познание; вступление в эту науку должно быть правильным, а стремление — высоким». [Это означает, что для изучения поэзии основополагающим является кругозор. Путь к началу обучения должен быть правильным, а поставленные цели — высокими и дальновидными.] Ваш «эстетический вкус» определяется именно «потолком» вашего кругозора.

Во-вторых, она проистекает из постоянного «выпуска» и «обратной связи». Вы не можете оставаться лишь пассивным ценителем — вы должны лично выйти на поле, творить, выражать себя, совершать ошибки и оттачивать мастерство. Вы должны попробовать написать стихотворение, нарисовать картину, создать продукт, реализовать проект. А затем, после каждой практики, анализируйте, сравнивайте и ищите советов у мастеров. Именно этот циклический процесс перехода от «высоких ожиданий при низких результатах» к «высоким ожиданиям при высоких результатах» является единственным путем к усвоению «эстетического чутья». Ваш вкус постепенно «оттачивается» в ходе бесчисленных «неуклюжих» попыток.

В эпоху AGI, когда машины берут на себя большую часть «исполнительной» работы, каждый из нас, занимающийся интеллектуальным трудом, должен переориентироваться на роль «куратора» и «дегустатора». Наша основная задача больше не заключается в «производстве» большего количества контента, а в том, чтобы, используя нашу уникальную «эстетическую способность», обнаруживать, отбирать, комбинировать и интерпретировать те «сигналы», которые действительно имеют ценность, и извлекать их из посредственного шума, генерируемого ИИ.

2. Этический контроль: обеспечение минимального уровня, при котором технологии служат благу

Если говорить о том, что распознавание посредственности — это применение эстетического чутья на уровне «эффективности» и «качества», то его вторая и более важная роль заключается в том, чтобы выступать в качестве незаменимого «стража» на уровне «ценностей» и «этики». Она требует от нас, чтобы, сталкиваясь с AGI — этой «волшебной лампой» безграничной мощи, — мы сохраняли высокую бдительность и осторожно формулировали каждое своё «желание». Ведь технология сама по себе «ценностно нейтральна», но её применение неизбежно приводит к определённым этическим последствиям. А определение того, являются ли эти последствия «добром» или «злом», «красотой» или «уродством», полностью выходит за пределы возможностей алгоритма; окончательное решение должно приниматься нашим человеческим «эстетическим чутьем» — которое в данном контексте следует скорее называть «моральной интуицией» или «этической совестью».

AGI, как система, управляемая «функцией оптимизации», в своих моделях поведения неизбежно будет стремиться к той или иной форме «максимизации эффективности». Однако благополучие человеческого общества представляет собой чрезвычайно сложную систему равновесия, состоящую из бесчисленных, противоречащих друг другу и не поддающихся простой количественной оценке ценностных целей (таких как справедливость, правосудие, достоинство, безопасность, свобода и т. д.). Когда чисто «инструмент эффективности» применяется к сложной «системе ценностей», его потенциальная разрушительная сила становится труднооценимой.

Представим себе следующую ситуацию. Страховая компания, стремясь достичь цели «максимизации прибыли», использует AGI для глубокого анализа данных всех своих клиентов с целью построения максимально точной «модели прогнозирования риска заболеваний». АГИ, проанализировав огромные объемы медицинских записей, генетических последовательностей, данных о образе жизни и даже информации из социальных сетей, может прийти к статистически неопровержимому выводу: у жителей определённой группы населения из-за генетических факторов и условий жизни вероятность заболевания определённым хроническим заболеванием в течение следующих десяти лет на 30 % выше, чем у обычного населения. С точки зрения чисто коммерческой «эффективности» самым «рациональным» решением для страховой компании будет либо повысить страховые взносы для этой группы населения, либо вовсе отказать им в страховании. С точки зрения алгоритма такое решение является идеальным.

Однако перед этим, казалось бы, «идеальным» решением у архитектора когнитивных систем, обладающего эстетическим чутьем, в душе должны зазвучать тревожные сигналы. Его «этическое сознание» заставит его задать ряд вопросов, на которые алгоритм ответить не сможет: «Справедливо ли это? Является ли общество, в котором люди наказываются за «происхождение», которое они не могут выбрать, тем обществом, которого мы хотим? Не усугубит ли такая «точная дискриминация», основанная на данных, раскол в обществе и недоверие? Является ли нашей ответственностью, как финансовой организации, пользующейся общественным доверием, лишь стремление к прибыли, или же мы должны найти более гуманный баланс между риском и моральным долгом?»

Видите ли, на эти вопросы уже совершенно невозможно ответить с помощью вычислений. Они затрагивают саму суть нашего «человеческого» существования. Они требуют от нас, чтобы, выходя за рамки холодных данных и вероятностей, мы использовали более высокий уровень интуиции, касающейся «добра» и «красоты», для того, чтобы вынести окончательное, теплое ценностное суждение. Истоки этой способности к суждению лежат в нашем «сопереживании» общей судьбе человечества, в глубоком понимании «сложности человеческой натуры», приобретённом нами из истории, философии и литературы. Оно проистекает из морального инстинкта, о котором говорил Мэн-цзы: «Сердце, способное к состраданию и сочувствию, есть у каждого человека» [цитата из «Мэн-цзы. Гао-цзы, часть первая»; это один из ключевых аргументов «теории добродетели природы» Мэн-цзы, означающий, что сердце, способное к состраданию и сочувствию, присуще каждому человеку от рождения].

Поэтому «эстетическая способность» архитектора познания в конечном итоге проявляется как способность «тормозить». В эпоху, когда царит технологический акселерационизм, каждый стремится нажать на «газ», чтобы добиться более быстрого роста и более высокой эффективности. А уникальная ценность архитектора заключается именно в том, что он знает, где, когда и почему необходимо смело нажать на «тормоз». Он должен стать тем «тормозильщиком», который на мчащемся по рельсам технологий поезде всегда сохраняет трезвость ума и непрерывно возвращает поезд на рельсы «гуманизма».

Подводя итог, можно сказать, что «умение задавать вопросы» и «эстетическое чутье» вместе составляют две неразделимые стороны, без которых архитектор познания немыслим. «Умение задавать вопросы» — это Янь, это открытие новых горизонтов, это «стремление к широте»; «эстетическое чутье» — это Инь, это защита, это «внимание к мелочам». Отсутствие первого заставит нас потерять ориентацию и впустую тратить вычислительные ресурсы на бесконечные возможности; а отсутствие второго лишит нас души и превратит в изысканных, но бездушных «пустых людей» в мире, где главенствует эффективность. Только глубоко объединив эти две способности, мы сможем по-настоящему управлять AGI — этой могучей силой, формирующей будущее, — и гарантировать, что она всегда будет «доброй» силой, служащей благополучию человечества, а не порабощающей его.

Раздел 2. Подготовка к «пятимерному фазовому переходу»

После того как мы систематически нарисовали портрет нового вида — «архитектора познания» — и определили два его ключевых качества: «умение задавать вопросы» и «эстетическое восприятие», перед нами встал более насущный и практический вопрос: как же начать этот путь эволюции от «старого человека» к «новому человеку»? Где же находятся ступени, ведущие к входу в тот величественный храм мысли, который называется «пятимерным фазовым переходом»? Ответ, возможно, окажется несколько неожиданным: отправной точкой этого великого когнитивного обновления является не «изучение» большего количества знаний, а «забвение» большего количества; не «создание» чего-либо, а «очищение» от чего-либо. Это похоже на то, как каллиграф, прежде чем нанести кистью чернила, обязательно расправляет лист безупречно белой бумаги; или, как гласит дзен, чтобы наполнить чашу водой мудрости, сначала нужно опустошить свою чашку, уже наполненную «старым чаем». Поэтому первым шагом на пути к «пятимерной фазовой трансформации» является полная, даже болезненная «форматировка» наших существующих моделей мышления.

I. «Форматирование» моделей мышления

«Форматирование» — термин, заимствованный из информатики, который означает создание новой, пустой файловой системы на жестком диске или другом носителе информации с целью подготовки к записи новых данных. В ходе этого процесса удаляются все старые данные и структуры. Мы заимствуем это понятие, чтобы охарактеризовать глубокую «революцию сознания». Она требует от нас мужества, чтобы самостоятельно «обнулить» те старые знания, опыт и парадигмы, на которые мы когда-то полагались и которыми даже гордились. Суть этого процесса заключается в творческом обратном применении широко распространённого когнитивного искажения — «эффекта Дарка».

(1) Очистка накопленного: обратное использование эффекта Даннинга–Кругера

«Эффект Даннинга–Кругера» (Dunning–Kruger effect) — это когнитивное смещение, названное в честь психологов Дэвида Даннинга и Джастина Кругера. Его основная идея заключается в том, что люди с недостаточными способностями, не осознавая своих недостатков, испытывают иллюзорное чувство собственного превосходства и погружаются в вершину невежества, «не зная, что они не знают». [Дэвид Даннинг (David Dunning) и Джастин Кругер (Justin Kruger) в своём исследовании, опубликованном в научном журнале в 1999 году, посредством серии экспериментов доказали, что участники, показавшие наихудшие результаты в таких областях, как чувство юмора, логическое мышление и грамматика, как правило, наиболее сильно переоценивают свои способности.] Вершина этой «горы невежества» — самая опасная и самая распространённая ловушка на пути человечества к знаниям. Бесчисленное количество людей и организаций застревают здесь из-за преждевременной уверенности в себе и в конечном итоге оказываются вытесненными временем. А то, что мы называем «форматированием мышления», по сути своей представляет собой смелый шаг — активный и осознанный прыжок с вершины этой «горы невежества». Это требует от нас постоянной бдительности и активного избавления от когнитивной инерции, порождаемой «накопленными знаниями», а его суть заключается в «самоотрицании» на двух уровнях: признании своего невежества и забвении опыта.

1. Признание своего невежества: предпосылка междисциплинарных исследований

Первый шаг на пути к мудрости — это знаменитая фраза Сократа, переданная из поколения в поколение: «Единственное, что я знаю, — это то, что я ничего не знаю». Это не просто жест притворной скромности, а самый фундаментальный «золотой ключ», открывающий путь ко всему глубокому обучению и междисциплинарным исследованиям. Ведь только когда вы искренне признаете, что за пределами вашего привычного «профессионального колодца» существует совершенно неизвестный вам, безграничный мир, у вас появится возможность пробудить в себе истинное любопытство и чувство благоговейного трепета, которые побудят вас выйти из этого колодца и взглянуть на внешний мир.

Ужас «эффекта Дарка» заключается в том, что он систематически «убивает» такое любопытство. Специалист, добившийся небольших успехов в своей области, зачастую неосознанно обобщает парадигму мышления своей области, превращая её в «универсальный ключ» для объяснения всех проблем. Инженер, привыкший к линейному причинно-следственному мышлению, может с презрением отнестись к сложности «иррационального бума» на финансовых рынках; банкир, хорошо знакомый с моделями классической экономики, может легко отвергнуть революционную интернет-бизнес-модель как «нелогичную» аферу. Они «прокляты» собственными знаниями: то небольшое «известное» на самом деле становится для них самой плотной «завесой», мешающей увидеть более обширное «неизвестное».

Поэтому первая ступень «очищения запасов» — это практика «избавления от привязанностей». Она требует от нас, чтобы при каждом столкновении с новой проблемой, особенно с междисциплинарной, мы активно и принудительно включали для себя «режим новичка». «Режим новичка» — важная концепция дзен-буддизма, требующая от нас смотреть на мир глазами новичка, сохраняя открытость и энтузиазм, без каких-либо предвзятых суждений. Как сказал мастер дзен Сузуки Тошитака: «В сердце новичка таятся безграничные возможности, а в сердце эксперта — лишь единичные». [Цитата взята из классического введения в дзен Сузуки Тоситака «Ум дзен, ум начинающего» (Zen Mind, Beginner’s Mind).]

В своей личной практике я установил для себя обязательный ритуал «очищения». Всякий раз, когда мне нужно изучить область, с которой я совершенно не знаком — например, концепцию «метавселенной» несколько лет назад или, в последнее время, «синтетическую биологию», — я сознательно напоминаю себе: в этой области ты — настоящий школьник. Весь опыт и все модели, накопленные тобой за последние тридцать с лишним лет в сфере финансовых рисков, здесь не только могут оказаться бесполезными, но даже вредными. Твоя задача — не оценивать этот новый мир с помощью уже имеющихся у тебя критериев, а сначала отбросить все свои критерии и, подобно губке, с смирением и без осуждения впитывать самые базовые концепции, ключевые термины и важнейшие идеологические контексты этой новой области.

Этот процесс «активного признания своего невежества» болезнен, поскольку требует от нас временно отказаться от чувства безопасности и превосходства, которые даёт статус «эксперта». Но он также абсолютно необходим. Ведь это похоже на тщательную дезинфекцию рук перед проведением сложной хирургической операции, чтобы гарантировать, что мы не занесем старые «бактерии» (предвзятости) в новый «организм» (область знаний). Только так мы сможем по-настоящему и беспристрастно понять суть нового явления и заложить самый чистый и прочный фундамент для последующего исследования «измерения широты» в рамках «пятимерного фазового перехода».

2. Забыть опыт: избавиться от инерции «зависимости от выбранного пути»

Если «признание своего невежества» — это высокомерие, позволяющее очистить «запас знаний», то «забыть опыт» — это избавление от оков «моделей успеха». Последнее зачастую оказывается сложнее первого и гораздо опаснее. Ведь прошлый успешный опыт — это самое сладкое и одновременно самое опасное «яд» для человечества. Он запечатлевает в нашей нервной системе глубокую «зависимость от выбранного пути», заставляя нас при столкновении с новой проблемой неосознанно, по рефлексу применять то старое решение, которое когда-то принесло нам похвалу и вознаграждение.

Теория «зависимости от выбранного пути» в экономике была впервые сформулирована Полом Дэвидом (Paul David) и Брайаном Артуром (Brian Arthur) для объяснения того, почему такие не самые оптимальные решения, как раскладка клавиатуры «QWERTY», смогли надолго закрепиться на рынке и стать незаменимым стандартом. [Основная идея этой теории заключается в том, что случайные события в истории посредством механизма «положительной обратной связи» постоянно усиливают своё первоначальное влияние, тем самым закрепляя систему на определённом, пусть даже не самом оптимальном, пути эволюции.] Эта теория в равной степени применима и к нашим когнитивным моделям. Каждое наше успешное решение, каждый способ мышления, приносящий положительную обратную связь, словно прокладывает в нашем мозгу отрезок «рельсов». Со временем наше мышление оказывается полностью запертым в этой пересекающейся сети «рельсов» и уже не может покинуть сложившуюся колею, чтобы исследовать бездорожную пустошь.

За свою долгую карьеру в банковской сфере я собственными глазами видел падение бесчисленного множества «звезд», когда-то властвовавших на вершинах успеха; основной причиной этого, почти без исключения, была неспособность «забыть» свой прошлый успешный опыт. Я помню одного выдающегося специалиста по одобрению кредитов, который при работе с проектами кредитования предприятий традиционной обрабатывающей промышленности разработал чрезвычайно эффективную модель управления рисками, суть которой заключалась в уделении особого внимания «тяжелым активам» предприятия — земельным участкам, производственным помещениям и оборудованию. В ту эпоху, когда залог был королём, эта модель позволяла ему побеждать во всех битвах. Однако, когда нахлынула волна интернет-экономики, он применил тот же подход, ориентированный на «тяжёлые активы», к оценке тех «невесомых» интернет-компаний, которые состояли всего из нескольких строк кода и нескольких десятков сотрудников, но при этом имели десятки миллионов пользователей — и его модель полностью дала сбой. В его мире отсутствие производственных помещений и земли означало отсутствие «подушки безопасности», а значит — «высокий риск». Не сумев «забыть» тот «опыт тяжелых активов», который когда-то принес ему небывалый успех, он упустил величайшие коммерческие возможности целой эпохи.

Это и есть «проклятие опыта». Оно заставляет наше мышление превратиться из «жидкости», активно адаптирующейся к внешним изменениям, в «кристалл», способный выживать только в определённых условиях. А главной особенностью бизнес-среды эпохи AGI являются именно «фазовые переходы». Это уже не плавные, линейные изменения, а частые, резкие и нелинейные «мутации», при которых одна форма ведения бизнеса сменяется другой. В таких условиях любая застывшая «кристаллическая» модель в момент «фазового перехода» будет раздроблена вдребезги. Выжить сможет только «жидкая» модель, способная в любой момент изменять свою внутреннюю структуру в соответствии с изменениями окружающей среды.

Как же тогда активно «забыть опыт»? Для этого требуется мощное «метапознание», то есть «размышление о размышлении». Оно требует от нас выработать привычку постоянно «анализировать себя». При каждом принятии решения нужно, как сторонний наблюдатель, выйти за пределы собственного «я» и хладнокровно спросить того «я», которое размышляет: «Основано ли моё нынешнее суждение на объективном анализе самой проблемы, или я просто бессознательно и из лени повторяю свой прошлый успешный опыт?» «Не может ли быть так, что этот инструмент, который мне наиболее знаком и на который я больше всего полагаюсь, как раз и является самым неподходящим для решения этой новой проблемы?»

В «Дао-де-цзине» сказано: «Тот, кто знает других, мудр; тот, кто знает себя, просветлён. Тот, кто побеждает других, силен; тот, кто побеждает себя, могуч». [Цитата из 33-й главы «Лао-цзы», смысл которой заключается в том, что тот, кто понимает других, мудр, а тот, кто понимает себя, — поистине просветлён; тот, кто побеждает других, силен, а тот, кто побеждает себя (свои слабости), — поистине могуч.] В эпоху AGI «победа над другими» (превосходство над другими в отдельном навыке) становится всё менее важной, поскольку нам трудно победить машины. А самая главная сила архитектора когнитивных систем полностью проистекает из «победы над собой» — победы над предвзятостью в собственном восприятии, победы над зависимостью от прошлого успешного опыта.

Эта «форматировка», направленная на «очистку накопленного», является самым глубоким практическим упражнением в «победе над собой». Она разрушает границы знаний через «признание своего невежества» и освобождает от зацикленности на прежних путях через «забвение опыта». Она подобна контролируемому «когнитивному пожару», который сжигает дотла те устаревшие мыслительные заросли, мешающие нам увидеть будущее, тем самым очищая для семян новых идей самую плодородную и чистую выжженную землю. Только на этой выжженной земле мы сможем приступить к созданию той совершенно новой когнитивной системы координат, ведущей к «пятимерному фазовому переходу».

(2) Создание новой системы координат: пятимерная карта

Завершив «очистку» и «форматирование» старых моделей мышления, мы словно разворачиваем перед собой чистый холст, с которого была стерта исходная информация, чтобы вместить совершенно новый, более значимый план. Как говорил «Лао-цзы»: «Достигни крайней пустоты, храни глубокое спокойствие». [Эта фраза взята из «Лао-цзы», глава 11, и означает достижение состояния «абсолютной пустоты» и сохранение истинной сущности спокойствия. В данном контексте она переносится на познание: чтобы принять новые идеи, необходимо достичь состояния пустоты, спокойствия и открытости.]