Архитекторы познания. Как меняется мышление в эпоху искусственного интеллекта

1. Победа редукционизма: разбор всего сущего в поисках истины

Если героями эпохи Оси были философы, то героями эпохи науки стала группа совершенно новых персонажей: пророки мысли, смелые практики и великие обобщители.

Пророком этой революции стал англичанин Фрэнсис Бэкон. Подобно беспристрастному прокурору, он систематически критиковал отрыв схоластики от реальности и громко провозгласил эпохальный лозунг: «Знание — сила». [Фрэнсис Бэкон (Francis Bacon) является одним из основоположников научного метода; его основные идеи изложены в труде «Новый инструмент» (Novum Organum), в котором он выступает за замену дедуктивного метода Аристотеля на индукцию, подчеркивает практическую значимость знания и считает, что цель знания заключается в улучшении благосостояния человечества и преобразовании природы.]«Сила» в данном контексте больше не означает победу в споре или душевное утешение, а подразумевает реальную способность преобразовывать материальный мир и способствовать благополучию человечества.

Чтобы обрести такую силу, Бэкон призывал заменить чистый дедуктивный метод «индукцией». Мы не можем больше исходить из непроверенных «универсальных аксиом», а должны, напротив, на основе бесчисленных конкретных и частных наблюдений «исследовать вещи и достигать знания», [«Исследовать вещи и достигать знания» — важная концепция древнекитайской конфуцианской мысли, взятая из «Лицзи · Дахэ», означающая исследование принципов вещей с целью обретения знания. В эпоху династии Сун Чжу Си развил его в систему эпистемологии, подчеркивая, что познание всеобщего природного закона достигается через исследование принципов конкретных вещей.], чтобы обобщить и выделить лежащие в их основе всеобщие законы.

Героем, воплотившим эту идею в жизнь и заплатившим за это огромную цену, стал итальянец Галилео Галилей. Он не только опроверг авторитет Аристотеля с помощью экспериментов с падающими телами, но и совершил поступок, имеющий глубокое символическое значение: он впервые направил только что изобретённый телескоп на звёздное небо. Это было не просто наблюдение — это была революция в области познавательных инструментов. Это означало, что человеческие чувства впервые могли быть расширены и усилены с помощью технологии. В поле зрения телескопа тот гармоничный и безмятежный небесный мир, состоящий из идеальных сфер, который описывали Церковь и древнегреческие философы, в мгновение ока рухнул. Эти неопровержимые факты, полученные в результате наблюдений, по своей революционности намного превосходили любые философские рассуждения. Они закрепили один из основных принципов научного познания: когда теория вступает в противоречие с наблюдениями, ошибочной всегда оказывается теория.

Величайшим воплотителем этой революции стал Исаак Ньютон. Опираясь на достижения таких гигантов, как Галилей, он осуществил беспрецедентное синтезирование знаний. В его руках было два оружия: одно — точные данные астрономических наблюдений, накопленные Галилеем и другими учеными, другое — изобретенный им самим математический инструмент — интегральное и дифференциальное исчисление. Используя математику — тот самый «язык, на котором Бог пишет о Вселенной», как назвал её Галилей, — Ньютон объединил движение небесных планет и падение яблок на земле в рамках одного лаконичного и изящного закона всемирного тяготения. Его эпохальный труд «Математические принципы натуральной философии» построил для человечества модель Вселенной, точную, как часы, определённую и предсказуемую. Это дало человечеству беспрецедентную уверенность в себе и ощущение контроля, а также чувство гордости, что «человек может победить природу».

За этой победой стояла доведенная до крайности парадигма мышления — «редукционизм». Его основная идея заключалась в том, что любую сложную систему можно понять, разложив её на более мелкие и простые составляющие. Подобно часовщику, который, разбирая и изучая каждую шестерню и пружину, в конечном итоге овладевает тайнами всего часового механизма. Этот аналитический метод, позволяющий упростить сложное, в последующие столетия принёс беспрецедентный успех, непосредственно породив целую серию великих изобретений — паровую машину, двигатель внутреннего сгорания, генератор и т. д., — и одним махом вывел человеческое общество из эпохи сельского хозяйства на скоростную трассу промышленной цивилизации.

2. Анализ ограничений: сужение кругозора, вызванное «глубокой ямой» научной дисциплины

Однако редукционизм, этот чрезвычайно острый хирургический скальпель, помогая нам точно анализировать мир, одновременно заложил в себе глубокий кризис. «Что помогло, то и помешало». [Этот изречение взято из «Истории Китая» («Ши Цзи»), «Биография маркза Хуайина». Успех и поражение Хань Сина были связаны с Сяо Хэ; это выражение означает, что успех или неудача в деле определяются одним и тем же человеком или явлением.] Его величайший успех стал одновременно и его самым большим ограничением.

Во-первых, это привело к крайней «фрагментации» знаний. По мере углубления научных исследований разделение труда в различных дисциплинах становится всё более тонким. Учёные посвящают всю свою жизнь тому, чтобы усердно копать в своих «глубоких колодцах» отдельных дисциплин, всё глубже погружаясь в знания своей области, но при этом всё меньше понимают общую картину всего ландшафта знаний, словно «слепые, ощупывающие слона»[Древнекитайская пословица, означающая, что, опираясь лишь на частичное понимание или фрагментарный опыт, люди выдвигают беспочвенные догадки, пытаясь сделать всеобъемлющее суждение.], видя только деревья, но не видя леса. Мы подготовили бесчисленное количество «экспертов», но лишились «мудрецов», владеющих обширными знаниями.

Во-вторых, редукционизм, сталкиваясь с «сложными системами», начинает демонстрировать свою фундаментальную беспомощность. В «Дао-де-цзине» сказано: «Дао рождает Единое, Единое рождает Двойное, Двойное рождает Тройное, Тройное рождает все вещи». [Эта фраза раскрывает процесс формирования Вселенной от простого к сложному, намекая на изначальное единство мира и сложность-разнообразие явлений.] Когда количество составляющих частей системы огромно, а взаимодействие между ними приобретает нелинейный и динамический характер, начинается процесс «из Трёх рождается всё», то есть «эмергентность». Даже если вы знаете все физиологические особенности каждого муравья, вы не сможете предсказать, как у всего муравьиного полчища возникнет высокосложный коллективный разум; даже если вы сможете проанализировать принципы работы каждого нейрона, вы не сможете объяснить, как «сознание» возникает в мозге. В этих областях целостное поведение намного превосходит сумму его частей. Ключ к системе заключается не в самих «деталях», а в сложных «связях» и «взаимодействиях» между ними. Редукционизм — это хирургический скальпель, который может вскрыть труп, но не способен понять жизнь.

Такая узкость взгляда и ограниченность методов привели к тому, что, успешно преобразовав природный мир, человечество, столкнувшись с созданными нами самими и становящимися всё более сложными социально-экономическими системами, напротив, оказывается всё менее способным справиться с ними. Нам нужен новый познавательный инструмент — инструмент, способный выйти за пределы линейного мышления и понять и ответить на вызовы «сложности» с точки зрения целостности, системности и взаимосвязей. Именно под влиянием этой потребности, в сопровождении появления компьютеров, незаметно начался четвёртый скачок в развитии человеческого познания.

(IV) Вычислительное познание (уровень эффективности): господство алгоритмов в информационную эпоху

Когда «редукционистский» скальпель научного познания обнажил свои ограничения перед лицом живых организмов, представляющих собой сложные системы, здание человеческого мышления уперлось в невидимую стену. Эта стена сложена из прочных кирпичей, таких как «нелинейность», «эмергентность» и «непредсказуемость». Чтобы преодолеть её, потребовался уже не более острый скальпель, а совершенно новая парадигма мышления, способная напрямую взаимодействовать со «сложностью». Это и стало четвёртым великим скачком человеческого разума — вычислительное познание. Его зарождение не было результатом какого-то внезапного озарения философского размышления, а было инициировано одной машиной. Эта машина — компьютер. Он дал человечеству беспрецедентную способность: не просто наблюдать и интерпретировать мир, но и «моделировать» его. Эта когнитивная революция, зародившаяся в дыму Второй мировой войны и достигшая зрелости под солнцем Кремниевой долины, вознесла «данные» и «алгоритмы» на пьедестал и с почти безжалостной эффективностью стала править нашей эпохой.

1. «Эстетика насилия» данных: корреляция превосходит причинно-следственную связь

Прелюдию к этой революции заложили несколько гениальных умов, чьи идеи вместе сформировали теоретическую основу информационной эры.

Первым из них был одинокий пророк Алан Тьюринг. На тихих лужайках Королевского колледжа Кембриджского университета этот молодой математик задумал создать машину, основанную исключительно на логике, — «машину Тьюринга». [Машина Тьюринга — это абстрактная вычислительная модель, предложенная Аланом Тьюрингом (Alan Turing) в статье 1936 года «О вычислимых числах и их применении к решению проблем», которая определила теоретические пределы механических вычислений и легла в основу современной информатики.] Этот мысленный эксперимент, состоящий из бесконечной бумажной ленты и головки для чтения и записи, имеет философское значение, далеко выходящее за рамки технических деталей: он доказал, что любой вычислительный процесс, который можно описать с помощью конечного числа логических шагов, может быть смоделирован этой машиной. Это равносильно провозглашению «универсальности вычислений» и открыло теоретические возможности для преобразования всего существующего в мире в обрабатываемые данные.

Вторым был всемогущий архитектор Джон фон Нейман. Этот гений, который мог легко поддерживать беседу с Эйнштейном, остро осознавал, что для воплощения теоретической машины Тьюринга в реальность необходима изящная и эффективная физическая структура. Предложенная им «архитектура фон Неймана» [Архитектура фон Неймана — это архитектура компьютера, предложенная Джоном фон Нейманом (John von Neumann) в отчете, написанном в 1945 году для проекта компьютера EDVAC. Её основная идея заключается в «программировании с хранением в памяти», то есть в хранении инструкций и данных в одном и том же объёме памяти; она является основной архитектурой современных компьютеров.]разделил основные функции компьютера на пять модулей: арифметико-логическое устройство, устройство управления, память, устройства ввода и вывода. Эта конструкция до сих пор остается «душой» каждого компьютера и каждого мобильного телефона, которые мы держим в руках.

Третьим является определитель понятия «информация» — Клод Шеннон. В лабораториях Белла этот молчаливый инженер, опубликовав сенсационную статью «Математическая теория связи», практически в одиночку заложил основы «теории информации». [Эта статья Клода Шеннона была опубликована в 1948 году. В ней впервые был применен математический подход к изучению информации, предложен «бит» (bit) в качестве базовой единицы информации и введено понятие «энтропии» для измерения неопределённости информации, что заложило теоретическую основу для всей эпохи цифровой связи.] Он гениально заимствовал из физики понятие «энтропии» для измерения неопределённости информации и определил её минимальную единицу — «бит» (bit). С тех пор расплывчатое понятие «информация» впервые обрело точное математическое определение, подобное «метру» или «килограмму».

Тюринг, фон Нейман и Шеннон — мысли этих трех гигантов слились воедино и совместно сформировали основную парадигму вычислительного познания. Суть этой парадигмы заключается в некотором отказе от «закона причинно-следственной связи» в пользу «корреляции». В эпоху научного познания нашей целью было построение причинно-следственной модели «А приводит к Б». Однако в эпоху вычислительного познания, сталкиваясь с огромными объёмами данных, мы обнаружили более эффективный «короткий путь». Мы больше не зацикливаемся на вопросе «почему А приводит к Б»; нам достаточно с помощью мощных вычислительных ресурсов обнаружить в данных, что «А и Б всегда с очень высокой вероятностью возникают одновременно».

Такой способ мышления представляет собой «эстетику насилия». Он не стремится к теоретической изящности, а опирается на объем данных и грубую вычислительную мощь. Наиболее ярким проявлением этого являются современные технологии машинного обучения и искусственного интеллекта. Рекомендательная система Amazon не знает, почему вам нравится та или иная книга; она знает лишь, что «те, кто купил эту книгу, обычно покупают и другую». В 2008 году главный редактор журнала «Wired» Крис Андерсон даже опубликовал весьма спорную статью под названием «Конец теории», в которой заявил: «Наступление потока данных сделало научный метод устаревшим. Перед лицом огромных массивов данных нам больше не нужно строить модели и искать причины, потому что данные говорят сами за себя». Такая парадигма, в которой «корреляция превосходит причинно-следственную связь», добилась поразительного успеха в таких сферах, как бизнес и финансы; это своего рода когнитивный «удар по снижению размерности», а также огромная победа эффективности.

2. Анализ ограничений: отсутствие этических суждений о значении и ценности

Однако эта алгоритмическая машина с поразительной эффективностью, принося нам огромное удобство, в то же время подобна богине «Фемиде» без души: её глаза завязаны, и она не видит, что именно взвешивает на своих весах — золото или зло. Фундаментальное ограничение вычислительного познания заключается в том, что оно является чистым «оптимизатором», но при этом — полным «слепцом в вопросах ценностей». Она способна с непревзойденной точностью указать вам «оптимальный путь» к цели, но никогда не сможет ответить на самый фундаментальный вопрос: стоит ли сама эта «цель» того, чтобы к ней стремиться?

Эта ограниченность проявляется в мире, в котором мы сегодня живём, самыми разными тревожными способами. В сфере социальных сетей основная цель алгоритмов заключается в «максимизации времени пребывания пользователей в сети и уровня их взаимодействия». В результате алгоритмы, словно неутомимые подстрекатели, днём и ночью разрывают общество на несовместимые друг с другом «информационные пузыри», усугубляя поляризацию и противостояние групп. На финансовых рынках алгоритмы высокочастотной торговли с точностью до микросекунд улавливают малейшие колебания рыночных данных; их цель — «максимизация прибыли», однако это может привести к катастрофическому «молниеносному обвалу». На уровне социального управления системы кредитного рейтинга и прогнозирования рисков, основанные на больших данных, ставят целью «минимизацию рисков», но при этом, казалось бы, объективным образом закрепляют историческую несправедливость и переносят её в будущее.

В этом и заключается «проклятие оптимизатора» вычислительного познания: оно всегда находит кратчайший путь к достижению цели, но зачастую игнорирует катастрофические внешние издержки, которые несет этот путь. Это похоже на басню Эзо, где лягушка переносила скорпиона через реку на спине, а скорпион укусил лягушку, что привело к гибели обоих. Перед тем как утонуть, лягушка спросила у скорпиона, почему он это сделал, на что тот ответил: «Такова моя природа». Природа алгоритма — это оптимизация. Ему не хватает «метапознания», способного охватить всю картину, взвесить разнообразные ценности и в конечном итоге принять решение «затормозить».

Поэтому, в то время как вычислительное мышление доводит эффективность до предела, оно также создает для человечества огромный «вакуум смысла». Мы обрели беспрецедентно мощный инструмент, но при этом столкнулись с беспрецедентной потерей ориентации. Эту черную дыру ценностей и смысла невозможно заполнить дополнительными вычислительными мощностями. Она требует появления совершенно нового, более высокомерного уровня познания, способного управлять алгоритмами и наделить их человечностью и мудростью. Именно на этой исторической арене вскоре появится «пятый элемент».

II. «Когнитивная дефляция», вызванная AGI

Пройдя долгий путь по четырём ступеням познания — опыту, логике, науке и вычислениям — человечество достигло беспрецедентной платформы. Однако, не успев еще порадоваться эффективности, принесённой четвёртым скачком, мы столкнулись с появлением ещё более мощной и революционной силы — общего искусственного интеллекта (AGI). Он вызывает не просто очередное «повышение эффективности», а глубокую, структурную «переоценку ценностей», которую мы определяем как «когнитивную дефляцию».

В экономике «дефляция» означает устойчивое снижение общего уровня цен на товары и услуги. Она приводит к тому, что активы, которые когда-то имели ценность, в одночасье становятся дешевыми или даже теряют всякую ценность. «Когнитивная дефляция» же означает, что под воздействием AGI ценность некоторых ключевых когнитивных способностей человека с поразительной скоростью размывается и обесценивается, а их предельные издержки бесконечно приближаются к нулю. Это похоже на печатный станок Гутенберга, из-за которого искусство переписывания, которому монахи-переписчики посвящали всю свою жизнь, мгновенно утратило свою экономическую ценность. Сегодня AGI, этот «конечный когнитивный печатный станок», проводит беспрецедентную по масштабам и еще более радикальную «очистку» ценности навыков, от которых зависит выживание всего нашего класса белых воротничков.

(1) Последствия снижения предельных издержек до нуля

Основной механизм этой когнитивной дефляции коренится в одном из самых базовых и мощных понятий экономики — предельных издержках. Когда затраты на производство или предоставление дополнительной единицы продукта или услуги приближаются к нулю, цена этого продукта или услуги неизбежно стремится к нулю.AGI занимается именно тем, что сводит к практически нулю предельные издержки двух «когнитивных услуг» — памяти и вычислений, — которые ранее считались прерогативой человека и были сопряжены с высокими затратами на их получение. Это коренным образом подрывает основы нашей существующей системы образования и рынка труда.

1. «Аутсорсинг» памяти: когда затраты на поиск информации приближаются к нулю

Каждый шаг вперед человеческой цивилизации сопровождался революцией в области «аутсорсинга памяти». Впервые это произошло с изобретением письменности. Мы перенесли память из уязвимого мозга на глиняные таблички, бамбуковые палочки и пергаментные свитки. Во второй раз — с распространением книгопечатания: мы перенесли память из библиотек узкой элиты в миллионы и миллионы книг, которые можно было тиражировать. В третий раз — с появлением поисковых систем — мы передали память на облачные серверы. Однако все три предыдущих этапа аутсорсинга по-прежнему сопровождались значительными «издержками трения». Необходимо было знать, какие ключевые слова использовать для поиска, а также отбирать и анализировать информацию из бесчисленного множества ссылок. Появление AGI полностью устранило и эту последнюю преграду.

Сегодня, общаясь с передовой крупной языковой моделью, вам больше не нужно задавать жесткие вопросы в стиле «ключевых слов». Вы можете использовать даже самый расплывчатый разговорный язык, чтобы описать свои потребности. В течение нескольких секунд она предоставит вам не десяток ссылок на веб-страницы, которые вам придется отбирать самостоятельно, а четко структурированный, логически связный и готовый к использованию ответ.

В этой ситуации затраты на сам процесс поиска знаний уже снизились до уровня, который можно считать пренебрежимо малым. Стоимость хранения и извлечения тех знаний, для усвоения которых нам когда-то приходилось десятилетиями усердно учиться и сдавать один экзамен за другим, чтобы доказать, что мы их «запомнили», стремится к нулю. За более чем тридцатилетнюю карьеру в банковской сфере я видел бесчисленное количество молодых аналитиков, которых считали элитой отрасли за то, что они могли быстро цитировать различные нормативные положения и запоминать финансовые данные сотен компаний. В прошлом такая способность, без сомнения, была ценным «когнитивным активом». Однако сегодня она похожа на старую банкноту, которую когда-то можно было обменять на золото, а теперь объявили недействительной: её ценность испаряется на глазах. Функция хранения информации в нашем мозге, как в «жёстком диске», подвергается полному «аутсорсингу» и «обесцениванию».

2. Девальвация вычислений: когда затраты на логическое мышление стремятся к нулю

Если аутсорсинг памяти подрывает основы «гуманитарного» образования, то обесценивание «вычислений» наносит прямой удар по ключевым сферам «естественно-научных» и «экономических» дисциплин. «Вычисления» в данном контексте уже давно вышли за рамки простых математических операций и обозначают любую программируемую мыслительную деятельность, основанную на правилах и логике. Сюда входят написание кода, анализ финансовых отчетов, составление юридических документов, логические выводы и даже проведение предварительной медицинской диагностики.

AGI превращает это некогда «дорогостоящее» программное обеспечение в бесплатные «облачные сервисы» с неограниченным доступом. Раньше начинающему программисту, возможно, потребовалось бы целый день, чтобы отладить фрагмент кода для обработки данных. Сейчас ему достаточно просто описать свои требования ИИ, и тот за считанные секунды сгенерирует более элегантный и эффективный код. То же самое происходит и в сфере одобрения кредитов, с которой я хорошо знаком. Раньше одной из основных задач менеджера по кредитованию был анализ финансовой отчетности, предоставляемой предприятиями, для оценки их платежеспособности. Сегодня же ИИ может мгновенно обработать все финансовые данные предприятия за последние десять лет, а также отраслевую информацию и данные общественного мнения, и на основе модели риска, гораздо более сложной, чем человеческий мозг, выдать вероятность дефолта с точностью до четырёх знаков после запятой.

Это приводит к жестокой реальности: ценность любого интеллектуального труда, основанного на «процессуальности» и «повторяемости», стремительно снижается. Речь не о том, что эти рабочие места исчезнут сразу, а о том, что ценность «людей», выполняющих эту работу, подрывается изнутри. Ведь когда машина способна выполнять ту же или даже лучшую работу с предельной стоимостью, близкой к нулю, цена, которую рынок готов заплатить за такую «вычислительную способность» человека, неизбежно резко обрушится. Это похоже на судьбу текстильных рабочих эпохи промышленной революции: их мастерство ручного ткачества за одну ночь стало дешевле, чем работа паровых ткацких станков. Сегодня AGGI — это «когнитивный ткацкий станок» для белых воротничков, который безжалостно превращает те наши шаблонные мыслительные способности, которыми мы когда-то гордились, в нечто столь же дешевое и устаревшее, как ручное прядение двухсотлетней давности.

(2) Дилемма экспертов и обрушение глубокого колодца

Под натиском волны когнитивной дефляции, если «память» и «вычисления» — это два берега, которые первыми подвергаются удару, то тем, кто подвергается яростному удару этой волны и даже рискует быть полностью опустошенным, является тот фундамент, на котором опирается вся наша система знаний и экономики, — «эксперт». Эксперты — эта роль, возведенная на пьедестал в эпоху индустриализации и в теории социального разделения труда, — сейчас сталкивается с беспрецедентным вызовом. А те «глубокие колодцы» дисциплин, выкопанные вертикально вглубь, на которых они основывают своё существование, превращаются из защитных рвов знаний в одинокие башни самоизоляции, в любой момент подверженные риску обрушения — будь то снаружи или изнутри.

1. Кризис «T-образных специалистов»: глубина знаний в одной дисциплине больше не является защитным рвом

На протяжении долгого времени наши системы образования и профессионального развития неустанно продвигали модель «T-образного специалиста». «Вертикальная черта» этой модели символизирует незаменимые глубокие профессиональные знания в конкретной области, а «горизонтальная черта» — широту междисциплинарных знаний и способность к сотрудничеству. Раньше широко считалось, что основную ценность специалиста определяет именно глубина «вертикальной линии». Она похожа на глубокий колодец: чем глубже вы копаете, тем больше дефицитного «источника знаний» вы можете добыть, создавая тем самым собственный профессиональный барьер. Однако появление AGI — это словно супербуровая установка с неограниченной мощностью, способная в любой отдельной области пробуривать с невероятной для человека скоростью и точностью до бесконечной глубины. Это делает конкуренцию между человеческими экспертами по «вертикали» всё более похожей на трагическую битву в духе Дон Кихота.