Архитекторы познания. Как меняется мышление в эпоху искусственного интеллекта

Когда мы открываем любую из популярных контент-платформ — будь то новости, короткие видеоролики или социальные сети — нашим поле зрения управляет уже не наша собственная воля к активному поиску, а «невидимая рука» алгоритма. Основываясь на каждом нашем мелком действии — кликах, времени просмотра, лайках — он создает для нас индивидуальную, казалось бы, уютную, но на самом деле закрытую «информационную утробу». Он непрерывно подбрасывает нам контент, который, по его «мнению», нам понравится. Этот контент обладает несколькими общими, роковыми чертами: он «фрагментирован», обычно не превышает нескольких минут или нескольких сотен слов — этого достаточно, чтобы завершить один цикл «кормления» до того, как наше внимание рассеется; они «сильно стимулирующие» и часто апеллируют к нашим самым первобытным эмоциям — любопытству, гневу, тревоге, удовольствию, чтобы гарантировать выработку достаточного количества «дофамина» для завершения этого «потребления»; они «вырваны из контекста»: каждая информация представляет собой изолированный, парящий в воздухе «фрагмент знания», оторванный от исторического фона, логических предпосылок и противоположных точек зрения.

Последствия этого «кормления», управляемого алгоритмами, катастрофичны. Во-первых, оно полностью разрушает нашу способность создавать «рамки знаний». Рамки знаний неизбежно основываются на логическом, системном и контекстуальном чтении и размышлении. Они требуют от нас сопоставления различных точек зрения, установления связей между разными фактами и прослеживания временной последовательности. А «поток информации», генерируемый алгоритмами, по своей сути является «анти-рамкой». Он измельчает весь мир в разноцветную «информационную мозаику», каждая деталь которой сверкает, но в совокупности никогда не способна сформировать осмысленную и целостную картину. Поэт династии Тан Ду Фу однажды сказал: «Прочитав более десяти тысяч свитков, перо ложится в руку, словно божественное вдохновение». [Эта фраза взята из стихотворения Ду Фу «Посвящение Вэй Цзочэн-чжану в двадцати двух рифмах» и подчеркивает важность обширного и систематического чтения для формирования личного таланта и кругозора.] «Прочитать десять тысяч свитков» здесь ни в коем случае не означает пролистать десять тысяч коротких видеороликов. За этим скрывается упорная «борьба» за освоение системы знаний. А алгоритмы подталкивают нас отказаться от этой необходимой борьбы и погрузиться в бесконечные, лёгкие и приятные «информационные партизанские действия».

Во-вторых, алгоритмы незаметно лишают нас «когнитивного суверенитета». Одним из признаков зрелой личности является способность активно и осознанно выбирать информацию, на которой стоит сосредоточиться, а также терпеть скуку и сложность чтения в настоящем ради достижения долгосрочной цели. Это ценная «умственная сила», воплощение «силы баланса» на когнитивном уровне. А алгоритмы систематически разрушают эту «умственную силу». Они подобны матери, избалованной своим ребенком, которая всегда кормит нас только самыми сладкими и легко усваиваемыми «духовными сладостями». Со временем наши «когнитивные вкусовые рецепторы» будут полностью разрушены, и мы больше не сможем наслаждаться тем «интеллектуальным основным блюдом», которое, хотя и горьковато, но очень питательно. Мы утратили свободу выбора, потому что уже даже забыли, что за пределами этого «маленького мира», созданного для нас алгоритмами, существует более обширный, более сложный и более реальный «большой мир».

В итоге, под влиянием такого всеобъемлющего «кормления» мы превращаемся в «гигантских младенцев»: физически взрослых, но умственно навсегда неспособных отучиться от грудного вскармливания. Наши эмоции могут быть легко разжечены 15-секундным видеороликом; наши взгляды могут быть легко сформированы одним сенсационным заголовком. Кажется, что мы связаны со всем, но из-за этого мы теряем себя. Это и есть самая сладкая и самая смертоносная ловушка, тщательно подготовленная для нас «силой расширения» в эпоху алгоритмов.

II. Пробуждение и определение «пятого элемента»

После того как мы систематически проанализировали внутренние механизмы «когнитивного теплового затишья» и раскрыли, как вышедшая из-под контроля «сила экспансии» толкает нас в бездну «знание-булемии» и «когнитивной фрагментации», перед нами предстала мрачная картина. В этом когнитивном массовом вымирании, движимом ростом информационной энтропии и всесторонне ускоренном AGI, человечество, похоже, терпит поражение на каждом шагу, шаг за шагом приближаясь к финалу в виде «гигантского младенца», вскормленного алгоритмами, затопленного шумом и лишенного смысла. Однако историческое развитие никогда не было линейной, ведущей к предопределенности односторонней дорогой. В глубине каждого кризиса зарождаются ростки перелома. Каждая безысходная ситуация, когда «горы и реки перекрывают путь, и кажется, что выхода нет», зачастую является прелюдией к «появлению деревни за поворотом, где в тени ив расцветают цветы». [Эта фраза взята из стихотворения «Путешествие в деревню Шанси» поэта Юй Юя из династии Южный Сун; благодаря своему глубокому философскому смыслу она часто используется в качестве метафоры для обозначения перелома, когда в бедственном положении появляется надежда.]

Когда машины с беспрецедентной силой захватили те сферы познания, которые когда-то принадлежали нам — память, вычисления и даже элементарный анализ и обобщение, — более глубокий смысл этой революции, кажущейся «лишением», возможно, заключается именно в великом «освобождении». Она почти грубым образом заставляет нас отойти от того «интеллектуального труда», который можно стандартизировать, автоматизировать и количественно измерить, и тем самым вынуждает нас задуматься над более фундаментальным вопросом: что же останется в человеческом разуме после избавления от всех этих «вычислимых» свойств — что будет невычислимым, незаменимым и не поддающимся аутсорсингу?

Ответ скрывается в руинах этого кризиса. Именно благодаря анализу пределов возможностей машин мы можем обратно, как никогда раньше, ясно увидеть суть нашей собственной ценности. Эта последняя и самая сущностная ценность составляет последнюю когнитивную привилегию человечества в эпоху AGI. Это уже не какой-то отдельный навык, а две взаимосвязанные и взаимно дополняющие друг друга фундаментальные способности — «право на синтез» и «право на определение». Эти две способности, подобно двум сторонам одной монеты, вместе составляют основу пробуждения «пятого элемента».

(1) Последняя привилегия человечества

В древнегреческой мифологии Прометей, украв божественный огонь и даровав людям свет и тепло, вызвал гнев верховного бога Зевса. Сегодня AGI выступает в роли Прометея новой эпохи: она «украла» для нас огонь «познания» и превратила бесчисленные интеллектуальные навыки, которые когда-то считались священными, в доступный и недорогой «источник энергии» для всех. Перед лицом этого дара судьба человечества, подобно сюжету мифа, подошла к решающему перепутью. Мы можем выбрать путь жертв, обожженных этим пламенем, и, погрузившись в самосожаление, оплакивать утраченную былую славу; а можем и стать хозяевами этого пламени, используя его для создания совершенно нового артефакта цивилизации. И ключ к тому, в каком направлении мы пойдём, заключается в том, сможем ли мы трезво осознать и смело воспользоваться теми двумя последними привилегиями, присущими только человечеству, которые не смог даровать нам даже Прометей.

1. Право на слияние: способность устанавливать связи, преодолевая границы дисциплин

Первая привилегия — это «право на интеграцию». Это способность разрушать барьеры между дисциплинами, устанавливать глубокие связи между, казалось бы, не имеющими ничего общего островками знаний, обнаруживать их глубинную изоморфность и, в конечном итоге, порождать совершенно новые инсайты. Если мощь AGI заключается в том, что она способна проводить исследования на неограниченную глубину в любой отдельной «колодце», то уникальная ценность человечества заключается в нашей способности осуществлять горизонтальное, творческое «объединение и синтез» между бесчисленными «колодцами».

Суть этой способности заключается в искусстве «метафоры» и интуиции, позволяющей «увидеть сходство». Когда Ньютон, увидев падающее яблоко, смог связать это явление с движением небесных тел — двумя, казалось бы, совершенно не связанными между собой явлениями — и тем самым «породил» закон всемирного тяготения, он проявил именно эту великую способность к синтезу. Когда автор «Богатства народов» Адам Смит проецировал гармоничную, упорядоченную и самосогласованную картину Вселенной из физики Ньютона на экономическое поведение людей, создав тем самым изящную экономическую метафору «невидимой руки», он также использовал эту способность к синтезу. Такой «скачок» мысли, преодолевающий границы измерений, является общей парадигмой всех значительных теоретических инноваций и научных революций.

AGI в своей нынешней архитектуре как раз лишена этой активной, творческой способности к синтезу. Она является превосходным «аналитиком», но не прирождённым «синтетиком». Его можно обучить, чтобы он стал лучшим в мире экономистом или лучшим физиком. Однако заставить его самостоятельно, без четких инструкций, обнаружить общие фундаментальные законы, лежащие в основе этих двух дисциплин и касающиеся «равновесия» и «энтропии», а также создать между ними новую теоретическую рамку, обладающую объясняющей силой, чрезвычайно сложно. Ведь его «интеллект» представляет собой вероятностное «сопоставление шаблонов» на основе имеющихся данных, а не «генерацию смысла», основанную на глубоком понимании и поиске неизвестных связей.

Среди более чем десяти тысяч кредитных проектов, которые я рассматривал в прошлом, я встречал бесчисленное количество предпринимателей. Общей чертой тех немногих, кто действительно выделялся, было не то, насколько они достигли совершенства в какой-то одной области (например, в технике или маркетинге), а их поразительная «способность к интеграции». Я помню одного предпринимателя, занимающегося разработкой высокотехнологичного медицинского оборудования. Сам он был доктором наук в области материаловедения, но полки в его кабинете были заставлены книгами по биологии, когнитивной психологии, промышленному дизайну и даже эстетике династии Сун. Он рассказал мне, что окончательный дизайн его ключевого продукта — минимально инвазивного зонда для нейрохирургических операций — был вдохновлен не каким-либо инженерным руководством, а его восприятием лаконичных, элегантных и эргономичных «небесно-голубых» линий фарфора династии Сун. Ему удалось объединить в своём уме три, казалось бы, не имеющих ничего общего «кристалла знаний» — холодную твёрдость материаловедения, тонкость и сложность нейронаук и нежную, как нефрит, восточную эстетику — в совершенно новый «коммерческий сплав», обладающий мощной рыночной конкурентоспособностью.

Именно в этом заключается незаменимая ценность человека. Наш разум — это не пассивная база данных, а активная «плавильня смыслов». Наш опыт, эмоции, эстетическое восприятие, интуиция, а также запас междисциплинарных знаний, которые на первый взгляд кажутся «не имеющими отношения к делу», вместе составляют уникальную «камеру химических реакций» высокого измерения. Когда различные элементы знаний попадают в эту плавильную печь, между ними происходят непредсказуемые, нелинейные «химические реакции», результат которых зачастую не сводится к простому 1 + 1 = 2, а представляет собой процесс «создания мира», в ходе которого «возникает» совершенно новый вид.

Мэн-цзы говорил: «Джентльмен натягивает тетиву, но не выпускает стрелу — и вдруг она вылетает». [Эта фраза взята из «Мэн-цзы. Цзиньсинь, часть первая»; первоначальный смысл заключается в том, что хороший учитель лишь направляет ученика, а не дает готовый ответ, позволяя ученику самому пройти процесс накопления сил и внезапного озарения.] Это как раз и описывает момент, когда происходит слияние идей. Это не пошаговое логическое выведение, а «озарение», возникающее после длительного накопления опыта, когда все вдруг становится ясным. Такой момент «как будто прыгает» — это вспышка озарения углеродной жизни, недостижимая для кремниевого интеллекта. В эпоху, когда AGI сделает «анализ» дешевым, «интеграция» станет нашей самой благородной когнитивной привилегией.

2. Право на определение: способность устанавливать рамки проблемы

Вторая привилегия — это «право на определение». Если «право на интеграцию» касается того, как «соединить ответы», то «право на определение» касается того, как «поставить вопрос». Это фундаментальная способность устанавливать границы проблемы, определять направление ценностей и строить аналитические рамки в хаотичном, безграничном реальном мире. Как сказал Эйнштейн: «Поставить вопрос зачастую важнее, чем решить его. Ведь решение проблемы может быть всего лишь математическим или экспериментальным приёмом, тогда как постановка нового вопроса требует творческого воображения и знаменует собой истинный прогресс науки».

AGI — непревзойденный «решатель проблем», но сам по себе он — плохой «определитель проблем». Вы можете задать ему чёткую целевую функцию — например, «разработать чип с максимальным коэффициентом энергоэффективности», — и он исчерпает все возможности, предоставив вам оптимальное решение. Однако он не способен самостоятельно задать более фундаментальный вопрос: «Действительно ли нам нужен чип с более высоким коэффициентом энергоэффективности? Или же настоящим узким местом, с которым сталкивается наше общество, на самом деле является проблема загрязнения окружающей среды в процессе производства чипов? Или же геополитические риски, связанные с чрезмерной концентрацией технологий производства чипов?»

Эти «метавопросы» выходят за рамки «вычислений» и входят в область «ценностных суждений». Они касаются взвешивания и выбора между «хорошим» и «плохим», «следует» и «не следует», «важным» и «неважным». А истоки способности к таким ценностным суждениям лежат не в статистическом анализе огромных массивов данных, а в присущих только человеку глубокой «способности к эмпатии» и «чувстве миссии».

Основная ценность отличного специалиста по управлению рисками никогда не заключалась в том, насколько точно он может рассчитать модель вероятности дефолта — эту работу в будущем будут выполнять машины гораздо лучше. Его основная ценность заключается в том, что при принятии конкретного кредитного решения он способен чутко «определить» тот вопрос, который является по-настоящему ключевым и решающим. В случае с местной ведущей компанией, которая оказалась в затруднительном положении, но от которой зависит занятость тысяч людей, этот ключевой вопрос, возможно, уже не будет заключаться в том, «сможет ли денежный поток этой компании в течение следующего года покрыть выплаты по основной сумме и процентам?», а, скорее, в том: «Какую роль должен сыграть наш банк, как финансовая организация, несущая социальную ответственность, в этом региональном экономическом кризисе?» «Существует ли какой-либо инновационный финансовый инструмент, который при условии контроля рисков мог бы помочь этой компании преодолеть трудности и тем самым стабилизировать местный рынок труда?»

Видите ли, как только «определение» проблемы меняется, весь путь к решению и конечный ответ становятся совершенно иными. Первая — это чисто техническая задача, поддающаяся количественной оценке, а вторая — сложная стратегическая проблема, в которой переплетаются коммерческие интересы, социальная ответственность, финансовая этика и политические соображения. Способность формулировать вторую задачу и является основной причиной, по которой человеческие руководители не могут быть заменены AGI. Это требует от нас умения поставить себя на место предпринимателей, сотрудников, местных органов власти и даже всего общества, чтобы понять их потребности и проблемы, а также наличия в душе весов ценностей, выходящих за рамки краткосрочной прибыли и ориентированных на «финансы во благо».

В «Среднем пути» сказано: «Достигать широты и всеобъемлемости, и в то же время проникать в мельчайшие детали». [Эта фраза взята из «Лицзи · Средний путь» и означает, что нужно как достигать масштабного и широкого уровня, так и вникать в мельчайшие и тонкие детали.] В расчетах и анализе, связанных с «достижением тонкостей», AGI станет нашим надежным инструментом; а в формировании масштаба и широты взгляда, необходимых для «достижения широты и величия», — в том праве определять «законы» для всего сущего и «придавать смысл» хаотичному миру — заключается наша, как человечества, вечная и окончательная ответственность и привилегия.

Право на интеграцию позволяет нам создавать обширные связи на горизонтальной плоскости знаний; право на определение же позволяет нам воздвигать на этой равнине вертикальные памятники ценностей. Сочетание этих двух элементов составляет новую систему координат, на которой мы будем опираться в эпоху AGI.

(2) Определение «пятого элемента»

Установив, что «право на интеграцию» и «право на определение» являются последними когнитивными привилегиями человечества в эпоху AGI, мы подошли к логическому завершению первой части, которое одновременно является отправной точкой для всей идеологической системы этой книги. Эти два права не существуют изолированно; они подобны паре симбиотических двойных звёзд, освещающих друг друга, дополняющих друг друга и вместе образующих совершенно новую когнитивную парадигму более высокого измерения. Настало время дать этой парадигме официальное название, которое будет проходить красной нитью через все наши последующие обсуждения. Мы назовем её — «Пятый элемент».

Вдохновение для этого названия черпается из космологии древнегреческого философа Аристотеля. Он считал, что наш видимый мир состоит из четырёх основных стихий: земли, воды, воздуха и огня. Однако над этими четырьмя тленными и изменчивыми земными стихиями существует пятая — совершенная, вечная стихия, составляющая мир небесных тел и божеств, — «эфир». Мы заимствуем эту древнюю метафору, чтобы подчеркнуть следующее: если четыре когнитивные способности — «опыт», «логика», «наука» и «вычисления» — вместе составляют инструменты, с помощью которых мы понимаем и преобразуем этот «земной мир», то после того, как AGI кардинально изменит правила игры, мы должны овладеть когнитивной способностью, подобной «эфиру», находящейся в более высоком измерении и способной управлять первыми четырьмя, чтобы избежать собственного падения и осуществить «вознесение» в новый мир. В этом и заключается символическое значение «пятого элемента».

1. Ключевое понятие: системное мышление, основанное на «законе пятимерного фазового перехода»

Так в чём же заключается суть «Пятого элемента»? Это не единичный навык и не набор разрозненных приёмов, а целостная, структурированная и применимая на практике система мыслительных операций. Мы обобщили её основные законы функционирования как «Закон пятимерного фазового перехода». Именно этот закон является для нас «инструкцией» и «дорожной картой», позволяющими преобразовать абстрактные «право на слияние» и «право на определение» в конкретные действия.

«Закон пятимерного фазового перехода», как следует из названия, требует, чтобы при решении любой сложной проблемы мы одновременно подвергали её систематическому анализу и реконструкции с пяти взаимно перпендикулярных измерений. Эти пять измерений подобны пяти координатам, на которых строится здание нашего мышления, и ни одно из них не может быть упущено.

Первое измерение: измерение широты. Оно соответствует горизонтальному расширению «права на интеграцию». Оно требует от нас вырваться из притяжения «дисциплинарной ямы» и, используя AGI в качестве «телескопа», провести панорамное сканирование проблемы с «божественной точки зрения». Она задает вопрос: «Существуют ли во всех областях истории человеческой мысли — от биологии до мифологии, от физики до экономики — подобные модели или решения?» Это своего рода обязательная «междисциплинарная охота», цель которой — собрать в самом широком диапазоне исходный материал, пригодный для «интеграции».

Второе измерение: глубина. Оно соответствует традиционному пониманию «силы сжатия» и поиску «первых принципов». Оно требует от нас, после завершения обзора по широте, быстро сменить точку зрения, использовать AGI в качестве «микроскопа», устранить поверхностные различия во всех областях и проникнуть прямо к самому фундаментальному, неделимому «ядру», лежащему в основе явлений. Он задает вопрос: «Следуют ли все эти разнообразные и сложные явления одной и той же минималистичной базовой логике, которую можно описать языком математики или философии?» Это своего рода внутреннее, крайнее сжатие, направленное на поиск «принципа всех вещей».

Третье измерение: измерение взаимосвязей. Это ключевой этап, на котором происходит химическая реакция «права на слияние». Оно требует от нас активно и творчески устанавливать «метафоры» и «соответствия» между материалом, собранным в «ширине», и сутью, раскрытой в «глубине». Он использует AGI в качестве «червоточины», осуществляя «топологическое сгибание» двух изначально удаленных друг от друга «пространств-времени знаний», чтобы мгновенно соединить их. Он задает вопрос: «Могу ли я использовать модель из области A для творческого объяснения проблемы из области B, чтобы таким образом создать совершенно новую теоретическую рамку?» Это ключевой скачок от «анализа» к «творчеству».

Четвёртое измерение: временное измерение. Оно вводит динамическую, эволюционную перспективу в три предыдущих статических измерения. Оно требует от нас использовать AGI в качестве «машины времени», чтобы не только оглядываться назад и задавать вопросы: «Как эта модель развивалась в прошлом? В чём заключается её историческая „зависимость от траектории“?», так и смотреть в будущее, задаваясь вопросом: «В будущем, по мере изменения какой-либо ключевой переменной (например, стоимости вычислительной мощности), в каком направлении она будет развиваться?» Это процесс повышения измерения, при котором мышление переходит от «статических срезов» к «динамическому потоку».

Пятое измерение: измерение ядра. Это «якорь» всей системы, окончательное воплощение «права на определение», а также источник той высшей ценности, которую человек не может заменить. В первых четырёх измерениях мы можем и должны максимально использовать вычислительную мощность AGI. Но в этом измерении мы должны заставить машину «замолчать» и вместо этого заглянуть вглубь собственной души. Оно задаёт вопросы: «Какое значение для „человека“ имеет это логически совершенное решение, выведенное на основе первых четырёх измерений? Соответствует ли оно ценностям, к которым мы стремимся? Сможет ли оно сделать этот мир более справедливым, прекрасным и гуманным?» Это — этический «тормоз», «компас» ценностей, а также окончательный дух «гуманизма», уравновешивающий всю технологическую мощь.

Суть «закона фазового перехода в пяти измерениях» заключается не только в последовательном обходе этих пяти измерений, но и в моменте «фазового перехода». В физике «фазовый переход» означает критическое явление, при котором вещество переходит из одной формы (например, твёрдого состояния) в другую (например, жидкое состояние). Точно так же в сфере познания, когда мы одновременно в пяти измерениях оказываем на одну проблему достаточно сильное «когнитивное давление», заставляя огромный поток информации в нашем мозгу (и в ИИ-модуле) формировать высокоинтенсивную «когнитивную турбулентность», и когда плотность информации и интенсивность столкновений достигают некой «критической точки», происходит удивительное явление: хаотичный, беспорядочный поток информации внезапно «самоорганизуется» в совершенно новую, упорядоченную и обладающую мощной объясняющей силой структуру мышления. Это и есть момент «озарения», момент «возникновения» мудрости.

Таким образом, ключевая концепция «Пятого элемента» — это систематизированный метод мышления, основанный на «законе пятимерных фазовых переходов» и направленный на активное инициирование «появления мудрости». Это и философская концепция, и алгоритм; это и философские размышления, и «инженерия подсказок», которую можно строго применять на практике.

2. Постановка цели: переход от обработки информации к проявлению мудрости

После определения ключевой концепции «Пятого элемента» его конечная цель становится очевидной. Конечной целью этой когнитивной революции не является превращение нас в более эффективных «процессоров информации», поскольку на этом пути мы никогда не сможем превзойти машины. Её цель — привести нас к коренной трансформации идентичности: эволюционировать из «накопителей знаний» и «обработчиков информации» в «генераторов мудрости» и «архитекторов познания».