На пороге сверхразума. Как ИИ изменит работу, обучение и общество

1. Переход от навыков к ответственности и результатам

В эпоху индустриализации и даже в начале информационной эры путь профессионального развития человека в значительной степени представлял собой линейную траекторию, построенную вокруг «навыков». Ценность плотника заключалась в его мастерстве в изготовлении шпунтовых соединений, ценность бухгалтера — в знании сложных налоговых законов и норм, а ценность программиста — в владении новейшими языками программирования и фреймворками. Оценка талантов, система образования и структура вознаграждения во всем обществе были построены на фундаменте «списка навыков». Чем реже встречаются ваши навыки, чем сложнее они и чем лучше вы ими владеете, тем выше ваша рыночная стоимость. Однако появление сверхинтеллекта коренным образом подрывает эффективность этой модели, и происходит это двумя способами: во-первых, ускоряется обесценивание отдельных навыков, а во-вторых, возникает новая «премия за ответственность».

Во-первых, мы должны признать, что ускоренное обесценивание отдельных когнитивных навыков стало необратимой тенденцией. Раньше человеческие эксперты, благодаря десяткам тысяч часов целенаправленной практики, формировали в своём мозге сложные модели распознавания образов и принятия решений. Сегодня же крупные языковые модели, обученные на триллионах байтов данных, способны с крайне низкими предельными издержками в массовом масштабе воспроизводить и даже превосходить эти способности. Большую часть работы переводчика среднего уровня, на подготовку которого раньше уходили годы, теперь ИИ может выполнить за несколько секунд. Для обработки данных и создания диаграмм, на что у начинающего аналитика уходили часы, теперь может потребоваться всего одна четкая инструкция. Такая «инфляция навыков» приводит к резкому сокращению «периода полураспада навыков». Под «периодом полураспада навыков» понимается время, необходимое для того, чтобы ценность того или иного навыка снизилась до половины его первоначальной стоимости. Согласно некоторым исследованиям, этот период сокращается с нескольких десятилетий в прошлом до нескольких лет в настоящее время, а в некоторых быстро меняющихся областях составляет всего несколько месяцев.

Давайте рассмотрим этот сдвиг на конкретном примере. Член традиционной группы субтитров, основные навыки которого заключаются в транскрипции иностранного языка и создании временной шкалы. Его ценность напрямую зависит от количества минут перевода и точности. Но когда ИИ сможет автоматически выполнять 95 % работы по транскрипции и синхронизации с временной шкалой, его прежняя ценность будет практически полностью утрачена. Тем не менее, появилась новая роль: «лицо, несущее окончательную ответственность» за процесс перевода с помощью ИИ. Эта роль больше не оплачивается по минутам; ценность её заключается в ответственности за конечный культурный продукт.

Её представитель должен гарантировать, что шутки, переведённые ИИ, будут столь же смешными в целевой культуре, что перевод юридических терминов не будет содержать двусмысленностей, а стиль и эмоциональный настрой художественных произведений будут сохранены. В случае серьезных переводческих ошибок, приводящих к недопониманию со стороны аудитории или юридическим спорам, он должен нести ответственность. Ценность первой роли основана на поддающемся количественной оценке «исполнении навыков», тогда как ценность второй — на трудно поддающейся простой количественной оценке, но крайне важной «ответственности за результат». Рынок готов платить более высокое вознаграждение за вторую роль, и в этом заключается суть «премии за ответственность».

«Премия за ответственность» (Responsibility Premium) — это понятие, которое мы ввели для описания дополнительного вознаграждения, выплачиваемого рынком тем лицам, которые способны справляться со сложностью, управлять неопределённостью и нести ответственность за конечный результат. Эта премия существует потому, что в системах с широким применением ИИ риски и возможности усиливаются. Одна ошибочная инструкция может привести к массовым ошибочным выводам системы ИИ, что повлечёт за собой огромные экономические потери или ущерб репутации. И наоборот, точное постановка целей и продуманная организация процессов могут привести к экспоненциальному росту эффективности. Таким образом, чем выше «рычаг» системы, тем тяжелее ответственность того, кто управляет этим рычагом, и тем выше его ценность. Эта ответственность включает в себя несколько уровней:

Ответственность за определение и установление ограничений: постановка правильных, четких и этически обоснованных целей и границ для ИИ. Например, при разработке беспилотных автомобилей инженер несет ответственность не только за то, чтобы автомобиль ехал быстро, но и за определение правил принятия этических решений в экстремальных ситуациях.

Ответственность за проверку и аудит: критический анализ результатов работы ИИ с целью обеспечения их точности, справедливости и соответствия нормативным требованиям. Это требует выхода за рамки поверхностных суждений о том, что «выглядит разумно», и глубокого понимания логики принятия решений и скрытых предубеждений.

Ответственность за интеграцию и принятие решений: объединение информации, поступающей из нескольких систем ИИ и различных источников данных, для формирования комплексного решения и принятия на его основе окончательных коммерческих решений.

Ответственность за последствия и подотчетность: при возникновении проблем в системе способность быстро выявить их первопричину, принять меры по исправлению ситуации и нести окончательную ответственность за причиненный ущерб. Такое состояние, когда «кто-то несет ответственность», является основой для завоевания доверия и устойчивого функционирования любой бизнес-системы.

Чтобы более наглядно продемонстрировать эту трансформацию, можно построить сравнительную модель:

Сравнение эволюции профессиональных ценностей

Модель, ориентированная на навыки (прошлое)

Модель, ориентированная на ответственность (будущее)

Основные ценности

Владение конкретными инструментами/процессами (например, владение Photoshop)

Ответственность за бизнес-результаты (например: повышение визуальной согласованности бренда и конверсии на рынке)

Модель работы

Выполнение четко определенных задач

Определить проблемы с нечеткими критериями и объединить ресурсы (включая ИИ) для их решения

Критерии оценки

Количество и качество результатов (например, количество дизайнерских макетов)

Коммерческое влияние и рентабельность инвестиций (ROI)

Модель получения дохода

Оплата по времени/за задание

Распределение прибыли по результатам, долевое участие или ценообразование на основе стоимости

Профессиональные риски

Замена навыков автоматизацией

Убытки для бизнеса в результате ошибочных решений

Эта модель ясно показывает, что мы переходим от эпохи «погодочных работников» к эпохе «системных партнеров». Упомянутая в отчете МВФ надбавка к заработной плате за новые навыки является одним из ранних рыночных сигналов этой тенденции. Эти дополнительные 3% или 15% к заработной плате обусловлены не просто тем, что сотрудник умеет работать с каким-то новым программным обеспечением, а тем, что он способен использовать это программное обеспечение для выполнения более широких и сложных обязанностей, которые раньше были для него недоступны, и вносить вклад в конечные бизнес-результаты. Поэтому каждому из нас нужно задать себе вопрос: в чём заключается моя ценность — в списке моих навыков или в пределах ответственности, которую я готов и способен взять на себя? Ответ на этот вопрос определит наше место в эпоху сверхразума.

2. Преимущества человека заключаются в постановке целей, соблюдении ценностных ограничений, отношениях и репутации

Когда машины полностью превзойдут человека по эффективности и точности выполнения задач, естественным образом возникает вопрос: что у нас останется? Если мы не можем конкурировать в том, чтобы «делать быстрее и точнее», то в чём же заключаются уникальная ценность и сравнительные преимущества человека? Ответ заключается не в какой-то таинственной, не поддающейся описанию «свете человеческой души», а в ряде конкретных, трудно формализуемых и не поддающихся аутсорсингу ключевых способностей. Эти способности в совокупности составляют «ценностные высоты» человечества в эпоху сверхразума; к ним относятся: постановка целей, ценностные ограничения, управление отношениями и формирование репутации.

Во-первых, постановка целей и вынесение оценочных суждений — это самое главное преимущество человека. Искусственный интеллект, каким бы мощным он ни был, по сути является высокоэффективным «оптимизатором» (Optimizer). Он способен с невообразимой скоростью находить оптимальное решение при заданной целевой функции и ограничениях. Но вопрос заключается в том, кто определяет эту «правильную» целевую функцию? В реальном мире проблема часто заключается не в том, «как наилучшим образом реализовать X», а в том, «к чему мы вообще должны стремиться». Поставить значимый вопрос зачастую важнее, чем решить четко сформулированную задачу.

Например, ИИ, которому дано задание «максимизировать квартальную прибыль», может предложить ликвидировать все подразделения НИОКР, снизить качество продукции и прибегнуть к обманчивым маркетинговым приёмам. Эти действия, возможно, действительно позволят повысить прибыль в краткосрочной перспективе, но разрушат долгосрочное будущее компании. Именно в этом и заключается ценность человека-решателя: он способен выйти за рамки единичного, поддающегося количественной оценке показателя и вынести суждение о ценностях на более высоком уровне.

Ему приходится проводить сложный компромисс (trade-off) между множеством противоречащих друг другу целей: краткосрочными интересами крупных акционеров, долгосрочным развитием сотрудников, доверием клиентов, репутацией бренда и социальной ответственностью. Такая способность к комплексному суждению, основанная на опыте, интуиции, мудрости и этике, в настоящее время недостижима для ИИ. Классический пример: когда фармацевтическая компания использует ИИ для отбора молекул лекарственных препаратов, ИИ может быстро найти миллионы возможных комбинаций. Но окончательное решение о вложении миллиардов долларов в клинические испытания принимают ученые и руководители-люди. Им необходимо определить, какой препарат является «правильным» выбором не только с технической точки зрения, но и с точки зрения рыночного спроса, регуляторных рисков, этических последствий и корпоративной стратегии. Эта способность «настраивать компас» для сложных систем является источником ценности человека.

Во-вторых, управление отношениями и укрепление доверия являются неотъемлемыми социальными функциями человека. В эпоху, когда информация и контент могут бесконечно копироваться и генерироваться, доверие стало самым дефицитным ресурсом. Можно представить себе мир, в котором доминируют ИИ-сервисы поддержки, способные круглосуточно и без перерыва отвечать на стандартные вопросы с чрезвычайно высокой эффективностью. Однако когда лояльный клиент испытывает гнев и разочарование из-за серьезного инцидента, связанного с продуктом, чат-бот, запрограммированный на стандартную процедуру извинений, не сможет по-настоящему решить проблему.

В этот момент ценность менеджера-человека, обладающего эмпатией, способного искренне выслушать и уполномоченного решать проблемы на месте, становится неоценимой. Благодаря сопереживанию и эффективному общению он не просто обрабатывает жалобу, но и восстанавливает нарушенные отношения с клиентом, возвращая с таким трудом завоеванное доверие. Доверие между людьми, сложная невербальная коммуникация, долгосрочные эмоциональные связи и совместная работа в условиях стресса составляют основу нашего общества и деловой деятельности. Эти виды деятельности по своей сути являются «высококонтекстными» (High-context) — они глубоко укоренены в общей культуре, тонких социальных нормах и долгой истории взаимодействия. ИИ может отлично справляться с «низкоконтекстными» задачами, но ему сложно заменить человека в этих сферах. Будь то руководство командой в преодолении трудностей, ведение сложных деловых переговоров с партнерами или стабилизация общественного настроения в кризисной ситуации — в центре всех этих сценариев лежит «человеческий» фактор. Доверие не может быть сгенерировано с помощью алгоритмов; это ценный актив, который может быть накоплен только постепенно, благодаря долгосрочному, последовательному и надежному поведению.

В-третьих, репутация (Reputation) является конечным воплощением всего этого и обладает мощным эффектом сложного процента. Если доверие — это ожидания в отношении будущего, то репутация — это открытая хроника всех прошлых поступков и результатов. В высокоинтегрированном цифровом мире каждое ваше обещание, каждое выполненное обязательство, каждый успех и каждая неудача в той или иной форме фиксируются, оцениваются и распространяются. Эта открытая, динамичная «табло результатов» и есть ваша личная репутация. Она напрямую определяет, готовы ли другие люди доверить вам важные обязанности, ресурсы и возможности.

Предприниматель с хорошей репутацией, даже если его проект провалится, с большей вероятностью получит следующий раунд инвестиций, поскольку инвесторы верят в его способности и характер. Учёный, известный своей скрупулёзностью и честностью, с большей лёгкостью получает признание и цитирование своих научных результатов со стороны коллег. Эффект сложного процента репутации заключается в том, что она создаёт положительный цикл: хорошая репутация привлекает более качественные возможности для сотрудничества, а успешное сотрудничество ещё больше укрепляет вашу репутацию. И наоборот, один серьёзный случай нарушения доверия может в одно мгновение разрушить то, что накапливалось годами. ИИ может иметь «показатели эффективности», но он не может обладать «репутацией» в истинном смысле этого слова, поскольку не обладает самостоятельной личностью и не может нести окончательную и неограниченную ответственность за свои действия. Окончательную ответственность всегда несет стоящий за ним человек или организация.

Чтобы более наглядно понять различия между ИИ и человеком в этих областях, можно обратиться к приведенной ниже таблице:

Тип задачи

Преимущества ИИ-агента/интеллектуального сущности

Незаменимые преимущества человека

Анализ рынка

Обработка огромных объемов данных, выявление закономерностей и тенденций

Определение конечных коммерческих целей анализа, придание коммерческого значения «неожиданным открытиям» ИИ и принятие на себя рисков, связанных с принятием решений на основе результатов анализа

Создание контента

Быстрое создание текстов и изображений в различных стилях как черновик

Определение конечного тона контента, этических границ, а также ответственность за достоверность, оригинальность и социальное воздействие контента

Обслуживание клиентов

Круглосуточный ответ на стандартные и часто задаваемые вопросы

Работа с сложными, эмоционально насыщенными и требующими эмпатии жалобами клиентов, восстановление отношений с клиентами и доверия к компании с помощью индивидуальных решений

Управление проектами

Отслеживание хода работ, автоматическое распределение задач и отправка напоминаний

При возникновении непредвиденных трудностей в проекте — поддержание морального духа команды, ведение рискованных переговоров с ключевыми заинтересованными сторонами и пересмотр целей проекта

Когда ИИ станет повсеместным инструментом выполнения задач, ценность человека сместится с самого «выполнения» на более высокий уровень — «управления выполнением». Мы больше не фигуры на шахматной доске, а шахматист, который определяет цели партии, устанавливает правила игры и несет ответственность за конечный исход. Сосредоточение внимания на оттачивании таких ключевых преимуществ, как постановка целей, оценка ценностей, управление отношениями и укрепление репутации, — вот залог нашего процветания и значимости в эпоху сверхинтеллекта.

3. Личный «ров» превращается из единичного навыка в комплексную систему

В прошлом мы часто использовали понятие «ров» (Moat) для описания структурных преимуществ компании, позволяющих ей противостоять конкуренции и сохранять долгосрочную прибыльность. Точно так же и каждому человеку необходимо создать свой собственный «ров», чтобы обеспечить долгосрочную стабильность и развитие своей карьеры. Однако в эпоху сверхинтеллекта состав индивидуального «рова» претерпевает коренные изменения. Традиционный «ров», то есть достижение высочайшего уровня в одной узкой области (например, «закон 10 000 часов», сформулированный Грэдвелом), становится всё более уязвимым. Когда ИИ способен за несколько месяцев «освоить» опыт, накопленный человеческими экспертами за десятилетия, полагаться исключительно на глубокие, но узконаправленные навыки — все равно что строить плотину из песка на все более бурной реке: она может быть смыта в любой момент. В будущем личный «ров» будет представлять собой не какое-то одно «умение, способное победить дракона», а «портфельную систему» (Portfolio System) — динамическое сочетание множества элементов, взаимно усиливающих друг друга. Прочность этой системы зависит не от самой длинной доски, а от силы взаимодействия всех досок.

Основная идея этого «портфельного рова» заключается в том, чтобы путем «умножения» способностей и ресурсов из разных областей и на разных уровнях создать уникальную, трудновоспроизводимую позицию личной ценности. Она включает в себя, как минимум, следующие пять ключевых элементов:

Переносимые навыки (Transferable Abilities): это краеугольный камень «рва». Это базовые ключевые навыки, не зависящие от конкретной отрасли, конкретной компании или конкретных инструментов. Независимо от того, работаете ли вы в сфере финансов, медицины или искусства, используете ли вы Excel, Python или будущие инструменты искусственного интеллекта, эти навыки одинаково важны. К ним относятся: Системное мышление: способность понимать взаимосвязи между составляющими сложных явлений, видеть картину в целом, а не отдельные узлы. Критическое мышление: способность подвергать информацию сомнению, анализировать, оценивать и обобщать её, формируя независимое суждение. Умение задавать качественные вопросы: способность формулировать вопросы, которые проникают в суть, проясняют границы и ведут к проверяемым ответам. Структурированное общение: способность ясно и логично излагать сложные мысли как в письменной, так и в устной форме, а также убеждать других. Эти навыки важны, поскольку они являются основой для управления ИИ, формулирования задач и оценки результатов. ИИ может давать ответы, но только человек, обладающий этими навыками, способен задавать правильные вопросы и оценивать качество ответов.

Уникальный стек знаний (Unique Knowledge Stack): если переносимые навыки — это «операционная система», то стек знаний — это «приложения», которые вы на ней устанавливаете. В будущем быть экспертом только в одной области будет рискованно, поскольку ИИ, скорее всего, станет более эффективным экспертом в этой области. Настоящее преимущество заключается в создании междисциплинарного, нестандартного набора знаний. Например, человека, разбирающегося только в финансах, может заменить финансовая модель ИИ. Но человек, одновременно владеющий «финансовыми рынками», «поведенческой психологией» и «машинным обучением», сможет предложить торговые стратегии, о которых другие и не догадались бы, или разработать финансовые продукты, более соответствующие человеческой природе. Его ценность заключается в «пересечении» знаний. Ключ к созданию уникального набора знаний заключается в углублении модели «T-образного специалиста»: необходимо не только обладать глубокими знаниями в одной области («I»), но и сознательно приобретать достаточную широту знаний («—») в двух-трех других, связанных или несвязанных областях, а также стремиться к их интеграции.

Социальный капитал (Social Capital): под этим понимается ваша сеть высококачественных межличностных отношений. Речь идет не о количестве друзей в социальных сетях, а о количестве и качестве профессионалов, с которыми вы можете вести глубокий и основанный на взаимном доверии обмен мнениями. Ценность социального капитала заключается в обмене информацией, возможностями и доверием. Зачастую самая важная информация (например, неразглашённая отраслевая тенденция или вновь появившаяся бизнес-возможность) не появляется в открытых отчётах, а распространяется в узких кругах доверенных лиц. Сильная сеть социального капитала позволяет вам раньше получать доступ к такой информации, получать ценную обратную связь и даже находить поддержку в кризисные моменты. В эпоху искусственного интеллекта, когда каждый может легко получить доступ к открытой информации, ценность такого основанного на доверии, закрытого потока информации и возможностей становится ещё более очевидной.

Личная репутация (Personal Reputation): Репутация — это открытая история выполнения вами всех своих обязательств в прошлом. Это самая важная часть вашего «рва», которую необходимо поддерживать в долгосрочной перспективе. Репутация определяет, сможете ли вы превратить свой социальный капитал в реальные возможности. Человек, обладающий обширной сетью контактов, но имеющий плохую репутацию, по-прежнему может не получить доступ к ключевым возможностям сотрудничества. Нет короткого пути к построению репутации: она формируется благодаря каждому качественному выполненному проекту, каждому выполненному обещанию, а также честности и ответственности, проявленным в сложных ситуациях.

Поддающиеся проверке результаты (Verifiable Outputs): это «вещественные доказательства» всех ваших способностей, знаний и репутации. В эпоху информационного перенасыщения устные заявления о себе утратили свою ценность. Вам нужно конкретное портфолио (Portfolio), которое другие могут проверить. Для дизайнера это его дизайнерские проекты; для программиста — репозиторий кода на GitHub; для стратегического консультанта — это могут быть опубликованные им отраслевые аналитические отчеты или примеры успешно реализованных проектов. Эти поддающиеся проверке результаты являются основой вашей репутации и отправной точкой для установления доверия с окружающими. Они молчаливо говорят за вас: «Смотрите, вот на что я способен, вот какое качество результатов я обеспечиваю».

Давайте рассмотрим пример реального человека, чтобы понять, как работает эта «комбинация защитных валов». Скотт Галлоуэй (Scott Galloway) — профессор маркетинга в Школе бизнеса Стерна Нью-Йоркского университета, а также успешный серийный предприниматель, автор бестселлеров и известный подкастер. Его «защитный вал» не сводится к одному навыку. Его «переносимые навыки» проявляются в его остроумном и структурированном анализе и умении выражать свои мысли. Его «уникальный набор знаний» объединяет стратегию брендинга, финансовый анализ, технологические тенденции и государственную политику. Его «социальный капитал» связывает академические круги, технологическое сообщество, Уолл-стрит и медиа-сферу. Благодаря постоянным высококачественным публичным выступлениям (блог, подкаст, лекции) он создал сильный «личный авторитет». А все его книги, компании и публичные прогнозы составляют его «поддающиеся проверке результаты». Эти пять элементов взаимодействуют друг с другом, образуя чрезвычайно прочную и трудно поддающуюся подражанию систему, которая сделала его одним из самых влиятельных голосов в сфере бизнес- и технологической аналитики. Искусственный интеллект в любой отдельной области не способен воспроизвести его способность к междисциплинарной интеграции и формированию ценностных суждений.