Душа машины. Радикальный поворот к человекоподобию систем искусственного интеллекта

Научный редактор Евгений Поникаров

Издано при поддержке компании Axenix

В тексте неоднократно упоминаются названия социальных сетей, принадлежащих Meta Platforms Inc., признанной экстремистской организацией на территории РФ.

Все права защищены. Никакая часть данной книги не может быть воспроизведена в какой бы то ни было форме без письменного разрешения владельцев авторских прав.

© 2022 Accenture Global Solutions. Published by arrangement with Harvard Business Review Press (USA) via Alexander Korzhenevski Agency (Russia)

© Издание на русском языке, перевод, оформление. ООО «Манн, Иванов и Фербер», 2024

Книга Доэрти и Уилсона избавляет от множества предрассудков, связанных с искусственным интеллектом и другими новейшими технологиями. Авторы призывают «радикально очеловечить» подход к инновациям и предлагают дорожную карту, которая поможет сделать шаг в лучшее будущее.

Цифровые технологии – от эмоционального ИИ до метавселенной – стремительно развиваются. Книга Пола Доэрти и Джеймса Уилсона – ценнейшее пособие для руководителей, которое поможет не только модернизировать бизнес, но и выстроить сообщество доверия, в центре которого стоит человек. Рекомендуется всем!

В книге «Душа машины» Пол Доэрти и Джеймс Уилсон показывают, каким образом искусственный интеллект и другие цифровые технологии преображают нашу жизнь. Исходя из научных данных и богатого опыта работы с клиентами, авторы объясняют, почему гуманный, ориентированный на человека подход к бизнесу позволяет обогнать конкурентов и проложить путь в будущее, где любому найдется место по душе.

Книга Пола Доэрти и Джеймса Уилсона позволяет предпринимателям осознать, как радикальный разворот к человеку в сфере высоких технологий преображает инновационные процессы. Авторы предлагают внятную дорожную карту, которая поможет бизнес-лидерам привлечь самых талантливых сотрудников и полностью раскрыть их потенциал.

Пол Доэрти и Джеймс Уилсон взяли на себя очень важную миссию: кратко и доступно описать сложный, стремительно меняющийся ландшафт современного делового мира. В их предыдущей книге обсуждаются первые достижения в сфере искусственного интеллекта. Теперь авторы задаются вопросом: как эта технология меняет привычные представления об инновации?

В книге «Душа машины» Пол Доэрти и Джеймс Уилсон рисуют захватывающие перспективы дальнейшего технологического развития. Человек становится главной фигурой будущего – того будущего, которое в конечном счете выбирает сам.

Вокруг нас множатся новые технологии. Именно они в значительной степени определяют языки, на которых мы говорим и мыслим. Тот, кто не сможет использовать эти языки, останется бессловесным.

Предисловие

«Душа машины. Радикальный поворот к человекоподобию систем искусственного интеллекта» – это продолжение книги «Человек + машина». Первая книга вышла еще до пандемии, которая сильно «сжала» время внедрения технологических инноваций. Во второй книге авторы переосмыслили накопленный опыт прикладного применения технологий ИИ для получения конкурентных преимуществ. Они констатируют как реалистичные возможности, так и концептуальные проблемы и риски, а также, что самое важное, наметившиеся пути преодоления трудностей и векторы дальнейшего развития технологий ИИ.

Книга написана простым языком, доступным для широкого круга читателей. Особенно она будет полезна руководителям, ответственным в компаниях за формирование видения и стратегии технологического и инновационного развития для получения конкурентных преимуществ. Ценно, что проблематика раскрывается через большое количество примеров продуктов и решений, подходов, используемых компаниями из самых разных индустрий и стран.

Если резюмировать, то ситуация сложилась достаточно характерная для любой новой технологии: когда сходит первая волна «очарования» с завышенными ожиданиями, наступает «отрезвление». И вот тогда выясняется, что ИИ-продукты не настолько умные, как нам бы хотелось, «жадные» до данных и мощностей, требуют ресурсозатратного переобучения при, казалось бы, незначительных (с человеческой точки зрения) отличиях или изменениях. Что не так, чего не хватает? Оказывается, тех свойств, которые даны человеку от природы. Рано списывать нас со счетов, роль экспертизы и даже интуиции оказалась недооценена. Авторы множеством примеров иллюстрируют мысль, обозначенную еще в первой книге: именно конвергентные системы, в которых возможности человека усилены ИИ (и наоборот), дадут тот результат и конкурентные преимущества, которые были обещаны с приходом эпохи ИИ. Машина не заменит человека.

Но чтобы человек и искусственный интеллект смогли успешно работать вместе, сам ИИ должен измениться и «повернуться» к людям. Что это значит, для чего необходимо и как это сделать – ответы вы найдете в книге.

Введение. Технологии совершают радикальный разворот к человеку

Когда мы приступили к работе над этой книгой, еще не началась пандемия. Не случились сбои во всех сферах жизни и работы. Не было отчаянного поиска вакцины. И уж точно никто не мог представить, что, вопреки всем ожиданиям и представлениям, она будет создана за считаные месяцы – к тому же не одна, а сразу несколько.

В нашей предыдущей книге – «Человек + машина. Новые принципы работы в эпоху искусственного интеллекта»[1] – мы рассказали, как ведущие компании мира применяют искусственный интеллект (ИИ) для дополнения и расширения возможностей человека, а не вытеснения его из профессиональной среды.

Затем нам захотелось продолжить и осветить тенденции, которые тогда лишь намечались: сотрудничество человека с машиной, заставляющее пересмотреть многие давние тезисы о роли искусственного интеллекта в процессе инновации.

Но тут вмешалась коронавирусная инфекция.

Успешная разработка вакцин подтвердила многие наши догадки и наблюдения. То же можно сказать и о работах ведущих исследователей и практических результатах, достигнутых компаниями в самых разных сегментах и отраслях. Предприятиям любого типа пришлось за год или два пройти путь, который в обычных условиях занял бы не менее десяти лет.

Пандемия оказалась не одноразовым и временным ЧП, с которым нужно просто справиться, а затем вернуться к привычной жизни. Она стала катализатором инноваций, благодаря которым мы все – и на индивидуальном, и на коллективном уровне – стремительно шагнули в будущее. И оно превзошло все, что мы предсказывали в книге «Человек + машина».

Результаты всего двух исследований излагают целую историю. Еще до пандемии наша компания Accenture провела масштабный опрос касательно внедрения «умных» технологий в производство. На вопросы ответили руководители высшего звена из более чем 8300 организаций 20 отраслей 22 стран мира.

Половина компаний имела непосредственное отношение к IT-сектору, вторая – совсем никакого. Респондентов спрашивали о стратегии развития IT-систем, применении 28 различных технологий, подходах к кадровой политике и корпоративной культуре и о специфических финансовых показателях с 2015-го по (согласно прогнозам) 2023 год[2].

Второе (аналогичное) исследование с участием 4000 организаций из 20 отраслей и 20 стран мира мы провели во время пандемии. Респондентами снова были руководители высшего звена – как в IT-сфере, так и вне ее[3].

Сказать, что пандемия ускорила внедрение новых технологий, – значит не сказать ничего: в сравнении с доковидным периодом темпы возросли на 70 %; уровень первичного внедрения цифровых, «умных», облачных и связанных технологий составил в среднем 63 %.

Иными словами, если до вспышки COVID-19 организация не применяла какую-либо технологию, то в период пандемии она внедрялась с вероятностью 63 %. Кроме того, нередко это делалось очень быстро. Как выразился директор по цифровым технологиям одного из гигантов европейской пищевой промышленности, «перемены в IT-структуре, которые мы планировали на 12 или 18 месяцев вперед, произошли за несколько дней».

И все же подавляющее большинство предприятий воспользовались новыми технологиями как палочкой-выручалочкой, а не как двигателем инноваций.

До пандемии середняки и аутсайдеры и так очень сильно отставали от лидеров делового мира: 10 % из них в освоении технологий и инноваций увеличивали доход в 2 раза быстрее, чем нижние 25 %. Почему? Отстающие внедряют технологические новинки бессистемно, замыкают их в отдельных сферах и не могут полностью раскрыть их инновационную сущность.

Лидеры же берут на вооружение широкий спектр новых цифровых инструментов: строят с их помощью живые системы, размывают границы, расширяют пространство для маневра и обеспечивают органичный союз человека с машиной.

Когда пандемия вынудила организации увеличить темп перемен, разрыв между лидерами и аутсайдерами стал еще больше. Лидеры многократно повысили инвестиции в цифровые новинки, стремясь решать непривычные операционные задачи и приспосабливаться к меняющимся потребительским запросам. Они добавили вложения в ключевые технологии, например искусственный интеллект и облачные платформы. Это помогло не только выдержать первоначальный удар, но и обеспечить себе рост. Лидеры не просто выжили – они вышли на качественно новый уровень, еще больше увеличив отрыв.

Масштабный опрос о технологических бизнес-стратегиях и их влиянии на рабочий процесс, проведенный в 2019 году, показал: лидеры в сфере инноваций увеличивают доходность вдвое быстрее, чем аутсайдеры. По данным второго исследования, 10 % компаний-лидеров ушли вперед еще дальше, а их доходы стали расти в пять раз быстрее, чем у замыкающих. Теперь, после пандемии, они могут отстать окончательно и безнадежно – даже несмотря на внедрение новых технологий.

Итак, вывод: в наши дни любой успешный бизнес – это технологический бизнес. При этом на первый план выходит радикально очеловеченный подход к инновациям, нередко диаметрально противоположный традиционным методам, зато он подводит деловой мир к новому моменту истины.

Революционные новинки, о которых мы будем говорить в этой книге, появились, когда технологическая эволюция предыдущего десятилетия уже вызывала скепсис и рос пессимизм. В начале 2010-х годов случился бум инноваций. Искусственный интеллект сулил скорое появление беспилотных автомобилей, беспрецедентный рост производительности, ликвидацию врачебных ошибок и многое другое.

Мастерская работа с социальными сетями помогла впервые избрать темнокожего президента США. Жилые дома, здания, энергосети и даже целые города стали «умными» и продолжили «умнеть». Возможности казались безграничными: каждая новорожденная компания надеялась стать для своей отрасли аналогом Uber или Airbnb.

Но по прошествии нескольких лет инновации как будто повернулись к нам темной стороной. Беспилотные авто оказались смертельно опасными. Крупное научное исследование показало, что системы распознавания лиц, внедренные в полицейскую практику США, в отношении азиатов и африканцев ошибаются в сто раз чаще, чем при идентификации белых. Социальные сети оказались благодатной средой для политических манипуляций и вмешательства в выборы.

Компания Cambridge Analytica без труда получила доступ к персональным данным 87 миллионов интернет-пользователей. К концу десятилетия системы распознавания лиц и анализа цифровых данных применялись властями во всем мире для слежки за миллиардами собственных граждан. В 2020 и 2021 годах хакеры взломали сайты важнейших государственных структур США. Вирусы-вымогатели создавали проблемы в логистических цепочках, поставках газа, работе мясоперерабатывающих предприятий и заставили весь мир задуматься о продовольственной безопасности. И это лишь факты и события, получившие широкую огласку!

Другие проблемы, порожденные ходом технологической эволюции, не попали в пространство публичных дискуссий. Но и несенсационные события ощутимо влияют на жизнь частных лиц, организаций и общества в целом.

ИИ-алгоритмы, внедренные в работу общественных и финансовых организаций, не раз выдавали необъяснимые или предвзятые решения, непосредственно влиявшие на одобрение кредитов, наем сотрудников, судебное разбирательство. «Большой взрыв» цифровых технологий поставил под вопрос равенство возможностей и в деловой среде: инновации в IT-архитектуре привели к ежегодному десятикратному росту вычислительных мощностей, доступных далеко не всем предприятиям, – по сравнению с 2012 годом они увеличились в 300 000 раз. Но стартапам, мелким компаниям и научным лабораториям непосильны затраты на обучение ИИ-систем: им требуется огромное количество данных.

Устаревшие IT-системы не в состоянии угнаться за новыми технологиями, и руководителям многих предприятий теперь сложнее делать грамотные инвестиции в технологическое развитие. «Да, – нередко говорили директора, – мы знаем, что наша компания должна стать технологичной. Но какую именно технологию выбрать?»

Итак, назрели очередные перемены в сфере цифровых инноваций. Двигаться по пути увеличения технологических мощностей и сокращения роли человека уже невозможно. Поэтому траектория технологического прогресса резко изменилась, а новые условия обещают возможную полную гармонию человека и машины.

Принципы взаимодействия человека с «умными» технологиями сейчас выходят на третий этап эволюции. На первом этапе искусственный интеллект применялся для автоматизации рутинных задач: люди обслуживали машины, которые заменяли людей. Такая ситуация порождала мрачные прогнозы: машины скоро вытеснят человека и начнется тотальная безработица.

К счастью, второй этап опроверг опасения пессимистов. Как мы показали в книге «Человек + машина», многие организации стали использовать ИИ, чтобы расширить возможности, а не рассчитать сотрудников.

Руководители таких компаний не согласились, что технический прогресс должен сократить потребность в живой рабочей силе, и в полной мере раскрыли потенциал взаимодействия человека с машиной, превратили механические процессы в творческие, легко масштабируемые и корректируемые операции. Это, в свою очередь, отразилось на структуре бизнеса и финансовых показателях.

Этап сотрудничества, уравнявший возможности человека и машины, теперь сменяется третьей стадией: ключевую роль станет играть человек. Лидеры делового мира не просто обгоняют конкурентов по части инноваций – они совершают решительный разворот к человекоориентированным технологиям: к человеку. И это переворачивает все представления о прогрессе последнего десятилетия.

Этот разворот можно назвать революционным, но вообще он является органичным. Его радикальность заключается в резком изменении условий конкуренции. А органичность – в том, что на первый план выводятся чисто человеческие качества и способности: мышление, понимание, эмоциональный отклик. «Умные» технологии уже давно подарили нам сверхчеловеческие возможности, однако теперь к ним добавляется человеческое измерение, содержащее не только наши таланты, но и ошибки.

Поведенческая экономика включила в сферу интересов когда-то сухой науки плохо предсказуемый человеческий фактор – инновации предполагают поправку на предвзятость и прочие человеческие несовершенства, которыми оказались заражены предыдущие поколения искусственного интеллекта и связанных с ним технологий.

Радикально очеловеченный подход побуждает в корне изменить представления о ключевых компонентах цифровых инноваций: искусственном интеллекте, данных, экспертном знании, архитектуре и стратегии (IDEAS)[4]. Такой сдвиг предлагает организациям любой величины новую дорожную карту прогресса, позволяет проложить курс в будущее, многократно ускорить рост доходов и обеспечить себе конкурентное преимущество в мире, где человек и человечность станут одновременно и залогом, и мерилом успеха.

• Искусственный интеллект. Привычный нам метод машинного обучения не позволяет задействовать и осмыслить причинно-следственную связь, пространство, время и другие базовые понятия, которыми с легкостью оперирует человек, прокладывая себе путь в мире. Но в наши дни передовые исследовательские центры и компании разрабатывают устройства и приложения, которые способны на «мыслительную деятельность», во многом схожую с человеческим подходом к выполнению задач и решению проблем. Так, новое поколение роботов может обобщать данные о месте или среде – например, о пространстве склада – и манипулировать предметами, не дожидаясь команды. Можно рассмотреть и эмоциональный ИИ, выросший из практики общения с детьми-аутистами и ставший инструментом, который помогает им понять и выразить свои чувства. На этой основе сегодня разрабатывается новый автомобильный бортовой компьютер, который, вероятно, спасет не меньше жизней, чем ремень безопасности. Новые технологии задействуют самые мощные когнитивные способности человека – осведомленность и адаптивность, и со временем это обещает помочь в поиске решений насущных экономических и социальных задач.

• Данные. Глубокое обучение требует огромного массива данных и мощной инфраструктуры, что делает ИИ недоступным для многих организаций. Однако вскоре мы получим вертикально интегрированные системы, которым не нужны объемы данных. Они будут работать быстрее, применяться шире, а стоить – намного дешевле. Некоторые компании – например, мебельный онлайн-ретейлер Wayfair – успешно обучают ИИ-алгоритмы в таких сферах, где ранее информационный шум от обилия доступных товаров совершенно забил бы небольшие массивы актуальных данных. По мере эволюционирования искусственного интеллекта научные и коммерческие организации разрабатывают новые приемы и методы: от повторного использования данных в системе и активного обучения (система сама подсказывает, какие данные ей для этого необходимы) до синтетических данных, которые создаются, когда реальных не существует. Размеры, форматы, источники и способы применения данных меняются, и в ходе этого процесса предприниматели получают ценный опыт и дополнительное пространство для маневров на рынке.

• Экспертное знание. Разворот к человеку в сфере «умных» технологий в корне меняет многие представления о роли людей и накопленного ими опыта в новых цифровых экосистемах. Здесь мы наблюдаем один из наиболее значительных сдвигов: от машинного обучения путем обработки огромных массивов данных до наставничества, когда машина обучается под руководством человека с его знанием, опытом и чутьем. Человек обучает машину не «снизу вверх» (от частного к общему), а «сверху вниз», прививая чисто искусственной системе элементы живого природного интеллекта. Например, в компании Royal Dutch Shell инженер или другой штатный специалист дополняют базовый уровень машинного обучения еще одной высокоуровневой программой. Такой метод резко сокращает время на обучение системы правильным действиям при внезапной смене внешних условий. Корпорация Tesla обучает автомобильные бортовые компьютеры с функцией автопилота на примере сотен тысяч водителей. Торговая интернет-платформа Etsy разработала систему рекомендаций и подсказок на основе эстетических категорий, для чего экспертам пришлось обучить искусственный интеллект субъективным представлениям о стиле. Оказавшись в роли наставников машины, специалисты любого уровня и профиля находят накопленному опыту новое применение и, в свою очередь, помогают творчески использовать «умные» инструменты.

• Архитектура. Раз уж в наши дни все компании поневоле становятся технологическими, то и цифровая архитектура приобретает особое значение. Привычный IT-набор включает в себя софт, аппаратное обеспечение, телекоммуникации, специальные помещения и центры обработки данных. Но такой комплект в сегодняшнем гиперцифровом мире мобильных вычислений, ИИ-приложений, интернета вещей (IoT) и миллиардов устройств попросту не может функционировать, так как не способен поддержать радикальный разворот к человеку в сфере искусственного интеллекта, данных и экспертного знания, который меняет и темп, и условия инновации. Вместо жесткого привычного набора передовые компании создают «живые системы» – гибкие, трансграничные и радикально очеловеченные архитектуры, придающие элегантную простоту взаимодействию людей с машинами. В качестве примера отлично подходит компания Epic Games, разработчик игрового движка Unreal Engine. Его гибкая многофункциональная архитектура позволяет 8 миллионам пользователей одновременно подключаться к игре со сложной и богатой графикой, заодно собирая обильный и бесперебойный поток данных для последующего анализа с помощью ИИ-технологий. Раскрыв всю мощь и многофункциональность облачных технологий и прибавив к ним возможности искусственного интеллекта и периферийных вычислений, радикальный разворот к человеку в сфере архитектуры ознаменовал новую эпоху, где конкуренция в любой отрасли превращается в битву систем.

• Стратегия. Ведущие компании мира начинают практиковать принципиально новый подход к стратегии, заодно порождая мощные механизмы создания ценности. Подкрепленные «умными» технологиями, новые бизнес-модели строятся на единстве стратегии и практики. Учитывая резкое ускорение цифровой трансформации и стремительное обновление «умных» инструментов, компании-лидеры понимают, что больше не могут позволить себе последовательно разрабатывать стратегию, вести пилотные проекты и лишь затем переходить к ее широкому внедрению. Новая реальность требует инновационных стратегий. Среди них особенно ярко выделяются три типа: Forever Beta («Бета навсегда»), Minimum Viable IDEA («Минимально жизнеспособная идея» (МЖИ)) и Co-lab («Сотрудничество»). Стратегии группы «Бета навсегда» делают ставку на ПО-продукты и сервисы, которые постоянно дорабатываются и улучшаются после приобретения (как, например, у компании Tesla), так что их ценность и польза для потребителя со временем только растут. Стратегии группы МЖИ опираются на один или несколько компонентов из набора IDEA «интеллект – данные – экспертное знание – архитектура – стратегия», укрепляя слабые места в конкретной отрасли и обеспечивая первоклассный потребительский опыт, который можно оперативно масштабировать ради преимущества на рынке. Так, молодой страховой компании Lemonade при помощи «умных» чат-ботов, алгоритмов машинного обучения и облачных технологий удалось выработать подход, который помещает в центр процесса потребителя, устраняя взаимное недоверие страховщика и клиента. Стратегии группы «Сотрудничество» направлены на достижение выдающихся результатов в наукоемких областях за счет синтеза человеческих способностей и возможностей машины. Трудно найти этому более яркую иллюстрацию, чем рекордно быстрая разработка вакцины от COVID-19 компаниями Moderna и Pfizer/BioNtech.

Изучив IDEAS – искусственный интеллект, данные, экспертное знание, архитектуру и стратегию, – любой руководитель, даже далекий от IT-сектора, сможет лучше понять отдельные элементы нового технологического пейзажа, чтобы на всех уровнях организационной структуры внести необходимые изменения. Инновации возможны в любой сфере – от НИОКР и повседневных рутинных операций до кадровой политики и бизнес-модели. Руководители с глубокими познаниями в области «умных» технологий, вероятно, сумеют выйти за рамки узкой специализации и полнее раскрыть потенциал цифровой трансформации.

Но еще важнее (и для IT-специалистов, и для людей, далеких от этого сектора), что IDEAS обеспечивает единую точку отсчета, позволяющую скоординировать деловые и технологические инициативы. В фокусе внимания – человек, и радикальный разворот в его сторону в будущем станет главным конкурентным преимуществом на рынке.

Пытаясь сформулировать критерии успеха в новой ситуации, мы опирались на результаты двух исследований, проведенных до и после пандемии. В обоих случаях мы прежде всего оценивали гибкость административной структуры и готовность к внедрению технологий. Кроме того, мы учитывали данные экспертов крупных компаний, опыт наших клиентов, а также идеи бизнес-лидеров и ведущих ученых из разных стран, высказанные в дискуссиях по поводу книги «Человек + машина».