Человечество и искусственный интеллект

Главная проблема не в том, насколько умной станет машина

О будущем искусственного интеллекта существует огромное количество прогнозов.

Одни предполагают чрезвычайно быстрое развитие.

Другие считают ожидания завышенными.

Одни говорят об интеллекте человеческого уровня.

Другие указывают на фундаментальные ограничения современных систем.

Этот спор важен для исследователей и разработчиков.

Но предпринимателю или специалисту не обязательно знать точную траекторию развития технологии на двадцать лет вперёд.

Для принятия решений уже достаточно того, что произошло.

Системы умеют работать с текстом.

Кодом.

Изображениями.

Голосом.

Видео.

Документами.

Данными.

Способны пользоваться внешними инструментами.

Выполнять последовательности действий.

Помогать решать задачи, которые ещё несколько лет назад считались слишком сложными для универсальной машины.

Этого уже достаточно, чтобы менять бизнес.

Поэтому я не собираюсь строить эту книгу вокруг попытки угадать точную дату появления какой-либо будущей формы искусственного интеллекта.

Это было бы ложной точностью.

Мне гораздо интереснее сегодняшний человек.

Сегодняшний бизнес.

Сегодняшняя организация.

И решения, которые нужно принимать уже сейчас.

Самая большая ошибка — смотреть на новую технологию через старую работу

Когда появляется новый инструмент, первое желание человека совершенно естественно:

применить его к тому, что он уже делает.

Так произошло и с генеративным искусственным интеллектом.

Люди увидели систему, способную писать текст, и начали использовать её для написания текстов.

Способную создавать изображения — для создания изображений.

Способную программировать — для ускорения программирования.

Это нормальный первый этап.

Но большие технологические изменения редко заканчиваются улучшением старой операции.

Автомобиль оказался важен не потому, что стал более быстрой лошадью.

Интернет — не потому, что оказался более быстрым способом отправить письмо.

Смартфон — не потому, что заменил кнопочный телефон.

Настоящие изменения начинаются тогда, когда технология позволяет по-другому организовать саму деятельность.

Поэтому один из центральных вопросов этой книги будет звучать так:

если бы мы создавали наши компании, профессии и способы работы сегодня с чистого листа, зная всё, что уже умеет искусственный интеллект, стали бы мы строить их так же?

Я подозреваю, что довольно часто ответом будет «нет».

Мы слишком долго принимали ограничения человека за естественное устройство бизнеса

Многое в современных компаниях существует в привычной форме не потому, что это лучший способ создать результат.

Просто раньше иначе было нельзя.

Человек медленно читает.

Поэтому появилась система отчётов.

Человек не способен знать всё происходящее в большой компании.

Поэтому появились несколько уровней управления.

Человек забывает.

Поэтому появилась огромная система фиксации информации.

Один специалист не может обслужить тысячу клиентов одновременно.

Поэтому рос штат.

Анализ требует времени.

Поэтому решения принимаются с задержкой.

Обучение нового сотрудника долгое.

Поэтому рост компании имеет естественные пределы скорости.

Большая часть организационной архитектуры человечества создана вокруг ограниченной пропускной способности человеческого интеллекта.

И вдруг рядом появляется технология, способная с некоторыми видами информации работать совсем иначе.

Это ещё не означает, что старые компании завтра станут ненужными.

Но означает, что многие привычные решения впервые за долгое время можно поставить под сомнение.

Мы привыкли автоматизировать физический труд. Теперь очередь дошла до интеллектуального

Промышленная революция изменила отношения человека с физическим трудом.

Машина могла поднимать больше.

Производить быстрее.

Повторять точнее.

Постепенно человек перестал считать признаком профессионализма способность выполнять всё физически самостоятельно.

Никто не говорит инженеру:

«Если ты настоящий специалист, выкопай котлован лопатой».

Использование сильного инструмента воспринимается как естественное.

С интеллектуальным трудом ситуация пока другая.

Мы привыкли считать, что хороший специалист должен многое делать собственным умом и собственными руками.

Сам изучить.

Сам написать.

Сам проверить.

Сам подготовить.

Именно поэтому искусственный интеллект затрагивает наше профессиональное самолюбие гораздо сильнее обычной автоматизации.

Если машина пишет хороший текст, человеку кажется, что технология отнимает часть того, что делало его специалистом.

Но, возможно, мы просто вступаем в аналогичный переход.

Через некоторое время использование интеллектуальной машины может стать таким же естественным, как сегодня использование экскаватора, калькулятора или поисковой системы.

Тогда профессионализм будет определяться не способностью отказаться от инструмента.

А способностью правильно им управлять.

Но эта технология отличается от молотка

Было бы ошибкой представить искусственный интеллект просто ещё одним инструментом.

Молоток не предлагает плотнику новый способ построить дом.

Калькулятор не спорит с бухгалтером.

Excel не задаёт предпринимателю вопрос, действительно ли его бизнес-модель имеет смысл.

Современный искусственный интеллект способен участвовать в самой интеллектуальной работе.

Предлагать.

Спорить.

Сравнивать.

Находить слабые места.

Создавать альтернативы.

Иногда выполнять последовательность действий самостоятельно.

То есть перед нами появляется необычный инструмент.

Он может быть одновременно исполнителем, советником, исследователем, критиком и собеседником.

Такого инструмента у человека раньше просто не было.

Поэтому нам придётся научиться взаимодействовать с ним иначе.

Чем сильнее становится помощник, тем важнее понимать собственную роль

Когда инструмент слабее человека практически во всём, распределение ответственности очевидно.

Человек решает.

Инструмент выполняет.

Но что происходит, если машина анализирует данные лучше?

Помнит больше?

Обрабатывает документы быстрее?

В отдельных задачах пишет код сильнее среднего специалиста?

Способна рассмотреть больше вариантов?

Где теперь должен находиться человек?

Самый лёгкий ответ:

«Человек всё равно главный».

Но что именно означает «главный»?

Нажимать последнюю кнопку?

Формально подтверждать решение?

Нести ответственность?

Определять цель?

Менять правила?

Именно эти вопросы постепенно становятся намного важнее привычного спора о том, кто умнее.

Возможно, мы неправильно формулируем само соревнование

Общественная дискуссия часто строится вокруг противостояния.

Человек против ИИ.

Врач против ИИ.

Юрист против ИИ.

Программист против ИИ.

Художник против ИИ.

Но реальная экономика почти наверняка будет устроена иначе.

Человек с ИИ будет конкурировать с человеком без него.

Компания, глубоко перестроившая процессы вокруг новых возможностей, — с компанией, которая использует ИИ поверх старой структуры.

Небольшая команда с сильным технологическим рычагом — с большой командой старого типа.

Поэтому ключевой единицей сравнения становится не отдельный человек и не отдельная модель.

А система их взаимодействия.

Это одна из главных идей книги.

Я не хочу писать книгу о том, как пользоваться нейросетью

Подобных материалов уже существует огромное количество.

Какие запросы задавать.

Как создавать текст.

Как генерировать картинки.

Как автоматизировать почту.

Как использовать конкретный сервис.

Такие инструкции полезны.

Но они быстро устаревают.

Эта книга о другом уровне.

Как меняется само представление о работе?

Что теперь означает быть сильным профессионалом?

Как проектировать организацию?

Что поручать машине?

Какой контроль оставить человеку?

Как превратить корпоративный опыт в систему?

Как изменится цена интеллекта?

Что станет новым дефицитом?

Какие человеческие качества приобретут большую ценность?

То есть нас интересует не инструкция по использованию конкретного инструмента.

Нас интересует новая архитектура отношений человека, бизнеса и интеллекта.

Эта книга не является рекламой искусственного интеллекта

Мне важно обозначить это сразу.

Я не считаю, что любой процесс станет лучше после добавления ИИ.

Не считаю, что максимальная автоматизация является правильной целью.

Не думаю, что человеческое участие — недостаток, который необходимо удалить.

Не думаю, что каждая компания должна срочно объявить себя AI-компанией.

Более того, вокруг новой технологии уже сформировалось огромное количество шума.

Компании добавляют слово AI в продукты, которые почти не изменились.

Старые функции переименовываются.

Обычная автоматизация выдаётся за интеллектуальную революцию.

Продавцы технологий обещают результаты, которых организация не готова достичь.

Любая большая технологическая волна создаёт подобный период.

Поэтому одна из задач книги — отделить фундаментальные изменения от моды.

Но и недооценивать происходящее было бы ошибкой

Скептицизм иногда кажется проявлением зрелости.

Человек говорит:

«Мы всё это уже видели».

«Очередная модная технология».

«Через несколько лет все успокоятся».

Возможно, вокруг ИИ действительно существует избыток ожиданий.

Но это не отменяет самого изменения.

Даже если половина прогнозов не сбудется, сегодняшних возможностей уже достаточно для перестройки огромного количества видов деятельности.

Компания, которая отказывается экспериментировать только потому, что не верит самым громким обещаниям, смешивает две разные вещи.

Скептицизм к хайпу.

И слепоту к технологии.

Можно одновременно не верить в фантастические сценарии и очень серьёзно относиться к практическим изменениям.

Именно такую позицию я считаю наиболее разумной.

Эта книга не о неизбежном будущем

Слово «будущее» часто создаёт странное ощущение.

Словно где-то впереди уже существует готовый мир, который просто постепенно приближается к нам.

Но технологическое будущее не существует в готовом виде.

Оно создаётся.

Предпринимателями.

Инженерами.

Законодателями.

Потребителями.

Руководителями.

Людьми, которые принимают миллионы небольших решений.

Использовать или не использовать.

Автоматизировать или оставить человеку.

Собирать данные или нет.

Разрешить системе действовать самостоятельно или потребовать подтверждение.

Заменить сотрудника или усилить его.

Создать новый продукт или просто сократить затраты.

Из таких решений постепенно и складывается новая реальность.

Поэтому мне не близко утверждение:

«ИИ сделает то-то и то-то».

Гораздо точнее:

люди с помощью ИИ смогут сделать очень разные вещи.

Какие именно — ещё не определено.

Технология предоставляет возможность. Человек определяет направление

Возьмём простой пример.

Искусственный интеллект способен анализировать работу сотрудника.

Эту способность можно использовать, чтобы создать почти тотальную систему контроля.

А можно — чтобы раньше замечать перегрузку и помогать человеку.

Та же технология.

ИИ способен анализировать клиентов.

Можно использовать это для манипуляции их слабостями.

А можно — чтобы избавить человека от ненужной рекламы и дать ему действительно подходящий продукт.

Та же технология.

Система может автоматизировать работу.

Компания может сократить людей.

Или увеличить объём бизнеса без роста штата.

Или перевести специалистов на более сложные функции.

Опять та же технология.

Следовательно, последствия не содержатся внутри алгоритма.

Они рождаются в месте его соединения с человеческой целью.

Именно поэтому разговор должен начинаться с человека

Мы могли бы начать книгу с архитектуры трансформеров.

С истории искусственного интеллекта.

С описания нейронных сетей.

Но мне кажется, это было бы неправильно.

Потому что для читателя важнее сначала понять, почему всё это имеет отношение лично к нему.

Не к Кремниевой долине.

Не к разработчикам.

Не к абстрактной экономике будущего.

К нему.

К его профессии.

Компании.

Деньгам.

Времени.

Детям.

Способу принимать решения.

И даже к тому, как он будет определять собственную ценность.

Поэтому первая часть книги начинается именно с человека перед новой технологической эпохой.

Сначала мы изменим точку зрения

В первой части мы попробуем избавиться от слишком простой картины, в которой человек и машина стоят друг напротив друга.

Посмотрим, почему страх перед ИИ имеет рациональные основания.

И почему одновременно сама идея соревнования с машиной может вести нас не туда.

Нас будет интересовать новая форма конкуренции — между людьми и организациями, которые по-разному используют доступный им интеллект.

Затем разберёмся, что находится по другую сторону экрана

Во второй части нам придётся ненадолго войти в устройство самой технологии.

Не для того, чтобы превратить читателя в программиста.

А чтобы избавиться от мистики.

Понять переход от обычных программ к машинному обучению.

От правил — к данным.

От узких моделей — к большим.

От текста — к мультимодальности.

От чат-бота — к агенту.

Чем лучше человек понимает природу инструмента, тем меньше склонен как переоценивать его, так и недооценивать.

Потом посмотрим, где ИИ уже встречается с реальной экономикой

Третья часть будет посвящена не лабораториям, а работе.

Производству.

Офису.

Профессиональным услугам.

Науке.

Медицине.

Маркетингу.

Строительству.

Финансам.

Малому бизнесу.

Нас будет интересовать не сам факт применения искусственного интеллекта.

А момент, когда технология начинает создавать экономическую ценность.

После этого придётся провести границу

Это, возможно, один из самых трудных вопросов книги.

Что стоит отдать машине?

Что должен сохранить человек?

Когда система может действовать самостоятельно?

Когда последнее слово должно оставаться человеку?

Кто отвечает за ошибку?

Что важнее: точность или объяснимость?

Где заканчивается рекомендация и начинается решение?

Четвёртая часть посвящена именно этой движущейся границе.

Затем мы перестроим сам бизнес

Пятая часть является центральной с практической точки зрения.

Мы попробуем представить организацию, которая создаётся не в мире прошлого века, а сегодня.

Как должны выглядеть процессы, если интеллектуальная работа может распределяться между людьми и системами?

Что происходит с данными?

С совещаниями?

С должностями?

С корпоративной памятью?

С управлением?

С агентами?

С контролем?

С бизнес-моделью?

Главный вопрос будет очень прост:

если бы мы создавали компанию сегодня с чистого листа, что сделали бы иначе?

И только после этого снова вернёмся к человеку

Последняя часть посвящена последствиям.

Что происходит, когда определённые формы интеллектуальной работы дешевеют?

Какие навыки теряют стоимость?

Что становится новым дефицитом?

Что происходит с образованием?

С профессиями?

С предпринимательством?

С репутацией?

С авторством?

С человеческой самостоятельностью?

И почему в мире очень сильного искусственного интеллекта одних интеллектуальных способностей человеку может оказаться уже недостаточно.

В этой книге не будет окончательных ответов на всё

И это сознательная позиция.

Технология развивается слишком быстро, а её последствия слишком сложны, чтобы человек, который сегодня обещает точную картину будущего, вызывал у меня большое доверие.

Поэтому там, где существует неопределённость, я предпочитаю оставить её неопределённостью.

Но отсутствие точного ответа не означает, что невозможно сформулировать сильные принципы.

Мы можем не знать, какой именно будет следующая модель.

Но можем понимать важность контроля.

Не знать, какая профессия изменится быстрее.

Но видеть, почему работа распадается на задачи.

Не знать, насколько автономными станут агенты.

Но уже сейчас проектировать уровни полномочий.

Не знать, какой будет компания через десять лет.

Но понимать, что плохие данные и плохие процессы не становятся хорошими только потому, что к ним добавили ИИ.

Именно такие принципы стареют значительно медленнее конкретных прогнозов.

Мне хотелось написать книгу, которую не придётся выбрасывать после следующего обновления модели

Это одна из причин, почему здесь относительно мало внимания будет уделено конкретным названиям сервисов.

Сегодня они лидируют.

Завтра поменяются.

Через несколько лет некоторые исчезнут.

Книга должна находиться уровнем выше.

Так же как книга о стратегии не должна зависеть от конкретной CRM-системы, разговор об искусственном интеллекте и бизнесе не должен превращаться в инструкцию к интерфейсу 2026 года.

Нам интересна сама логика происходящего.

Для предпринимателя всё это особенно важно

Предприниматель существует на границе между настоящим и будущим.

Его работа в каком-то смысле всегда заключается в том, чтобы использовать ещё не до конца очевидные изменения раньше, чем они станут очевидными для всех.

Когда рынок полностью понял возможность, она часто уже перестала быть редкой.

Поэтому предприниматель не может позволить себе роскошь дождаться момента, когда все вопросы вокруг ИИ будут окончательно решены.

Но он также не может позволить себе бездумно следовать за каждой технологической модой.

Именно между этими двумя крайностями находится настоящая предпринимательская работа.

Не обязательно быть программистом, чтобы участвовать в этой революции

Это одна из важнейших особенностей нынешнего перехода.

Предыдущие этапы цифровизации часто отдавали преимущество людям с техническим образованием.

Чтобы создать цифровой продукт, требовалось умение программировать или доступ к команде разработчиков.

Естественный язык постепенно снижает этот барьер.

Человек может объяснить системе то, что хочет получить.

Это не отменяет специалистов.

Не отменяет техническое знание.

Но делает интеллектуальную технологию доступной значительно более широкому кругу людей.

Возможно, именно поэтому изменения будут такими масштабными.

ИИ выходит из IT-отдела.

И становится инструментом юриста.

Врача.

Архитектора.

Финансиста.

Предпринимателя.

Учёного.

Руководителя.

Но доступность инструмента не гарантирует результата

У миллионов людей есть одинаковый доступ к интернету.

Но они используют его совершенно по-разному.

Для одного это огромная библиотека.

Для другого — бесконечное развлечение.

Для третьего — рынок.

Для четвёртого — профессиональный инструмент.

С искусственным интеллектом будет так же.

Сам факт доступа не создаёт преимущества.

Преимущество создаёт способ использования.

Одному человеку ИИ позволит думать меньше.

Другому — думать глубже.

Одному — производить больше информационного шума.

Другому — построить компанию.

Одному — перестать учиться.

Другому — учиться в несколько раз быстрее.

Инструмент один.

Направление разное.

Поэтому эта книга не столько об ИИ, сколько о позиции человека

Пассивной или активной.

Испуганной или любопытной.

Зависимой или управляющей.

Поверхностной или глубокой.

Можно провести несколько следующих лет, наблюдая, как технология меняет мир.

А можно участвовать в определении того, как именно она будет его менять.

Мне ближе второе.

Но участие требует понимания.

И именно с попытки такого понимания начинается эта книга.

Мы находимся не в конце человеческого интеллекта

Скорее наоборот.

Мы оказались в моменте, когда впервые вынуждены очень внимательно разобраться, что мы вообще называли интеллектом.

Память?

Машина помнит больше.

Счёт?

Считает быстрее.

Текст?

Пишет.

Изображение?

Создаёт.

Код?

Программирует.

Если всё это уже не является исключительно человеческим, приходится идти глубже.

К цели.

Суждению.

Ответственности.

Вкусу.

Воле.

Отношениям.

Способности определить смысл действия.

Возможно, искусственный интеллект окажется не только технологическим инструментом.

Но и своеобразным зеркалом, заставляющим человека лучше увидеть самого себя.

Самый интересный вопрос начинается сейчас

Я не думаю, что главный вопрос нашего времени звучит так:

«Станет ли искусственный интеллект умнее человека?»

Возможно, в отдельных областях он уже сильнее.

В других слабее.

Этот баланс будет меняться.

Мне кажется интереснее спросить другое:

«Что станет с человеком, когда рядом с ним постоянно будет существовать доступный машинный интеллект?»

Что мы перестанем делать?

Чему начнём учиться?

Что передадим?

Что захотим сохранить?

Как изменим компании?

Как изменимся сами?

И каким образом воспользуемся возможностью, которой не было ни у одного предыдущего поколения?

Ответа пока нет.

И в этом, пожалуй, заключается главное преимущество нашего времени.

Мы не наблюдаем завершённую технологическую эпоху.

Мы присутствуем при её начале.

А значит, всё самое интересное ещё можно не только увидеть.

В этом ещё можно принять участие.

С этого и начнём.

ЧАСТЬ I. ЧЕЛОВЕК ПЕРЕД НОВОЙ ТЕХНОЛОГИЧЕСКОЙ ЭПОХОЙ