Кот плохому не научит. Нейросети особого назначения

Паттерн был неприятно прост: раньше всего исчезали повторяемые куски работы — те, которые можно достаточно ясно описать и быстро проверить. — Значит, ИИ уничтожает скучную работу?

Мы переписали профессии в глаголы: писать первый вариант, переводить типовой текст, рисовать вариации, писать шаблонный код, сводить таблицы, отвечать на повторяющиеся вопросы. Драма уменьшилась, точность выросла.

— Автоматизируется не название должности, — сказал Кот. — Автоматизируются действия внутри неё.

Каждый глагол распадался дальше: понять задачу, найти факты, сделать черновик, проверить, согласовать. Впервые расследование получило рабочую единицу — не профессию, а задачу. — Иногда скучная работа — вход в профессию, — сказал Кот. — Если убрать лестницу, вершина не станет доступнее.

В самолёте я попытался построить свою классификацию исчезающих задач. Кот спал в маске, чем пугал стюардессу и радовал ребёнка через проход. Я разделил работу на «рутинную» и «творческую». Проснувшись, Кот посмотрел на лист и сразу его испортил. — Проверка договора — рутина? — Иногда. — А если договор на миллиард? — Тогда не рутина. — Значит, дело не в повторяемости.

Переговорная с доской, исписанной названиями профессий. Сухой скрип маркера, серый московский свет, бумажные досье. Внешне всё выглядело спокойно, но за спокойствием чувствовалась скорость: решения, которые раньше проходили через несколько рук, теперь собирались за минуты. Эта скорость была настоящим преимуществом и одновременно новым источником ошибок — не потому, что машина обязательно ошибалась чаще, а потому, что ошибочный результат тоже успевал пройти дальше быстрее.

В Ванкувер мы ехали под дождём. Кот считал, что город должен соответствовать жанру, и был доволен погодой. Я пытался представить, как выглядело бы «исчезновение профессии» статистически. Закрытая вакансия? Сокращённая команда? Человек, который теперь делает другое под тем же названием? — Вот именно, — сказал Кот. — Название должности запаздывает за работой.

Он привёл бухгалтеров, которые давно не считают на счётах, фотографов без плёнки и архитекторов с цифровыми моделями. Названия переживают инструменты. Иногда переживают даже половину старых задач. — Тогда журналистский вопрос «исчезнет ли профессия» всегда плохой? — Нет. Он хороший для заголовка. Для решения человеку нужен следующий вопрос: какие задачи исчезают, какие дорожают, какие появляются и чему мне надо научиться.

На светофоре Кот посмотрел на карту.

К вечеру карта перестала быть похожа на детективную и стала напоминать плохо спроектированный бизнес-процесс. Красные нити шли от профессий к задачам, от задач — к данным, от данных — к решениям.

Я предложил третью колонку: «Что появилось нового?» У Максима там оказались отбор вариантов, настройка процесса, проверка фактов и работа с контекстом. У Анны — сравнение машинных версий и контроль терминологии. — Мы расследуем исчезновения, а находим рождения, — сказал я. — Не спеши радоваться. Рождение новой задачи не гарантирует, что старому сотруднику её отдадут.

Эта фраза испортила красивую схему и сделала её честнее. Новая работа могла появиться в одном месте, а сокращение — в другом. Трансформация профессии не была автоматической программой переподготовки. — И ещё: кто платит цену перехода.

Мы стали рисовать процесс от начала до конца. Не «ИИ решил», а: человек поставил цель; система получила контекст; модель предложила; правило разрешило; инструмент выполнил; результат увидел другой человек. Стоило расписать цепочку глаголами, и таинственная автономность становилась набором вполне проверяемых разрешений. Вместе с мистикой исчезала и возможность сказать: «это всё сделала нейросеть, мы ни при чём».

Я подумал, что язык вообще часто прячет ответственность. «Система рекомендовала», «алгоритм определил», «автоматизация решила». Грамматически действие есть, а действующее лицо растворилось. Кот сказал, что это любимый фокус любой бюрократии, просто теперь у неё появился очень быстрый помощник.

Эта строка пока не помещалась ни в одну нашу таблицу. — Один и тот же уровень способности ИИ может быть приемлем в одной задаче и неприемлем в другой, — сказал Кот.

Я нарисовал четыре квадрата. Он добавил пятый: «Кому станет хуже, если ошибёмся?» — Это уже не матрица. — Мир переживёт.

Через проход мужчина попросил нас помочь подключиться к Wi-Fi. Кот сделал это за минуту, после чего мужчина спросил, не айтишники ли мы. — Хуже, — ответил Кот. — Консультанты.

Я подумал о восьми профессиях. Возможно, N.N. специально выбрал их не потому, что они исчезают быстрее остальных, а потому, что в них хорошо видно разные типы делегирования: текст, изображение, код, анализ, влияние, общение, обучение.

Когда самолёт начал снижаться, я показал Коту эту мысль. Он впервые за полёт не пошутил. — Запиши как гипотезу. — Почему не как факт? — Потому что мне нравится. А это самая опасная причина повысить уверенность.

Метаданные фотографии Анны вывели нас на Ванкувер. На другой фотографии она была жива.

Кот зачеркнул гипотезу «ИИ уничтожает профессии» и написал: «ПОКА ИСЧЕЗАЮТ ЧАСТИ РАБОТЫ». — Хорошая новость? — Новость. Не заставляй факты быть оптимистами.

Чтобы проверить идею «автоматизируются действия», Кьюша устроила нам игру на скорость. На доске было восемь должностей, а на столе — карточки с действиями. Нужно было раскладывать их без названий профессий. «Сверить терминологию» ушло к переводчику и юристу. «Выбрать исключение» — к аналитику, поддержке и преподавателю. «Объяснить решение человеку» внезапно оказалось почти везде. Кот намеренно подсовывал спорные карточки. Через двадцать минут доска стала похожа на расследование убийства, совершённого бизнес-процессом. — Красные нити где? — спросил я. — Закончились. Бюджет ушёл на маркеры.

На одной карточке было написано «проверить очевидное». Все сначала отложили её как бессмысленную. Потом Кьюша рассказала о сотруднице поддержки, которая заметила, что новый помощник начал отвечать клиентам быстрее, но перестал задавать один «очевидный» уточняющий вопрос. Среднее время ответа улучшилось, число повторных обращений выросло. В отчёте система победила. В жизни люди писали второй раз. Мы вернули карточку на доску. Кот подписал: «Очевидное — это часто название для контекста, который никто не внес в данные».

Глава 5. Первый подозреваемый

В аэропорту Кот открыл ChatGPT и написал: «Ты уничтожаешь профессии?» Ответ был длинным, аккуратным и бесполезным. — Признался? — В существовании экономики.

Я сформулировал иначе: перечислить задачи копирайтера, которые языковые модели уже могут ускорить; отдельно — задачи, где нужен человеческий контекст, проверка или ответственность; указать риски.

Ответ стал полезнее. — Неприятно, — сказал Кот.

У выхода на посадку Кот попросил ChatGPT перечислить собственные ограничения. Ответ был образцовый: ошибки возможны, важное надо проверять. — Значит, предупреждение есть.

— Предупреждение не мешает человеку поверить красивому ответу, — сказал я.

Мы попросили источники к одному уверенно звучащему объяснению. Часть ссылок не подтверждала тезис.

— Поэтому «попросить источники» мало, — сказал Кот. — Их ещё надо открыть. — Что?

В Сан-Франциско мы не попали ни на секретный этаж, ни в комнату с мигающим суперкомпьютером. Вместо этого Кот устроил мне экскурсию по собственным ошибкам. Мы сели в кафе и открыли несколько разговоров с моделью.

В первом я попросил объяснить квантовые вычисления «просто». Получилось просто и почти бесполезно. Во втором уточнил, что мне нужно понять только идею суперпозиции для разговора с неспециалистом и привести аналогию с оговоркой, где она ломается. Стало лучше. — Контекст не украшение промпта, — сказал Кот. — Он меняет задачу.

Кот устроил допрос модели прямо у выхода на посадку. За каждой цифрой обнаруживалась биография, а за каждым «ускорением» — кто-то, кому предстояло перестроить рабочий день. Разговорный интерфейс сделал ИИ бытовым раньше, чем люди успели выработать бытовую осторожность. В отчёте изменение занимало одну строку. В жизни оно могло означать месяцы обучения, новую роль, падение дохода или, наоборот, избавление от работы, которую человек давно ненавидел.

Уверенный ответ оказался психологически сильнее предупреждения мелким шрифтом. Кот не позволял ни жалеть людей автоматически, ни объявлять любое сокращение прогрессом. Он требовал различать последствия. Если технология убирает бессмысленную ручную операцию — хорошо. Если вместе с ней исчезает учебная ступень — надо строить новую. Если команда становится меньше — нельзя маскировать это словами про освобождение творческого потенциала. Если появляется новая работа — не надо делать вид, что каждый прежний сотрудник автоматически сможет её получить.

Потом мы дали модели длинный текст и попросили «сделать кратко». Она честно сократила то, что считала важным. Мы попросили кратко для руководителя, которому нужно решить, переносить ли запуск. В сводке появились сроки, риски и зависимости.

У офиса, который я ожидал увидеть как штаб будущего, стояли туристы и фотографировали логотип. Кот отказался фотографироваться. — Маска портит распознавание лица? — Нет. Репутацию.

Мы разговаривали с инженером, который объяснил простую вещь: продукт вокруг модели важен не меньше самой модели. Интерфейс, системные инструкции, подключённые инструменты, фильтры, память, поиск — всё это влияет на поведение пользователя и результат. — Поэтому два сервиса на похожей технологии могут ощущаться совершенно по-разному, — сказал он.

Я спросил, какая модель «лучшая». Он улыбнулся так же, как Максим на вопрос о лучшем тексте. — Для чего?

В самолёте я открыл модель снова. На этот раз попросил её объяснить нейросети человеку, который боится математики. Получилась аналогия с учеником, прочитавшим огромное количество примеров и научившимся продолжать закономерности. — Нормально? — спросил я.

Кот прочитал. — Для начала. Только не путай аналогию с устройством. Карта метро полезна, пока ты не решишь, что город состоит из цветных линий.

Самолёт увозил нас к следующей улике, а неправильный вопрос оставался с ними. Кот сказал, что наконец-то я перестал пытаться написать успокоительное. Я ответил, что он сам три месяца назад пришёл ночью в маске и начал расследование исчезнувших профессий. Он заметил, что маркетинг и методология не обязаны дружить.

Кот толкнул меня локтем. — Видишь? Заговор шире, чем мы думали.

С этого момента мы перестали составлять рейтинг сервисов. Вместо него начали собирать карту задач: разговор, поиск, длинные документы, код, изображения, видео, голос, действия через инструменты. Она была менее эффектной и гораздо дольше оставалась полезной. — Одна и та же информация. Разная цель чтения.

Я спросил, зачем тогда вообще учиться формулировать, если модели становятся умнее и сами умеют уточнять. — Хорошая модель действительно может спросить. Но она не обязана знать, что ты забыл сказать. И чем больше автономии у системы, тем дороже молчаливое предположение.

Конец ознакомительного фрагмента.

Текст предоставлен ООО «Литрес».

Прочитайте эту книгу целиком, купив полную легальную версию на Литрес.

Безопасно оплатить книгу можно банковской картой Visa, MasterCard, Maestro, со счета мобильного телефона, с платежного терминала, в салоне МТС или Связной, через PayPal, WebMoney, Яндекс.Деньги, QIWI Кошелек, бонусными картами или другим удобным Вам способом.