- -
- 100%
- +
Проблема здесь в эвристике доступности. Мало кто так же часто летает на самолете, как ездит на автомобиле. Автомобиль — зачастую самый «близкий к нам» источник загрязнения. Самый знакомый. Самый понятный. В этой связи не стоит удивляться, что автомобили кажутся нам куда более серьезным фактором воздействия на среду, чем авиа или морской транспорт.
2. Нейросети и искусственный интеллект совсем скоро лишат работы огромное количество людей
Человечеству уже известны случаи, когда технологии уничтожали целые профессии. Лифтеры, вычислители (люди, которые проводили расчеты до появления калькуляторов), телефонисты, фонарщики. Уверен, что вы сами можете продолжить этот список.
У нас сформировался нарратив под названием «появление новой технологии = исчезновение профессии». Бум нейросетей серьезно его подкормил. В публичном пространстве сейчас очень много говорят о том, что нейросети оставят огромное количество людей без работы. Откройте поисковую строку и введите «Какие профессии заменит ИИ в ближайшее время». Перспективу остаться без работы предрекают многим: бухгалтерам, переводчикам, юристам, журналистам и т. д. Да, и обычно такие списки заканчиваются предложением пройти курс по нейросетям. Совпадение?
Словарь английского языка Collins назвал ИИ словом 2023 года46. Интереса ради зашел в раздел «Будущее» на новостном портале Lenta.ru. Сделал скриншот главной страницы. Из 11 материалов семь были посвящены ИИ и нейросетям. Это 63 процента.
Источник: lenta.ru. Дата обращения: 2 ноября 2023 г.
Вновь передаем привет эвристике доступности. Новостей о нейросетях сейчас настолько много, что не стоит удивляться формированию соответствующего нарратива вокруг темы.
Поймите меня правильно: я тоже считаю, что многие профессии перестанут существовать в привычном нам виде. Я, например, сам когда-то зарабатывал переводами с/на английский язык, но сейчас ничего не перевожу сам. Если такая необходимость возникает, я просто открываю ChatGPT и прошу его сделать мне перевод. Это в разы быстрее. Или возьмем, к примеру, юристов. Юристы большую часть времени работают с текстами. ChatGPT работает с текстами. Нетрудно поддаться влиянию нарратива и заявить, что скоро юристы массово будут лишаться работы. Так ли это? Давайте разбираться.
Поговорим о контурах управления в кибернетике. Человек и автоматизированная система могут быть в разных взаимоотношениях. Допустим, у нас есть система для проверки домашних заданий обучающихся на онлайн-курсе. В таком случае возможны несколько комбинаций:
1) Человек в системе: нейросеть дает какие-то подсказки, но человек проверяет все ДЗ сам. Система в данном случае выступает в роли ассистента.
2) Человек над системой: нейросеть сама пишет обратную связь на ДЗ учеников. Человек пробегается по ней глазами, что-то корректирует, а потом отправляет обучаемым.
3) Человек вне системы: нейросеть проверяет ДЗ, пишет обратную связь и сама автоматически высылает результаты проверки ученикам.
Выбор конкретной комбинации зависит от нескольких факторов. Например, от вероятности ошибки и предполагаемых последствий.
Представьте себе ситуацию. Вы летите в самолете. Вдруг оба пилота выходят в салон. Вы интересуетесь, почему это в кабине никого нет. Командир экипажа говорит: «Да там автопилот включен же! Зачем нам там сидеть на приборы пялиться? Вот тут в бизнес-классе кино посмотрим лучше». Вы бы впоследствии стали пользоваться услугами этой авиакомпании? Сомневаюсь. Мы знаем, что в самолетах очень надежная и точная автоматика. Системы дублируются, чтобы можно было продолжить полет даже в случае отказа чего-либо. Тем не менее мы не доверяемся автоматике на сто процентов. Есть пилот, который примет управление на себя, если что-то пойдет не так. Пилот тоже «задвоен» — если с одним что-то случится, за штурвал возьмется его коллега. Даже при наличии настолько развитых систем автоматизации мы все равно сохраняем человека над контуром управления. И это правильно.
Говоря об автоматизации чего-то, мы и вовсе часто не договариваемся об определениях. Национальное управление по безопасности дорожного движения США, например, решило навести порядок47 в терминологии, касающейся беспилотных автомобилей. Управление выделило несколько уровней автоматизации, где 0 — это полноценное управление водителем (автоматизированные системы только информируют человека), 5 — водитель становится пассажиром (управление полностью передано автоматике). На каком уровне находятся существующие автомобили с тем, что мы называем «автопилотом»? Между 2 и 3. Описание уровня 3 гласит: «Система активно участвует в управлении автомобилем, но водитель должен быть готов в любой момент принять управление на себя». В ноябре 2023 года суд округа Риверсайд (Калифорния) постановил48, что система автопилота на автомобиле Tesla не виновна в смертельном ДТП, произошедшем в 2019 году. По версии истцов, автопилот заставил машину съехать с дороги и врезаться в дерево. Водитель погиб. Пассажиры получили травмы. В ходе процесса были озвучены два тезиса, важных для нашего рассуждения:
1) Автопилот Tesla — это «лишь продвинутый круиз-контроль».
2) Система Full Self-Driving предупреждала водителя о необходимости следить за дорогой.
Резюме: говоря об автомобилях, которые сами себя водят, мы на самом деле имеем в виду контур типа «Человек над системой», или третий уровень автоматизации (ответственным за управление остается человек). Ни о каком полноценном автопилоте речь, по сути, пока не идет, но не все об этом задумываются, когда читают новости.
Вернемся к кураторам на нашем онлайн-курсе. Да, автоматическая проверка ДЗ — привлекательная опция. Какую форму взаимоотношений человека и системы вы бы выбрали? Человек внутри системы / над системой / вне системы? Что будет, если наш «нейрокуратор» в своем ответе выдаст ученику какую-нибудь ерунду? Человек либо усвоит неправильную норму, либо потеряет доверие к онлайн-школе. В этой связи я бы выбрал конструкцию «человек над системой»: пусть машина проверяет ДЗ и автоматически генерирует основную часть комментария, а человек смотрит его перед отправкой, при необходимости корректируя или добавляя что-то от себя. Другой вариант устранения проблемы — обязать онлайн-школы маркировать обратную связь от «нейрокураторов». Собственники онлайн-школ должны быть готовы к тому, что рекламируемый ими разбор домашних заданий будет меньше цениться в случае его автоматизации. Если сейчас во многих онлайн-школах проверка ДЗ входит в более премиальные пакеты, то в будущем, возможно, проверка ДЗ с включением человека станет тем, за что люди захотят дополнительно заплатить.
Когда мы попадаем во власть нарратива о скорой смерти многих профессий, связанных с умственной работой, мы забываем о штуке под названием «ответственность».
• Да, нейросеть может сгенерировать кучу вариантов логотипов для клиента, но кто возьмет на себя ответственность за выбор того, который будет использоваться в рекламной кампании стоимостью в несколько миллионов рублей?
• Да, нейросеть можно попросить перевести текст, но кто возьмется сразу этот текст копипастить какую-нибудь резолюцию ООН или иной важный документ? Вы бы подписали договор о поставках с иностранным партнером, зная, что после автоматического перевода он никак не проверялся? Выше я писал о том, что сам использую нейросети для перевода. Я позволяю себе это благодаря тому, что сам знаю английский. Я все равно смотрю оригинальный текст и сверяю его с переводом, внося необходимые мне правки.
• Да, нейросеть можно использовать для подготовки документов за юриста, но кто будет отвечать за правовые последствия их использования?
Это не то же самое, что заменить телефонистку автоматом. Кстати, вы знаете, откуда вообще появилась эта идея? Элмон Строуджер был владельцем похоронного бюро в Канзас-Сити. Его бизнес терпел убытки из-за недобросовестной конкуренции. Причиной проблемы были телефонистки, которые соединяли клиентов не с его компанией, а с конкурирующей49. Это и натолкнуло Строуджера на идею исключить человека из процесса соединения, чтобы никто не мог совершать подобных манипуляций. Так он создал систему прямого соединения абонентов. Как видите, Строуджером двигало не альтруистическое желание избавить людей от этого труда. Эта профессия не считалась бременем. Даже наоборот — именно возможность устроиться телефонисткой позволяла многим женщинам в ХХ веке хорошо зарабатывать. Кто знает, как бы эта индустрия развивалась дальше, если бы не перешла дорогу предприимчивому и изобретательному владельцу похоронного бюро.
Когда мы слышим, что нейросети заменят всех так же, как в свое время автоматизация заменила телефонисток, мы попадаем в ловушку, потому что не сравниваем подобное с подобным. Мы сравниваем работу в условиях низкого уровня неопределенности и невысокой цены ошибки (Строуджер бы с этим поспорил) с прямо противоположным набором условий.
В публичное поле легко просачиваются и быстро распространяются новости об успехах нейросетей. Мне все больше кажется, что самый простой способ стать спикером на какой-нибудь модной московской конференции в 2023 году — это заявить тему в стиле «Я уволил своего эсэмэмщика и заменил его на нейросеть». Такое привлекает внимание. Люди не публикуют статьи в стиле «Я попросил нейросеть написать за меня экспертную статью, она сделала какую-то ерунду, в итоге я отказался от идеи и написал сам».
Вернемся к теме юристов. Уже есть случаи проникновения нейросетей в их работу. И не все так гладко, как хотелось бы. В США прецедентное право: суды во многом опираются на вынесенные ранее решения по аналогичным делам. В этой связи важной задачей в рамках подготовки правовой позиции является поиск прецедентов.
Питер ЛоДука, юрист из Нью-Йорка, был пойман на использовании фальшивых ссылок на решения других судов по аналогичным делам50. Когда стали разбираться, выяснили, что исследованием вопроса занимался его коллега — Стивен Шварц. Когда его допросили, выяснилось, что тот… прибегнул к помощи ChatGPT. Эта нейросеть широко известна своей способностью «выдумывать» ссылки на несуществующие источники. В этом случае она и предоставила юристу ссылки на дела, которых никогда не было. Информацию не перепроверили, юридическая фирма нажила себе проблемы. При этом мы говорим о ситуации, в которой человек все еще находился над контуром управления, то есть сгенерированные нейросетью материалы автоматически не направлялись в суд. В Техасе судья по имени Брэнтли Старр и вовсе обязал всех выступающих в суде открыто заявлять, если в процессе подготовки они использовали нейросети51.
Давайте я попробую предложить другой нарратив для осмысления тех же происходящих сейчас процессов, а вы наблюдайте, как меняется ваше отношение к перспективам человечества.
Один из самых видных философов ХХ века Маршалл Маклюэн в своей работе «Понимание медиа: внешние расширения человека52» предлагает воспринимать прогресс как процесс расширения границ наших тел. Он пишет: «Расширение наших телесных поз и движений посредством вынесения их наружу постоянно вытекает из нашего стремления к увеличению власти и могущества. Вся суть утвари и инструмента состоит в капитуляции между этим телесным напряжением посредством расширения тела вовне».
Проиллюстрирую эту мысль примерами:
• Скорость наших ног ограничена, но у нас есть потребность к быстрому перемещению. Мы выносим ее вовне, создавая колесо. Человек не может бежать со скоростью 200 км/час. «Феррари» до такой скорости разогнаться может. В понимании Маклюэна не стоит разграничивать водителя и «Феррари». «Феррари» в данном случае выступает в роли продолжения тела ее водителя.
• Мы не можем крикнуть так, чтобы нас услышали на соседнем континенте. Но потребность в передаче указаний есть. Так человечество изобрело письменность и носители, на которые можно что-то записать и отправить с гонцом.
• У нас есть потребность в обогреве, но способность наших тел сохранять тепло ограничена. Мы «выносим эту потребность вовне», создавая одежду.
Этот процесс «расширения тела вовне» продолжается до сих пор. Получившие в ХХ веке распространение новые способы коммуникации и передачи информации Маклюэн считал инструментами расширения нашей центральной нервной системы.
Если хотите более современный пример, то давайте поговорим о памяти человека. Она ведь тоже выносится вовне. Ваша память в сегодняшнем мире — это ваша голова + память вашего компьютера + память вашего телефона + облачное хранилище и т. д. Эти элементы образуют целостную систему. Память наших дальних предков в этом смысле была в разы меньше.
Для понимания тезиса предложу простой мысленный эксперимент: представьте, что вы полностью очистили память телефона и домашнего компьютера. Как ощущения? Некоторые люди говорят, что это бы воспринималось как ампутация, и логика в их словах есть. Ощущение действительно может быть такое, будто бы человека лишили важной части тела. Кстати, ровно из-за этого Илон Маск уже называет людей киборгами. Он считает, что ими нас делает тот самый факт передачи части нашей памяти компьютерам53.
Создание нейросетей — это, по сути, акт еще одного расширения нашего тела. Мы нашли способ вынести вовне черновую мыслительную работу. Вот и все. Поэтому нужно думать не о битве ИИ и человека за одно и то же рабочее место. Нужно думать о том, что:
• Дизайнеры теперь могут работать не только с теми концептами, что вышли из-под их пера, теперь они вольны передать нейросетям черновую работу, порождая сотни концептов в час. В итоге клиенту из большего количества вариантов проще выбрать оптимальный. А дизайнер, освобожденный от нетворческой рутины, может успешнее воплотить выбранную идею в жизнь.
• Переводчики теперь могут не тратить кучу времени на банальную перепечатку слов на другом языке, а, например, концентрировать свое внимание на сложных местах в художественных текстах, думая о том, какая метафора в родном языке точнее передаст замысел иностранного автора.
• Юрист теперь сможет быстрее обрабатывать первичную документацию, чтобы сфокусироваться на выработке правовой позиции.
Дело не в нейросетях как таковых. Дело в том, что мы наблюдаем очередное расширение масштаба человека. Как вам такой нарратив?
Я считаю, что правильнее сейчас вести разговор не о смерти профессий, а о сжатии сегментов рынков. Переводчики, копирайтеры и дизайнеры будут нужны. Работы может поубавиться у тех, кто выполнял исключительно простые задачи. Такие специалисты вряд ли будут востребованы в том же количестве, что и сейчас. Стоимость черновой работы кратно упадет. Но человеку все равно нужен будет человек, отвечающий перед ним за качество перевода, за осмысленность выбора именно этого логотипа (из 500 черновиков, подготовленных нейросетью), за успех в судебном процессе. Правильнее говорить не о вытеснении искусственным интеллектом и нейросетями людей с рынка труда, а о вытеснении тех, кто не научится ими пользоваться.
Я не устаю удивляться тому, какие возможности современные технологии открывают перед небольшими креативными командами. Сооснователь студии DreamWorks Джеффри Катценберг предположил54, что ИИ может снизить затраты на производство мультфильмов-блокбастеров на 90%. При этом он отметил, что ИИ останется только исполнителем. В основе творческих проектов все равно будет лежать креативность человека. Представьте себе мир, в котором три-пять старшеклассников могут сами спродюсировать мультфильм уровня «Мадагаскара» или WALL-E. Лично меня такой образ будущего вдохновляет.
Как видите, мы говорим о том же процессе технологической трансформации. Вопрос только в том, какой шаблон для интерпретации мы применяем. В данном примере я использовал два разных нарратива: «технологии = крах карьеры для многих из нас» и «технологии = расширение масштаба человека». Какой нарратив использовать — решайте сами.
⠀
3. Машины вскоре научатся предсказывать поведение каждого из нас
В своей знаковой работе Homo Deus55 Юваль Ной Харари отмечает, что человек — это собрание разных алгоритмов и что теоретически внешний алгоритм вполне способен познать нас лучше, чем мы сами когда-либо познаем себя. Схожие тезисы можно встретить и в других источниках. Так, Евгений Черешнев в своей книге «Форма жизни №4. Как остаться человеком в эпоху расцвета искусственного интеллекта56» пишет, что с точки зрения ИИ человек — это база данных, а все отличия людей друг от друга — только параметры базы данных.
Мы с вами уже знаем: чтобы стать полноценным нарративом, эти суждения должны быть дополнены историями из реальной жизни.
Конец ознакомительного фрагмента.
Текст предоставлен ООО «Литрес».
Прочитайте эту книгу целиком, купив полную легальную версию на Литрес.
Безопасно оплатить книгу можно банковской картой Visa, MasterCard, Maestro, со счета мобильного телефона, с платежного терминала, в салоне МТС или Связной, через PayPal, WebMoney, Яндекс.Деньги, QIWI Кошелек, бонусными картами или другим удобным Вам способом.
Примечания
1
Каку М. Будущее разума / Митио Каку. Альпина нон-фикшн, 2015.
2
Tero, Atsushi & Takagi, Seiji & Saigusa, Tetsu & Ito, Kentaro & Bebber, Daniel & Fricker, Mark & Yumiki, Kenji & Kobayashi, Ryo & Nakagaki, Toshiyuki. (2010). Rules for Biologically Inspired Adaptive Network Design. Science (New York, N.Y.). 327. 439—42. 10.1126/science.1177894.
3
Филип Котлер, Роланд Бергер, Нильс Бикхофф. Стратегический менеджмент по Котлеру. Лучшие приемы и методы. — М.: Альпина Паблишер, 2012.
4
Alex Hormozi. https://www.youtube.com/watch?v=I64gYLBrics&t=1002s. Дата публикации: 25 октября 2023 г. Дата обращения: 1 ноября 2023 г.
5
Источник данных: http://museumreforms.ru/node/13891. Дата обращения: 1 ноября 2023 г.
6
Источник данных: https://www.kommersant.ru/doc/3569733. Дата обращения: 1 ноября 2023 г.
7
Источник данных: https://www.whitehouse.gov/briefing-room/statements-releases/2023/10/30/fact-sheet-president-biden-issues-executive-order-on-safe-secure-and-trustworthy-artificial-intelligence/. Дата обращения: 1 ноября 2023 г.
8
Источник данных: https://www.forbes.com/sites/saradorn/2023/11/03/mission-impossible-biden-deepfakes-and-barack-obama-inspired-new-white-house-ai-policy/?sh=de6c5e561b8f. Дата обращения: 1 ноября 2023 г.
9
Источник данных: https://ast.ru/news/nil_geyman_prochital_lektsiyu_
o_tom_pochemu_nashe_budushchee_zavisit_ot_bibliotek_chteniya_i_voobrazh/ Дата обращения: 1 ноября 2023 г.
10
Источник данных: https://www.ey.com/ru_kz/real-estate-hospitality-construction/covid-19-why-this-means-farewell-to-a-golden-age-of-real-estate. Дата обращения: 1 ноября 2023 г.
11
Источник данных: https://www.aboutamazon.com/news/company-news/andy-jassy-update-on-amazon-return-to-office?tag=bisafetynet2-20. Дата обращения: 1 ноября 2023 г.
12
Источник данных: https://www.theguardian.com/technology/2022/aug/16/apple-tells-staff-to-come-into-the-office-for-at-least-three-days-a-week. Дата обращения: 1 ноября 2023 г.
13
Источник данных: https://www.businessinsider.com/blackrock-return-to-office-policy-memo-employees-2023-5. Дата обращения: 1 ноября 2023 г.
14
Источник данных: https://www.reuters.com/business/citigroup-asks-us-employees-return-office-march-21-memo-2022-02-23/
15
Источник данных: https://www.businessinsider.com/disney-staff-return-to-office-bob-iger-remote-work-home-2023-1. Дата обращения: 1 ноября 2023 г.
16
Источник данных: https://www.businessinsider.com/remote-job-openings-decline-as-more-companies-return-to-office-2023-3. Дата обращения: 1 ноября 2023 г.
17
Источник данных: https://www.superjob.ru/research/articles/113943/proschaemsya-s-massovoj-udalenkoj/. Дата обращения: 1 ноября 2023 г.
18
Источник данных: https://www.microsoft.com/en-us/research/publication/the-effects-of-remote-work-on-collaboration-among-information-workers/. Дата обращения: 1 ноября 2023 г.
19
Источник данных: https://www.microsoft.com/en-us/research/publication/the-effects-of-remote-work-on-collaboration-among-information-workers/. Дата обращения: 1 ноября 2023 г.
20
Источник данных: https://www.forbes.com/sites/adigaskell/2023/03/05/how-remote-work-has-affected-real-estate-values/. Дата обращения: 1 ноября 2023 г.
21
Источник информации: https://mybook.ru/author/frederik-lalu/otkryvaya-organizacii-budushego/citations/2170801/. Дата обращения: 1 ноября 2023 г.
22
Виктор Пелевин. Empire V. ФТМ. 2006.
23
С. Г. Кара-Мурза. Манипуляция сознанием. Век XXI. ООО «ТД Алгоритм», 2015.
24
Источник данных: https://clck.ru/39aMP9. Дата обращения: 1 ноября 2023 г.
25
Heider, Fritz, and Marianne Simmel. An Experimental Study of Apparent Behavior. The American Journal of Psychology, vol. 57, no. 2, 1944, pp. 243—59. JSTOR, https://doi.org/10.2307/1416950. Accessed 2 Dec. 2023. https://www.jstor.org/stable/1416950
26
@MisterABK. https://clck.ru/39aNHy Дата обращения: 1 ноября 2023 г.
27
@don_raul. https://clck.ru/39aNQD Дата обращения: 1 ноября 2023 г.
28
Роберт Макки, Том Джерас. Сториномика: Маркетинг, основанный на историях, в пострекламном мире. Пер. с англ. — М.: Альпина нон-фикшн, 2019.
29
Источник данных: https://www.marxists.org/russkij/marx/1848/manifesto.htm. Дата обращения: 1 ноября 2023 г.
30
Источник данных: http://elib.biblioatom.ru/text/atomnaya-energiya_t8-4_1960/go,8/ Газета «Правда», 1964, №301. Дата обращения: 1 ноября 2023 г.
31
Гектор Макдональд. Правда: Как политики, корпорации и медиа формируют нашу реальность, выставляя факты в выгодном свете. Пер. с англ. — М.: Альпина Паблишер, 2019.
32
Smoke: всемирная история курения: [сборник статей] / под ред. Сандера Л. Джилмена и Чжоу Сюнь; [пер. с англ. А. Валиахметовой и др.]. — Москва: Новое литературное обозрение, 2012.
33
Томас Кун. Структура научных революций. М.: ООО «Издательство ACT», 2003.
34
Джейсон Фанг. Код ожирения. Глобальное медицинское исследование о том, как подсчет калорий, увеличение активности и сокращение объема порций приводят к ожирению, диабету и депрессии. ООО «Издательство «Эксмо», 2019.
35
Митио Каку. Физика невозможного. Альпина Диджитал, 2009.
36
Stephan Ramon Garcia, Steven J. Miller. 100 Years of Math Milestones. The Pi Mu Epsilon Centennial Collection. American Mathematical Society, 2019.