Кейт Кроуфорд
Атлас искусственного интеллекта
Руководство для будущего

Посвящается Эллиоту и Маргарет

Kate Crawford

Atlas of AI

Power, Politics, and the Planetary Costs of Artificial Intelligence

* * *

Печатается с разрешения правообладателя YALE UNIVERSITY PRESS.

© Кроуфорд К., текст, 2021

© ООО Издательство «АСТ», 2023

© Захватова О., перевод, 2023

© Дрёмов А. С., тов. знак, 2023

* * *

Введение

Самая умная лошадь в мире

В конце девятнадцатого века Европу покорила лошадь по кличке Ганс. Умный Ганс поражал воображение: он решал математические задачи, определял время, дни в календаре, различал музыкальные тона, составлял слова и предложения. Люди стекались посмотреть, как немецкий жеребец отстукивает копытом ответы на сложные задачи и неизменно приходит к правильному ответу. «Сколько будет два плюс три?» Ганс старательно отстукивал копытом по земле пять раз. «Какой сегодня день недели?» Лошадь стучала копытом, верно указывая на каждую букву на специально изготовленной доске. Ганс освоил даже более сложные вопросы, например, такие: «Я загадал число. Я вычитаю девять и получаю три. Какое число я загадал?» К 1904 году Умный Ганс стал международной знаменитостью, а газета New York Times назвала его «Чудесной берлинской лошадью, способной на все, кроме разговоров»[1].

Дрессировщик Ганса, отставной учитель математики по имени Вильгельм фон Остен, давно увлекался интеллектом животных.

Фон Остен пытался обучать котят и медвежат порядковым номерам, однако успеха он добился лишь после того, как начал работать со своей лошадью. Сначала он научил Ганса считать, держа животное за ногу, показывая ему цифру и постукивая копытом нужное количество раз. Вскоре Ганс уже озвучивал простые суммы. Затем фон Остен ввел доску с написанным алфавитом, и Ганс научился отстукивать цифру для каждой буквы на доске. После двух лет обучения фон Остен был поражен тем, как животное хорошо усваивало интеллектуальные концепции. Поэтому он взял Ганса с собой в дорогу в качестве доказательства, что животные могут рассуждать, и стал вирусной сенсацией прекрасной эпохи.

Тем не менее, многие люди отнеслись к этому скептически, и совет Германии по образованию создал следственную комиссию для проверки научных утверждений фон Остена. Психолог и философ Карл Штумпф и его помощник Оскар Пфунгст возглавили комиссию по Гансу. Также в нее вошли управляющий цирком, отставной школьный учитель, зоолог, ветеринар и кавалерийский офицер. Однако после продолжительной проверки способностей Ганса, как в присутствии его дрессировщика, так и без него, лошадь сохраняла свой рекорд правильных ответов, и комиссия не смогла найти никаких доказательств обмана. Как позже написал Пфунгст, Ганс выступал перед «тысячами зрителей, любителей лошадей, тренеров первого ранга, и ни один из них в течение многих месяцев наблюдений не смог обнаружить никакого особого „сигнала“ между вопрошающим и лошадью»[2].

Комиссия пришла к выводу, что методы, применяемые к обучению Ганса, более схожи с «обучением детей в начальной школе», чем с дрессировкой животных, и «достойны научной экспертизы»[3]. Однако Штумпф и Пфунгст по-прежнему сомневались. В частности, их беспокоил один факт: когда спрашивающий не знал ответа или стоял далеко, Ганс редко отвечал правильно. Пфунгст и Штумпф задумались: а не подавал ли Гансу ответы некий непреднамеренный сигнал?

Вильгельм фон Остен и Умный Ганс

Как описал Пфунгст в своей книге 1911 года, интуиция их не подвела: поза, дыхание и выражение лица человека, задающего вопрос, едва уловимо менялись в тот момент, когда Ганс достигал правильного ответа, тем самым побуждая его остановиться[4]. Позже Пфунгст проверил эту гипотезу на людях и подтвердил догадку. Больше всего в этом открытии его восхитило то, что люди, задающие вопросы, как правило, не знали, что сами давали подсказки лошади. Решения Умного Ганса, писал Пфунгст, основывались на бессознательных сигналах людей[5]. Лошадь была обучена давать те ответы, которые хотел увидеть хозяин, однако зрители не сочли это умение за необыкновенный интеллект.

История Умного Ганса интересна со многих сторон: связь между желанием, иллюзией и действием; развлекательный бизнес; антропоморфизм; возникновение предубеждений и политика интеллекта. Ганс ввел в психологию термин для обозначения особого типа концептуальных ловушек – «Эффект умного Ганса» или «эффект ожидания наблюдателя», с помощью которого описываются влияния непреднамеренных подсказок экспериментаторов на испытуемых. Отношения между Гансом и фон Остеном указывают как на сложные механизмы, посредством которых предубеждения проникают в системы, так и на увязание людей в изучаемых явлениях. В настоящее время история Ганса используется в машинном обучении и служит предостерегающим напоминанием о том, что далеко не всегда можно быть точно уверенным в достоверности полученных моделью данных[6]. Даже система, которая, казалось бы, демонстрирует впечатляющие результаты в процессе обучения, иногда делает ужасные прогнозы на основе совершенно новой информации.

Отсюда вытекает главный вопрос книги: как «создается» интеллект, и какие ловушки могут возникнуть? На первый взгляд, история Умного Ганса – это пример того, как один человек создал интеллект, учив лошадь следовать подсказкам и подражать человеческому разуму. Но с другой стороны мы видим, что практика создания интеллекта значительно шире. Такое начинание требовало подтверждения со стороны множества институтов, включая академические круги, школы, науку, общественность и военных. Более того, фон Остен и его удивительная лошадь обрели рынок – эмоциональные и экономические инвестиции, которые стимулировали туры, газетные статьи и лекции. Были сформированы бюрократические инстанции, чтобы измерить и проверить и измерить способности лошади. Отсюда следует вывод, что совокупность финансовых, культурных и научных интересов сыграла свою роль в создании интеллекта Ганса, и все кругом были заинтересованы в его уникальности.

Здесь появляются две различные мифологемы. Первая из них заключается в том, что нечеловеческие системы (будь то компьютеры или лошади) являются аналогами человеческого разума. Эта точка зрения предполагает, что при достаточной подготовке или достаточных ресурсах человекоподобный интеллект может быть создан с нуля, без учета фундаментальных межличностных отношений, и помещен в рамки более широкой экологии. Второй миф заключается в том, что интеллект – это нечто, существующее независимо; он является естественным и не сопряжен с социальными, культурными, историческими и политическими силами. На самом же деле концепция интеллекта на протяжении веков наносила огромный вред и использовалась для оправдания отношений господства – от рабства до евгеники[7].

Эти мифологемы особенно сильны в области искусственного интеллекта, где вера в то, что человеческий интеллект может быть формализован и воспроизведен машинами, с середины двадцатого века стала аксиомой. Подобно тому, как интеллект Ганса считался схожим с человеческим и восприимчивым к обучению, так и системы искусственного интеллекта неоднократно описывались как простые, но человекоподобные формы.

В 1950 году Алан Тьюринг предсказал, что «к концу столетия употребление слов и общее мнение людей изменится настолько, что можно будет говорить о мышлении машин, даже не опасаясь возражений»[8]. Математик Джон фон Нейман в 1958 году утверждал, что функция человеческой нервной системы «на первый взгляд цифровая»[9]. Профессор Массачусетского технологического института Марвин Мински однажды ответил на вопрос о том, могут ли машины думать, сказав: «Конечно, машины могут думать; мы ведь тоже машины, только „мясные“»[10]. Однако нашлись и те, кто не мог согласиться с данной теорией. Джозеф Вейценбаум, ранний изобретатель ИИ и создатель первой программы чат-бота, известной как ELIZA, считал, что представление о человеке как о простой системе обработки информации является слишком упрощенным понятием интеллекта и порождает «извращенную фантазию», будто «ученые ИИ создадут машину, которая сможет обучаться наподобие ребенка»[11].

Это был один из основных споров в истории искусственного интеллекта. В 1961 году в Массачусетском технологическом институте состоялся знаменательный цикл лекций под названием «Управление и компьютер будущего». Звездный состав ученых-компьютерщиков, включая Грейс Хоппер, Дж. К. Р. Ликлайдера, Марвина Мински, Аллена Ньюэлла, Герберта Саймона и Норберта Винера, обсуждал стремительные достижения в области цифровых вычислений. В заключение Джон Маккарти смело заявил, что различия между человеческими и машинными задачами иллюзорны. Просто существуют некоторые сложные человеческие задачи, которые требуют больше времени для формализации и решения машинами[12].

Однако профессор философии Хьюберт Дрейфус выступил с возражением, обеспокоенный тем, что собравшиеся инженеры «даже не рассматривают возможность того, что мозг обрабатывает информацию совершенно иначе, чем компьютер»[13]. В своей более поздней работе «Чего не могут вычислительные машины» Дрейфус отметил, что «человеческий интеллект и опыт в значительной степени зависят от многих бессознательных и подсознательных процессов, тогда как компьютеры требуют, чтобы все процессы и данные были явными и формализованными»[14]. Следовательно, формальные аспекты интеллекта должны быть абстрагированы, устранены или адаптированы для компьютеров, что делает их неспособными обрабатывать информацию так, как это делают люди.

С 1960-х годов в ИИ многое изменилось, включая переход от символьных систем к недавней волне шумихи вокруг методов машинного обучения. Во многом споры о способностях ИИ были забыты, а скептицизм сошел на нет. С середины 2000-х годов ИИ быстро развивался как научная область и как индустрия. В настоящее время небольшое число мощных технологических корпораций развертывают системы ИИ в планетарном масштабе, и их системы снова называют сравнимыми или даже превосходящими человеческий интеллект.

Однако история об Умном Гансе напоминает нам о том, насколько узко мы рассматриваем или признаем интеллект. Ганса учили имитировать задачи в очень ограниченном диапазоне: сложение, вычитание и отстукивание слов. Ганс демонстрировал выдающиеся способности в межвидовом общении, публичных выступлениях и значительном терпении, но все это не было признано интеллектом. По словам автора и инженера Эллен Ульман, убеждение, будто разум подобен компьютеру и наоборот, «на несколько десятилетий заразило мышление в области компьютерных и когнитивных наук», создав своего рода первородный грех[15]. Это идеология картезианского дуализма в искусственном интеллекте: где ИИ понимается узко, как развоплощенный интеллект, отстраненный от любого отношения к материальному миру.

Что такое искусственный интеллект?

Давайте зададим простой вопрос: «Что такое искусственный интеллект?» Если вы спросите кого-нибудь на улице, он может упомянуть Siri или Apple, облачный сервис Amazon, автомобили Tesla или поисковый алгоритм Google. Если же вы обратитесь к экспертам в области глубокого обучения, вам дадут технический ответ о том, как нейронные сети организовываются в десятки слоев, получают данные типа метки, которым присваиваются пороговые значения, и они могут классифицировать данные таким образом, который пока что не до конца объясним[16]. В 1978 году, обсуждая экспертные системы, профессор Дональд Мичи описал ИИ как совершенствование знаний, где «может быть достигнута надежность и компетентность кодификации, значительно превосходящая самый высокий уровень, которого когда-либо достигал, а возможно, и может достичь, человек-эксперт без посторонней помощи»[17]. В одном из самых популярных учебников по этому предмету Стюарт Рассел и Питер Норвиг утверждают, что ИИ – это попытка понять и создать разумные сущности. «Интеллект в основном связан с рациональными действиями, – утверждают они. – В идеале – интеллектуальный агент предпринимает наилучшие возможные действия в той или иной ситуации»[18].

Каждый способ определения искусственного интеллекта выполняет свою задачу, устанавливая рамки того, как его будут понимать, измерять, оценивать и регулировать. Если ИИ определяется потребительскими брендами для корпоративной инфраструктуры, то маркетинг и реклама предопределили горизонт. Если ИИ рассматривается как более надежная или рациональная система по сравнению с человеком-экспертом, то это предполагает, что ему следует доверять принятие решений в области здравоохранения, образования и уголовного правосудия. Когда в центре внимания оказываются конкретные алгоритмические методы, это говорит о том, что важен только постоянный технический прогресс, без учета вычислительных затрат и будущих последствий для планеты.

Напротив, в этой книге я утверждаю, что ИИ не является ни чем-то искусственным, ни интеллектуальным. Скорее, искусственный интеллект – это воплощение и материал, созданный из природных ресурсов, топлива, человеческого труда, инфраструктуры, логистики, истории и классификаций. Системы ИИ не обладают автономностью, рациональностью или способностью распознавать что-либо без длительного, требующего больших вычислительных затрат обучения с использованием больших массивов данных или предопределенных правил и вознаграждений. Искусственный интеллект, каким мы его знаем, полностью зависит от гораздо более широкого набора политических и социальных структур. И из-за капитала, необходимого для масштабного создания ИИ, и способов видения, которые он оптимизирует, системы ИИ в конечном итоге предназначены для обслуживания существующих доминирующих интересов. В этом смысле искусственный интеллект – это реестр власти.

В этой книге мы рассмотрим, как в самом широком смысле создается искусственный интеллект, а также формирующие его экономические, политические, культурные и исторические силы. Как только мы свяжем ИИ со структурами и социальными системами, мы сможем избавиться от представления, будто искусственный интеллект – это исключительно техническая область. На фундаментальном уровне ИИ – это технические и социальные практики, институты и инфраструктуры, политика и культура. Вычислительный разум и воплощенная работа глубоко взаимосвязаны: системы ИИ как отражают, так и производят социальные отношения и понимание мира.

Стоит отметить, что термин «искусственный интеллект» иногда вызывает дискомфорт в сообществе компьютерных наук. Это словосочетание то входит, то выходит из моды на протяжении десятилетий, и используется больше в маркетинге, чем исследователями. В технической литературе чаще используется термин «машинное обучение». Тем не менее, номенклатура ИИ нередко используется в период подачи заявок на финансирование, когда венчурные капиталисты приходят с чековыми книжками, или когда исследователи стремятся привлечь внимание прессы к новому научному результату. Термин ИИ то используется, то снова отвергается, поэтому его значение постоянно меняется. Что касается меня, то я использую ИИ, говоря о массивной индустриальной формации, включающей политику, труд, культуру и капитал. Когда я говорю о машинном обучении, я имею в виду ряд технических подходов (которые, по сути, также являются социальными и инфраструктурными, хотя об этом редко упоминают).

Между тем, существуют значительные причины, по которым данная область была сосредоточена на технических аспектах – алгоритмических прорывах, постепенном совершенствовании продуктов и повышении удобства. Структуры власти на пересечении технологий, капитала и управления хорошо поддаются узкому, абстрактному анализу. Чтобы понять, каким образом ИИ приобретает фундаментально политический характер, нам нужно выйти за рамки нейронных сетей и статистического распознавания образов, и спросить: что оптимизируется, для кого, и кто принимает решения? Затем мы можем проследить последствия этого выбора.

Взгляд на искусственный интеллект как на атлас

Чем же атлас может помочь нам понять принципы создания искусственного интеллекта? Атлас – это необычный тип книги. Он представляет собой собрание разрозненных частей с картами, разрешение которых варьируется от спутникового обзора планеты до подробного изображения архипелага. Открывая атлас, вы, возможно, ищете конкретную информацию о каком-то месте, а может быть, вы блуждаете, следуя любопытству, и находите неожиданные пути и новые перспективы. Как отмечает историк науки Лоррейн Дастон, все научные атласы стремятся приучить глаз, сфокусировать внимание наблюдателя на конкретных деталях и значимых характеристиках[19]. Атлас представляет определенную точку зрения на мир с отпечатком науки – масштабами, соотношениями, широтами и долготами – и чувством формы и последовательности.

Однако атлас – это в равной степени акт творчества, некое субъективное, политическое и эстетическое вмешательство, сродни научной коллекции. Французский философ Жорж Диди-Юберман считает атлас чем-то, что живет в эстетической парадигме визуального и эпистемической парадигме знания. Задействуя и то, и другое, он подрывает идею о том, что наука и искусство когда-либо полностью разделялись[20]. Вместо этого атлас предлагает нам возможность пересмотреть мир, по-разному связать фрагменты и «снова собрать его воедино, не думая о том, что мы подводим итоги или исчерпываем его»[21].

Мой любимый пример о полезности картографического подхода принадлежит физику и критику технологий Урсуле Франклин: «Карты представляют собой целенаправленную деятельность: они призваны быть полезными, помогать путешественнику и преодолевать разрыв между известным и еще неизвестным; они являются свидетельством коллективного знания и проницательности»[22].

Карты предлагают нам компендиум открытых путей, общих способов познания, которые можно смешивать и комбинировать для создания новых взаимосвязей. Но существуют также карты господства, те национальные карты, на которых территория вырезана вдоль линий разлома власти: от прямого вмешательства при проведении границ через спорные пространства до выявления колониальных путей империй. Ссылаясь на атлас, я хочу сказать, что нам нужны новые способы понимания империй искусственного интеллекта. Нам нужна теория ИИ, учитывающая государства и корпорации, которые управляют им и доминируют над ним; добычу полезных ископаемых, оставляющую отпечаток на планете; массовый сбор данных; а также глубоко неравные и все более эксплуататорские методы труда, которые его поддерживают. Таковы меняющиеся тектоники власти в ИИ. Топографический подход предлагает различные перспективы и масштабы, выходящие за рамки абстрактных обещаний искусственного интеллекта или новейших моделей машинного обучения. Цель состоит в том, чтобы понять ИИ в более широком контексте, пройдя через множество различных ландшафтов вычислений и увидев, как они связаны между собой[23].

Атласы актуальны и в другом смысле. Область ИИ явно пытается запечатлеть планету в удобочитаемой для вычислений форме. И это не метафора, а прямое стремление индустрии. Индустрия ИИ создает и нормализует собственные карты, как централизованный взгляд на человеческое движение, общение и труд. Некоторые ученые в области ИИ заявили о желании захватить мир и вытеснить другие формы познания. Профессор ИИ Фей-Фей Ли описывает свой проект ImageNet как процесс, направленный на «нанесение на карту всего мира объектов»[24]. В своем учебнике Рассел и Норвиг описывают искусственный интеллект следующим образом: «Механизм, относящийся к любой интеллектуальной задаче; это поистине универсальная область»[25]. Один из основателей искусственного интеллекта и ранний экспериментатор в области распознавания лиц Вуди Бледсоу выразился наиболее прямолинейно: «В долгосрочной перспективе ИИ – это единственная наука»[26]. Идея состоит в том, чтобы не создать атлас мира, а стать атласом. Этот колонизаторский импульс централизует власть в сфере ИИ: он определяет, как измеряется и определяется мир, одновременно отрицая, что это по своей сути политическая деятельность.

Не претендуя на универсальность, книга, которую вы держите в руках, представляет собой частичный отчет. Увлекая вас в мои исследования, я надеюсь показать вам, как формировались мои взгляды. Мы столкнемся с хорошо посещаемыми и менее известными ландшафтами вычислений: шахтами, длинными коридорами энергопоглощающих центров обработки данных, архивами, базами данных изображений и освещенными ангарами. Эти места включены не только для иллюстрации материальной конструкции ИИ и его идеологии, но и для того, чтобы «осветить неизбежно субъективные и политические аспекты картирования и предоставить альтернативу гегемонистским и авторитетным подходам», как пишет исследователь медиа Шеннон Мэттерн[27].

Модели понимания систем уже давно опираются на идеалы прозрачности. Как я писала вместе с исследователем СМИ Майком Ананни, способность видеть систему иногда приравнивается к способности знать, как она работает и как ею управлять[28]. Но эта тенденция имеет серьезные ограничения. В случае с ИИ у нас нет «черного ящика», нет секрета, который можно разоблачить, а есть множество переплетенных систем власти. Полная прозрачность является невозможной целью. Скорее, мы лучше понимаем роль ИИ в мире, изучая его материальную архитектуру, контекстную среду и преобладающую политику, а также прослеживая, как они связаны между собой.

Мои размышления опираются на такие дисциплины, как исследования науки и технологий, право и политическая философия, а также на опыт работы в академических кругах и в промышленной исследовательской лаборатории ИИ на протяжении почти десяти лет. За эти годы многие коллеги и сообщества изменили мой взгляд на мир: составление карты – это всегда коллективное занятие, и данная книга не является исключением[29]. Я благодарна ученым, создавшим новые способы понимания социотехнических систем, включая Джеффри Боукера, Бенджамина Браттона, Венди Чун, Лоррейн Дастон, Питера Галисона, Яна Хакинга, Стюарта Холла, Дональда Маккензи, Ахилла Мбембе, Алондру Нельсон, Сьюзен Ли Стар, Люси Сачман, и многим другим. На создание этой книги повлияли многочисленные беседы и чтение последних работ авторов, изучающих политику технологий, включая Марка Андреевича, Руха Бенджамина, Мередит Бруссард, Симону Браун, Джули Коэн, Сашу Костанза-Чок, Вирджинию Юбэнкс, Тарлетона Гиллеспи, Мар Хикс, Тунг-Хуи Ху, Юк Хуи, Сафию Умоджа Ноубл и Астру Тейлор.

Как и любая книга, моя работа возникла на основе жизненного опыта, что накладывает свои ограничения. Поскольку последние десять лет я жила и работала в США, мое внимание сосредоточено на западной индустрии ИИ. И все же я не ставлю перед собой цель создать полный глобальный атлас: сама эта идея наводит на мысль о захвате и колониальном контроле. Взгляд любого автора основывается на местных наблюдениях и интерпретациях, что географ окружающей среды Саманта Савилл называет «скромной географией», которая признает специфические перспективы, но не претендует на объективность или мастерство[30].

Mappa mundi Генриха Бюнтинга, известная как «Карта Бюнтинга в форме клеверного листа», символизирующая христианскую Троицу с городом Иерусалимом в центре мира. Из книги «Itinerarium Sacrae Scripturae» (Магдебург, 1581)

Подобно множеству способов создания атласа, существует немало вариантов будущего использования ИИ в мире. Расширение сферы применения систем ИИ может показаться неизбежным, хотя на самом деле это довольно спорный вопрос. Основополагающие концепции в области ИИ не возникают автономно, а формируются на основе определенного набора убеждений и перспектив. Главные разработчики современного атласа ИИ – это небольшая и однородная группа людей, базирующаяся в нескольких городах и работающая в отрасли, которая в настоящее время является самой богатой в мире. Подобно средневековым европейским mappae mundi (с лат. карта мира), которые иллюстрировали религиозные и классические концепции в той же степени, что и координаты, атласы, созданные индустрией ИИ, являются политическими интервенциями, а не нейтральным отражением мира. Настоящая книга написана в противовес логике колониального картографирования и охватывает различные истории, места и базы знаний, чтобы лучше понять роль ИИ в мире.

Топографии вычислений

Как на данный момент, в двадцать первом веке, концептуализируется и конструируется ИИ? Что стоит на кону в повороте к искусственному интеллекту, и какие виды политики содержатся в системах отображения и интерпретации мира? Каковы социальные и материальные последствия включения ИИ в системы принятия решений таких социальных институтов, как образование и здравоохранение, финансы, государственная деятельность, взаимодействие на рабочем месте и прием на работу, системы коммуникаций и правосудия? Эта книга – не рассказ о коде и алгоритмах или о последних достижениях в области компьютерного зрения и обработки естественного языка; этим занимаются многие другие книги. Это также не этнографический рассказ об отдельном сообществе и влиянии ИИ на их опыт работы, жилья или медицины – хотя нам, конечно, нужно больше таких работ.

Напротив, это расширенный взгляд на искусственный интеллект как на добывающую промышленность. Создание современных систем ИИ зависит от использования энергетических и минеральных ресурсов планеты, дешевой рабочей силы и данных в больших масштабах. Чтобы увидеть это в действии, мы отправимся в серию путешествий по местам, которые раскрывают зачатки ИИ.

В первой главе мы начинаем с литиевых шахт в Неваде, одного из многих мест добычи полезных ископаемых, необходимых для питания современных вычислений. Именно в шахтах мы в самом буквальном смысле наблюдаем за добывающей политикой ИИ. Спрос технологического сектора на редкоземельные минералы, нефть и уголь огромен, но истинные затраты на их добычу никогда не покрываются самой отраслью. Что касается программного обеспечения, то создание моделей для обработки естественного языка и компьютерного зрения требует огромного количества энергии, а конкуренция за создание более быстрых и эффективных моделей привела к появлению вычислительно жадных методов, которые увеличивают углеродный след ИИ. От последних оставшихся деревьев в Малайзии, вырубленных с целью производства латекса для первых трансатлантических подводных кабелей, до гигантского искусственного озера токсичных отходов во Внутренней Монголии, мы прослеживаем экологические и человеческие места рождения планетарных вычислительных сетей и видим, как они продолжают терраформировать планету.

Во второй главе показано, как человеческий труд способствует созданию искусственного интеллекта. Мы рассмотрим цифровых сдельщиков, которым платят за выполнение микрозадач, чтобы системы данных выглядели более интеллектуальными, чем они есть на самом деле[31]. Наше путешествие приведет нас на склады Amazon, где работникам приходится успевать за алгоритмическим ритмом огромной логистической империи. Мы посетим чикагских рабочих-мясников на комбинате, где туши животных подвергаются вивисекции и готовятся к употреблению. И мы услышим рабочих, протестующих против систем искусственного интеллекта, внедряемых для усиления наблюдения и контроля.

Труд – это также и время. Координация действий людей с повторяющимися движениями роботов и линейного оборудования всегда предполагала управление телом в пространстве и времени[32]. От изобретения секундомера до TrueTime от Google процесс координации времени лежит в основе управления рабочим местом. Технологии ИИ как требуют, так и создают условия для все более детальных и точных механизмов управления временем. Координация требует все более подробной информации о том, что делают люди, как и когда.

Третья глава посвящена роли данных. Все общедоступные цифровые материалы – включая личные или потенциально опасные данные – собираются для тренировочных наборов, которые используются для создания моделей ИИ. Существуют гигантские базы данных, полные селфи людей, жестов рук, людей за рулем автомобилей, плача младенцев, разговоров в новостных группах 1990-х годов, и все это собрано для улучшения алгоритмов, выполняющих такие функции, как распознавание лиц, предсказание языка и обнаружение объектов. Когда эти коллекции больше не рассматриваются как личный материал людей, а просто как инфраструктура, конкретное значение или контекст изображения или видео считается неважным. Помимо серьезных вопросов неприкосновенности частной жизни и продолжающегося капитализма наблюдения, нынешняя практика работы с данными в ИИ вызывает глубокие этические, методологические и эпистемологические проблемы[33].

И как же все эти данные используются? В четвертой главе мы рассмотрим практику классификации в системах искусственного интеллекта, то, что социолог Карин Кнорр Цетина называет «эпистемическим механизмом»[34]. Мы увидим, как современные системы используют ярлыки для предсказания человеческой личности, обычно используя бинарный пол, эссенциализированные расовые категории, проблематичные оценки характера и кредитоспособности. Знак заменяет систему, прокси заменяет реальность, а игрушечная модель заменяет бесконечную сложность человеческой субъективности. Рассматривая создание классификаций, мы увидим, как технические схемы навязывают иерархию и увеличивают неравенство. Машинное обучение представляет нам режим нормативных рассуждений, которые, когда они набирают силу, приобретают форму мощной управляющей рациональности.

Отсюда мы отправляемся в горные города Папуа-Новой Гвинеи, чтобы изучить историю распознавания аффектов – идею о том, что мимика лица является ключом к раскрытию внутреннего эмоционального состояния человека. В пятой главе рассматривается утверждение психолога Пола Экмана о том, что существует небольшой набор универсальных эмоциональных состояний, которые можно прочитать непосредственно по лицу. Технологические компании сейчас внедряют эту идею в системы распознавания аффектов, что является частью отрасли, стоимость которой, по прогнозам, превысит семнадцать миллиардов долларов[35]. Однако вокруг распознавания эмоций существует значительное количество научных противоречий, которые в лучшем случае неполны, а в худшем – вводят в заблуждение. И все же, несмотря на нестабильность предпосылок, эти инструменты быстро внедряются в системы найма, образования и охраны правопорядка.

В шестой главе мы рассмотрим, как системы искусственного интеллекта используются в качестве инструмента государственной власти. Военное прошлое ИИ и его настоящее сформировали практику наблюдения, сбора данных и оценки рисков. Глубокие взаимосвязи между технологическим сектором и военным сейчас сдерживаются, чтобы соответствовать сильной националистической повестке дня. Тем временем внеправовые инструменты, используемые разведывательным сообществом, перешли из военной сферы в коммерческий технологический сектор и используются в классах, полицейских участках, на рабочих местах и в бюро по трудоустройству. Военная логика, сформировавшая системы ИИ, теперь является частью работы муниципальных органов власти, и она еще больше искажает отношения между государствами и субъектами.

В заключительной главе оценивается, как искусственный интеллект функционирует в качестве структуры власти, объединяющей инфраструктуру, капитал и труд. От водителя Uber до иммигранта без документов и жильцов коммунальных квартир, которые сталкиваются с системами распознавания лиц в своих домах, системы искусственного интеллекта построены на логике капитала, охраны порядка и милитаризации, и эта комбинация еще больше усиливает существующую асимметрию власти. Способы видения зависят от двух шагов – абстрагирования и извлечения: абстрагирование от материальных условий создания и извлечение большего количества информации и ресурсов из тех, кто менее всего способен сопротивляться.

Однако эту логику можно оспорить, так же как можно отвергнуть системы, увековечивающие угнетение. По мере изменения условий на Земле призывы к защите данных, трудовых прав, климатической справедливости и расовому равенству должны звучать вместе. Когда взаимосвязанные движения за справедливость станут основой нашего понимания искусственного интеллекта, тогда и различные концепции планетарной политики станут возможными.

Добыча, власть и политика

Итак, искусственный интеллект – это идея, инфраструктура, индустрия, форма осуществления власти и способ видения; это также проявление высокоорганизованного капитала, опирающегося на огромные системы добычи и логистики, с цепочками поставок, опоясывающими всю планету. Все эти вещи являются частью того, что представляет собой искусственный интеллект – двусловная фраза, на которую накладывается сложный набор ожиданий, идеологий, желаний и страхов.

ИИ может казаться призрачной силой – как развоплощенные вычисления, – однако эти системы не абстрактны. Это физические инфраструктуры, изменяющие Землю и одновременно меняющие представление о мире и его понимание.

Для нас важно разобраться с многочисленными аспектами искусственного интеллекта – его податливостью, беспорядочностью, пространственным и временным охватом. Неразборчивость ИИ как термина, его открытость к изменению конфигурации, также означает, что его возможно использовать по-разному: он может относиться ко всему, от потребительских устройств, таких как Amazon Echo, до безымянных систем обработки данных, от узких технических статей до крупнейших промышленных компаний в мире. Но и в этом есть своя польза. Широта термина «искусственный интеллект» дает нам право рассмотреть эти элементы и их глубокую связь: от политики интеллекта до массового сбора данных; от промышленной концентрации технологического сектора до геополитической военной мощи; от обездоленной окружающей среды до продолжающихся форм дискриминации.

Задача состоит в том, чтобы оставаться чуткими по отношению к обстановке и следить за изменчивыми и гибкими значениями термина «искусственный интеллект» (подобно контейнеру, куда помещают различные вещи, а затем вынимают), потому что это тоже часть истории.

Проще говоря, искусственный интеллект является игроком в формировании знаний, коммуникации и власти. Эти изменения происходят на уровне эпистемологии, принципов справедливости, социальной организации, политического выражения, культуры, понимания человеческих тел, субъективности и идентичности: какие мы есть и какими мы можем быть. Но мы можем капнуть дальше. Искусственный интеллект, в процессе перепланировки и вмешательства в мир, является политикой – хотя редко признается таковой. Эта политика управляется Великими домами ИИ, состоящими из полудюжины (или около того) компаний, которые доминируют в крупномасштабных планетарных вычислениях.

В настоящее время многие социальные институты находятся под влиянием инструментов и методов, формирующих ценности и способность принимать решения, создавая при этом сложный ряд последующих эффектов. Усиление технократической власти происходило уже давно, но сейчас этот процесс ускорился. Отчасти это связано с концентрацией промышленного капитала в период жесткой экономии и аутсорсинга, включая сокращение финансирования систем социального обеспечения и институтов, которые когда-то служили сдерживающим фактором для рыночной власти. Вот почему мы должны противостоять ИИ как политической, экономической, культурной и научной силе. Как отмечают Алондра Нельсон, Туй Линь Ту и Алисия Хедлам Хайнс: «Соревнования вокруг технологий всегда связаны с более масштабной борьбой за экономическую мобильность, политическое маневрирование и создание сообществ»[36].

Мы находимся на переломном этапе, который требует от нас сложных вопросов о создании и внедрении ИИ. Мы должны спросить: что такое ИИ? Какие формы политики он пропагандирует? Чьим интересам он служит, и кто несет наибольший риск ущерба? И где использование ИИ должно быть ограничено? Да, на эти вопросы не так просто дать ответы. Но они и не являются неразрешимой ситуацией или точкой невозврата. Антиутопические формы мышления способны воспрепятствовать принятию мер и предотвратить крайне необходимые вмешательства[37]. Как пишет Урсула Франклин: «Жизнеспособность технологии, как и демократии, в конечном итоге зависит от практики правосудия и соблюдения ограничений власти»[38].

В этой книге утверждается, что решение фундаментальных проблем ИИ и планетарных вычислений требует объединения вопросов власти и справедливости: от эпистемологии до трудовых прав, от добычи ресурсов до защиты данных, от расового неравенства до изменения климата. Для этого нам необходимо расширить наше понимание того, что происходит в империях ИИ, увидеть, что поставлено на карту, и принять лучшие коллективные решения о том, что должно произойти дальше.

Глава 1
Земля

Boeing 757 заходит на посадку, направляясь в международный аэропорт Сан-Франциско. Левое крыло опускается, и самолет выравнивается со взлетно-посадочной полосой, открывая вид на самое знаковое место в технологическом секторе. Прямо под нами расположились великие империи Кремниевой долины. Гигантский черный круг штаб-квартиры Apple похож на незакрытый объектив камеры, сверкающий на солнце. А вот и главный офис Google, расположенный рядом с федеральным аэродромом НАСА. Когда-то, во время Второй мировой и Корейской войн, это была ключевая площадка для военно-морских сил США, но теперь Google арендует ее (на шестьдесят лет), и руководители высшего звена паркуют здесь частные самолеты. Рядом с Google находятся большие производственные корпуса Lockheed Martin, где аэрокосмическая и оружейная компания строит сотни орбитальных спутников, предназначенных для наблюдения за деятельностью Земли. Далее, у моста Думбартон, виднеется собрание приземистых зданий, окруженных массивными автостоянками рядом с сернистыми соляными прудами. Здесь располагается компания Facebook. С этой точки зрения ничем не примечательные пригородные улочки и индустриальные высотки Пало-Альто не выдают его истинного богатства, власти и влияния. Есть лишь несколько намеков на его центральное место в глобальной экономике и в вычислительной инфраструктуре планеты.

Я прибыла сюда, чтобы узнать об искусственном интеллекте и о том, из чего он состоит. Но для этого мне придется покинуть Кремниевую долину.

Из аэропорта я тотчас прыгаю в микроавтобус и еду на восток. Я пересекаю мост Сан-Матео-Хейворд и проезжаю мимо Национальной лаборатории Лоуренса Ливермора, где Эдвард Теллер проводил исследования термоядерного оружия в годы после Второй мировой войны. Вскоре за городами Центральной долины Стоктон и Мантека возвышаются предгорья Сьерра-Невады. Здесь дороги начинают петлять вверх через высокие гранитные скалы перевала Сонора и вниз по восточной стороне гор к травянистым долинам, усеянным золотыми маками. Сосновые леса уступают место щелочным водам озера Моно и пустынным рельефам Бассейна и Хребта. Чтобы заправиться, я заезжаю в Хоторн, штат Невада, где находится крупнейший в мире склад боеприпасов. Армия США хранит вооружение в десятках покрытых грязью зиккуратов, расположенных в долине аккуратными рядами. Проезжая по шоссе 265 штата Невада, я вижу вдалеке одинокий VORTAC – большую радиовышку в форме кегли для боулинга, разработанную в эпоху до GPS. У нее одна функция: она передает «Я здесь» всем пролетающим самолетам, являясь в одинокой местности фиксированной точкой отсчета.

Мой пункт назначения – немуниципальная община Сильвер-Пик в долине Клейтон в штате Невада, где проживает около 125 человек. Этот шахтерский городок, один из старейших в Неваде, был почти заброшен в 1917 году, после того как на земле обнаружили запасы серебра и золота. Несколько зданий времен золотой лихорадки по-прежнему стоят, неумолимо разрушаясь под солнцем пустыни. Может быть, городок и маленький, и в нем больше брошенных машин, чем людей, однако есть в нем нечто чрезвычайно редкое. Сильвер-Пик расположен на краю огромного подземного озера, богатого литием.

Ценный литиевый рассол, находящийся под поверхностью, выкачивают из земли и оставляют в открытых, радужно-зеленых прудах для испарения. Когда на них падает свет, пруды видны с расстояния в несколько миль, и они переливаются. Вблизи все выглядит иначе. Черные трубы, похожие на инопланетян, вылезают из земли и ползут по покрытой солью земле в неглубоких траншеях, переправляя соленый коктейль в сушилки.

Здесь, в отдаленном уголке штата Невада, находится место, где создаются материалы для искусственного интеллекта.

Добыча лития, Сильвер-Пик. Фотография Кейт Кроуфорд

Добыча полезных ископаемых для ИИ

Долина Клейтон связана с Силиконовой долиной примерно так же, как золотые прииски XIX века с ранним Сан-Франциско. История горного дела, как и разрушения, которые оно оставляет после себя, обычно упускается из виду в стратегической амнезии, сопровождающей рассказы о технологическом прогрессе. Как отмечает исторический географ Грей Бречин, Сан-Франциско построен на доходы от добычи золота и серебра на землях Калифорнии и Невады в 1800-х годах[39]. Эти же земли были отняты у Мексики по договору Гваделупе-Идальго в 1848 году в конце мексикано-американской войны, когда поселенцам уже стало ясно, что это будут очень ценные золотые прииски. По словам Бречина, это был хрестоматийный пример старой пословицы о том, что «торговля следует за флагом»[40]. Во время значительного территориального расширения Соединенных Штатов тысячи людей были вынуждены покинуть свои дома. После имперского вторжения Америки туда пришли шахтеры, и земля была разграблена до загрязнения водных путей и уничтожения окружающих лесов.

С древних времен горное дело являлось прибыльным лишь потому, что не приходилось учитывать его истинные затраты: ущерб окружающей среде, болезни и смерть шахтеров, а также убытки, причиняемые населению. В 1555 году Георгий Агрикола, известный как отец минералогии, заметил: «Очевидно, что вред от добычи полезных ископаемых больше, чем стоимость металлов»[41]. Другими словами, те, кто получают прибыль от добычи полезных ископаемых, делают это лишь потому, что расходы несут другие люди, как живущие, так еще и не родившиеся. Легко назначить цену драгоценным металлам, но какова точная стоимость дикой природы, чистого ручья, пригодного для дыхания воздуха, здоровья местного населения? Это никогда не оценивалось, и поэтому возникла простая задача: добыть все как можно быстрее. Действовать быстро и ломать все на своем пути. В результате Центральная долина была разрушена, и, как заметил один турист в 1869 году: «Торнадо, наводнение, землетрясение и вулкан, вместе взятые, вряд ли могли произвести больший хаос, распространить большие разрушения и обломки, чем [золотодобывающие работы]. В Калифорнии нет таких прав, которые бы соблюдались горнодобывающей промышленностью. Выгода – вот единственный интерес»[42].

Поскольку Сан-Франциско черпал огромные богатства из шахт, его жители легко забывали, откуда все это бралось. Шахты находились далеко от города, и эта удаленность позволяла людям оставаться в неведении относительно того, что происходило с горами, реками и рабочими. И все же небольшие напоминания о шахтах встречаются повсюду. В новых зданиях города для транспортировки и жизнеобеспечения людей использовались те же технологии, что и в Центральной долине. Системы шкивов, с помощью которых шахтеры спускались в шахтные стволы, были адаптированы и перевернуты, чтобы доставлять людей в лифтах на возвышенные точки города[43]. Бречин предлагает рассматривать небоскребы Сан-Франциско как перевернутые шахтные ландшафты. Руда, добытая из отверстий в земле, продавалась для создания надземных этажей; чем глубже уходили шахты, тем выше в небо тянулись огромные башни офисов.

Сан-Франциско снова обогатился. Когда-то судьбы строились на золотой руде; теперь же в игру вступило такое вещество, как фторид лития. На рынках минералов его называют «серым золотом»[44]. Технологическая индустрия стала предметом повышенного интереса – целых пять крупнейших компаний в мире по рыночной капитализации имеют офисы в этом городе: Apple, Microsoft, Amazon, Facebook и Google. Проходя мимо складов стартапов в районе СоМа, где когда-то жили шахтеры в палатках, можно увидеть роскошные автомобили, сети кофеен, финансируемые венчурным капиталом, великолепные автобусы с тонированными стеклами, курсирующие по частным маршрутам, доставляя работников в офисы в Маунтин-Вью или Менло-Парк[45]. Но всего в нескольких минутах ходьбы находится Дивижн-стрит, многополосная магистраль между СоМа и районом Мишн, где снова появились ряды палаток, готовые приютить людей, которым некуда идти. После технологического бума в Сан-Франциско сейчас там один из самых высоких уровней бездомности[46]. Докладчик ООН по жилищному вопросу назвал сложившуюся ситуацию «неприемлемым» нарушением прав человека, поскольку тысячи бездомных жителей лишены самого необходимого – воды, канализации и медицинских услуг, в отличие от рекордного числа миллиардеров, живущих поблизости[47]. Увы, наибольшие выгоды от добычи полезных ископаемых достались немногим.

В этой главе мы пересечем Неваду, Сан-Хосе и Сан-Франциско, Индонезию, Малайзию, Китай и Монголию: от пустынь до океанов. Мы также совершим путешествие во времени: от конфликта в Конго и искусственных черных озер в наши дни до викторианской страсти к белому латексу. Масштабы будут меняться: от камней до городов, от деревьев до мегакорпораций, от трансокеанских судоходных путей до атомной бомбы. Но во всей этой планетарной суперсистеме мы увидим логику добычи, постоянное сокращение запасов минералов, воды и ископаемого топлива, подкрепленное насилием войн, загрязнением, вымиранием и истощением. Последствия масштабных вычислений можно обнаружить в атмосфере, океанах, земной коре, глубоком времени планеты и жестоком воздействии на обездоленные группы населения по всему миру. Чтобы понять все это, нам необходим панорамный взгляд на планетарный масштаб вычислительной добычи.

Ландшафты вычислений

Летним днем я еду по пустынной долине, чтобы посмотреть на работу последнего горнодобывающего бума. Я прошу телефон направить меня к литиевым прудам, и он, привязанный белым USB-кабелем, отвечает со своего неудобного места на приборной панели согласием. Большое высохшее дно озера Сильвер-Пик образовалось миллионы лет назад в конце третичного периода. Его окружают покрытые коркой пласты, переходящие в хребты, содержащие темные известняки, зеленые кварциты, серый и красный сланец[48]. Литий нашли после того, как во время Второй мировой войны здесь обнаружили стратегические минералы, такие как поташ. Этот мягкий серебристый металл добывался в скромных количествах в течение следующих пятидесяти лет, пока не стал очень ценным материалом для технологического сектора.

В 2014 году компания Rockwood Holdings, Inc., занимающаяся добычей лития, была приобретена химической производственной компанией Albemarle Corporation за 6,2 миллиарда долларов США. Это единственный действующий литиевый рудник в Соединенных Штатах. Сильвер-Пик является объектом пристального интереса Илона Маска и многих других технологических магнатов по одной причине: аккумуляторные батареи. Литий – важнейший элемент для их производства. Например, батареи смартфонов обычно содержат около трех десятых унции данного элемента. Для каждого электромобиля Tesla Model S требуется около ста тридцати восьми фунтов лития[49]. Подобные батареи никогда не предназначались для питания такой энергоемкой машины, как автомобиль, но в настоящее время литиевые батареи являются единственным доступным вариантом для массового рынка[50]. Они имеют ограниченный срок службы и после деградации выбрасываются как отходы.

Примерно в двухстах милях к северу от Сильвер-Пик находится завод Tesla Gigafactory. Это крупнейший в мире завод по производству литиевых батарей. Tesla является потребителем литий-ионных батарей номер один в мире, закупая их в больших объемах у Panasonic и Samsung, и переупаковывая их в свои автомобили и домашние зарядные устройства. По оценкам, Tesla ежегодно использует более двадцати восьми тысяч тонн гидроксида лития – половину всего потребления на планете[51]. Фактически, Tesla можно с большей точностью назвать предприятием по производству аккумуляторов, чем автомобильной компанией[52]. Надвигающаяся нехватка таких важнейших минералов, как никель, медь и литий, представляет риск для компании, что делает литиевое озеро в Сильвер Пик весьма желанным ресурсом[53]. Обеспечение контроля над рудником означало бы контроль над внутренними поставками в США.

Как показали многие исследования, электромобиль – далеко не идеальное решение проблемы выбросов углекислого газа[54]. Добыча, выплавка, экспорт, сборка и транспортировка батарей в цепочке поставок оказывают значительное негативное воздействие на окружающую, среду и, в свою очередь, на сообщества, пострадавшие от их деградации. Небольшое количество встроенных солнечных систем вырабатывают собственную энергию, однако в большинстве случаев для зарядки электромобиля необходимо брать энергию из сети, большая часть которой вырабатывается при сжигании ископаемого топлива[55]. На данный момент этот факт не ослабил решимость автопроизводителей конкурировать с Tesla. Тем самым они оказывают все большее давление на рынок аккумуляторов и ускоряют истощение запасов необходимых минералов.

Глобальные вычисления и торговля напрямую зависят от аккумуляторов. Термин «искусственный интеллект» может вызвать представление об алгоритмах, данных и облачных архитектурах, но ничто из этого не может функционировать без минералов и ресурсов, из которых состоят основные компоненты вычислений. Литий-ионные аккумуляторы необходимы для мобильных устройств и ноутбуков, домашних цифровых помощников и резервного питания центров обработки данных. Они лежат в основе Интернета и всех коммерческих платформ, работающих на его основе, от банковских операций до розничной торговли и биржевых торгов. Многие аспекты современной жизни перенесены в «облако» без учета этих материальных затрат. Наша работа и личная жизнь, наши истории болезни, наш досуг, наши развлечения, наши политические интересы – все это происходит в мире сетевых вычислительных архитектур. И все мы подключаемся к ним посредством устройств, в основе которых лежит литий.

Добыча ископаемых для ИИ является как буквальной, так и метафорической. Новый экстрактивизм добычи данных также охватывает и стимулирует старый экстрактивизм традиционной добычи. Стек, необходимый для работы систем искусственного интеллекта, выходит далеко за рамки многоуровневого технического стека моделирования данных, аппаратного обеспечения, серверов и сетей. Вся цепочка поставок искусственного интеллекта охватывает капитал, труд и ресурсы Земли – и от каждого из них она требует огромных затрат[56]. Облако – это основа индустрии искусственного интеллекта, и оно сделано из камней, литиевого рассола и сырой нефти.

В своей книге «Геология медиа» теоретик Юсси Парикка предлагает думать о медиа не с точки зрения Маршалла Маклюэна, согласно которой медиа являются продолжением человеческих чувств, а как о продолжении Земли[57]. Вычислительные медиа сегодня участвуют в геологических (и климатологических) процессах, от преобразования земных материалов в инфраструктуру и устройства – до питания этих новых систем за счет запасов нефти и газа. Размышление о медиа и технологиях как о геологических процессах позволяет нам рассмотреть радикальное истощение невозобновляемых ресурсов, необходимых для работы технологий настоящего времени. Каждый объект в расширенной сети системы искусственного интеллекта, от сетевых маршрутизаторов до батарей и центров обработки данных, построен с использованием элементов, которым потребовались миллиарды лет для формирования внутри Земли.

С точки зрения глубокого времени, мы извлекаем геологическую историю Земли, чтобы обслужить доли секунды современного технологического времени, создавая такие устройства, как Amazon Echo и iPhone, рассчитанные на срок службы всего в несколько лет. Ассоциация потребительских технологий отмечает, что средний срок службы смартфона составляет всего 4,7 года[58]. Такой цикл устаревания способствует покупке большего количества устройств, увеличивает прибыль и усиливает стимулы для использования неустойчивых методов добычи. После медленного процесса разработки эти минералы, элементы и материалы проходят через чрезвычайно быстрый период добычи, переработки, смешивания, выплавки и логистической транспортировки, преодолевая тысячи миль в процессе своего преобразования. То, что начинается как руда, извлеченная из земли, превращается в устройства, которые используются и выбрасываются. В конечном итоге они оказываются захороненными на свалках электронных отходов в таких местах, как Гана и Пакистан. Жизненный цикл системы ИИ от рождения до смерти имеет множество фрактальных цепочек поставок: формы эксплуатации человеческого труда и природных ресурсов, массивные концентрации корпоративной и геополитической власти. И на протяжении всей этой цепи непрерывное, крупномасштабное потребление энергии обеспечивает непрерывность цикла.

Экстрактивизм, на котором построен Сан-Франциско, находит отклик в практике базирующегося там технологического сектора[59]. Массивная экосистема ИИ опирается на многие виды извлечения: от сбора данных, полученных из наших повседневных действий и выражений, до истощения природных ресурсов и эксплуатации труда по всему миру, чтобы эта огромная планетарная сеть могла быть построена и поддерживаться. ИИ извлекает из нас и планеты гораздо больше, чем мы думаем. Область залива является центральным узлом в мифологии ИИ, но нам придется отправиться далеко за пределы Соединенных Штатов, чтобы увидеть многослойное наследие человеческого и экологического ущерба, питающего технологическую индустрию.

Минералогический слой

Литиевые шахты в Неваде – лишь одно из мест, где из земной коры добывается сырье для производства искусственного интеллекта. Таких мест много, включая Салар на юго-западе Боливии – самое богатое месторождение лития в мире и, соответственно, место постоянной политической напряженности, – центральную часть Конго, Монголию, Индонезию и пустыни Западной Австралии. Без сырья из этих мест современные вычисления просто не работают, однако и эти полезные ископаемые все чаще оказываются в дефиците.

В 2020 году ученые из Геологической службы США опубликовали краткий список из двадцати трех минералов, подверженных высокому «риску поставок», то есть, если они станут недоступны, целые отрасли промышленности, включая технологический сектор, остановятся[60]. В число критически важных минералов входят редкоземельные элементы диспрозий и неодим, которые используются в динамиках iPhone и двигателях электромобилей; германий, используемый в инфракрасных военных устройствах для солдат и в беспилотниках; и кобальт, повышающий производительность литий-ионных батарей.

Существует семнадцать редкоземельных элементов: лантан, церий, празеодим, неодим, прометий, самарий, европий, гадолиний, тербий, диспрозий, гольмий, эрбий, тулий, иттербий, лютеций, скандий и иттрий. Они обрабатываются и встраиваются в ноутбуки и смартфоны, делая устройства меньше и легче. Эти элементы можно найти в цветных дисплеях, динамиках, объективах камер, аккумуляторных батареях, жестких дисках и многих других компонентах. Они являются ключевыми элементами систем связи – от оптоволоконных кабелей и усиления сигнала на вышках мобильной связи до спутников и технологии GPS. Вот только добыча этих полезных ископаемых зачастую сопровождается насилием на местном и геополитическом уровне. Добыча полезных ископаемых всегда была и остается жестоким занятием. Как пишет Льюис Мамфорд, «горное дело являлось ключевой отраслью, которая обеспечивала сухожилия войны и увеличивала металлическое содержимое первоначального капитала, военного сундука. С другой стороны, оно способствовало индустриализации вооружений и обогащало финансиста в результате обоих процессов»[61]. Чтобы понять бизнес ИИ, мы должны считаться с войной, голодом и смертью, которые несет с собой горное дело.

Недавнее законодательство США, регулирующее некоторые из этих семнадцати редкоземельных элементов, лишь намекает на разрушения, связанные с их добычей. Закон Додда-Франка 2010 года был направлен на реформирование финансового сектора после кризиса 2008 года. В него было включено специальное положение о так называемых конфликтных минералах, или природных ресурсах, добытых в зоне конфликта, а затем проданных для его финансирования. Теперь компании, использующие золото, олово, вольфрам и тантал из региона вокруг Демократической Республики Конго, должны были отчитываться, откуда поступили полезные ископаемые и финансируется ли их продажа вооруженным ополченцам[62]. Как и «кровавые алмазы», термин «конфликтные ресурсы» скрывает глубокие страдания и многочисленные убийства в горнодобывающем секторе. Прибыль от добычи полезных ископаемых финансировала военные операции в продолжавшемся несколько десятилетий конфликте в Конго, способствуя гибели нескольких тысяч людей и перемещению миллионов[63]. Более того, условия труда на шахтах часто приравнивались к современному рабству[64].

Intel потребовалось более четырех лет непрерывных усилий, чтобы получить базовое представление о собственной цепочке поставок[65]. Цепочка поставок Intel сложна: более шестнадцати тысяч поставщиков в более чем ста странах поставляют материалы для производственных процессов компании, инструменты и машины для ее заводов, а также услуги логистики и упаковки[66]. Кроме того, Intel и Apple подвергались критике за то, что для определения бесконфликтного статуса минералов они проверяли только плавильные заводы, а не сами шахты. То есть такие технологические гиганты оценивали плавильные заводы за пределами Конго, а аудит проводили местные жители. Таким образом, даже сертификация технологической отрасли на отсутствие конфликтов теперь под вопросом[67].

Голландская технологическая компания Philips также заявила, что она работает над тем, чтобы сделать свою цепочку поставок «бесконфликтной». Как и Intel, Philips имеет десятки тысяч поставщиков, каждый из которых поставляет комплектующие для производственных процессов компании[68]. Эти поставщики сами связаны с тысячами производителей комплектующих, приобретающих обработанные материалы у десятков плавильных заводов. Плавильные заводы, в свою очередь, покупают материалы у неизвестного числа трейдеров, которые напрямую работают как с легальными, так и с нелегальными горнодобывающими предприятиями, чтобы получить различные минералы, которые в конечном итоге попадают в компьютерные компоненты[69].

По словам производителя компьютеров Dell, сложность цепочек поставок металлов и минералов создает почти непреодолимые проблемы для производства электронных компонентов, свободных от конфликтов. Элементы отмываются через такое огромное количество организаций в цепочке, что определить их происхождение невозможно – так утверждают производители конечной продукции, что позволяет им правдоподобно отрицать любую практику эксплуатации, обеспечивающую их прибыль[70].

Подобно шахтам, обслуживающим Сан-Франциско в XIX веке, добыча полезных ископаемых для технологического сектора осуществляется путем сокрытия от глаз реальных затрат. Незнание цепочки поставок заложено в капитализме, начиная с того, как бизнес защищает себя через сторонних подрядчиков и поставщиков, и заканчивая тем, как товары продаются и рекламируются потребителям. Более чем правдоподобное отрицание стало хорошо отработанной формой недобросовестности: левая рука не может знать, что делает правая, что, в свою очередь, требует более причудливых и сложных форм дистанцирования.

Хотя добыча полезных ископаемых для финансирования войны и является одним из самых крайних случаев вредной добычи, большинство ресурсов не добывается непосредственно в зонах боевых действий. Однако это не означает, что они свободны от человеческих страданий и разрушения окружающей среды. Пристальное внимание к конфликтным минералам, несмотря на свою важность, также используется для того, чтобы отвлечь внимание от вреда, наносимого горнодобывающей промышленностью в целом. Если мы посетим основные места добычи минералов, мы услышим истории об обесцвеченных кислотой реках, разрушенных ландшафтах и исчезновении видов растений и животных, которые когда-то были жизненно важны для местной экологии.

Черные озера и белый латекс

В Баотоу, крупнейшем городе Внутренней Монголии, есть искусственное озеро, заполненное токсичной черной грязью. Оно пахнет серой и простирается до самого горизонта, занимая более пяти с половиной миль в диаметре. Черное озеро содержит более 180 миллионов тонн отходов переработки руды[71]. Озеро образовалось в результате стока отходов с близлежащих шахт Баян-Обо, которые, по оценкам, содержат почти 70 процентов мировых запасов редкоземельных минералов. Это крупнейшее месторождение редкоземельных элементов на планете[72].

Китай поставляет 95 процентов всех редкоземельных минералов в мире. Доминирование Китая на рынке, как отмечает писатель Тим Моган, обусловлено не столько геологией, сколько готовностью страны взять на себя экологический ущерб от добычи[73]. Хотя редкоземельные минералы, такие как неодим и церий, относительно распространены, для их использования требуется опасный процесс растворения серной и азотной кислоты. Эти кислотные ванны дают резервуары ядовитых отходов, которые заполняют мертвое озеро в Баотоу. Это всего лишь одно из мест, переполненное тем, что эколог-исследователь Майра Хирд называет «отходами, о которых мы хотим забыть»[74].

На сегодняшний день уникальные электронные, оптические и магнитные свойства редкоземельных элементов не могут сравниться ни с какими другими металлами, но соотношение полезных ископаемых и токсичных отходов чрезвычайно велико. Стратег в области природных ресурсов Дэвид Абрахам описывает добычу диспрозия и тербия в Цзянси, Китай, используемых в различных высокотехнологичных устройствах. Он пишет: «Только 0,2 процента добытой глины содержит ценные редкоземельные элементы. Это означает, что 99,8 процента земли, извлеченной при добыче редкоземельных элементов, выбрасывается в виде отходов, называемых „хвостами“, которые сбрасываются обратно в холмы и ручьи». В итоге эти отходы создают новые загрязняющие вещества, такие как аммоний[75]. В результате очистки одной тонны редкоземельных элементов, «по оценкам Китайского общества редких земель, образуется 75000 литров кислой воды и одна тонна радиоактивных остатков»[76].

Примерно в трех тысячах миль к югу от Баотоу находятся небольшие индонезийские острова Бангка и Белитунг, расположенные у побережья Суматры. Бангка и Белитунг производят 90 процентов индонезийского олова, используемого в полупроводниках. Индонезия – второй по величине производитель этого металла в мире, после Китая. Национальная оловянная корпорация Индонезии PT Timah напрямую поставляет олово таким компаниям, как Samsung, а также производителям припоев Chernan и Shenmao, которые в свою очередь поставляют его Sony, LG и Foxconn – всем поставщикам Apple, Tesla и Amazon.[77]

На этих небольших островах шахтеры «серого рынка», не имеющие официального трудоустройства, сидят на самодельных понтонах, скребут морское дно бамбуковыми шестами, а затем ныряют под воду и высасывают олово с поверхности через гигантские, похожие на вакуумные трубки. Шахтеры продают найденное олово посредникам, которые также собирают руду у шахтеров, работающих в разрешенных шахтах, и смешивают их вместе, чтобы продать таким компаниям, как Timah[78]. Совершенно нерегулируемый процесс разворачивается вне всякой формальной защиты работников и окружающей среды. Как сообщает журналист-расследователь Кейт Ходал: «Добыча олова – это прибыльный, но разрушительный промысел, который изрезал ландшафт острова, снес бульдозерами фермы и леса, уничтожил рыбные запасы и коралловые рифы, а также нанес ущерб туризму. Ущерб лучше всего виден с воздуха: участки пышного леса скрываются среди огромных полос бесплодной оранжевой земли. Там, где не преобладают шахты, все усеяно могилами, во многих из которых лежат тела шахтеров, погибших на протяжении веков при добыче олова»[79]. Шахты повсюду: во дворах, в лесу, на обочинах дорог, на пляжах. Это настоящий пейзаж руин.

Обычная практика жизни – сосредоточиться на мире, находящемся непосредственно перед нами, который мы ежедневно видим, обоняем и осязаем. Мы привязываемся к месту, к сообществам, известным нам уголкам и проблемам. Но чтобы увидеть все цепочки поставок ИИ, необходимо искать закономерности в глобальном масштабе, быть чувствительным к тому, как история и конкретный вред отличаются от места к месту и в то же время глубоко взаимосвязаны под воздействием многочисленных сил.

Эти закономерности существуют не только в пространстве, но и во времени. Трансатлантические телеграфные кабели – это важнейшая инфраструктура для переправки данных между континентами, эмблема глобальной коммуникации и капитала. Они также являются материальным продуктом колониализма с его моделями добычи, конфликтов и разрушения окружающей среды. В конце девятнадцатого века особое дерево Юго-Восточной Азии под названием Palaquium gutta стало центром кабельного бума. Эти деревья, произрастающие в основном в Малайзии, производят молочно-белый натуральный латекс, называемый гуттаперчей. После того как в 1848 году английский ученый Майкл Фарадей опубликовал в Philosophical Magazine исследование об использовании этого материала в качестве электрического изолятора, гуттаперча быстро стала любимицей инженерного мира. Инженеры увидели в гуттаперче решение проблемы изоляции телеграфных кабелей, чтобы они могли выдерживать суровые и изменчивые условия на дне океана. Скрученным медным проводам требовалось четыре слоя мягкого органического сока дерева, чтобы защитить их от проникновения воды и проводить электрический ток.

По мере развития глобального бизнеса подводной телеграфии рос и спрос на стволы Palaquium gutta. Историк Джон Талли описывает, как местные малайцы, китайцы и даяки получали мизерную плату за опасную работу по валке деревьев и медленному сбору латекса[80]. Латекс перерабатывался и затем продавался через торговые рынки Сингапура на британский рынок, где он превращался в оболочки подводных кабелей, огибающих весь земной шар. Как пишет исследователь СМИ Николь Старосельски: «Военные стратеги рассматривали кабели как наиболее эффективный и безопасный способ связи с колониями – и, как следствие, контроля над ними»[81]. Маршруты подводных кабелей и сегодня обозначают ранние колониальные сети между центрами и перифериями империи[82].

Из зрелой гуттаперчи выходило около одиннадцати унций латекса. Но в 1857 году первый трансатлантический кабель длиной в 4500 километров и весом в две тысячи тонн потребовал около 250 тонн сырья. Для производства одной тонны материала требовалось около девятисот тысяч стволов. Джунгли Малайзии и Сингапура были вырублены; к началу 1880-х годов Palaquium gutta исчезла. В последней попытке спасти цепочку поставок британцы в 1883 году ввели запрет на сбор латекса, но дерево как вид уже практически вымерло[83].

Викторианская экологическая катастрофа на заре глобального информационного общества показывает, как переплетаются отношения между технологией и сырьем, окружающей средой и трудовыми практиками[84]. Так же как викторианцы спровоцировали экологическую катастрофу, так и современные горнодобывающие предприятия и глобальные цепочки поставок еще больше нарушают хрупкий экологический баланс нашей эпохи.

В предыстории планетарных вычислений присутствует мрачная ирония. В настоящее время крупномасштабные системы искусственного интеллекта стимулируют формы экстракции окружающей среды и данных, но, начиная с викторианской эпохи, алгоритмические вычисления возникли из желания управлять и контролировать войны, население и изменение климата.

Palaquium gutta

Историк Теодора Драйер описывает, как основатель математической статистики, английский ученый Карл Пирсон, стремился разрешить неопределенности планирования и управления путем разработки новых архитектур данных, включая стандартные отклонения и методы корреляции и регрессии. Его методы, в свою очередь, были глубоко связаны с наукой о расах, поскольку Пирсон – вместе со своим наставником, статистиком и основателем евгеники сэром Фрэнсисом Гальтоном – верил, что статистика может стать «первым шагом в исследовании возможного влияния селективного процесса на любой характер расы»[85].

Как пишет Драйер, «к концу 1930-х годов эти архитектуры данных – методы регрессии, стандартного отклонения и корреляции – стали доминирующими инструментами, используемыми для интерпретации социальной и государственной информации на мировой арене. Отслеживая узлы и маршруты мировой торговли, межвоенное „математико-статистическое движение“ стало огромным предприятием»[86]. Это предприятие продолжало расширяться после Второй мировой войны, поскольку новые вычислительные системы использовались в таких областях, как прогнозирование погоды в периоды засухи для повышения производительности крупномасштабного промышленного сельского хозяйства[87]. С этой точки зрения, алгоритмические вычисления, статистика и искусственный интеллект были разработаны в двадцатом веке для решения социальных и экологических проблем, но позже использовались для интенсификации промышленной добычи, эксплуатации и дальнейшего истощения экологических ресурсов.

Миф о чистых технологиях

Минералы – это основа искусственного интеллекта, но его жизненной силой по-прежнему является электрическая энергия. Передовые вычисления редко рассматриваются с точки зрения углеродного следа, ископаемого топлива и загрязнения окружающей среды; метафоры вроде «облака» подразумевают нечто плавающее и хрупкое в рамках естественной, зеленой индустрии[88]. Серверы спрятаны в неприметных центрах обработки данных, и их загрязняющие свойства гораздо менее заметны, чем дымящиеся трубы угольных электростанций. Технологический сектор активно рекламирует свою экологическую политику, инициативы по устойчивому развитию и планы по решению проблем, связанных с климатом, используя ИИ в качестве инструмента решения проблем. Все это является частью создаваемого общественностью имиджа устойчивой технологической индустрии без выбросов углекислого газа. В действительности же для работы вычислительных инфраструктур Amazon Web Services или Microsoft Azure требуется гигантское количество энергии, а углеродный след систем ИИ, работающих на этих платформах, постоянно растет[89].

Как пишет Тунг Хуи Ху в книге «Предыстория облака»: «Облако – это ресурсоемкая, добывающая технология, которая преобразует воду и электричество в вычислительную мощность, нанося значительный ущерб окружающей среде, которую затем вытесняет из поля зрения»[90]. Решение проблемы энергоемкой инфраструктуры стало одной из главных задач. Конечно, отрасль приложила значительные усилия, чтобы сделать центры обработки данных более энергоэффективными и увеличить использование возобновляемых источников энергии. Но уже сейчас углеродный след мировой вычислительной инфраструктуры сравнялся с углеродным следом авиационной промышленности в период ее расцвета, и он растет даже быстрее[91]. Оценки разнятся: такие исследователи, как Лотфи Белхир и Ахмед Эльмелиги, считают, что к 2040 году на долю технологического сектора придется 14 процентов глобальных выбросов парниковых газов, а группа исследователей из Швеции прогнозирует, что потребление электроэнергии одними только центрами обработки данных к 2030 году возрастет примерно в 15 раз[92].

Внимательно изучив вычислительные мощности, необходимые для создания моделей ИИ, мы видим, что стремление к экспоненциальному увеличению скорости и точности обходится планете дорогой ценой. Требования к обработке данных при обучении моделей ИИ и, следовательно, их энергопотребление все еще являются новой областью исследований. Одна из первых работ в этой области была опубликована исследователем ИИ Эммой Струбелл и ее командой из Массачусетского университета в Амхерсте в 2019 году. Сфокусировавшись на попытке понять углеродный след моделей обработки естественного языка (NLP), они начали набрасывать потенциальные оценки путем запуска моделей ИИ в течение сотен тысяч вычислительных часов[93]. Первые цифры оказались поразительными. Команда Струбелл обнаружила, что запуск всего одной модели NLP приводит к выбросу более 660000 фунтов углекислого газа, что эквивалентно пяти автомобилям, работающим на газе, за весь срок их службы (включая производство), или 125 перелетам в обе стороны из Нью-Йорка в Пекин[94].

Хуже того, исследователи отметили, что такое моделирование является, как минимум, базовой оптимистичной оценкой. Она не отражает реальных коммерческих масштабов, в которых работают такие компании, как Apple и Amazon, собирающие данные в Интернете и использующие свои собственные модели NLP для того, чтобы системы ИИ, такие как Siri и Alexa, звучали более человечно. Однако точный объем энергопотребления, производимого моделями ИИ в технологическом секторе, неизвестен; эта информация хранится как строго охраняемая корпоративная тайна. И здесь экономика данных основана на сохранении экологического невежества.

В области ИИ стандартной практикой является максимизация вычислительных циклов для повышения производительности, в соответствии с убеждением, что больше – значит лучше. Как говорит Рич Саттон из DeepMind: «Методы, использующие вычисления, в конечном итоге являются наиболее эффективными, причем с большим отрывом»[95]. Вычислительная техника перебора при обучении ИИ или систематический сбор большего количества данных и использование большего количества вычислительных циклов до достижения лучшего результата, привела к резкому увеличению потребления энергии. По оценкам OpenAI, с 2012 года объем вычислений, используемых для обучения одной модели ИИ, ежегодно увеличивался в десять раз. Это связано с тем, что разработчики «постоянно находят способы использовать больше чипов параллельно и готовы платить за это экономические издержки»[96]. Мышление с точки зрения экономических издержек сужает взгляд на более широкую локальную и экологическую цену сжигания вычислительных циклов как способа создания дополнительной эффективности. Тенденция к «вычислительному максимализму» имеет глубокие экологические последствия.

Центры обработки данных являются одними из крупнейших в мире потребителей электроэнергии[97]. Для питания этой многоуровневой машины требуется электроэнергия из сети в виде угля, газа, ядерной или возобновляемой энергии. Некоторые корпорации реагируют на растущую тревогу по поводу энергопотребления крупномасштабных вычислений: Apple и Google заявляют о своей углеродной нейтральности (это означает, что они компенсируют выбросы углерода путем покупки кредитов), а Microsoft обещает стать углеродно-нейтральной к 2030 году. Однако работники этих компаний настаивают на сокращении выбросов по всем направлениям, а не на поблажках из чувства вины перед окружающей средой[98]. Более того, Microsoft, Google и Amazon лицензируют свои платформы искусственного интеллекта, инженерные кадры и инфраструктуру компаниям, добывающим ископаемое топливо, чтобы помочь им найти и добыть топливо из недр земли, что еще больше стимулирует отрасль, наиболее ответственную за антропогенное изменение климата.

За пределами Соединенных Штатов поднимаются еще большие облака углекислого газа. Китайская индустрия центров обработки данных получает 73 процента электроэнергии из угля, выбросив в 2018 году около 99 миллионов тонн CO2[99]. Ожидается, что к 2023 году потребление электроэнергии инфраструктурой китайских центров обработки данных увеличится на две трети[100]. Гринпис поднял тревогу по поводу колоссальных энергетических потребностей крупнейших технологических компаний Китая, утверждая, что «ведущие технологические компании, включая Alibaba, Tencent и GDS, должны резко увеличить объемы закупок чистой энергии и раскрыть данные об энергопотреблении»[101]. Долгосрочное воздействие угольной энергетики проявляется повсюду, превышая любые национальные границы. Планетарный характер добычи ресурсов и ее последствий выходит далеко за рамки интересов национального государства.

Вода рассказывает еще одну историю об истинной стоимости вычислений. История использования воды в США полна сражений и секретных сделок, и, как и в случае с вычислениями, сделки, заключенные в отношении воды, держатся в секрете. Один из крупнейших в США центров обработки данных принадлежит Агентству национальной безопасности (АНБ) в Блаффдейле, штат Юта. Открытый с конца 2013 года, Центр обработки данных разведывательного сообщества в рамках комплексной национальной инициативы по кибербезопасности невозможно посетить. Но, проехав через окрестные пригороды, я нашла проселок на холме, поросшем шалфеем, и оттуда смогла поближе рассмотреть разросшийся объект площадью 1,2 миллиона квадратных футов. Этот объект имеет своего рода символическую силу следующей эры правительственного сбора данных, поскольку он был показан в таких фильмах, как «Citizenfour: правда Сноудена», и изображен в тысячах новостных сюжетов об АНБ. Однако вживую он выглядит неприметно и прозаично – гигантский контейнер для хранения данных, совмещенный с блоком правительственных офисов.

Борьба за воду началась еще до официального открытия центра обработки данных, учитывая его расположение в засушливом штате Юта[102]. Местные журналисты хотели подтвердить достоверность данных о потреблении 1,7 млн. галлонов воды в день, но АНБ изначально отказалось предоставить данные, отредактировало все детали в открытых источниках и заявило, что использование воды является вопросом национальной безопасности. Тогда активисты создали буклеты, призывающие прекратить их материальную поддержку, и разработали стратегию, согласно которой юридический контроль за использованием воды мог бы помочь закрыть объект[103]. Но город Блаффдейл уже заключил многолетнюю сделку с АНБ, по которой город продавал воду по тарифам значительно ниже среднего в обмен на обещание экономического роста[104]. Геополитика воды теперь глубоко объединена с механизмами и политикой центров обработки данных, вычислений и власти – во всех смыслах. С засушливого склона холма, с которого открывается вид на хранилище данных АНБ, все споры и недомолвки о воде становятся понятными: вода, которая используется для охлаждения серверов, отбирается у сообществ и мест обитания, от нее зависящих.

Как грязная работа горнодобывающего сектора была удалена от компаний и жителей городов, так и большинство центров обработки данных находятся вдали от крупных населенных пунктов, будь то в пустыне или в полупромышленных пригородах. Это способствует тому, что мы считаем облако невидимым и абстрагированным, в то время как на самом деле оно материально, влияет на окружающую среду и климат таким образом, что это далеко не всегда осознается и учитывается. Облако зависит от земли, и для того, чтобы оно росло, необходимо расширять ресурсы и слои логистики и транспорта, которые находятся в постоянном движении.

Логистический слой

До сих пор мы рассматривали материальные составляющие ИИ, от редкоземельных элементов до энергии. Основывая наш анализ на конкретных материальных составляющих ИИ – вещах, местах и людях, – мы можем увидеть, как эти составляющие действуют в рамках более широких систем власти. Возьмем, к примеру, глобальные логистические машины, которые перемещают по планете минералы, топливо, оборудование, работников и потребительские устройства ИИ[105]. Головокружительное зрелище логистики и производства, демонстрируемое такими компаниями, как Amazon, было бы невозможно без разработки и широкого признания стандартизированного металлического объекта: грузового контейнера. Подобно подводным кабелям, грузовые контейнеры связывают отрасли глобальной коммуникации, транспорта и капитала, являясь материальным воплощением того, что математики называют «оптимальной транспортировкой» – в данном случае, как оптимизация пространства и ресурсов на торговых путях мира.

Стандартизированные грузовые контейнеры (сами построенные из основных земных элементов – углерода и железа, выкованных в виде стали) обеспечили взрыв современной судоходной промышленности, что, в свою очередь, позволило представить и смоделировать планету как единую массивную фабрику. Грузовой контейнер – это единая мера стоимости, подобно конструктору «Лего», которая может преодолевать тысячи миль, прежде чем встретится со своим конечным пунктом назначения в качестве модульной части более крупной системы доставки. В 2017 году грузоподъемность контейнеровозов в морской торговле достигла почти 250 миллионов дедвейт-тонн грузов, среди которых доминируют такие гигантские судоходные компании, как датская Maersk, швейцарская Mediterranean Shipping Company и французская CMA CGM Group, каждая из которых владеет сотнями контейнеровозов[106]. Для этих коммерческих предприятий грузовые перевозки – относительно дешевый способ перемещения по сосудистой системе глобальной фабрики, однако они скрывают гораздо большие внешние издержки. Точно так же, как они склонны пренебрегать физическими реалиями и затратами инфраструктуры искусственного интеллекта, популярная культура и СМИ редко освещают судоходную отрасль. Автор Роуз Джордж называет это состояние «морской слепотой»[107].

За последние годы морские суда произвели 3,1 процента годовых глобальных выбросов углекислого газа, что больше, чем в Германии в совокупности[108]. Для минимизации внутренних затрат большинство компаний, занимающихся контейнерными перевозками, в огромных количествах используют низкосортное топливо, что приводит к повышенному содержанию в воздухе серы и других токсичных веществ. По оценкам, один контейнеровоз выбрасывает в атмосферу столько же загрязняющих веществ, сколько вырабатывают пятьдесят миллионов автомобилей, а шестьдесят тысяч ежегодных смертей косвенно объясняются загрязнением от грузовых судов[109].

Даже такие дружественные для отрасли источники, как Всемирный совет судоходства, признают, что тысячи контейнеров ежегодно теряются, опускаясь на дно океана или уходя в дрейф[110]. Некоторые контейнеры перевозят токсичные вещества, которые просачиваются в океаны; другие выпускают тысячи желтых резиновых уточек, и те в течение десятилетий выбрасываются на берег по всему миру[111]. Обычно работники проводят в море почти шесть месяцев, часто с длинными рабочими сменами и без доступа к внешней связи.

Наиболее серьезные издержки глобальной логистики ложатся на атмосферу Земли, океаническую экосистему и низкооплачиваемых работников. Корпоративные представления об ИИ не отражают долгосрочные затраты и длительную историю ресурсов, необходимых для создания вычислительных инфраструктур, и энергии, требуемой для их питания. Быстрый рост облачных вычислений, представляемых как экологически чистые, парадоксальным образом привел к расширению границ добычи ресурсов. Только лишь принимая во внимание эти скрытые затраты, а также обширные совокупности участников и систем, мы можем понять, что означает переход к большей автоматизации. Это требует работы против принципов технологического воображения, которое обычно совершенно не связано с земными делами. Например, поиск картинки «ИИ», который выдает десятки фотографий светящихся мозгов и двоичных кодов, парящих в космосе, оказывает мощное сопротивление взаимодействию с материальными аспектами этих технологий. Вместо этого мы начинаем с земли, с добычи и с истории индустриальной власти, а затем рассматриваем, как эти модели повторяются в системах труда и данных.

ИИ как мегамашина

В конце 1960-х годов историк и философ технологии Льюис Мамфорд разработал концепцию мегамашины, желая проиллюстрировать, что все системы, независимо от их размера, состоят из работы отдельных людей[112]. Согласно Мамфорду, Манхэттенский проект стал определяющей современной мегамашиной, тонкости которой скрывались не только от общественности, но даже от тысяч людей, которые работали над ней на охраняемых объектах по всей территории США. В общей сложности 130000 человек трудились в тайне под руководством военных, разрабатывая оружие, которое должно было убить (по самым скромным подсчетам) 237000 человек, упав на Хиросиму и Нагасаки в 1945 году. Создание атомной бомбы зависело от сложной, секретной цепи поставок, логистики и человеческого труда.

Искусственный интеллект – это еще один вид мегамашины, набор технологических подходов, зависящих от промышленных инфраструктур, цепочек поставок и человеческого труда, которые простираются по всему миру, но остаются непрозрачными. Мы поняли, что ИИ – это гораздо больше, чем базы данных и алгоритмы, модели машинного обучения и линейная алгебра. Он метаморфичен: он опирается на производство, транспортировку и физический труд; на центры обработки данных и подводные кабели между континентами; персональные устройства и их необработанные компоненты; на сигналы, передаваемые по воздуху; наборы данных, полученные через Интернет; и непрерывные вычислительные циклы. И за все это приходится платить.

Мы рассмотрели отношения между городами и шахтами, компаниями и цепочками поставок, а также соединяющую их топографию добычи. Принципиально взаимосвязанный характер производства, изготовления и логистики напоминает нам о том, что шахты, на которых работает ИИ, расположены повсюду: не только в отдельных местах, но и рассеяны по всей Земле. Мазен Лаббан называет этот феномен «планетарной шахтой»[113]. Это не означает отрицание множества конкретных мест, где происходит добыча полезных ископаемых с помощью технологий. Скорее, Лаббан отмечает, что планетарная шахта расширяет и реконструирует добычу в новые механизмы, распространяя практику шахт на новые пространства и взаимодействия по всему миру.

В настоящее время, когда воздействие антропогенного изменения климата уже идет полным ходом, поиск новых методов понимания глубоких материальных и человеческих корней систем искусственного интеллекта является жизненно важным. Но это легче сказать, чем сделать. Отчасти это связано с тем, что многие отрасли, входящие в цепочку систем ИИ, скрывают текущие затраты. Кроме того, масштабы, необходимые для создания систем искусственного интеллекта, слишком сложны, слишком затенены законодательством и слишком погрязли в логистических и технических процессах. Но наша цель состоит не в том, чтобы сделать сложные конструкции прозрачными: вместо того, чтобы пытаться в них заглянуть, мы будем соединять многочисленные системы и пытаться понять, как они друг с другом взаимодействуют[114]. Таким образом, наш путь будет пролегать через истории об экологических и трудовых издержках искусственного интеллекта и помещать их в контекст с практиками извлечения и классификации, которыми оплетена повседневная жизнь. Именно размышляя над этими вопросами, мы сможем добиться большей справедливости.

Я совершаю еще одну поездку в Сильвер-Пик. Не доезжая до города, я останавливаю фургон на обочине, чтобы прочитать истерзанный погодой знак. Это исторический маркер Невады 174, посвященный созданию и разрушению маленького городка под названием Блэр. В 1906 году Питсбургская золотодобывающая компания Silver Pick скупила шахты в этом районе. Предвидя бум, земельные спекулянты выкупили все свободные участки вместе с правами на воду, доведя цены до рекордных искусственных максимумов. В итоге горнодобывающая компания провела геодезическую съемку в паре миль к северу и объявила это место территорией нового города: Блэр. Они построили самую большую в штате мельницу для выщелачивания и проложили железную дорогу, которая шла от Блэр Джанкшн до магистрали Тонопа и Голдфилд. Вскоре город процветал. Сотни людей приезжали сюда со всех концов, чтобы получить работу, несмотря на тяжелые условия труда. Однако при такой интенсивной добыче цианид начал отравлять землю, а золотые и серебряные пласты разрушаться и иссякать. К 1918 году Блэр был практически заброшен. Все закончилось за какие-то двенадцать лет. Руины отмечены на местной карте – всего в сорока пяти минутах ходьбы.

Руины в Блэр. Фотография Кейт Кроуфорд

В пустыне стоит палящий жаркий день. Единственные звуки – металлическое эхо цикад и гул случайного пассажирского самолета. Я начинаю подниматься по холму. К тому времени, когда я достигаю скопления каменных зданий на вершине длинной грунтовой дороги, я изнемогаю от жары. Я укрываюсь в развалившихся останках того, что когда-то являлось домом золотодобытчика. Осталось немного: разбитая посуда, осколки стеклянных бутылок, несколько ржавых консервных банок. В те годы, когда Блэр был оживленным городом, поблизости процветали многочисленные салуны, а двухэтажный отель принимал посетителей. Теперь это скопление разрушенных фундаментов.

Сквозь пространство, где раньше стояло окно, открывается вид на долину. Меня поражает осознание того, что Сильвер-Пик тоже скоро станет городом-призраком. Текущий объем добычи на литиевом руднике агрессивен в ответ на высокий спрос, и никто не знает, как долго это продлится. Самая оптимистичная оценка – сорок лет, но конец может наступить гораздо раньше. Тогда литиевые бассейны под долиной Клейтон будут обескровлены – уничтожены из-за батарей, предназначенных для захоронения на свалке. А Сильвер-Пик вернется к своей прежней жизни, как пустое и тихое место, на краю древнего соляного озера, ныне осушенного.

Глава 2
Труд

Когда я вхожу в огромный центр компании Amazon в Роббинсвилле, штат Нью-Джерси, первое, что я вижу, – это большой знак с надписью «Табельные часы». Она торчит из одного из ярко-желтых бетонных пилонов, протянувшихся через огромное заводское пространство площадью 1,2 миллиона квадратных футов. Это крупный распределительный склад для небольших объектов – центральный узел распределения на северо-востоке США. Он представляет собой головокружительное зрелище современной логистики и стандартизации, призванной ускорить доставку посылок. Десятки табло с часовым механизмом расположены через равные промежутки времени вдоль входа. Каждая секунда работы контролируется и подсчитывается. Работники, известные как «партнеры», должны регистрироваться сразу же по прибытии. В редких, освещенных флуоресцентным светом комнатах отдыха, также установлены часы и еще больше знаков, подчеркивающих, что все сканирования при входе и выходе из комнат отслеживаются. Как на складе сканируют упаковки, так на складе следят и за максимально возможной эффективностью работников: они могут отрываться от работы только на пятнадцать минут за смену, с неоплачиваемым тридцатиминутным перерывом на обед. Смены длятся по десять часов.

Это один из новейших центров выполнения заказов, где для перемещения тяжелых стеллажей с товарами используются роботы. Ярко-оранжевые роботы Kiva плавно скользят по бетонному полу, как яркие водяные жучки, следуя запрограммированной логике, которая заставляет их вращаться ленивыми кругами, а затем направляет к следующему работнику, ожидающему подносы. Затем они движутся дальше, неся на своих спинах башню из тяжелых покупок. Эта армия прижавшихся к земле роботов представляет собой неутомимую рабочую силу: они несут, вращаются, продвигаются, снова несут. Они издают низкий жужжащий гул, однако его почти полностью заглушает звук быстро движущихся конвейерных лент, которые служат артериями завода. В этом помещении четырнадцать миль конвейерных лент движутся без остановки, в результате чего получается постоянный рев.

Пока роботы исполняют свой слаженный алгоритмический балет за ограждениями из цепей, рабочие на фабрике гораздо менее спокойны. Беспокойство, связанное с выполнением нормы – количества товаров, которые они должны отобрать и упаковать за отведенное время, – явно сказывается. Многие из рабочих, с которыми я сталкиваюсь во время визитов, носят те или иные поддерживающие повязки. Я вижу наколенники, налокотники, защитные щитки для запястий. Когда я замечаю, что у многих людей есть травмы, работник Amazon, проводящий меня по фабрике, указывает на расположенные через равные промежутки торговые автоматы, «снабженные безрецептурными обезболивающими для всех, кто в них нуждается».

Табельные часы в центре выполнения заказов Amazon в Роббинсвилле, штат Нью-Джерси. AP Photo/Julio Cortez

Робототехника стала ключевой частью логистического арсенала Amazon, и если машины выглядят ухоженными, то человеческие тела кажутся чем-то второстепенным. Они нужны для выполнения специфических, сложных задач, непосильных роботам: сбор и визуальное подтверждение предметов, которые в кратчайшие сроки люди хотят получить, от чехлов для телефонов до моющего средства. Люди – это необходимая соединительная структура, необходимая для того, чтобы заказанные товары попадали в контейнеры и грузовики и доставлялись потребителям. При этом люди не являются самым ценным или надежным компонентом машины Amazon. В конце рабочего дня все сотрудники должны пройти через ряд металлодетекторов. Как мне сказали, это эффективная мера защиты от краж.

В слоях Интернета одной из наиболее распространенных единиц измерения является сетевой пакет – основная единица данных, отправляемая из одного пункта назначения и доставляемая в другой. В компании Amazon основной единицей измерения является коричневая картонная коробка – знакомое нам транспортное сооружение, украшенное изогнутой стрелкой, имитирующей человеческую улыбку. Каждый сетевой пакет имеет временную метку, известную как период жизни. Данные должны попасть в пункт назначения до его истечения. В Amazon картонная коробка также имеет время жизни, определяемое требованиями клиента к доставке. Если коробка опаздывает, это влияет на бренд Amazon и, в конечном счете, на его прибыль. Именно по этой причине компания уделяет огромное внимание алгоритму машинного обучения, который настраивается на данные о наилучшем размере, весе и прочности гофрированных коробок и бумажных конвертов. Очевидно, без иронии, алгоритм называется «матрицей»[115]. Каждый раз, когда человек сообщает о поврежденном товаре, это становится точкой отсчета данных о том, какую коробку следует использовать в будущем. В следующий раз, когда этот же товар будет ждать отправления, матрица автоматически назначит ему новый тип коробки без участия человека. Такой подход предотвращает поломки, экономит время и увеличивает прибыль. Однако работники вынуждены постоянно адаптироваться, что, безусловно, затрудняет применение их знаний на практике или привыкание к работе.

Контроль за временем является постоянной темой логистической империи Amazon, а сотрудники работают в соответствии с каденциями вычислительной логики. Amazon – второй по величине частный работодатель в Америке, и многие компании стремятся подражать его подходу. Многие крупные корпорации вкладывают значительные средства в автоматизированные системы в попытке получить все большие объемы труда от меньшего числа работников. Логика эффективности, наблюдения и автоматизации сходятся в нынешнем повороте к вычислительным подходам к управлению трудом. Гибридные человеко-роботизированные распределительные склады Amazon являются ключевым местом для понимания компромиссов, которые происходят в этом стремлении к автоматизированной эффективности. Отсюда мы можем начать рассматривать вопрос о том, как труд, капитал и время переплетаются в системах ИИ.

Вместо того чтобы обсуждать, заменят ли людей роботы, в этой главе я сосредоточусь на том, как меняется опыт работы в связи с усилением наблюдения, алгоритмической оценки и модуляции времени. Другими словами, насколько часто люди прибегают к помощи роботов и как это сказывается на роли труда. Многие формы труда окутаны термином «искусственный интеллект», скрывая тот факт, что люди зачастую выполняют механические задачи, поддерживая тем самым впечатление, будто эту работу способны сделать машины. Тем не менее, крупномасштабные вычисления уже глубоко укоренились в процессе труда и основаны на эксплуатации человеческих тел.

Если мы хотим понять будущее работы в контексте искусственного интеллекта, нам нужно начать с понимания прошлого и настоящего опыта работников. Подходы к максимизации извлечения ценности из сотрудников варьируются от переработки классических методов, использовавшихся на заводах Генри Форда, до ряда инструментов машинного обучения, предназначенных для повышения детализации отслеживания, стимулирования и оценки. В этой главе представлена история географии труда в прошлом и настоящем, от инспекционных домов Самуэля Бентама до теорий управления временем Чарльза Бэббиджа и микроменеджмента человеческого тела Фредерика Уинслоу Тейлора. Попутно мы увидим, каким образом ИИ строится на основе человеческих усилий (среди прочего), таких как работа в коллективе, приватизация времени и, казалось бы, бесконечная работа по перемещению, подъему и упорядочиванию коробок. Из истории механизированной фабрики возникла модель, которая ценит повышенное соответствие, стандартизацию и совместимость – как для продуктов и процессов, так и для людей.

Предыстория автоматизированного рабочего места

Автоматизация рабочих пространств, хотя о ней часто рассказывают как о будущем, уже давно стала опытом современной работы. Производственный конвейер с его акцентом на последовательные и стандартизированные единицы продукции имеет аналоги в сфере услуг, от розничной торговли до ресторанов. С 1980-х годов труд секретаря все больше автоматизируется, и теперь его имитируют высоко феминизированные помощники ИИ, такие как Siri, Cortana и Alexa[116]. Так называемые офисные работники, те самые «белые воротнички», которым, как предполагалось, в меньшей степени угрожает автоматизация, оказываются все больше подвержены наблюдению, систематизации процессов и разрушению различий между работой и досугом (хотя женщины и без того редко испытывали четкие различия, как показали феминистские теоретики труда, такие как Сильвия Федеричи и Мелисса Грегг)[117]. Как оказалось, адаптироваться пришлось всем отраслям, чтобы их можно было интерпретировать и понимать системами, основанными на программном обеспечении[118].

Общим рефреном расширения систем искусственного интеллекта и автоматизации процессов является то, что мы живем во времена выгодного сотрудничества человека и искусственного интеллекта. Но это сотрудничество не является справедливым. Условия основаны на значительной асимметрии власти – есть ли вообще выбор не сотрудничать с алгоритмическими системами? Когда компания внедряет новую платформу ИИ, работникам редко разрешают отказаться от сотрудничества. Это не столько сотрудничество, сколько принуждение, когда от работников ожидается, что они будут переквалифицироваться, идти в ногу со временем и беспрекословно принимать каждую новую техническую разработку.

Вторжение ИИ на рабочие места следует понимать не как радикальный отход от устоявшихся форм, а как возвращение к старым практикам эксплуатации промышленного труда, которые прочно утвердились в 1890-х годах и в начале XX века. В то время фабричный труд уже рассматривался в контексте машин, а задачи все больше подразделялись на более мелкие действия, требующие минимальных навыков, но максимального напряжения сил. Действительно, нынешнее расширение автоматизации продолжает более широкую историческую динамику, присущую промышленному капитализму. С момента появления первых фабрик рабочие сталкивались с все более мощными инструментами, машинами и электронными системами, которые играют роль в изменении методов управления трудом и в передаче большей ценности работодателям. Сейчас мы наблюдаем новые припевы на старую тему. Решающее отличие заключается лишь в том, что теперь работодатели наблюдают, оценивают и регулируют части рабочего цикла и физические данные вплоть до последнего микродвижения, которые раньше были для них недоступны.

Существует множество предысторий ИИ в рабочем пространстве; одна из них – широкомасштабная автоматизация общих видов производственной деятельности во время промышленной революции. В своем труде «Богатства народов» политэкономист XVIII века Адам Смит впервые указал на разделение и подразделение производственных задач как на основу повышения производительности и роста механизации[119]. Он заметил, что, определив и проанализировав различные этапы производства любого изделия, можно разделить их на все более мелкие шаги. Так продукт, который раньше полностью изготавливался опытными ремесленниками, теперь может быть создан командой рабочих более низкой квалификации, оснащенных инструментами, специально созданными для выполнения конкретной задачи. Таким образом можно было значительно увеличить объем производства на фабрике без эквивалентного увеличения стоимости рабочей силы.

Развитие механизации имело большое значение, но только в сочетании с растущим изобилием энергии, получаемой из ископаемого топлива, оно смогло привести к массовому росту производственных мощностей индустриальных обществ. Этот рост производства происходил одновременно с серьезной трансформацией роли труда по отношению к машинам. Изначально задуманные как трудосберегающие устройства, фабричные машины должны были помогать рабочим в повседневной деятельности, но быстро стали центром производственной активности, определяя скорость и характер работы. Паровые двигатели, например, работающие на угле и нефти, приводили в движение непрерывные механические действия, которые влияли на темп работы на фабрике. Работа перестала восприниматься как продукт человеческого труда и приобрела все более машинный характер, а рабочие уже начали приспосабливаться к потребностям машины и ее особым ритмам и характеристикам. Опираясь на Смита, Карл Маркс еще в 1848 году отметил, что автоматизация абстрагирует труд от производства готовых предметов и превращает рабочего в «придаток машины»[120].

Интеграция человеческого труда с механическим оказалась настолько глубокой, что ранние промышленники стали рассматривать своих работников как сырье, которым можно управлять и контролировать, как любым другим ресурсом. Владельцы фабрик, используя местное политическое влияние и оплачиваемую силу, стремились направлять и ограничивать передвижение рабочих в пределах фабричных городов, иногда даже не позволяя им эмигрировать в менее механизированные регионы мира[121].

Все это также означало усиление контроля над временем. Историк Э. П. Томпсон в своем основополагающем эссе исследует, как промышленная революция привела к большей синхронизации рабочего процесса и более строгой дисциплине[122]. Переход к промышленному капитализму принес с собой разделение труда, надзор, часы и табели – технологии, которые также повлияли на восприятие времени людьми. Не обошлось и без вклада культуры: в восемнадцатом и девятнадцатом веках пропаганда трудолюбия велась в форме памфлетов и эссе о важности дисциплины, и проповедей о достоинствах раннего подъема и усердной работы до позднего вечера[123]. Использование времени стало рассматриваться как в моральных, так и в экономических терминах: понимаемое как валюта, время могло быть потрачено с умом или же впустую. Но чем более жесткие временные рамки устанавливались в цехах и на фабриках, тем больше рабочие начинали сопротивляться, борясь за само время. К 1800-м годам рабочие движения активно выступали за сокращение рабочего дня, который мог длиться до шестнадцати часов. Вот так само время стало ключевым объектом борьбы.

Поддержание эффективной и дисциплинированной рабочей силы на первых фабриках потребовало новых систем наблюдения и контроля. И вот одним из таких изобретений на заре промышленного производства стал наблюдательный корпус – круговая конструкция, где все рабочие фабрики располагались внизу, а начальство работало на возвышенности в центре, чтобы иметь возможность следить за рабочими. Разработанная в 1780-х годах в России английским военно-морским инженером Сэмюэлем Бентамом, находившимся на службе у князя Потемкина, эта система позволяла опытным руководителям следить за своими необученными подчиненными – в основном русскими крестьянами, которых Потемкин передал Бентаму, – на предмет выявления признаков некачественной работы. Кроме того, Бентам смог следить за надсмотрщиками на предмет признаков плохой дисциплины. Надсмотрщики, в основном мастера-кораблестроители, нанятые из Англии, вызывали у Бентама сильное раздражение своей склонностью к выпивке и мелким разногласиям друг с другом. «Утро за утром меня занимают главным образом споры между моими офицерами», – жаловался Бентам[124]. По мере того, как его разочарование росло, он приступил к перепланировке, которая максимально увеличила его способность следить за ними и за системой в целом. После визита своего старшего брата, философа-утилитариста Джереми Бентама, инспекционный корпус Сэмюэля стал источником вдохновения для знаменитого паноптикона – проекта типовой тюрьмы с центральной сторожевой башней, с которой охранники могли наблюдать за заключенными в камерах[125].

Со времен книги Мишеля Фуко «Надзирать и наказывать» стало привычным считать тюрьму отправной точкой современного наблюдения, а старшего Бентама – ее идейным родоначальником. На самом же деле тюрьма обязана своим происхождением работе младшего Бентама в контексте раннего производственного предприятия[126]. Паноптикон зародился как механизм рабочего места задолго до того, как был концептуализирован для тюрем.

Хотя работа Сэмюэля Бентама над инспекционным корпусом в значительной степени исчезла из нашей коллективной памяти, история, лежащая в ее основе, остается частью общего лексикона. Корпус являлся частью стратегии, скоординированной работодателем Бентама, князем Потемкиным, который хотел добиться расположения при дворе Екатерины Великой, продемонстрировав возможности модернизации сельской России и превращения крестьянства в современную рабочую силу. Инспекционный дом был построен для того, чтобы служить зрелищем для приезжих высокопоставленных лиц и финансистов, подобно так называемым потемкинским деревням, которые были не более чем украшенными фасадами, призванными отвлечь внимание наблюдателей от бедных сельских пейзажей, скрытых от глаз.

И это только одна генеалогия. Многие другие истории труда сформировали подобные практики наблюдения и контроля. Плантационные колонии Америки использовали принудительный труд для выращивания таких товарных культур, как сахар, а рабовладельцы зависели от систем постоянного наблюдения. Как описывает Николас Мирзоефф в книге «Право смотреть», центральную роль в экономике плантаций играл надсмотрщик, который следил за производственным процессом на колониальной плантации рабов. И этот надзор означал упорядочивание работы в рамках системы крайнего насилия[127]. Как описал один плантатор в 1814 году, роль надсмотрщика заключалась в том, чтобы «ни на мгновение не оставлять раба в бездействии; он следит за производством сахара, ни на секунду не покидая рабочее место»[128]. Этот режим также опирался на подкуп некоторых рабов едой и одеждой, чтобы привлечь их к расширенной сети наблюдения и поддерживать дисциплину и скорость работы в моменты отсутствия надсмотрщика[129].

В наши дни роль надзора возложена в первую очередь на технологии мониторинга. Управленческий класс использует широкий спектр технологий для наблюдения за сотрудниками, включая отслеживание их передвижений с помощью приложений, анализ лент в социальных сетях, сравнение шаблонов ответов на электронные письма и бронирования встреч, а также стимулирование различными предложениями, чтобы заставить их работать быстрее и эффективнее. Данные о сотрудниках используются для составления прогнозов о том, кто с наибольшей вероятностью добьется успеха (в соответствии с узкими, поддающимися количественной оценке параметрами), кто может отклоняться от целей компании, а кто способен организовывать других работников. Некоторые из них используют методы машинного обучения, а другие представляют собой более простые алгоритмические системы. По мере распространения искусственного интеллекта в производственных помещениях многие базовые системы мониторинга и слежения расширяются за счет новых прогностических возможностей, превращаясь в более инвазивные механизмы управления работниками, контроля активов и извлечения ценности.

Потемкинский ИИ и интернет-площадка Mechanical Turk

Один из менее признанных фактов об искусственном интеллекте – это количество низкооплачиваемых работников, которые должны помогать создавать, поддерживать и тестировать системы ИИ. Этот невидимый труд принимает различные формы: работа в цепочке поставок, краудворкинг по требованию и традиционные должности в сфере услуг. Эксплуатационные формы труда существуют на всех этапах создания ИИ, начиная с горнодобывающего сектора, где ведется добыча и транспортировка ресурсов для создания основной инфраструктуры систем ИИ, и заканчивая программной частью, где распределенные рабочие силы получают копейки за микрозадачу. Мэри Грей и Сид Сури называют такой скрытый труд «призрачной работой»[130]. Лилли Ирани называет его «автоматизацией, подпитываемой человеком»[131]. Эти ученые обратили внимание на опыт краудворкеров или микроработников, которые выполняют повторяющиеся цифровые задачи, лежащие в основе систем ИИ, такие как маркировка тысяч часов учебных данных и проверка подозрительного или вредоносного контента. Рабочие выполняют повторяющиеся задачи, которые поддерживают утверждения о волшебстве ИИ, однако они редко получают похвалу за то, что заставляют системы функционировать[132].

Хотя этот труд необходим для поддержания систем ИИ, он в большинстве случаев очень низко оплачивается. В ходе исследования, проведенного Международной организацией труда ООН, было опрошено 3500 краудворкеров из 75 стран, которые регулярно предлагают свой труд на популярных платформах для выполнения заданий, таких как Amazon Mechanical Turk, Figure Eight, Microworkers и Clickworker. Отчет показал, что значительное число людей получали ниже минимальной заработной платы, даже несмотря на то, что большинство респондентов являлись высокообразованными гражданами, часто со специализацией в области науки и техники[133]. Аналогичным образом, те, кто занимается модерацией контента – оценивает видео на предмет насилия или нецензурной лексики – также получают низкую зарплату. Как показали такие исследователи СМИ, как Сара Робертс и Тарлетон Гиллеспи, подобная работа способна оставить после себя длительные психологические травмы[134].

Между тем, без этой работы системы ИИ не будут функционировать. Техническое сообщество исследователей ИИ полагается на дешевый труд людей для решения многих задач, которые не могут быть выполнены машинами. В период с 2008 по 2016 год термин «краудсорсинг» появился менее чем в тысяче научных статей и достиг более чем двадцати тысяч – что вполне логично, учитывая, что в 2005 году запустили Mechanical Turk. Но в тот же период времени почти не обсуждалось, какие этические вопросы могут возникнуть, если полагаться на рабочую силу, которая получает гораздо ниже минимальной заработной платы[135].

Конечно, существуют серьезные причины игнорировать зависимость от низкооплачиваемой рабочей силы. Вся работа, которую выполняют люди, – от маркировки изображений для систем компьютерного зрения до тестирования правильности результатов работы алгоритма, – позволяет совершенствовать системы ИИ гораздо быстрее и дешевле, особенно если сравнивать с оплатой труда студентов за выполнение таких же задач (как это было принято раньше). По этой причине данный вопрос обычно игнорируется, и, как заметила одна исследовательская группа, использующая краудворкинг, клиенты, использующие эти платформы, «ожидают дешевого выполнения труда, как будто платформа – это не интерфейс для работающих людей, а огромный компьютер без затрат на проживание»[136]. Другими словами, клиенты относятся к человеческим работникам как к машинам, потому что признание их работы и справедливое вознаграждение за нее сделают ИИ более дорогим и менее «эффективным».

Иногда работников напрямую просят притвориться системой искусственного интеллекта. Компания x.ai, создающая цифровой персональный помощник, утверждала, что ИИ-агент по имени Эми может «волшебным образом планировать встречи» и выполнять множество повседневных задач. Но подробное расследование Bloomberg, проведенное журналисткой Эллен Хуэт, показало, что это вовсе не искусственный интеллект. «Эми» тщательно проверялась и переписывалась командой контрактников, работавших по многу смен. Аналогичным образом, личный помощник Facebook, M, полагался на регулярное вмешательство человека со стороны группы работников, которым платили за проверку и редактирование каждого сообщения[137].

Имитация ИИ – изнурительная работа. Сотрудники x.ai иногда работали по четырнадцать часов в смену, аннотируя электронные письма, чтобы поддерживать иллюзию того, что сервис автоматизирован и функционирует круглосуточно. Они не могли уйти в конце ночи, пока не заканчивались очереди писем. «Я уходил, чувствуя полное оцепенение и отсутствие каких-либо эмоций», – рассказал Хуэт, один из сотрудников в интервью[138].

Все это можно рассматривать как своего рода «потемкинский» ИИ – не более чем фасады, созданные для демонстрации инвесторам и доверчивым СМИ внешнего вида автоматизированной системы, которая на самом деле опирается на человеческий труд[139]. При благожелательном прочтении эти фасады являются иллюстрацией того, на что система может быть способна при полной реализации, или «минимально жизнеспособным продуктом», созданным для демонстрации концепции. При менее благосклонном прочтении «потемкинские» системы ИИ – это форма обмана, совершаемого поставщиками технологий, стремящимися заявить о себе в прибыльном технологическом пространстве. Но до тех пор, пока не появится другой способ создания крупномасштабного ИИ, не требующий длительной работы людей за занавесом, это основная логика работы ИИ.

Писательница Астра Тейлор назвала перепродажу высокотехнологичных систем, которые на самом деле не автоматизированы, обманом[140]. Кажется, что автоматизированные системы делают работу, которую раньше выполняли люди, но на самом деле система просто координирует работу человека в фоновом режиме. Тейлор приводит примеры киосков самообслуживания в ресторанах быстрого питания и систем самостоятельной кассы в супермаркетах как мест, где труд работника, казалось бы, заменен автоматизированной системой, но на самом деле он просто перенесен с оплачиваемого работника на клиента. Между тем, многие онлайн-системы, принимающие на первый взгляд автоматизированные решения, такие как удаление дублирующихся записей или оскорбительного контента, на самом деле обслуживаются людьми, работающими из дома над бесконечными очередями рутинных задач[141]. Подобно потемкинским декоративным деревням и образцовым мастерским, многие ценные автоматизированные системы включают в себя комбинацию низкооплачиваемых цифровых рабочих и потребителей, выполняющих бесплатные задачи для обеспечения функционирования систем. Тем временем компании стремятся убедить инвесторов и общественность в том, что работу выполняют умные машины.

Что же стоит на кону такого искусства? Истинные трудозатраты на ИИ постоянно преуменьшаются и замалчиваются, но силы, движущие этим представлением, лежат глубже, чем просто маркетинговый трюк. Это часть традиций эксплуатации и увольнения, когда люди должны выполнять более утомительную и повторяющуюся работу, чтобы заполнить автоматизированные системы. Однако этот подход может масштабироваться, обеспечивая снижение затрат и увеличение прибыли, при этом скрывая, насколько он зависит от удаленных работников, получающих прожиточный минимум и перекладывающих на потребителей дополнительные задачи по обслуживанию или проверке ошибок.

Ложная автоматизация не заменяет напрямую человеческий труд, скорее, она перемещает и рассредотачивает его в пространстве и времени, при этом усиливая разрыв между трудом и стоимостью, и тем самым выполняя идеологическую функцию. Работники, отчужденные от результатов своего труда и отделенные от других людей, выполняющих ту же задачу, легче подвергаются эксплуатации со стороны работодателей. Об этом свидетельствует крайне низкий уровень компенсации, которую получают краудворкеры по всему миру[142]. Они сталкиваются с реальным фактом, что их труд взаимозаменяем любым из тысяч других сотрудников, конкурирующих с ними за работу на платформах. В любой момент их может заменить краудворкер или, возможно, более автоматизированная система.

В 1770 году венгерский изобретатель Вольфганг фон Кемпелен сконструировал сложный механический автомат. Он построил шкаф из дерева с часовым механизмом, внутри которого прятался человек. Механический шахматист, как считали другие, отлично играл и все время выигрывал. Необычное устройство впервые было продемонстрировано при дворе императрицы Марии Терезии Австрийской, после чего его начали приглашать сановники и министры правительства, все из которых были абсолютно убеждены, что это разумный автомат. Реалистичная машина носила тюрбан, широкие штаны и отороченный мехом халат, чтобы создать впечатление «восточного колдуна»[143]. Этот расистский облик сигнализировал об экзотической непохожести, в то время, когда элиты Вены пили турецкий кофе и одевали своих слуг в турецкие костюмы[144]. Он стал известен как Механический Турок (Mechanical Turk). Однако, как оказалось, шахматный автомат являлся всего лишь искусной иллюзией: во внутреннем отсеке прятался умелый игрок, незаметно управлявший машиной.

Спустя 250 лет эта мистификация продолжает жить. Компания Amazon решила назвать свою краудсорсинговую платформу, основанную на микроплатежах, «Amazon Mechanical Turk», несмотря на ассоциации с расизмом и обманом. На платформе Amazon реальные работники остаются вне поля зрения в угоду иллюзии, что системы искусственного интеллекта автономны и разумны[145]. Первоначальная мотивация Amazon для создания Mechanical Turk возникла из-за неудач ее собственных систем искусственного интеллекта, которые не могли адекватно обнаружить дублирующие страницы товаров на розничном сайте. После ряда тщетных и дорогостоящих попыток решить эту проблему инженеры проекта привлекли людей, чтобы заполнить пробелы в своих оптимизированных системах[146]. Теперь Mechanical Turk связывает предприятия с невидимой и анонимной массой работников, которые борются за возможность поработать над серией микрозадач. Mechanical Turk – это массовая распределенная мастерская, где люди имитируют и улучшают системы искусственного интеллекта, проверяя и корректируя алгоритмические процессы. Это то, что глава Amazon Джефф Безос нагло называет «искусственным ИИ»[147].

Такие примеры потемкинского ИИ встречаются повсюду. Некоторые из них непосредственно видны: когда мы замечаем на дорогах один из современных самоуправляемых автомобилей, мы также видим человека-оператора на водительском месте, готового взять управление машиной на себя при первых признаках неисправности. Другие менее заметны, например, когда мы взаимодействуем с веб-интерфейсом чата. Мы имеем дело только с фасадами, скрывающими их внутреннюю работу, призванную скрыть различные комбинации машинного и человеческого труда в каждом взаимодействии. Мы не знаем, получаем ли мы ответ от самой системы или от человека-оператора, которому заплатили за ответ от ее имени.

Парадокс, с которым сталкивались многие из нас, заключается в том, что якобы для подтверждения подлинной человеческой личности при чтении веб-сайта нам необходимо убедить в этом систему reCAPTCHA компании Google. Поэтому мы послушно выбираем несколько квадратиков с номерами улиц, машин или домов. Мы бесплатно обучаем алгоритмы распознавания образов Google. И снова миф о доступности и эффективности ИИ зависит от слоев эксплуатации, включая использование массового неоплачиваемого труда для тонкой настройки систем ИИ самых богатых компаний на Земле.

Современные формы искусственного интеллекта не являются ни искусственными, ни интеллектуальными. Мы можем и должны говорить о тяжелом физическом труде шахтеров, труде на конвейере, кибернетическом труде в когнитивных потогонных цехах программистов-аутсорсеров, о низкооплачиваемом краудсорсинговом труде работников Mechanical Turk и неоплачиваемом нематериальном труде повседневных пользователей. Это те места, где мы видим, как планетарные вычисления зависят от эксплуатации людей по всей цепочке его добычи.

Концепция поточной линии и автоматизации рабочих мест: Бэббидж, Форд и Тейлор

Чарльз Бэббидж хорошо известен как изобретатель первого механического компьютера. В 1820-х годах он разработал идею дифференциального двигателя – механической вычислительной машины, предназначенной для составления математических и астрономических таблиц. К 1830-м годам он разработал концептуальный проект аналитического двигателя, программируемого механического компьютера общего назначения с системой перфокарт для подачи инструкций[148].

Бэббидж также проявлял большой интерес к либеральной социальной теории и много писал о природе труда – сочетание его интересов в области вычислений и автоматизации работы. Вслед за Адамом Смитом он отметил разделение труда как средство рационализации фабричной работы и повышения эффективности. Однако он пошел дальше, утверждая, что промышленную корпорацию можно рассматривать как аналог вычислительной системы. Как и компьютер, она включает в себя множество специализированных подразделений, выполняющих определенные задачи. Все они координируются для производства определенного объема работы, но при этом трудоемкость конечного продукта остается практически незаметной для процесса в целом.

В своих более спекулятивных работах Бэббидж представлял себе идеальные потоки работы, проходящие через систему, которую можно представить в виде таблиц данных и отслеживать с помощью шагомеров и повторяющихся механизмов[149]. По его мнению, благодаря сочетанию вычислений, наблюдения и трудовой дисциплины можно будет обеспечить все более высокую степень эффективности и контроля качества[150]. Это было странное пророческое видение. Только в последние годы, с внедрением искусственного интеллекта в рабочем пространстве, необычные цели Бэббиджа – вычисления и автоматизация труда – стали возможны в масштабах страны.

Экономическая мысль Бэббиджа развивалась по аналогии с экономикой Смита, но отличалась от нее в одном важном аспекте. Для Смита экономическая ценность объекта понималась в зависимости от стоимости труда, необходимого для его производства. В представлении Бэббиджа, однако, стоимость фабрики проистекала из инвестиций в разработку производственного процесса, а не из рабочей силы сотрудников. Настоящей инновацией являлся логистический процесс, а рабочие просто выполняли поставленные перед ними задачи и управляли машинами в соответствии с инструкциями.

По мнению Бэббиджа, роль рабочей силы в цепочке создания стоимости в основном негативная: сотрудники могли не выполнить задачи в срок, предписанный высокоточными станками, на которых они работали, будь то из-за плохой дисциплины, травм, прогулов или сопротивления. Как отмечает историк Саймон Шаффер, «Бэббидж рассматривал фабрики как совершенные двигатели, а вычислительные машины – как идеальные компьютеры. Рабочая сила могла стать источником проблем, но точно не источником ценности»[151]. Фабрика задумывалась как рациональная вычислительная машина с единственным недостатком: хрупкой и ненадежной человеческой рабочей силой.

На теорию Бэббиджа, безусловно, оказывал влияние финансовый либерализм, что вынуждало его рассматривать труд как проблему, которую необходимо решить с помощью автоматизации. При этом человеческие издержки мало учитывались. Никто не пытался выяснить, каким образом автоматизация сможет улучшить трудовую жизнь работников фабрик. Вместо этого идеализированная машина Бэббиджа в первую очередь нацеливалась на максимизацию финансовой прибыли для владельцев заводов и их инвесторов. Аналогичным образом, сегодняшние сторонники ИИ представляют концепцию производства, где приоритетом является эффективность, сокращение затрат и повышение прибыли, а не, скажем, помощь сотрудникам путем замены монотонной тяжелой работы. Как утверждает Астра Тейлор: «Эффективность, к которой стремятся ИТ-евангелисты, подчеркивает стандартизацию, упрощение и скорость, а не разнообразие, сложность и взаимозависимость»[152]. Данный факт не должен никого удивлять: это результат стандартной бизнес-модели коммерческих компаний, где наивысшей целью является акционерная стоимость. В настоящее время мы живем в системе, в которой компании настроены на извлечение как можно большей прибыли. Между тем, 94 процента всех новых американских рабочих мест, появившихся в период с 2005 по 2015 год, созданы для «альтернативной работы» – работы, не связанной с полным рабочим днем и зарплатой[153]. И пока они получают выгоду от растущей автоматизации, люди работают больше часов, на большем количестве мест, за меньшую зарплату и в небезопасных условиях.

Мясной рынок

Одной из первых отраслей промышленности, где была внедрена механизированная производственная линия, стала мясоперерабатывающая промышленность Чикаго в 1870-х годах. Поезда привозили скот к воротам скотобойни; животные направлялись на убой на соседние предприятия; туши перевозились на различные мясные и перерабатывающие станции с помощью механизированной системы подвесных тележек, образуя то, что стало известно как поточная линия. Готовую продукцию можно было отправлять на далекие рынки в специально сконструированных железнодорожных вагонах-холодильниках[154]. Историк труда Гарри Брэйверман отметил, что чикагские скотобойни настолько полно реализовали концепцию Бэббиджа об автоматизации и разделении труда, что человеческие приемы, необходимые на любом участке поточной линии, мог выполнять практически любой человек[155]. Низкоквалифицированным рабочим можно было платить минимальную сумму и заменять при первых признаках проблем. Они сами становились таким же товаром, как и упакованное мясо, которое производили.

Когда Аптон Синклер писал «Джунгли», ужасающий роман о бедности рабочего класса, действие происходило на мясокомбинатах Чикаго. Хотя он и стремился показать трудности рабочих-иммигрантов в поддержку социалистических политических взглядов, книга произвела совершенно иной эффект. Изображения зараженного и гниющего мяса вызвали общественный резонанс по поводу безопасности продуктов питания и привели к принятию в 1906 году Закона о мясной инспекции. Однако внимание к рабочим было упущено. Влиятельные институты, от мясоперерабатывающей промышленности до Конгресса, желали вмешаться, чтобы улучшить методы производства, но обращение к более фундаментальной эксплуататорской динамике труда, которая поддерживала всю систему, было запрещено. Устойчивость этой модели подчеркивает, как власть реагирует на критику: независимо от того, идет ли речь о коровьих тушах или распознавании лиц, реакция заключается в том, чтобы принять регулирование на периферии, но оставить нетронутой основную логику производства.

Разделочный этаж Armour Beef, 1952 год. Предоставлено Чикагским историческим обществом

В истории автоматизации важное место занимают две другие фигуры: Генри Форд, чья сборочная линия начала двадцатого века вдохновлена чикагскими комбинатами, и Фредерик Уинслоу Тейлор, основатель научного менеджмента. Тейлор построил свою карьеру в последние годы девятнадцатого века, разработав систематический подход к управлению рабочим местом и сосредоточившись на мельчайших движениях тела рабочих. В то время как понятие Смита и Бэббиджа о разделении труда было призвано обеспечить способ распределения работы между людьми и инструментами, Тейлор сузил фокус до микроскопических подразделений в действиях каждого работника.

Секундомер, как новейшая технология точного учета времени, должен был стать ключевым инструментом наблюдения за рабочим местом как для начальников цехов, так и для инженеров-технологов. Тейлор использовал секундомеры для проведения исследований рабочих, включающих подробную разбивку времени, затрачиваемого на выполнение отдельных физических движений, связанных с любой конкретной задачей. Его «Принципы научного управления» создали систему количественной оценки движений с целью выработки оптимально эффективного расположения инструментов и рабочих процессов. Целью был максимальный объем производства при минимальных затратах[156]. Этот подход послужил примером описания Марксом господства времени: «Время – все, человек – ничто; он, самое большее, – это оболочка времени»[157].

Foxconn, крупнейшая в мире компания по производству электроники, выпускающая смартфоны Apple iPhone и планшеты iPad, является ярким примером того, как рабочие низведены до уровня животных, выполняющих жестко контролируемые задачи. Foxconn стала печально известна своими милитаристскими подходами после серии самоубийств в 2010 году[158]. Всего два года спустя председатель совета директоров компании, Терри Гоу, описал более миллиона своих сотрудников: «Поскольку люди – это тоже животные, управление миллионным стадом вызывает у меня головную боль»[159].

Контроль времени – это еще один способ управления. В сфере обслуживания и быстрого питания время измеряется до секунды. Работники McDonald’s оцениваются по выполнению таких показателей, как пять секунд на обработку заказа с экрана, двадцать две секунды на сборку сэндвича и четырнадцать секунд на упаковку блюда[160]. Строгое следование часам лишает систему права на ошибку. Малейшая задержка (клиент слишком долго делает заказ, кофеварка не работает, сотрудник заболел) может привести к каскадному ряду задержек, предупреждающих звуков и уведомлений руководства.

Еще до того, как работники McDonald’s приступят к работе, их время уже будет управляться и отслеживаться. Алгоритмическая система планирования, включающая анализ исторических данных и модели прогнозирования спроса, определяет распределение рабочих смен, в результате чего график работы может меняться от недели к неделе и даже день ото дня. В 2014 году в коллективном иске против ресторанов McDonald’s в Калифорнии отмечалось, что франчайзи руководят программным обеспечением, которое дает алгоритмические прогнозы относительно соотношения количества сотрудников и продаж, и инструктирует менеджеров сокращать персонал, когда спрос падает[161]. Работники сообщали, что им говорили не приходить на смену, а вместо этого слоняться поблизости, чтобы быть готовыми вернуться на работу, если в ресторане начнется оживление. Поскольку работникам платят только за отработанное время, в иске утверждалось, что это было равносильно значительной краже заработной платы со стороны компании и франчайзи[162].

Алгоритмическое распределение варьируется от очень коротких смен продолжительностью в час (или меньше) до очень длинных периодов во время наплыва – все, что наиболее выгодно. Алгоритм не учитывает человеческие издержки, связанные с ожиданием или невозможностью предсказать график и спланировать жизнь. Такая кража времени помогает повысить эффективность компании, но платить за нее приходится непосредственно сотрудникам.

Управление временем, приватизация времени

Предприниматель в сфере быстрого питания Рэй Крок, который помог превратить McDonald’s в глобальную франшизу, присоединился к примеру Смита, Бэббиджа, Тейлора и Форда, разработав стандартную линию сборки сэндвичей и заставил своих сотрудников бездумно ей следовать. Наблюдение, стандартизация и сокращение индивидуального труда являлись центральными пунктами в методе Крока. Как утверждают исследователи труда Клэр Мэйхью и Майкл Куинлан в отношении стандартизированного процесса McDonald’s, «фордистская система управления фиксировала работу и производственные задачи в мельчайших деталях. Она требовала постоянного документированного участия и предполагала детальный контроль над рабочим процессом каждого человека. Вся концептуальная работа была практически полностью исключена из процесса выполнения задач»[163].

Объектом пристального внимания на заводе Ford стала минимизация времени, проведенного на каждом участке, или (время цикла). Инженеры делили рабочие задачи на все более мелкие части, чтобы их можно было оптимизировать и автоматизировать, а руководители дисциплинировали рабочих, когда те отставали. Супервайзеров, и даже самого Генри Форда, часто видели с секундомером в руках, записывающими время цикла и отмечающими любые несоответствия в производительности участка[164].

Сейчас работодатели могут пассивно наблюдать за рабочей силой, не выходя на заводской цех. Вместо этого рабочие заступают на смену, приложив пропуск или сделав отпечаток пальца на считывающем устройстве, прикрепленном к электронным часам. Они работают перед хронометрами, которые показывают минуты или секунды, оставшиеся на выполнение текущего задания до уведомления менеджера. Они сидят за рабочими местами, оснащенными датчиками, которые постоянно сообщают о температуре их тела, физическом расстоянии от коллег, количестве времени, которое они тратят на просмотр веб-сайтов вместо выполнения поставленных задач, и так далее. WeWork, гигантская компания по организации рабочих пространств, которая прогорела в течение 2019 года. Компания незаметно оснастила оснастила свои рабочие места устройствами наблюдения в попытке создать новые формы монетизации данных. Ее приобретение в 2019 году стартапа Euclid, занимающегося пространственной аналитикой, вызвало обеспокоенность, поскольку предполагалось, что компания планирует отслеживать своих же клиентов во время их перемещений по зданию[165]. Domino’s Pizza добавила на свои кухни системы машинного зрения, которые проверяют готовую пиццу на соответствие с установленными стандартами[166]. Аппараты наблюдения используются с целью получения входных данных для алгоритмических систем планирования, которые в дальнейшем модулируют рабочее время; или для сбора поведенческих сигналов, способных коррелировать с признаками высокой или низкой производительности; или просто продаются брокерам данных в качестве формы инсайта.

В своем эссе «Как Кремниевая долина устанавливает время» профессор социологии Джуди Вайкман утверждает, что цели инструментов учета времени и демографический состав Кремниевой долины не случайны[167]. Элитная рабочая сила Кремниевой долины «более молодая, более работоспособная и более приверженная». Они создают инструменты производительности, которые основаны на своего рода безжалостной гонке за максимальной эффективностью[168]. Это означает, что молодые люди, в основном мужчины-инженеры, часто не обремененные семейными или общественными обязанностями, создают инструменты, которые будут контролировать совершенно разные рабочие места, количественно оценивая производительность и потенциал сотрудников. В итоге трудоголизм и круглосуточная работа, зачастую восхваляемая технологическими стартапами, становятся неявным эталоном «идеала» сотрудника.

Личное время

Координация времени становится все более детальной в технологических формах управления рабочим пространством. Например, протокол автоматизации производства (MAP) компании General Motors стал ранней попыткой обеспечить стандартное решение общих проблем координации производственных роботов, включая синхронизацию часов[169]. Со временем появились другие, более общие протоколы синхронизации времени, которые можно было передавать по сетям ethernet и TCP/IP, включая протокол сетевого времени (NTP) и, позднее, протокол точного времени (PTP), каждый из которых породил множество конкурирующих реализаций в различных операционных системах. И NTP, и PTP функционируют путем создания иерархии часов в сети, при этом «ведущие» часы управляют «ведомыми» часами.

Метафора «хозяин-раб» или «ведущий-ведомый» пронизывает всю инженерную и вычислительную технику. Одно из самых ранних употреблений этой расистской метафоры относится к 1904 году, когда описывались астрономические часы в обсерватории Кейптауна[170]. Однако термин получил распространение только в 1960-х годах, особенно после того, как был использована в вычислительной технике, начиная с Дартмутской системы разделения времени. Математики Джон Кемени и Томас Курц разработали программу разделения времени для доступа к вычислительным ресурсам после предложения одного из первых основателей ИИ Джона Маккарти. Как они писали в журнале Science в 1968 году: «Во-первых, все вычисления пользователей происходят на ведомом компьютере, а исполнительная программа („мозг“ системы) находится на ведущем компьютере. Поэтому невозможно, чтобы ошибочная или беглая пользовательская программа на ведомом компьютере „повредила“ исполнительную программу и тем самым остановила всю систему»[171]. Проблематичный вывод о том, что управление эквивалентно интеллекту, будет продолжать формировать область ИИ в течение десятилетий. Как утверждает Рон Эглаш, эта формулировка сильно перекликается с рассуждениями о беглых рабах до Гражданской войны[172].

Терминология «хозяин-раб» была воспринята многими как оскорбительная и была удалена из Python, языка кодирования, распространенного в машинном обучении, и Github, платформы для разработки программного обеспечения. Однако она сохраняется в одной из самых обширных вычислительных инфраструктур в мире. Spanner от Google – названный так потому, что охватывает всю планету, – это массивная, глобально распределенная, синхронно реплицируемая база данных. Это инфраструктура, которая поддерживает Gmail, поиск Google, рекламу и все распределенные сервисы Google.

Функционируя по всему миру, Spanner синхронизирует время на миллионах серверов в сотнях центров обработки данных. В каждом центре есть «хозяин», который постоянно получает GPS-время. Но поскольку серверы опрашивали различные задающие генераторы, существовала небольшая задержка в сети. Как Как устранили эту неопределенность? Ответ заключался в создании нового сетевого протокола – запатентованной формы, – чтобы все серверы могли синхронизироваться независимо от того, в какой точке планеты они находятся. Google без иронии назвал этот новый протокол TrueTime.

TrueTime функционирует путем установления доверительных отношений между локальными часами центров обработки данных, чтобы они могли решать, с какими коллегами синхронизироваться. Благодаря достаточно большому количеству надежных часов, – включая GPS-приемники и атомные часы, которые обеспечивают чрезвычайно высокую степень точности, – и достаточно низким уровням сетевой задержки, TrueTime позволяет набору серверов гарантировать определенную последовательность событий в глобальной сети[173].

Самое замечательное в этой системе – это то, как TrueTime справляется с неопределенностью при наличии дрейфа на отдельных серверах. «Если неопределенность велика, Spanner замедляется, чтобы ее переждать», – объясняют исследователи Google[174]. Это воплощает фантазию о замедлении времени, о его перемещении по своему усмотрению и о приведении планеты к единому запатентованному временному коду. Если рассматривать человеческое восприятие времени как нечто изменчивое и субъективное, движущееся быстрее или медленнее в зависимости от того, где мы находимся и с кем, то это социальное восприятие времени. TrueTime – это способность создавать смещающуюся шкалу времени под контролем централизованных главных часов. Подобно тому, как Исаак Ньютон представил себе абсолютную форму времени, существующую независимо от любого воспринимающего, Google изобрел свою собственную форму универсального времени.

Собственные формы времени уже давно используются для обеспечения бесперебойной работы машин, например, ими пользовались железнодорожные магнаты в XIX веке. В Новой Англии в 1849 году все поезда должны были принимать бостонское время, указанное William Bond & Son.[175] Как документально подтвердил Питер Галисон, руководителям железных дорог не нравилось переходить на другое время в зависимости от того, в какой штат направлялись их поезда, а генеральный директор железнодорожной компании New York & New England назвал переход на другое время «неприятностью и большим неудобством, не приносящим никакой пользы»[176]. Но после того как в 1853 году в результате столкновения поездов лоб в лоб погибли четырнадцать человек, возникло огромное давление, чтобы скоординировать все часы с помощью новой технологии телеграфа.

Как и искусственный интеллект, телеграф приветствовался как объединяющая технология, способная расширить возможности человека. В 1889 году лорд Солсбери хвастался, что телеграф «собрал все человечество на одной большой плоскости»[177]

Конец ознакомительного фрагмента.

Текст предоставлен ООО «Литрес».

Прочитайте эту книгу целиком, купив полную легальную версию на Литрес.

Безопасно оплатить книгу можно банковской картой Visa, MasterCard, Maestro, со счета мобильного телефона, с платежного терминала, в салоне МТС или Связной, через PayPal, WebMoney, Яндекс.Деньги, QIWI Кошелек, бонусными картами или другим удобным Вам способом.

Примечания

1

Heyn, «Berlin’s Wonderful Horse.»

Вернуться

2

Pfungst, Clever Hans.

Вернуться

3

«Clever Hans’ Again.»

Вернуться

4

Pfungst, Clever Hans.

Вернуться

5

Pfungst.

Вернуться

6

Lapuschkin et al., «Unmasking Clever Hans Predictors.»

Вернуться

7

See the work of philosopher Val Plumwood on the dualisms of intelligence-stupid, emotional-rational, and master-slave. Plumwood, «Politics of Reason.»

Вернуться

8

Turing, «Computing Machinery and Intelligence.»

Вернуться

9

Von Neumann, The Computer and the Brain, 44. This approach was deeply critiqued by Dreyfus, What Computers Can’t Do.

Вернуться

10

See Weizenbaum, «On the Impact of the Computer on Society,» After his death, Minsky was implicated in serious allegations related to convicted pedophile and rapist Jeffrey Epstein. Minsky was one of several scientists who met with Epstein and visited his island retreat where underage girls were forced to have sex with members of Epstein’s coterie. As scholar Meredith Broussard observes, this was part of a broader culture of exclusion that became endemic in AI: «As wonderfully creative as Minsky and his cohort were, they also solidified the culture of tech as a billionaire boys’ club. Math, physics, and the other ‘hard’ sciences have never been hospitable to women and people of color; tech followed this lead.» See Broussard, Artificial Unintelligence, 174.

Вернуться

11

Weizenbaum, Computer Power and Human Reason, 202–3.

Вернуться

12

Greenberger, Management and the Computer of the Future, 315.

Вернуться

13

Dreyfus, Alchemy and Artificial Intelligence.

Вернуться

14

Dreyfus, What Computers Can’t Do.

Вернуться

15

Ullman, Life in Code, 136–37.

Вернуться

16

See, as one of many examples, Poggio et al., «Why and When Can Deep – but Not Shallow – Networks Avoid the Curse of Dimensionality.»

Вернуться

17

Quoted in Gill, Artificial Intelligence for Society, 3.

Вернуться

18

Russell and Norvig, Artificial Intelligence, 30.

Вернуться

19

Daston, «Cloud Physiognomy.»

Вернуться

20

Didi-Huberman, Atlas, 5.

Вернуться

21

Didi-Huberman, 11.

Вернуться

22

Franklin and Swenarchuk, Ursula Franklin Reader, Prelude.

Вернуться

23

For an account of the practices of data colonization, see «Colonized by Data»; and Mbembé, Critique of Black Reason.

Вернуться

24

Fei-Fei Li quoted in Gershgorn, «Data That Transformed AI Research.»

Вернуться

25

Russell and Norvig, Artificial Intelligence, 1.

Вернуться

26

Bledsoe quoted in McCorduck, Machines Who Think, 136.

Вернуться

27

Mattern, Code and Clay, Data and Dirt, xxxiv-xxxv.

Вернуться

28

Ananny and Crawford, «Seeing without Knowing.»

Вернуться

29

Any list will always be an inadequate account of all the people and communities who have inspired and informed this work. I’m particularly grateful to these research communities: FATE (Fairness, Accountability, Transparency and Ethics) and the Social Media Collective at Microsoft Research, the AI Now Institute at NYU, the Foundations of AI working group at the École Normale Supérieure, and the Richard von Weizsäcker Visiting Fellows at the Robert Bosch Academy in Berlin.

Вернуться

30

Saville, «Towards Humble Geographies.»

Вернуться

31

For more on crowdworkers, see Gray and Suri, Ghost Work; and Roberts, Behind the Screen.

Вернуться

32

Canales, Tenth of a Second.

Вернуться

33

Zuboff, Age of Surveillance Capitalism.

Вернуться

34

Cetina, Epistemic Cultures, 3.

Вернуться

35

«Emotion Detection and Recognition (EDR) Market Size.»

Вернуться

36

Nelson, Tu, and Hines, «Introduction,» 5.

Вернуться

37

Danowski and de Castro, Ends of the World.

Вернуться

38

Franklin, Real World of Technology, 5.

Вернуться

39

Brechin, Imperial San Francisco.

Вернуться

40

Brechin, 29.

Вернуться

41

Agricola quoted in Brechin, 25.

Вернуться

42

Quoted in Brechin, 50.

Вернуться

43

Brechin, 69.

Вернуться

44

See, e. g., Davies and Young, Tales from the Dark Side of the City; and «Grey Goldmine.»

Вернуться

45

For more on the street-level changes in San Francisco, see Bloomfield, «History of the California Historical Society’s New Mission Street Neighborhood.»

Вернуться

46

«Street Homelessness.» See also «Counterpoints: An Atlas of Displacement and Resistance.»

Вернуться

47

Gee, «San Francisco or Mumbai?»

Вернуться

48

H. W. Turner published a detailed geological survey of the Silver Peak area in July 1909. In beautiful prose, Turner extolled the geological variety within what he described as «slopes of cream and pink tuffs, and little hillocks of a bright brick red.» Turner, «Contribution to the Geology of the Silver Peak Quadrangle, Nevada,» 228.

Вернуться

49

Lambert, «Breakdown of Raw Materials in Tesla’s Batteries and Possible Breaknecks.»

Вернуться

50

Bullis, «Lithium-Ion Battery.»

Вернуться

51

«Chinese Lithium Giant Agrees to Three-Year Pact to Supply Tesla.»

Вернуться

52

Wald, «Tesla Is a Battery Business.»

Вернуться

53

Scheyder, «Tesla Expects Global Shortage.»

Вернуться

54

Wade, «Tesla’s Electric Cars Aren’t as Green.»

Вернуться

55

Business Council for Sustainable Energy, «2019 Sustainable Energy in America Factbook.» U. S. Energy Information Administration, «What Is U. S. Electricity Generation by Energy Source?»

Вернуться

56

Whittaker et al., AI Now Report 2018.

Вернуться

57

Parikka, Geology of Media, vii – viii; McLuhan, Understanding Media.

Вернуться

58

Ely, «Life Expectancy of Electronics.»

Вернуться

59

Sandro Mezzadra and Brett Neilson use the term «extractivism» to name the relation between different forms of extractive operations in contemporary capitalism, which we see repeated in the context of the AI industry. Mezzadra and Neilson, «Multiple Frontiers of Extraction.»

Вернуться

60

Nassar et al., «Evaluating the Mineral Commodity Supply Risk of the US Manufacturing Sector.»

Вернуться

61

Mumford, Technics and Civilization, 74.

Вернуться

62

See, e. g., Ayogu and Lewis, «Conflict Minerals.»

Вернуться

63

Burke, «Congo Violence Fuels Fears of Return to 90s Bloodbath.»

Вернуться

64

«Congo ’s Bloody Coltan.»

Вернуться

65

«Congo ’s Bloody Coltan.»

Вернуться

66

«Transforming Intel’s Supply Chain with Real-Time Analytics.»

Вернуться

67

See, e. g., an open letter from seventy signatories that criticizes the limitations of the so-called conflict-free certification process: «An Open Letter.»

Вернуться

68

«Responsible Minerals Policy and Due Diligence.»

Вернуться

69

In The Elements of Power, David S. Abraham describes the invisible networks of rare metals traders in global electronics supply chains: «The network to get rare metals from the mine to your laptop travels through a murky network of traders, processors, and component manufacturers. Traders are the middlemen who do more than buy and sell rare metals: they help to regulate information and are the hidden link that helps in navigating the network between metals plants and the components in our laptops» [89].

Вернуться

70

«Responsible Minerals Sourcing.»

Вернуться

71

Liu, «Chinese Mining Dump.»

Вернуться

72

«Bayan Obo Deposit.»

Вернуться

73

Maughan, «Dystopian Lake Filled by the World’s Tech Lust.»

Вернуться

74

Hird, «Waste, Landfills, and an Environmental Ethics of Vulnerability,» 105.

Вернуться

75

Abraham, Elements of Power, 175.

Вернуться

76

Abraham, 176.

Вернуться

77

Simpson, «Deadly Tin Inside Your Smartphone.»

Вернуться

78

Hodal, «Death Metal.»

Вернуться

79

Hodal.

Вернуться

80

Tully, «Victorian Ecological Disaster.»

Вернуться

81

Starosielski, Undersea Network, 34.

Вернуться

82

See Couldry and Mejías, Costs of Connection, 46.

Вернуться

83

Couldry and Mejías, 574.

Вернуться

84

For a superb account of the history of undersea cables, see Starosielski, Undersea Network.

Вернуться

85

Dryer, «Designing Certainty,» 45.

Вернуться

86

Dryer, 46.

Вернуться

87

Dryer, 266-68.

Вернуться

88

More people are now drawing attention to this problem – including researchers at AI Now. See Dobbe and Whittaker, «AI and Climate Change.»

Вернуться

89

See, as an example of early scholarship in this area, Ensmenger, «Computation, Materiality, and the Global Environment.»

Вернуться

90

Hu, Prehistory of the Cloud, 146.

Вернуться

91

Jones, «How to Stop Data Centres from Gobbling Up the World’s Electricity.» Some progress has been made toward mitigating these concerns through greater energy efficiency practices, but significant long-term challenges remain. Masanet et al., «Recalibrating Global Data Center Energy – Use Estimates.»

Вернуться

92

Belkhir and Elmeligi, «Assessing ICT Global Emissions Footprint»; Andrae and Edler, «On Global Electricity Usage.»

Вернуться

93

Strubell, Ganesh, and McCallum, «Energy and Policy Considerations for Deep Learning in NLP.»

Вернуться

94

Strubell, Ganesh, and McCallum.

Вернуться

95

Sutton, «Bitter Lesson.»

Вернуться

96

«AI and Compute.»

Вернуться

97

Cook et al., Clicking Clean.

Вернуться

98

Ghaffary, «More Than 1,000 Google Employees Signed a Letter.» See also «Apple Commits to Be 100 Percent Carbon Neutral»; Harrabin, «Google Says Its Carbon Footprint Is Now Zero»; Smith, «Microsoft Will Be Carbon Negative by 2030.»

Вернуться

99

«Powering the Cloud.»

Вернуться

100

«Powering the Cloud.»

Вернуться

101

«Powering the Cloud.»

Вернуться

102

Hogan, «Data Flows and Water Woes.»

Вернуться

103

«Off Now.»

Вернуться

104

Carlisle, «Shutting Off NSA’s Water Gains Support.»

Вернуться

105

Materiality is a complex concept, and there is a lengthy literature that contends with it in such fields as STS, anthropology, and media studies. In one sense, materiality refers to what Leah Lievrouw describes as «the physical character and existence of objects and artifacts that makes them useful and usable for certain purposes under particular conditions.» Lievrouw quoted in Gillespie, Boczkowski, and Foot, Media Technologies, 25. But as Diana Coole and Samantha Frost write, «Materiality is always something more than ‘mere’ matter: an excess, force, vitality, relationality, or difference that renders matter active, self-creative, productive, unproductive.» Coole and Frost, New Materialisms, 9.

Вернуться

106

United Nations Conference on Trade and Development, Review of Maritime Transport, 2017.

Вернуться

107

George, Ninety Percent of Everything, 4.

Вернуться

108

Schlanger, «If Shipping Were a Country.»

Вернуться

109

Vidal, «Health Risks of Shipping Pollution.»

Вернуться

110

«Containers Lost at Sea–2017 Update.»

Вернуться

111

Adams, «Lost at Sea.»

Вернуться

112

Mumford, Myth of the Machine.

Вернуться

113

Labban, «Deterritorializing Extraction.» For an expansion on this idea, see Arboleda, Planetary Mine.

Вернуться

114

Ananny and Crawford, «Seeing without Knowing.»

Вернуться

115

Wilson, «Amazon and Target Race.»

Вернуться

116

Lingel and Crawford, «Alexa, Tell Me about Your Mother.»

Вернуться

117

Federici, Wages against Housework; Gregg, Counterproductive.

Вернуться

118

In The Utopia of Rules, David Graeber details the sense of loss experienced by white-collar workers who now have to enter data into the decision-making systems that have replaced specialist administrative support staff in most professional workplaces.

Вернуться

119

Smith, Wealth of Nations, 4–5.

Вернуться

120

Marx and Engels, Marx-Engels Reader, 479. Marx expanded on this notion of the worker as an «appendage» in Capital, vol. 1: «In handicrafts and manufacture, the worker makes use of a tool; in the factory, the machine makes use of him. There the movements of the instrument of labor proceed from him, here it is the movements of the machine that he must follow. In manufacture the workers are parts of a living mechanism. In the factory we have a lifeless mechanism which is independent of the workers, who are incorporated into it as its living appendages.» Marx, Das Kapital, 548–49.

Вернуться

121

Luxemburg, «Practical Economies,» 444.

Вернуться

122

Thompson, «Time, Work-Discipline, and Industrial Capitalism.»

Вернуться

123

Thompson, 88–90.

Вернуться

124

Werrett, «Potemkin and the Panopticon,» 6.

Вернуться

125

See, e. g., Cooper, «Portsmouth System of Manufacture.»

Вернуться

126

Foucault, Discipline and Punish; Horne and Maly, Inspection House.

Вернуться

127

Mirzoeff, Right to Look, 58.

Вернуться

128

Mirzoeff, 55.

Вернуться

129

Mirzoeff, 56.

Вернуться

130

Gray and Suri, Ghost Work.

Вернуться

131

Irani, «Hidden Faces of Automation.»

Вернуться

132

Yuan, «How Cheap Labor Drives China’s A. I. Ambitions»; Gray and Suri, «Humans Working behind the AI Curtain.»

Вернуться

133

Berg et al., Digital Labour Platforms.

Вернуться

134

Roberts, Behind the Screen; Gillespie, Custodians of the Internet, 111–40.

Вернуться

135

Silberman et al., «Responsible Research with Crowds.»

Вернуться

136

Silberman et al.

Вернуться

137

Huet, «Humans Hiding behind the Chatbots.»

Вернуться

138

Huet.

Вернуться

139

See Sadowski, «Potemkin AI.»

Вернуться

140

Taylor, «Automation Charade.»

Вернуться

141

Taylor.

Вернуться

142

Gray and Suri, Ghost Work.

Вернуться

143

Standage, Turk, 23.

Вернуться

144

Standage, 23.

Вернуться

145

See, e. g., Aytes, «Return of the Crowds,» 80.

Вернуться

146

Irani, «Difference and Dependence among Digital Workers,» 225.

Вернуться

147

Pontin, «Artificial Intelligence.»

Вернуться

148

Menabrea and Lovelace, «Sketch of the Analytical Engine.»

Вернуться

149

Babbage, On the Economy of Machinery and Manufactures, 39–43.

Вернуться

150

Babbage evidently acquired an interest in quality-control processes while trying (vainly) to establish a reliable supply chain for the components of his calculating engines.

Вернуться

151

Schaffer, «Babbage’s Calculating Engines and the Factory System,» 280.

Вернуться

152

Taylor, People’s Platform, 42.

Вернуться

153

Katz and Krueger, «Rise and Nature of Alternative Work Arrangements.»

Вернуться

154

Rehmann, «Taylorism and Fordism in the Stockyards,» 26.

Вернуться

155

Braverman, Labor and Monopoly Capital, 56, 67; Specht, Red Meat Republic.

Вернуться

156

Taylor, Principles of Scientific Management.

Вернуться

157

Marx, Poverty of Philosophy, 22.

Вернуться

158

Qiu, Gregg, and Crawford, «Circuits of Labour»; Qiu, Goodbye iSlave.

Вернуться

159

Markoff, «Skilled Work, without the Worker.»

Вернуться

160

Guendelsberger, On the Clock, 22.

Вернуться

161

Greenhouse, «McDonald’s Workers File Wage Suits.»

Вернуться

162

Greenhouse.

Вернуться

163

Mayhew and Quinlan, «Fordism in the Fast Food Industry.»

Вернуться

164

Ajunwa, Crawford, and Schultz, «Limitless Worker Surveillance.»

Вернуться

165

Mikel, «WeWork Just Made a Disturbing Acquisition.»

Вернуться

166

Mahdawi, «Domino’s ‘Pizza Checker’ Is Just the Beginning.»

Вернуться

167

Wajcman, «How Silicon Valley Sets Time.»

Вернуться

168

Wajcman, 1277.

Вернуться

169

Gora, Herzog, and Tripathi, «Clock Synchronization.»

Вернуться

170

Eglash, «Broken Metaphor,» 361.

Вернуться

171

Kemeny and Kurtz, «Dartmouth Timesharing,» 223.

Вернуться

172

Eglash, «Broken Metaphor,» 364.

Вернуться

173

Brewer, «Spanner, TrueTime.»

Вернуться

174

Corbett et al., «Spanner,» 14, cited in House, «Synchronizing Uncertainty,» 124.

Вернуться

175

Galison, Einstein’s Clocks, Poincaré’s Maps, 104.

Вернуться

176

Galison, 112.

Вернуться

177

Colligan and Linley, «Media, Technology, and Literature,» 246.

Вернуться