Руслан Геннадьевич Юсуфов
Сценарии будущего
Как жить и работать в мире, захваченном нейросетью и роботами

Упоминаемые в книге социальные сети Facebook и Instagram запрещены на территории Российской Федерации на основании осуществления экстремистской деятельности.

Упоминаемая в книге социальная сеть Twitter заблокирована на территории Российской Федерации по решению Роскомнадзора.

Упоминаемое в книге иностранное лицо, владеющее информационным ресурсом Google Поиск, является нарушителем законодательства Российской Федерации по решению Роскомнадзора.

© Руслан Юсуфов, текст, 2024

© Оформление. ООО «Издательство «Эксмо», 2025

Предисловие от Дмитрия Мариничева

Интернет-Омбудсмен, представитель Уполномоченного при Президенте Российской Федерации по защите прав предпринимателей в сфере интернета

Книга Руслана Юсуфова – это удивительный синтез научной фантастики в духе Жюля Верна, философских размышлений древних греков, а также самых передовых идей современных футурологов. Она предлагает читателю уникальную возможность заглянуть в будущее, которое находится на стыке технологий, этики и человеческой природы.

Юсуфов создает образы будущего, полные технических чудес и прорывных открытий. В книгах Жюля Верна люди покоряли глубины океанов и космоса, и Руслан продолжает эту традицию, предлагая нам не только заглянуть в будущее технологий, но и глубоко задуматься о том, каким будет это будущее для человечества. Однако в отличие от Верна, который всегда верил в торжество человеческого разума над природой, Юсуфов задает вопрос: готовы ли мы к вызовам, которые сами и создаем?

Как философы древности, автор поднимает вопросы о том, что значит быть человеком в мире, где технологии могут фундаментально изменить нашу природу. Его размышления перекликаются с учениями стоиков, которые учили жить в гармонии с природой и управлять своими желаниями, не поддаваясь влиянию внешних обстоятельств. В книге Юсуфова эти стоические идеи проявляются в размышлениях о том, как технологии могут затмить человеческие ценности, сделав нас рабами собственного творения. Здесь встает вопрос о внутреннем суверенитете человека перед лицом технологий, который стоики могли бы описать как борьбу за сохранение души в мире внешнего хаоса.

Этот философский пласт особенно ярко проявляется в контексте неоплатонической мысли, особенно в учениях Плотина о стремлении к Единому. Как Плотин видел душу, стремящуюся к единению с высшей реальностью, так и Юсуфов показывает нам мир, где человек может попытаться достичь нового «единства» через виртуальные миры и искусственные реальности. Но будет ли это истинное единение или лишь иллюзия, созданная новыми технологиями? Не потеряем ли мы наше истинное предназначение, погрузившись в цифровую утопию?

Эти вопросы перекликаются с идеями современных футурологов, таких как Рэй Курцвейл и Юваль Ной Харари. Курцвейл, известный своими прогнозами о технологической сингулярности, видит будущее, где люди и машины сольются в одно целое, что может привести к радикальному изменению природы человечества. Юсуфов задает аналогичные вопросы, но с большей долей философского сомнения: если мы станем частью машины, не потеряем ли мы себя как человечество? Будет ли это развитие прогрессом или шагом в пропасть? Харари, со своей стороны, в Homo Deus рассуждает о том, как технологии могут радикально изменить наше восприятие жизни, предлагая утопии, в которых человечество может потерять контроль над собственной судьбой. Руслан Юсуфов добавляет к этим размышлениям новый уровень, заставляя задуматься о том, как сохранять человечность в мире, где технологии стремятся заменить нас самих.

Сравнение с идеями известных футурологов позволяет нам еще глубже понять суть «сценариев будущего». Курцвейл видит сингулярность как неизбежное будущее, Юсуфов показывает несколько путей, некоторые из которых ведут к цифровому рабству, а другие – к технологической свободе. Харари предупреждает о возможных опасностях технологической элиты, Юсуфов рисует картину киберколониализма, где только немногие будут контролировать технологии, а большинство станет их жертвами.

Могу уверенно сказать, что это не просто книга о технологиях. Это философская работа, вдохновленная как великими умами прошлого, так и идеями сегодняшних футуристов. Руслан Юсуфов объединяет воедино фантастическое видение Жюля Верна, философскую глубину древних мыслителей и острые вопросы современного мира. Книга бросает вызов нашим представлениям о будущем, предлагая читателю задуматься не только о том, куда нас приведут технологии, но и о том, каким образом мы сможем сохранить свою человечность на этом пути. Вспоминая культовую фразу из фильма «Назад в будущее», хочется в финале спросить: «А вы, дорогой читатель, думаете о своем будущем?»

Предисловие от Алексея Лукацкого

Несущий позитивную весть о кибербезе

Манускрипт Руслана приоткрыл завесу над пугающими возможностями, что нас ожидают на грани нового времени, и не оставил мне выбора – я решил написать к этому фолианту отзыв, как мрачное пророчество, и с осторожностью предостеречь всех, кто решится изучить его зловещие сценарии будущего. С самого начала, когда я погрузился в первую главу книги, меня охватила странная дрожь, как от встречи с чем-то несомненно могущественным, но чуждым, неподвластным нашему разуму и, быть может, даже направленным против него.

Сценарное планирование – инструмент, внушающий почти оккультный трепет перед грядущими кошмарами кибермиров. Как ясновидец, предсказывающий в мрачных подробностях грядущее, Руслан провел нас через сложносочиненные развилки: что ждет нас за этими новыми рубежами, когда алгоритмы искусственного разума станут столь же могущественными, как боги? Станет ли это даром или, напротив, ярмом, под гнетом которого погибнет наша свобода и воля? Эти вопросы, словно проклятия, нависают над нами, заставляя взирать в неминуемую бездну с тревогой и трепетом.

Руслан, возможно, затронул то, чего мы все боялись: мысли, что человечество не просто столкнется с технокошмарами, но будет вынуждено пройти через новые варварские эпохи киберколониализма и кастовой сегрегации, в которых цифровая элита держит всех нас на цепи. Мы оказались перед выбором, от которого, как и пишет автор, зависит само существование: перед переходом либо к техноутопии, либо к проклятию, что завладеет нашим существованием. Взбунтованные цифровые двойники, охотники на невинных детей в безумных метавселенных и нечестивые алгоритмы, вмешивающиеся в наш генетический код… Мы, живущие в мире, который еще помнит запах лесов и воды, вскоре будем обитать в холодных тисках цифрового кошмара.

Эта книга – свиток темных пророчеств – не дает покоя, потому что, погружаясь в сценарии Руслана, я ясно понимаю: мое будущее, будущее моих коллег, детей и всего человечества наполнено угрозами, против которых порой невозможно бороться. Но, быть может, именно в этом и заключен дар Руслана: в том, чтобы пробудить в нас решимость, помочь вооружиться; дать осознать, что каждый из этих пугающих сценариев возможен и к каждому из них можно подготовиться.

Ведь что есть сценарное планирование, как не странная алхимия киберпространства, страхов и рецепта философского камня? Как некогда ученые в темных лабораториях создавали механизмы для победы над темными силами, так и Руслан, собрав воедино эти сценарии, обрисовал нам структуру инструментов для битвы за будущее. Мы живем в мире, где зловещие технологии появляются с пугающей скоростью, и потому «сценарист будущего» предупредил нас заранее, чтобы в темнейшие часы мы могли найти свет.

Должен признаться, что в течение многих лет я, как один из провидцев, стоящих на рубеже мира киберпространства, погружался в анализ сценариев грядущих угроз – тех, что скрываются за гранью воображения. Мне знакомы обе стороны этой вечной борьбы: защитники как неусыпные стражи, готовые к любой угрозе, и нападающие, чьи замыслы пронизаны тьмой и холодным расчетом. И если одна из миссий специалиста по безопасности – уметь смотреть за грань привычного, в самую черноту потенциальных угроз, то разве можно отказаться от столь важной ответственности? Мы обязаны видеть и готовиться к тому, что принесут с собой технологии будущего, о которых столь красочно написал Руслан.

Искусственный интеллект, чья природа лишь отчасти ясна человечеству, цифровые валюты, словно магические артефакты, распределенные реестры, темные и непостижимые… Сама ткань реальности изменяется, и повсюду встают новые формы угроз: от генетических редакторов и биохакинга до беспилотных механизмов, призраков квантового мира и эфемерных двойников, что несут в себе тени наших собственных образов.

Теперь, после прочтения книги, я понимаю: перед нами простирается не безмятежный рассвет, а бурный океан из экзистенциальных угроз и страшных перспектив. Какие чудовища пробудятся в этих неизведанных просторах? О, нам остается лишь повторить древнее латинское предостережение: praemonitus praemunitus – «предупрежден – значит вооружен». Но будет ли нам хватать этого знания, чтобы не дрогнуть перед лицом того, что принесет новый век? Остается только принять этот вызов, не ведая страха.

Предисловие от Филиппа Бегак

Ведущий телепрограммы «Правила Жизни» на канале «Культура»

Получил книгу Руслана Юсуфова и не смог оторваться. Читал всю ночь и, уверен, скоро буду перечитывать. Мы с Русланом часто встречаемся в нашей студии «Правил жизни» на ТК «Культура», говорим о будущем; я на камеру задаю бесконечные волнующие меня вопросы, а потом долго еще продолжаю это делать в гримерке. Я знал, что он пишет книгу. Но и представить не мог, что она окажется настолько яркой, живой и провоцирующей на размышление. Что она ответит на все мои вопросы о будущем!

Здесь обсуждается развилка, на которой мы стоим, и развилки, которые последуют за этой. Обсуждаются глобальные решения, которые предстоит принять: трансгуманизм или луддизм? Полный отказ от цифровизации или все же киберпанк и метавселенные? Корпоратизация или эмансипация? Руслан не просто пишет свои мысли о будущем – он обосновывает возможность каждого из множества гипотетических сценариев примерами из настоящего и прошлого, заставляя каждого задуматься о той реальности, в которой мы можем оказаться уже завтра. Книга поднимает важные вопросы о том, будут ли развивающиеся страны подчинены более продвинутым державам, погрязнут ли они в киберколониализме, станет ли цифровизация новым «одеялом с оспой», каким будет цифровое рабство? Руслан приводит примеры, как уже сегодня люди в развивающихся странах, размечая данные для ИИ за копейки, участвуют в процессе, который фактически лишает их возможности жить! Лишает их возможности смотреть на мир своими глазами!

Юсуфов поднимает и менее очевидные вопросы: как преобразуются дружба, доверие и любовь, когда они будут существовать на виртуальных платформах? Не превратятся ли социальные сети, с их вниманием к каждому нашему действию, в новый, гиперперсонализированный «паноптикум», в котором каждому жителю земли уже готовится свой комфортный «уголок»? Иронично и точно автор обращается к этим темам, рассказывая о сценариях, в которых метрополии и корпорации установят абсолютный контроль, ограничив права на индивидуальность и самоопределение.

Я в полном восторге! Это не просто книга, это интеллектуальный пинок. Это требование задуматься! Это требование думать не только о том, что мы будем есть на ужин сегодня, но и о том, как наши дети будут строить свою жизнь, когда все меньше будет зависеть от людей! Обязательно прочитайте это светлое произведение гениального автора, который точно знает, о чем говорит!

Введение

Изменения сопровождали человечество на протяжении всей его истории, но по сравнению с нашими предками у нас сегодняшних гораздо меньше времени на адаптацию. По мере ускорения научно-технического прогресса количество значимых изменений на единицу времени увеличивается. За тысячелетия между открытием огня, изобретением колеса и промышленным производством стали у человечества было время, чтобы привыкнуть к этим инновациям, адаптироваться и начать воспринимать их как само собой разумеющееся. У ныне живущих людей и их потомков такой роскоши, как время на адаптацию, нет и не будет: контекст будет постепенно становиться все более турбулентным, и поколение людей, родившееся в полностью физическом мире, сегодня проживающее в мире цифровом, уже завтра окажется в совершенно новой среде обитания. И, чтобы не только выжить, но и приспособиться, человечеству просто необходимо заранее подготовиться к этим изменениям.

Если бы я году в 2010-м почитал новостные сводки одного дня из 2024-го, я бы не поверил. Какой-то искусственный интеллект, близкий к суперинтеллекту, виртуальные любовники, ядерные реакторы, питающие центр обработки данных, дроны с гранатами, взрывающиеся тысячами пейджеры – это вообще из какого фильма, из какой книги в стиле киберпанк, кто автор сценария? Какая у нас сегодня серия «Черного зеркала»?

Мы живем в мире сбывшихся пророчеств и фантазий – тех самых, которые градом лились на нас из фантастических книг и фильмов, написанных и снятых 20–30–40 лет назад. Тогда они воспринимались как выдумка, результат богатой фантазии режиссера или автора. С повсеместным интернетом мы живем лишь последние пару десятилетий, а наши социально-экономические отношения и, что еще важнее, привычки уже изменились до неузнаваемости. В 2013 году, когда на экраны вышел фильм «Она», где герой заводит трогательные отношения с искусственным интеллектом, сюжет фильма казался, как и должен, маловероятной фантастикой. Но прошло всего несколько лет, и в каждом втором доме мы общаемся с ИИ-ассистентом внутри «умной» колонки, а некоторые люди даже заводят романтические отношения с виртуальными персонами – это хотя и довольно фантастическая, но все же реальность. Стало совершенно очевидно, что технический прогресс неумолим. Но станет ли он нашим спасением или подчинит себе все живое – вопрос пока открытый. Почему все эти фантастические изменения происходят именно сейчас? Какую ответственность это на нас накладывает?

Кем ты хочешь стать, когда вырастешь?

Самый частый вопрос, который я слышу на своих лекциях и публичных выступлениях: «Чему учить детей?» Каждый год вся страна собирает детей в школу, чтобы они там получали новые знания, желательно такие, которые пригодятся, чтобы… чтобы что?

– Чтобы вырасти счастливым? Какие это знания? Что ты можешь получать удовольствие и от химии, и от математики, и от оперы, и от балета? Что ты можешь общаться с разными людьми благодаря высокому уровню эмпатии? Что ты способен принимать решения вопреки чужой указке? Что ты научился слушать свое сердце? Что ты устойчив к промывке мозгов, пропаганде и идеологическому воздействию?

– Чтобы вырасти здоровым? Какие это знания? Как правильно питаться? Как работает человеческое тело? Как решать конфликты? Как не загнуться за 10 лет в школе, не испортить осанку, зрение и психику, участвуя во всех аудиторных, внеаудиторных, а также факультативных занятиях?

– Чтобы получить высокооплачиваемую работу? Какие это знания? Кто нужен на рынке труда через 10 лет? Как декомпозировать требования к вакансии в навыки и использовать это при выборе класса, профиля и будущего вуза? Как понять, кто будет «нужным», а кто будет «лишним» человеком через 5–10 лет? Из чего состоит умение учиться?

– Чтобы иметь возможность жить лучше, чем поколение родителей? Чтобы уехать из маленького городка без перспектив в место, где они есть? Нужно ли выучить язык и какой? Нужно ли на протяжении учебы ездить в это самое место с перспективами, чтобы понимать, как там живут люди?

– Чтобы стать успешным предпринимателем? Какие это знания? Что ты можешь вырасти и стать кем угодно? Что ты умеешь быть лидером и вести за собой? Что ты умеешь совершать ошибки и вставать после падения? Что ты научился понимать правила игры, но умудряешься играть по своим? Что ты научился вести двойную и даже тройную игру, одновременно не делая домашнюю работу, но при этом получая высокие оценки?

– Чтобы изменить мир к лучшему? Какие это знания? Что ты можешь принимать решения из любви, а не из страха? Что ты научился быть ответственным, не перекладывая на других? Что ты насмотрелся на чужую боль и скорбь и умеешь сопереживать? Что ты умеешь увлекать других своей мечтой?

Мало того, что знания, навыки и умения – разные для разной мотивации и разного «чтобы что». Сколько в этих навыках и умениях – математики, физики и химии? А сколько – коммуникации и умения вести переговоры, логики, критического мышления, наконец, осознанности?

Страшила хотел мозги, Железный Дровосек – сердце, а Трусливый Лев – смелость. Ни один из них не мечтал о знании математики, русского языка и литературы. Потому что математика и литература – это «что», а сердце и смелость – «зачем». Не подумайте, самый смелый дурак без знания правил русского языка останется всего лишь смелым невеждой, но при этом самый величайший филолог без сердца, сопереживания, мечты, страсти, духа обречен быть жалким, неприятным, недостойным трусливым львом, которого рано или поздно даже самые прекрасные деепричастные обороты перестанут радовать.

Тем не менее для любой мотивации и любого «чтобы что» ключевым является понимание образа будущего, к которому готовится сегодняшний школьник. Можно ли получить работу в мире, где искусственный интеллект заменил всех людей? Можно ли стать предпринимателем в мире технологически обеспеченного коммунизма? Можно ли слушать свое сердце в мире, где нет индивидуальности? Можно ли жить лучше, чем предыдущие поколения, если человечество окончательно разделилось на касты и плебеи Homo Sapiens никогда не догонят бессмертных патрициев с нейроимплантами?

Почему важно уже сейчас начать готовиться к будущему?

Все дело в ответственности, которая ложится на человечество в целом и на каждого человека в отдельности. Мир, каким мы его знаем, находится на переломном этапе. Грядущие ускоренные изменения не похожи ни на что известное или прожитое за всю историю человечества. Следующие десятилетия могут драматически развернуть ход эволюции человека, его среды обитания, экономических и социальных институтов, приведя нас в глобальную утопию или в мировой апокалипсис. Аналитические прогнозы варьируются от абсолютного пессимизма до ожидания золотого века для всей человеческой цивилизации. Сегодня на человека в гораздо меньшей степени влияет природа и гораздо больше – он сам и принятые им решения: по данным некоторых исследований экзистенциальных рисков, вероятность вымирания человечества от антропогенных последствий в сотни раз выше, чем от природных. Выборы, которые мы сделаем, приведут нас или к угасанию и закату, или к полному раскрытию человеческого потенциала, или даже к выходу за его пределы, к трансцендентности, когда человек трансформируется во что-то невообразимо большее. К опасениям ученых присоединяются религиозные и гуманитарные лидеры: даже папа римский высказывается об искусственном интеллекте, научно-техническом прогрессе и алгоритмах. Пожалуй, это неудивительно: поиск разумной жизни – в космосе или в искусственных системах – неизбежно связан с тысячелетним поиском бога, страстным желанием узнать правду и стремлением человечества к связи с чем-то большим, чем мы сами.

Книга, которую вы держите в руках, предлагает комплексный, проактивный и критический взгляд на подготовку к технологическому будущему, что поможет вам избежать тревог, связанных с прогрессом. Это ваш путеводитель по возможным вариантам завтрашнего дня, основанный на передовых исследованиях и экспертном анализе. А для меня – это способ передать часть своего опыта и знаний, собранных в простой и понятной форме, чтобы показать: будущее может быть захватывающе прекрасным, если смотреть на него с позиции исследователя.

На страницах этой книги мы будем погружаться в гипотетические сценарии развития событий, мысленно пройдем десятки перекрестков, «цивилизационных развилок», полярностей и крайностей, перед которыми стоит человечество, а также оценим связанные с ними риски и возможности. Каждому из нас нужно понимать последствия этой сложносочиненной навигации хотя бы потому, что эти последствия не только отзовутся эхом где-то через столетия в будущем, а реализуются на горизонте наших с вами жизней. Такой подход поможет вам точнее визуализировать возможные варианты развития событий. Через примеры и кейсы вы поймете, как описываемые в книге концепции уже применяются или могут быть применены в реальном мире и как они скажутся на нашей с вами жизни.

Эту книгу я написал, держа в голове большую цель: показать читателям возможные варианты развития событий и снабдить инструментами для подготовки к будущему. В книге раскрывается многовариантность возможных сценариев будущего, демонстрируя не только оптимистичные или пессимистичные варианты развития событий, но и весь спектр связей между ними.

Благодаря этой книге вы будете лучше разбираться в технологических трендах, узнаете о новейших технологиях и их потенциальном влиянии на общество, экономику и повседневную жизнь; улучшите навык критического мышления, научитесь анализировать информацию и формировать собственные прогнозы будущего; осмыслите роль искусственного интеллекта и других «сквозных» технологий в нашей жизни; поймете, как выглядят новые форматы экономических отношений и социальных взаимодействий.

На этих страницах не будет готовых рецептов или рекомендаций, а вопросов – больше, чем ответов. Но благодаря простой и интересной подаче вы рассмотрите разные взгляды на будущее, включая как оптимистичные, так и пессимистичные прогнозы, и в результате непременно сформируете собственное мнение, чтобы смотреть в будущее с уверенностью.

Я искренне надеюсь, что эта книга поможет вам задуматься об адаптации своей жизни к каждому из сценариев, самостоятельно «примерить» эти сценарии на себя, свой личный и карьерный план, а также оценить вероятность их наступления. Это позволит не просто наблюдать за будущим, но и самостоятельно выстраивать его контуры – даже за пределами описанного.

Глава 1
Сложносочиненная навигация

Как усложняется природа изменений и какую роль играют технологии?

Современный смартфон во много раз мощнее того суперкомпьютера, на котором проектировали полет человека в космос. С одной стороны, это огромная возможность как для каждого из нас, так и для всех сразу: доступ к информации позволяет быстрее развиваться, вести дела и общаться с близкими. С другой стороны, это колоссальный вызов, потому что мы меняемся гораздо медленнее, чем технологии, которые меняют наш мир.

Программисты не успевают следить за всеми новшествами в профессии, а ученые ежедневно публикуют сотни, если не тысячи научных работ, большинство из которых понятны лишь узким специалистам. Прогресс человечества можно описать как постоянно разгоняющийся поезд, за окном которого стремительно проносятся станции. Остановить этот поезд нельзя, но пока еще можно выбрать, по какому пути и в каком направлении он поедет. Разработка карты местности, по которой движется поезд, и превентивное проектирование его маршрута позволют нам заранее подготовиться к очередному повороту, чтобы новая реальность на следующей станции могла быть чуть менее чуждой и неблагоприятной.

Человечество на протяжении всей истории переживало изменения. Только вот изменения, которые происходили 1000 или даже 100 лет назад, оставляли нам гораздо больше времени на адаптацию. Например, колесо – это потрясающая инновация, которая облегчила жизнь человеку, принципиально поменяв логистику и даже способы ведения войны. Считается, что первое колесо появилось в Месопотамии в период 3500–4000 лет до н. э., и последние 6000 лет мы живем все с тем же колесом.

Может быть, оно стало чуть круглее, чем у древних шумеров, и производится из более износостойких материалов, но, как и наши пращуры, мы передвигаемся на четырехколесных повозках, только оборудованных двигателем внутреннего сгорания. Мы не входим в звездные врата, чтобы выйти в другом месте, у нас нет телепортационных будок, мы не декомпозируемся на атомы, чтобы синтезироваться в пункте назначения – нет, у нас все те же повозки!

При пересадке с лошадиной повозки на автомобильную у нас были десятилетия для адаптации. Первое время перед автомобилем должен был идти человек с факелом и разгонять зевак, а скорость выше 15 км/ч считалась опасной для организма. Извозчик мог довольно легко пересесть за руль, ведь принцип управления транспортными средствами был похож. Даже кузнец мог стать сборщиком на заводе Форда или автослесарем, но вот для лошади в сфере транспорта места не нашлось. Вслед за лошадьми лавина изменений смыла целые индустрии, еще недавно обеспечивавшие их овсом, конюшнями и лекарствами.

Нынешние изменения за очень короткий период могут поменять привычный нам способ действий, то есть наши потребительские привычки. За последние 10 лет мы стали вызывать такси по-другому (не звоним в диспетчерскую, а выбираем водителя в мобильном приложении), покупать по-другому (не ходим по магазинам, а заказываем товары на дом) и развлекаться по-другому (не идем в кино, а включаем домашний кинотеатр). Мы переучились даже засыпать и просыпаться: последнее, что мы видим перед сном, и первое после пробуждения – это экран смартфона.

Во всех традиционных видах социально-экономических отношений происходят изменения – завтра мы будем по-другому общаться, учиться, находить партнеров, создавать и потреблять контент, и даже любить и ненавидеть. Именно в этом заключается «подрывной» характер технологии, благодаря внедрению которой мы как общество станем что-то делать принципиально иначе. Из-за изменений в нашем потреблении вся социальная и бизнес-инфраструктура тоже должна будет поменяться. Изменения уже происходят не просто на протяжении одной жизни, а много раз за жизнь. Это ускорение в первую очередь касается нужности людей. Не станет ли человек, который не успевает адаптироваться, лишним?

Изменения не только ускорились, но и усложнились по своей природе. Любое из них можно рассматривать в контексте политических, экономических, технологических и социальных последствий, которые взаимосвязаны и влияют друг на друга. Например, научный прорыв в области искусственного интеллекта убьет старые бизнесы и породит новые, сформирует иные виды социальных взаимодействий и спровоцирует запрет на экспорт определенных технологий, что приведет к усложнению геополитических отношений между странами-конкурентами.

Влияние политики на изменения в обществе

Примеров подобного перекрестного влияния важных исторических событий на различные сферы жизни – множество. Так, победа СССР и союзников во Второй мировой привела к холодной войне, что можно рассматривать как глобальное геополитическое изменение, последствия которого отразились на множестве неполитических аспектов. Например, повлияли на общественный и экономический строй Северной и Южной Кореи. Из-за политики они стали двумя совершенно разными странами, хотя веками жили общим бытом, локальные различия в котором определялись скорее географией, чем влиянием США в 60-х годах прошлого века. За полвека структура общества в обеих странах успела перестроиться – непосредственных следов политики холодной войны в них осталось не так много, и все же именно она является корнем различий.

В Северной Корее общественный и экономический строй, обычаи и привычки, образ жизни и принципы распределения ресурсов во многом диктуются именно государственной иерархией. Даже то, что находится на столе у гражданина (а на севере рацион скуднее, чем у южан), – результат не политики, а холодной войны, вызванный санкциями США, а не их собственными политическими решениями.

В Южной Корее особенности структуры общества тоже связаны с политикой: развитая промышленность – результат американизации, и хотя она работает на рыночных механизмах, но социальный статус человека в значительной степени зависит от принадлежности к одной из огромных корпораций. Корни продолжительной американизации уходят в многолетнюю традицию получения образования в американских институтах, ведь в США учились целые когорты южнокорейских интеллектуалов. Зародившийся в Южной Корее музыкальный жанр «K-pop», вобравший в себя элементы западного электропопа, хип-хопа, танцевальной музыки и современного ритм-н-блюза, а впоследствии превратившийся в глобальную субкультуру, – также прямой результат американского влияния.

Власть корпораций и особенности корпоративных структур в Южной Корее – это влияющий на экономику и общество результат холодной войны, который не является непосредственно политическим. Отличным примером можно считать чеболь – южнокорейскую форму финансово-промышленных групп. В рамках такого конгломерата, состоящего из формально самостоятельных фирм, корпорацией почти полностью владеет определенная семья. Такие семьи – это новая аристократия, которая сильно влияет на экономику, общественные нормы и даже практику, например, запрещая профсоюзы или устанавливая жесткую иерархию на рабочем месте. Сами чеболи – лучший, а в некоторых случаях единственный социальный лифт. Они возникли в Южной Корее в конце Корейской войны и существуют до сих пор, но их современное доминирование в стране – не прямое следствие холодной войны, а лишь отголосок ее последствий.

Влияние космических технологий на изменения в обществе

Космическая гонка значительно продвинула человечество в области выведения различной аппаратуры на орбиту. Американская система глобального позиционирования GPS была разработана в 1970-х годах для использования в военных целях, а первый спутник был запущен в 1978 году. Сегодня GPS – неотъемлемая часть морской навигации, используемая для контроля движения судов, определения маршрутов и обеспечения безопасности на море.

Еще в 2011 году ученые предложили анализировать движение машин и людей, чтобы оптимизировать инфраструктуру городов и дизайн городской среды. Тогда обрабатывать и собирать данные было бы трудно, но сегодня можно использовать анализ GPS для оптимизации движения общественного транспорта и приоритизации логистических проектов. Более того, спутниковая навигация позволяет банкам определить, соответствует ли местоположение мобильного телефона владельцу счета, повышая безопасность транзакций, дает представление о потребностях и желаниях клиентов и множество другой информации.

Без достижений космической гонки не было бы и Starlink – глобальной спутниковой системы, разворачиваемой компанией SpaceX, чтобы обеспечить высокоскоростной широкополосный доступ в интернет. Могли ли лидеры США и СССР представить, что в будущем частная компания станет использовать дорогостоящие космические спутники, чтобы ее клиенты в любой точке мира могли оплатить счета за квартиру или заказать товары с доставкой на следующий день? Вряд ли, потому что в начале космической гонки самого интернета не существовало.

Интернет изначально разрабатывался для нужд военных, но постепенно коммерциализовался и теперь играет важную роль в политических, экономических, технологических и социальных взаимодействиях во всем мире. В 1958 году в ответ на запуск в СССР первого искусственного спутника в Министерстве обороны США создали Агентство по перспективным исследованиям (DARPA). Десятилетие спустя в нем решили разработать надежную систему передачи информации на случай войны, и родился проект ARPANET – компьютерная сеть, объединившая четыре научно-исследовательских института: Калифорнийские университеты в Лос-Анджелесе и Санта-Барбаре, Стэнфордский исследовательский центр и Университет Юты. К 1973 году к этой сети подключились первые иностранные организации из Великобритании и Норвегии, и она стала международной. 1 января 1983 года сеть ARPANET перешла на маршрутизацию пакетов данных при помощи протокола TCP/IP – так появился интернет.

Влияние интернет-технологий на изменения в обществе

Если поначалу интернет интересовал только военных и ученых, то теперь в него начали стягиваться компьютерные энтузиасты со всего мира, хотя коммерческого интереса он пока не представлял: здесь не было денег – его даже для регулярных коммуникаций не использовали, не то что для платежей и коммерции. Следующим шагом развития стало внедрение в конце 90-х алгоритмов шифрования, которые позволили обмениваться платежной информацией, передавая деньги из точки А в точку Б, что положило начало электронной торговле. Сегодняшний мультимиллиардер Джеф Безос, запуская в 1995 году сайт для торговли книгами онлайн, отмечал, что «нет никаких гарантий, что Amazon.com может стать успешной компанией; то, что мы пытаемся сделать, очень сложно».

В британской газете Daily Mail от 5 декабря 2000 года писали: «Интернет может быть просто проходящей причудой, миллионы уже отказываются от его использования, разочарованные его ограничениями и не желая оплачивать дорогой доступ». В подтверждение приводились следующие выводы, сделанные в ходе исследовательского проекта 25 университетов Европы и США:

• электронная почта далека от того, чтобы заместить другие формы коммуникации, только создавая переизбыток информации;

• будущее онлайн-шопинга ограничено;

• количество пользователей интернета достигло пика;

• подростки поначалу воодушевились возможностями интернета, но потом поняли, что реальный мир может предложить гораздо больше;

• прогнозы о том, что интернет совершит революцию в обществе, оказались значительно преувеличенными.

Но, оглядываясь назад, мы понимаем, что интернет изменил сферу маркетинга, а электронная коммерция стала основой современных бизнес-процессов. Возможность электронного перевода средств оказала колоссальное влияние на современные банки: наличные транзакции с каждым годом уменьшаются, а удаленное взаимодействие со своими счетами и банковскими услугами уже давно перестало быть роскошью, став требованием большинства клиентов.

Таким образом, с интернетом мы живем с конца 60-х годов прошлого столетия (полвека с хвостиком, в отличие от колеса), но повсеместно используем его всего несколько десятилетий. За последние 20–25 лет изначально децентрализованный интернет эволюционировал в глобальную сеть, где правила игры формируют десятки транснациональных корпораций (ТНК), которые знают о нас все и продают нам сервисы и устройства, опираясь на самые продвинутые алгоритмы для анализа информации о нас и нашем поведении.

В 2010-х к ним относились Google (нынешняя Alphabet), Amazon, Facebook (нынешняя Meta[1]), Apple и Microsoft, иногда вместе именуемые «GAFAM» – по первым буквам названия каждой из компаний. Сегодня к неформальному клубу крупнейших технологических гигантов можно отнести американские Netflix, Nvidia, Adobe, Intel, IBM Salesforce и китайские Baidu, Alibaba, Tencent и Xiaomi (иногда вместе именуемые «BATX»). В списках лидеров также могут упоминать и меньшие по капитализации Twitter (нынешняя X), Snap, Uber и даже Tesla.

«Сквозные» технологии

Технологические изменения связаны с научным прогрессом и отличаются необратимостью: за редкими исключениями изобретенную технологию нельзя повернуть вспять. Один из таких примеров забытой технологии – римские додекаэдры, металлические многогранники с отверстиями разного размера, которые нередко находят археологи. В записях римлян они не упоминаются, поэтому никто не может понять, для чего их использовали. Ученые предполагают, что эти загадочные устройства применялись для решения какой-то бытовой задачи: например, вязания, измерения диаметра или калибровки.

Применение римского додекаэдра – настолько узкое и прикладное, что его изобретение необязательно для функционирования тогдашнего общества и понимания следующими поколениями. Однако если бы люди вдруг забыли принципы работы двигателя внутреннего сгорания или интернета, то остановилось бы множество процессов в самых разных индустриях – от сельского хозяйства до логистики.

Наибольшее влияние на мир оказывают так называемые «сквозные» технологии, которые одновременно влияют на большинство индустрий и множество аспектов жизни человека, поэтому обладают максимальным подрывным характером, меняя привычные нам способы взаимодействия.

Интернет, геолокация и искусственный интеллект – это «сквозные» технологии, пронизывающие общество, бизнес и государство, влияющие на любые индустрии и меняющие наш привычный образ жизни. К сквозным технологиям также можно отнести виртуальную реальность, интернет вещей, большие данные, децентрализованные реестры… Однако со временем список сквозных технологий может меняться. В ближайшем будущем важнейшими из них могут стать нейротехнологии и квантовые вычисления.

Влияние искусственного интеллекта на изменения в обществе

Шахматный суперкомпьютер DeepBlue от IBM в 1997 году выиграл матч из шести партий у чемпиона мира по шахматам Гарри Каспарова. И только спустя два десятилетия в 2015 году программа AlphaGo от компании Google DeepMind смогла обыграть профессионального игрока в го, предложив стратегии, которых человечество не смогло узнать за несколько тысяч лет существования этой игры. А уже через два года программа AlphaZero – прямой потомок AlphaGo – после всего лишь 24 часов обучения смогла победить чемпионов мира среди программ по играм в шахматы, сеги[2] и го.

«Zero» в названии означает, что программа начинала с нулевыми предварительными знаниями и самостоятельно обучалась играть без определения правил человеком. AlphaZero могла играть не только в го, а вообще в любые игры для двух игроков, поначалу совершая ходы случайным образом, но затем улучшая себя до уровня чемпиона мира в течение 24 часов. Игрок мирового класса в шахматы и по совместительству сооснователь и глава Google DeepMind Демис Хассабис[3] так высказался о невероятных прорывах AlphaZero: «Представьте, что утром вы запустили обучение системы игре в шахматы, сходили за кофе и к обеду все еще можете ее обыграть. Но оставьте ее еще на несколько часов, и уже к ужину перед вами будет величайший игрок в шахматы из всех, что когда-либо существовали».

За AlphaZero последовала программа AlphaFold, способная предсказывать пространственную структуру белка – такая визуализация необходима ученым для понимания функций конкретного белка в живом организме. Раньше на такое исследование ученый в среднем тратил 4–5 лет, и описание структуры одного белка вполне могло стать докторской диссертацией. За последние 40 лет биологи всего мира смогли описать примерно 150 тысяч структур белков из более чем 200 миллионов. Такими темпами описание всех известных белков заняло бы вечность. AlphaFold справилась со всеми 200 миллионами всего за год, сэкономив около миллиарда лет исследовательского времени.

И сама программа, и результаты ее работы опубликованы в открытом доступе. Эти исследования крайне важны для понимания болезней и могут сократить сроки создания новых лекарств с нескольких лет до нескольких месяцев. Тот факт, что за несколько часов искусственный интеллект может достичь того, что не удалось миллионам человек на протяжении столетий, – одновременно восхищает и пугает.

Непосредственно на наши с вами жизни искусственный интеллект стал влиять где-то в эпоху Web 2.0, когда появились социальные сети, для которых мы начали писать тонны контента, делать селфи и снимать видео с котами. При этом мы потребляем различную информацию и фактически живем в разных информационных пузырях – каждый в соответствии со своими интересами. Для того чтобы все наши послания с фотографиями котов и еды доставлять до нужной аудитории, нужны алгоритмы, способные раскладывать контент по полочкам. На бытовом уровне искусственный интеллект позволяет нам быстрее и удобнее получать наиболее актуальную информацию. Распознавание голосовых команд, текстовые подсказки к поисковым запросам, рекомендательные сервисы платформ стриминга и электронной коммерции, навигация в реальном времени – все это помогает нам быть эффективнее.

Когда думаешь о роли технологий в социальных изменениях и преобразованиях бизнес-моделей для того, чтобы заработать или инвестировать средства, а может, для создания оружия и угрозы суверенитету других стран, то вопросов больше, чем ответов. Технологии влияют не только на инженерное дело, вычисления или криптографию, но и на экономику, политику и военное дело, имея потенциальное двойное назначение. ИТ-компании, владеющие средствами анализа данных, – это еще и политическое оружие, и орудие пропаганды, так как алгоритмы формирования общественного мнения позволяют убедить человека, что одни ценности, идеология или мировоззрение лучше других.

Возможность не только создавать новые правила, но и менять саму среду обитания человека, расширяя его физические и когнитивные возможности и открывая невероятные перспективы для инноваций, инвестиций и предпринимательства, ставят нас перед множеством выборов, с которыми мы раньше никогда не сталкивались. «Сквозной» характер «подрывных» технологий, помноженный на накопленный груз нерешенных глобальных и локальных проблем – социальных, экономических и политических, – позволит нам увидеть множество экспериментов, которые станут ответами на нынешние и грядущие кризисы.

Какими станут ближайшие десятилетия для человека и человечества?

1. Будет ли ИИ гармонично интегрирован в человеческое общество или начнет реализовывать собственные непонятные цели по сценарию «восстания машин» из фантастических книг и популярных кинофильмов?

2. Откроем ли мы лекарства от большинства видов рака, или прорывы в биомедицине будут использовать для создания нового биологического оружия?

3. Позволит ли бурное развитие генной инженерии радикально продлить человеческую жизнь или только усилит неравенство между богатыми и бедными, создавая новые биологические виды?

4. Приведет ли замена большей части физического труда роботизированными системами ко всеобщему благополучию, или миллионы людей останутся без работы и средств к существованию?

5. Поможет ли внедрение в большинстве стран мира всеобщей системы предиктивной аналитики[4] и цифровой идентификации граждан победить преступность или приведет к тотальному контролю и превентивным арестам, не оставляя пространства для личной свободы?

6. Будет ли реализована возможность построения личных и профессиональных траекторий для раскрытия потенциала человека, или внедрение искусственного интеллекта приведет к коллапсу системы образования?

7. Решит ли введение безусловного базового дохода проблему глобальной бедности, или станет подачкой для «низшей касты», лишенной других способов обеспечить свое существование?

8. Повысят ли социальные сети уровень эмпатии и сотрудничества между людьми, или создание фейковых новостей и манипуляций приведет общество к тотальному недоверию?

9. Обеспечат ли технологии ИИ более высокий уровень общественной безопасности, или его массовое внедрение в армиях повысит риски войн и конфликтов, а киберпреступность и хакерство станут новой формой государственного терроризма?

10. Сможем ли мы победить депрессии благодаря новому поколению антидепрессантов и нейросетевым терапевтам, помогающим людям в саморазвитии, или случится пандемия информационной и психологической перегрузки?

11. Приведет ли научная и техническая революция к устойчивому развитию цивилизации, или квантовые компьютеры взломают традиционную криптографию, гарантируя крах финансовой системы?

12. Расширят ли нейронауки возможности человека в понимании механизмов сознания, или массовое внедрение нейроинтерфейсов превратит людей в программируемых биороботов?

13. Появятся ли поселения на Луне и Марсе, открыв эпоху колонизации планет и космического туризма, или космос станет зоной постоянных военных конфликтов?

14. Будет ли мощный искусственный интеллект писать компьютерные программы и совершать научные открытия в тандеме с человеком, или алгоритмы станут настолько сложными, что люди начнут их обожествлять?

15. Предоставит ли массовый переход в виртуальные миры новые возможности для творчества и самореализации людей, или виртуальная реальность станет новым наркотиком, на который подсядет значительная часть человечества?

Цивилизационные развилки

Возможных вариантов развития событий – множество, среди них есть как предельно оптимистичные, так и крайне пессимистичные, а реальное будущее, вероятнее всего, будет содержать элементы разных сценариев. Человечество ждут десятки развилок с противоположными возможностями и крайностями, поэтому каждый из нас должен понимать последствия того или иного выбора, хотя бы потому, что эта сложносочиненная навигация не только отзовется эхом где-то через столетия, но и отразится уже на наших с вами жизнях.

Проще всего представить разноплановые возможности развития цивилизации в виде бинарных развилок, где можно пойти направо или налево. Мы рассмотрим несколько таких развилок, сопровождая каждую современными и историческими прецедентами, гипотезами о том, каким образом люди могут прийти к одному из выборов, и возможными сценариями на их основе. Эти развилки следует понимать как гипотетические экстремумы противоположных путей развития в политике, обществе, экономике и технологиях, а сценарии рассматривать исключительно как иллюстрации, поскольку реальное будущее, безусловно, гораздо многограннее.

Киберколониализм или технологическая суверенность?

Как будут построены отношения между технологически развитыми и развивающимися государствами: они сравняются в доступе к технологиям и сохранят суверенность, или нас ждет киберколониализм, при котором лидеры будут экспортировать технологии и эксплуатировать население наименее благополучных регионов?

Техноанархизм или цифровое рабство?

Как будут использовать технологии: в качестве инструмента в руках людей, уравнивающего их с общественным институтом, или как инструмент для их контроля и подчинения?

Суверенитет корпораций или национализация?

Какие институты будут играть ключевую роль: транснациональные корпорации с технологическим и экономическим превосходством или государства, которые победят их благодаря регуляторным механизмам и закручиванию гаек?

Коллективизм или индивидуализм?

Приведет ли технологическое неравенство к главенству интересов группы над интересами личности, или технологии обеспечат максимум индивидуальной свободы от государств, корпораций и других людей?

Общее информационное поле или гиперкастомизация?

В каком информационном поле мы будем жить: в общем – на уровне отдельной страны или даже глобально, с одной объективной реальностью и правдой, или в мире с миллиардом субъективных реальностей, где продукты, контент и сервисы будут создавать (адаптировать) под каждого человека?

Физическая реальность или метавселенные?

Как поменяется среда, в которой живет, развивается, работает и развлекается человек: мы продолжим вести основную деятельность в привычном физическом мире или в расширенной реальности с метавселенными, влияющими на события и процессы в реальной действительности?

Техноцентризм или антропоцентризм?

Будет ли технологический прогресс нацелен на обеспечение человеческого благополучия, или его принесут в жертву развитию технологий?

Прозрачность или анонимность?

Как будет обеспечиваться доверие: тотальной прозрачностью всех процессов для каждого стейкхолдера (все будут знать все обо всех) или альтернативной технологической инфраструктурой общества, построенной на принципах конфиденциальности и обеспечивающей доверие при сохранении анонимности?

Запрет искусственного интеллекта или сильный ИИ?

Какое будущее у алгоритмов: появится ли сильный искусственный интеллект с равными или даже превышающими человека возможностями и невероятной скоростью принятия решений, или технологические и социальные ограничения и риски заставят сдерживать и даже запретить ИИ, чтобы вернуть джинна обратно в бутылку?

Непреодолимое экономическое расслоение или технологически обеспеченный коммунизм?

Продолжит ли работать капиталистическая модель, а общество безвозвратно расколется по уровню доступа к капиталам и технологиям, или же сформируются посткапиталистические подходы и наступит технологически обеспеченный коммунизм?

Равенство доступа к технологиям или новая кастовая система?

Возможны ли равные условия доступа к технологиям для людей вне зависимости от их пола, возраста, образования, социального и экономического положения, или нас ждет новая кастовая система, основанная на социальном, экономическом и технологическом неравенстве?

Отказ от цифровизации или полная оцифровка?

Продолжим ли мы воспринимать цифровизацию как единственно возможный путь развития общества, или неспособность противостоять возникающим рискам заставит нас отказаться от «цифры» и обновления технологий, а то и откатиться к предыдущим стадиям научно-технического прогресса?

Технолуддизм или трансгуманизм?

Как общество отнесется к возможности модифицировать не только среду, но и самого человека: воспримет трансгуманизм как прогресс или консервативно откажется от технологического улучшения человеческого организма?

Локализация или глобализация?

Каким будет мир: глобальным с синхронизацией экономических, культурных и технологических процессов в разных странах или еще более фрагментированным на политические, экономические и культурные союзы?

Глава 2
Киберколониализм или технологическая суверенность?

Как будут построены отношения между технологически развитыми и развивающимися государствами: они сравняются в доступе к технологиям и сохранят суверенность, или нас ждет киберколониализм, при котором лидеры будут экспортировать технологии и эксплуатировать население наименее благополучных регионов?

Вашего мнения никто не спрашивает, продолжайте

В США действительно нет ничего хорошего: Идешь в больницу – придется заплатить. Доллар – это язык, на котором все говорят, Их не особо волнует утечка радиации. К черту США!

The Exploited «U.S.A.», альбом «Troops of Tomorrow», студия Secret, 1982

Я никогда не видел вживую пожарный гидрант, но узнаю его днем и ночью. Благодаря десятилетнему опыту разгадывания капчи[5] от компании Google, я смогу отличить пожарный гидрант от пешеходных переходов, автомобилей, светофоров, грузовиков, автобусов, мотоциклов и велосипедов. Безусловно, как и любой из вас.

На протяжении последнего десятилетия мы всем миром бесплатно обучали искусственный интеллект для крупных корпораций, размечая пожарные гидранты, автобусы, мотоциклы, лестницы и мосты. Тот самый ИИ, который будут использовать в беспилотных автомобилях. Вроде бы мелочь, но, учитывая миллиарды бесплатных человекочасов ежемесячно и 2,5 триллиона поисковых запросов в год только в одном Google, очевиден масштаб современного цифрового рабства под безобидным предлогом «докажите, что вы не робот». Невольно закрадывается мысль: а не придется ли нам выбирать квадраты с военной техникой, объектами критической инфраструктуры и гражданскими лицами, чтобы обучать боевых роботов?

Но если мы обучили искусственный интеллект выявлять гидранты на изображениях, то совершенно бессмысленно показывать их для определения человека, ведь робот теперь это тоже умеет! И если задуматься, то разгадка капчи не подтверждает, что вы человек, а лишь то, что вы американец или маскируетесь под него. Потому что в России нет пожарных гидрантов, а в Нигерии – пешеходных переходов.

В современном интернете вы не просто товар, а бесплатная рабочая сила. А если пойти дальше, то вы рабская сила, потому что без угадывания гидранта Google не покажет вам поисковую выдачу, то есть буквально ограничит вас в правах. Фактически наш бесплатный труд стал дополнительным неденежным налогом на доступ к информации.

В древности полезные ископаемые добывали вручную, что требовало огромного числа рабочих, в основном пленных или рабов. На древнеримских шахтах трудились 150 тысяч человек, а на испанских серебряных рудниках – 40 тысяч. Древнегреческий историк Диодор Сицилийский так описывал римские золотые рудники в Египте:

Самую твердую землю, содержащую золото, они сжигают в огне, размягчают и обрабатывают руками. Мягкий камень и тот, который легко поддается обработке долотом, разбивается на части тысячами несчастных душ. Человек, умеющий различать камни, наблюдает за всем процессом и дает указания рабочим. Те, что отправлены на рудники, многочисленные и в кандалах, трудятся день и ночь, не находя отдыха, и тщательно удерживаются от всякого бегства. Все, что они добывают, они бросают на пол – без перерыва и под суровой плетью надзирателя. Нет абсолютно никакого сочувствия или послабления больным или увечным, старым мужчинам и слабым женщинам – все вынуждены трудиться, пока не умрут, измученные своими страданиями и тяжелым трудом. Мальчики, еще не достигшие зрелого возраста, проходят через шахты, подбирают добытое и несут это к выходу. Мужчины старше тридцати лет берут определенный вес добытого камня и толкут его в каменных ступах железными пестиками, пока не образуются куски размером с чечевичное семя. Женщины и пожилые мужчины относят полученное к мельницам, становясь у рукояти по двое и трое, и перемалывают положенный объем камня, пока он не станет таким же мелким, как пшеничная мука.

А теперь сравните это с современными шахтами для ручной добычи редкоземельных металлов в Африке за доллар в день, чтобы делать батарейки для электромобилей в Калифорнии. Или с китайскими потогонками, где собирали ноутбук, на котором написана эта книга. Или с разметкой датасетов для моделей искусственного интеллекта, чтобы мы могли генерировать аватары в стиле аниме. Что поменялось за 2,5 тысячи лет? Каково современное рабство и у кого в руках плеть надзирателя?

Будущее киберколониализма

Миноносец на пути в Гавану. Раньше я зарабатывал на жизнь, Собирая бананы. Теперь я – проводник для ЦРУ. Ура США!

The Ramones «Havana Affair», альбом «Ramones», студия Sire, 1982

В современных шахтах нужно собирать и размечать датасеты, а также тренировать модели. В начале 2023 года компания OpenAI наняла для подобной работы более тысячи подрядчиков из Латинской Америки и Восточной Европы. Начиная с ноября 2021 года, компания использует труд работников из Кении за $1,3–2 в час для фильтрации травматичного контента. «Травматичный» или «токсичный» контент – это синоним или даже эвфемизм для понятий «сцена с сексуальным насилием», «порнография» или «издевательства над животными». Классификация и фильтрация подобных текстов и изображений, которые могут быть запрещены к распространению по законам США, необходимы для минимизации попадания в обучающие данные контента с насилием и сексуальным содержанием и создания инструментов, способных его обнаруживать.

OpenAI делает это не напрямую, а через компании вроде фирмы из Сан-Франциско Sama, которая помогает в создании «этичного искусственного интеллекта» и гордится тем, что позволила 50 тысячам людей из Кении, Уганды и Индии выбраться из бедности. В феврале 2022 года Sama получила от OpenAI $787,50 за разметку 1400 изображений следующих категорий: C4 – насилие над детьми; C3 – зоофилия, изнасилование и сексуальное рабство; V3 – сцены с убийствами, серьезными физическими травмами и увечьями. Подобными услугами пользуются и ведущие социальные сети: когда пользователь нажимает кнопку «пожаловаться», специальные люди отсматривают контент и определяют, насколько он «травматичный». Модераторы Sama отсматривали для Facebook материалы с казнями и насилием над детьми за $1,5 в час.

Важно понимать образ жизни такого модератора. Поставим себя на место условного Мбеке Рукеле, гражданина Ганы. Одно из ярких воспоминаний его детства – как в пять лет он с братьями ездил на базар в город Аккру продавать куриц. Местные жители поймали колдуна, который через рукопожатие при помощи черной магии украл чьи-то гениталии и требовал за них выкуп. Разъяренная толпа жестоко убила колдуна, и потом это показывали во всех новостях по телевизору. Сейчас у Мбеке две коровы, двое детей и две жены. Коров раньше было больше, но осталось только две, потому что трех съели крокодилы. Двое из восьми братьев уже погибли на войне, один в поисках лучшей жизни стал пиратом в Сомали, другой уехал учиться в университет. Сезон засушливый, а кормить детей как-то надо. Недавно брат Мбеке приезжал из университета, показывал смартфон и рассказывал, что можно зарабатывать $1,5 в час, просто нажимая на картинки, даже не нужно лезть под пули. $1,5 – это 18,75 ганских седи. За 20 седи можно купить цыпленка, за 35–40 – двухмесячную курицу, а за 40 часов можно заработать достаточно денег, чтобы купить козу. Что в такой жизненной ситуации выберет Мбеке Рукеле, и не является ли этот сценарий наилучшим вариантом для него?

С 2020 года военные перевороты один за другим потрясали Западную Африку от Гвинеи до Буркина-Фасо и Мали. В 2021 году армия пришла к власти в Чаде, в июле 2023 года государственный переворот произошел в Нигере, следом за ним – в Габоне. С начала 2020-х годов значительно повысилась террористическая активность в африканском регионе Сахель – это тысячи километров земель от Атлантического океана до Красного моря, где расположены 12 стран и проживает 300 млн человек. В Нигерии в начале марта 2024 года из школы были похищены 286 учеников, студентов и учителей, за освобождение которых похитители требовали выкуп в миллиард нигерийских найр ($620 тысяч). Предыдущее массовое похищение произошло в 2021 году.

В такой ситуации модерирование материалов с казнями и насилием может быть полностью осознанным выбором, так как иногда это единственная возможность оставаться на плаву. Этот выбор может быть и менее осознанным, потому что человек существует в парадигме, где психологические отклонения нереальны. Для него депрессия – это просто плохое настроение, при котором он все равно идет собирать плоды баобаба и доить коров, а не повод для похода к психотерапевту и саморефлексии. К тому же для жителей развивающихся стран некоторые «шокирующие» нас вещи абсолютно естественны и привычны, а насилие – нормализовано. Например, для них кролик или цыпленок – это не питомец, а источник пищи, из которого они, не особо задумываясь, сварят суп. А в некоторых регионах Индии публичная дефекация является нормой.

Проще говоря, если можно было бы измерить психологическую травму в неких условных единицах, то просмотр картинки с насилием нанес бы миллениалу из среднего класса в Сан-Франциско – Х ущерба, а жителю Ганы, Кении или Уганды – 0.7Х ущерба. Тем не менее, психологический ущерб от просмотра таких материалов неизбежен: после нескольких месяцев подобной работы модераторы выгорают и заменяются другими – без выходного пособия или медицинской страховки для проработки полученных психологических травм.

В числе своих клиентов компания Sama называет Google, Microsoft и Ebay. Полагаю, все они в курсе, как и откуда берутся их датасеты. Та же Microsoft еще в марте 2023 года объявила о роспуске централизованной команды по этике ИИ, сотрудники которой формировали правила в областях, где они еще не сформированы, то есть занимались саморегулированием тех сфер, куда пока не проникло законодательство. Компанию Microsoft можно понять: если соперники не отягощают себя этическими вопросами и дополнительными искусственными ограничениями, то для любой коммерческой организации это означает потерю скорости и конкурентного преимущества. Примечательно, что Microsoft является одним из крупнейших инвесторов в OpenAI, вложив в компанию $13 млрд.

В доденежных сообществах люди были вполне самодостаточны. Они находили, добывали или выращивали себе пищу и производили необходимые для быта вещи. Робинзон Крузо на необитаемом острове размышлял о ценности своих богатств, которые перестали быть таковыми, когда он один и торговать не с кем:

У меня было немного денег – серебра и золота, – всего около 36 фунтов стерлингов. Увы, они лежали, как жалкий, ни на что не годный хлам. Мне было некуда их тратить. С какой радостью отдал бы я пригоршню этого металла за десяток трубок для табака или ручную мельницу, чтобы размалывать зерно. Да что там, я отдал бы все эти деньги за шестипенсовую пачку семян репы и моркови, за горсточку гороха и бобов или за бутылку чернил. Эти деньги не давали мне ни выгод, ни удовольствия. Так и лежали они у меня в шкафу и в дождливую погоду плесневели от сырости в моей пещере. И будь у меня шкаф полон алмазов, они точно так же не имели бы для меня никакой цены.

Когда Робинзон Крузо находит в обломках погибшего корабля сундуки с одеждой, порохом и драгоценностями, он сожалеет, что приобрел очень немного полезных ему вещей:

Деньги же не представляли для меня никакой ценности: это был ненужный сор, и все свое золото я охотно отдал бы за три-четыре пары английских башмаков и чулок, которых не носил уже несколько лет. Да, у меня стало больше денег, но я не стал от этого богаче, ибо деньги в моем положении были мне так же мало нужны, как индейцам до вторжения в Перу испанцев.

Инки Южной Америки вообще дожили без денег до испанского завоевания начала XVI века: в их плановой экономике император давал указания, что выращивать и производить, а затем все это собирали и перераспределяли. Соседние мексиканцы управлялись менее жесткой рукой, поэтому расплачивались золотым песком и какао-бобами. Инки использовали драгоценные металлы для предметов искусства и религии, но так и не изобрели денег, в которых просто не было необходимости. Золота и серебра у инков было так много, что выкуп за своего правителя Атауальпу они собирали несколько месяцев и еще месяц переплавляли, в итоге заполнив комнату площадью 35 кв. м до отметки на высоте поднятой руки. Общая стоимость выкупа в ценах 2000 года составила в $6,8 млрд. Однако коварные испанцы все равно казнили вождя.

Кстати, американцы только недавно (по историческим меркам) обратили внимание на то, что они творили во времена колонизации и индустриализации, когда подбрасывали индейцам одеяла с оспой и ввозили рабов из Африки для хлопковых плантаций. Груз вины за деяния предков заставляет спортсменов преклонять колено на соревнованиях в знак протеста против недостаточного внимания к проблемам расового неравенства и жестокости полиции. Этот извинительный жест массово использовался и вне спортивного контекста в рамках акций протестного движения BLM[6].

Сколько времени должно пройти до извинений и выплат репараций кенийцам, угандийцам и ганцам за искалеченную при разметке данных для искусственного интеллекта психику десятков тысяч человек? Возникнет ли в странах, граждане которых оказывают подобные услуги, поколенческая травма, вызванная постоянным просмотром токсичного контента? Как подобные бизнес-практики могут поменять культуры развивающихся стран?

Робинзона Крузо волею судеб отбросило на предыдущий этап исторического и финансового развития, где золото и серебро представляли ценности другой, ставшей для него недоступной реальности. Испанские конкистадоры увозили золото из доденежных сообществ в свою среду, где деньги имели ценность, а инки умирали не за драгоценный, а всего лишь за красивый металл. Что увозят современные конкистадоры из менее технологически развитых сообществ? За какие (и чьи) ценности психологически выгорают люди, сортирующие по папкам фотографии со сценами насилия?

Нужно учитывать, что взгляды и ценности кенийского мусульманина, жителя Ганы, исповедующего акан[7], и стартапера из Сан-Франциско значительно различаются по целому спектру вопросов – от нетрадиционных сексуальных отношений и правомерности употребления марихуаны до фундаментальных проблем мироздания. Получается, что условный кенийский мусульманин должен не только наблюдать травматичный контент, но и корректно отделять «хорошее» от «плохого». Это усугубляет описанную проблему в двух аспектах:

1. Способен ли кенийский мужчина средних лет, выросший не в либеральном или протестантском обществе, размечать такие данные с полным пониманием тонких аспектов западной политкорректности? Хватит ли ему знаний и опыта, чтобы корректно отметить гендеры присутствующих на фотографии людей?

2. При этом работнику иногда придется поступаться собственными принципами, действуя вразрез со своими ценностями.

По некоторым свидетельствам, во время Корейской войны захваченных северянами пленных заставляли писать эссе о верности коммунизму: чтобы выжить, человек должен был вербализовать аргументацию чуждой ему идеологии. В описанном выше примере вместо написания коммунистического эссе условный кенийский работник будет вынужден помечать радужные флаги и трансгендеров на детском утреннике как хороший и правильный контент, даже если не согласен с этим.

Неужели будущее человечества создается немотивированными людьми, получающими минимальную зарплату, да еще и с очевидным покушением на права работника и человека? Чем разработка ИИ для западных стартапов силами глобального Юга и Востока отличается от утечки мозгов? Не станут ли страны-клиенты зависимыми от стран-провайдеров, соразмерно разрыву в инфраструктуре и способности самостоятельно разрабатывать искусственный интеллект?

Если дешевую рабочую силу из бедных регионов нанимают на удаленную работу для разметки датасетов, то это может привести к кибер-колониализму, когда жители развивающихся стран будут работать за копейки, создавая для корпораций продукт на миллиарды долларов. Минимальные зарплаты, ментальное здоровье и суверенитет целых стран, потогонные производства и детский труд – не имеют значения. Важны только интересы платящих потребителей и инвесторов из «золотого миллиарда». Это для них в советах директоров собирается достаточное «diversity»[8], а внешняя коммуникация тщательно корректируется с поправкой на всевозможные гендеры, чтобы случайно не попасть под культуру отмены. Развитые государства продолжат экспортировать технологии в страны глобального Юга, получая сверхприбыли и эксплуатируя население наименее благополучных регионов для разработки новых решений.

Возможный сценарий «Транснациональное порабощение»

Киберколониализм – Цифровое рабство

2025 год – Крупные ИИ-корпорации скупают большую часть мировой ИТ-инфраструктуры и данных.

2026 год – ИИ-ассистенты становятся необходимыми посредниками для доступа к онлайн-сервисам.

Конец ознакомительного фрагмента.

Текст предоставлен ООО «Литрес».

Прочитайте эту книгу целиком, купив полную легальную версию на Литрес.

Безопасно оплатить книгу можно банковской картой Visa, MasterCard, Maestro, со счета мобильного телефона, с платежного терминала, в салоне МТС или Связной, через PayPal, WebMoney, Яндекс.Деньги, QIWI Кошелек, бонусными картами или другим удобным Вам способом.

Примечания

1

Признана экстремистской организацией и запрещена в России.

Вернуться

2

Сеги (яп. «игра генералов») – японская настольная логическая игра шахматного типа.

Вернуться

3

Британский исследователь искусственного интеллекта, нейробиолог, разработчик компьютерных игр, профессиональный шахматист.

Вернуться

4

Предиктивная (прогнозная, предсказательная) аналитика – класс методов анализа больших данных с целью прогнозирования будущего поведения объектов и субъектов для принятия оптимальных решений.

Вернуться

5

Капча (от англ. CAPTCHA – Completely Automated Public Turing test to tell Computers and Humans Apart – полностью автоматизированный публичный тест Тьюринга для различения компьютеров и людей) – проверка для определения того, кем является пользователь системы: человеком или компьютером.

Вернуться

6

Black Lives Matter (англ. «Жизни черных важны») – общественное движение, выступающее против расизма и насилия (особенно полицейского) в отношении чернокожих.

Вернуться

7

Традиционные верования и религиозные обычаи народа акан Ганы и восточной части Кот-д’Ивуара.

Вернуться

8

Практика «разнообразия» – включения или вовлечения в деятельность людей разного социального и этнического происхождения, пола, сексуальной ориентации и т. д.

Вернуться