Кремниевая долина изнутри. Люди, связи и интеллект, которые создают великие компании

Глава 1.5. Информационная «кокон»

8 ноября 2016 года, вечер президентских выборов в США.

Потолок в выставочном центре «Джавиц» в Манхэттене, Нью-Йорк, был стеклянным — предвыборный штаб Хиллари Клинтон специально выбрал это место, потому что хотел, чтобы в момент избрания первой в истории США женщиной-президентом она «разбила стеклянный потолок» — эта метафора была тщательно продумана до мельчайших деталей. Под стеклянным потолком собрались тысячи сторонников в футболках с надписью «I’m With Her», ожидая наступления момента победы. Все опросы общественного мнения предсказывали победу Хиллари. Практически каждое ведущее агентство по опросам общественного мнения и каждая модель прогнозирования указывали на один и тот же вывод. Модель прогнозирования в режиме реального времени газеты «Нью-Йорк Таймс» ещё до начала подсчёта голосов оценивала шансы Хиллари на победу в 85 процентов. Практически все аналитики ведущих СМИ обсуждали не вопрос «выиграет ли Хиллари», а «с каким отрывом она победит». Шампанское уже было охлаждено. Речь победы уже была напечатана. История, казалось, уже была написана.

И вот объявили результаты. Победил Дональд Трамп. Пенсильвания, Мичиган, Висконсин — три ключевых колеблющихся штата, которые все считали «железной синей стеной» и которые, как казалось, ни за что не перейдут на сторону республиканцев, с крайне незначительным перевесом перешли на сторону республиканцев. Общее преимущество в этих трёх штатах составило менее 80 тысяч голосов — из более чем 136 миллионов отданных голосов 80 тысяч составляют менее шести десятитысячных. Такой крошечный разрыв может перевернуться в одну сторону или в другую в мгновение ока.

Стеклянный потолок в центре «Джавиц» остался целым — его не разбили, просто над ним воцарилась тишина. Люди плакали. Кто-то стоял на коленях, обхватив голову руками, кто-то закрывал лицо ладонями и беззвучно рыдал, а кто-то ошеломлённо смотрел на огромный флаг США, подготовленный над потолком — тот самый флаг, который должен был опуститься в момент победы, но теперь висел в воздухе, неподвижный, словно незаконченное предложение. Многие плакали не от разочарования — а от недоумения. Они искренне, полностью, на все сто процентов не ожидали такого исхода. Они не говорили: «Я не могу поверить, что Трамп победил» — они говорили: «Я не понимаю, как Трамп мог победить».

Причина этого недоумения заключается не в ошибках опросов — хотя опросы действительно недооценили количество скрытых сторонников Трампа в некоторых ключевых штатах — а в чем-то более глубоком и фундаментальном. За несколько месяцев до выборов, если вы были либеральным интеллектуалом, живущим в Нью-Йорке или Сан-Франциско, и открывали Facebook, Twitter или Instagram, всё, что вы видели, говорило вам об одном и том же: Трамп — это шутка, и никто по-настоящему за него не проголосует. Ваши друзья делились статьями, высмеивающими Трампа, и сатирическими карикатурами, СМИ, на которые вы подписаны, предсказывали убедительную победу Хиллари, а в вашей ленте социальных сетей не было ни одного голоса в поддержку Трампа — не потому, что таких голосов не существовало, и не потому, что их было мало, — а потому, что алгоритм уже отфильтровал для вас всё, что вы не хотели видеть. Алгоритм, основываясь на вашей истории кликов, кругу друзей и географическом положении, точно определяет, что вы — пользователь, «вряд ли заинтересованный в информации о поддержке Трампа», — и затем незаметно и полностью удаляет всю подобную информацию из вашего ленты.

Вы живете в коконе, тщательно сотканном алгоритмом. Просто вы об этом не знаете. Как в фильме «Мир Трумана» — Труман думал, что видит настоящее небо и настоящее море, а на самом деле это была всего лишь огромная съёмочная павильон. Разница в том, что Труман был один, а в информационном коконе заперты миллиарды людей.

Концепция «информационной коконы» принадлежит профессору Гарвардской юридической школы Кейсу Санстейну — он впервые систематически изложил эту теорию в своей книге «Интернет-республика», опубликованной в 2001 году. Санстейн — один из самых влиятельных ученых в американской юридической среде; позже он занимал должность директора Управления по вопросам информации и нормативных актов в администрации Обамы. Его основная идея заключается в следующем: когда люди могут совершенно свободно выбирать, к какой информации им обращаться, они склонны выбирать только ту информацию, которая соответствует их уже сложившимся взглядам — подобно тому, как шелкопряд выделяет шелк, чтобы обернуть себя, люди обволакивают себя выбранной ими информацией, создавая уютный «информационный кокон».

В эпоху традиционных СМИ на первой странице газеты одновременно публиковались новости, которые вас интересовали, и те, которые вас не интересовали — вы покупали газету, чтобы почитать спортивную рубрику, но, прежде чем перелистнуть до неё, ваш взгляд неизбежно скользил по международным новостям, научным репортажам и редакционным статьям. Такое «непреднамеренное знакомство» позволяло вам соприкасаться с информацией, которую вы бы сами по себе не стали искать. Однако в эпоху интернета вы можете полностью отфильтровать всё, что не хотите видеть — ваш информационный мир можно сократить до того небольшого фрагмента, который вас интересует. Внутри «кокона» всё знакомо, уютно и подтверждает вашу правоту. Но цена этого высока — вы больше не видите внешний мир. Вы даже не подозреваете, что за пределами вашего «кокона» существует другой мир.

Когда Санстейн выдвинул эту теорию, Facebook ещё даже не зародился в голове Цукерберга, основатель Twitter Досси ещё в университете разрабатывал систему диспетчеризации такси, а основатель Instagram Стром ещё учился в старшей школе. Санстейн — пророк: ещё до того, как социальные сети стали мейнстримом, он точно предвидел, какой огромный вред они принесут. Но в одном аспекте его предсказание серьёзно недооценило всю тяжесть реальности — он полагал, что информационная «кокон» является результатом сознательного выбора людей, которые сами решают смотреть только то, что им нравится. Чего он не предвидел, так это того, что алгоритмы будут делать этот выбор за людей — причём делать это более радикально, более экстремально и более необратимо, чем люди сами. Когда люди выборочно игнорируют иные точки зрения, у них по крайней мере остается возможность случайно «наткнуться» на иные мнения. Алгоритм устраняет эту случайность — он превращает стены вашего «кокона» из бумажных в стальные.

Как работают алгоритмы рекомендаций в социальных сетях? Проще говоря, всё сводится к одному: вам показывают то, что вы хотите видеть. Точнее, вам показывают то, что, по предположению алгоритма, вы хотите видеть — а основой для этого предположения служат все ваши прошлые клики, свайпы и задержки взгляда.

Цель алгоритма проста — максимально увеличить время, которое вы проводите на платформе. Чем дольше вы находитесь на платформе, тем больше рекламы вы видите, тем больше денег зарабатывает платформа. Эта целевая функция заложена в код, оптимизирована бесчисленное количество раз и отточена тысячами самых умных инженеров мира до пугающей точности. Как заставить вас оставаться дольше? Показывать вам контент, который вам нравится. Вы нажали на видео про кошек? Хорошо, предложим вам ещё десять видео про кошек. Вы поставили лайк статье, критикующей какого-то политика? Хорошо, предложим вам ещё двадцать статей, критикующих этого политика. Вы задержались на посте о теории заговора более пяти секунд? Хорошо, алгоритм запомнил — вы «заинтересованы» в теориях заговора, и в вашем ленте будет появляться всё больше контента на эту тему. Вам даже не нужно ставить лайки или оставлять комментарии — достаточно просто задержаться на несколько секунд, и алгоритм уже зафиксировал ваши «предпочтения».

Этот процесс автоматический, незаметный, непрерывный и неутомимый. Ни один человек в штаб-квартире Facebook в Сан-Франциско не решает вручную, что вам следует смотреть — этим занимается алгоритмическая система, состоящая из нескольких миллионов строк кода, которая каждый день, каждый час принимает сотни решений о том, «что вам показать», для каждого из трех миллиардов пользователей по всему миру. Эта система не понимает разницы между «правдой» и «ложью» — она понимает только «кликбейт» и «время просмотра». Если фейковая новость заставляет людей кликать, задерживает их внимание и побуждает с гневом делиться ею, то в глазах алгоритма она «ценнее» скучной, но правдивой новости — и заслуживает того, чтобы её рекомендовали большему количеству людей.

А у человеческой психики как раз есть одна фатальная слабость — мы по природе уделяем больше внимания негативной информации, чем позитивной. Эволюционные психологи называют это «негативным уклоном» — в древние времена заметить змею было важнее для выживания, чем полюбоваться цветком. Алгоритмы точно используют эту слабость — гнев, страх, ненависть: «вовлеченность», порождаемая этими негативными эмоциями, намного выше, чем у радости и удовлетворения. Поэтому алгоритмы естественным образом отдают предпочтение контенту, вызывающему негативные эмоции — это не «злонамеренность» алгоритмов, а просто математическое следствие оптимизации целевой функции. Но когда математика сталкивается с человеческой природой, последствия бывают разрушительными.

В этом и заключается суть проблемы.

Во время президентских выборов в США в 2016 году всплыл факт, потрясший всех: огромное количество фейковых новостей безумно распространялось в Facebook, причём скорость и охват их распространения значительно превосходили показатели реальных новостей. Анализ BuzzFeed показал, что за последние три месяца перед выборами общий объём взаимодействия — лайки, комментарии, репосты — с двадцатью самыми популярными фейковыми новостями в Facebook превысил показатели двадцати самых популярных реальных новостей. Фейковые новости были «популярнее» реальных. Еще более поразительным является то, что многие из этих фейковых новостей были созданы молодыми людьми из отдаленного македонского городка под названием Велес.

Велес — бедный городок с населением всего 50 тысяч человек и высоким уровнем безработицы. Молодые жители этого городка нашли способ быстрого обогащения: придумывать сенсационные фейковые новости о президентских выборах в США, публиковать их в Facebook и ждать, пока количество просмотров принесет доход от рекламы. Им плевать на американскую политику — они даже не могут найти штат Пенсильвания на карте — их интересует лишь доля от рекламы в размере нескольких центов за каждый клик. Чем сенсационнее и экстремальнее заголовок, чем сильнее он вызывает гнев и страх, тем выше количество просмотров. «Папа Франциск публично поддержал Трампа» — ложь. «Хиллари руководит сетью торговли детьми в подвале пиццерии» — это дошло до крайней степени абсурда, но миллионы людей кликали, верили и делились этой информацией. Последнее впоследствии стало известно как конспирологическая теория «Пиццагейт» — даже один человек ворвался с винтовкой в эту пиццерию в Вашингтоне, заявив, что собирается «освободить удерживаемых детей». У этой обычной пиццерии в Вашингтоне вообще нет подвала.

Алгоритм Facebook не может отличить правдивые новости от фейковых — или, точнее, ему совершенно безразлично это различие, так же как конвейерной ленте безразлично, лежит на ней хлеб или камень. Алгоритм ориентируется на «вовлеченность» — количество лайков, комментариев и репостов. А гневная реакция, вызванная фейковой новостью, намного сильнее, чем реакция на правдивую, но скучную новость — разгневанные люди с большей готовностью ставят лайки, оставляют комментарии и делятся этой новостью со всеми своими знакомыми. Поэтому алгоритм показывает фейковые новости большему количеству людей. Это ужасающий цикл обратной связи: чем фальшивее контент, тем легче он вызывает сильные эмоции; чем больше эмоциональных реакций, тем больше алгоритм считает этот контент «популярным», и тем больше людей он ему показывает; чем больше людей его видят, тем больше эмоциональных реакций возникает — и так по кругу, как самоускоряющийся вихрь, пока полная ложь не будет воспринята десятками миллионов людей как «факт». Правда в этом водовороте не побеждена — она просто заглушена.

После выборов Цукерберг столкнулся с шквалом критики: помог ли Facebook невольно Трампу победить на выборах? Повлияли ли фейковые новости на результаты выборов? Первоначальная реакция Цукерберга заключалась в высокомерном отрицании. На одной из технологических конференций он произнес фразу, о которой впоследствии глубоко пожалел: «Идея о том, что фейковые новости на Facebook повлияли на результаты выборов, просто безумна».» В зале воцарилась тишина. В последующие месяцы, по мере появления всё новых доказательств, Цукерберг был вынужден взять свои слова обратно — шаг за шагом, неохотно, словно его тащили за шею, он признал роль Facebook в распространении фейковых новостей.

Вскоре ему предстояло столкнуться с ещё более громким скандалом.

В марте 2018 года ситуация ухудшилась — настолько, что потрясла весь мир. Британская политическая консалтинговая компания Cambridge Analytica была одновременно разоблачена газетами «Нью-Йорк Таймс» и «Гардиан»: эта компания без явного согласия пользователей получила доступ к личным данным 87 миллионов пользователей Facebook — включая их «лайки», списки друзей, личную информацию и даже данные о том, когда и какие страницы они открывали, — а затем использовала эти данные для точного таргетирования политической рекламы в пользу предвыборного штаба Трампа.

Позже сотрудники «Кембридж Аналитикс» раскрыли, что, основываясь на истории «лайков» человека в Facebook, они могли вычислить его личностные черты, политические предпочтения и даже психологические слабости — с поразительной точностью. Эта реклама не размещалась случайным образом — она была адаптирована под психологический портрет каждого человека с такой точностью, что у экспертов по вопросам конфиденциальности мурашки бегали по коже: если ваши данные показывают, что вы испытываете беспокойство по поводу иммиграции, вы будете видеть рекламу о преступлениях, совершаемых иммигрантами; если вы пессимистично смотрите на экономические перспективы, вы будете видеть рекламу о закрытии заводов и сокращении рабочих мест; если вы никогда не голосуете, вы будете видеть контент, который еще больше укрепит ваше убеждение, что «голосование бесполезно» — с целью заставить вас и дальше не голосовать. Каждая реклама точно задевает ваши самые уязвимые места, а вы даже не подозреваете, что вами манипулируют.

Это уже не просто «информационный кокон» — это превращение информации в оружие. Ваши личные данные больше не используются только для того, чтобы продать вам пару кроссовок — они используются для влияния на ваши политические взгляды и манипулирования вашим поведением при голосовании. После раскрытия скандала с Cambridge Analytica акции Facebook за несколько дней обвалились более чем на 100 миллиардов долларов. Закберга в очередной раз вызвали в Конгресс — мы уже упоминали в тридцатой главе, как он столкнулся с сенаторами, не имеющими ни малейшего представления о технологиях. Но на этот раз атмосфера была иной — это были уже не вежливые вопросы, а гневные допросы. «Не могли бы вы назвать отель, в котором вы ночевали вчера?» «Не могли бы вы сказать, кому вы отправляли сообщения на этой неделе?» — этими вопросами один из сенаторов подчеркнул важность конфиденциальности. Цукерберг бесстрастно сидел перед камерами, но среди команды юристов, сидевших за его спиной, несколько человек незаметно вытирали пот со лба.

Но влияние «информационных пузырей» выходит далеко за рамки политики.

В алгоритме рекомендаций YouTube было обнаружено явление, которое исследователи назвали «каналом радикализации». Бывший инженер YouTube позже в интервью признал пугающий факт: система рекомендаций YouTube оптимизирована для максимального увеличения времени просмотра, а контент, который заставляет зрителя смотреть одно видео за другим, зачастую становится всё более экстремальным. Если вы посмотрели видео с умеренными консервативными комментариями, алгоритм порекомендует вам видео чуть более экстремальное, затем — ещё более экстремальное, а потом — ещё более экстремальное — словно медленный спуск по наклонной, шаг за шагом уводящий вас от умеренности к экстремизму, причём вы практически не замечаете этого процесса. Обычный молодой человек, интересующийся политикой, случайно посмотрев на YouTube несколько видео, может в течение нескольких недель оказаться втянутым алгоритмом в пучину белого супрематизма или конспирологии. Войдя туда, он ещё был нормальным человеком, а выйдя — уже может верить, что Земля плоская, высадка на Луну была подделкой, а коронавирус был создан в лаборатории.

Этот эффект радикализации наносит реальный и кровавый ущерб во всём мире. В 2018 году военные Мьянмы использовали Facebook для распространения ненавистнических высказываний и дезинформации в отношении мусульман-рохингья — в независимом отчёте ООН прямо указано, что Facebook «сыграл решающую роль» в этнических чистках в Мьянме. Более 700 тысяч рохингья были вынуждены покинуть свои дома, тысячи людей были убиты. В такой стране, как Мьянма, где интернет только начинает распространяться, Facebook практически равнозначен самому интернету — люди открывают свои телефоны и видят синий интерфейс Facebook, они не проводят различия между тем, «что видят в Facebook», и тем, «о чём сообщают в новостях». Когда язык ненависти массово рекомендуется и распространяется с помощью алгоритмов, его разрушительная сила по сути не отличается от пули — только убивает он сначала здравый смысл и сострадание, а уже потом — людей.

В Индии фейковые новости, распространяемые через WhatsApp — приложение для обмена сообщениями, о котором мы упоминали в тридцатой главе, созданное украинским иммигрантом Яном Кумом и приобретённое Facebook за 19 миллиардов долларов, — непосредственно привели к нескольким ужасающим случаям самосуда. Появился слух о том, что в какой-то деревне похитили детей — эта новость через функцию группового чата WhatsApp за несколько часов разлетелась по всему региону, была переслана десятки тысяч раз — и разъяренная толпа ворвалась в деревню, забила до смерти нескольких ни в чем не повинных прохожих.

Эти убитые люди были просто приезжими, случайно проходившими мимо этой деревни, — они не имели никакого отношения к «похищению детей». Новость оказалась ложной. А люди погибли по-настоящему. Система сквозного шифрования WhatsApp — технологический выбор, который Кум считал ключевым принципом для защиты конфиденциальности пользователей, — на самом деле сделала невозможным отслеживание и пресечение распространения фейковых новостей. Когда полиция попыталась выяснить источник слуха, она обнаружила, что шифрование сделало это невозможным. Технология, призванная защищать конфиденциальность, превратилась в щит, защищающий ложь. Это, пожалуй, самый душераздирающий антипример теории технологической нейтральности — одна и та же технология может как защитить инакомыслящих от слежки со стороны диктаторов, так и позволить смертоносным слухам свободно циркулировать в темноте, где их никто не может отследить.

Дойдя до этого места, я хочу поделиться личным размышлением. Читая эти материалы, я испытывал тяжёлые чувства.

Алгоритмы рекомендаций в социальных сетях — это самая точная и эффективная система манипулирования вниманием в истории человечества. Она мощнее любой пропагандистской машины диктатора — ведь пропаганда диктатора груба, однообразна и прозрачна с первого взгляда. Манипуляции алгоритмов же мягки, персонализированы и адаптированы под каждого — вы даже не чувствуете, как они на вас влияют. Он не говорит вам, во что следует верить — он просто незаметно удаляет из вашего поля зрения одну за другой точки зрения, с которыми вы не согласны, заставляя вас думать, что весь мир думает так же, как и вы. Это ощущение опаснее, чем промывание мозгов — человек, подвергшийся промыванию мозгов, по крайней мере знает о существовании другой точки зрения, просто ему запрещен доступ к ней; человек, подвергшийся фильтрации алгоритмом, вообще не знает о существовании другой точки зрения — в его мире инакомыслие никогда не появлялось, как будто все с ним согласны.

От первой главы до этой мы рассказали полную историю социальных сетей — начиная с той фотографии «банды PayPal» в журнале «Fortune», имитирующей сцену из фильма «Крестный отец», и заканчивая тем, как Facebook соединил три миллиарда человек, до того, как Twitter с помощью 140 символов изменил глобальный политический ландшафт и всю экосистему распространения новостей, до того, как Instagram и Snapchat перекроили представления целого поколения молодых людей о том, как они видят себя и как себя показывают, и до того, как алгоритмы рекомендаций и информационные «коконы» превратили прекрасную визию «соединения всего мира» в реальность, полную трещин. Это история, начавшаяся с идеализма и закончившаяся глубокими противоречиями. Закерберг говорил, что хочет «соединить весь мир» — и ему это действительно удалось. Но обратной стороной этого соединения стало разделение. Обратной стороной того, что каждому дали микрофон, стало то, что шум заглушил сигнал. Обратной стороной свободного потока информации стало то, что фейковые новости циркулируют с такой же свободой — причём зачастую быстрее, шире и наносят более глубокий ущерб.

Социальные сети не стали ни лучше, ни хуже. Они просто превратились в зеркало, отражающее то, какими люди являются на самом деле. В нём отражаются и хорошие, и плохие стороны. Просто плохие стороны усиливаются алгоритмами.

В 2021 году Фрэнсис Хоуген, работавшая в Facebook в течение двух лет в качестве специалиста по анализу данных, совершила поступок, потрясший весь мир: она ушла из Facebook, унеся с собой десятки тысяч страниц внутренних документов, которые передала газете «Уолл-стрит джорнал» и Конгрессу США. Эти внутренние документы, получившие название «документы Facebook», раскрыли факт, вызвавший возмущение общественности: собственные исследователи Facebook уже давно знали, что алгоритмы компании усугубляют политическую поляризацию, наносят ущерб психическому здоровью подростков и способствуют распространению дезинформации — но руководство предпочло игнорировать эти результаты, поскольку решение этих проблем потребовало бы снижения «вовлеченности» пользователей, а снижение вовлеченности означало бы сокращение доходов от рекламы. Во время дачи показаний в Конгрессе Хоуген произнесла фразу, которую цитируют по всему миру: «Facebook снова и снова выбирал прибыль, а не безопасность». Сенаторы, сидевшие напротив нее на слушаниях — многие из которых не разбираются в технологиях, а один из них был тем самым, кто несколько лет назад спросил Цукерберга: «Как вы зарабатываете деньги?» — на этот раз наконец-то поняли одну вещь: алгоритм не является нейтральным. У него есть своя позиция — и эта позиция заключается в прибыли.

Позже Facebook сменил название на Meta — по словам Цукерберга, это было сделано для того, чтобы отразить стратегический курс компании на переход к метавселенной. Однако многие считают, что настоящая причина смены названия заключается в том, что имя «Facebook» прочно ассоциируется со слишком большим количеством негативных новостей — фейковыми новостями, нарушением конфиденциальности, кризисом психического здоровья подростков и манипуляциями на выборах. Смена названия, по крайней мере, позволяет на уровне общественного восприятия провести поверхностную грань между компанией и прошлыми скандалами. Но название можно изменить, а алгоритмы — нет. Бизнес-модель, основанная на рекламе, осталась прежней. По состоянию на 2024 год годовая выручка Meta от рекламы по-прежнему превышает 130 миллиардов долларов — и за каждым долларом стоит алгоритм, который незаметно решает, что вам следует видеть, а что нет.