Максимальный репост. Как соцсети заставляют нас верить фейковым новостям

© Козловский Б.М., 2018

© ООО «Альпина Паблишер», 2018

Яну Сизову, с которым мы много спорили о том и этом

Предисловие

Где здесь место пробиркам?

В фантастических романах главное это было радио. При нем ожидалось счастье человечества. Вот радио есть, а счастья нет.

Я ехал в метро с книжкой про изобретателей, а человек, который долго щурился на страницы у меня из-за плеча, спросил, о чем таком интересном я читаю. «Может быть, вы интересовались – в Питере на Дворцовой площади стоит колонна Монферрана, весит 600 тонн, и совершенно непонятно, как ее туда поставили». За следующие пять станций я услышал несколько увлекательных историй о роли сверхъестественного – которым власти якобы давным-давно научились пользоваться, но скрывают – в строительном деле. На моей станции собеседник высунулся из вагона и кричал мне вслед, что тибетские монахи умеют, собравшись на возвышенности в количестве ста человек, вместе издать такой особенный звук, который заставляет тяжелый валун подниматься в воздух.

В этой книге не будет ничего о том, почему на самом деле камни не летают под действием особенного звука. Меня заинтересовало другое. Кто уже успел представить себе пожилого городского сумасшедшего, тот неправ. Со мной разговаривал – я специально поинтересовался профессией – тимлид, то есть руководитель группы программистов, из знаменитой российской IT-компании. Ему было за тридцать, и он окончил хороший технический вуз. Когда вы расплачивались за эту книжку в магазине и получили у кассира чек, с большой вероятностью вы косвенно воспользовались результатами его работы.

Хотя идея этой книги к тому моменту давно сложилась у меня в голове, благодаря разговору в метро я смог сформулировать, на какой главный вопрос она отвечает: почему в ерунду верят хорошие и симпатичные нам люди. Не воображаемые мракобесы с клюкой, а родители друзей и мои собственные сверстники с хорошим образованием.

Приятельница-режиссер вспоминала, как ее берлинский знакомый – поэт и университетский преподаватель литературы – доказывал ей невозможность Холокоста. На стенках газовых камер нет следов яда, говорил он, показания Нюрнбергского процесса выбиты под пытками, убитые на фотографиях из концлагерей – жертвы эпидемии тифа, а газ «Циклон Б» использовали не для уничтожения людей, а для дезинфекции тифозных бараков. И на все рациональные доводы, имеющие в виду документы и свидетельства выживших, приводил свои соображения о том, как мировое правительство фальсифицировало каждую страницу в архивах.

Теории заговора, фальшивые новости, страх перед прививками – это все о людях, с которыми мы общаемся. Кто-то боится разогревать еду в микроволновке: микроволны заряжают пищу радиацией и вызывают рак. Кто-то доверительно сообщает: зато курение табака, наоборот, с раком никак не связано – миф про его опасность придумало и внедрило антитабачное лобби. Кто-то перепощивает фразу про «убить всех русских людей», будто бы принадлежащую Маргарет Тэтчер. Кто-то борется с жуликами, которые якобы выдумали свое глобальное потепление.

Примеры ошибочных суждений вокруг и около науки приходят мне в голову первыми (не зря же я научный журналист), но не это тут главное. Разоблачать антинаучные заблуждения – наверное, хорошее и полезное дело, которым занимается целая армия просветителей. На эту тему за последние несколько лет вышел чуть ли не десяток книг. Но мне интереснее, не во что люди верят, а почему. И как так вышло, что спустя год и два после появления всех этих безусловно полезных книг люди почему-то продолжают думать неправильно.

Вера в заговор – в каком-то смысле крайность. А между ней и проверенными фактами лежит неправда менее радикальная. Фейковые новости, например, не обязательно ставят под сомнение рациональную картину мира, где камни не летают. Они просто приписывают людям слова и действия, которых те не говорили и не совершали. И иногда этого достаточно, чтобы подтолкнуть кого-нибудь к идее пойти восстанавливать справедливость с оружием в руках: например, расстрелять посетителей пиццерии, чтобы наказать таким образом педофилов в правительстве.

Особенно загадочно, что жертвами некачественного знания становятся не только те, кто ограничен в доступе к информации, но и мы – со своими макбуками, научно-популярными книжками, лентой Facebook и лекциями на платформе Coursera. И (неожиданно) самые новые инструменты, которые у нас ассоциируются с прогрессом в чистом виде, – та самая лента Facebook, видео с места событий на YouTube, круглосуточные новости и «Википедия» – поддерживают вокруг нас территорию неправды в разных ее формах.

Есть специальный корпус просветительских текстов, которые учат: не попадайтесь на удочку таких-то и таких-то заблуждений. Рецепты против лжи – полезная штука, но не самая интересная. Заблуждения – часть ландшафта вокруг. Неправда влияет на то, как видят мир – и как ведут себя в жизни – продавщица в соседнем супермаркете, ваши друзья и родители. Ну и в конечном счете – вы сами. Опознать себя как часть этого ландшафта не менее интересно, чем научиться делать вид, что вся история про неправду в современном мире про каких-то других людей, наивных и глупых.

Просто взять и объявить сумасшедшими всех, кто верит во что-нибудь невероятное (вроде летающих камней или мирового еврейского правительства, которое выдумало Холокост) – тупиковый путь, если вы хотите разобраться, откуда заблуждения берутся.

На такие вопросы, как ни странно, особенно любят отвечать ученые. Хотя мы и привыкли думать, что науку интересуют одни объективные факты – как устроен мир на самом деле. Разве вера в инопланетян, политические теории заговора, пропаганда и дезинформация имеют отношение к науке? В качестве объекта изучения – очень даже.

Когда-то науку о мозге очень сильно продвинуло наблюдение за иллюзиями, то есть ошибками восприятия. Вот, например, знаменитая оптическая иллюзия Мюллера-Лайера: если человек видит на бумаге две линии одинаковой длины, но одна кажется ему длиннее, а другая короче из-за пририсованных на концах стрелочек, – это не он сумасшедший, это механизмы зрения заставляют мозг ошибаться (рис. 1). И если мы будем присматриваться к примерам, на которых он ошибается, мы что-нибудь новое про механизмы зрения поймем. Наше знание про слепое пятно на сетчатке и саккады, быстрые движения глаз, в результате которых цельная картинка собирается из обрывков, – прямой результат изучения таких иллюзий.

Рис. 1. Иллюзия Мюллера-Лайера

Иллюзии бывают не только зрительными, но и когнитивными – и как раз их удобно изучать на примере фальшивых новостей и теорий заговора. Нейробиологи укладывают подопытных в томографы, чтобы изучать ложные воспоминания, ошибку подтверждения и эффект обратного огня на материале газетных заметок про политику и дискуссий про гей-браки, аборты или запрет оружия. А генетики выясняют, какие комбинации генов у новорожденного создают предрасположенность к тому, чтобы ребенок вырос упертым либералом или бескомпромиссным консерватором – хотя ему самому и будет казаться, что он выработал свои политические взгляды в результате долгого анализа всех за и против.

Основной материал для таких исследований – разговоры людей про политику в том или ином виде. Потому что политика – это все поле коллективных интересов. Трудно изучать распространение слухов на примере частных историй, которые касаются ваших догадок о том, что случилось у вашего троюродного брата с вашей двоюродной сестрой. Такой слух не имеет шансов уйти далеко, потому что люди уже в трех рукопожатиях от вас не знают никого из действующих лиц.

Даже когда где-нибудь в соцсетях обсуждают очередной слух о вреде прививок, ГМО и способности кока-колы растворять наши кости – это все равно политический разговор о здравоохранении и надзоре за качеством товаров. Человек обращается к неопределенным людям по другую сторону монитора и пытается их убедить: нынешний порядок вещей плох, в общих интересах его поменять коллективным усилием – например, подписать петицию о запрете кока-колы.

Поэтому ученые, наверное, не виноваты в том, что предмет их исследований – не какая-то абстрактная информация, а заряженные ненавистью тексты про масонов, президента Обаму и вообще про власти-которые-скрывают. И, разумеется, про заговоры тех же ученых против простых людей. Так вышло.

На тему лжи, пропаганды, заговоров и слухов давным-давно пишут статьи и диссертации социологи с психологами и психиатрами – представители наук, которые по-английски называют soft science, «мягкой» наукой (в противоположность «твердым» вроде математики или нейробиологии). Племянник и последователь Фрейда Эдвард Бернейс опубликовал в 1928 году книгу «Пропаганда»{1} – руководство по манипуляции людьми, адресованное в первую очередь рекламщикам. В 1957 году напечатали бестселлер Вэнса Паккарда «Тайные манипуляторы»{2}, взгляд с другой стороны баррикад, где разоблачаются игры рекламщиков с нашими подсознательными установками. Теодор Адорно, социолог и философ, после Второй мировой развил теорию «авторитарной личности» – человека толпы, который пропаганде легко поддается.

Но есть проблема. Еще во времена Фрейда «мягкие» науки заработали репутацию таких областей знания, где редко получается дать окончательный ответ на какой-нибудь вопрос. И новая теория часто не отменяет старую, даже если ей противоречит.

Ни Адорно, ни Паккард не ставили экспериментов и не делали количественных выводов, как физики или химики. Кто-то основывался на своем опыте практикующего врача, кто-то исходил из собственных размышлений о природе человека – и все это подходы, бесконечно далекие от строгости тех методов, которые применяют в физике элементарных частиц или в клеточной биологии.

Книги (по крайней мере, Бернейса и Паккарда) переиздают на русском раз за разом, и такое особенно любят рекомендовать преподаватели факультетов маркетинга, политологии и рекламы своим студентам – чуть ли не как учебники. Другое дело, что психологические теории, на которых они основаны, сейчас невозможно воспринимать всерьез. Понятия вроде Эдипова комплекса, мортидо и суперэго давно пропали из учебников о том, как устроен мозг.

Словом, наука об ошибках и заговорах, внушаемости и вере в чепуху только совсем недавно – лет десять как – благодаря томографам и большим данным стала достаточно «твердой» и строгой.

С появлением соцсетей с их миллиардами записей в качестве больших данных стало возможно делать строгие количественные выводы о том, как передается информация от человека к человеку. Такими выводами занимаются, в частности, исследовательские команды самих компаний Facebook и Twitter, куда нанимают лучших математиков, социологов и теоретиков коммуникаций.

Биолог-эволюционист Ричард Докинз сорок лет назад сравнил распространение идей с распространением генов. Если ген – единица генетической информации, то для единицы культурной информации Докинз придумал короткое и емкое слово «мем». В конце концов так стали называть любые вирусные картинки и бродячие цитаты в интернете, но Докинз вкладывал в это понятие несколько более глубокий смысл.

Согласно его книге «Эгоистичный ген»{3}, ген важнее своего хозяина – будь то бактерия, человек или любое другое живое существо. Мы – просто вспомогательное приспособление, которым кусок ДНК пользуется в своих интересах. Если ген фермента ДНК-полимеразы встречается и у человека, и у банана – ему, гену, в некотором смысле все равно, в чьем теле пробивать себе дорогу в будущее.

Биология за последние полвека сильно продвинулась вперед как раз за счет изучения «плохих» и «вредных» генов – вроде тех, что вызывают рак или помогают вирусу иммунодефицита человека (ВИЧ) прописаться в человеческом геноме. Благодаря им стало возможно понять, как работают гены в нормальной здоровой клетке.

С идеями та же ситуация: беспристрастный взгляд на распространение «плохих» и «некачественных» идей – антинаучных слухов и бредовых теорий заговора, писем счастья и пропаганды, притворяющейся простыми человеческими историями («я сама крымчанка, дочь офицера, живу тут пятьдесят лет…») – обещает науке больше пользы, чем изучение всего хорошего.

Во лжи интересно то, почему она так жизнеспособна. Может быть, всю работу по внедрению лжи в сознание проделывают коварные заинтересованные злодеи, которые захватили почту, телефон, телеграф и имеют полный контроль над передачей любой информации? Так мы представляем – по антиутопиям вроде «1984» Оруэлла – работу «Большого Брата» в тоталитарном государстве.

Однако в реальности люди почему-то не только охотно потребляют неправду, когда ей есть альтернатива, но и включаются в цепь ее ретрансляции добровольно – и основную работу по внедрению дезинформации в умы следующих жертв проделывают сами, без Большого Брата. Пересылают друзьям письма счастья, неправдоподобные фотографии со слезливой сопроводительной историей, новости про закон, принятый несуществующими депутатами, или еще что-нибудь в том же духе. В большинстве случаев в этот момент у них за плечом не стоит автоматчик, диктующий что писать, и до опровергающих ложь аргументов всего два клика в Google.

Ложь проще отслеживать, чем правду: изъяны информации – ее опознавательный знак, что-то вроде отпечатков пальцев. Поэтому ее исследования и должны прояснить, как человечество способно распоряжаться информацией вообще.

Стоит сказать пару слов о том, что заставило эту книгу появиться на свет. Автор – научный журналист, который последние тринадцать лет писал про межпланетные зонды, редактирование генома и мозг для самых разных изданий, начиная со старой Lenta.ru (не следует путать ее с одноименным сайтом, существующим сейчас), GEO и «Вокруг света» и заканчивая журналом Vogue.

Не лучше ли было бы научному журналисту потратить время на книжку, посвященную бактериям или космосу? Как раз тогда, когда я сел дописывать предисловие, по университетским библиотекам развозят свежий номер Science[1] – одного из самых старых и уважаемых научных журналов, – на обложке у которого нарисовано нечто вроде сложных снопов искр. Так могли бы выглядеть следы космических лучей в атмосфере. Но это никакие не космические лучи, а схема каскадов слухов в Twitter; тема номера – «Как распространяется ложь». А про информационные пузыри в соцсетях пишут книги профессора математики. Неправда в ее новых формах становится чем-то таким, чего больше нельзя не замечать, даже если область ваших интересов – теория алгоритмов или диалектология.

Ссылаться на академическую науку применительно ко сну, завтраку, утренней пробежке, переутомлению на работе и походу в магазин за свитером стало привычным делом. Вы не просто бессильны перед сочным и вредным бургером – это сбой дофаминовой системы наград мозга. А любовь к сладкому – продукт эволюционных стратегий, закрепившихся в ходе миллионов лет превращения обезьяны в человека, когда концентрированные калории были очень редки. Мы уже научились (и даже привыкли) рассуждать таким образом про еду: на эту тему выходят и переводятся книжки с обязательным мозгом на обложке. А про наше восприятие политических новостей и пропагандистских мемов в соцсетях – еще нет.

Мне как научному журналисту показалось важным заполнить этот пробел.

Курс философа Андрея Великанова сделал моей привычкой читать не вдоль, а поперек: искать ключи к проблемам в том числе и в текстах, которые не обещают прямо в заголовке раз и навсегда решить проблему за меня. За три года существования кружка слушателей курса мы успели пообсуждать – в той или иной форме – разные сюжеты, разобранные в книге. Я благодарен Андрею Григорьевичу и моим друзьям из числа слушателей, бывшим и нынешним – Оле Алексеенко, Сереже Кирееву, Алене Тоже и моей жене Марине Зайцевой – за все разговоры (про носорога Витгенштейна, выдуманную войну Бодрийяра, чужую красоту, секты, психологические тренинги у менеджеров и механизмы передачи культурного знания у желтой русской канарейки), которые пришлось додумывать задним числом, а потом писать текст так, как если бы я спорил вслух с живым и критически настроенным собеседником. Марине отдельное спасибо за готовность брать на себя роль такого невоображаемого собеседника всякий раз, когда я оканчивал очередную главу.

Для меня большая честь знать, что люди, которым я обязан своим способом думать, – Мария Степанова, Шура Буртин, Андрей Великанов и, разумеется, мои родители Виктория Козловская и Михаил Дрейзлер – потратили сколько-то времени своей жизни на чтение моих постов в соцсетях, и буду рад, если они заглянут сюда.

Мой друг Ян ничего этого не прочтет, он умер. Книга посвящается ему.

В ходе работы над главами о больших данных и алгоритмах автор настолько увлекся сюжетом, что решил поступить в Школу анализа данных «Яндекса», окончил ее через два года и устроился на работу в «Яндекс» специалистом по машинному обучению – писать код и тренировать математические модели. Поэтому, к сожалению, в книге, где много написано про соцсети, нейросети, Facebook и Google, не будет ни слова о «Яндексе» – чтобы избежать конфликта интересов между автором-программистом и автором-журналистом.

Многие тексты, из которых выросли разные ее главы, выходили в разное время на сайтах Colta.ru, Snob.ru и Republic.ru, в журналах New Times и «Кот Шрёдингера»; спасибо их редакторам и редакциям.

Часть I

Среда обитания неправды