Искусственное завтра

АЛГОРИТМ ЧУВСТВ. Что мы теряем, доверяя логике будущее любви, творчества и справедливости

Представьте себе мир, который мы так упорно строим. Мир, где алгоритм подобрал вам идеального спутника жизни – с идеально совместимой ДНК, общими интересами и комплиментарными психотипами. Вы не ссоритесь. Ваши дети – запланированный результат оптимизированной евгеники – гении с предсказуемо блестящим будущим.

Робот-судия, анализируя терабайты данных, выносит стопроцентно справедливые приговоры. Больше никаких судебных ошибок, только холодный, безошибочный расчет.

ИИ-куратор пишет для вас музыку, которая идеально подходит под ваше нейрофизиологическое состояние. Она популярна и приятна. Она не режет слух. Никогда.

Это мир тотального порядка. Мир решенных проблем. Мир, в котором мы наконец-то изгнали хаос, человеческую ошибку и боль.

А теперь задайте себе один вопрос: Хотели бы вы жить в этом мире?

Этот мир – не фантазия. Это логическое завершение пути, на который мы уже ступили. Это наше «искусственное завтра», сконструированное во имя эффективности, безопасности и комфорта.

Но у этого завтра есть и обратная, не афишируемая сторона. В том мире не было бы «Анны Карениной», потому что алгоритм dating-сервиса никогда бы не свел ее с Вронским – слишком много рисков, слишком неподходящая пара. Не было бы картин Ван Гога – его данные указывали бы на психическую нестабильность и нулевую коммерческую успешность. Не было бы места для милосердия к раскаявшемуся преступнику – только сухая статистика рецидивов.

Эта книга – не манифест против технологий. А лишь трезвое и глубокое исследование цены, которую мы можем заплатить за нашу одержимость тотальным контролем. Мы стоим на пороге величайшего этического вызова в истории человечества: сохраним ли мы свою душу, передав ключевые решения бездушным, но совершенным машинам?

Мы отправимся в путешествие по трем главным фронтам этой тихой войны: любви, творчеству и справедливости. Мы посмотрим, как алгоритмы уже сегодня меняют эти понятия, и попытаемся понять, что мы можем безвозвратно утратить, если доведем эту логику до ее предела.

Часть I. Диагноз: Мир, который мы строим

Наше путешествие начинается не в футуристической антиутопии, а здесь и сейчас. Мы уже живем в прототипе того самого «искусственного завтра». Мы редко замечаем это, потому что переход был постепенным, почти неощутимым, и маскировался благими намерениями.

Это началось с малого. С алгоритма, который рекомендовал нам следующую песню для прослушивания. С системы, которая фильтровала спам в нашей почте. Мы были в восторге от такого удобства. Машина училась предугадывать наши желания, и это льстило нам.

Затем она перешла к более важным решениям.

Невидимый арбитр вашей судьбы

Сегодня, когда вы подаете заявку на кредит, в 99% случаев ее первым «читает» не человек, а алгоритм. Он анализирует тысячи параметров: не только вашу кредитную историю, но и то, как вы двигаете курсором мыши по экрану, как долго заполняете каждое поле, вашу активность в социальных сетях. Он ищет невидимые человеку паттерны, которые могут указывать на благонадежность или риск.

Когда HR-менеджер крупной компании получает 500 резюме на вакансию, первую (и часто решающую) сортировку проводит система искусственного интеллекта. Она отсеивает «неподходящих» по формальным, а иногда и по самым загадочным критериям. Известны случаи, когда алгоритмы дискриминировали кандидатов по полу (отдавая предпочтение мужским именам) или по месту жительства (считая неблагополучными целые почтовые индексы), потому что обучались на исторических данных, в которых уже была заложена эта предвзятость.

В судах США системы оценки рисков, такие как COMPAS, используются для определения вероятности рецидива у обвиняемых. На основе алгоритмической оценки судья может принять решение об отказе в условно-досрочном освобождении. Расследование журнала ProPublica в 2016 году показало, что эти системы склонны систематически завышать риски рецидива для темнокожих заключенных и занижать для белых.

Мы незаметно встроили алгоритмы в самые важные социальные лифты и институты: финансы, карьеру, правосудие. Мы сделали это во имя эффективности, скорости и якобы объективности. Мы создали алгократию – систему управления, где ключевые решения, влияющие на жизнь людей, принимаются или подготавливаются алгоритмами.

Великий соблазн объективности

Почему мы так легко на это пошли? Ответ кроется в одном из самых сильных соблазнов современности – соблазне абсолютной объективности.

Человеческое решение – это всегда коктейль из логики, эмоций, усталости, личного опыта и бессознательных предубеждений. Судья может быть строже перед обедом. Наниматель может невзлюбить кандидата из-за галстука, который напомнил ему школьного обидчика.

Алгоритм, по нашему представлению, чист от этого. Он не устает. У него нет плохого настроения. Он не подвержен сиюминутным эмоциям. Он видит только данные. В этом его сила – и его главная слабость.

Мы, уставшие от человеческой несправедливости, ошибок и предвзятости, ринулись в объятия машинной логики, как в спасительную гавань. Мы поверили, что можем заменить несовершенное человеческое суждение на безошибочное машинное.

Но мы упустили один фундаментальный факт: алгоритмы не создаются в вакууме. Их пишут люди. Они обучаются на данных, созданных людьми. И все наши предрассудки, вся наша историческая несправедливость, вся наша «кривая» мораль неизбежно впечатываются в их код. Алгоритм лишь кристаллизует и масштабирует человеческие предвзятости, выдавая их за новую, цифровую объективность.

Алгократия уже здесь. Она не пришла с армией роботов. Она просочилась в нашу жизнь через удобные приложения, обещания безопасности и жажду порядка. Следующий шаг – это не внешний контроль, а внутренняя перестройка самых сокровенных человеческих понятий. И первое на очереди – любовь.

Глава 2. Любовь по рецепту. Как алгоритмы отменяют случайность сердца

Если алгократия в финансах и праве вызывает у нас тревогу, то ее вторжение в сферу любви и отношений чаще всего встречают аплодисментами. Мы видим в этом прогресс. Избавление от мучительных поисков, пустой траты времени и душевных ран. Мы добровольно вносим свои самые сокровенные данные в анкету, веря, что машина справится с поиском партнера лучше, чем наше сердце.

Так родилась индустрия dating-приложений с многомиллиардными оборотами, построенная на одном обещании: мы избавим вас от хаоса любви и предоставим идеально подходящего человека. Но что скрывается за этим обещанием?

От салонной гадалки к Big Data: эволюция поиска пары

Исторически поиск партнера был делом случая, семьи или социального круга. XX век с его урбанизацией и сексуальной революцией подарил нам «свободные поиски» – романтическую идею о том, что мы сами должны отыскать свою половинку в огромном мире. Это было одновременно прекрасно и мучительно.

На смену этой анархии пришел алгоритм. Его логика проста: любовь – это не магия, а данные. Если оцифровать все человеческие предпочтения, ценности, психологические черты и биологические параметры, можно вывести идеальную формулу совместимости.

Современные dating-приложения – это не просто каталоги людей. Это сложнейшие системы машинного обучения. Они анализируют не только то, что вы говорите о себе (это считается ненадежным источником), но и то, как вы себя ведете:

Конец ознакомительного фрагмента.

Текст предоставлен ООО «Литрес».

Прочитайте эту книгу целиком, купив полную легальную версию на Литрес.

Безопасно оплатить книгу можно банковской картой Visa, MasterCard, Maestro, со счета мобильного телефона, с платежного терминала, в салоне МТС или Связной, через PayPal, WebMoney, Яндекс.Деньги, QIWI Кошелек, бонусными картами или другим удобным Вам способом.