Код и человек: жизнь в мире цифровых решений

5. Экономическая оптика: цена несправедливости

Теперь давайте посмотрим на эту проблему глазами экономиста. Потому что за каждым отказом алгоритма стоят не просто обиды, а реальные деньги. И если моральные аргументы можно отложить, то экономика заставляет задуматься даже самых циничных.

Представьте себе ситуацию: банк использует скоринговую модель, которая систематически занижает рейтинг жителей определённых районов. В результате тысячи потенциальных заёмщиков не получают кредиты на открытие малого бизнеса, покупку жилья или обучение. Что происходит с экономикой? Она теряет предпринимателей, которые могли бы создать рабочие места. Она теряет налоговые поступления, которые пошли бы в бюджет. Она консервирует бедность в этих районах, что в долгосрочной перспективе увеличивает расходы на социальную поддержку.

Это называется «неявные издержки дискриминации». Мы их не видим в отчётах, но они есть. И они огромны.

Или возьмём рынок труда. Когда система фильтрации резюме отсеивает женщин и людей старшего возраста, компании лишают себя доступа к талантам. Исследования показывают, что разнообразные команды принимают более сбалансированные решения и показывают лучшие финансовые результаты. Но алгоритму всё равно. Он ищет «идеального кандидата» по шаблону прошлого, а шаблон — это белый мужчина 30–40 лет с классическим резюме. А женщины с перерывом в карьере, или пожилые специалисты с уникальным опытом, или выпускники нестоличных вузов — они остаются за бортом. И компании теряют их идеи, их энергию, их предприимчивость.

Экономика знаний — это экономика талантов. Когда мы фильтруем таланты сквозь кривое сито алгоритмов, мы обесцениваем человеческий капитал. Мы как будто сами перекрываем себе кислород.

Но есть и ещё один аспект — личный. Тот, который я испытала на себе.

В 2014 году, когда я осталась без работы и пыталась инвестировать свои сбережения, я впервые столкнулась с тем, как алгоритмы могут перераспределять капитал несправедливо. Я вложила деньги в инструменты, которые рекомендовала автоматическая платформа. Она опиралась на «аналитику», но, как оказалось, её аналитика была построена на данных, которые игнорировали риски, связанные с моей конкретной ситуацией — валютные колебания, нестабильность рынка, мои сроки. Когда рынок рухнул, я потеряла почти всё. И я не могла предъявить претензию платформе — в договоре было написано: «алгоритм не даёт гарантий, все риски вы принимаете на себя». Я получила формальный ответ, без живой поддержки, без попытки разобраться.

Потеря денег была болезненной. Но ещё больнее было осознать, что мне не к кому апеллировать. Что я — просто строка в базе данных, и моя беда не интересует никого, кроме меня самой. В тот момент я поняла: алгоритмы не просто распределяют ресурсы — они распределяют уверенность и достоинство. Когда человеку отказывают и объясняют это «решением модели», он чувствует себя не человеком, а объектом статистики. Он перестаёт верить, что его могут услышать.

И вот главный экономический парадокс: мы передали машинам власть принимать решения, но не дали им ответственности. Банк, который ошибся, не несёт убытков от того, что не выдал кредит женщине — он просто сэкономил на риске. Компания, которая отсеяла талантливого пожилого специалиста, не увидит потерь в квартальном отчёте — она их увидит через годы, когда упадёт инновационность. А человек, который остался без кредита или без работы, несёт убытки здесь и сейчас. И никто не компенсирует ему упущенную выгоду.

Я часто говорю своим клиентам: «Никогда не кладите все яйца в одну корзину. Диверсифицируйте риски». Но теперь я понимаю, что то же самое нужно говорить о цифровом мире. Никогда не полагайтесь только на одну систему. Никогда не считайте, что алгоритм — это истина в последней инстанции. Потому что цена его ошибки — это не просто деньги. Это ваше время, ваши нервы, ваша вера в себя.

6. Что теряет сам человек?

Мы поговорили о деньгах. Теперь — о том, что дороже.

Когда алгоритм отказывает вам в кредите, вы теряете не только шанс купить квартиру или машину. Вы теряете чувство, что вы — полноценный член общества. Вас признали «рисковым», «ненадёжным», «недостойным». И вы даже не знаете, почему. Вас оценили, как товар на складе, и признали неликвидным.

Когда система отсеивает ваше резюме, вы теряете не только работу — вы теряете надежду. Каждый отказ съедает часть вашего самоуважения. Вы начинаете сомневаться в себе: а вдруг я и правда никому не нужен? Вдруг я переоценивал свои силы? Вдруг у меня нет ценности на рынке?

Я помню, как в период безработицы я перестала выходить из дома. Стыдно было встречаться с друзьями, потому что они спрашивали: «Ну что, как работа?» — а я не могла сказать, что сижу без денег и отказы сыпятся один за другим. Я перестала верить в свой опыт, в свои знания, в свою интуицию. Я начала думать, что моя карьера кончилась, что я больше никогда не вернусь на тот уровень, который был у меня в международных компаниях. Это была не просто финансовая яма — это была яма в душе.

И только когда я перестала ждать «объективных» решений от автоматических систем и начала общаться с живыми людьми, звонить напрямую, искать личные контакты, просить рекомендации, — только тогда у меня появились предложения. Но сколько людей, менее упорных или более застенчивых, остаются на дне этой цифровой ямы? Сколько из них перестают верить в себя навсегда?

А теперь представьте, что алгоритм оценивает не вашу кредитную историю или резюме, а вашу личность. Социальные сети уже давно собирают данные о наших предпочтениях, о круге общения, о содержании наших сообщений. Они знают, сколько времени вы проводите в интернете, какие новости читаете, о чём молчите. И на основе этого они строят ваш «психологический портрет». Рекламодатели используют его, чтобы показывать вам товары. Политические консультанты — чтобы влиять на ваши взгляды. Работодатели — чтобы проверять вашу благонадёжность. Страховые компании — чтобы устанавливать ваши тарифы.

Вы когда‑нибудь задумывались, что ваш профиль в соцсетях — это не вы? Это кривое зеркало, составленное из кусочков вашего поведения, но лишённое контекста. Оно не знает, что вы смеялись над мемом в трудный день, чтобы не плакать. Оно не знает, что вы подписались на паблик с цитатами, потому что искали утешение. Оно не знает, что вы молчали, потому что боялись осуждения. Оно видит только цифры: сколько лайков, сколько репостов, сколько времени, какие ключевые слова.

И на основе этих цифр машина делает вывод: «Этот человек — тревожный, склонен к риску, нелояльный, ненадёжный». И это решение может повлиять на вашу карьеру, на вашу страховку, на ваше право арендовать жильё. А вы даже не знаете, что вас оценили. И не сможете оспорить.

Поэтому я считаю, что самый большой урон, который наносят алгоритмы, — это урон нашей субъектности. Мы перестаём чувствовать себя авторами своей жизни. Мы перестаём верить, что наши поступки имеют значение, что наша воля может что‑то изменить. Мы привыкаем к тому, что «машина решила», «программа так посчитала», «система рекомендует». И мы перекладываем на них ответственность за свою судьбу.

Но кто тогда на самом деле живёт нашей жизнью? Мы — или алгоритм?

Я часто спрашиваю своих клиентов: «Если бы банк отказал вам в кредите, но вы могли бы поговорить с живым человеком и объяснить свою ситуацию — вы бы почувствовали себя лучше, даже если бы результат был тот же?» И почти все отвечают: «Да». Потому что важно не только решение, но и то, как его принимают. Важно быть услышанным, понятым, признанным. А машина не умеет слушать. Она только подсчитывает.

И вот мы подходим к главному вопросу, который я хочу задать вам, дорогой читатель: что мы теряем, когда позволяем цифровым судьям вершить правосудие без нашего ведома? Мы теряем себя.

7. Выводы по Главе 1

Давайте соберём всё, что мы узнали в этой главе.

Алгоритмы — это не нейтральные вычислители. Они — зеркало нашего прошлого, наших предубеждений, наших структурных ошибок. Они не создают справедливость — они её повторяют или искажают. Они принимают решения, которые влияют на наши финансы, нашу карьеру, нашу самооценку. И у нас почти нет способов эти решения оспорить.

Мы увидели три вопиющих примера: как Amazon отсеивал женщин, как кредитные алгоритмы воспроизводят историческую дискриминацию, как системы распознавания лиц по-прежнему ошибаются на людях с тёмной кожей. Мы заглянули на кухню создания алгоритмов и поняли, что их создатели — люди со своими слабостями, а данные — это срез несовершенного мира. Мы оценили экономическую цену несправедливости — не только в деньгах, но и в потерянных талантах, упущенных возможностях, разрушенной вере в себя.

И мы осознали, что главная жертва цифрового суда — это наша человечность. Наше право быть услышанными, понятыми, признанными — не как статистическая единица, а как личность.

Но глава заканчивается не на мрачной ноте. Она заканчивается вопросом: «А что, если мы сможем переписать это зеркало?»

Что, если мы осознаем свои ошибки, соберём чистые данные, встроим человеческий контроль в алгоритмы, научимся не доверять им слепо? Что, если мы создадим систему, где доверие будет зашито в архитектуру, а не в репутацию банка или корпорации? Что, если мы сможем обойти единый центр власти и перераспределить право принятия решений между людьми и кодом по-новому?

Этот вопрос ведёт нас к следующей главе. Где мы разберём, как блокчейн — цифровая тетрадь доверия — пытается переиначить само понятие справедливости. Как децентрализованные системы обещают прозрачность, которой так не хватало в мире больших алгоритмов. И сможет ли технология стать решением тех проблем, которые сама же и породила.

А пока — остановитесь. Подумайте: вас когда‑нибудь судила машина? Как вы это ощутили? И что бы вы хотели изменить в этом мире цифровых решений?

Эти вопросы — ваш первый шаг к тому, чтобы перестать быть просто объектом алгоритма. И стать его сознательным собеседником.

Практический блок. Остановись и спроси себя

Дорогой читатель, мы с тобой только что прошли непростой путь. Мы увидели, как алгоритмы становятся невидимыми судьями, как они воспроизводят несправедливость и как мы сами позволяем им это делать. Теперь — самое важное: не пройти мимо, а заглянуть в собственное зеркало. Эти вопросы — не для галочки. Они для остановки. Для того, чтобы ты, закрыв книгу на минуту, услышал себя.

Я не жду ответов «правильных» или «неправильных». Я просто хочу, чтобы ты был честен с собой. Потому что только так мы сможем перестать быть пассивными объектами цифрового мира — и стать его сознательными участниками.

1. Вспомни случай, когда алгоритм решил за тебя

Вспомни любой момент — из последних месяцев или лет, — когда ты получил автоматическое решение, которое повлияло на твою жизнь. Это могло быть:

Отказ в кредите или увеличение ставки по кредиту без объяснения причин.

Автоматический ответ на резюме («Мы выбрали другого кандидата»).

Неожиданное повышение цены страховки или отказ в выплате.

Рекомендация платформы, которая тебя удивила («откуда они знают?»).

Социальная сеть, которая показала тебе контент, вызвавший сильную эмоцию.

Теперь задай себе три вопроса:

Как я чувствовал себя в тот момент? Обиду, беспомощность, раздражение, злость, безразличие?

Был ли у меня способ оспорить это решение? Мог ли я поговорить с живым человеком или хотя бы получить внятное объяснение?

Изменил ли я что‑то в своём поведении после этого случая? Стал ли я более осторожным, более настороженным, более «подозрительным» к автоматике?

Запиши свои мысли кратко — хотя бы два‑три предложения. Это поможет тебе увидеть, что ты уже сталкивался с «цифровым судьёй» и что ты при этом чувствовал.

2. Поставь себя на место «создателя алгоритма»

Теперь сыграем в игру. Представь, что ты — руководитель отдела кадров в крупной компании. Ты решаешь внедрить автоматическую систему фильтрации резюме. Ты знаешь, что твоя компания исторически нанимала больше мужчин, чем женщин, и больше выпускников престижных вузов, чем региональных. Ты хочешь сделать процесс «объективным» и «безличным».

Какие меры ты предпримешь, чтобы избежать дискриминации?

Уберёшь из обучающей выборки гендерные признаки? Но что, если алгоритм найдёт их обходным путём (как это было в Amazon)?

Добавишь человеческий контроль на финальном этапе? Но где гарантия, что рекрутер не будет предвзят?

Будешь проверять, как система работает на разных группах соискателей, и корректировать её, если найдёшь перекосы? Но кто заплатит за это время и силы?

Честно признайся: что бы ты выбрал, если бы твой бюджет был ограничен, а начальство требовало быстрых результатов? Вернул бы ты всё на ручной отбор или предпочёл бы «погрешность» алгоритма, потому что это дешевле?

Напиши свой ответ в одном предложении: «Я бы сделал так, потому что…» — и попробуй проверить, не звучит ли этот аргумент так же, как аргументы банков и корпораций, о которых мы говорили в главе.

3. Где твоя красная линия?

Мы живём в мире, где удобство часто стоит потери контроля. Ты платишь картой — система запоминает твои покупки. Ты включаешь навигатор — он знает, где ты был. Ты общаешься с друзьями в мессенджере — он анализирует твой словарный запас. Всё это ради удобства, персонализации, экономии времени.

Вопрос: где проходит твоя личная красная черта?

Ты готов пожертвовать частью приватности, чтобы получать более точные рекомендации фильмов и книг?

Ты готов, чтобы система анализировала твои сообщения, чтобы лучше понимать, какие новости тебе показывать?

Ты готов, чтобы система оценивала твою кредитоспособность на основе твоих лайков или геолокации?

Где ты скажешь: «Стоп. Это уже слишком. Я не хочу, чтобы машина решала это за меня»?

Важно: здесь нет «правильного» ответа. У каждого своя черта. Но её важно осознать. Потому что, пока мы не знаем, где наши границы, мы будем «соглашаться» на всё подряд — как нажимаем «Принять все» на сайте с куки-файлами, не читая условий.

Запиши одну ситуацию, в которой ты точно не хочешь полагаться на алгоритм, даже если это неудобно.

4. Попробуй обжаловать решение (домашнее задание)

Если за последние полгода тебе когда‑либо отказывали в чём‑то автоматически (кредит, страховка, доступ к сервису, вакансия) и у тебя остался хоть какой‑то контакт или форма для обратной связи — попробуй оспорить это решение. Напиши официальное письмо или заполни форму с просьбой объяснить причины отказа.

Но есть условие: ты должен сделать это вежливо, но настойчиво. Спроси: «На основании каких данных моя заявка была отклонена? Есть ли возможность человеческой переоценки? Могу ли я предоставить дополнительные документы?».

Конец ознакомительного фрагмента.

Текст предоставлен ООО «Литрес».

Прочитайте эту книгу целиком, купив полную легальную версию на Литрес.

Безопасно оплатить книгу можно банковской картой Visa, MasterCard, Maestro, со счета мобильного телефона, с платежного терминала, в салоне МТС или Связной, через PayPal, WebMoney, Яндекс.Деньги, QIWI Кошелек, бонусными картами или другим удобным Вам способом.