После загрузки. Горизонты технологий и политики. Том 1
- -
- 100%
- +
Не только работники, но и обычные пользователи находят способы «портить» данные, на которых обучаются алгоритмы. Понимая, что их профилируются, таргетируются и манипулируют, они начинают играть против системы. Кто-то специально кликает на нерелевантную рекламу, чтобы сбить таргетинг и заставить платформу тратить бюджет впустую. Кто-то пишет бессмысленные отзывы на товары, создавая шум в обучающей выборке. Кто-то использует несколько аккаунтов, имитируя разное поведение, чтобы алгоритм не мог составить точный профиль. Кто-то сознательно ищет и смотрит контент, который ему не нравится, — чтобы «зашумлять» рекомендательную систему.
Эти практики — форма «информационного партизанства». Они не требуют технических знаний, только осознания того, как работают алгоритмы, и готовности тратить немного лишнего времени. Конечно, отдельный пользователь не может обрушить рекламную экосистему Google или Facebook. Но массовое распространение таких привычек может сделать данные менее надёжными, а персонализацию — менее точной. А это, в свою очередь, снижает экономическую эффективность платформ и создаёт стимул для них пересматривать свои модели монетизации. Сопротивление алгоритмам начинается с малого: не кликнуть на «рекомендованный» пост, не поставить лайк, не дать алгоритму обратную связь, которую он ожидает.
Сопротивление алгоритмам — это не всегда белый пушистый героизм. У него есть теневая сторона, и её нужно видеть. Те же самые приёмы, которые используют курьеры для защиты от эксплуатации, могут использовать и недобросовестные работники для обмана системы: завышать время доставки, чтобы получить доплату; симулировать проблемы с заказом, чтобы списать его без штрафа; кооперироваться для искусственного завышения цен. Грань между сопротивлением несправедливости и обычным жульничеством здесь очень тонка, и провести её можно только через политический анализ: кто устанавливает правила, насколько они справедливы, есть ли у работника реальная альтернатива, кроме саботажа?
То же самое с пользователями. Клики на нерелевантную рекламу — это саботаж, но это и манипуляция, которая бьёт не по платформе, а по рекламодателю, который может быть мелким предпринимателем, а не корпорацией. Сознательное зашумление данных — это сопротивление профилированию, но оно же ухудшает качество сервиса для других пользователей, которые хотели бы получать релевантные рекомендации. Цифровой саботаж, как и любой саботаж, — это оружие, которое может ранить не только врага.
Философски это возвращает нас к вопросам гражданского неповиновения, которые мы обсуждали в первой главе. Допустимо ли нарушать правила, если сами правила несправедливы? Где проходит граница между легитимным сопротивлением и деструктивным поведением? Кто имеет право судить о справедливости правил — и не становится ли саботажник новым диктатором, навязывающим свою волю другим? Ответов нет, но сам факт, что эти вопросы возникают, показывает: цифровая этика не может ограничиваться предписаниями для разработчиков и регуляторов. Она должна включать и этику пользователя — его право и обязанность сопротивляться там, где система несправедлива.
Индивидуальный саботаж — важная форма сопротивления, но он имеет пределы. Алгоритм, который обманывают десять курьеров, адаптируется; платформа, которую зашумляют сто пользователей, усиливает фильтрацию; корпорация, которая теряет немного на фальшивых кликах, компенсирует это за счёт других. Индивидуальные «уколы» не смертельны для системы. Чтобы изменить правила игры, нужна организация.
В последние годы мы видим рост коллективных действий в цифровой среде. Курьеры и таксисты в разных странах создают профсоюзы, требуют пересмотра алгоритмического менеджмента, права на объяснение решений, минимальной гарантированной ставки. Пользователи объединяются в движения за цифровые права, добиваясь прозрачности алгоритмов, запрета на дискриминационный таргетинг, права на забвение. Разработчики создают альтернативные, децентрализованные платформы — от open-source соцсетей до кооперативных сервисов доставки, — где алгоритмы контролируются не корпорацией, а сообществом.
Эти коллективные действия — уже не саботаж, а политика. Они требуют не только технической смекалки, но и способности договариваться, вырабатывать общие требования, идти на компромиссы, нести ответственность. Они медленнее, сложнее, конфликтнее индивидуального саботажа. Но они и эффективнее: одна забастовка тысячи курьеров стоит дороже миллиона кликов по нерелевантной рекламе; один закон, регулирующий алгоритмы, защищает больше людей, чем тысячи индивидуальных уловок.
Для читателя этой книги, вооружённого инструментами первой главы, разговор о цифровом саботаже — это не столько призыв к действию, сколько напоминание об агентности. В дискурсе об алгоритмической власти слишком часто звучит нота бессилия: «нас контролируют», «мы марионетки», «ничего не изменишь». Этот нарратив удобен тем, кто хочет сохранить статус-кво: если жертвы верят в своё бессилие, они не будут сопротивляться. Показывая, что люди — даже на самых низких этажах цифровой иерархии — находят способы обходить, взламывать, саботировать алгоритмы, книга возвращает читателю чувство, что у него есть выбор.
Да, этот выбор ограничен. Да, он не отменяет структурной несправедливости. Да, индивидуальный саботаж не заменит коллективной организации. Но сам факт, что можно что-то сделать — перестать кликать, перестать лайкать, перестать быть предсказуемым, — это первый шаг к тому, чтобы перестать быть объектом алгоритмического управления и снова стать субъектом. Цифровой саботаж — не панацея, но он — напоминание: код не всемогущ, алгоритмы имеют уязвимости, а люди — даже самые уставшие и запуганные — умнее любой машины, если решат действовать вместе. И в этом, возможно, главная надежда цифровой эпохи.
Предвзятость данных и XAI
Предвзятость данных и вопрос объяснимости ИИ оказываются центральными для доверия к «судье в коде». Даже самый сложный алгоритм остаётся зеркалом тех практик и структур, которые зашиты в его обучающую выборку: если данные несправедливы, то и решения будут систематически несправедливыми, пусть и в очень изощрённой, статистически «убедительной» форме. Попытки сделать ИИ объяснимым (XAI, explainable AI) — это ответ на растущую потребность понять, как именно алгоритмы приходят к своим выводам и можно ли им доверять, особенно когда речь идёт о кредитах, работе, медицинских диагнозах, свободе и безопасности людей.
Источники предвзятости в данных многообразны, но часто сводятся к тому, что данные фиксируют прошлую реальность со всеми её неравенствами. Если в прошлом определённые группы чаще подвергались полицейским проверкам, реже получали кредиты или были хуже представлены в престижных профессиях, то алгоритм, обученный на этих данных, будет воспроизводить и усиливать эти паттерны, воспринимая их как «норму». Важно понимать, что предвзятость может заражать систему не только через явно дискриминационные признаки вроде пола или этничности, но и через косвенные маркеры: адрес, школа, работодатели, стиль письма. Даже если разработчики формально исключают «чувствительные» поля, алгоритм способен восстановить предубеждение через коррелирующие признаки.
Парадокс в том, что чем успешнее алгоритм в предсказании, тем труднее заметить и оспорить его несправедливость. Если система действительно хорошо угадывает, кто не вернёт кредит или где вероятнее всего произойдёт преступление, то может показаться, что претензии к её «предвзятости» — чистая политика. Философски здесь важно различать точность предсказания и справедливость распределения рисков и возможностей. Даже очень точная модель может быть морально недопустимой, если она структурно ухудшает положение уже уязвимых групп или закрепляет исторические несправедливости. В этом смысле разговор о предвзятости данных — это не только технический вопрос, но и политический: чьи интересы и чьи прошлые практики считаются легитимной основой для будущих решений.
Отсюда вырастает требование к объяснимости. Если алгоритм участвует в принятии решений, которые существенно влияют на жизнь людей, то общество вправе требовать: покажите, по каким критериям он действует, какие признаки считает важными, как распределяет риски. XAI предлагает разные подходы: от более простых и прозрачных моделей, чья логика доступна человеку, до «надстроек» над сложными нейросетями, которые локально объясняют конкретное решение («в этом случае решающими были такие‑то факторы»). Но и здесь возникает философский вопрос: достаточно ли «объяснять», если сами исходные данные и цели модели уже несут в себе предвзятость. Объяснимость без критики исходного контекста может превратиться в красивое оправдание несправедливости.
Существует и напряжение между объяснимостью и эффективностью. Самые мощные современные модели часто оказываются именно теми, чья внутренняя работа наименее прозрачна для человека: глубокие нейросети, ансамбли алгоритмов, сложные вероятностные конструкции. Требование полной объяснимости может привести к выбору более простых, но менее точных моделей, что тоже имеет этическую цену: снижение качества диагностики или роста числа ошибок в кредитных решениях. Встает вопрос о балансе: когда мы готовы пожертвовать частью эффективности ради большей прозрачности и контролируемости, а когда высокий уровень риска, наоборот, требует максимально точных, пусть и менее объяснимых систем.
Объяснимость важна не только для внешнего контроля, но и для самих пользователей систем. Человек, получивший отказ в кредите или работе, нуждается не только в формальном ответе «система решила так‑то», но и в понимании, что он может изменить, какие факторы сыграли роль, не был ли он наказан за то, что не находится под его контролем. Без такого понимания алгоритмические решения легко переживаются как произвол или судьба, против которой бессмысленно бороться. Это подрывает чувство агентности и доверия к институтам, превращая ИИ из инструмента в некий «оракул», чьи указания нельзя понять и оспорить.
С философской точки зрения, XAI поднимает и вопрос о границах рационализации. Даже для человеческих действий далеко не всегда возможно дать полное, честное и прозрачное объяснение; значительная часть мотивации остаётся неосознанной или формулируется задним числом. Требуя от ИИ «объяснить себя», мы, в сущности, требуем от разработчиков и компаний взять на себя ответственность за артикуляцию ценностей и допущений, заложенных в систему. Это не сводится к «переводу» работы нейросети на человеческий язык; это акт публичного самоопределения: какие признаки мы считаем допустимыми, как понимаем справедливость, какие риски готовы принять.
Наконец, тема предвзятости данных и XAI связывает техническую повестку с более широкой проблемой доверия к знаниям, которой посвящены позднейшие главы книги. В эпоху, когда кризис доверия к экспертам, науке и медиа сочетается с растущим влиянием алгоритмов на информацию, которую мы видим, особенно важно, чтобы системы ИИ не усиливали ощущение непрозрачного, неподотчётного управления. Этот раздел показывает: справедливость алгоритмов начинается не с красивых интерфейсов и обещаний этичности, а с честного разговора о данных, целях, ограничениях и готовности подвергать модели независимому аудиту. Объяснимый ИИ — это не столько о том, чтобы машина «говорила», сколько о том, чтобы люди и институты, стоящие за ней, были готовы объяснять и отвечать.
Нормы и контроль
Алгоритмы в ответственных сферах нельзя оставлять на самотёк, так же как нельзя полагаться только на добрую волю разработчиков или абстрактные «принципы этичного ИИ». Нужны конкретные нормы и институции контроля, которые задают границы допустимого, проверяют соответствие систем этим границам и обеспечивают возможность вмешательства, когда что‑то идёт не так. Этот раздел завершает главу о «судье в коде», переходя от анализа моральных подходов и предвзятости данных к вопросу: какие правила и организации должны стоять между человеком и алгоритмом, чтобы доверие было не наивной надеждой, а осознанным выбором.
Первый уровень таких норм — правовое регулирование. Законы определяют, где и при каких условиях допустимо использовать ИИ, какие требования по безопасности, прозрачности и недискриминации обязательны, какие виды обработки данных запрещены. Это включает в себя, например, запреты на биометрическое наблюдение в общественных местах без жёстких ограничений, требования к оценке влияния алгоритмов на права человека, обязанности компаний предоставлять информацию об используемых моделях в чувствительных сферах. Философски право здесь выступает как воплощение общественного решения: какие риски мы считаем приемлемыми, а какие — нет, и где граница, за которой техническая эффективность не оправдывает вмешательство в свободу и достоинство.
Второй уровень — институционализированные аудиты алгоритмов. По аналогии с финансовым аудитом, где независимые специалисты проверяют отчётность компаний, алгоритмический аудит предполагает оценку моделей на предмет предвзятости, соответствия нормативным требованиям, устойчивости к манипуляциям и уязвимостям. Это может включать тестирование на различных группах пользователей, анализ влияния изменений данных, проверку того, как система ведёт себя в пограничных случаях. Важно, что такие проверки не должны быть разовыми: алгоритмы обучаются, обновляются, меняются вместе с данными, и контроль за ними должен быть процессом, а не одноразовой сертификацией.
Третий слой — участие гражданских институтов и общества. Если обсуждение ИИ остаётся делом только экспертов, разработчиков и регуляторов, существует риск технократического сдвига, когда вопросы справедливости, прав и рисков решаются за закрытыми дверями. Гражданские организации, правозащитные группы, профессиональные сообщества, академические исследователи должны иметь возможность участвовать в обсуждении крупных проектов — от систем «умного города» до алгоритмов в образовании и здравоохранении. Это может реализовываться через публичные консультации, независимые экспертные советы, механизмы подачи жалоб и запросов на информацию, поддерживаемые законодательно.
Не менее важны внутренние нормы и кодексы в профессиональных сообществах. Как у врачей есть клятва и этические комитеты, так и у разработчиков ИИ, специалистов по данным, продуктовых менеджеров могут и должны быть свои стандарты: что считать недопустимым, даже если это законно и выгодно; при каких условиях допустимо отказаться от проекта; какие обязательства есть перед конечными пользователями, а не только перед работодателем. Такие нормы не заменяют закон, но дополняют его там, где формальные правила ещё не успели сформироваться или где требуется более тонкая моральная чувствительность. Они также повышают личную ответственность специалистов, помогая не прятаться за формулой «я просто делал свою работу».
Философская перспектива подчёркивает, что контроль над ИИ — это не только вопрос «регуляторных мер», но и вопрос распределения власти. Кто получает право решать, как устроена инфраструктура алгоритмов: крупные корпорации, государства, международные организации, саморегулирующиеся профессиональные ассоциации, гражданские коалиции. Каждый вариант несёт свои риски: монополия платформ — к концентрации влияния и потенциальному злоупотреблению данными; доминирование государств — к техноавторитаризму; слабость регуляторов — к «дикому» рынку, где сильнейший диктует условия. Поэтому это раздел не предлагает единой «идеальной» модели, а задаёт рамку: эффективный контроль над ИИ должен быть многослойным, распределённым и подотчётным, чтобы ни один актор не мог единолично определять, как именно будет судить «судья в коде». Хотя главный вопрос об этических нормах «судьи», я считаю пока не решенным.
§ 7 Постчеловек
Проект трансгуманизма
Жизнь как риск‑проект начинается с простого факта: всё больше решений о будущем принимается не только людьми, но и моделями машинного обучения, которые оценивают вероятности событий, присваивают нам баллы «надёжности» и рисуют сценарии наперёд. На рынке труда, в страховании, здравоохранении, кредитовании, безопасности, даже в романтических приложениях — везде работают алгоритмы, чья задача предсказать, что с нами, скорее всего, произойдёт, если мы пойдём тем или иным путём. Этот раздел рассматривает машинное обучение не как набор технических трюков, а как новый способ относиться к будущему: будущее превращается в статистическое поле возможностей, а человек — в носителя рисков и прогнозов, к которым он вынужден относиться серьёзнее, чем к личным интуициям.
Машинное обучение в своей основе занимается поиском закономерностей в прошлых данных, чтобы потом распространять их на новые случаи. В этом смысле его логика близка классической индукции: если определённая комбинация признаков в прошлом часто вела к какому‑то исходу, модель будет ожидать того же и впредь. Разница в масштабе и скорости: современные алгоритмы обрабатывают огромные массивы информации, находя сложные, нелинейные зависимости, которые трудно уловить человеческому глазу или интуиции. Прогноз погоды, вероятность отказа двигателя, риск сердечного приступа, шанс ухода сотрудника, склонность человека к определённым покупкам или голосованиям — всё это становится объектом предсказания, и точность таких прогнозов часто впечатляет.
Однако философски важно то, что эти прогнозы меняют не только наши знания, но и наше поведение. Если страховая компания считает человека высокорисковым и поднимает тариф, то он может отказаться от страховки или изменить образ жизни; если алгоритм найма оценивает кандидата как «малоперспективного», он может никогда не попасть на собеседование и не опровергнуть этот прогноз. Возникает феномен самосбывающихся и саморазрушающихся пророчеств: предсказание не просто описывает будущее, а помогает его создавать или предотвращать. В мире, где машинное обучение активно участвует в управлении, будущее перестаёт быть независимым от наших моделей; оно превращается в результат сложного взаимодействия прогнозов и реакций на них.
Это особенно заметно в экономике и политике. Инвестиционные алгоритмы, предсказывающие поведение рынков, сами влияют на эти рынки, поскольку крупные игроки ориентируются на их сигналы; системы оценки кредитоспособности, прогнозирующие вероятность невозврата, формируют доступ людей к деньгам и, соответственно, их реальную финансовую траекторию. Аналогично в политике: модели, прогнозирующие электоральное поведение, используются для таргетирования агитации и мобилизации, изменяя исходы выборов, которые сами же пытались предсказать. Философский вопрос здесь в том, можем ли мы по‑прежнему думать о будущем как о «данности, которую нужно открыть», или должны признать, что будущее — это всё больше проект, в котором модели и алгоритмы играют активную роль.
Машинное обучение также меняет нашу субъективную работу с риском. Раньше человек чаще опирался на личный опыт, традицию, рассказы других, чтобы оценить вероятности: «в нашей семье все жили долго», «этот район считается спокойным», «так все делают». Теперь он сталкивается с числовыми показателями, рейтингами, предсказательными шкалами, которые вроде бы основаны на «объективных данных». Рейтинг кредитного скоринга, оценка риска болезни по анализу крови, вероятность ДТП, рассчитанная телематикой автомобиля — все эти цифры становятся частью самоощущения: человек начинает видеть себя как набор рисков, которые нужно управлять. Жизнь превращается в проект оптимизации собственного профиля: снизить одни вероятности, повысить другие, улучшить модель, которой ты сам стал.
Этот сдвиг несёт и освобождение, и давление. С одной стороны, доступ к предсказаниям может помочь вовремя выявить угрозы, подготовиться к кризисам, принимать более информированные решения, избегать ошибок, которые раньше казались «плохой удачей». С другой — постоянное знание о рисках порождает тревогу и ощущение тотальной ответственности: если алгоритм «предупреждал», а ты не отреагировал, значит, сам виноват. В крайних формах это может привести к тому, что люди начнут переживать любую неудачу как результат неправильного управления собственной «математической судьбой», хотя реальность всегда полнее любой модели и включает случайность, структурные факторы, неожиданные события.
Важный философский аспект машинного обучения — его зависимость от прошлого. Алгоритмы учатся на данных, отражающих уже случившиеся события и сложившиеся структуры, и потому склонны консервировать статус‑кво: если в прошлом определённые группы реже получали высокие должности или образование, модель будет предсказывать то же для будущего. Это превращает историю не просто в фон, а в активный инструмент формирования завтрашнего дня: прошлые несправедливости закладываются в матрицу решений, и без сознательного вмешательства будущее будет напоминать прошлое с высокой точностью. Задача философии здесь — подчеркнуть, что предсказательная точность не равна моральной приемлемости: иногда справедливое решение — как раз то, которое «ломает» инерцию данных.
Машинное обучение также ставит вопрос о границах предсказуемости. В теории сложности и нелинейных систем давно известно, что многие процессы чувствительны к начальным условиям и подвержены «чёрным лебедям» — редким, но мощным событиям, которые радикально меняют картину. Алгоритмы, обученные на «нормальных» данных, склонны плохо справляться с такими аномалиями: они отлавливают привычные паттерны, но не видят настоящих качественных сдвигов. Это касается и личной биографии: ни одна модель не может гарантированно предсказать, какой случайный разговор, кризис, вдохновение или встреча изменит жизнь. Осознавая это, можно сохранить пространство для свободы и неожиданности, даже в мире, где прогнозы окружают со всех сторон.
Наконец, машинное обучение меняет язык, на котором мы говорим о будущем. Вместо устойчивых образов судьбы, промысла, исторической необходимости или личного призвания всё чаще используются слова «вероятности», «риски», «сценарии», «модели». Человек начинает мыслить о себе как о менеджере собственного риска, о политике — как об управлении портфелем сценариев, о природе — как о системе, чьи будущие состояния нужно моделировать. В следующих разделах эта тема продолжится в обсуждении трансгуманизма, политик предосторожности и климатических моделей, но уже здесь важно увидеть: машинное обучение не просто предсказывает будущее, оно переписывает наши внутренние сюжеты о том, что такое будущее и как к нему относиться. Но главным образом, возвращаясь к мыслям из прошлого параграфа об универсализме и деонтологии, Будущее предстает уже без культурно-исторических ценностей, национальных традиций и абсолютных ценностей. Увы, но этический вопрос пока без ответа.
Биоконсервативная критика
Проект трансгуманизма начинается с простой, на первый взгляд, мысли: если человек умеет лечить болезни, продлевать жизнь, усиливать свои способности с помощью техники, почему бы не продолжить эту линию до конца. В трансгуманистской перспективе старение рассматривается как инженерная проблема, страдание — как задачу для биомедицины и нейротехнологий, а границы тела и мозга — как временные ограничения, которые можно обойти с помощью имплантов, генетических модификаций, интерфейсов «мозг–компьютер» и возможной загрузки сознания. Этот раздел знакомит читателя с логикой трансгуманизма как философско‑технологического проекта и намечает те вопросы, которые потом будут развернуты в главах об этике долголетия, тождестве личности и политике предосторожности.
Корни трансгуманизма уходят в просветительскую веру в прогресс и в идеалы модерна: разум и наука способны не только объяснять мир, но и радикально его улучшать. Если раньше мечты о бессмертии и сверхспособностях были уделом религии или мифологии, то теперь на их место приходят научно‑технические сценарии: от лечения всех болезней на уровне ДНК до переноса сознания в цифровые носители. Трансгуманисты видят в человеке не завершённый продукт эволюции, а переходное состояние, которое само по себе приглашает к улучшению: природа, по их мысли, не является моральным авторитетом, а случайный результат естественного отбора не должен навсегда определять, какими нам быть.
Важный элемент трансгуманистского мировоззрения — отношение к старению как к болезни. Там, где традиционная культура видела «естественный порядок» или даже источник мудрости, трансгуманист видит набор биохимических процессов, ведущих к деградации тканей и систем организма. Если рак, диабет и сердечные заболевания мы уже научились лечить или по крайней мере замедлять, то логично считать, что и старение как совокупность таких процессов тоже может стать объектом терапии. Отсюда вырастают идеи «стратегий инженерии пренебрежения старением» (SENS), разработка сенолитиков, регенеративной медицины, редактирования генома — всего того, что должно не только продлить жизнь, но и продлить период активного здоровья.