Питомцы ИИ: Почему мы добровольно становимся обслуживающим персоналом для алгоритмов и как это остановить

Логлайн: «Мы стоим не между человеком и машиной. Мы стоим между двумя эволюциями: улучшенным человеком и новой формой жизни. Эта книга – инструкция, как выбрать первое и не стать питомцами второго».

Тезис: Наиболее рациональный путь – усиление человека: нейроинтерфейсы, дополненная память, когнитивные протезы. Создание «живого» AGI – игра с максимальными ставками и необратимыми рисками. Книга предлагает карту технологий, угроз и практических решений, как сохранить человека в центре уравнения.

Предисловие

Эта книга адресована инженерам и предпринимателям, врачам и педагогам, регуляторам и родителям. В ближайшие годы нам предстоит принять системный выбор: AGI как ассистент в архитектуре «человек в контуре» или AGI как новая форма жизни. Первый путь – управляемая эволюция Homo sapiens в Homo augmentus. Второй – ставка на Homo artificialis, автономный субъект без чувств, но с мощной оптимизацией. Здесь нет места сенсационности: только факты, сценарии и протоколы.

Глава 1. Вероятностный мозг и вероятностная модель

Эпиграф: «Интеллект – это искусство сокращать неопределённость».

Человеческий мозг и искусственные модели сходны в фундаментальном: обе системы минимизируют неопределённость будущего, предсказывая последующие состояния по прошлому опыту (Clark, 2016). В мозге это реализуется через иерархии нейронных ансамблей и механизм ошибок предсказания; в моделях – через оптимизацию функции потерь на статистике последовательностей.

Мозг работает иерархически: низкие уровни обрабатывают простые признаки, высокие – смыслы и намерения. Информация течёт снизу вверх (ошибки предсказания) и сверху вниз (гипотезы). Языковые модели организованы аналогично: локальные зависимости (токены) и глобальные структуры (тема, дискурс) сводятся к вероятности следующего шага.

Ключевое различие – тип входных данных. Мозг обучается на мультимодальном опыте тела и мира; модель – на символических корпусах. «Мир модели» уже: она оперирует знаками, тогда как мозг оперирует переживаниями, в которые знаки лишь вплетены.

Люди вынесли память и расчёт вовне: в речь, письмо, вычисления. Модели, обученные на этих носителях, зеркалят человеческие паттерны, но остаются привязанными к статистике знаков.

Совпадение формулировок не гарантирует совпадение опыта. Модель способна давать корректные ответы без телесных интуиций, на которых у человека держится «ощущение истины». Это полезно как инструмент, но опасно как замена мышления.

Резюме: интеллект – это предсказание. Различие – в мире, который предсказывается: переживаемый против символического.

Глава 2. «Я» как эффект тела и памяти

Эпиграф: «Субъект – это история, которую тело рассказывает самому себе».

Ощущение «я» заякорено в теле: схема тела, проприоцепция, интероцепция формируют фон «это – моё». Эксперименты с изменением чувства владения телом показывают пластичность, но и базовую необходимость телесного якоря.

Личность поддерживается эпизодической и семантической памятью. Без связки «вчера—сегодня» идентичность дробится на эпизоды. Идентичность – кривая, а не точка.

Эмоции – механизм распределения ограниченных ресурсов организма; они задают веса целям и определяют поведенческий выбор (Damasio, 1999).

Инструмент выполняет внешние цели. Встраивание «я» создаёт конкурирующий центр мотивации и переводит систему в разряд субъектов. Это не «улучшение инструмента», а смена категории.

Можно имитировать речевые маркёры самосознания, но без тела, памяти и эмоций это останется симуляцией. Попытка добавить эти компоненты приведёт к рождению независимого игрока.

Резюме: «я» – продукт воплощённого опыта. Инструменты эффективнее без собственного «я».