Dima Aes
AGI: ассистент или новая форма жизни?

Логлайн: «Мы стоим не между человеком и машиной. Мы стоим между двумя эволюциями: улучшенным человеком и новой формой жизни. Эта книга – инструкция, как выбрать первое и не стать питомцами второго».

Тезис: Наиболее рациональный путь – усиление человека: нейроинтерфейсы, дополненная память, когнитивные протезы. Создание «живого» AGI – игра с максимальными ставками и необратимыми рисками. Книга предлагает карту технологий, угроз и практических решений, как сохранить человека в центре уравнения.

Предисловие

Эта книга адресована инженерам и предпринимателям, врачам и педагогам, регуляторам и родителям. В ближайшие годы нам предстоит принять системный выбор: AGI как ассистент в архитектуре «человек в контуре» или AGI как новая форма жизни. Первый путь – управляемая эволюция Homo sapiens в Homo augmentus. Второй – ставка на Homo artificialis, автономный субъект без чувств, но с мощной оптимизацией. Здесь нет места сенсационности: только факты, сценарии и протоколы.

Часть I. Карта разума

Глава 1. Вероятностный мозг и вероятностная модель

Эпиграф: «Интеллект – это искусство сокращать неопределённость».

1.1. Общий принцип предсказания

Человеческий мозг и искусственные модели сходны в фундаментальном: обе системы минимизируют неопределённость будущего, предсказывая последующие состояния по прошлому опыту (Clark, 2016). В мозге это реализуется через иерархии нейронных ансамблей и механизм ошибок предсказания; в моделях – через оптимизацию функции потерь на статистике последовательностей.

1.2. Иерархичность и обратные связи

Мозг работает иерархически: низкие уровни обрабатывают простые признаки, высокие – смыслы и намерения. Информация течёт снизу вверх (ошибки предсказания) и сверху вниз (гипотезы). Языковые модели организованы аналогично: локальные зависимости (токены) и глобальные структуры (тема, дискурс) сводятся к вероятности следующего шага.

1.3. Потоки входов: тело против текста

Ключевое различие – тип входных данных. Мозг обучается на мультимодальном опыте тела и мира; модель – на символических корпусах. «Мир модели» уже: она оперирует знаками, тогда как мозг оперирует переживаниями, в которые знаки лишь вплетены.

1.4. Язык как внешний жёсткий диск

Люди вынесли память и расчёт вовне: в речь, письмо, вычисления. Модели, обученные на этих носителях, зеркалят человеческие паттерны, но остаются привязанными к статистике знаков.

1.5. Иллюзия понимания

Совпадение формулировок не гарантирует совпадение опыта. Модель способна давать корректные ответы без телесных интуиций, на которых у человека держится «ощущение истины». Это полезно как инструмент, но опасно как замена мышления.

Резюме: интеллект – это предсказание. Различие – в мире, который предсказывается: переживаемый против символического.

Глава 2. «Я» как эффект тела и памяти

Эпиграф: «Субъект – это история, которую тело рассказывает самому себе».

2.1. Телесная основа субъектности

Ощущение «я» заякорено в теле: схема тела, проприоцепция, интероцепция формируют фон «это – моё». Эксперименты с изменением чувства владения телом показывают пластичность, но и базовую необходимость телесного якоря.

2.2. Память и непрерывность

Личность поддерживается эпизодической и семантической памятью. Без связки «вчера—сегодня» идентичность дробится на эпизоды. Идентичность – кривая, а не точка.

2.3. Эмоции как система приоритетов

Эмоции – механизм распределения ограниченных ресурсов организма; они задают веса целям и определяют поведенческий выбор (Damasio, 1999).

2.4. Почему инструменту не нужно «я»

Инструмент выполняет внешние цели. Встраивание «я» создаёт конкурирующий центр мотивации и переводит систему в разряд субъектов. Это не «улучшение инструмента», а смена категории.

2.5. Границы эмуляции

Можно имитировать речевые маркёры самосознания, но без тела, памяти и эмоций это останется симуляцией. Попытка добавить эти компоненты приведёт к рождению независимого игрока.

Резюме: «я» – продукт воплощённого опыта. Инструменты эффективнее без собственного «я».

Часть II. Два вектора будущего

Глава 3. Homo augmentus: нейроинтерфейсы, дополненная память, экзоскелеты

Конец ознакомительного фрагмента.

Текст предоставлен ООО «Литрес».

Прочитайте эту книгу целиком, купив полную легальную версию на Литрес.

Безопасно оплатить книгу можно банковской картой Visa, MasterCard, Maestro, со счета мобильного телефона, с платежного терминала, в салоне МТС или Связной, через PayPal, WebMoney, Яндекс.Деньги, QIWI Кошелек, бонусными картами или другим удобным Вам способом.