Cognitive Harness. Архитектура организации человеческого мышления в эпоху агентного искусственного интеллекта

Что изменилось для человека

Доступный машинный интеллект меняет структуру дефицита. Создать десять вариантов становится дешево. Дороже выбрать вопрос, обеспечить контекст, проверить основания и принять ответственность. Это не означает, что профессии сводятся к менеджменту агентов. Но почти в каждой интеллектуальной работе возрастает роль оркестрации.

Человек может оставить за собой постановку цели и необратимые решения, передать агенту поиск и черновики, а проверку разделить между тестами и экспертом. Другой человек может делегировать все и формально подтвердить результат. В обоих случаях используется одна технология; различается Cognitive Harness гибридной системы.

Здесь возникает название, которого пока не хватает. Planner, Memory, Evaluator и Reflection перечисляют функции, но не обозначают уровень, связывающий их с целью, полномочиями и последствиями. Перед тем как вводить термин, полезно остановиться.

Первая часть книги начиналась с машины. Теперь вопрос уже обращен к читателю: сколько в его собственном действии принадлежит способности думать, а сколько — способу организовать мышление?

Факт / данные. Способность модели решать локальную задачу не гарантирует надежного многошагового поведения; архитектура агента добавляет память, инструменты, проверки и новые классы отказов.

Рабочая аналогия. Различение интеллекта и контура агентности может быть продуктивно для анализа человеческого действия.

Проверка. Можно ли описать координационный уровень без внутреннего управляющего и измерить его вклад независимо от базовых способностей.

Источники главы

— Yao, S. et al. «ReAct: Synergizing Reasoning and Acting in Language Models».

— Schick, T. et al. «Toolformer».

— Wang, L. et al. Обзоры LLM-based autonomous agents.

— Shinn, N. et al. «Reflexion» — как пример конкретной архитектуры, а не универсального механизма.

— Parasuraman, R., Sheridan, T. B., Wickens, C. D. Работы об уровнях автоматизации.

Интерлюдия. Момент, когда начинает не хватать слов

Есть короткий момент между пониманием и названием. Старое объяснение уже перестало работать, а новое еще кажется слишком большим для одного слова.

Мы привыкли думать, что качество жизни определяется качеством ума. Больше знать. Быстрее понимать. Точнее рассчитывать. Не поддаваться ошибкам. Эта идея была убедительна, пока производство ответа оставалось дорогим.

Теперь ответ можно получить за несколько секунд. Не обязательно верный, не обязательно глубокий, но достаточно связный, чтобы продолжить работу. Машина предлагает варианты быстрее, чем человек успевает осознать собственный вопрос. Дефицит перемещается.

Я открываю диалог с AI, чтобы прояснить мысль. Через минуту передо мной пять структур. Каждая выглядит разумной. Через десять минут их двадцать. Возможностей стало больше, а направление не стало яснее.

В этот момент обнаруживается простая вещь: отсутствие ответа и отсутствие выбора — разные проблемы.

Интеллект расширяет пространство возможного. Но кто-то — или, точнее, какая-то организация процессов — должна решить, что из этого пространства имеет отношение к моей жизни. Не к абстрактной задаче. К моему времени, обещаниям, страху, ответственности перед другими людьми.

Машина не снимает этот вопрос. Она делает его громче.

Можно попросить AI выбрать цель. Он предложит убедительную формулировку. Можно попросить сравнить ценности. Он построит таблицу. Можно попросить сыграть критика и затем судью. Но каждое новое поручение уже содержит решение о том, кому доверять, на каких основаниях и где остановиться.

Возникает соблазн поставить над всеми процессами внутреннего руководителя. Назвать его волей, сознанием или настоящим «я». Представить, что где-то существует точка, которая видит систему целиком и свободно выбирает направление.

Опыт сопротивляется этой картине. Мы замечаем намерение после того, как оно уже сформировалось. Теряем важную мысль из-за уведомления. Защищаем решение, принятое из страха, и только потом создаем разумное объяснение. Иногда одна ночь меняет то, что вчера казалось очевидным.

Но противоположный вывод — будто никого нет и все просто происходит — тоже не удовлетворяет. Человек способен остановить автоматизм, вынести цель на бумагу, попросить другого о критике, изменить среду и через месяцы стать менее предсказуемым для собственной привычки. Он не всевластен, но может участвовать в перенастройке условий своего действия.

Может быть, свобода начинается не в точке абсолютного выбора. Может быть, она возникает в способности строить контур, который замечает собственные ограничения.

Это не обещание тотального самоконтроля. Тотальный контроль быстро превращает жизнь в производственный процесс. Интерес становится топливом, отдых — обслуживанием, отношения — сетью полезных связей. Архитектура, достойная человека, должна оставлять место тому, что не имеет заранее выбранной функции.

Но она также должна защищать нас от чужой функции. Цифровая среда уже распределяет внимание. Организация задает метрики. AI-система предлагает удобную структуру вопроса. Если мы не участвуем в сборке собственного контура, он не остается пустым. Его собирают значения по умолчанию.

Поэтому новая модель нужна не для того, чтобы сделать человека похожим на машину. Она нужна, чтобы различить способность и управление способностью, инструмент и авторство, действие и право определить его смысл.

Следующая часть предложит первую карту. Карта будет неполной. Она не найдет в мозге нового органа и не решит проблему сознания. Ее задача скромнее: дать имя отношениям, которые обычно исчезают между словами «я подумал» и «я сделал».

Это имя — Cognitive Harness.

Часть II. Новая архитектура

Глава 4. Cognitive Harness: первая карта

Когда знакомым процессам не хватает общего языка

Человек готовит важное решение. Он собирает сведения, вспоминает похожий опыт, замечает тревогу, обсуждает варианты, откладывает один путь и выбирает другой. После результата он либо меняет представление о ситуации, либо находит способ не замечать противоречие. Каждый фрагмент этого процесса имеет имя: внимание, память, мотивация, планирование, контроль, метакогниция, обучение.

Но перечисление компонентов не всегда объясняет связность. Почему одно воспоминание становится релевантным, а другое нет? Как долгосрочная ценность получает преимущество над немедленным сигналом? Когда привычный режим уступает место анализу? Что соединяет ошибку сегодняшнего действия с изменением завтрашнего правила?

В психологии существуют сильные исследовательские традиции для каждого вопроса. Исполнительные функции описывают торможение, рабочую память и гибкость. Когнитивный контроль — направление обработки в соответствии с задачей. Метакогниция — наблюдение и регулирование собственного познания. Саморегуляция — движение относительно целей. Кибернетические модели — обратную связь и уменьшение рассогласования.

Новая рамка оправданна не потому, что эти подходы неверны. Она нужна, если позволяет видеть отношения между ними, внешними инструментами и длительным действием. Именно на такую роль претендует Cognitive Harness.

Предварительное определение

На этом этапе дадим только первую формулировку:

Гипотеза Cognitive Harness. Cognitive Harness — это функциональный контур, который связывает направление, ограниченные когнитивные ресурсы, внутренние и внешние средства, действие, оценку и последующее изменение поведения.

Слово «функциональный» означает, что речь не идет об отдельном органе мозга. «Контур» подчеркивает обратную связь: результат возвращается и влияет на следующий шаг. «Внутренние и внешние средства» включают память и внимание, но также язык, записи, других людей и AI. Наконец, «направление» шире одной формальной цели: в него входят ценности, потребности и ограничения.

Это определение намеренно недостаточно для зрелой теории. Оно не отвечает, каким образом распределенные процессы координируются без внутреннего управляющего, что запускает пересмотр цели и как измерить качество контура. Эти вопросы будут разобраны в главах 9 и 10. Здесь нужна карта местности.

Чем Harness не является

Cognitive Harness — не синоним интеллекта. Интеллектуальная способность создает и оценивает решения, но не гарантирует устойчивого направления во времени.

Это не сознание. Часть координации происходит без сознательного доступа; само сознание остается предметом конкурирующих теорий. Модель не решает hard problem и не объявляет сознание диспетчерской кабиной.

Это не воля как единая сила. Переживание усилия реально, но архитектурное описание ищет процессы и условия, через которые намерение поддерживается или распадается.

Это не Эго. Модель себя помогает связывать прошлое, цели и последствия с одним агентом, но может быть одним из ресурсов координации, а не ее владельцем.

Это не анатомический модуль. Схемы книги показывают функции и зависимости. Они не указывают, где «находится Harness» в мозге.

Это не универсальный алгоритм оптимальной жизни. У человека конфликтуют ценности; некоторые занятия ценны без внешнего результата; максимальный контроль может быть патологическим. Harness описывает организацию действия, но не выбирает за человека достойную цель.

Почему существующих понятий недостаточно — и когда их достаточно

Исполнительные функции ближе всего к внутренним механизмам целевого контроля. Однако чек-лист, контракт, коллега-критик и AI-агент способны радикально изменить результат без изменения базовой исполнительной способности человека. Cognitive Harness рассматривает такую распределенность как центральное, а не вторичное свойство.

Метакогниция описывает знание о собственном мышлении, мониторинг уверенности и регуляцию. Harness включает метакогнитивный слой, но также внешнее действие, полномочия инструментов, критерии результата и организационную ответственность. Система может иметь хороший внутренний мониторинг и плохой путь от обнаружения ошибки к исправлению среды.

Саморегуляция охватывает цели, обратную связь и поведение и потому особенно близка предлагаемой модели. Отличительный акцент Harness — инженерная развертка гибридной системы: кто или что хранит состояние, каким инструментам выданы права, где расположен evaluator, как устроены остановка и эскалация.

Extended mind и распределенное познание показывают, что когнитивная работа выходит за границы индивида. Harness добавляет вопрос управления: не просто какие внешние элементы участвуют, а как они включаются в цикл цели, действия и обучения.

Если существующее понятие полностью объясняет конкретный эффект, новое слово не нужно. Cognitive Harness следует использовать только на уровне интеграции, где важно соединение нескольких функций и внешних компонентов во времени. Это ограничение защищает модель от превращения в название всего мышления.

От линейной цепочки к многослойной карте

Первый набросок легко представить стрелкой:

интерес → внимание → мышление → выбор → действие → обратная связь

Она полезна как описание цикла и опасна как буквальная архитектура. Процессы идут не один за другим. Восприятие уже зависит от ожиданий; действие меняет доступную информацию; память влияет на интерес; обратная связь оценивается через модель себя. Поэтому более точная карта имеет слои.

КУЛЬТУРА И СОЦИАЛЬНАЯ СРЕДА

↕

ВНЕШНИЕ ОПОРЫ: язык, люди, записи, AI

↕

ЦЕННОСТИ И ЗНАЧИМОСТЬ ↔ КООРДИНАЦИЯ ↔ ДЕЙСТВИЕ В СРЕДЕ

Схема не утверждает симметрию всех связей и не является моделью нейронных сетей мозга. Она выполняет редакционную функцию: не дает поставить сущности разных уровней в одну причинную очередь. Мозг — физический субстрат, интерес — мотивационно-аффективная организация, self-model — функциональное представление, AI — внешнее средство.

Шесть задач первой карты

Первая задача — сохранить направление. Цель должна оставаться доступной достаточно долго, но иметь возможность пересмотра. Слишком слабое удержание создает дрейф; слишком сильное — инерцию.

Вторая — распределить внимание. Система не может обработать все. Она выбирает между заметным, срочным и значимым, часто под влиянием среды.

Третья — собрать релевантный контекст. Память не поставляет прошлое целиком. Внешний поиск также выбирает. Отбор контекста определяет пространство выводов.

Четвертая — сформировать и сократить альтернативы. Мозг и генеративные инструменты создают гипотезы. Контур должен избежать и преждевременной фиксации, и бесконечного множества вариантов.

Пятая — связать решение с действием. Здесь появляются навыки, инструменты, полномочия, риск и обратимость. Правдоподобный ответ еще не изменяет мир.

Шестая — научиться после результата. Обратная связь должна изменить правильный слой: факт, уверенность, план, правило или цель. Иначе система закрепляет ложный урок.

Эти задачи не являются независимыми модулями. Они образуют сеть ограничений. Формулировка цели меняет внимание; новое наблюдение меняет гипотезу; действие создает данные; модель себя влияет на то, какая ошибка признается.

Матрица первой диагностики

— много идей, мало завершений. Архитектурный вопрос: определены ли цель и stopping rule; Что нельзя заключать сразу: «не хватает воли»

— повторение ошибки. Архитектурный вопрос: достигает ли обратная связь следующего цикла; Что нельзя заключать сразу: «он ничего не понимает»

— бесконечный анализ. Архитектурный вопрос: какова цена новой информации; Что нельзя заключать сразу: «нужно еще больше данных»

— импульсивный выбор. Архитектурный вопрос: что захватило внимание; Что нельзя заключать сразу: «интерес всегда прав»

— доверие AI. Архитектурный вопрос: где независимая проверка; Что нельзя заключать сразу: «модель умнее человека»

— команда видит риск, но продолжает. Архитектурный вопрос: кто имеет право остановки; Что нельзя заключать сразу: «никто не ответственен»

Матрица не ставит диагноз. Один паттерн имеет разные причины: незавершение может быть следствием плохой цели, болезни, перегрузки или разумного отказа. Рамка лишь предлагает вопрос, после которого видно, какой уровень исследовать.

В научной проверке нужны сравнительные вмешательства. Если stopping rule уменьшает лишний анализ без потери качества, поддерживается конкретная гипотеза. Если эффект объясняется тревогой или сложностью, модель уточняется.

Время как несущая ось

Список компонентов скрывает главное свойство Harness — длительность. Внимание действует сейчас, память приносит прошлое, цель представляет будущее, а обратная связь связывает ожидание и результат. Контур существует как организация этих времен.

Краткий цикл длится секунды: заметить ошибку и исправить движение. Проектный — месяцы: удерживать критерий. Биографический — годы: пересматривать модель себя. Сбои тоже зависят от времени: немедленная награда вытесняет ценность, поздняя обратная связь приписывается последнему шагу, устаревшая цель продолжает управлять.

AI способен поддерживать процесс дольше сессии, если память сохраняет состояние. Но непрерывность записи не равна непрерывности субъекта. Архитектурный вопрос иной: кто обновляет долгосрочную цель и как обнаруживается, что она устарела?

Один пример: решение о смене работы

Человек рассматривает предложение новой компании. Если описать ситуацию только как выбор между зарплатами, задача кажется вычислительной. Но реальный контур шире.

Интерес направляет внимание к возможности роста. Тревога выделяет риск нестабильности. Память извлекает прошлый неудачный переход, возможно, придавая ему чрезмерный вес. Модель себя говорит: «Я человек, который доводит обязательства до конца». Социальная среда добавляет ожидания семьи и коллег. AI может сравнить условия и построить сценарии, но его вывод зависит от переданного контекста.

Harness в этом примере не принимает решение вместо человека. Он проявляется в организации процесса: отделить факты от прогнозов, назвать конфликт ценностей, проверить финансовые ограничения, получить информацию у будущей команды, определить срок выбора и заметить, когда страх маскируется под объективный аргумент.

Результат не обязан быть оптимальным. Важно, что основания становятся доступными пересмотру. Через полгода человек может сравнить ожидания с опытом и обновить не только мнение о компании, но и способ выбора.

Внутренний и внешний контур

До появления цифровых технологий человеческое мышление уже было расширено. Запись защищала цель от забывания, карта преобразовывала пространственную задачу, научная нотация позволяла выполнять недоступные устному счету операции, институт разделял роли и проверки.

AI отличается степенью активности. Он способен преобразовывать контекст, предлагать следующий шаг и действовать через инструменты. Поэтому внешний контур становится не только памятью, но и участником координации. Граница между помощью и передачей авторства зависит от полномочий и критериев.

Система «человек—AI» может быть сильнее каждого элемента. Человек удерживает ценности и социальный контекст; AI расширяет поиск и генерацию; формальный тест проверяет вычисление; эксперт оценивает редкое исключение. Но гибрид может быть и слабее: человек доверяет убедительной форме, агент наследует плохую цель, а ответственность растворяется между участниками.

Сценарий. В агентской экономике личный Harness будет включать портфель программных агентов. Ключевой грамотностью станет не написание идеальной инструкции, а проектирование прав, памяти, проверок и точек возврата решения человеку.

Контраргумент: удобная схема после события

Интегративную модель легко использовать задним числом. После любой ошибки можно сказать, что подвело внимание, память, цель или оценка. Такая гибкость угрожает нефальсифицируемостью.

Чтобы избежать этого, перед действием следует указывать предсказание. Если проблема действительно в извлечении контекста, изменение процедуры памяти должно улучшить результат при неизменной генеративной способности. Если причина в оценщике, независимый критерий должен обнаруживать специфические ошибки. Если вмешательства не дают различимого эффекта, объяснение ослабевает.

Вторая угроза — переименование. Если все эффекты полностью описываются метакогницией и саморегуляцией, отдельная модель не нужна. Исследовательская программа книги должна сравнивать объяснения, а не только собирать подтверждения.

Третья — культ управления. Не всякая деятельность имеет цель, которую следует оптимизировать. Спонтанность, игра и созерцание способны расширять пространство значимости именно потому, что не подчинены ближайшей метрике. Поэтому Harness должен включать режим ослабления контроля.

Порядок дальнейшего исследования

Первая карта задает последовательность следующих глав. Сначала нужно разобраться с сознанием: является ли оно управляющим центром или лишь одним режимом доступности? Затем — с интересом, который направляет ресурсы до явной цели. После этого — с мозгом как системой генерации и проверки гипотез и с Эго как моделью действующего «я».

Только затем можно вернуться к Harness и дать зрелое определение без гомункулуса. Такой порядок важен. Если сейчас объявить новый центральный модуль, книга повторит ошибку, от которой пытается уйти.

Пока достаточно видеть контур как исследовательскую карту. Его ценность будет зависеть от того, выдержит ли она встречу с теориями сознания, мотивации, прогнозирования и самости.

Факт / данные. Целевое поведение связано с несколькими взаимодействующими функциями и внешними средствами; ни один перечисленный компонент сам по себе не исчерпывает координацию.

Гипотеза Cognitive Harness. Полезно выделить уровень интеграции, связывающий направление, ресурсы, действие, оценку и обучение.

Проверка. Является ли эта интеграция самостоятельной объяснительной рамкой, как избежать гомункулуса и какие измеримые эффекты отличают ее от соседних теорий.

Источники главы

— Miller, G. A., Galanter, E., Pribram, K. H. Plans and the Structure of Behavior.

— Norman, D. A., Shallice, T. Модель supervisory attentional system.

— Carver, C. S., Scheier, M. F. Контрольные модели саморегуляции.

— Nelson, T. O., Narens, L. Метакогнитивный мониторинг и контроль.

— Hutchins, E. Cognition in the Wild.

— Clark, A., Chalmers, D. «The Extended Mind».

Глава 5. Сознание: опыт, доступ и управление

Свет в комнате и доступ к выключателю

Водитель проезжает знакомый участок дороги и внезапно понимает, что почти не помнит последние несколько минут. Он не был без сознания: реагировал на повороты, поддерживал скорость, учитывал другие машины. Но содержание действий не занимало центрального места в отчете о происходящем. Затем на дороге появляется препятствие. Внимание перестраивается, ситуация становится доступной для явного решения, а автоматический навык уступает место контролируемому действию.

Этот обычный эпизод показывает, почему слово «сознание» нельзя использовать без уточнения. Оно может относиться к наличию субъективного опыта, к доступности информации для рассуждения и отчета, к бодрствованию, к вниманию или к знанию о собственном знании. Эти явления связаны, но не тождественны.

Для Cognitive Harness различие принципиально. Если объявить сознание внутренним оператором, который видит мысли и управляет ими, модель получит гомункулуса раньше, чем успеет его заметить. Если полностью исключить сознание, останется непонятно, почему глобальная доступность, осознанная ошибка и явный пересмотр цели иногда меняют поведение.

Задача главы не решить проблему сознания. Она скромнее: определить, какие различения нужны архитектурной модели и какие утверждения она не имеет права делать.

Феноменальный опыт и доступ

Нед Блок предложил различать феноменальное сознание и сознание доступа. Феноменальное сознание относится к тому, «каково это» — переживать цвет, боль, тревогу или вкус. Сознание доступа означает, что содержание доступно для рассуждения, отчета и гибкого управления действием (Block, 1995). Различение остается предметом философских и эмпирических споров, но предотвращает важную подмену.