Cognitive Harness. Архитектура организации человеческого мышления в эпоху агентного искусственного интеллекта

Архитектура организации человеческого мышления в эпоху агентного искусственного интеллекта

Архитектура человеческого мышления в эпоху агентного искусственного интеллекта

Автор: Александр Новиков-Андриенко

Редакция: 1 августа 2026 года

Эта книга предлагает концептуальную модель и исследовательскую программу. Она не заменяет медицинскую, психологическую или иную профессиональную помощь. Аналогии между человеческим мышлением и AI-архитектурами не означают биологического тождества человека и машины.

Предисловие

Человечество долго пыталось понять разум, изучая мозг, поведение и субъективный опыт. Развитие искусственного интеллекта добавило к этим перспективам ещё одну — инженерную. Стало видно, что качество интеллектуальной системы определяется не только вычислительной мощностью. Не менее важны постановка цели, распределение внимания, доступ к памяти, выбор инструментов, проверка результата, право действовать и способность изменить стратегию.

Эта книга начинается с рабочей гипотезы: архитектуры современных агентных систем могут дать полезный язык для разговора об организации человеческого мышления. Не потому, что мозг является компьютером, сознание — интерфейсом, а личность — программой. И не потому, что инженерная схема способна исчерпать человеческий опыт. Ценность аналогии уже и скромнее: она позволяет различить интеллект и управление интеллектом, действие и право на действие, накопление опыта и обновление модели мира.

Название Cognitive Harness обозначает не отдельный участок мозга и не внутреннего управляющего человечка. Это имя для распределённого контура, в котором цели, ограничения, внимание, память, планирование, действие и обратная связь согласуются во времени. Его можно искать внутри индивидуальной практики, во внешних инструментах, в команде и в гибридной системе «человек—AI».

Читатель встретит в тексте пять типов утверждений: данные, интерпретации, рабочие аналогии, авторские гипотезы и сценарии. Они намеренно разделены. Там, где наука даёт несколько конкурирующих объяснений, книга не будет превращать одно из них в установленный факт. Там, где предлагаемая модель выходит за пределы данных, это будет названо гипотезой. Главная задача — не объявить новую окончательную теорию мышления, а построить достаточно точный язык, чтобы эту модель можно было обсуждать, применять, критиковать и проверять.

Как читать эту книгу

Первая часть показывает, почему агентный AI заставил по-новому поставить старый вопрос об организации интеллекта. Вторая разбирает человеческую сторону аналогии: сознание, интерес, прогнозирующий мозг и модель себя. Третья формулирует Cognitive Harness как архитектуру и исследует её основные контуры. Четвёртая превращает модель в практические протоколы и рассматривает жизнь в агентской экономике. Пятая задаёт программу эмпирической проверки и прямо перечисляет условия, при которых модель окажется слабой или лишней.

Практические упражнения не являются валидированным диагностическим тестом. Их задача — сделать архитектуру наблюдаемой в собственной работе: увидеть дрейф цели, перегрузку внимания, плохую память решения, чрезмерное делегирование или отсутствие обратной связи. Полезность упражнения сама по себе ещё не доказывает теорию. Именно поэтому книга заканчивается не манифестом, а исследовательской программой и сильной критикой собственных оснований.

Глава 1. Мы случайно построили зеркало собственного мышления

Иногда инженерия оказывается быстрее философии

В конце 2022 года миллионы людей открыли окно чата и впервые столкнулись не с поисковой строкой, а с системой, способной продолжить почти любую интеллектуальную ситуацию. Она объясняла понятия, писала код, меняла стиль текста, предлагала планы и поддерживала диалог. Ошибки были заметны с первых дней: вымышленные ссылки, уверенные неточности, неспособность отличить правдоподобие от факта. Но даже с учетом этих ограничений событие оказалось больше выпуском нового продукта.

Большая языковая модель сделала наблюдаемой способность, которую прежде было легко связывать только с целостным человеческим субъектом: порождение связного ответа в открытом контексте. Она не решила проблему сознания и не доказала, что машина понимает слова так же, как человек. Она предоставила инженерный контрпример более скромной, но важной интуиции: сложное языковое поведение может возникать из статистического обучения на больших массивах данных без заранее записанного каталога правил для каждого вопроса.

История этой технологии началась задолго до появления массовых чат-интерфейсов. Нейронные языковые модели учились предсказывать следующий элемент последовательности; архитектура Transformer позволила эффективнее работать с отношениями между элементами контекста; масштабирование данных, вычислений и параметров расширило диапазон задач; обучение следованию инструкциям и обратная связь от людей сделали взаимодействие удобнее. Каждый этап имел собственные научные и инженерные основания. Поэтому соблазнительно рассказать эту историю как прямую лестницу к «машинному разуму», но такая ретроспектива скрывает случайности, тупики и нерешенные проблемы.

С философской точки зрения важнее другое. Исследователи строили систему обработки языка, а получили новый инструмент для исследования наших критериев мышления. Если связный текст, объяснение и план уже недостаточны, чтобы уверенно приписать сознание, что именно мы считали признаком разума? Если модель может создать хороший вариант решения и все же не способна самостоятельно определить, какую проблему следует решать, где проходит граница между интеллектом и агентностью?

Факт / данные. Современные языковые модели обучаются на задаче предсказания и последующей настройке поведения; их уверенный текст не является надежным индикатором фактической истинности или субъективного понимания.

От ответа к действию

Первое поколение массового опыта с LLM было сосредоточено на ответе. Пользователь формулировал запрос, модель возвращала текст. В этой схеме человек удерживал почти всю архитектуру задачи: выбирал цель, собирал контекст, решал, когда обратиться к модели, проверял результат и переносил его в мир.

Если модель писала письмо, человек выбирал адресата и нажимал «отправить». Если предлагала код, человек запускал его и отвечал за последствия. Если перечисляла варианты лечения, медицинское решение оставалось вне системы. Модель могла быть сильным генератором, но цикл действия замыкался человеком.

Затем вокруг моделей начали появляться дополнительные компоненты. Системе давали доступ к поиску, калькулятору, среде исполнения кода и корпоративным данным. Добавляли память о предыдущих шагах, планировщик, проверки результата и правила повторной попытки. Она переставала быть только собеседником и становилась частью агентной системы.

Агент здесь не означает сознательное цифровое существо. Это операционное название системы, которая поддерживает цикл: получает задачу, наблюдает доступное состояние, выбирает следующий шаг, использует разрешенные инструменты, оценивает результат и продолжает до выполнения условия остановки. Степень автономности может быть небольшой: от подготовки черновика до ограниченного выполнения многошагового процесса.

Этот переход обнаружил странную вещь. Повышение качества базовой модели не решало автоматически проблемы действия. Сильная модель могла выбрать неправильный инструмент, потерять цель в длинной цепочке, повторить неудачный шаг, принять данные из недоверенного источника за инструкцию или не понять, когда следует остановиться. Надежность зависела от системы вокруг модели.

Инженерам пришлось проектировать цели, память, маршрутизацию, права доступа, наблюдаемость, оценку и эскалацию человеку. В центре внимания оказался не только интеллект компонента, но и организация его работы.

Вопрос, который никто не собирался задавать

История AI долго вращалась вокруг сравнения способностей. Может ли машина играть, распознавать изображение, переводить, доказывать теорему, поддерживать разговор? Такой способ измерения естественен: он позволяет выделить задачу и сравнить результат.

Агентные системы изменили вопрос. Даже если компонент способен решить каждую отдельную задачу, кто определяет их последовательность? Кто решает, что наблюдать, какие данные считать достаточными, какой риск приемлем и что делать после ошибки? Эти вопросы не сводятся к дополнительной порции интеллекта. Они описывают архитектуру целенаправленного поведения.

В программной системе ответы воплощаются в коде, интерфейсе и организационных правилах. Цель формулирует пользователь или другой процесс. Доступ ограничивает политика безопасности. Память хранит состояние. Evaluator сравнивает результат с тестом или критерием. Лимит шагов останавливает цикл. Человек вмешивается при исключении.

Но кто выполняет сопоставимые функции в человеческом мышлении? Обычный ответ — «сам человек». Он верен на уровне повседневной ответственности и почти ничего не объясняет на уровне механизма. Человек не является простым центральным оператором собственного мозга. Намерения конкурируют, внимание захватывается, память реконструирует прошлое, привычки запускают действия раньше осознанного решения. Тем не менее связное поведение часто сохраняется месяцами и годами.

AI не дает готового объяснения психики. Он позволяет точнее сформулировать проблему: каким образом множество разнородных процессов образуют контур, способный удерживать направление, замечать ошибку и менять способ действия?

Рабочая аналогия. Модель внутри AI-агента похожа не на всего человека, а на один мощный компонент более широкой системы. Это сравнение помогает различить способность генерировать варианты и архитектуру, которая превращает варианты в длительное действие.

Почему язык ввел нас в заблуждение

Связная речь обладает сильным социальным эффектом. В человеческом мире она обычно исходит от существа с телом, биографией, интересами и ответственностью. Когда похожая форма возникает в машине, мы автоматически достраиваем привычного собеседника. Грамматика усиливает иллюзию: система говорит «я думаю», «я помню», «я решил».

Антропоморфизм не является просто глупостью пользователя. Это эффективная стратегия социального мозга: воспринимать поведение через намерения. Но в работе с AI она нуждается в корректировке. Первое лицо в ответе модели не подтверждает наличие устойчивого «я»; объяснение собственного вывода может быть правдоподобной реконструкцией, а не доступом к причинной истории вычисления.

Существует и обратная ошибка — описывать человека как несовершенную машину. Если LLM порождает текст через вероятностное продолжение, нельзя заключить, что человеческая речь является тем же процессом. Человек воплощен, развивается в отношениях, действует из потребностей, испытывает боль и несет последствия. Сходство результата или абстрактной функции не устанавливает тождество реализации.

Эта книга будет удерживать обе границы. Она не очеловечивает AI и не механизирует человека. Инженерная система используется как зеркало: оно показывает выбранную структуру, но создано из другого материала и оставляет часть предмета вне отражения.

Второе открытие

Публичное внимание было приковано к росту возможностей моделей. Однако для темы этой книги важнее открытие, сделанное при попытке превратить модель в надежного агента: качество поведения определяется контуром управления не меньше, чем качеством генерации.

Представим две системы на одной базовой модели. Первая получает расплывчатую инструкцию, широкий доступ к инструментам и завершает работу по собственному текстовому суждению. Вторая уточняет цель, использует ограниченные права, хранит состояние, проверяет ключевые результаты независимым способом, ведет журнал и передает человеку необратимые решения. Разница между ними не находится «в интеллекте» модели. Она возникает в архитектуре.

То же наблюдение можно сделать о человеке. Два специалиста сходных способностей получают разные результаты из-за того, как формулируют задачу, защищают внимание, используют записи, запрашивают обратную связь и пересматривают предположения. Это не означает существование особого внутреннего устройства. Речь идет о конфигурации процессов и внешних опор.

Именно эту конфигурацию книга предлагает назвать Cognitive Harness. Сейчас достаточно предварительной интуиции: это контур, который связывает способность думать с направлением, действием и обучением. Полное определение потребует пройти путь через сознание, интерес, генерацию гипотез и модель себя, а затем снять проблему внутреннего управляющего.

От персонального помощника к агентной экономике

Когда AI способен не только советовать, но и выполнять ограниченные действия, меняется экономическая роль программного обеспечения. Появляется среда, в которой агенты ищут информацию, сравнивают предложения, вызывают цифровые услуги, координируют расписания и готовят транзакции от имени людей и организаций. В этой книге такая формирующаяся среда называется агентской экономикой.

Речь не идет о завершенном мире автономных машин. Современные системы хрупки, зависят от инфраструктуры и человеческих полномочий. Но направление уже меняет вопрос о человеческом преимуществе. Если производство черновиков, вариантов и стандартных операций дешевеет, ценность смещается к выбору проблемы, постановке границ, проверке и ответственности.

Один человек может координировать несколько специализированных агентов. Это расширяет способность действовать и одновременно увеличивает поверхность ошибки. Неправильная цель теперь масштабируется быстрее. Невнимательно выданное полномочие превращает текстовую неточность во внешний эффект. Память помощника удобна, но создает риск приватности и фиксации устаревшего образа пользователя.

Поэтому наступление агентской экономики усиливает, а не отменяет человеческий контур. Главным навыком становится не умение вручную выполнять каждый шаг, а способность сохранять авторство цели, распределять доверие и понимать момент, когда действие должно вернуться к человеку.

Что именно показал масштаб

Развитие больших моделей часто описывают словом «масштабирование», как будто увеличение параметров и данных объясняет все появившиеся способности. Наблюдение тоньше: при изменении масштаба и обучения одна архитектура успешнее выполняет широкий набор задач, но границы зависят от теста, формулировки и инструментов.

Для книги важен инженерный результат: общая модель стала переносимым компонентом. Вместо отдельной программы для каждого узкого действия появился генератор, который можно включать в разные контуры через язык и инструменты. Часть вариативности поручается модели, а жесткими остаются границы, тесты и полномочия.

Сходство с организацией человеческой работы полезно и здесь же заканчивается. Человек не был предварительно обучен как универсальная модель, которую затем подключили к телу. Его способности формировались в действии, отношениях и развитии.

Надежность длинного цикла

Отдельный ответ может выглядеть надежным, но многошаговая задача требует серии успешных переходов. Ошибка раннего шага меняет контекст следующих. Поэтому впечатляющая демонстрация не гарантирует автономную работу в течение дня.

Надежность строится иначе, чем красота ответа. Система ограничивает область действия, проверяет промежуточное состояние, делает операции обратимыми и передает исключения. Формальный тест ловит формат и арифметику, но хуже — неуместную цель и социальный ущерб. Evaluator должен быть многослойным: машинная проверка для формального правила, внешний источник для факта и человеческое суждение для ответственности.

Высокий человеческий интеллект также не гарантирует надежности длинного проекта. Усталость, смена контекста и задержанная обратная связь создают цепочки отклонений. Контрольные точки нужны не потому, что человек «как AI», а потому, что ограниченные агенты сталкиваются с общей проблемой длительности.

Сильнейшее возражение

Можно возразить, что книга просто переносит модную инженерную лексику на старые проблемы психологии. Внимание, исполнительные функции, метакогниция и саморегуляция изучаются десятилетиями. Зачем добавлять еще одно слово?

Это возражение задает стандарт, которому модель обязана соответствовать. Новый термин оправдан только в том случае, если он связывает процессы на полезном уровне, обнаруживает классы сбоев, которые иначе остаются разрозненными, и предлагает проверяемые вмешательства. Если Cognitive Harness окажется лишь переименованием самоконтроля, от него следует отказаться.

Пока его потенциальный вклад состоит в трех акцентах: координации внутреннего и внешнего; полном цикле от выбора цели до обновления после действия; сравнении человеческой агентности с инженерными системами без утверждения их тождества. Поздние главы проверят, достаточно ли этого для самостоятельной исследовательской программы.

Следующий шаг — установить правила сравнения. Прежде чем использовать AI как зеркало, необходимо точно понять, что в нем отражается, а что принадлежит только поверхности зеркала.

Факт / данные. Языковая способность, фактическая надежность и автономное действие являются различимыми характеристиками AI-систем; агентное поведение зависит от внешней архитектуры управления и инструментов.

Гипотеза Cognitive Harness. Инженерный опыт создания AI-агентов может дать полезную рамку для исследования координации человеческого мышления.

Проверка. Добавляет ли понятие Cognitive Harness объяснительную и практическую ценность сверх существующих теорий контроля и саморегуляции.

Источники главы

— Vaswani, A. et al. «Attention Is All You Need».

— Brown, T. B. et al. «Language Models are Few-Shot Learners».

— Ouyang, L. et al. «Training Language Models to Follow Instructions with Human Feedback».

— Bender, E. M. et al. «On the Dangers of Stochastic Parrots».

— Weizenbaum, J. Computer Power and Human Reason.

Глава 2. Что общего между человеком и агентом?

Самая опасная ошибка

Сильная аналогия меняет способ видеть предмет. Именно поэтому она опасна. Сказав, что память похожа на хранилище, мы начинаем искать в ней неизменные записи. Назвав мозг компьютером, ожидаем программу и центральный процессор. Сравнив человека с AI-агентом, легко решить, будто внутренние процессы различаются только материалом.

Эта книга не делает такого вывода. Человеческий организм и программная система имеют разную историю возникновения, физическую реализацию и связь со средой. Человек воплощен, уязвим, развивается в отношениях, обладает аффектом и биографической непрерывностью. AI-агент создается из моделей, кода, данных, интерфейсов и выданных полномочий. Даже если обе системы можно описать словами «цель», «память» и «действие», значения этих слов не совпадают автоматически.

Но отказ от тождества не делает сравнение бесполезным. Между буквальным равенством и поэтической метафорой существует функциональная аналогия: две системы могут решать сходную архитектурную задачу разными средствами. Крыло птицы и крыло самолета не одинаковы, однако сравнение подъемной силы продуктивно. Оно становится ошибочным, если из него вывести, что самолет должен махать крыльями или переживать полет.

Задача этой главы — заключить методологический контракт. Мы определим, на каком уровне сравнение работает, какие выводы допустимы и где аналогия должна остановиться.

Три вопроса вместо одного

Полезно различать три уровня анализа, предложенные Дэвидом Марром для исследования информационных систем. Первый спрашивает, какую задачу решает система и почему эта задача имеет смысл. Второй — какие представления и процедуры позволяют ее решить. Третий — как эти процедуры физически реализованы.

Это различение не универсально и не исчерпывает человеческое познание, но дисциплинирует аналогию. На функциональном уровне человек и агент могут сталкиваться с проблемой ограниченного внимания. На алгоритмическом уровне один использует биологически сформированные процессы, другой — программную маршрутизацию и выбор контекста. На физическом уровне нейронная ткань и вычислительная инфраструктура радикально различаются.

Большинство продуктивных сравнений книги относится к первому и частично второму уровням. Мы спрашиваем: как удерживается цель, как сохраняется состояние, как выбирается действие, как ошибка изменяет следующий цикл? Мы не утверждаем, что одинаковая диаграмма потоков доказывает одинаковый субъективный опыт или нейронный механизм.

Есть и четвертый уровень, особенно важный для человека: историко-социальный. Цели формируются не в пустоте. Язык, нормы, институты и отношения определяют, что система замечает и считает допустимым. AI-агент тоже встроен в социальную среду через данные, владельца, интерфейс и политику доступа, но способ этой встроенности иной.

Карта сходств и различий

— Удержать направление. Человек: намерение, мотивация, обязательство; AI-агент: инструкция, objective, workflow; Граница аналогии: инструкция не равна переживаемому намерению

— Выбрать значимое. Человек: внимание, аффект, интерес; AI-агент: фильтр, routing, context selection; Граница аналогии: программный приоритет не доказывает интерес

— Сохранить прошлое. Человек: реконструктивная память, навыки; AI-агент: журнал, база, параметры, retrieval; Граница аналогии: машинная запись не равна воспоминанию

— Создать варианты. Человек: прогнозирование, воображение; AI-агент: генерация, поиск, планировщик; Граница аналогии: сходный выход не означает сходного механизма

— Действовать. Человек: телесное и социальное действие; AI-агент: вызов инструмента через разрешения; Граница аналогии: агент зависит от внешней инфраструктуры

— Оценить результат. Человек: эмоции, нормы, суждение; AI-агент: тест, метрика, evaluator; Граница аналогии: метрика не обладает собственной ценностью

— Измениться. Человек: обучение, развитие, перестройка привычек; AI-агент: обновление состояния, памяти или модели; Граница аналогии: масштаб и способ пластичности различны

Таблица показывает, почему слова требуют уточнения. Когда говорится, что агент «помнит», это может означать доступ к сохраненной записи. Когда человек помнит, воспоминание зависит от контекста и может менять значение. Когда агент «ставит цель», обычно речь идет о полученном или вычисленном критерии. Человеческая цель связана с телом, идентичностью, отношениями и ответственностью.

Что действительно общее