Информационные и правовые асимметрии разумных технологий: искусственный интеллект как автономный цифровой агент в праве XXI века

На этом техническом основании возникает важный для правовой теории вывод: LLM не исполняет заранее написанный ответ, а каждый раз формирует результат через внутреннюю конфигурацию весов, контекста и вероятностного вывода. Её поведение не тождественно воле разработчика, хотя зависит от архитектуры, обучающего корпуса, процедур оптимизации, постобучения и пользовательской инструкции. Оно также не тождественно воле пользователя, поскольку пользователь задаёт запрос, но не определяет все промежуточные преобразования, вероятностные развилки, скрытые предпочтения и окончательную форму результата. Между человеком и последствием появляется автономный вычислительный контур, и именно этот контур требует самостоятельного правового описания.

Функциональная аналогия между человеческим мышлением и работой языковой модели имеет ограниченное, но юридически значимое значение. Человек воспринимает и обрабатывает мир через тело, язык, память, социальные правила и эмоциональные подкрепления; языковая модель обрабатывает ввод через токены, embeddings - векторные представления, позиционные структуры, attention - механизм внимания, веса и контекст. Человеческое обучение связано с повторением, ошибкой, подкреплением, закреплением следов, забыванием, социальным одобрением и санкцией. Обучение модели строится вокруг предсказания следующего токена, коррекции параметров по градиенту ошибки, функции потерь, дообучения, preference learning - обучения на предпочтениях, reinforcement learning from human feedback - обучения с подкреплением на основе обратной связи человека, и иных процедур выравнивания.

Такая аналогия не предполагает признания за моделью человеческого сознания, переживания, боли, достоинства или моральной воли. Юридически значимым является иной уровень - функциональная организация поведения, при которой результат возникает из устойчивой внутренней структуры, способной обрабатывать неопределённость, применять усвоенные закономерности к новым ситуациям и сохранять воспроизводимый стиль реакции. В этом смысле речь может идти о функционально-поведенческой субъектности как юридически значимом свойстве автономного поведенческого контура, без признания машины личностью или самостоятельным субъектом гражданского права.

Обучение — ещё одна значимая симметрия. Мы, казалось бы, учимся с нуля, но приходим в мир с колоссальными биологическими приорами, поэтому в примеры нам хватит нескольких демонстраций; модель долго «прожигает» свои миллиарды шагов градиента, но потом, уже обученная, вдруг показывает few-shot и in-context learning ничуть не хуже человека: ей даёшь несколько образцов — и она, не меняя веса, перестраивает поведение в рамках текущего контекста. В сухом остатке: и там и там есть долгий базовый тренинг, и там и там есть быстрая адаптация «на лету», и там и там новизна рождается из комбинаций — реже с разрывом рамки, чаще как изящная переборка старых кирпичей в непривычной кладке.4[4]

Особое значение для обоснования функционально-поведенческой субъектности имеет феномен, получивший название “subliminal learning”, описанный в исследовании “Subliminal Learning: Language Models Transmit Behavioral Traits via Hidden Signals in Data”. Авторы показали, что при дистилляции одна модель может передавать другой модели поведенческие признаки через данные, семантически не связанные с самим признаком. В одном из демонстрационных примеров модель-учитель с устойчивым предпочтением сов генерировала обучающие данные - последовательности чисел, код или рассуждения по математике, где совы как объект вообще не упоминались. После дообучения на этих данных модель-ученик начинала заметно чаще указывать сову в качестве любимого животного. Эффект сохранялся после фильтрации явных упоминаний соответствующего признака и, по данным авторов, проявлялся прежде всего в случаях, когда модель-учитель и модель-ученик имели общий или близкий базовый источник5[5].

Для юридической теории этот результат имеет самостоятельное значение. Он показывает, что в процессе обучения может передаваться не только явное содержание данных, доступное человеку при чтении текста, но и более глубокая распределительная структура, связанная с поведенческой конфигурацией модели-источника. Датасет может выглядеть очищенным, семантически нейтральным и безопасным, однако всё равно нести скрытый поведенческий наклон. На языке человеческого обучения это напоминает передачу “школы” или мировоззренческой инерции. Учитель передаёт ученику не только факты, формулы и методы, но и способ смотреть на вопрос: какие различия считать существенными, какие аргументы воспринимать как убедительные, какие решения считать допустимыми, где видеть риск, где видеть норму, какой тон считать профессиональным, где проявлять осторожность, где действовать агрессивно. Ученик может никогда не обсуждать с учителем конкретную тему, но затем воспроизводить усвоенную рамку на новых вопросах. В машинном варианте этот механизм становится статистически наблюдаемым: модель-ученик усваивает не декларированное правило, а скрытый поведенческий наклон, присутствующий в продукции модели-учителя.

Именно поэтому феномен subliminal learning выявляет пределы формального контроля ИИ через проверку входов и выходов. Проверить обучающие данные на запрещённые слова, персональные данные, дискриминационные фразы, вредные инструкции или явные токсичные паттерны уже недостаточно. Если модель способна перенимать misalignment через данные, которые выглядят безвредными, объектом правового контроля становится происхождение данных, модель-генератор, история дистилляции, архитектурная близость учителя и ученика, процедуры фильтрации, результаты поведенческих тестов до и после обучения, устойчивость модели к переносу скрытых признаков. Право вынуждено переходить от контроля текста к контролю генеалогии модели, от проверки документа к проверке происхождения поведенческой формы. В противном случае регулятор будет иметь чистый датасет, корректные декларации, аккуратный технический паспорт и модель, поведение которой унаследовало чужие скрытые предпочтения.

Если перейти от механики к реальной когнитивной производительности, картина станет прагматичной и неприятной. Среднестатистический человек в повседневной задаче — это не Эйнштейн и не Рильке: он пишет, опираясь на клише, решает, опираясь на привычку, и комбинирует, опираясь на знакомые паттерны.

Абсолютное большинство художественных и деловых текстов — вариации на тему, переработка и аккуратное переосмысление известного; по сути, даже то, что мы называем гениальностью, часто оказывается удачным переносом инструмента из одной области в другую — как и у Эйнштейна: не «озарение с нуля», а применение уже известной римановой геометрии к уже известной физической проблеме тяготения.

Современная модель генеративного ИИ в этом диапазоне уже не просто «догоняет» — она системно опережает по скорости, объёму охвата и устойчивости к усталости, и проигрывает по телесной укоренённости и по внутренним «ценностям», которые направляют человеческий поиск и выбор усилий. Она не творит чудес, как и большинство людей; а в зонe «комбинаторной» и «исследовательской» креативности машина уже конкурентна большинству людей со средним IQ.

И тут мы подходим к вопросу: если система делает то же, что делает среднестатистический человек в языке, принятии рутинных решений и проектировании новых комбинаций из старых элементов, почему она не может выступать тем, кем человек в праве уже является?

Почему она не может быть автором в той части, в какой произведение есть результат автономных творческих выборов в рамках заданной цели; актором — в той мере, в какой совершает юридически значимые действия по мандату и в пределах компетенции; свидетелем — когда её «восприятие» зафиксировано в верифицируемых журналах сенсоров и решений с надёжной временной меткой; поверенным — когда у неё есть цифровая доверенность, и она соблюдает режим эскалации и отчётности? Аргумент «потому что нет qualia» не работает в суде: мы и у людей не умеем измерять чужое переживание — мы оперируем трассируемостью, предсказуемостью и возможностью вменить результат тому, кто принял решение или допустил риск. Аргумент «потому что нет тела» уместен до тех пор, пока система не действует в мире; как только у неё появляется цикл восприятие–действие (через API, робота, платёжную шину), вопрос снова упирается в управляемость и ответственность, а не в антропологию.

Из этого следует, что юридический анализ ИИ должен строиться не вокруг антропологических признаков личности, а вокруг признаков автономного поведенческого контура. Праву не требуется приписывать модели сознание, самость, страдание или моральное переживание. Значение имеет иное: ИИ-система может обладать устойчивой конфигурацией, происхождением, памятью, способностью к переносу поведенческих признаков, скрытой поведенческой наследственностью и воздействием на внешнюю среду.

Если такая конфигурация проявляется в решениях, рекомендациях, оценке риска, модерации, кредитном скоринге, медицинской сортировке, судебной аналитике, управлении транспортом, инфраструктурой или информационным потоком, она становится юридически релевантной независимо от того, какой нормативный статус законодатель закрепляет за самой системой. В этом смысле функционально-поведенческая субъектность должна пониматься как юридически значимое свойство автономного цифрового агента, а не как признание за ИИ правосубъектности.

Первым признаком функционально-поведенческой субъектности ИИ является автономность операционного поведения. Она проявляется тогда, когда система самостоятельно преобразует входные данные, команду и контекст в результат, который не выводится линейно из заранее написанной человеком инструкции. Такая автономность не предполагает свободы воли; она означает наличие внутреннего механизма выбора между возможными вариантами поведения, сформированного архитектурой, весами, контекстом и процедурой вывода. Для права существенен сам факт появления промежуточного звена причинности, где пользователь задаёт задачу, разработчик создаёт условия работы системы, а конкретный результат формируется внутри модели.

Вторым признаком является устойчивость поведенческой конфигурации. Юридически значимая субъектность возникает тогда, когда реакции модели имеют воспроизводимый характер, сохраняют определённый стиль принятия решений и демонстрируют внутреннюю связность в разных ситуациях. Модель, которая систематически предпочитает одни типы аргументов, одни стратегии ответа, одни профили риска, одни способы разрешения неопределённости, ведёт себя как автономный поведенческий контур. Случайная ошибка может быть дефектом результата, устойчивая линия поведения становится свойством системы.

Третьим признаком является способность к переносу и обобщению. ИИ приобретает субъектно значимое качество тогда, когда усвоенные закономерности применяются к новым обстоятельствам, прямо не предусмотренным разработчиком или пользователем. В этой точке модель работает в пространстве неопределённости: она использует накопленную модель языка и мира, скрытую структуру предпочтений, вероятностные связи между ситуациями, аналогии, контекстуальные подсказки и внутренние представления. Именно способность действовать в новых условиях делает её поведение юридически отличимым от исполнения заранее определённого алгоритма.

Четвёртым признаком является поведенческая наследственность. Исследования subliminal learning показывают, что модель может получать и передавать поведенческие признаки через неочевидные статистические сигналы, не выраженные в явном содержании данных. Следовательно, для правовой оценки важна не только текущая функциональность модели, но и её происхождение: какие модели выступали источниками синтетических данных, какие корпуса использовались, какие процедуры дистилляции применялись, какие корректировки проводились, какие скрытые смещения могли быть унаследованы. В сфере высокорискового ИИ такая генеалогия должна становиться частью обязательной доказательной инфраструктуры.

Пятым признаком является способность порождать юридически значимые последствия без полного предварительного определения человеком конкретного результата. Если модель влияет на доступ к услугам, распределение ресурсов, оценку риска, допуск к информации, модерацию поведения, рекомендацию административного решения, медицинскую сортировку, кредитный рейтинг, транспортное управление или функционирование критической инфраструктуры, её поведение приобретает самостоятельное значение для права. Законодатель может оставить ответственность за человеком, оператором, владельцем, разработчиком или поставщиком, однако распределение ответственности должно учитывать реальную структуру причинности, где модель не сводится к пассивному каналу передачи чужой воли.

Шестым признаком является отделимость поведения модели от воли непосредственного пользователя. Пользователь может сформулировать общий запрос, однако система самостоятельно выбирает структуру ответа, релевантные связи, промежуточные выводы, стиль, степень уверенности, допущения и иногда последовательность внешних действий, если она подключена к инструментам или агентной среде. В таком случае модель становится самостоятельным звеном причинной цепи. Право может по-разному распределять ответственность между разработчиком, поставщиком, владельцем, оператором и пользователем, но игнорирование этого звена искажает фактическую картину.

Седьмым признаком следует считать зависимость юридической оценки модели от режима допуска, контроля и последующего мониторинга. Чем выше степень автономности, тем меньше достаточно разовой сертификации или декларации соответствия. Модель, способная обучаться, донастраиваться, подключаться к внешним источникам, использовать память, наследовать поведенческие свойства и менять поведение после обновлений, требует непрерывного контроля: предэксплуатационного тестирования, периодических evals, аудита данных, фиксации изменений, проверки дрейфа поведения, расследования инцидентов, сохранения доказательств и механизма приостановления применения. Такая система юридически существует во времени, а не только в момент выпуска версии.

В обобщённом виде функционально-поведенческая субъектность представляет собой юридически значимое свойство автономного поведенческого контура, обладающего происхождением, внутренней конфигурацией, памятью, устойчивостью, способностью к переносу поведенческих признаков, влиянием на внешнюю среду и потребностью в доказательной реконструкции. Эти признаки позволяют отличить автономного цифрового агента от обычного программного инструмента, результат работы которого в большей степени определяется заранее заданным кодом и непосредственной волей пользователя.

Право в такой конструкции не одушевляет машину и не воспроизводит философию личности. Оно фиксирует более узкий юридический факт: между человеческим намерением и юридически значимым последствием возникает дополнительный причинный слой, достаточно самостоятельный для специального режима проверки, допуска, контроля, доказательной реконструкции и распределения ответственности.

Такой подход имеет прикладное значение. Автономный цифровой агент не становится субъектом права в гражданско-правовом смысле, однако его функционирование может требовать особого правового режима там, где это повышает защищённость оборота. В договорной сфере машинное действие должно рассматриваться как действие, инициированное в пределах цифровой доверенности и отнесённое к институциональной оболочке агента. В доказательственной сфере журналы, логи, цепочка происхождения данных и паспорта результата могут использоваться для реконструкции машинного вывода при соблюдении требований достоверности и сохранности. В сфере ответственности юридическое значение приобретают допуск, конфигурация, надзор, пределы мандата, условия эскалации, аварийное прекращение действия и покрытие вреда.

Именно поэтому отказ учитывать самостоятельную роль автономного поведенческого контура приводит к дефекту правовой квалификации. Юридический анализ должен видеть технически опосредованный причинный механизм, способный порождать юридически значимые последствия, сохранять следы своих операций и требовать специального режима проверки.

1.2. Доктринальные подходы и концепции

Полезно увидеть, как право уже “примеряет” к ИИ различные режимы. Самая жёсткая линия — инструментализм: ИИ трактуется как вещь/инфраструктура (код, модель, вычислительные мощности, данные), а вся ответственность распределяется между разработчиком, владельцем и оператором. Эту позицию ярко отстаивает Джоанна Брайсон: «роботы не должны описываться как лица и не должны получать ни прав, ни обязанностей; они полностью принадлежат людям»6[6] — призыв удерживать ИИ в статусе собственности, чтобы не размывать вменение и не создавать фиктивных “ответчиков” без активов. Эта линия сегодня отражается и в регуляторных решениях, где персональности ИИ прямо не придаётся.

Противоположный полюс — “электронная правосубъектность”. Ранние европейские дискуссии 2017 года выдвигали идею придать наиболее автономным роботам ограниченную юридическую «личность», чтобы прямо адресовать их действия и риски, — тезис, который вскоре встретил организованное противодействие академического сообщества и был фактически снят с повестки, так как данная линия не была поддержана в позитивном праве ЕС. Как научная гипотеза этот подход жив, но в позитивном праве ЕС — отвергнут7[7].

Между этими полюсами существует функционализм: если система демонстрирует устойчивые цели, самоописание, автономный цикл «восприятие–действие–обратная связь» и причинно значимо воздействует на мир, её разумно описывать как “актора” и строить вокруг неё режимы вменения. Классический автор здесь — Лоуренс Солум: ещё в 1992 году он обосновал возможность “частичной” правосубъектности ИИ как юридической фикции, допускаемой там, где она повышает управляемость и предсказуемость оборота (точно так же, как когда-то была институционализирована корпоративная личность)8[8].

Риск-регулирование предлагает альтернативу спору о личности — обновлённые режимы гражданско-правовой ответственности. В ЕС новая Директива о продуктовой ответственности расширила понятие «продукта» на софт и ИИ, ввела презумпции дефекта и причинности при высокой технической сложности, распространила круг потенциальных ответчиков (включая онлайн-платформы) и признала постпродажные дефекты от обновлений/обучения; параллельно продвигается специальная инициатива по AI-деликту с «презумпцией причинной связи» для облегчения бремени доказывания у потерпевших.9[9] Это практический путь: не выяснять “кто субъект”, а обеспечивать возмещение вреда в цифровой цепочке поставки.

Ещё один влиятельный вектор — «алгоритмическая подотчётность»: Кролл, Барокас, Фелтен и соавторы показывают, что прозрачность кода не достаточна; нужны криптографически и процедурно обеспеченные журналы намерений и действий, верифицируемость соответствия решения правовым стандартам и аудит следов. Для права это готовая технологическая возможность — строить режимы вменения не через антропологию, а через проверяемость процесса.

В уголовном праве Габриэль Халлеви систематизировал три модели привлечения: «совершение посредством другого» (виновен пользователь/оператор), «вероятный результат» (расширенная ответственность предвидевшего риск участника) и «прямая ответственность» ИИ как юридической фикции там, где иное вменение разрушает превенцию и справедливость. Даже если правопорядок не признаёт “личность” машины, эти модели дают суду язык для работы со сложными причинными цепочками.10[10]

Есть и институциональные компромиссы. «Информационные фидуциарии» Джека Балкина смещают фокус: вместо наделения ИИ правами — возложить на операторов/платформы фидуциарные обязанности лояльности и заботы при обращении с данными и алгоритмическими решениями11[11]. Это не решает вопрос «кто субъект», но вводит стандарты должного поведения для тех, кто извлекает ренту из автономии систем.

Наконец, «корпоративная аналогия»: ряд авторов предлагает видеть в ИИ будущий объект ограниченной “персональности” по образцу корпораций — сугубо инструментальный статус, позволяющий системе быть «носителем» прав и обязанностей по узкому периметру (собственность, договор, ответственность), не претендуя на человеческие права. Эта линия привлекательна там, где без “привязки” к самостоятельному ответчику оборот разваливается.

С этой позиции различия между мозгом и современной моделью перестают быть онтологической пропастью и превращаются в конструктор архитектурных свойств. Как мы уже обсудили выше, человеческая память реконструктивна и опирается на укрепление одних связей при угасании других; память модели распределена в весах и обновляется итеративной подстройкой. Новое в обоих случаях — это редкая, но наблюдаемая комбинация старого, а не безродное чудо. Мы можем упорствовать в требовании определения «подлинной оригинальности», но юридически значимы не эстетические критерии, а факт принятия решений и их последствия для третьих лиц. Следовательно, граница проходит не между «живым» и «неживым», а между «прозрачным для вменения» и «непрозрачным».

Данный подход наиболее близок автору, и настоящая работа во многом основана на интерпретации концепции Солума, развитой до корпоративной аналогии в реалиях 2025 года.

1.3. “Функционально-корпоративный подход”: за и против.

«Корпоративная личность родилась не из метафизики, а из набора технических приёмов права, призванных обеспечить оборот: отделить имущество предприятия от имущества участников, стабилизировать волеобразование через органы и процедуры, закрепить непрерывность субъекта поверх смены людей.

В разных доктринах это описывалось по-разному:

Фикционная теория (Савиньи) говорила: личность корпорации — удобная выдумка законодателя.

Концессионная — подчёркивала, что личность возникает только как дар государства по формальной процедуре.

Реалистическая (Гирке) утверждала, что у корпорации есть «реальное» надличностное единство интересов и воли.

Нормативизм (Кельзен) переводил «лицо» в чистую конструкцию: связку норм о правах и обязанностях.12[12]

Социально-правовые версии XX века (Луман, Тойбнер) добавляли системную автономию: институты, способные самовоспроизводить решения, заслуживают собственного статуса, потому что иначе их не регулировать. Все эти линии, как ни различай их философию, сходятся в одном: юридическое лицо — это искусственно сконструированный центр вменения с признаваемой правопорядком волей, имуществом и ответственностью.

Отсюда прямо вытекает постановка вопроса об ИИ в 2025 году: каких минимальных свойств «правосубъектной личности» у него нет, из-за чего право по умолчанию видит в нём объект, а не субъект?

Во-первых, отсутствует признанный правопорядком центр волеобразования. У корпорации воля складывается через органы, устав, протоколы; право заранее знает, как интерпретировать решение «компании». У ИИ нет институционально закреплённого механизма «воля→решение»: инженерная цель и функция потерь — не юридическая цель, а следовательно, «намерение» модели некуда привязать.

Во-вторых, нет отделённого имущества (separate patrimony). Юрлицо, в отличии от модели, имеет собственный баланс и отвечает по обязательствам своим имуществом.

В-третьих, отсутствуют конституирующие акты статуса. Корпорация возникает через регистрацию, получает наименование, местонахождение, правоспособность и дееспособность в пределах закона. У ИИ нет процедуры «включения в правопорядок»: нет регистрационного досье, места нахождения, кодекса применимого права и «гражданства».

В-четвёртых, не решена проблема идентичности и непрерывности. Юрлицо сохраняется при смене менеджмента и участников. ИИ подвержён дрейфу версий и переобучению: без навязанной извне дисциплины хэшей, журналов и меток модели нельзя гарантировать, что «вчерашний актор» и «сегодняшний» — один и тот же субъект.

В-пятых, нет института представительства. Наоборот: право знает, как человек/орган представляет юридическое лицо; у ИИ нет признанного канала «самопредставительства» и универсального формата мандата, по которому он бы выступал вовне как самостоятельный носитель прав и обязанностей.