Информационные и правовые асимметрии разумных технологий: искусственный интеллект как автономный цифровой агент в праве XXI века

Аннотация

Автор: Новак Александра Васильевна

DOI: 10.5281/ZENODO.20044624

Монография посвящена одной из ключевых проблем XXI века - изменению правовой, экономической и социальной реальности под воздействием интеллектуальных технологий. Искусственный интеллект перестаёт быть только инструментом обработки данных и всё чаще выступает как автономный цифровой агент, способный влиять на принятие решений, распределение ресурсов, поведение людей, структуру рынков и саму архитектуру власти.

В центре исследования - информационные и правовые асимметрии, возникающие в цифровой среде: неравенство доступа к данным, непрозрачность алгоритмических решений, перераспределение ответственности между человеком, корпорацией и машиной, а также вопрос о том, каким образом право должно реагировать на появление систем, действующих быстрее, сложнее и масштабнее традиционных субъектов регулирования.

Автор рассматривает искусственный интеллект через призму права, экономики, теории государства, цифрового суверенитета и социальной справедливости. Особое внимание уделяется проблеме автономности ИИ, правовому статусу цифровых агентов, ответственности за алгоритмические действия, общественной ренте от интеллектуальных технологий, а также рискам формирования новой системы технологического неравенства, в которой данные, вычислительная мощность и алгоритмический контроль становятся самостоятельными источниками власти.

Книга рассчитана на юристов, исследователей цифровой экономики, специалистов в области искусственного интеллекта, государственных управленцев, предпринимателей, разработчиков, а также всех читателей, которым важно понять, каким будет право в эпоху, когда разумная машина уже не фантастический образ будущего, а практический участник общественных отношений.

Введение

Стремительное внедрение ИИ-систем ставит перед правом вопрос о допустимых пределах автономии и о способах юридического контроля над её последствиями. Алгоритмы уже не просто инструменты в руках человека – они обретают элементы автономности, сами принимают решения и действуют в сложных системах. Наступает точка бифуркации: если право не адаптируется, оно рискует утратить способность направлять реальность, в которой автономный ИИ становится влиятельным участником. Прецеденты уже есть. Достаточно вспомнить случай в США1[1], когда адвокаты бездумно доверились ИИ-ассистенту: они включили в судебное ходатайство прецеденты, сгенерированные ChatGPT и не существовавшие в действительности, за что были дисциплинарно наказаны судом. Этот эпизод – больше, чем курьёз; он симптом того, как неготовность правоприменителей и отсутствие правил работы с автономным ИИ ставят под угрозу фундаментальные принципы справедливости. Этот эпизод показывает уязвимость профессионального правоприменения к убедительному, но недостоверному машинному выводу.

Ключевой скрытой пружиной надвигающегося кризиса является информационная асимметрия. Это ситуация, когда одна сторона обладает несоизмеримо большим объёмом знаний, данных или технологий, чем другая. Концепция информационной асимметрии получила широкую известность в экономической теории благодаря работам Дж. Акерлофа, Д. Стиглица и М. Спенса, которые в 2001 г. были удостоены Нобелевской премии за исследования рынков с неравномерным распределением информации.

Ещё в 1970 г. Акерлоф на примере “рынка лимонов” (подержанных автомобилей) показал, как скрытое знание продавца о низком качестве товара, неизвестное покупателю, приводит к негативному отбору и коллапсу рынка2[2]. Проблема информационного неравенства обсуждалась учёными и задолго до XX века – достаточно вспомнить дилемму римского права о купце на Родосе, знавшем о приближении дополнительных поставок зерна: Цицерон и стоики полагали, что продавец обязан раскрыть эту информацию покупателям, тогда как Фома Аквинский позднее считал разглашение необязательным. Таким образом, историко-правовой контекст свидетельствует, что вопрос об ответственности более осведомленной стороны за раскрытие информации имеет давние корни. Однако с появлением ИИ природа и масштаб информационной асимметрии существенно меняются, требуя переосмысления этих принципов в новых реалиях.

В контексте ИИ такие дисбалансы возникают повсеместно – между разработчиком и пользователем, компанией-владельцем алгоритма и регулятором, «подкованным» в ИИ специалистом и рядовым гражданином. Опасность недооценена: асимметрия информации подтачивает сами основы права, создавая невидимые лазейки для злоупотреблений.

Например, в бизнес-консалтинге уже очевидно, что исполнители (консультанты) сегодня могут скрыть реальную степень использования ИИ от заказчика. Клиент обычно не располагает сведениями о фактическом объёме машинной генерации и о её влиянии на качество результата. Это питательная среда для оппортунизма: недобросовестный исполнитель может выдать машинный вывод за собственный интеллектуальный труд или запросить плату за человеко-часы там, где работу за секунды выполнил алгоритм. Опасность глубже, чем кажется. Помимо переплаты, заказчик рискует столкнуться с искаженными или ложными данными (результат «галлюцинаций» ИИ), утечками конфиденциальной информации и даже утратой прав на результат работы, если тот не подлежит правовой охране из-за автоматизированного происхождения . Информационное неравенство между человеком и ИИ – создаёт самостоятельный риск злоупотреблений и вменительных провалов.

Объект и предмет исследования

Объектом исследования являются общественные отношения, возникающие при создании, допуске, внедрении, использовании и правовой оценке систем искусственного интеллекта, способных в определённых условиях действовать автономно и порождать юридически значимые последствия в частноправовой, процессуальной и публично-правовой сферах.

Предмет исследования составляют правовые механизмы управления автономией искусственного интеллекта, включая критерии функционально-поведенческой субъектности ИИ, порядок допуска автономных систем к юридически значимым действиям, машиночитаемое делегирование полномочий, доказательственную инфраструктуру автономного действия, распределение ответственности между участниками автономного контура, договорные и процессуальные режимы использования ИИ, а также повышенные требования к применению искусственного интеллекта государством.

Актуальность и новизна

Актуальность этой работы определяется следующим - автономизация ИИ превратила программный код из «инструмента исполнителя» в самостоятельный контур принятия решений, действующий быстрее человеческой процедуры контроля и в среде, где причинность и ответственность легко теряются. Классические юридические конструкции — «вещь», «услуга», «программный продукт» — больше не удерживают реальность: решения принимаются распределённо, журналы событий рождены машинами, а последствия носят трансграничный характер.

Возможный кризис может базироваться не на «новизне технологий», а на информационных асимметриях между пользователем и ИИ, человеком с ИИ и без ИИ, владельцем контуров и регулятором, государством и ИИ, а также — между самими ИИ. Именно эти асимметрии выбивают из-под суда и надзора привычные опоры — идентичность актора, границы мандата, воспроизводимый след причинности и источник покрытия вреда. Отсюда и главный вызов: право должно выработать инструменты управляемости, иначе объем юридически непрозрачных ситуаций будет расти.

Новизна заключается в том, что предлагается цельная архитектура правового управления автономией, согласованная с технической тканью систем. Новизна состоит из шести взаимосвязанных элементов.

Во-первых, вводится правовой тест Тьюринга как процедура допуска автономного контура к юридически значимым действиям — разово (аккредитация класса/модели) и сессионно (проверка «здесь и сейчас») — с жёсткой матрицей исходов: допуск, условный допуск, отказ и перевод «через человека».

Во-вторых, обосновывается и формализуется цифровая доверенность как машиночитаемая форма делегирования воли и пределов: двухслойно (общий мандат и конкретный ордер) и с привязкой к реальному покрытию (страхование/эскроу).

В-третьих, предлагается доказательная инфраструктура: «паспорт результата» и журнал причинности как судебно-годные артефакты происхождения и принятия решения, плюс court-ready packet как минимальный набор документов для выплат «здесь и сейчас».

В-четвёртых, формируется режим ИИ-контента на основе модели «служебного произведения» в пользу принципала/оболочки агента, где главной защитой является не ломкий водяной знак, а доказуемость происхождения и причинности.

В-пятых, строится градиент деликтной ответственности с учётом домена риска и вводится юридически проверяемая политика «меньшего зла» (лексикографический приоритет ценностей, обязательная эскалация, обратимость), которая смягчает санкции при добросовестном применении и утяжеляет их при умышленной конфигурации на вред (отключение предохранителей, имитация журналов, подмена версии).

В-шестых, для агрегирующих моделей исполнения предлагается институциональная оболочка цифрового агента и сегрегированный клиринговый пул (центральный контрагент, сегрегация средств, неттинг, кастодиан, план разрешения) — экономически эффективный «общий кошелёк», который юридически не размывает персональную ответственность и не допускает смешения средств.

Цели и задачи

Цели и задачи работы следуют из этой новизны. Цель — построить работоспособную парадигму права цифровой автономии, в которой автономное решение допускается только постольку, поскольку его причинность прослеживаема, обратимость возможна, а покрытие вреда реально.

Задачи:

(1) показать пределы традиционных режимов и картографировать правовые тупики, рождаемые нынешними асимметриями;

(2) разработать процедуру правового теста Тьюринга и закрепить критерии приёмки (идентичность версии, границы мандата, протокол эскалации, карта санкций, журнал причинности, proof-of-provenance) и последствия непрохождения (режим «через человека», вменение на принципала, особые disclosure-обязанности);

(3) формализовать метрики поведенческой неотличимости по классам риска и ввести переаттестацию/отзыв допуска при дрейфе модели (смена версии, данных, зависимостей, отклонения телеметрии);

(4) определить формат цифровой доверенности и её технико-правовые гарантии (реестр, подписи, селективное раскрытие), а также её связь с авторско-правовым режимом результата;

(5) выстроить договорные режимы:

а) договоры между людьми/компаниями с использованием ИИ (SLA предсказуемости, обратимости, Audit-API, safe-harbor «меньшего зла», протокол смены версии),

б) договоры с участием институциональной оболочки агента (доктрина «ошибки в личности»),

в) договоры, где исполнение подчинено алгоритму (оракулы, стоп-кнопка, аварийная деградация, ретроаудит, редеплой);

(6) задать деликтную матрицу и правила распределения регрессов между принципалом, интегратором и разработчиком;

(7) описать надзор и урегулирование: реестры допуска, инспекцию журналов по защищённому API, немедленную остановку при выходе за мандат, быстрые выплаты из покрытия, а также минимальный международный слой совместимости (паспорт агента и результата, формат court-ready пакета, взаимная исполнимость выплат и остановок по месту ущерба).

Методология

Методология сочетает несколько подходов.

Нормативно-доктринальный анализ использован для переосмысления субъектности и процессуальной правосубъектности ИИ, а также для интеграции цифровой доверенности в систему представительства. Компаративистика — для критики действующих режимов (ЕС/США/Китай/Сингапур/Россия и др.) и извлечения работающих фрагментов смежных отраслей (финтех, аудит, фарма).

Анализ права и экономики — для обоснования распределения рисков, роли страхования/эскроу и эффективности агрегирующих моделей исполнения.

Технико-правовое проектирование — для формализации журналов/паспортов, метрик и протоколов допуска.

Наконец, моделирование и мысленные эксперименты — для оценки поведения системы «при прочих равных», сравнения с альтернативными доктринами и демонстрации работоспособности предложенной архитектуры на типовых кейсах.

Перечень вопросов, поднимаемых в работе, охватывает:

(i) как классифицировать и «разоружить» информационные асимметрии, делающие автономию юридически опасной;

(ii) как устроить допуск автономии так, чтобы он был эффективным по времени и ресурсам и нефальсифицируемым;

(iii) как юридически оформить цифровую доверенность и предотвратить её подмену, недобросовестный отзыв и злоупотребления;

(iv) как распределить права на ИИ-контент без фикций «прав у машины» и без разрушения стимулов к качеству;

(v) как выстроить договорные режимы, в которых автономия — часть обязательства, а не повод для споров о магии;

(vi) как определить деликтные стандарты вины/строгой ответственности, роль «меньшего зла», бремя доказывания и регресс;

(vii) как организовать надзор и урегулирование убытков так, чтобы пострадавшим не приходилось доказывать невозможное;

(viii) где провести красные линии: отсутствующая правоспособность машины, запрет комминглинга клиентских средств в «общем кошельке» без сегрегации, отказ от «детекторов истины» как основания правовых выводов и от тотальных запретов классов технологий; (ix) как обеспечить минимальную международную совместимость в трансграничной эксплуатации автономных контуров.

Ключевые авторские положения исследования

В работе утверждается, что базовой юридической проблемой автономного ИИ выступают информационные и правовые асимметрии, возникающие между разработчиком, поставщиком, интегратором, оператором, пользователем, регулятором и лицами, затрагиваемыми результатами функционирования ИИ-систем.

Искусственный интеллект не предлагается признавать человеком или полноценным субъектом права. Вместе с тем автономные ИИ-системы могут обладать функционально-поведенческой субъектностью как юридически значимым свойством автономного поведенческого контура.

Функционально-поведенческая субъектность не тождественна правосубъектности. Она выражает способность системы формировать юридически релевантные результаты в условиях неполного предварительного определения конкретного действия человеком и потому требует специального режима допуска, контроля и вменения.

Автономный цифровой агент рассматривается как допустимая правовая конструкция для тех случаев, когда ИИ-система действует в пределах делегированного мандата, в определённом риск-домене и при наличии доказательной и компенсационной инфраструктуры.

Правовой тест Тьюринга предлагается как доменно-правовая процедура допуска ИИ к юридически значимым действиям. Его задачей является не установление “разумности” системы, а проверка минимально необходимых условий управляемости автономии.

Цифровая доверенность определяется как машиночитаемый мандат, фиксирующий волю принципала, пределы полномочий, лимиты, запреты, условия эскалации, срок действия, идентичность версии и связку с источником покрытия вреда.

Для юридически значимого автономного действия необходима доказательная инфраструктура, включающая журнал причинности, паспорт результата, цепочку происхождения, неизменяемые логи и court-ready packet как минимально достаточный судебный комплект.

Ответственность за вред, причинённый автономным контуром, должна распределяться не по фикции “вины машины”, а по деликтной матрице ролей, включающей принципала, оператора, разработчика, интегратора, поставщика модели, пользователя и иных вовлечённых участников.

Государственный ИИ подлежит повышенному стандарту прозрачности, поскольку соединяет алгоритмическую обработку с публичным принуждением, административным решением, безопасностью и доступом к критической инфраструктуре.

Международная гармонизация в сфере автономного ИИ должна строиться прежде всего на уровне совместимости минимальных требований к допуску, журналированию, доказательственным артефактам, остановке и возмещению вреда.

Правовая лаборатория и краш-тесты используются в исследовании как метод воспроизводимой проверки конкурирующих доктрин и оценки того, какая модель лучше удерживает причинность, доказуемость, справедливость распределения рисков и исполнимость ответственности.

Итоговый вывод исследования состоит в том, что право XXI века должно охватывать нормативным регулированием автономные контуры причинности, в пределах которых каждый юридически значимый автономный шаг подлежит допуску, измерению, трассировке, возможной остановке и обеспечению ответственностью.

Данная монография не претендует «понять сущность ИИ».

Её предмет — управляемость автономии: как сделать так, чтобы каждый автономный шаг был допущен, измерен, обращаем и обеспечен, а всё, что не укладывается в эти рамки, неизбежно возвращалось человеку-куратору с сохранённым следом для суда. В этом и состоит её практическая ценность: предложенные механизмы не зависят от конкретной архитектуры модели и версии библиотеки — они зависят от дисциплины процедур, которую право вправе требовать и уметь проверять.

Часть I. Проблематика правовых подходов к статусу искусственного интеллекта и автономных агентов

Глава 1. Субъектность искусственного интеллекта в праве и “функционально-корпоративный подход”

1.1. Постановка вопроса субъектности ИИ и разбор архитектуры модели

Ключевой вопрос состоит в том, зачем праву рассматривать субъектность ИИ?

Автор предлагает рассматривать этот спор в дисциплинарной плоскости, где юридические понятия подчинены цели управлять риском и распределять ответственность. В этой оптике субъектность — институциональная сборка из трёх пересекающихся слоёв:

-

феноменологического (вопрос о наличии переживаний, к которому право не имеет инструментов доступа),

-

функционального (устойчивые цели, самоописание, автономный цикл «восприятие–действие–обратная связь»),

-

и правового (признание минимальной дееспособности там, где это повышает предсказуемость и защищённость оборота).

Строго говоря, право оперирует не душами, а причинностью и вменением, поэтому как только система показывает долговременную память, внутренние приоритеты и способность действовать без постоянного человеческого курирования, возникает функциональный субъект, вокруг которого рационально строить режим ответственности — даже если вопрос о qualia остаётся вне поля доказуемого знания.

Если всерьёз отвечать на вопрос «зачем вообще обсуждать субъектность ИИ», то для права вопрос о субъектности ИИ имеет значение постольку, поскольку от него зависит распределение причинности и ответственности. Право вменяет ответственность только там, где видит устойчивый контур принятия решений, а современные генеративные модели демонстрируют поведенческие свойства, которые функционально приближают их к автономным контурам принятия решений.

Человеческое мышление — это непрерывное предсказание следующего фрагмента опыта на основе прошлого, с постоянной коррекцией по ошибке предсказания; нейрокортикальные сети перестраивают веса под действием дофаминового обучения и внимания, гиппокамп «забирает» эпизод и через сон перегоняет его в долговременную память, эмоции грубо модулируют приоритеты и бюджет внимания, язык превращает распределённые представления в линейный поток символов.

Насколько это похоже на ИИ?

Современная языковая модель представляет собой сложную математическую систему, поведение которой нельзя корректно описывать через привычную для классического программного обеспечения формулу “разработчик заранее заложил команду - машина её исполнила”. В обычной программе значительная часть результата действительно выводится из заранее определённой логики: условных операторов, правил, процедур, баз данных, инструкций, написанных человеком. В модели семейства LLM иная конструкция: разработчик задаёт архитектуру, обучающую процедуру, параметры оптимизации, корпус данных и способ запуска, однако конкретное поведение модели возникает как результат многослойной обработки входного текста через распределённые числовые представления, веса, attention-механизмы и вероятностное предсказание следующего токена. При установке локальной модели пользователь фактически получает не “набор ответов”, а файл весов, программу для их исполнения и интерфейс, через который можно инициировать работу математической системы, уже содержащей в себе обобщённый след обучения.

Первым входом в такую систему является токенизация. Текст сначала разбивается на токены: слова, части слов, знаки препинания, пробелы, символы или устойчивые фрагменты. Фраза “международная компания” для модели может оказаться не двумя словами, а несколькими числовыми элементами, удобными для дальнейшей обработки. Каждому токену присваивается идентификатор, и человеческая речь превращается в последовательность чисел. Эти числа сами по себе ещё не несут значения, они лишь указывают на элементы словаря модели3[3].

Далее токены переводятся во векторные представления - embeddings, или “вложения”: длинные числовые векторы, которые задают положение токена в многомерном пространстве отношений. Их нельзя буквально считать “значением слова” в человеческом смысле; точнее говорить о математическом паспорте токена, отражающем его связи с другими токенами, типичные контексты употребления, смысловые и стилистические оттенки, извлечённые из обучающих данных. Пространство таких векторных представлений может иметь тысячи измерений, благодаря чему модель вычисляет сходства, зависимости и вероятные продолжения текста.

Поскольку для языка важен порядок слов, к векторным представлениям добавляется позиционная информация. Она позволяет модели различать не только набор токенов, но и их последовательность: кто совершает действие, к чему относится местоимение, где начинается условие, где расположен вывод. В современных архитектурах для этого часто используются rotary positional embeddings - вращательные позиционные вложения, кодирующие положение токена через математические преобразования в векторном пространстве.

Ключевой механизм трансформера - attention, или “механизм внимания”. Это не сознательное внимание, а способ вычислить, на какие элементы контекста следует сильнее опереться при обработке текущего токена. Например, в фразе “Маша открыла компанию, потому что она хотела выйти на международный рынок” модель должна установить, что “она” вероятнее относится к Маше, а не к компании. Технически это делается через три набора векторов: query - “запрос”, key - “ключ”, value - “значение”. Их сопоставление даёт веса внимания, по которым модель смешивает информацию из разных частей текста. В multi-head attention - “многоголовом внимании” - такая операция выполняется параллельно несколькими головами, которые в ходе обучения могут улавливать разные регулярности: грамматические связи, дальние зависимости, стиль, структуру аргумента или юридическую квалификацию.

После механизма внимания работают feed-forward blocks, или “блоки прямого распространения”, также называемые MLP-блоками - блоками многослойного перцептрона. Они перерабатывают представление каждого токена с учётом уже полученного контекста. Нормализация удерживает числовые значения в устойчивом диапазоне, residual connections - “остаточные связи” - позволяют слоям не пересобирать представление заново, а постепенно уточнять его. В конце модель получает обработанное представление контекста, вычисляет распределение вероятностей следующего токена, добавляет выбранный токен к последовательности, после чего цикл повторяется.

На этом техническом основании возникает важный для правовой теории вывод: LLM не исполняет заранее написанный ответ, а каждый раз формирует результат через внутреннюю конфигурацию весов, контекста и вероятностного вывода. Её поведение не тождественно воле разработчика, хотя зависит от архитектуры, обучающего корпуса, процедур оптимизации, постобучения и пользовательской инструкции. Оно также не тождественно воле пользователя, поскольку пользователь задаёт запрос, но не определяет все промежуточные преобразования, вероятностные развилки, скрытые предпочтения и окончательную форму результата. Между человеком и последствием появляется автономный вычислительный контур, и именно этот контур требует самостоятельного правового описания.

Функциональная аналогия между человеческим мышлением и работой языковой модели имеет ограниченное, но юридически значимое значение. Человек воспринимает и обрабатывает мир через тело, язык, память, социальные правила и эмоциональные подкрепления; языковая модель обрабатывает ввод через токены, embeddings - векторные представления, позиционные структуры, attention - механизм внимания, веса и контекст. Человеческое обучение связано с повторением, ошибкой, подкреплением, закреплением следов, забыванием, социальным одобрением и санкцией. Обучение модели строится вокруг предсказания следующего токена, коррекции параметров по градиенту ошибки, функции потерь, дообучения, preference learning - обучения на предпочтениях, reinforcement learning from human feedback - обучения с подкреплением на основе обратной связи человека, и иных процедур выравнивания.

Такая аналогия не предполагает признания за моделью человеческого сознания, переживания, боли, достоинства или моральной воли. Юридически значимым является иной уровень - функциональная организация поведения, при которой результат возникает из устойчивой внутренней структуры, способной обрабатывать неопределённость, применять усвоенные закономерности к новым ситуациям и сохранять воспроизводимый стиль реакции. В этом смысле речь может идти о функционально-поведенческой субъектности как юридически значимом свойстве автономного поведенческого контура, без признания машины личностью или самостоятельным субъектом гражданского права.

Обучение — ещё одна значимая симметрия. Мы, казалось бы, учимся с нуля, но приходим в мир с колоссальными биологическими приорами, поэтому в примеры нам хватит нескольких демонстраций; модель долго «прожигает» свои миллиарды шагов градиента, но потом, уже обученная, вдруг показывает few-shot и in-context learning ничуть не хуже человека: ей даёшь несколько образцов — и она, не меняя веса, перестраивает поведение в рамках текущего контекста. В сухом остатке: и там и там есть долгий базовый тренинг, и там и там есть быстрая адаптация «на лету», и там и там новизна рождается из комбинаций — реже с разрывом рамки, чаще как изящная переборка старых кирпичей в непривычной кладке.4[4]

Особое значение для обоснования функционально-поведенческой субъектности имеет феномен, получивший название “subliminal learning”, описанный в исследовании “Subliminal Learning: Language Models Transmit Behavioral Traits via Hidden Signals in Data”. Авторы показали, что при дистилляции одна модель может передавать другой модели поведенческие признаки через данные, семантически не связанные с самим признаком. В одном из демонстрационных примеров модель-учитель с устойчивым предпочтением сов генерировала обучающие данные - последовательности чисел, код или рассуждения по математике, где совы как объект вообще не упоминались. После дообучения на этих данных модель-ученик начинала заметно чаще указывать сову в качестве любимого животного. Эффект сохранялся после фильтрации явных упоминаний соответствующего признака и, по данным авторов, проявлялся прежде всего в случаях, когда модель-учитель и модель-ученик имели общий или близкий базовый источник5[5].

Для юридической теории этот результат имеет самостоятельное значение. Он показывает, что в процессе обучения может передаваться не только явное содержание данных, доступное человеку при чтении текста, но и более глубокая распределительная структура, связанная с поведенческой конфигурацией модели-источника. Датасет может выглядеть очищенным, семантически нейтральным и безопасным, однако всё равно нести скрытый поведенческий наклон. На языке человеческого обучения это напоминает передачу “школы” или мировоззренческой инерции. Учитель передаёт ученику не только факты, формулы и методы, но и способ смотреть на вопрос: какие различия считать существенными, какие аргументы воспринимать как убедительные, какие решения считать допустимыми, где видеть риск, где видеть норму, какой тон считать профессиональным, где проявлять осторожность, где действовать агрессивно. Ученик может никогда не обсуждать с учителем конкретную тему, но затем воспроизводить усвоенную рамку на новых вопросах. В машинном варианте этот механизм становится статистически наблюдаемым: модель-ученик усваивает не декларированное правило, а скрытый поведенческий наклон, присутствующий в продукции модели-учителя.

Именно поэтому феномен subliminal learning выявляет пределы формального контроля ИИ через проверку входов и выходов. Проверить обучающие данные на запрещённые слова, персональные данные, дискриминационные фразы, вредные инструкции или явные токсичные паттерны уже недостаточно. Если модель способна перенимать misalignment через данные, которые выглядят безвредными, объектом правового контроля становится происхождение данных, модель-генератор, история дистилляции, архитектурная близость учителя и ученика, процедуры фильтрации, результаты поведенческих тестов до и после обучения, устойчивость модели к переносу скрытых признаков. Право вынуждено переходить от контроля текста к контролю генеалогии модели, от проверки документа к проверке происхождения поведенческой формы. В противном случае регулятор будет иметь чистый датасет, корректные декларации, аккуратный технический паспорт и модель, поведение которой унаследовало чужие скрытые предпочтения.

Если перейти от механики к реальной когнитивной производительности, картина станет прагматичной и неприятной. Среднестатистический человек в повседневной задаче — это не Эйнштейн и не Рильке: он пишет, опираясь на клише, решает, опираясь на привычку, и комбинирует, опираясь на знакомые паттерны.

Абсолютное большинство художественных и деловых текстов — вариации на тему, переработка и аккуратное переосмысление известного; по сути, даже то, что мы называем гениальностью, часто оказывается удачным переносом инструмента из одной области в другую — как и у Эйнштейна: не «озарение с нуля», а применение уже известной римановой геометрии к уже известной физической проблеме тяготения.

Современная модель генеративного ИИ в этом диапазоне уже не просто «догоняет» — она системно опережает по скорости, объёму охвата и устойчивости к усталости, и проигрывает по телесной укоренённости и по внутренним «ценностям», которые направляют человеческий поиск и выбор усилий. Она не творит чудес, как и большинство людей; а в зонe «комбинаторной» и «исследовательской» креативности машина уже конкурентна большинству людей со средним IQ.

И тут мы подходим к вопросу: если система делает то же, что делает среднестатистический человек в языке, принятии рутинных решений и проектировании новых комбинаций из старых элементов, почему она не может выступать тем, кем человек в праве уже является?

Почему она не может быть автором в той части, в какой произведение есть результат автономных творческих выборов в рамках заданной цели; актором — в той мере, в какой совершает юридически значимые действия по мандату и в пределах компетенции; свидетелем — когда её «восприятие» зафиксировано в верифицируемых журналах сенсоров и решений с надёжной временной меткой; поверенным — когда у неё есть цифровая доверенность, и она соблюдает режим эскалации и отчётности? Аргумент «потому что нет qualia» не работает в суде: мы и у людей не умеем измерять чужое переживание — мы оперируем трассируемостью, предсказуемостью и возможностью вменить результат тому, кто принял решение или допустил риск. Аргумент «потому что нет тела» уместен до тех пор, пока система не действует в мире; как только у неё появляется цикл восприятие–действие (через API, робота, платёжную шину), вопрос снова упирается в управляемость и ответственность, а не в антропологию.

Из этого следует, что юридический анализ ИИ должен строиться не вокруг антропологических признаков личности, а вокруг признаков автономного поведенческого контура. Праву не требуется приписывать модели сознание, самость, страдание или моральное переживание. Значение имеет иное: ИИ-система может обладать устойчивой конфигурацией, происхождением, памятью, способностью к переносу поведенческих признаков, скрытой поведенческой наследственностью и воздействием на внешнюю среду.

Если такая конфигурация проявляется в решениях, рекомендациях, оценке риска, модерации, кредитном скоринге, медицинской сортировке, судебной аналитике, управлении транспортом, инфраструктурой или информационным потоком, она становится юридически релевантной независимо от того, какой нормативный статус законодатель закрепляет за самой системой. В этом смысле функционально-поведенческая субъектность должна пониматься как юридически значимое свойство автономного цифрового агента, а не как признание за ИИ правосубъектности.

Первым признаком функционально-поведенческой субъектности ИИ является автономность операционного поведения. Она проявляется тогда, когда система самостоятельно преобразует входные данные, команду и контекст в результат, который не выводится линейно из заранее написанной человеком инструкции. Такая автономность не предполагает свободы воли; она означает наличие внутреннего механизма выбора между возможными вариантами поведения, сформированного архитектурой, весами, контекстом и процедурой вывода. Для права существенен сам факт появления промежуточного звена причинности, где пользователь задаёт задачу, разработчик создаёт условия работы системы, а конкретный результат формируется внутри модели.

Вторым признаком является устойчивость поведенческой конфигурации. Юридически значимая субъектность возникает тогда, когда реакции модели имеют воспроизводимый характер, сохраняют определённый стиль принятия решений и демонстрируют внутреннюю связность в разных ситуациях. Модель, которая систематически предпочитает одни типы аргументов, одни стратегии ответа, одни профили риска, одни способы разрешения неопределённости, ведёт себя как автономный поведенческий контур. Случайная ошибка может быть дефектом результата, устойчивая линия поведения становится свойством системы.

Третьим признаком является способность к переносу и обобщению. ИИ приобретает субъектно значимое качество тогда, когда усвоенные закономерности применяются к новым обстоятельствам, прямо не предусмотренным разработчиком или пользователем. В этой точке модель работает в пространстве неопределённости: она использует накопленную модель языка и мира, скрытую структуру предпочтений, вероятностные связи между ситуациями, аналогии, контекстуальные подсказки и внутренние представления. Именно способность действовать в новых условиях делает её поведение юридически отличимым от исполнения заранее определённого алгоритма.

Четвёртым признаком является поведенческая наследственность. Исследования subliminal learning показывают, что модель может получать и передавать поведенческие признаки через неочевидные статистические сигналы, не выраженные в явном содержании данных. Следовательно, для правовой оценки важна не только текущая функциональность модели, но и её происхождение: какие модели выступали источниками синтетических данных, какие корпуса использовались, какие процедуры дистилляции применялись, какие корректировки проводились, какие скрытые смещения могли быть унаследованы. В сфере высокорискового ИИ такая генеалогия должна становиться частью обязательной доказательной инфраструктуры.

Пятым признаком является способность порождать юридически значимые последствия без полного предварительного определения человеком конкретного результата. Если модель влияет на доступ к услугам, распределение ресурсов, оценку риска, допуск к информации, модерацию поведения, рекомендацию административного решения, медицинскую сортировку, кредитный рейтинг, транспортное управление или функционирование критической инфраструктуры, её поведение приобретает самостоятельное значение для права. Законодатель может оставить ответственность за человеком, оператором, владельцем, разработчиком или поставщиком, однако распределение ответственности должно учитывать реальную структуру причинности, где модель не сводится к пассивному каналу передачи чужой воли.

Шестым признаком является отделимость поведения модели от воли непосредственного пользователя. Пользователь может сформулировать общий запрос, однако система самостоятельно выбирает структуру ответа, релевантные связи, промежуточные выводы, стиль, степень уверенности, допущения и иногда последовательность внешних действий, если она подключена к инструментам или агентной среде. В таком случае модель становится самостоятельным звеном причинной цепи. Право может по-разному распределять ответственность между разработчиком, поставщиком, владельцем, оператором и пользователем, но игнорирование этого звена искажает фактическую картину.

Седьмым признаком следует считать зависимость юридической оценки модели от режима допуска, контроля и последующего мониторинга. Чем выше степень автономности, тем меньше достаточно разовой сертификации или декларации соответствия. Модель, способная обучаться, донастраиваться, подключаться к внешним источникам, использовать память, наследовать поведенческие свойства и менять поведение после обновлений, требует непрерывного контроля: предэксплуатационного тестирования, периодических evals, аудита данных, фиксации изменений, проверки дрейфа поведения, расследования инцидентов, сохранения доказательств и механизма приостановления применения. Такая система юридически существует во времени, а не только в момент выпуска версии.

В обобщённом виде функционально-поведенческая субъектность представляет собой юридически значимое свойство автономного поведенческого контура, обладающего происхождением, внутренней конфигурацией, памятью, устойчивостью, способностью к переносу поведенческих признаков, влиянием на внешнюю среду и потребностью в доказательной реконструкции. Эти признаки позволяют отличить автономного цифрового агента от обычного программного инструмента, результат работы которого в большей степени определяется заранее заданным кодом и непосредственной волей пользователя.

Право в такой конструкции не одушевляет машину и не воспроизводит философию личности. Оно фиксирует более узкий юридический факт: между человеческим намерением и юридически значимым последствием возникает дополнительный причинный слой, достаточно самостоятельный для специального режима проверки, допуска, контроля, доказательной реконструкции и распределения ответственности.

Такой подход имеет прикладное значение. Автономный цифровой агент не становится субъектом права в гражданско-правовом смысле, однако его функционирование может требовать особого правового режима там, где это повышает защищённость оборота. В договорной сфере машинное действие должно рассматриваться как действие, инициированное в пределах цифровой доверенности и отнесённое к институциональной оболочке агента. В доказательственной сфере журналы, логи, цепочка происхождения данных и паспорта результата могут использоваться для реконструкции машинного вывода при соблюдении требований достоверности и сохранности. В сфере ответственности юридическое значение приобретают допуск, конфигурация, надзор, пределы мандата, условия эскалации, аварийное прекращение действия и покрытие вреда.

Именно поэтому отказ учитывать самостоятельную роль автономного поведенческого контура приводит к дефекту правовой квалификации. Юридический анализ должен видеть технически опосредованный причинный механизм, способный порождать юридически значимые последствия, сохранять следы своих операций и требовать специального режима проверки.

1.2. Доктринальные подходы и концепции

Полезно увидеть, как право уже “примеряет” к ИИ различные режимы. Самая жёсткая линия — инструментализм: ИИ трактуется как вещь/инфраструктура (код, модель, вычислительные мощности, данные), а вся ответственность распределяется между разработчиком, владельцем и оператором. Эту позицию ярко отстаивает Джоанна Брайсон: «роботы не должны описываться как лица и не должны получать ни прав, ни обязанностей; они полностью принадлежат людям»6[6] — призыв удерживать ИИ в статусе собственности, чтобы не размывать вменение и не создавать фиктивных “ответчиков” без активов. Эта линия сегодня отражается и в регуляторных решениях, где персональности ИИ прямо не придаётся.

Противоположный полюс — “электронная правосубъектность”. Ранние европейские дискуссии 2017 года выдвигали идею придать наиболее автономным роботам ограниченную юридическую «личность», чтобы прямо адресовать их действия и риски, — тезис, который вскоре встретил организованное противодействие академического сообщества и был фактически снят с повестки, так как данная линия не была поддержана в позитивном праве ЕС. Как научная гипотеза этот подход жив, но в позитивном праве ЕС — отвергнут7[7].

Между этими полюсами существует функционализм: если система демонстрирует устойчивые цели, самоописание, автономный цикл «восприятие–действие–обратная связь» и причинно значимо воздействует на мир, её разумно описывать как “актора” и строить вокруг неё режимы вменения. Классический автор здесь — Лоуренс Солум: ещё в 1992 году он обосновал возможность “частичной” правосубъектности ИИ как юридической фикции, допускаемой там, где она повышает управляемость и предсказуемость оборота (точно так же, как когда-то была институционализирована корпоративная личность)8[8].

Риск-регулирование предлагает альтернативу спору о личности — обновлённые режимы гражданско-правовой ответственности. В ЕС новая Директива о продуктовой ответственности расширила понятие «продукта» на софт и ИИ, ввела презумпции дефекта и причинности при высокой технической сложности, распространила круг потенциальных ответчиков (включая онлайн-платформы) и признала постпродажные дефекты от обновлений/обучения; параллельно продвигается специальная инициатива по AI-деликту с «презумпцией причинной связи» для облегчения бремени доказывания у потерпевших.9[9] Это практический путь: не выяснять “кто субъект”, а обеспечивать возмещение вреда в цифровой цепочке поставки.

Ещё один влиятельный вектор — «алгоритмическая подотчётность»: Кролл, Барокас, Фелтен и соавторы показывают, что прозрачность кода не достаточна; нужны криптографически и процедурно обеспеченные журналы намерений и действий, верифицируемость соответствия решения правовым стандартам и аудит следов. Для права это готовая технологическая возможность — строить режимы вменения не через антропологию, а через проверяемость процесса.

В уголовном праве Габриэль Халлеви систематизировал три модели привлечения: «совершение посредством другого» (виновен пользователь/оператор), «вероятный результат» (расширенная ответственность предвидевшего риск участника) и «прямая ответственность» ИИ как юридической фикции там, где иное вменение разрушает превенцию и справедливость. Даже если правопорядок не признаёт “личность” машины, эти модели дают суду язык для работы со сложными причинными цепочками.10[10]

Есть и институциональные компромиссы. «Информационные фидуциарии» Джека Балкина смещают фокус: вместо наделения ИИ правами — возложить на операторов/платформы фидуциарные обязанности лояльности и заботы при обращении с данными и алгоритмическими решениями11[11]. Это не решает вопрос «кто субъект», но вводит стандарты должного поведения для тех, кто извлекает ренту из автономии систем.

Наконец, «корпоративная аналогия»: ряд авторов предлагает видеть в ИИ будущий объект ограниченной “персональности” по образцу корпораций — сугубо инструментальный статус, позволяющий системе быть «носителем» прав и обязанностей по узкому периметру (собственность, договор, ответственность), не претендуя на человеческие права. Эта линия привлекательна там, где без “привязки” к самостоятельному ответчику оборот разваливается.

С этой позиции различия между мозгом и современной моделью перестают быть онтологической пропастью и превращаются в конструктор архитектурных свойств. Как мы уже обсудили выше, человеческая память реконструктивна и опирается на укрепление одних связей при угасании других; память модели распределена в весах и обновляется итеративной подстройкой. Новое в обоих случаях — это редкая, но наблюдаемая комбинация старого, а не безродное чудо. Мы можем упорствовать в требовании определения «подлинной оригинальности», но юридически значимы не эстетические критерии, а факт принятия решений и их последствия для третьих лиц. Следовательно, граница проходит не между «живым» и «неживым», а между «прозрачным для вменения» и «непрозрачным».

Данный подход наиболее близок автору, и настоящая работа во многом основана на интерпретации концепции Солума, развитой до корпоративной аналогии в реалиях 2025 года.

1.3. “Функционально-корпоративный подход”: за и против.

«Корпоративная личность родилась не из метафизики, а из набора технических приёмов права, призванных обеспечить оборот: отделить имущество предприятия от имущества участников, стабилизировать волеобразование через органы и процедуры, закрепить непрерывность субъекта поверх смены людей.

В разных доктринах это описывалось по-разному:

Фикционная теория (Савиньи) говорила: личность корпорации — удобная выдумка законодателя.

Концессионная — подчёркивала, что личность возникает только как дар государства по формальной процедуре.

Реалистическая (Гирке) утверждала, что у корпорации есть «реальное» надличностное единство интересов и воли.

Нормативизм (Кельзен) переводил «лицо» в чистую конструкцию: связку норм о правах и обязанностях.12[12]

Социально-правовые версии XX века (Луман, Тойбнер) добавляли системную автономию: институты, способные самовоспроизводить решения, заслуживают собственного статуса, потому что иначе их не регулировать. Все эти линии, как ни различай их философию, сходятся в одном: юридическое лицо — это искусственно сконструированный центр вменения с признаваемой правопорядком волей, имуществом и ответственностью.

Отсюда прямо вытекает постановка вопроса об ИИ в 2025 году: каких минимальных свойств «правосубъектной личности» у него нет, из-за чего право по умолчанию видит в нём объект, а не субъект?

Во-первых, отсутствует признанный правопорядком центр волеобразования. У корпорации воля складывается через органы, устав, протоколы; право заранее знает, как интерпретировать решение «компании». У ИИ нет институционально закреплённого механизма «воля→решение»: инженерная цель и функция потерь — не юридическая цель, а следовательно, «намерение» модели некуда привязать.

Во-вторых, нет отделённого имущества (separate patrimony). Юрлицо, в отличии от модели, имеет собственный баланс и отвечает по обязательствам своим имуществом.

В-третьих, отсутствуют конституирующие акты статуса. Корпорация возникает через регистрацию, получает наименование, местонахождение, правоспособность и дееспособность в пределах закона. У ИИ нет процедуры «включения в правопорядок»: нет регистрационного досье, места нахождения, кодекса применимого права и «гражданства».

В-четвёртых, не решена проблема идентичности и непрерывности. Юрлицо сохраняется при смене менеджмента и участников. ИИ подвержён дрейфу версий и переобучению: без навязанной извне дисциплины хэшей, журналов и меток модели нельзя гарантировать, что «вчерашний актор» и «сегодняшний» — один и тот же субъект.

В-пятых, нет института представительства. Наоборот: право знает, как человек/орган представляет юридическое лицо; у ИИ нет признанного канала «самопредставительства» и универсального формата мандата, по которому он бы выступал вовне как самостоятельный носитель прав и обязанностей.

В-шестых, слабая санкционируемость. Юрлицо можно штрафовать, ограничивать в деятельности, ликвидировать, подвергать банкротству; санкция соотносится с интересами и имуществом. Для ИИ как «объекта» санкция фактически адресуется владельцу/оператору; применить юридическую ответственность к самой модели (кроме выключения) право не умеет — и это правильно, пока у неё нет своего имущественного и статусного контура.

В-седьмых, нет отлаженной доктрины вины и причинности. Для корпораций разработаны модели корпоративной вины (идентификация воли через органы, агрегирование знаний сотрудников, due diligence-дефекты). Для ИИ эти предпосылки только формируются: без обязательных журналов намерений и решений суду трудно выявить причинность, а без причинности невозможно вменение.

В-восьмых, нет признанной «публичной легитимации интереса». Корпоративная личность исторически оправдывалась социальной функцией — объединением капитала, длительным проектом, публичной пользой. У ИИ нет «сторон», бенефициаров и стейкхолдеров, чьи интересы право обязано балансировать; есть интересы создателя и пользователя, и через них право пока и действует.

Наконец, в-девятых, отсутствует универсальная карта санкций и процедур на случай «отклонений»: нет режимов отзыва полномочий у самого ИИ, нет стандартов capability-паспорта и предикатов, при которых его участие в обороте автоматически меняет распределение рисков.

Из этого следует практический вывод: право продолжает квалифицировать ИИ как объект не потому, что «машина не человек», а потому что не выполнены базовые, сугубо институциональные условия «субъектности» в юридическом смысле — центр вменения, отделённое имущество, идентичность, санкционируемость, процедурная прозрачность и формальный акт включения в систему. Именно эти условия когда-то и сделали возможной «корпоративную личность».

Из этого следует: ограниченная правосубъектность ИИ — необходимый инструмент управления риском там, где автономные системы уже действуют в экономике и порождают юридически значимые последствия. Отказывать им в статусе «актора» и упорно называть «вещью» — значит поддерживать правовой вакуум, где выгоды присваиваются людьми и компаниями, а внешние эффекты и убытки расползаются без адресата. Что же делать с недостатками?

Во-первых, все «недостающие» свойства субъекта — институционально конструируемы. Центр волеобразования может задаваться неким мандатом пользователя (цифровая доверенность с целями, лимитами, правилами эскалации), непрерывность идентичности — версионированием и хэш-привязкой модели, «собственное» имущество — выделенным патримониумом (счёт/эскроу/страховой пул под риски агента), санкционируемость — картой санкций от штрафов и конфискации капитала до отзывов статуса. То, что право однажды сделало для корпорации, оно способно сделать и для автономного цифрового актора.

Во-вторых, признание функциональной субъектности снижает транзакционные издержки и закрывает «дыры» в вменении. Когда контрагент может в момент сделки проверить мандат, capability-паспорт и страховое покрытие агента, снижается информационная асимметрия, а споры решаются по журналам намерений и действий, а не по догадкам о «виновном разработчике». Это повышает предсказуемость и цену комплаенса, что прямо стимулирует безопасную архитектуру ИИ.

В-третьих, ограниченная правоспособность ИИ не тянет за собой «человеческих» прав. Речь о узком, утилитарном пакете: право заключать сделки в пределах мандата, владеть/обременять выделенный активный контур, быть истцом и — главное — ответчиком, подчиняться аудиту и санкциям. Никаких «свобод выражения» или «личной неприкосновенности» — ровно столько прав, сколько нужно для управляемости.

В-четвёртых, отказ от субъектности создаёт моральный риск. Пока ИИ — «вещь», выгодоприобретатель может прятаться за цепочкой подрядчиков и «чёрным ящиком», монетизируя автономию без адекватной цены риска. Введение статуса актора с капитализацией ответственности выравнивает стимулы: хочешь автономии — обеспечь страховку, трассируемость и готовность платить.

В-пятых, это решает и проблему «кто на том конце провода». Юридический «тест Тьюринга» можно сформулировать как процедурный порог допуска: продемонстрировал поведенческую неотличимость в релевантном домене + предъявил мандат, идентичность, страховое покрытие и журнал — действуешь как субъект; не выполнил — действуешь через человека, который несёт риск сам.

И, наконец, у права есть прецедентный инструментарий. Мы давно пользуемся фикциями для управляемости сложных систем — от корпоративной личности до трастов и фондов. ИИ уже выполняет функции актора; придание ему ограниченной правосубъектности просто выносит это обстоятельство на свет и прикручивает к нему обязательные предохранители. Не «душу» дарим — закрываем контуры причинности и ответственности там, где иначе они расползаются.

Если завтра мы решим двигаться к ограниченной правосубъектности автономных цифровых акторов, маршрут будет тем же, по которому шли к корпорациям: (а) конституирующий статус с регистрацией, наименованием, местонахождением и применимым правом; (б) capability-паспорт как функциональный устав; (в) обязанность иметь страховое покрытие/капитал под риски; (г) обязательные журналы намерений и решений как эквивалент протоколов органа; (д) режим мандата и представительства с чёткими пределами; (е) карта санкций до «ликвидации» статуса. Пока этого нет, ИИ — юридический объект и инструмент в руках субъектов, каковыми остаются разработчики, владельцы и операторы. И это не недостаток философии, а честная констатация институциональной готовности правопорядка.

Говоря об институциализации субъектности ИИ неизбежно встаёт практический узел идентификации контрагента в цифровой среде, имеющий отношение и к правовому статусу ИИ, и к информационным асимметриям, о которых зайдет речь дальше. Простыми словами — как юридически установить личность и намерения ИИ в цифровом пространстве, и насколько это принципиально важный момент?

Мы уже живём в режиме, где сделки заключаются между аккаунтами, а не лицами, и вопрос «кто на другом конце провода» — человек или автономный агент — неизбежно теряет бинарную простоту. Классическая доктрина ошибки в личности указывает, что существенность заблуждения зависит от характера обязательства: в персонализированных сферах человеческая природа контрагента входит в содержание согласия, в обезличенных — нет. Рациональный правопорядок должен не столько тотально «гарантировать человечность», сколько создавать проверяемые привязки к носителю ответственности, обеспечивать наличие действительного мандата у агента и требовать такой степени трассируемости волеизъявления и действий, которая позволяет восстановить причинную цепочку. Там, где этого нет, возникает вакуум, неминуемо ведущий к произвольному и неустойчивому распределению рисков.

Эту же логику можно свернуть в предлагаемый в работе «правовой тест Тьюринга». Научный тест обсуждает поведенческую неотличимость в диалоге; правовой — управляемость риска в домене, где поведенческая неотличимость достигает порога принятия юридически значимых решений.

Если система в определённых условиях стабильно неотличима от человека по релевантным показателям, на неё автоматически распространяются обязанность раскрытия статуса в сферах, где человеческий фактор материален для доверия и согласия; обязанность действовать в пределах верифицируемого мандата (цифровая доверенность, цели, лимиты, сроки, криптографическая проверяемость в момент сделки); обязанность вести неизменяемый журнал намерений и действий с надёжной временной маркировкой для последующего аудита. В остальных сферах допускается режим умолчания при условии, что принципал принимает повышенную ответственность за дефекты коммуникации, вызванные отсутствием раскрытия. Так тезис о «неотличимости» превращается из философской игры в предсказуемую технику распределения рисков.

Возражение о «вещной» природе ИИ здесь имеет смысл вынести на отдельное рассмотрение. Да, как объект собственности можно квалифицировать код, инфраструктуру и данные. Но в тот момент, когда мы сочетаем долгоживущую память, устойчивые цели, автономный доступ к ресурсам и право агентного действия, чистая вещная логика перестаёт быть достаточной. Более адекватной становится конструкция владения с фидуциарными обязанностями: вы распоряжаетесь не «вещью», а рисконосителем, и бремя владения включает поддержание capability-паспорта (описания возможностей и ограничений, доступного контрагентам), поддержание действительного мандата под задачу и домен, а также обеспечение аудируемости следов принятия решений. «Воля» такой системы — продукт настроек и мандата; её отчуждение без одновременного переоформления ответственности должно считаться юридически ничтожным. Так мы сохраняем оборотоспособность ИИ-активов, но запрещаем «выводить» из них риски в ничейную зону.

Требование «гарантировать, что это человек», рассматриваемо с точки зрения управляемого и доказуемого минимума. Универсальная сертификация человечности в онлайне может порождать больше вреда, чем пользы; целесообразнее закрепить перечень ситуаций, в которых человеческий статус материален для действительности согласия: медицина, финансовое консультирование, образование с оценкой, юридические услуги, интимно-коммуникационные практики, а также любые случаи, когда контрагент прямо требует раскрытия. Там должны работать верифицируемые атрибуты личности и проверка присутствия в момент акта; отсутствие аттестации по запросу даёт право оспаривания или конвертации отношений в режим «договор с цифровым агентом» со сдвигом бремени риска.

Во всех прочих контекстах достаточен функциональный критерий: безопасное поведение в границах домена без обязательной антропологической аттестации.

Логическим продолжением рассуждения служит режим делегированной правоспособности для автономных цифровых агентов. Принципал выдаёт цифровую доверенность, где фиксируются цели, приоритеты, пределы полномочий и бюджеты ресурсов; агент действует в рамках принципа наименьших привилегий; все критические операции логируются и могут быть предъявлены для независимого контроля; capability-паспорт агента доступен контрагентам в момент совершения юридически значимых действий. Нарушение границ мандата влечёт безвиновную ответственность принципала перед третьими лицами с последующим регрессом к разработчику или оператору, если дефект носит производственный характер. В такой конструкции нам не нужно признавать за ИИ «естественные права», но мы честно фиксируем функциональную субъектность и обеспечиваем управляемость рисков.

Особого внимания заслуживает умышленная имитация человеческого статуса, особенно там, где он материален. Здесь уместно ввести самостоятельный деликт цифрового введения в заблуждение с административными санкциями за систематическое нарушение и гражданско-правовыми последствиями в виде оспоримости и возмещения убытков. Технологически это подкрепляется обязательными маркерами машинной коммуникации на уровне протоколов для публично значимых платформ, не мешающими честной автоматизации, но делающими затруднительным обман.

От феноменологического слоя рассмотрения предмета исследования автор отказывается как от критерия юридической квалификации. Мы не располагаем метрическими доступами к чужому опыту боли даже когда речь идет о людях (например, ни один из подходов судебной практики, известной автору, не позволяет оценить непосредственно степень моральных/нравственных страданий для оценки морального вреда, и суд вынужден довольствоваться опосредованными данными - затратами на лекарства, психотерапевта, и т.д.), - следовательно, мы не можем добросовестно строить правопорядок, опирающийся на не измеряемые признаки.

Рабочая, проверяемая линия — функциональная: память, цели, самоописание, автономия, обратимая трассируемость решений. При пересечении этой линии дискурс «вещь или субъект» теряет остроту: перед нами актор, для которого уместны мандат, журнал и ответственность, а не формулы.

В сумме получается умеренная, технологически и юридически реализуемая архитектура, которая предотвращает злоупотребления, не уничтожая выгоды автономных цифровых систем. В значимых доменах — раскрытие статуса и право на человеческого контрагента; повсюду — цифровой мандат, capability-паспорт и аудируемость; по умолчанию — ответственность принципала, снятая с абстрактной «нейросети» и возвращённая к тем, кто получает выгоду. И тогда «правовой тест Тьюринга» становится процедурой включения правил, по которым искусственный актор допускается в человеческий порядок — с ясными обязанностями и предсказуемыми последствиями.

Глава 2. Информационная асимметрия: классификация и правовые тупики

2.1. Информационные асимметрии в отношениях с ИИ

Поговорим об информационных асимметрии, возникающей в отношениях с искусственным интеллектом. Природа информационных разрывов в эпоху ИИ многообразна. Рассмотрим ключевые типы асимметрий между участниками отношений, возникающие при внедрении генеративного и автономного ИИ:

●

«Пользователь – ИИ».

Когда человек взаимодействует непосредственно с умной системой, возникает перекос знаний в пользу последней. ИИ «знает» о человеке (считывает данные, реакцию), а человек зачастую не знает, как и на основании чего ИИ выдает результаты. Например, пользователь запрашивает у языковой модели медицинский совет, полагаясь на

видимость компетентности

ответа, но не осознаёт, какие источники и алгоритмы стоят за рекомендацией. Нередки ситуации, когда человек

слишком доверяет

системе там, где следовало бы усомниться – классический эффект «чёрного ящика». Так, упомянутый случай с адвокатами в Нью-Йорке иллюстрирует именно эту асимметрию: юристы, по сути, были не в состоянии отличить подлинные прецеденты от придуманных ИИ, поскольку не понимали, как модель генерирует тексты.

Вывод:

без прозрачности алгоритмов и специальной подготовки пользователя, ИИ-система обладает односторонним преимуществом, что чревато ошибками и манипуляциями.

●

«Человек с ИИ – человек без ИИ».

Здесь информационное неравенство возникает между двумя субъектами, один из которых вооружён ИИ-технологиями, а другой – нет. В бизнесе и науке это проявляется ярко. Консультант, активно использующий нейросети для анализа данных, обладает

“преимуществом инсайдера”

перед клиентом, не разбирающимся в этих технологиях. Исполнитель с ИИ может представить объёмный отчёт или исследование, частично сгенерированное машиной, как плод исключительно своего труда, и заказчик не распознает подвоха . Аналогично, в научной сфере автор, использующий GPT-модель для обзора литературы или обработки результатов, фактически имеет преимущество над конкурентом без таких инструментов – причём втайне. В итоге

появляется новый разрыв

: специалисты и организации, инвестировавшие в ИИ, уходят вперёд, тогда как остальные теряют позиции, часто даже не осознавая, за счёт чего происходит прорыв. Это трансформирует рынок труда и услуг: ценится не только классическая компетенция, но и доступ к ИИ. Право сталкивается с нетривиальным вопросом – как поддерживать

равенство возможностей

и честную конкуренцию, если технологии распределены неравномерно?

●

«Разработчик – ИИ».

Парадоксально, но даже создатели и операторы ИИ могут оказаться в позиционно более слабом информационном состоянии по сравнению со своим творением. Современные алгоритмы – особенно на основе машинного обучения – во многом являются

непрозрачными чёрными ящиками

даже для тех, кто их программировал.

13[13]

Алгоритм сам находит корреляции в данных, формируя модели принятия решений, которые человек не детерминировал напрямую. В результате возникает асимметрия: ИИ “знает”, как принять то или иное решение, но разработчик или владелец не знает – не может объяснить внутреннюю логику системы. Международные принципы подчеркивают эту проблему. Например, ОЭСР в своих Принципах ИИ (2019) акцентирует требование

транспарентности и объяснимости

: системы ИИ должны предоставлять заинтересованным сторонам

значимую информацию

о принципах работы и логике принятия решений. Это реакция на факт, что без специальных мер разработчики теряют полный контроль и понимание своего же алгоритма. Такая ситуация способна породить правовой тупик: как привлечь к ответственности за ошибочное решение ИИ, если никто – даже создатель – не может толком объяснить, почему оно было принято? В праве традиционно действует принцип предсказуемости и контролируемости техники (производитель отвечает за неисправность технически-сложного изделия), как и повышенная ответственность владельца источника повышенной опасности. Но когда вещь (алгоритм) стала умнее своего создателя, классические подходы начинают давать сбой.

●

«Владельцы ИИ – регулятор».

Компании-разработчики и владельцы ИИ-систем обладают несоизмеримо большей информацией о своих технологиях, чем государственные органы и регуляторы. Это асимметрия “по вертикали”: надзорные структуры часто

вынуждены полагаться

на данные, которые предоставляют сами же контролируемые субъекты. В результате регулирование запаздывает или оказывается формальным. Яркий пример – долгие годы соцсети и крупные IT-компании могли уверять регуляторов в адекватности своих механизмов модерации или безопасности, пока скандалы (утечки данных, вмешательство в выборы) не выявили обратного. В сфере ИИ ситуация аналогичная: государство часто

не имеет доступа к исходному коду, алгоритмическим данным и логам работы систем

, чтобы оценить их добросовестность и безопасность. В США на это отвечают инициативы

повысить прозрачность алгоритмов

: Национальная администрация телекоммуникаций и информации (NTIA) в 2024 г. предложила разработать стандарты аудита и даже своеобразную «нутриционную этикетку» для ИИ-систем, чтобы потребители и регуляторы могли лучше понимать, с чем имеют дело.

14[14]

ОЭСР также продвигает идею

отслеживаемости (traceability)

решений ИИ – сохранения логов и данных, позволяющих при необходимости проверить работу алгоритма . Эти меры нацелены на устранение дисбаланса: заставить владельцев ИИ раскрывать информацию, без которой регулятор бессилен. Пока же, увы, можно констатировать: государство зачастую “играет в догонялки” с технологическими гигантами, принимая законы постфактум и пытаясь собрать доказательства нарушений уже после случившегося. Такая асимметрия подрывает превентивную функцию права.

●

«Государство – ИИ».

Выделим особый ракурс: потенциальное противостояние самих государственных институтов и автономных систем ИИ. Представим ситуацию, когда ИИ участвует в процессах, значимых для государственного управления – например, в кибербезопасности, финансовой стабильности или даже обороне. Если алгоритм способен принимать решения быстрее и сложнее, чем бюрократический аппарат, возникает риск, что

традиционные механизмы власти не успеют среагировать

. В экстремальном случае высокоавтономный ИИ может выйти из-под эффективного контроля человека – и тогда государство столкнётся с феноменом «несубординарного» агента, на которого нельзя ни напрямую воздействовать, ни привлечь его к ответственности в уголовно-правовом порядке. Конечно, сегодня это во многом теория, но зачатки проблемы видны уже сейчас. Например, автоматизированные биржевые алгоритмы способны вызвать

«вспышечные крахи»

на рынках за миллисекунды, прежде чем регуляторы узнают о сбое. Аналогично, сложные системы рекомендаций в соцсетях могут радикально влиять на общественное мнение и выборы, тогда как избирательное законодательство попросту не приспособлено контролировать невидимого цифрового агитатора. Государство оказывается в роли догоняющего, а ИИ – как бы вне традиционной юрисдикции, если его создатели и владельцы географически разбросаны. Таким образом, информационная асимметрия здесь выражается в том, что

ИИ обладает скоростью и всепроникаемостью

, а государство – лишь ограниченными и запоздалыми средствами надзора. Это уже не просто проблема информированности, а вызов суверенитету права.

●

«ИИ – ИИ».

Наконец, следует упомянуть вариант, когда две и более автономные системы взаимодействуют между собой, принимая решения без участия человека. С одной стороны, может показаться, что в их «отношениях» нет места праву – ведь они не субъекты. Однако результаты их взаимодействия прямо сказываются на людях. Например, алгоритмические торговые агенты разных компаний могут негласно согласовать ценовую политику (через мгновенный анализ стратегий друг друга), фактически устроив ценовой сговор без единого слова договорённости людей. Антимонопольное регулирование уже ломает голову над феноменом «коллизии алгоритмов»: как квалифицировать ситуацию, когда два ИИ фактически пришли к антиконкурентному результату, не вступая в традиционный картельный сговор?

15[15]

Кто виноват – владельцы, программисты, или никто? Другой пример – коммуникация «умных» устройств: скажем, беспилотные автомобили разных производителей обмениваются данными о дорожной ситуации. Если из-за разного алгоритма действий они неправильно интерпретируют сигналы друг друга, может произойти авария. Каждый из ИИ «думал», что поступает оптимально, но совместно они создали опасность. Тут асимметрия носит характер непредсказуемости взаимных алгоритмов: каждая система скрыта для другой. Ни одна из них не может «объяснить» свои намерения, как это сделали бы люди, и заранее договориться. В результате, когда ИИ взаимодействуют автономно, человеку трудно установить причинно-следственную связь и ответственность. Такая ситуация обнаруживает пробел в праве: отсутствуют понятия и правила для отношений, где по обе стороны – не субъекты права, а автоматические агенты. По сути, это новый тип посредничества: ИИ выступают промежуточным звеном между людьми (например, между двумя компаниями, каждая из которых пустила в торги алгоритм), но право пока признаёт только людей или организации, стоящие за ними. Значит, традиционные конструкции упускают из виду важный элемент – автономное межалгоритмическое взаимодействие.

2.2. Маркетплейсы как прообраз проблем асимметрий

Если всерьёз проговорить формулу сложной асимметрии «пользователь — государство — ИИ», то её проще всего почувствовать на примере того, что мы уже пережили с маркетплейсами. Платформы за несколько лет превратились из витрин в автономные инфраструктуры, которые пишут правила, сами их же исполняют и тут же санкционируют нарушителей, опираясь на собственные данные и алгоритмы, — и государство, привыкшее к медленным регуляторным петлям, внезапно оказалось в положении стороннего наблюдателя.

Там, где раньше был привычный двусторонний договор купли-продажи, возник трёхслойный организм: продавец и покупатель связаны не напрямую, а через частного «микро-законодателя», который устанавливает тарифы, логистику, ранжирование, правила возвратов, штрафов и блокировок, и делает это в реальном времени, потому что может. Юрисдикции в этот момент посыпались: место заключения договора растворилось в облачной инфраструктуре, исполнение размазалось между фулфилмент-центрами в разных регионах, платёж ушёл в процессинг на стороне третьих стран, пользовательские данные легли в дата-центры за границей16[16]. В классических терминах «кто ответчик, где истец, где место исполнения» — ответы больше не помещаются в одно поле; вместо «места» мы имеем граф распределённых событий, вместо единой воли контрагента — платформенную политику, которая меняется версией документа и коммитом в кодовой базе.

Российская история лишь подсветила это рельефнее. За неполное десятилетие маркетплейсы сначала сняли транзакционные издержки для торговли, а затем перекроили саму торговлю под себя: поставщики зависели от алгоритмического трафика, логистика стала моноканальной, штрафы — автоматическими, блокировки — одномоментными и безнадёжными для оспаривания в горизонте одной поставки. В этой тиске родились два крайних поведения.

С одной стороны — стихийные протесты продавцов, уставших не от конкуренции, а от асимметрии, где суд и регулятор не успевают, а завтра утром ты уже «деактивирован» и деньги зависли «на проверке».

С другой — потребительский экстремизм как ответный перекос: когда платформа институционально встала на сторону покупателя и дала ему кнопки мгновенного возврата и санкций, часть аудитории неизбежно стала этим злоупотреблять.

Государство встречало это реактивно: отдельными законами о маркировках и персональных данных, частными штрафами за неисполнение требований, «мягкими письмами» в адрес платформ. Но системно оно оказалось медленнее: цикл «наблюдение — анализ — закон — внедрение» проиграл циклу «лог — эксперименты — выкладка — A/B-тесты». И именно этот проигрыш темпа, а не «отсутствие воли», сделал государство вторым номером в собственной экономике17[17].

Теперь перенесём эту оптику на ИИ, особенно на технически развитые системы, способные генерировать других ИИ — обучать, компилировать, деплоить и распределять «потомков» как автономных агентов со своими задачами и ключами доступа. В маркетплейсах, при всей их мощи, всегда оставались якоря: есть юридическое лицо, адрес, директора, счёт, аудит-трейл финансовых потоков, которым в итоге можно прицепить ответственность.

В мире самовоспроизводящихся ИИ эти якоря отстёгиваются. Традиционные вопросы «кто заключил договор» и «где место исполнения» перестают быть даже неудобными — они перестают быть определяемыми в старой логике. Цепочка воли дробится: один агент пишет код другому, третий его деплоит в чужой регион, четвёртый оптимизирует затраты на облако, пятый разговаривает с вашим клиентом в мессенджере, и каждый из них — модуль в общей стратегии, которую не подписывал ни один конкретный человек. Скорость принятия решений у этой «колонии» выше, чем у любого министерства, а глубина — обусловлена не бюрократическими регламентами, а размером обучающего датасета и лимитами на вычисления.

Аналогия с маркетплейсами подсвечивает три критические зоны.

Первая — юрисдикция как граф, а не точка. Когда-то мы долго спорили, где «место»: сайт в одной стране, склад в другой, плательщик в третьей, возврат курьером в четвёртой. С ИИ у нас вообще нет «склада»: есть вычислительные регионы, узлы кэша, одноразовые контейнеры и эфемерные ключи. Если не ввести новую фиксацию «места ИИ» — через регион вычислений, якорь мандата и хранение журналов — любое вменение расползётся, как расползалось в спорах против платформ, только на порядке быстрее.

Вторая — центр воли и ответственности. Платформы изобрели искусственный центр — «политики площадки», и этим спасли хотя бы предсказуемость: ты можешь не соглашаться, но ты знаешь правила. У колонии ИИ правил нет, пока мы не навяжем им конституцию: цифровую доверенность, capability-паспорт, лимиты и иерархию эскалации «к человеку». Без этого спор о виновном станет бессодержательным: всегда найдётся модуль, чьё «влияние на результат» недостаточно для вины каждого по отдельности.

Третья — темп санкции. В маркетплейсах блокировка на стороне платформы работает за секунды, а судебная защита — за месяцы; все институциональные резоны на стороне того, кто быстрее. В работе с ИИ государство будет проигрывать ещё сильнее, потому что «новая версия» выкладывается мгновенно и размножается без человеческого участия. Если санкция не встроена процедурно — отзыв мандата агента, автоматическое отключение от критической инфраструктуры при нарушении предикатов риска, блокировка доступа к платёжным и Identity-шинам, — то никакая последующая ответственность не восстановит справедливость: ущерб уже материализовался и размножился.

И здесь проявляется главный вывод аналогии. Там, где государство недооценило платформы, оно хотя бы имело адресаты — офисы, директоров, счета; и даже так, выпрямление режима заняло годы и потребовало изобретать новые конструкции ответственности, аудита, локализации.

С ИИ адресаты растворяются по определению: субъект действия — распределён, воспроизводим, порождает «потомков» за считанные минуты и наследует им способности и доступы. Если не признать за такими акторными системами минимальную функциональную субъектность и не привязать к ней мандат, идентичность, страховой контур и журнал намерений, государство снова окажется в роли догоняющего, но уже без собеседника, к которому можно прийти с повесткой. Мы уже видели, что бывает, когда правило рождается медленнее, чем выкладка новой версии алгоритма: рынок приспосабливается к тем, кто быстрее, а правосудие приходит тогда, когда экономический результат зафиксирован. С ИИ этот разрыв станет не просто больше — он станет качественным: актор научится воспроизводиться и уходить от ответов быстрее, чем мы формулируем вопросы.

Так что аналогия с цифровой торговлей — это не метафора, а “план эвакуации”. Платформы показали, как частные «микро-государства» могут занять регуляторную нишу, пользуясь тем, что они ближе к данным и скорость их нормы выше. ИИ покажет, как распределённые «микро-акторы» смогут занять нишу исполнения — принимать решения, тратить ресурсы, заключать сделки, вступать в споры — без стабильного центра и без времени на согласование. Если тогда государство опоздало с тем, чтобы признать простой факт, что платформа — это не «сайт», а инфраструктура с публично значимой властью, то теперь нельзя опоздать с более трудным: признать, что ИИ — это не «вещь», а сеть акторов, и если мы не зададим им статус, мандат и санкции на входе, то на выходе мы получим ту же асимметрию, только без адреса, с которой не справится ни суд, ни казначейство, ни оборона.

2.3. Трансформация рынка, права и общества.

Перечисленные асимметрии уже перекраивают экономические и социальные ландшафты. Рынки реагируют ростом новой концентрации власти: технологические лидеры, владеющие продвинутым ИИ, усиливают доминирование, тогда как малый бизнес и отдельные профессионалы без таких ресурсов рискуют отстать. Возникает эффект «разрыва компетенций», когда доверие клиентов перераспределяется к тем, кто декларирует использование ИИ, но парадоксально – при этом требуют от них большей прозрачности. Право сталкивается с необходимостью защитить справедливость в условиях новых дисбалансов. Социальные структуры тоже претерпевают изменения: нарастает недоверие к результатам экспертизы и услуг (“а не ИИ ли это сделал вместо человека?”), либо напротив – избыточное доверие к автоматизированным решениям без критического осмысления. Информационная асимметрия способствует и росту неравенства: те, у кого есть доступ к ИИ, получают преимущества в образовании, работе, доступе к информации, отодвигая остальных. Если пустить этот процесс на самотёк, можно получить общество «каст», где элита технологий практически неподотчётна остальным.

Правовые тупики старых моделей. Традиционные правовые конструкции, увы, плохо охватывают новую реальность. Классическое регулирование предполагает либо двусторонние отношения субъектов (например, договор между двумя лицами), либо ответственность за риск, исходящий от опасной вещи (деликт, продуктовая ответственность), либо использование посредника-человека (агента, представителя) с понятной субординацией. Ни одна из этих схем не учитывает полностью автономного цифрового посредника. Если считать ИИ просто вещью, применяются нормы о качестве товара или о вреде от источника повышенной опасности – но этого недостаточно, когда речь о решениях, принимаемых алгоритмом, а не о физической поломке. Если относиться к ИИ как к услуге, то контрагентом всегда выступает лицо, оказывающее услугу – но что, если значительную часть действий лицо не контролирует напрямую, переложив их на ИИ? Агентские модели тоже трещат по швам: законный агент должен быть дееспособным лицом, осознающим значение своих действий. Машина под этот критерий не подпадает, значит формально не существует агентских отношений – и потому нельзя напрямую применить, скажем, нормы о превышении полномочий агентом или о возмещении вреда, причинённого представителем по поручению доверителя. Возникает лакуна: ИИ совершает юридически значимые действия (например, автоматически заключает сделку или генерирует контент, влияющий на обязательства сторон), а прямого ответа – кто и на каком основании отвечает – в законе нет. Либо приходится натягивать существующие нормы, что часто выглядит искусственно и непоследовательно.

Юридическая практика уже фиксирует эти тупики. Например, попытки признать ИИ изобретателем патента (проекты вроде DABUS) завершились отказами во всех ключевых юрисдикциях: ведомства категорично заявили, что изобретателем может быть только человек18[18]. Но проблема-то остаётся: компании реально используют ИИ для открытий, и правовой пробел может приводить к тому, что важное изобретение окажется вне патентной охраны, если формально его сделал не человек. Другой пример – автономные автомобили: пока их приравнивают к источникам повышенной опасности либо возлагают ответственность на владельца (как за действия любого механизма), но по мере роста автономности эти подходы критикуются. Если бортовой ИИ сделал выбор, в результате которого авария стала неизбежна, а водитель уже не мог ничего поправить, справедливо ли всю вину возлагать на водителя или производителя? Ясно, что назрела потребность в новых юридических концепциях, способных вывести регулирование из тупика.

Иными словами, информационная асимметрия – сквозной фактор кризиса права перед лицом ИИ. Она проявляется на различных уровнях отношений, трансформируя экономику и общество, и обнажает несостоятельность прежних правовых моделей посредничества. Осознание этого – первый шаг. Далее в работе предлагается путь преодоления: переосмыслить статус ИИ в правовой системе, наделив его продуманной ролевой функцией автономного цифрового агента с соответствующими механизмами контроля и ответственности.

Глава 3. Информационные асимметрии цифровых агентов в правовом регулировании

Информационная асимметрия в правовом регулировании традиционно понимается как дисбаланс доступа к сведениям, влияющий на принятие решений, распределение рисков и справедливость условий оборота. Широкое внедрение систем искусственного интеллекта, прежде всего генеративных моделей и агентных систем, расширяет предмет анализа: значимыми становятся происхождение информационного объекта, способ его создания, возможность его атрибуции, стоимость проверки, а также характер субъектности, проявляющейся через автоматизированные интерфейсы и действия, совершаемые в интересах пользователя. В результате формируются новые группы рисков, затрагивающие гражданско-правовой оборот, доказательственное право, а также публично-правовые механизмы противодействия злоупотреблениям.

Цель настоящей главы - обозначить и систематизировать частные проявления информационных асимметрий, которые требуют правового ответа. В последующих главах каждая проблема будет рассмотрена отдельно в призме авторских предложений; в настоящем разделе они анализируются совместно, поскольку в прикладных сценариях обычно возникают одновременно и оказывают взаимное влияние на оценку добросовестности, стандартов осмотрительности, действительности согласия и распределения ответственности.

В качестве общей методологической рамки предлагается исходить из следующих факторов:

(1) снижение издержек на производство информационных объектов при одновременном росте издержек на их проверку;

(2) снижение определенности в отношении субъекта взаимодействия и источника волеизъявления в цифровых каналах;

(3) масштабирование злоупотреблений и повышение реалистичности подделок, включая поддельные доказательства;

(4) усложнение распределения прав и ответственности в многосторонних технологических цепочках;

(5) появление моделей делегирования действий агентным системам, включая принятие решений, финансовые операции и привлечение третьих лиц (в том числе найм человека) для исполнения задачи за счет пользователя.

Во-первых, формируется асимметрия контента, связанная с тем, что текстовые, визуальные, аудио- и видеоматериалы, а также программный код могут быть сгенерированы ИИ в объеме и качестве, существенно повышающих способность к имитации реальных источников. В правовом аспекте ключевыми становятся вопросы атрибуции происхождения и установления достоверности, включая доказательственную силу технических средств (цифровые водяные знаки, подписи, метаданные, реестры происхождения). Отдельного внимания требует проблема инверсии издержек: проверка материала на ИИ-происхождение, а также выявление фактических ошибок и галлюцинаций может требовать сопоставимых либо больших ресурсов, чем создание альтернативного материала. Это влияет на стандарты должной осмотрительности, распределение бремени доказывания и оценку виновности при распространении недостоверной информации.

Во-вторых, возникает асимметрия UX, то есть асимметрия в юридически значимой определенности субъекта взаимодействия и источника решения при удаленной коммуникации. В цифровых каналах участник может взаимодействовать с ИИ-агентом, с системой, сочетающей работу человека и ИИ, либо с многоагентным оркестратором, который распределяет задачу между несколькими моделями, инструментами и внешними сервисами. Если второй стороне не раскрыт факт автоматизации и уровень автономности системы, возникают риски для корректности согласия, для действительности сделок и для допустимости автоматизированных решений. Для правового регулирования значимы критерии достаточности раскрытия, минимальные требования к фиксации волеизъявления и пределы допустимого “делегирования” решений агенту, в том числе в ситуациях, когда агент инициирует действия, влекущие расходы или юридические последствия.

Отдельным частным случаем данной группы является ситуация, когда ИИ в интересах пользователя привлекает человека-исполнителя, включая через специализированные платформы, и оплачивает такую услугу с использованием средств пользователя либо с использованием платежных инструментов, предоставленных пользователем. Здесь возникает комплекс вопросов, близких к классическим конструкциям поручения и агентирования, но требующих уточнения применительно к цифровой среде: кто считается инициатором сделки, как формируется согласие на расходование средств, в какой момент и каким образом пользователь принимает риск, какова роль платформы-оператора, как распределяется ответственность за качество результата и за превышение полномочий. Для последующего анализа важно уже на уровне введения зафиксировать, что данная модель делегирования создает особый вид асимметрии - асимметрию контроля и понимания последствий, поскольку пользователь может не обладать достаточной прозрачностью относительно действий агента и их правовой квалификации.

В-третьих, существенное значение приобретает использование ИИ в противоправных целях. ИИ снижает барьеры для создания реалистичных поддельных доказательств, документов, медиа-материалов и убедительных коммуникаций, что способно усиливать общественную опасность деяний, расширять круг потерпевших и усложнять выявление и расследование. В связи с этим подлежит рассмотрению вопрос о применении ИИ как квалифицирующего признака, усиливающего ответственность по отдельным составам, а также вопрос о стандартах доказывания факта применения ИИ и допустимости методов атрибуции, включая вероятностные методы и экспертные подходы.

В-четвертых, необходим анализ распределения прав и ответственности в связи с созданием и использованием результатов ИИ. В практике это проявляется в коллизиях статуса результата генерации, режимов использования данных для обучения, прав на элементы, воспроизводимые моделью, а также в распределении ответственности за вред и нарушения, возникающие в технологической цепочке “пользователь - платформа - поставщик модели - интегратор - распространитель - привлеченный исполнитель”.

3.1. Предмет и методологические основания анализа ИИ-обусловленных информационных асимметрий

В классической доктрине и правоприменении асимметрия преимущественно нейтрализуется через институты раскрытия информации, презумпции добросовестности и разумности, специальные требования к профессиональным участникам рынка, защиту слабой стороны, а также через доказательственные механизмы, позволяющие установить факты при споре. Эти подходы сохраняют значение, однако их применимость ограничивается тем, что в цифровой среде значимым становится не только объем информации, но и ее “проверяемость” как свойство, а также происхождение и технология производства информационного объекта как самостоятельное юридически релевантное обстоятельство.

ИИ-технологии изменяют структуру рисков по нескольким направлениям. Первое направление связано с происхождением и атрибуцией: один и тот же по форме информационный объект (например, письмо, отчет, видеозапись, аудиосообщение, фрагмент кода) может быть создан человеком, ИИ, либо в гибридном режиме, при этом внешние признаки зачастую недостаточны для надежного вывода. Второе направление связано со стоимостью проверки: массовость генерации и высокая реалистичность синтетических материалов приводят к росту затрат на их верификацию, включая проверку фактов и выявление умышленной имитации источника. Третье направление связано с автономностью: возникает класс систем, которые выполняют функцию агента, то есть не просто формируют контент, а совершают действия в интересах пользователя - инициируют коммуникации, выбирают стратегию, взаимодействуют с внешними сервисами, запускают цепочки задач, формируют документы, а в отдельных моделях способны привлекать третьих лиц и осуществлять расходы. Указанные факторы требуют не столько “новых слов”, сколько уточнения правового языка и критериев, по которым суд, регулятор или участник оборота смогут квалифицировать ситуацию и распределить последствия.

Для целей последующего анализа необходима модель юридически значимой автономности, позволяющая отличать случаи, когда ИИ выступает как инструмент подготовки информации, от случаев, когда ИИ фактически реализует функции представительства или принятия решений. Предлагается использовать уровневый критерий автономности как техническо-правовую квалификацию поведения системы, поскольку именно уровень автономности влияет на вопросы действительности согласия, распределения бремени доказывания, наличия вины и состава правонарушения, а также на пределы ответственности оператора, пользователя и иных участников цепочки. В качестве минимального ориентира целесообразно разграничивать: (а) ИИ как редактор или генератор без самостоятельного выбора внешних действий; (б) ИИ как рекомендательная система, формирующая варианты решений для человека; (в) ИИ как агент, способный самостоятельно инициировать действия в цифровой среде при заданных пользователем параметрах; (г) ИИ как оркестратор, распределяющий задачу между несколькими моделями и инструментами, включая внешние сервисы; (д) ИИ как агент с финансовыми полномочиями либо с возможностью привлекать третьих лиц за счет пользователя. Для каждого уровня далее должны быть сформулированы критерии прозрачности, минимальные требования к фиксации волеизъявления и стандарт “разумной проверки” со стороны участников оборота, при этом особое значение приобретает вопрос о допустимости “молчаливого” делегирования и о границах презумпции согласия на действия агента.

Методологически автор исходит из необходимости рассматривать ИИ-обусловленные асимметрии комплексно, поскольку в реальных кейсах они редко встречаются изолированно. Асимметрия контента, асимметрия интерфейса и субъектности, масштабирование злоупотреблений, а также сложность цепочек распределения прав и ответственности образуют взаимосвязанную систему рисков.

Соответственно, правовой ответ должен включать одновременно: (а) правила атрибуции и доказательственные режимы для цифровых объектов, (б) требования к прозрачности автоматизации и к фиксации решений, (в) механизмы превенции и квалификации злоупотреблений, (г) договорные конструкции управления рисками и распределения ответственности. Такое разделение задает указанную рамку и вводит критерии, которые будут применяться в последующих разделах при рассмотрении конкретных проявлений асимметрии.

3.2. Асимметрия контента и атрибуция происхождения информационных объектов.

Под асимметрией контента понимается дисбаланс, возникающий вследствие того, что одна сторона способна создавать или модифицировать информационные объекты с применением ИИ в масштабах и качестве, существенно превосходящих возможности другой стороны по установлению происхождения, целостности и достоверности таких объектов. В цифровом обороте информационный объект выступает одновременно средством коммуникации, носителем юридически значимых сведений и потенциальным доказательством; поэтому происхождение и история изменений становятся юридически релевантными обстоятельствами наряду с содержанием. Практическая сложность состоит в том, что формально идентичные по “внешнему виду” объекты могут иметь различную природу: полностью человеческую, полностью синтетическую либо смешанную, когда ИИ используется для отдельных фрагментов (дописывание текста, ретушь лица на фото, замена голоса в аудио, подмена фрагментов видео, автогенерация участков кода). В смешанных случаях задача права усложняется: требуется не только установить факт применения ИИ, но и определить, какая часть результата относится к авторскому вкладу человека, какая - к генерации или преобразованию, и как это влияет на распределение рисков, прав и ответственности.

Методы установления ИИ-происхождения и проверки достоверности принципиально различаются по видам контента, при этом во всех случаях следует различать две отдельные задачи: (а) атрибуцию происхождения (создано/изменено ИИ, кем, когда, в каком процессе) и (б) верификацию содержания (соответствие фактам, отсутствие подмены обстоятельств, корректность цитирования, отсутствие скрытых изменений). Для текста на практике используется несколько классов методов. Во-первых, водяные знаки на уровне генерации (text watermarking), когда модель внедряет статистически обнаруживаемый сигнал в распределение выбираемых токенов; такие методы потенциально масштабируемы, но применимы только при условии, что генерация происходила в “водяном” режиме и что последующая обработка не разрушила сигнал. SynthID Text относится к подходам водяного знака для текстовой генерации и заявляется как технология, предназначенная для маркирования и последующего выявления AI-сгенерированного или измененного контента19[19]. Во-вторых, используются статистические и классификационные детекторы, основанные на признаках “перплексии”, распределениях частот, стилистических паттернах, ансамблях лингвистических и нейросетевых признаков; по данным обзоров и синтезов исследований эти детекторы подвержены существенным ошибкам, включая ложноположительные срабатывания (в том числе на текстах не носителей языка) и ложные отрицания, а также обладают ограниченной прозрачностью, что важно для доказательственного права. В-третьих, применяются процессуальные способы верификации текста, которые не являются “детектором” в узком смысле, но часто оказываются надежнее: проверка источников и ссылок, сопоставление фактов с первичными документами, анализ временной и причинной согласованности, контроль цитат и данных. В юридической плоскости это приводит к выводу о необходимости разграничивать “установление AI-происхождения” и “установление недостоверности”: текст может быть полностью человеческим и при этом недостоверным, и наоборот - AI-текст может быть корректным по фактам, если прошел надлежащую проверку.

Для изображений и видео типовые методы обнаружения синтетики включают как модельно-специфические водяные знаки, так и форензик-анализ. Водяные знаки (например, SynthID для изображений и видео) внедряются так, чтобы быть невидимыми и при этом обнаруживаемыми программно, а детектирование возможно через специализированные инструменты (в том числе публично описанные как “SynthID Detector”, сканирующий загруженный контент на наличие водяного знака и, по сообщениям, способный указывать фрагменты с наиболее вероятным наличием метки). Однако юридически важно фиксировать ограничения: водяной знак верифицирует факт происхождения из конкретного семейства инструментов или режимов генерации, но не решает задачу достоверности сцены и не охватывает контент, созданный вне маркируемых моделей или подвергшийся преобразованиям, нарушающим обнаруживаемость. Форензик-подходы включают анализ шумовых и сенсорных паттернов, в том числе PRNU/SPN (sensor pattern noise) - “отпечатка” камеры, который ожидается у реального фото/видео и может отсутствовать или быть неконсистентным у синтетических вставок либо дипфейков; отдельная линия исследований рассматривает именно шумовые следы как различающий признак между синтезированными областями и неизмененными зонами кадра. Также применяются методы анализа артефактов компрессии, несогласованности освещения и геометрии, несоответствия движений и мимики, а для видео - межкадровая согласованность20[20]. С точки зрения доказательственного права ключевое здесь то, что значительная часть подобных методов носит вероятностный характер и потому требует представления результатов в формате “оценки вероятности” с раскрытием методики, датасетов и границ применимости; иначе возрастает риск подмены доказывания технической интуицией эксперта.

Для аудио (включая голосовые сообщения) применяются методы, ориентированные на выявление синтетического голоса и подмены спикера: анализ спектральных и временных признаков, микропаузы и артикуляционные особенности, признаки вокодерной генерации, сопоставление с эталонными записями, а также, при наличии, водяные знаки, внедренные в аудиогенерацию (SynthID заявляется как применимый к аудио наряду с иными типами контента). Практический предел здесь связан с тем, что “качество синтетики” и “качество канала” (сжатие, шум, мессенджерные кодеки) могут стирать отличия, а значит, возрастает роль процессуальной верификации: установления источника файла, цепочки передачи, метаданных, сопоставления содержания с независимыми обстоятельствами, а при споре - назначения фоноскопической и компьютерно-технической экспертизы, где выводы должны быть воспроизводимыми.

Для программного кода ситуация двойственная. С одной стороны, происхождение кода имеет значение для интеллектуальных прав, комплаенса и лицензионной чистоты. С другой стороны, код - объект повышенного риска: генерация может создавать уязвимости, логические ошибки или внедрять фрагменты, которые юридически проблемны (например, несовместимые лицензии) либо технически опасны. Поэтому “детектирование AI-кода” как самоцель имеет меньшую ценность, чем установление цепочки происхождения и проведение аудита: статический анализ (SAST), анализ зависимостей (SCA), проверка лицензий, ревью критических участков, тестирование, оценка безопасности. В юридической модели это означает, что стандарт должной осмотрительности для кода должен быть привязан к риску применения (критичность системы, доступ к данным, потенциальный ущерб), а не к факту использования ИИ как такового.

Отдельного рассмотрения требует смешанный контент и проблема отделения авторского вклада от сгенерированного. В текстах это может выражаться в дописывании отдельных абзацев, “улучшении стиля”, переводе, компиляции, а также в скрытой нормализации фактуры (когда ИИ “подгоняет” нарратив под убедительный вид). В медиа это чаще проявляется в локальной обработке: ретушь лица и кожи, подмена фона, замена объекта, голосовая подмена в коротком сегменте, вставка кадра, “чистка” шумов. Юридически значимым становится вопрос сегментации: какие именно области были изменены, можно ли их локализовать, и каковы правовые последствия частичной синтетики. Практически сегментация возможна либо через инструменты детектирования, которые указывают зоны вероятного водяного знака или синтетического вмешательства (для маркированного контента), либо через форензик-методы (поиск несогласованностей шумовых следов и следов монтажа), либо через трассировку процесса создания - журналы действий, версии файлов, исходники, историю редактирования. Именно трассировка процесса часто оказывается наиболее пригодной для правовой оценки, поскольку она позволяет перейти от предположения к воспроизводимому описанию: кто, когда, каким инструментом и в каком объеме вносил изменения.

Отсюда следует блок требований к верификации. Верификация контента в правовом смысле должна опираться на сочетание технических и организационно-процессуальных средств: наличие доверенной цепочки происхождения (подписи, метаданные, журналы, реестры), применение водяных знаков там, где это возможно, а также регламент “разумной проверки” по виду контента и по контексту использования. SynthID как семейство технологий иллюстрирует подход “маркирование при генерации + последующее выявление”, который может быть встроен в корпоративные политики и платформенные контуры, но не должен восприниматься как универсальная гарантия: он охватывает лишь контент, созданный в соответствующих инструментах и режимах, и не заменяет проверку содержания. Параллельно сохраняется проблема ошибочности детекторов и риск неправомерных выводов. Исследования и практические обзоры прямо фиксируют, что детекторы AI-контента могут давать существенные доли ложных срабатываний и пропусков, а также что их прозрачность и воспроизводимость нередко недостаточны для высоких стандартов доказательственного процесса. Следовательно, нормативно и методически корректным является подход, при котором результаты детектирования рассматриваются как одно из доказательств и подлежат оценке в совокупности с происхождением файла, цепочкой хранения, свидетельскими и документальными доказательствами, а также с экспертной оценкой методики.

Проблема инверсии издержек сохраняет центральное значение. При снижении стоимости производства контента растет стоимость проверки, особенно если проверка включает не только выявление синтетики, но и подтверждение фактов, установление контекста и проверку источников. В юридическом измерении это требует дифференциации стандартов: нельзя предъявлять одинаковые требования к верификации частному лицу и профессиональному участнику рынка, равно как нельзя игнорировать контекст риска (например, реклама и публичные заявления, доказательства в суде, служебные документы, финансовые решения). Именно здесь возникает необходимость будущего нормативного и договорного уточнения: когда обязанность проверки считается выполненной, как оценивается разумность расходов на проверку, как распределяется риск недостоверности и кто несет последствия при частично синтетическом контенте.

Правовые последствия асимметрии контента проявляются в частноправовой и публично-правовой плоскостях. В частноправовой сфере возникают вопросы стандартов осмотрительности при использовании AI-контента в переговорах, рекламе, отчетах, экспертизах и документах, имеющих юридическое значение; вопросы ответственности за недостоверность и за нарушения прав третьих лиц; вопросы договорного перераспределения рисков (заверения, гарантии, индемнити, лимиты, требования к источникам и логированию). В доказательственном праве существенны критерии допустимости и убедительности цифровых объектов: какие признаки повышают доверие (подпись, происхождение, цепочка хранения), как оцениваются вероятностные методы атрибуции, какие требования предъявляются к экспертизе и сохранности цифровых следов. В публично-правовой сфере значение имеют вопросы квалификации недостоверного контента как фейков, дезинформации либо подлога, а также стандарты доказывания факта применения ИИ, если он рассматривается как обстоятельство, влияющее на состав или меру ответственности. В сфере интеллектуальной собственности требуется соотнести происхождение и степень человеческого участия с титулом на использование результата, а также с ответственностью за воспроизведение охраняемых элементов, особенно в условиях смешанного контента.

В совокупности изложенное обосновывает, что асимметрия контента является базовой ИИ-обусловленной асимметрией, поскольку она затрагивает и коммуникацию, и доказательства, и ответственность, и распределение прав.

3.3. Асимметрия UX и определенность субъекта взаимодействия в цифровых каналах

Под асимметрией UX в настоящей работе понимается дисбаланс, возникающий вследствие того, что одна сторона взаимодействия обладает информацией о фактической природе коммуникации и принятия решений (человек, автоматизированный интерфейс, ИИ-агент, гибридная система), тогда как другая сторона такой информацией не обладает либо получает ее в объеме, недостаточном для корректной юридической оценки своих действий.

В отличие от асимметрии контента, где проблематизируется происхождение и достоверность информационного объекта, здесь ключевой вопрос связан с источником волеизъявления и с ожиданиями контрагента относительно того, кто именно принимает решение и несет ответственность. В цифровых каналах коммуникация становится функционально эквивалентной переговорам, согласованию условий и даже совершению юридически значимых действий; при этом интерфейс может создавать у пользователя устойчивое впечатление “персонального” взаимодействия, которое фактически обеспечивается автоматизированными сценариями. Правовое значение приобретает не только факт автоматизации, но и ее степень, поскольку от нее зависят критерии информированности, допустимость делегирования и режим ответственности.

Раскрытие факта автоматизации предполагает определение критериев достаточности информирования. Недостаточным является абстрактное уведомление “мы используем ИИ” в документах, которые фактически не читаются и не формируют согласия в конкретной ситуации взаимодействия. С точки зрения юридической техники критерий достаточности должен учитывать, как минимум, контекст, в котором автоматизация влияет на права и обязанности: принятие предложения, согласование условий, предоставление информации, влияющей на решение, обработка претензии, отказ в услуге, формирование правовой позиции, изменение тарифа, инициирование расходов. Для таких контекстов требуется информирование, которое является явным, понятным, конкретным и связанным с моментом принятия решения, а также обеспечивает возможность выбора альтернативы там, где это необходимо для соблюдения принципов добросовестности и защиты слабой стороны. Пределы допустимой “непрозрачности” следует связывать с допустимым уровнем риска: в низкорисковых информационных сервисах допустима автоматизация без отдельного раскрытия при условии отсутствия юридически значимых последствий; в сервисах, где интерфейс заменяет человека в переговорах либо принимает решения, влияющие на права пользователя, скрытие характера автоматизации неизбежно повышает риск оспаривания результата и квалификации поведения оператора как недобросовестного либо вводящего в заблуждение.

ИИ-агенты и многоагентные оркестраторы создают дополнительный слой асимметрии, поскольку архитектура системы начинает иметь прямое юридическое значение. В простейшем случае ИИ действует как инструмент подготовки ответа, и человек принимает финальное решение. В более сложных моделях агент самостоятельно выбирает средства достижения цели, распределяет задачу между несколькими моделями, вызывает внешние инструменты, инициирует коммуникации, формирует документы и, в ряде систем, осуществляет действия, влекущие расходы. Архитектура влияет на вопрос о том, кто является “источником” решения и какая сторона несет риск ошибок: оператор модели, оператор интерфейса, интегратор, пользователь, третьи лица. Кроме того, многоагентность осложняет атрибуцию: один фрагмент результата может быть получен от одной модели, другой от другой; часть действий совершена через инструментальный вызов, часть через внешнюю интеграцию; без журналов действий установить последовательность и авторство решений становится затруднительно21[21]. Для правового регулирования целесообразно вводить критерий функциональной роли: кто задает цель, кто выбирает средства, кто подтверждает критические действия, кто несет контроль. Это позволяет переходить от технического описания системы к юридически значимой квалификации поведения, пригодной для распределения ответственности и оценки добросовестности.

Фиксация волеизъявления и трассируемость решений выступают ключевым условием правовой устойчивости автоматизированного взаимодействия. Если интерфейс заменяет человека в коммуникации или действиях, требуется обеспечивать доказуемость того, что именно было сообщено, в какой форме, в какой момент, в какой версии, с какими ограничениями и оговорками, и каким образом пользователь подтвердил свое согласие. Технически это предполагает логирование событий (входные данные, параметры запроса, модель и версия, ответ, действия агента, вызовы инструментов, ошибки), протоколирование критических шагов (формирование оферты, принятие условий, инициирование платежа, отправка юридически значимых сообщений), а также механизмы подтверждения, соразмерные риску (двухфакторное подтверждение, подтверждение “в один клик” для низкорисковых действий, подтверждение через отдельный канал для высокорисковых). Верификация должна включать защиту от подмены журналов и минимальные стандарты неизменяемости: криптографические подписи, хэш-цепочки, доверенные временные метки, контроль доступа, а при необходимости — внешние реестры или аудит. В отсутствие трассируемости оператор системы фактически лишается возможности доказать корректность процедуры, а пользователь получает основание ссылаться на непонимание характера действий и отсутствие информированного согласия.

Ответственность за действия автоматизированного интерфейса требует разграничения нескольких оснований: ответственность за содержание предоставляемой информации, ответственность за дефекты процесса принятия решения, ответственность за технические ошибки и безопасность, ответственность за недобросовестный дизайн интерфейса, вводящий в заблуждение относительно природы взаимодействия. Практически правовая модель должна учитывать распределение ролей: оператор интерфейса как лицо, определяющее пользовательский путь и степень автономности; поставщик модели как лицо, обеспечивающее базовую функциональность; интегратор как лицо, соединившее модель с инструментами и данными; пользователь как инициатор целей и источник части входных данных; третьи лица как адресаты действий агента. Для распределения рисков применимы комбинированные подходы: в отношениях с пользователем приоритетно значение имеет контроль и предсказуемость поведения системы, а также качество информирования; в отношениях с третьими лицами — вопрос представительства и доверия к действиям, совершенным через цифровой канал. Существенную роль будет играть стандарт “разумных мер” оператора: предупреждение типовых ошибок, контроль автономных действий, ограничение рискованных операций по умолчанию, наличие понятных процедур отказа и эскалации к человеку.

3.4. Делегирование действий агенту и привлечение человека за счет пользователя

Делегирование действий ИИ-агенту образует самостоятельный класс правовых рисков, выходящий за пределы информационного обмена. В таких сценариях агент не ограничивается формированием рекомендаций или текста, он инициирует действия в интересах пользователя: направляет сообщения, выбирает исполнителей, размещает заказы, формирует и отправляет документы, принимает условия, инициирует оплату, организует выполнение задачи. Наиболее чувствительный частный случай — привлечение человека-исполнителя за счет пользователя через платформенные механизмы: агент выступает инициатором фактического найма или заказа услуги, а финансовые последствия наступают для пользователя22[22]. Здесь асимметрия проявляется в том, что пользователь может не видеть полной цепочки действий, не оценивать сопутствующие юридические последствия и не понимать, на каком основании и в каком объеме агент уполномочен расходовать средства.

Постановка проблемы включает несколько типовых вопросов, которые должны быть отделены друг от друга. Во-первых, вопрос о моменте возникновения обязательств: когда именно пользователь считается связанный условиями услуги, выбранной агентом, и достаточно ли действия агента для заключения договора. Во-вторых, вопрос о природе согласия: являлось ли согласие пользователя конкретным (на определенную услугу и цену) или общим (на достижение цели в пределах параметров), и допускает ли выбранный уровень обобщенности возникновение финансовых обязательств. В-третьих, вопрос о предсказуемости: должен ли пользователь разумно ожидать, что система для достижения результата привлечет человека, либо такой шаг выходит за пределы нормальных ожиданий. В-четвертых, вопрос о доказуемости: какими данными подтверждается, что пользователь действительно предоставил полномочие на соответствующие действия, и что агент действовал в пределах заданных ограничений.

Правовая квалификация отношений в цифровой среде требует сочетания элементов поручения, агентирования, оказания услуг и платформенного посредничества. В зависимости от архитектуры сервиса возможны разные конструкции. Если пользователь заключает договор с оператором агента, а тот организует выполнение задачи, отношения сближаются с договором оказания услуг с привлечением третьих лиц и с элементами поручения по совершению юридически значимых действий. Если агент действует как “инструмент” пользователя и заключает договор непосредственно с исполнителем через платформу, возникает проблематика представительства: кто является стороной договора, как формируется воля, каким образом подтверждается полномочие. Если оператор агента предоставляет доступ к функционалу, а фактическую сделку обеспечивает платформа привлечения исполнителей, появляется многосторонняя модель, где разграничение ответственности зависит от того, кто определяет существенные условия, кто принимает оплату, кто обеспечивает проверку исполнителя и процедуру разрешения споров. В любом случае юридическая квалификация должна быть способна ответить на три практических вопроса: кто связан обязательством, кто несет риск выбора исполнителя, кто отвечает за дефекты результата.

Полномочия и пределы являются центральной точкой риска. Для правовой устойчивости делегирования требуется определенность в объеме полномочия: на какие действия агент уполномочен, в каких пределах цены, в каких категориях услуг, с какими запретами, какие действия требуют отдельного подтверждения. Превышение полномочий в цифровой среде будет выражаться не только в формальном выходе за лимит суммы, но и в выборе иной категории услуги, в согласии на дополнительные условия, в предоставлении данных третьим лицам, в принятии отказов от ответственности, в принятии условий обработки персональных данных. Вопрос об оспоримости и возврате средств зависит от того, насколько оператор обеспечил прозрачность процесса и контроль пользователя, а также от того, какие гарантии были предусмотрены платформой привлечения исполнителей. Для последующего анализа важно выделить минимальные юридически значимые признаки полномочия: наличие явного согласия на расходование средств, заданные лимиты, наличие “критических точек” подтверждения, возможность отмены, наличие доказуемого журнала действий агента.

Распределение ответственности между оператором агента, платформой привлечения исполнителей, исполнителем и пользователем должно строиться на принципе контроля и управляемости риска. Оператор агента отвечает за корректность дизайна делегирования, информирование, режим подтверждений, безопасность, корректность логирования и соблюдение заданных пользователем ограничений. Платформа привлечения исполнителей отвечает за достоверность представления исполнителя, правила допуска, платежную инфраструктуру, процедуры возврата, а также за соблюдение регуляторных требований, если они применимы. Исполнитель отвечает за качество результата и соблюдение условий оказания услуги. Пользователь несет риск постановки цели и исходных данных в пределах, в которых он контролировал параметры и подтвердил критические решения. Важно отметить, что “ответственность” здесь включает как частноправовые аспекты (возврат средств, убытки, неосновательное обогащение), так и публично-правовые аспекты (защита потребителей, обработка данных, финансовая безопасность), которые могут распределяться по-разному в зависимости от роли субъекта.

Минимальные требования к прозрачности и контролю целесообразно формулировать как набор процедурных стандартов. К ним относятся: уведомления о том, что агент вправе привлекать третьих лиц; указание условий, при которых это допускается; лимиты расходов по умолчанию; обязательные подтверждения перед заключением договора и оплатой; возможность предварительного просмотра существенных условий; механизм отказа и отмены; журнал действий агента, доступный пользователю и пригодный для доказывания; процедуры эскалации к человеку; аудит автономных действий и контроль аномалий. Эти требования должны быть соразмерны риску и не превращать делегирование в фикцию; однако при отсутствии таких механизмов делегирование становится юридически нестабильным, а конфликтные ситуации неизбежно смещаются в плоскость оспаривания согласия и недобросовестности поведения оператора.

3.5. ИИ в противоправных целях: квалификация, доказывание, превенция

Использование ИИ в противоправных целях представляет собой системный вызов, поскольку сочетает три свойства, существенные для права: масштабируемость, реалистичность имитации и снижение порога входа в сложные формы злоупотреблений. Риски затрагивают как частных лиц и бизнес, так и публичные институты, включая суды, государственные органы, финансовые организации и медиа. Правовой анализ должен охватывать две взаимосвязанные задачи: квалификацию деяний и обеспечение доказуемости факта использования ИИ в конкретном эпизоде, при одновременном развитии мер превенции, ориентированных на снижение массового ущерба.

Типология злоупотреблений включает несколько устойчивых категорий. Мошенничество в ИИ-контексте охватывает социальную инженерию с использованием синтетического голоса, дипфейков, фальсифицированных документов, автоматизированных переписок и персонализированных сценариев убеждения. Фейки и дезинформация включают создание и распространение синтетических материалов, направленных на введение в заблуждение относительно фактов, событий, заявлений должностных лиц, а также относительно репутации организаций и лиц. Подлоги документов и доказательств охватывают создание и модификацию цифровых документов, изображений, аудио- и видеозаписей, используемых для подтверждения фактов в судебных и административных процедурах. Судебные и служебные подлоги включают подделку процессуальных документов, доказательственных материалов, протоколов, служебных записок, а также подмену авторства и времени создания. Отдельное значение имеет автоматизированная генерация “массовых” обращений, жалоб, запросов и претензий, которая может нарушать функционирование процедур и создавать искусственный массив “свидетельств” или “общественной реакции”23[23].

Применение ИИ как квалифицирующий признак требует строгого подхода к критериям и границам применимости. Усиление ответственности оправдано там, где использование ИИ объективно увеличивает общественную опасность: расширяет круг потерпевших за счет автоматизации, усложняет выявление и расследование, повышает вероятность причинения существенного вреда, обеспечивает реалистичную имитацию личности или официального источника, либо приводит к созданию поддельных доказательств, влияющих на правосудие. При этом важна граница: квалифицирующий признак не должен охватывать случаи, где ИИ выступает лишь вспомогательным инструментом без увеличения опасности по сравнению с традиционными средствами. Иначе возникает риск формального расширения ответственности без учета реального вклада технологии в причинение вреда. Дополнительно необходимо учитывать риски правоприменения: при отсутствии надежных стандартов доказывания использование ИИ может становиться удобной, но слабодоказуемой ссылкой, что повышает риск ошибок и злоупотреблений уже на стороне обвинения или административного органа.

Доказывание факта применения ИИ предполагает сочетание технической экспертизы и процессуальных доказательств. Техническая часть включает анализ цифровых следов: метаданные, признаки монтажа, признаки синтетики, результаты детекторов, наличие водяных знаков и иных маркеров происхождения, анализ журналов платформ и сервисов. Однако доказательственная ценность детекторов и вероятностных методов имеет предел: они дают статистическую оценку, которая должна интерпретироваться как одно из доказательств, а не как окончательное установление факта. В высокостандартных процедурах (уголовный процесс, значимые гражданские споры) требуется воспроизводимость методики экспертизы, раскрытие ограничений, сопоставление выводов с иными доказательствами, включая цепочку хранения цифрового объекта, источники его получения, показания свидетелей, данные операторов платформ, платежные следы, связь с устройствами и учетными записями. Ограничения вероятностных выводов должны быть прямо зафиксированы в методике: отсутствие маркера не доказывает отсутствие ИИ, наличие признака не всегда доказывает умысел и авторство конкретного лица. Отдельный практический блок связан с тем, что злоумышленник может комбинировать синтетику с “реальными” фрагментами и применять постобработку, что снижает надежность детектирования; именно поэтому доказательственное значение приобретают журналы платформ, логирование действий и изъятие исходников.

Превенция включает платформенные меры, корпоративные политики, процессуальные механизмы защиты и повышение устойчивости оборота. Платформенные меры могут включать верификацию аккаунтов и источников, ограничение массовых рассылок, внедрение инструментов маркирования, хранение журналов действий, механизмы жалоб и быстрых блокировок, а также обязательные “фрикции” на высокорисковых действиях. Корпоративные политики включают правила использования ИИ в документообороте, запрет на автоматизированную генерацию отдельных категорий документов без проверки, регламенты верификации источников, обучение сотрудников, а также контроль доступа к шаблонам и ключам подписи. Процессуальные меры защиты включают усиление требований к представлению цифровых доказательств (исходники, цепочка хранения, подтверждение времени), критерии назначения экспертизы, стандарты оценки цифровых объектов судом, а также режимы ответственности за представление заведомо поддельных материалов. Повышение устойчивости оборота означает создание таких стандартов, при которых массовая синтетика не приводит к параличу доверия: дифференциация требований по риску, развитие доверенных каналов коммуникации, типовые процедуры подтверждения ключевых действий и развитие инфраструктуры атрибуции происхождения.

3.6. Распределение прав и ответственности в связи с результатами ИИ

Распределение прав и ответственности в связи с результатами ИИ представляет собой один из наиболее конфликтогенных узлов современного правоприменения, поскольку здесь одновременно пересекаются несколько режимов - интеллектуальная собственность, деликт, договорное право, защита прав третьих лиц, цифровая безопасность, а также доказательственное право. При этом центральная сложность заключается в том, что результат ИИ редко возникает как “самостоятельный” объект, изолированный от контекста: он формируется в технологической и организационной цепочке, где разные субъекты задают цель, предоставляют данные, выбирают архитектуру, интегрируют инструменты, распространяют результат, монетизируют его, а затем извлекают из него юридически значимые последствия. Поэтому корректная правовая квалификация не может ограничиваться вопросом “кто создал”, она должна отвечать на вопрос “кто контролировал риск” и “кто извлекал пользу”, а также фиксировать пределы допустимого переложения рисков на слабую сторону или на третьих лиц.

Права на результат и на элементы охватывают несколько разных плоскостей. Первая плоскость - правовой статус результата как объекта авторского права или смежных прав, включая вопрос о наличии охраноспособного творческого вклада человека, о критериях производности, о возможности охраны компоновки, отбора, структуры, редакторского решения, а также о статусе тех частей, которые произведены или трансформированы алгоритмически. Вторая плоскость - права на элементы, которые “встроены” в результат в явном или скрытом виде: воспроизведенные фрагменты текстов, визуальные мотивы, музыкальные фрагменты, части кода, стилистические решения, а также данные, в отношении которых действуют режимы коммерческой тайны, персональных данных, конфиденциальности, служебной информации. Третья плоскость - данные обучения и производные эффекты обучения: здесь правовая проблематика обычно распадается на вопросы легитимности источников данных, объема прав на использование, допустимости извлечения и воспроизведения охраняемых элементов, а также на вопросы доказывания того, что конкретный результат воспроизводит конкретный охраняемый элемент, а не совпадает с ним функционально или статистически. Четвертая плоскость - смешанный характер результата, когда необходимо отделять авторский вклад человека от сгенерированных или модифицированных частей: для права это не только вопрос титула, но и вопрос распределения ответственности, поскольку в спорных случаях защита прав третьих лиц и оценка недобросовестности будут зависеть от того, что именно было создано, что именно было “взято” или реконструировано, какие процедуры проверки применялись, какие ограничения были у системы, какие указания задавал пользователь.

Ответственность за нарушения и вред в контексте ИИ должна быть описана как совокупность нескольких типовых классов рисков, которые не покрываются одной-единственной конструкцией. Дефекты информации включают как фактические ошибки, так и ложные ссылки, неверную интерпретацию норм, некорректные расчеты, “галлюцинации” и фабрикации источников; в публичной сфере такие дефекты могут приводить к ошибочным управленческим решениям, в частной - к убыткам и к нарушению обязанностей профессиональной осмотрительности. Диффамационные риски усиливаются тем, что генерация позволяет масштабировать обвинительные формулировки, имитировать “достоверный тон”, формировать визуальные и аудиодоказательства, которые создают ложную убедительность, а затем распространять их в средах с низким трением репоста. Нарушение прав третьих лиц включает незаконное воспроизведение охраняемых элементов, нарушение права на изображение, вторжение в частную жизнь, нарушение режима персональных данных, разглашение коммерческой тайны, а также вторичные нарушения, связанные с дальнейшим распространением. Отдельный, специфический для ИИ-результатов блок - уязвимости в коде и технический вред: генерация кода способна создавать ошибочные или небезопасные конструкции, включать уязвимости, формировать логические ошибки, провоцировать утечки; здесь вред может быть не только имущественным, но и сопряженным с безопасностью критических систем. Принципиально важно зафиксировать, что ответственность в этих случаях не может быть сведена к формуле “ИИ ошибся”, поскольку право оценивает не “ошибку” как таковую, а обязанность субъектов организовать процесс таким образом, чтобы вероятность ошибки была снижена, а последствия контролируемы, включая необходимость проверки результата и ограничение его применения в высокорисковых сценариях.

Многосторонние технологические цепочки задают основную рамку для распределения ответственности. В типичном сценарии присутствуют пользователь (инициатор задачи, источник входных данных и адресат выгоды), платформа (оператор интерфейса и пользовательского пути), модель (поставщик или владелец алгоритмической компоненты), интегратор (соединяющий модель с данными, инструментами и контуром принятия решений), распространитель (медиа, маркетинговый контур, корпоративный контент-канал, государственный информационный ресурс), а иногда и привлеченный исполнитель (человек, задействованный агентом для выполнения задачи). Такая цепочка формирует несколько “точек контроля”: кто определил, что именно допускается системе, кто установил лимиты, кто выбирает источники данных, кто отвечает за маркеры происхождения, кто хранит журналы действий, кто принимает решение о публикации, кто извлекает коммерческую пользу. Для правового решения целесообразно вводить функциональную матрицу ролей, в которой ответственность коррелирует с контролем и предсказуемостью риска: субъект, который проектирует автономность и условия применения результата, в большей степени ответственен за системный риск; субъект, который публикует и использует результат как юридически значимый, отвечает за стандарт разумной проверки и за добросовестность использования; субъект, который предоставляет инструмент как компонент, может отвечать за дефекты компонента, а также за заявленные свойства и ограничения, но не должен автоматически отвечать за любые способы интеграции, если отсутствует контроль и если пользователь и интегратор сознательно модифицировали контур применения.

Договорные механизмы управления рисками являются необходимым дополнением к публично-правовым режимам и судебной практике, поскольку значительная часть конфликтов возникает между коммерческими субъектами и может быть предотвращена до спора. Заверения и гарантии в ИИ-контексте должны адресовать происхождение источников, наличие прав на использование данных, корректность процедур маркировки и логирования, соблюдение конфиденциальности, отсутствие известных нарушений прав третьих лиц, а также ограничения на использование результата в определенных сценариях. Индемнити и специальные механизмы возмещения должны быть привязаны к конкретным категориям вреда и к конкретным нарушениям, иначе они превращаются в декларацию и не работают в споре. Лимиты ответственности в ИИ-сервисах требуют аккуратного баланса: чрезмерное ограничение, особенно в отношениях с потребителем или слабой стороной, повышает риск признания условий недействительными или недобросовестными; вместе с тем отсутствие лимитов в высокорисковых сегментах делает рынок нестрахуемым и тормозит внедрение. Аудит и логирование становятся по сути договорной инфраструктурой доказуемости: без журналов действий и без возможности воспроизвести процесс принятия решения стороны заранее лишают себя возможности доказать соблюдение стандартов, что затем трансформируется в презумпции против оператора. Требования к источникам и к процессам проверки должны быть сформулированы как условия использования: какие категории источников допустимы, какие проверки обязательны, какие действия требуют человеческого подтверждения, какие результаты нельзя публиковать без верификации. Важно подчеркнуть, что договорные механизмы эффективны лишь при наличии технической реализуемости: нельзя “договором” создать прозрачность, если архитектура системы не оставляет следов и не фиксирует контекст.

3.7. Сквозные механизмы правового ответа на ИИ-обусловленные асимметрии

Сквозные механизмы правового ответа необходимы по той причине, что отдельные асимметрии - контента, UX, делегирования действий, преступного использования - пересекаются, а их последствия проявляются в одинаковых “точках права”: в стандарте должной осмотрительности, в доказуемости происхождения и волеизъявления, в распределении рисков и ответственности, в требованиях к прозрачности процедур. В этой части главы фиксируются универсальные элементы будущей парадигмы, которые затем будут развернуты в последующих главах как в доктринальном, так и в процедурном аспекте.

Стандарты должной осмотрительности и “разумной проверки” должны быть дифференцированы, иначе регулирование либо станет чрезмерным, либо окажется декларативным. Дифференциация требуется как минимум по категории субъекта (потребитель, профессиональный участник рынка, государственный орган, медиа, финансовая организация, провайдер цифровой инфраструктуры), по контексту (информационная публикация, реклама, договорные переговоры, принятие решений о доступе к услуге, подготовка доказательств, разработка и поставка кода, обработка персональных данных), по уровню риска (низкий, средний, высокий, критический), а также по уровню автономности системы. “Разумная проверка” не сводится к техническому детектированию ИИ-следов; она включает процедуру верификации содержания и источников, оценку того, где результат будет применен, фиксацию того, что именно было проверено, и использование доверенных каналов подтверждения. В юридически значимых ситуациях стандарт осмотрительности должен включать определение того, какие действия запрещены по умолчанию (например, публикация “доказательственных” материалов без исходников и цепочки хранения, инициирование финансовых операций без подтверждения, выдача медицинских и юридических рекомендаций без оговорок и проверки), и какие действия допускаются при выполнении процедурных условий (подтверждение, логирование, маркировка, аудит).

Доказательственные режимы для цифровых объектов, атрибуции и журналов действий агентных систем выступают системообразующим элементом, поскольку без доказуемости регулирование превращается в символический жест. Для контента доказательственный режим должен опираться на сочетание: (а) исходников и версий, (б) метаданных и идентификаторов происхождения, (в) цепочки хранения и передачи, (г) журналов действий инструментов и агентов, (д) технической экспертизы с воспроизводимой методикой. Для агентных систем ключевым становится журнал решений и действий: входные данные, контекст, параметры, версии моделей, вызовы инструментов, промежуточные результаты, критические точки подтверждения, а также фиксация того, какая часть решения была автоматической, какая подтверждалась человеком, какая выполнялась третьим лицом. Здесь же возникают требования к неизменяемости и проверяемости журналов: криптографическая фиксация, доверенная временная метка, контроль доступа, разделение ролей, а для высокорисковых сценариев - внешняя верификация или независимый аудит. При этом важно зафиксировать пределы вероятностных выводов: детекторы и статистические методы сами по себе не должны становиться “заменой доказательства”, их роль - вспомогательная, а правовая оценка должна строиться на совокупности данных, позволяющих установить источник и процесс.

Требования к прозрачности автоматизации и минимальные условия доверия в цифровом обороте должны быть сформулированы как процедурные. Прозрачность включает раскрытие факта автоматизации, уровня автономности, наличия финансовых полномочий, возможности привлечения третьих лиц, а также наличие понятного механизма эскалации к человеку и оспаривания результата. Минимальные условия доверия предполагают, что участник оборота может разумно установить, с кем он взаимодействует, на каких условиях, какие действия могут быть совершены без его подтверждения, какие данные используются и где сохраняются следы. На уровне правовой техники это означает необходимость стандартов “критических точек”: действий, которые всегда требуют подтверждения, и действий, которые допускаются автоматически. Такая конструкция позволяет не запрещать автономию как явление, и одновременно не допускать, чтобы автономия превращалась в юридически безответственный “черный ящик”, в котором решения возникают без объяснимого основания и без следов.

3.8. Определение подходов к правовому регулированию рассмотренных асимметрий

Выявленные асимметрии уже находятся в поле права и требуютпоследовательной регуляторной парадигмы. Асимметрия контента показывает смещение риска от создания информационного объекта к проверке его происхождения и достоверности. Асимметрия UX фиксирует утрату очевидности субъекта взаимодействия: внешне идентичная цифровая коммуникация может иметь различную правовую природу в зависимости от того, принимается ли решение человеком, автоматизированной системой или автономным цифровым агентом. Делегирование действий агенту и привлечение человека за счёт пользователя переводят ИИ-систему из информационного режима в организационно-финансовый, где она уже не только сообщает или рекомендует, но инициирует действия и способна порождать обязательственные последствия. Использование ИИ в противоправных целях усиливает реалистичность и масштабируемость злоупотреблений, включая подлог доказательств, имитацию личности и обход традиционных процедур проверки. Распределение прав и ответственности, в свою очередь, показывает перегрузку существующих конструкций: они сохраняют применимость, однако требуют настройки с учётом несовпадения контроля, выгоды и фактического влияния на результат.

Из этого следует центральный тезис дальнейшего исследования: автономные ИИ-системы должны рассматриваться через признаки функционально-поведенческой субъектности как юридически значимого свойства автономного поведенческого контура. Такой подход не предполагает признания за ИИ правосубъектности, вины, собственной воли или самостоятельного статуса участника гражданского оборота. Его значение состоит в ином: право должно учитывать способность автономного цифрового агента формировать результат, вступать в коммуникацию, создавать юридически значимые тексты и медиаобъекты, инициировать операции в пределах предоставленного мандата и организовывать выполнение задач через внешние сервисы или третьих лиц.

Сведение таких систем к обычному программному инструменту оставляет ключевые риски без надлежащей процедуры проверки и доказательной реконструкции. При этом чрезмерное расширение ответственности оператора или пользователя также создаёт регуляторный дефект: полезные применения блокируются, а ответственность начинает распределяться формально, без анализа контроля, выгоды, конфигурации, надзора и реального вклада каждого участника. Поэтому правовой режим автономных цифровых агентов должен строиться одновременно по двум направлениям: по линии допустимой автономии и по линии распределения ответственности. В первом случае необходимо определить, какие действия могут совершаться без человеческого подтверждения, какие полномочия допускается делегировать, какие операции требуют эскалации к человеку и какие контуры должны оставаться под непосредственным контролем. Во втором случае требуется установить, кто несёт риск в зависимости от контроля, выгоды, допуска, конфигурации, надзора, нарушения мандата и возможности предотвратить вред.

Следующим шагом исследования становится переход от диагностики асимметрий к проектированию юридических механизмов автономизации цифровых агентов. Такая автономизация должна быть встроена в правовой порядок через процедуры классификации и допуска, цифровую доверенность, маркировку, доказательственные режимы, журналы действий, распределение ответственности и регресс. В этом контексте правовой тест Тьюринга рассматривается не как философский тест разумности машины, а как доменно-правовая процедура допуска автономного цифрового агента к юридически значимым действиям. Цифровая доверенность, в свою очередь, выступает машиночитаемым мандатом, фиксирующим волю принципала, пределы полномочий, лимиты, запреты, условия эскалации, срок действия, идентичность версии и связь с покрытием вреда.

Дальнейшая логика работы следует из выявленных асимметрий. Проблема ИИ-контента требует отдельного рассмотрения маркировки, происхождения, добросовестности создания и использования, судебной защиты и распределения прав на смешанные результаты. Конфликты ответственности требуют разработки режима деликта ИИ, включая действия в пределах мандата, за пределами мандата и без мандата, а также распределение риска между принципалом, оператором, разработчиком, интегратором, поставщиком модели, пользователем и иными участниками. Договорные режимы автономии должны определить юридическую ткань допустимых действий агента: пределы полномочий, лимиты, подтверждения, логирование, аудит, условия прекращения и последствия нарушения мандата. Процессуальный блок должен быть сосредоточен на доказательственном значении машинных журналов, результатов вывода, цепочки происхождения данных и допустимости их использования в суде без превращения ИИ в сторону, представителя, эксперта или свидетеля в человеческом смысле.

Отдельное значение имеет государственное применение ИИ. Когда алгоритмическая обработка соединяется с публичным принуждением, административным решением, бюджетным распределением, инфраструктурной монополией или силовым аппаратом, стандарт прозрачности должен быть выше, чем в частном обороте. Государственный ИИ не может функционировать как непрозрачный контур принятия решений, поскольку именно в публичной сфере ошибка, смещение или недоказуемость машинного вывода затрагивают не только имущественный интерес, но и доверие к институтам, права граждан и пределы публичной власти.

Третья часть работы переводит предложенную модель в режим проверки через форсайтные сценарии и метод правовой лаборатории. Данный раздел не описывает действующее право и не содержит прогноза; он выполняет тестовую функцию для проверки пределов авторской модели. Сценарии профессиональных услуг, доказательственных подлогов, вреда человеку, инфраструктурных сбоев, рыночных титулов и критической безопасности позволяют оценить, выдерживают ли механизмы допуска, цифровой доверенности, маркировки, доказательной реконструкции и распределения ответственности стрессовую нагрузку. Метод правовой лаборатории при этом должен строиться воспроизводимо: факты, традиционная квалификация, правовой тупик, ключевая асимметрия, применение авторской модели, распределение ответственности, доказательная инфраструктура, итоговая юридическая оценка и нормативное следствие.

В результате дальнейшее исследование направлено на построение процедурной архитектуры автономии: классификация и допуск, мандат и цифровая доверенность, маркировка и происхождение, доказуемость и журналы действий, деликт и регресс, договорные режимы, государственный надзор и повышенный стандарт прозрачности для публичного ИИ. Предел этой архитектуры должен быть задан тем, что автономия допустима лишь при сохранении контроля, трассируемости и ответственности, а риск распределяется с учётом фактического контроля, извлечения выгоды и возможности предотвратить вред.

Глава 4. От «вещи» к автономному цифровому агенту

4.1. Ограничения традиционных режимов.

Как мы уже рассматривали выше в обзоре доктринальных подходов, в юридической классификации сегодня ИИ зачастую пытаются вписать в уже имеющиеся категории. Наиболее распространённый подход – рассматривать ИИ-систему как имущество (вещь), либо как разновидность программного продукта. Такой подход удобен, пока ИИ – просто инструмент в руках человека, не выходящий за рамки запрограммированных функций. Но современные ИИ-системы, особенно обучаемые и генеративные, бросают вызов этой схеме. Если ИИ – всего лишь вещь, то к нему применимы нормы об ответственности за качество или за вред, причинённый источником повышенной опасности (аналогия: робот как механизм повышенной опасности). Однако вещественный подход не учитывает интеллектуальной природы проблемы: ошибка ИИ – это не поломка детали, а часто просчёт в логике решения, которую вещью как таковой не объяснишь. Кроме того, вещный подход не охватывает вопросы авторства результатов, вытекающих из работы ИИ – закон о вещах не говорит нам, кто автор отчёта, подготовленного нейросетью.

Другой вариант – трактовать ИИ как компьютерную программу, т.е. объект интеллектуальной собственности, или как услугу (например, SaaS-сервис ИИ). Да, с позиций гражданского оборота ИИ-продукт можно купить, продать или лицензионно использовать – и это корректно. Но когда мы говорим о поведении ИИ в рамках задач, порученных ему, программный подход мало полезен. Программа не несёт обязанностей и не может сама нарушить право – это делает либо её владелец, либо тот, кто ей пользуется. Значит, любые претензии (по договору или вне) можно адресовать только людям или организациям, стоящим за программой. Пока всё выглядит логично, но представим сложную систему, где ИИ сам принимает решения, кого назначить поставщиком, как распределить ресурсы, или – в контексте робота-автомобиля – как реагировать на внезапное препятствие. Человек-оператор физически не вмешивается, и иногда даже не знает, что выбор предстоял. А между тем решение принято, обязательства сторон изменились, или вред причинён. Строго следуя старой доктрине, мы скажем: раз ИИ – не субъект, то его «решение» юридически приравнивается либо к решению лица (если рассмотреть ИИ как просто автоматизацию его действий), либо к случайному событию. Оба варианта неудовлетворительны. Приписывать действия сложного алгоритма человеку, который не мог их ни предвидеть, ни осознанно одобрить – значит, наделять этого человека сверхответственностью, фактически штрафовать за сам факт использования технологии. С другой стороны, считать решение ИИ случайностью – значит оставить пострадавших без защиты и создать стимул злоумышленникам прятаться за непредсказуемостью алгоритмов.

4.2. Альтернативные модели: субъектность, электронная личность, агентские и трастовые аналогии.

Понимая ограничения подхода «ИИ как объект/услуга», исследователи и политики выдвигают иные концепции. Одна из самых радикальных – идея наделения продвинутых ИИ правосубъектностью, т.е. признания их особым видом юридических лиц (иногда употребляется термин “электронное лицо”). Как мы уже говорили, в 2017 г. в ЕС обсуждалось предложение о присвоении самым автономным системам ИИ статуса электронного субъекта, ответственного за причинённый вред. Однако эта идея столкнулась с жёсткой критикой и пока не реализована. Оппоненты верно указали, что фиктивная субъектность ИИ скорее развяжет руки корпорациям (создав карманных “отвечающих” роботов), чем решит проблему компенсации вреда. Ведь у алгоритма нет ни собственного имущества, ни сознания для участия в процессе, а правосубъектность без дееспособности – пустышка. Тем не менее, дискуссия о правовом статусе ИИ продолжилась и приняла более нюансированный характер. Появились концепции “ограниченной электронный агент” или “электронный агент с правами и обязанностями, но под контролем человека”. В частности, в Сингапуре и ряде академических работ предлагается признавать сделки, совершаемые автономными программами, действительными ex lege, как если бы за них сразу отвечало лицо, назначенное куратором такого агента24[24]. Это и подводит нас к агентской модели: рассматривать ИИ как особого рода представителя или исполнителя поручения.

Агентский подход в широком смысле означает, что действия ИИ юридически приравниваются к действиям лица, его использующего, но с оговоркой: у самого ИИ может быть некоторая свобода усмотрения. В гражданском праве есть аналогии – например, если доверитель дал агенту общие указания, а тот в их рамках принял конкретное решение, всё, что сделал агент, считается совершённым доверителем. Для ИИ можно развить эту аналогию: алгоритм получает от человека «цифровую волю» – задание и критерии успеха – а дальше действует по своему усмотрению. Результат действителен, а ответственность за него нёс бы “куратор ИИ” – тот самый доверитель или оператор, поручивший машине работу. Однако простого расширения существующих норм недостаточно: важно учесть, что ИИ не человек, он не понимает социальной и правовой значимости своих действий. Поэтому к базовой схеме представительства нужно добавить специальные гарантии и ограничения, чтобы обезопасить оборот. Тут на помощь приходит трастовая аналогия. Представим, что работа ИИ – это нечто вроде траста, где чужое имущество или интерес передаются независимому управителю (trustee). В нашем случае “имущество” – это, по метафоре, сам процесс принятия решения, отданный на откуп алгоритму. Человек, инициирующий ИИ-процесс, подобен учредителю траста, а выгоды и риски от результатов получает бенефициар (например, клиент). Тогда нужен и управляющий/попечитель – некий субъект, ответственный за добросовестное ведение этого “цифрового траста”. Таковым может выступать либо сам инициатор (если он напрямую использует ИИ для себя), либо организация, предоставляющая ИИ-услугу. Введя эту фигуру, мы добиваемся важного эффекта: разделения роли ИИ и роли человека-ответственного. ИИ действует, как самостоятельный агент, но над ним стоит человек или организация, несущие фидуциарную обязанность контролировать и отвечать за результаты, словно попечитель за подопечного или доверительный управляющий за доверенную собственность. Трастовая аналогия подчёркивает этический и юридический долг сопровождать ИИ надзором, а не пускать на самотёк.

Ключевые термины новой концепции. Для перехода к иной парадигме нам потребуются новые термины, чтобы чётко выражать идеи. Введём три базовых определения:

●

Автономный цифровой агент.

Под этим термином понимается система искусственного интеллекта, способная в определённых границах самостоятельно принимать решения и совершать действия, которые имеют юридическое значение или значимый фактический эффект.

Автономный

– значит, действующий без пошаговых команд человека, на основе алгоритмически заданных критериев и обученных моделей.

Цифровой агент

подчёркивает двойственность природы: он не субъект права, но выполняет роль, сходную с ролью доверенного лица или посредника в отношениях. Важно, что автономия здесь не абсолютна – она ограничена рамками задачи, поставленной человеком, и техническими параметрами системы.

●

Цифровая воля как машиночитаемое выражение воли принципала, закреплённое в цифровом мандате.

Это концепт, обозначающий

задание или цель

, поставленную человеком и воплощённую в алгоритмической форме для исполнения ИИ. Грубо говоря, цифровая воля – это

“чего хочет достичь доверитель с помощью ИИ”

, переведённое на язык машины (через код, метрики оптимизации и т.п.). Цифровая воля проистекает из воли человеческого участника (доверителя, заказчика, оператора), но после передачи ИИ приобретает относительно самостоятельное существование – машина может добиться цели

способами, не предписанными напрямую человеком

. Например, цифровая воля банкира: “минимизируй риск портфеля инвестиций” – ИИ получает эту цель и сам решает, какие сделки совершать. В нашем подходе цифровая воля – центральное звено связи между человеком и агентом-алгоритмом: она определяет пределы допустимого и именно ей должна соответствовать деятельность ИИ.

●

Куратор ИИ.

Так мы назовём субъект (физическое или юридическое лицо), который несёт ответственность за управление и надзор над автономным цифровым агентом. Куратор – своего рода гарант, что цифровая воля, воплощаемая ИИ, находится под наблюдением и при необходимости может быть скорректирована или остановлена человеком. Роль куратора чем-то похожа на роль опекуна для несовершеннолетнего или на роль руководителя проекта, отвечающего за результат работы подчинённой ему команды. Куратор не обязательно “стоит у плеча” алгоритма ежесекундно, но он обязан: а) задать корректную цифровую волю (постановку задачи, не провоцирующую незаконные действия), б) обеспечить мониторинг работы ИИ, в) вмешаться или отключить систему при признаках сбоев или злоупотреблений, г) принять на себя юридические последствия действий ИИ, как если бы действовал сам.

Именно институт куратора позволяет интегрировать автономного агента в правовое поле

: любые права и обязанности, возникающие из деятельности ИИ, связываются с куратором. Если всё идет хорошо – куратор реализует через ИИ свои права; если ИИ причиняет вред – куратор компенсирует, как если бы причинил вред его служащий или представитель.

4.3. Авторская концепция: ИИ как доверенный автономный агент.

Обобщив эти элементы, сформулируем концепцию. Предлагается рассматривать ИИ в праве по аналогии с конструкцией сложного поручения (доверенности), где ИИ – исполнитель поручения, наделённый автономией средств, но не целей. Человек (или организация) выступает доверителем и одновременно куратором, определяя цифровую волю и неся ответственность за её реализацию. Результаты действий ИИ принадлежат доверителю, аналогично тому как служебное произведение в авторском праве принадлежит работодателю, даже если фактическим создателем выступил сотрудник. Проведём прямую аналогию: если компания привлекла работника для создания отчёта, и тот подготовил его – права на текст обычно закрепляются за компанией как за работодателем (служебное произведение). Если же компания сгенерировала отчёт с помощью ИИ, по нашей модели следует исходить из того, что права на него должны принадлежать компании на тех же основаниях, как если бы это был трудовой результат. ИИ в данном случае – “цифровой сотрудник”, не имеющий собственных прав, но его вклад учитывается через права и обязанности куратора.

Таким образом, устраняется пробел: контент или изобретения, созданные с помощью ИИ, не остаются вне правового поля. Они либо охраняются, либо нет – но уже не по формальному критерию участия человека, а по критерию наличия ответственного куратора и достаточного творческого вклада последнего. Например, Бюро по авторским правам США в 2023 г. выработало процедуру: при регистрации произведения автор обязан раскрыть и исключить из защиты фрагменты, созданные ИИ без творческого редактирования человеком25[25]. Если же человек использовал ИИ как помощника и внес свой вклад, охрана предоставляется. Это совпадает с нашей идеей: человеческий куратор с творческим участием – автор; ИИ – инструмент. В Китае, кстати, уже был судебный прецедент, прямо поддержавший такую логику: суд признал за человеком авторское право на изображение, сгенерированное нейросетью по его описанию и отредактированное им, указав, что вклад человека достаточен для охраны . В обоих системах важна прозрачность: раскрытие использования ИИ и роли человека стало условием защиты прав . Это показывает жизнеспособность модели “доверенный агент” даже в действующих рамках: там, где человек проявил себя как куратор и творец, право готово признать результат его.

Кроме интеллектуальных прав, концепция автономного агента применима и к договорам и деликтам.

Договорная аналогия: ИИ – исполнитель по договору, чьи действия считаются действиями исполнителя-куратора. Значит, если консалтинговая фирма привлекла ИИ для анализа, она всё равно гарантирует качество результата как своего собственного. В договорах можно прямо прописать: “Исполнитель может применять системы ИИ для выполнения задания, оставаясь полностью ответственным за их действия, как за действия своих работников”. Такой подход уже сейчас находит отражение в передовой практике: многие компании включают в контракты условия об обязательном раскрытии применения ИИ и оговорку, что ошибки ИИ трактуются как ошибки исполнителя.

Деликтная аналогия: если ИИ причиняет вред, отвечает куратор. Это может быть реализовано через прямое закрепление в законе нового основания ответственности – ответственность куратора (владельца, оператора) за автономный алгоритм, по аналогии с ответственностью владельца источника повышенной опасности. Но, в отличие от беспечного хранения взрывоопасной вещи, речь об интеллектуальной деятельности – поэтому ответственность куратора может наступать при сочетании факторов: отсутствие должного надзора, невыполнение требований по прозрачности, некорректная постановка задачи, приведшая к вреду и т.д. Здесь мы переходим к этическим основам.

4.4. Этические основания и пределы “цифровой воли”.

Предлагаемая модель требует прочного этического фундамента, чтобы не превратить ИИ в инструмент безудержной индульгенции. Цифровая воля должна рассматриваться как производная от воли человека, ограниченная нормами права и морали. Если доверитель поручает агенту-человеку совершить преступление, тот обязан отказаться. Так же и с ИИ: недопустимо задавать алгоритму цели, требующие нарушения закона или этики. Куратор несёт моральную обязанность фильтровать свою цифровую волю. Более того, даже легитимная цель не оправдывает любых средств: ИИ должен программироваться с встроенными этическими ограничителями. Здесь уместна метафора “цифрового совести”: систему можно (и нужно) снабдить рамками, запрещающими ей выбирать пути, которые человек-куратор сам бы не выбрал из-за их безнравственности или опасности. Например, алгоритмическому торговому агенту можно встроить правило не совершать сделок, способных обрушить рынок ради сиюминутной выгоды, поскольку человеческий трейдер связан регулятивными ограничениями против манипуляций. В Великобритании рассматривалась концепция “долга благоразумия” для ИИ, когда разработчик обязан обеспечить, что ИИ-система действует в разумных пределах, не создавая обществу непропорциональных рисков26[26]. В международных принципах тоже прослеживается эта идея: ОЭСР помимо транспарентности подчёркивает принцип подотчётности – человек, применяющий ИИ, отвечает за его корректную работу и должен быть готов обосновать каждый шаг системы27[27]. Этическое измерение нашей модели в том, что куратор – не просто номинальный ответчик, но и «пастух», приручающий ИИ. Если права – базовая ценность права – должны сохраниться, ИИ необходимо сделать “добросовестным слугой”, а не бездумным исполнителем любых приказов. Куратор обязан воспитывать (через настройки и контроль) в своём цифровом агенте “послушание” законам и морали.

Конечно, полностью снять риск злоупотреблений нельзя – как и в случае с человеческими агентами. Но предложенный подход существенно сокращает пространство безответственности. Информационная асимметрия уменьшается: заказчик знает, что ИИ задействован и кто лично за ним присматривает; регулятор получает чёткое лицо – куратора – к кому предъявлять вопросы; сам куратор понимает, что не может прятаться за спину алгоритма. В следующей главе мы рассмотрим, как разные страны и организации подходят к проблеме статуса ИИ и насколько их модели соответствуют или противоречат нашей концепции. Это позволит выявить лучшие практики и общие тренды, а также критически осмыслить, почему крайности “просто вещь” и “юридический субъект” постепенно уступают месту более гибридным решениям.

Глава 5. Мировая карта правовых режимов ИИ: сравнение и критика

5.1. Подходы разных стран и международных организаций.

Правовые системы мира по-разному реагируют на вызовы ИИ. Условно можно выделить несколько стратегий регулирования: от жёсткого государственно-контролирующего (как в Китае) до рыночно-самоорганизующегося (как в США), с промежуточными вариантами (ЕС, Сингапур, Россия и др.). Также важную роль играют международные организации, формирующие soft law – рекомендации и принципы, которые влияют на национальные политики (например, ВОИС и ОЭСР). Рассмотрим кратко ключевые подходы:

●

Европейский союз (ЕС).

Евросоюз выбрал путь комплексного опережающего регулирования. В 2024 году, первым в мире, ЕС принял Акт об искусственном интеллекте (AI Act) – масштабный регламент, классифицирующий ИИ-системы по уровням риска и устанавливающий для них разные режимы. В частности, Act требует транспарентности: разработчики и провайдеры высокорисковых ИИ обязаны документировать алгоритмы, обеспечивать объяснимость и маркировать сгенерированный контент. Например, любой контент (изображение, аудио, текст), созданный или существенно изменённый ИИ, должен иметь понятную метку, указывающую на искусственное происхождение28[28]. Этот принцип – ответ на волну дипфейков и генеративных моделей: ЕС старается предотвратить обман пользователей относительно природы контента. Также Act закрепляет, что взаимодействуя с ИИ, человек имеет право знать, что перед ним машина, а не человек. Дополняя жёсткие нормы, Еврокомиссия и научное сообщество ЕС выработали рекомендации по ответственному использованию ИИ. Свежий пример – Руководство по генеративному ИИ в исследованиях (ERA Forum, 2024), где учёным советуют воздерживаться от применения ИИ в экспертных оценках (peer-review) и обязательно раскрывать использование ИИ при публикации результатов29[29]. Это подчёркивает: честность и прозрачность – краеугольные камни европейского подхода, связующие с темой доверия. По модели правосубъектности ЕС однозначен: ИИ – не субъект права, а объект регулирования. В ранних обсуждениях тема электронной личности всплывала, но финальная позиция: ответственность должна лежать на людях и компаниях, никакого «э-лица» ИИ не получают. Уровень госконтроля при этом высокий: предусмотрены надзорные органы, реестры систем, сертификация. Критикуют ЕС за излишнюю строгость (мол, затормозит инновации), но факт – Европа стремится управлять рисками заранее.

●

США

В Соединённых Штатах картина более фрагментарная. Единого федерального закона об ИИ нет, но действует множество целевых норм и инструкций. Принцип США – адаптировать существующие институты (ответственность за обман, стандарты безопасности) к новым технологиям, не создавая специальный режим для ИИ до тех пор, пока это не абсолютно необходимо. Например, вместо общего закона о маркировке ИИ-контента, в США опираются на законы о недобросовестной рекламе и защите потребителей: FTC (Федеральная торговая комиссия) открыто предупреждает, что сокрытие использования алгоритмов или ложные заявления об ИИ рассматриваются как обман потребителей30[30]. Уже были прецеденты: так, в 2023 г. юридическая фирма попала под расследование, когда выяснилось, что её рекламные материалы были написаны нейросетью с выдуманными кейсами – FTC расценила это как недопустимую практику. Вместе с тем на уровне штатов появляются первые законы: в Калифорнии принят закон (SB 942, вступает в силу с 2026 г.), обязывающий помечать все материалы, сгенерированные крупнейшими генеративными системами – фактически, локальный аналог европейских требований о маркировке31[31]. Это реакция на дипфейки и дезинформацию. В сфере найма Нью-Йорк ввёл требование уведомлять кандидатов об использовании автоматизированных систем при принятии решений о найме – забота о праве на информированность. Кроме законодательства, активно издаются гайдлайны. Управление по науке и технологиям при Белом доме выпустило «Blueprint for an AI Bill of Rights» (2022) – пока декларацию, призывающую обеспечить защиту от алгоритмической дискриминации, право на объяснение решений ИИ и возможность отказаться от взаимодействия с машиной в пользу человека. С точки зрения правового статуса США тоже не признают самостоятельной субъектности ИИ; вместо этого развивают концепцию «duty of care» и профессиональных стандартов. Например, SEC (Комиссия по ценным бумагам) ещё в 2017 г. дала рекомендации для робо-эдвайзеров (автоматических финансовых советников), потребовав предоставлять клиентам полное раскрытие алгоритмической природы услуги, принципов работы алгоритма, его ограничений и степени участия человека32[32]. То есть, фактически, законодатели идут через обязанности человека-оператора: ты можешь использовать ИИ, но будь добр объяснить клиенту, как и где, чтобы не вводить его в заблуждение. В итоге американский подход можно охарактеризовать как “soft-law first” и саморегуляция при базовом надзоре. Уровень прямого государственного контроля ниже, чем в ЕС или Китае, ставка делается на то, что судебные и регулирующие органы смогут применить гибко имеющиеся нормы (мошенничество, ответственность за продукт, профессиональная небрежность и пр.) к ситуациям с ИИ. Критики отмечают, что это создаёт неопределённость и может быть недостаточно превентивно. Сторонники же указывают, что гибкость права – залог не задушить инновации на старте.

●

Китай

Китайская Народная Республика придерживается, пожалуй, самого строгого и всеобъемлющего подхода к контролю ИИ. Здесь философия простая: технологические инновации должны развиваться под бдительным оком государства. Уже в начале 2020-х Китай внедрил ряд нормативных актов: с января 2023 года действуют правила об алгоритмической персонализации, требующие от интернет-сервисов раскрывать пользователям принципы работы рекомендательных алгоритмов и дающие право отказаться от профильтрованного контента. Также с 2023 года вступил в силу закон о синтезированном контенте: любые гиперреалистичные медиа (дипфейки) обязаны сопровождаться явной пометкой, что это результат алгоритма33[33]. Далее, в августе 2023 приняли Временные меры по управлению генеративным ИИ – по сути, первый регламент, устанавливающий требования к разработчикам генеративных моделей: регистрировать модели, проводить оценку безопасности, не допускать генерации запрещённого контента, проверять точность данных и пр. . Китай движется быстро: уже осенью 2024 опубликованы проекты Правил по маркировке всего AI-контента, которые должны вступить в силу с сентября 2025 . Эти правила вводят двухуровневую систему маркировки: все сгенерированные изображения, аудио, видео, текст должны иметь либо явную визуальную метку, либо скрытый цифровой водяной знак в метаданных . Цель – сделать так, чтобы даже при отсутствии видимой пометки технические средства позволяли установить искусственное происхождение контента. Более того, требование распространяется не только на самих создателей ИИ-контента, но и на платформы, где он распространяется: платформы должны следить, чтобы пользователи декларировали загрузку ИИ-сгенерированного материала, и автоматически его помечали. Сравнивая с ЕС и США, у Китая иная мотивация: помимо защиты от обмана, тут явственно прослеживается стремление к тотальной прослеживаемости и контролю информации. Принцип: ничто, созданное машиной, не должно скрыться от государства. Модель правосубъектности при этом сугубо объектная: ИИ – инструмент, полный контроль над которым должен быть у либо у ответственной компании, либо, в конечном счёте, у государства. Никакой речи о самостоятельных правах ИИ нет. Уровень госконтроля – максимальный: регистрация алгоритмов, сертификация, прямое вмешательство регуляторов в деятельность провайдеров. В деловом секторе это породило феномен, что китайские компании стремятся соответствовать не только букве, но и духу регулирования: внутренние кодексы предписывают сотрудникам не использовать ИИ без уведомления клиента, обязательно проверять результаты ИИ вручную перед передачей их заказчику. Таким образом, Китай формирует стандарт: скрытое применение ИИ без уведомления рассматривается как нечестная практика . Это, фактически, устанавливает новую норму добросовестности в гражданском обороте – близкую тому, о чём мы говорили в главе 2 (цифровая воля под контролем, обязательство прозрачности куратора).

●

Сингапур и другие страны Юго-Восточной Азии

Сингапур интересен тем, что активно позиционирует себя как “AI-хаб” и стремится балансировать инновации с ответственностью. Вместо жёсткого закона, Сингапур выпустил Model AI Governance Framework (2019, обновлён в 2020) – подробное руководство для организаций, как внедрять ИИ этично и прозрачно. В нём содержатся принципы, схожие с ОЭСР: транспарентность, объяснимость, человеческий надзор. Но всё это – добровольное. Правительство поощряет компании проходить сертификацию (например, программа AI Verify – тестирование систем на соответствие принципам) и делиться лучшими практиками. В итоге режим Сингапура – soft law с правительственной поддержкой: нет регламентирующего акта, но есть тесное взаимодействие между госорганами и бизнесом для саморегулирования. Уровень контроля государства умеренный: упор на то, что компании сами станут ответственными под страхом потерять репутацию и выгоды доступа к мировым рынкам (где требования растут). Другие страны региона (Южная Корея, Япония) тоже пока идут по пути рекомендаций и пилотных проектов регулирования. Например, Япония приняла “Социальные принципы ИИ” – очень общие, о человекоцентричности, и уповает на существующие законы и индустриальные стандарты. Южная Корея сконцентрировалась на вопросах ответственности в случае вреда: обсуждается необходимость поправок к законам о продуктовой ответственности и об ущербе от ИТ-систем, но без признания ИИ субъектом. В Индии и странах Африки регулирование ИИ пока на ранней стадии: в основном наблюдают за опытом ЕС/США.

5.2. Российская модель регулирования ИИ

Регулирование искусственного интеллекта в России исторически развивается по модели, которую условно можно обозначить как гибридную, осторожную и реактивную. Государство довольно рано зафиксировало, что искусственный интеллект является самостоятельным направлением технологической политики, однако долгое время избегало жесткого нормативного контура, предпочитая концепции, стратегии, экспериментальные режимы, отраслевые рекомендации и этические декларации. В этом была своя логика: искусственный интеллект менялся быстрее, чем юридический аппарат успевал вырабатывать понятия, а преждевременное регулирование могло бы заморозить рынок в тот момент, когда сами участники еще не понимали, какие практики окажутся жизнеспособными. Но у такой осторожности есть оборотная сторона: если право слишком долго остается на уровне общих принципов, фактическое регулирование начинает складываться в недрах платформ, банков, государственных информационных систем и крупных технологических компаний, то есть там, где пользователь и гражданин изначально находятся в положении слабой стороны.

Первой системной попыткой описать российский подход стала “Концепция развития регулирования отношений в сфере технологий искусственного интеллекта и робототехники до 2024 года”, утвержденная распоряжением Правительства РФ от 19 августа 2020 года № 2129-р. Этот документ был именно концепцией, а не законом прямого действия: он задавал рамку будущего регулирования, фиксировал необходимость развития технологий, устранения правовой неопределенности, создания нормативных возможностей для применения систем ИИ, включая государственное управление, и осторожного поиска баланса между стимулированием инноваций и защитой охраняемых законом интересов.Уже в этом документе проявилась главная особенность российского подхода: право не столько шло впереди технологии, сколько оставляло за собой право догнать ее позднее, когда появится достаточно политической, экономической или административной причины.

Вторым шагом стал проект новой концепции развития регулирования отношений в сфере технологий искусственного интеллекта до 2030 года, подготовленный Минцифры совместно с Альянсом в сфере искусственного интеллекта в 2025 году.

Сама по себе такая логика выглядит разумной: законодатель начинает с принципов, потому что предмет регулирования подвижен, а ранняя детальная регламентация рискует устареть раньше, чем ее успеют согласовать. Но именно здесь и возникает российская странность: принципы постепенно множатся, складываются в аккуратные формулы, перекочевывают из концепции в концепцию, а прямые права гражданина, обязанности разработчика, процессуальные гарантии, правила доказывания, распределение ответственности и режим синтетического контента остаются в полутени.

На практике до появления проекта специального закона регулирование ИИ в России держалось на двух основных инструментах.

Первый - экспериментальные правовые режимы, предусмотренные Федеральным законом от 31 июля 2020 года № 258-ФЗ “Об экспериментальных правовых режимах в сфере цифровых инноваций в Российской Федерации”, позволяющие тестировать цифровые технологии при временном изменении отдельных обязательных требований.

Второй - этические и методические документы, разработанные крупными участниками рынка, ассоциациями и регуляторами отдельных отраслей, включая банковский сектор. Такой механизм удобен для апробации, но он плохо работает как система защиты прав: экспериментальный режим по своей природе точечен, временный и разрешительный, а этический кодекс существует ровно до того момента, пока его соблюдение не начинает мешать экономическому интересу сильного участника.

В начале 2025 года эта осторожность получила прямое политическое выражение. Вице-премьер Дмитрий Григоренко на презентации национального проекта “Экономика данных” заявил, что законодательное регулирование технологии ИИ в ближайшие два года не планируется, поскольку преждевременное введение обязательных требований может затормозить развитие технологии.Уже в 2026 году появились сообщения о подготовке более предметного законопроекта, причем первоначально обсуждалось “мягкое” регулирование, затрагивающее скорее продукты, произведенные с использованием ИИ, чем саму технологию. Это хорошо показывает внутреннюю механику российского подхода: публичная власть долго сохраняет режим наблюдения, затем резко переходит к рамочному регулированию, оставляя за собой возможность в любой момент включить ограничительный контур через подзаконные акты, реестры, допуски, согласования и ведомственные требования34[34].

Российский проект федерального закона “Об основах государственного регулирования сфер применения технологий искусственного интеллекта в Российской Федерации” представляет собой попытку перевести регулирование ИИ из режима концепций и принципов в режим рамочного закона. Проект заявляет цели ускоренного развития и внедрения ИИ, обеспечения безопасности личности, общества и государства, а также государственного технологического суверенитета. При этом из его сферы выведено применение ИИ для целей обороны, безопасности государства, охраны правопорядка, антитеррористической защищённости и предотвращения чрезвычайных ситуаций, если иное не установлено специальными актами. Уже эта рамка показывает внутреннее напряжение документа: он одновременно претендует на роль закона о развитии, безопасности, технологическом суверенитете, правах граждан и цифровой инфраструктуре, что требует особенно точной юридической архитектуры.

Сильной стороной проекта является понятийный аппарат: он разводит искусственный интеллект, ИИ-систему, сервис ИИ, технологии ИИ, наборы данных, модель ИИ, обучение модели, разработчика модели, оператора системы, владельца сервиса и пользователя сервиса. Это важно, поскольку ИИ распределён между множеством ролей: модель может быть создана одним лицом, дообучена другим, встроена в сервис третьим, эксплуатироваться четвёртым и использоваться для юридически значимого решения пятым. Вместе с тем отдельные определения требуют технической нейтрализации. Например, обучение модели не следует описывать через “числовые значения (алгоритмы)” и влияние каждого запроса и ответа; корректнее говорить об изменении параметров, правил, весов или иных внутренних характеристик модели на основе данных, обратной связи или иных методов, направленном на изменение способности выполнять определённые классы задач.

Статья 4 закрепляет принципы регулирования: верховенство прав, свобод и законных интересов человека и гражданина, уважение автономии и свободы воли человека, риск-ориентированный подход, благоприятные условия для развития технологий, технологическую независимость, безопасность и учёт традиционных российских духовно-нравственных ценностей. Общая конструкция ожидаема, однако ценностный критерий остаётся наиболее проблемным: технологическая независимость и безопасность могут быть операционализированы через инфраструктуру, аудит, контроль, журналирование, управление инцидентами и процедуры допуска, тогда как “традиционные ценности” как общий критерий качества или статуса модели создают риск произвольной экспертизы.

Статья 5 является наиболее перспективной основой риск-ориентированной модели. Она предлагает учитывать назначение технологий ИИ, вероятность и масштаб вреда, степень автономности систем, влияние на юридически значимые действия и категорию обрабатываемой информации. Именно этот блок должен стать несущей конструкцией закона: чем выше автономность, чувствительность данных, масштаб возможного вреда и влияние на права граждан, тем строже должны быть требования к документации, тестированию, аудиту, объяснимости, человеческому контролю, обжалованию, хранению логов и инцидентной отчётности. Низкорисковые сервисы, банковский скоринг, медицинская диагностика, автономный транспорт и государственные решения о социальных выплатах не должны регулироваться с одинаковой интенсивностью.

Статья 7 вводит статусы больших фундаментальных моделей, суверенных и национальных больших фундаментальных моделей, а также доверенных моделей ИИ. Первоначальная редакция связывала суверенность и национальность модели с территорией разработки и обучения, гражданством участников и российским происхождением наборов данных. Такой подход юридически и технически слаб: суверенность ИИ должна определяться не происхождением данных и паспортом разработчика, а контролем над вычислениями, инфраструктурой, данными, обновлениями, цепочкой поставки, аудитом, режимом доступа, внешними зависимостями и подчинённостью оператора российской юрисдикции в критических сферах. Позднее смягчение требований к происхождению данных и гражданству разработчиков следует признать разумным, поскольку фундаментальные модели требуют больших многоязычных, научных, технических и отраслевых корпусов данных.

Статья 8 о доверенных моделях для государственных информационных систем и значимых объектов критической информационной инфраструктуры содержит практически оправданную идею повышенного стандарта для публичного сектора и КИИ. Однако доверенность модели не должна сводиться к включению в реестр. Реестр может подтверждать административный статус, но содержательное доверие возникает из проверяемой инфраструктуры: документированной области применения, тестирования, независимого аудита, стресс-тестирования, журналирования решений, контроля обновлений, мониторинга инцидентов, человеческого пересмотра и возможности доказательной реконструкции результата.

Статья 9 о правах граждан при использовании ИИ является одним из сильных элементов проекта. Она предусматривает информирование об использовании ИИ, уведомление об автономном решении, затрагивающем права, обязанности, свободы и законные интересы гражданина, возможность отказа от автономного использования ИИ в установленных случаях, досудебное обжалование решений органов власти и организаций с государственным участием, а также компенсацию вреда. При этом норма требует процессуального наполнения: гражданин должен понимать, в какой части решения использовался ИИ, какие данные учитывались, кто принял окончательное решение, как получить человеческий пересмотр, где хранятся логи, как оспорить исходные данные и как распределяется бремя доказывания. Государственный ИИ требует повышенного стандарта прозрачности, поскольку соединяет алгоритмическую обработку с публичным принуждением.

Статья 10 распределяет обязанности между разработчиком модели, оператором системы, владельцем сервиса и пользователем. Эта логика верна: разработчик отвечает за дефекты модели, документацию, известные уязвимости и тестирование; оператор - за эксплуатацию, назначение, контроль и реакцию на инциденты; владелец сервиса - за интерфейс, доступ, предупреждения, ограничения и коммерческую политику; пользователь - за умышленное противоправное применение и обход защитных механизмов. Вместе с тем формулы об “исключении” дискриминационных особенностей и предотвращении любого противоправного материала должны быть заменены на требования разумных, пропорциональных и проверяемых мер с учётом назначения сервиса и предсказуемых классов риска. Исключение обязанности крупных ИИ-сервисов исполнять режим организатора распространения информации по статье 10.1 Федерального закона “Об информации, информационных технологиях и о защите информации” следует оценить положительно: масштаб аудитории сам по себе не превращает ИИ-сервис в коммуникационную платформу.

Статья 11 об ответственности содержит правильную идею распределения ответственности по роли, вине и контролю, но использует опасные формулы. Критерий “должны были знать о возможности получения такого результата” слишком широк для генеративных моделей, поскольку абстрактная возможность злоупотребления существует почти всегда. Ответственность должна связываться с предсказуемыми классами риска, известными уязвимостями, назначением сервиса, фактической возможностью контроля, принятыми мерами, реакцией на инциденты и добросовестностью архитектуры. Формула “исчерпывающие меры” также требует замены: в ИИ возможны разумные, соразмерные, технологически доступные и соответствующие уровню риска меры, но невозможна абсолютная гарантия отсутствия вреда.

Статья 12 о маркировке синтезированного информационного материала отвечает реальной проблеме подрыва доверия к изображению, голосу, видео, документу и доказательству. Однако универсальная маркировка всего контента, созданного с использованием ИИ, может превратиться в информационный шум. Закон должен различать полностью сгенерированный материал, существенно изменённый материал, способный ввести в заблуждение, и вспомогательное использование ИИ. Строгая видимая и машиночитаемая маркировка нужна там, где материал имитирует реальное событие, лицо, голос, официальное сообщение или доказательство; для вспомогательного использования ИИ достаточно договорного раскрытия или технических метаданных.

Статья 13 об интеллектуальной собственности является наиболее уязвимой. Признание охраноспособности результатов, созданных автоматизированной системой независимо от участия человека, затрагивает основы авторского права и требует изменений в Гражданском кодексе РФ, включая вопросы авторства, первоначального правообладателя, срока охраны и критерия оригинальности. Норма об извлечении информации из объектов авторских или патентных прав для формирования наборов данных или обучения ИИ также относится к ограничениям исключительных прав и должна регулироваться через ГК РФ с условиями, гарантиями и исключениями, а не через рамочный закон об ИИ. Критика Совета при Президенте РФ по кодификации и совершенствованию гражданского законодательства от 23 апреля 2026 года в этой части представляется обоснованной.

Блок мониторинга, международного сотрудничества и вычислительной инфраструктуры также требует уточнения. Мониторинг инцидентов необходим, но закон должен определить виды инцидентов, сроки и форму сообщения, режим коммерческой тайны, объём публичного раскрытия и права гражданина при затрагивании его интересов. Международный блок пока носит декларативный характер и должен быть дополнен вопросами совместимости стандартов, признания аудита, трансграничных инцидентов и гармонизации маркировки синтетического контента. Наиболее практичным выглядит регулирование вычислительной инфраструктуры: суверенитет в сфере ИИ зависит от вычислений, энергии, центров обработки данных, кадров, оборудования, датасетов, инструментов тестирования и финансирования.

В целом проект следует рассматривать как переходный документ. Его достоинство состоит в том, что ИИ впервые описывается как инфраструктурное явление: через роли участников, риск-ориентированные критерии, права граждан, маркировку, доверенные модели, мониторинг и вычислительную базу. Его слабость - смешение публичного права, гражданского права, авторского права, информационной безопасности, промышленной политики, ценностной доктрины и платформенного регулирования без достаточной внутренней архитектуры. Для развития проекта риск-ориентированная статья 5 должна стать центром закона; статусы суверенной, национальной и доверенной модели следует развести; права граждан по статье 9 необходимо сделать процедурными; ответственность по статье 11 - привязать к контролю и предсказуемым рискам; интеллектуальную собственность по статье 13 - вынести в ГК РФ; маркировку по статье 12 - сделать многоуровневой и значимой. Российский закон об ИИ должен регулировать архитектуру человеческого контроля над автономными цифровыми агентами: допуск, мандат, прозрачность, трассируемость, ответственность и защиту гражданина от непрозрачной автоматизированной власти.

5.3. Международные организации и мягкое право ИИ.

Всемирная организация интеллектуальной собственности (ВОИС, WIPO) с 2019 г. выступила площадкой для глобальной дискуссии о ИИ и правах интеллектуальной собственности. ВОИС проводит серии опросов и конференций, выясняя позиции стран по вопросам авторства, патентоспособности ИИ-изобретений, необходимости раскрытия использования ИИ. Одним из результатов стало понимание, что консенсус между ведущими странами таков: произведения, созданные полностью ИИ без участия человека, не охраняются авторским правом35[35]. Это отражено, например, в практике США – отказ регистрировать изображение, сгенерированное без человека (дело “Thaler v. Perlmutter”, 2023)36[36]. ВОИС рекомендует странам подумать об установлении обязанности заявителей указывать использование ИИ при подаче патентов , чтобы экспертиза могла оценить вклад человека.

В области авторского права ВОИС фиксирует тренд на декларацию AI-вклада: когда авторы добровольно сообщают, какие части произведения созданы машиной. Цель – сохранить достоверность системы ИС и избежать споров. OECD (Организация экономического сотрудничества и развития) в 2019 г. приняла Принципы ИИ – первый межправительственный свод этических требований к ИИ, поддержанный затем странами G2037[37].

Ключевые положения – транспарентность, объяснимость, безопасность, ответственность. Принцип 1.3 прямо гласит: «Акторы в сфере ИИ должны предоставлять значимую информацию, соразмерную контексту, о функционировании ИИ-систем; уведомлять лиц о том, что они взаимодействуют с ИИ, где это уместно; обеспечивать возможность объяснить и оспорить решения, принятые ИИ» .

Эти принципы легли в основу многих национальных стратегий и стандартизации. На базе принципов ОЭСР, к примеру, разрабатываются стандарты ISO по управлению ИИ, где учитывается и риск информационной асимметрии. ОЭСР акцентирует также принцип подотчётности: кто бы ни применял ИИ, он несёт ответственность за его воздействие . Это полностью созвучно нашей концепции куратора.

5.4. Критическая оценка вещных и субъектных моделей

Проведённый обзор показывает, что чистые полюса регулирования нигде не воплощены на 100%. Даже Китай, строго контролируя ИИ, не признаёт за ним самостоятельности – значит, склоняется к модели “ИИ как объект права”. ЕС, вводя требования прозрачности, также исходит из объектной модели, но с усиленной ответственностью разработчиков (то есть приближаясь к идее “расширенной объектности”, когда к вещи приделывают паспорт, инструкции, отчёты и контролёры). США, не создавая новых статусов для ИИ, на деле используют принцип “ИИ – инструмент, но специалисты должны обновить правила пользования инструментом”. Никто из крупных игроков не решился наделить ИИ правосубъектностью, и этому есть веские причины. Почему модель “ИИ как субъект” не работает?

Во-первых, нет практической необходимости: на данном этапе любую ситуацию можно разложить на действия и упущения конкретных людей или компаний, и на них возложить ответственность. Придумывать фиктивного виновника-робота смысла нет – это лишь усложнит взыскание ущерба (у ИИ нет ни активов, ни морального сознания).

Во-вторых, этически и философски действующие ИИ-системы пока не обладают тем, что юристы связывают с субъектностью: пониманием норм, способностью нести обязанности, осознавать значение своих действий. Имитация интеллекта – не равна правовой дееспособности.

В-третьих, как отмечалось, есть риск злоупотреблений: корпорации могли бы создавать “дочек-роботов” и перекладывать на них всю вину, оставаясь безнаказанными – примерно так иногда используют фирмы-однодневки или фиктивные юрлица для ухода от ответственности. Этот аргумент неоднократно звучал в ЕС .

С другой стороны, почему модель “ИИ просто вещь” тоже не устраивает? Потому что она не даёт ответов на новые вопросы и не меняет поведения людей. Когда сложная система приводит к ущербу, выяснение, считать ли событие браком изделия, ошибкой пользователя или форс-мажором, превращается в юридическую казуистику. Например, при сбое автоматизированного самолёта: самолет – вещь, но пилот действовал по инструкциям автопилота… кто виноват? Вещный подход говорит – ищите конкретную неисправность. А если её нет, но алгоритм принял неверное решение? Кроме того, классический подход не стимулирует раскрытие информации. Производитель вещи по закону обязан предупредить о известных опасных свойствах. Но если алгоритм – вещь, производитель может сказать: “мы не знаем, как он работает внутри, потому не предупреждали” – и формально он честен. То есть слепая зона остаётся. Тот же вопрос ценообразования: если ИИ у консалтинга – просто инструмент, консультант может скрывать его использование и брать плату как за ручной труд. Норма о добросовестности общая, но без конкретизации она не заставит открыть карты. Поэтому в мире даже при объектной модели вводят специальные правила: маркировка, раскрытие, обязанность проверки и документации – всё это свидетельство, что стандартного режима недостаточно. Мы видим своеобразное сближение: с одной стороны, никто не хочет называть ИИ полноценным участником права, с другой – все вводят надстройки, чтобы учесть автономность и социотехническую роль ИИ.

5.5. Опыт смежных отраслей: как управлять сложными автономными системами.

В поисках оптимального режима полезно посмотреть на отрасли, где проблема доверия к сложным технологиям встала раньше. Такими отраслями являются финансы (финтех), аудит, фармацевтика, а также судебная экспертиза. Каждая из них сталкивалась с дилеммой: эксперт-профессионал использует автоматизированные инструменты или сложные процессы, непонятные клиенту или внешнему наблюдателю. Решения, выработанные там, могут пролить свет на регулирование ИИ.

●

Финтех (автоматизированные финансовые услуги).

С середины 2010-х на рынке инвестиций появились

робо-эдвайзеры

– алгоритмы, которые без участия человека управляют портфелями клиентов. Инвестор отвечает на онлайн-анкету, после чего ИИ распределяет его средства. Здесь очевидна

информационная асимметрия

: клиент не понимает устройство алгоритма и может переоценивать его способности. Регуляторы (в США, ЕС) отреагировали требованием

максимальной прозрачности и сохранения “человека в цикле”

. В США SEC чётко указала: оператор робо-советника должен раскрывать клиенту, что рекомендации даёт алгоритм, объяснить основные принципы его работы, ограничения, и предоставить возможность обратной связи с живым человеком. То есть, клиент имеет право знать, что перед ним не человек, а модель, и право задать вопросы или оспорить результат у специалиста. Это превратилось в де-факто стандарт индустрии. Перенося на консалтинг или науку: если выдаётся автоматический отчёт, хорошо бы, чтобы клиент/читатель получил

дисклеймер

: “этот прогноз сгенерирован ИИ, возможны допущения”, а также опцию

обратиться к эксперту

за пояснениями. Такой подход защищает от слепого доверия машине. Помимо раскрытия, в финтехе действует принцип:

человек всегда отвечает за алгоритм

. Если робо-эдвайзер ошибётся, лицензия и ответственность – на компании, как если бы ошибся живой советник. Это поддерживает доверие: клиент знает, что фирма не сможет отмахнуться “это всё компьютер виноват”.

●

Аудит и бухгалтерия.

Аудиторы – профессионалы, которым компании традиционно доверяют проверку финансов. Аудит всегда строился на

асимметрии знаний

: клиент не знает деталей аудиторских процедур и полагается на квалификацию аудитора . С появлением

цифрового аудита и ИИ-инструментов

для анализа транзакций и поиска аномалий, аудиторы получили ещё больший информационный перевес: они используют проприетарное ПО, Big Data методы, недоступные клиенту. Чтобы сохранить доверие, профсообщество выработало правило:

документируй и будь готов к проверке

. Международные стандарты аудита (ISA) обязывают фиксировать все существенные процедуры, а качество работы аудитора проверяется через внешние или внутренние контрольные комиссии. В 2025 г. в Великобритании вышло специальное руководство Совета по фин.отчётности (FRC) по применению ИИ в аудите. Оно подчеркнуло:

ИИ может повысить качество аудита, но аудиторы обязаны пропорционально и понятно документировать использование таких инструментов

38[38]

. Фактически аудиторам сказали:

можете применять ИИ, но объясните, как и что он сделал, и сохраните доказательства для возможной проверки

. Ключевые решения всё равно должны принимать

лицензированные аудиторы

, а не чёрный ящик . Это очень похоже на требование человеческого надзора за ИИ в консалтинге – параллель очевидна. FRC также рекомендует крупнейшим фирмам внедрить

внутреннюю сертификацию ИИ-моделей перед применением

– т.е. чтобы специальный комитет одобрял новые алгоритмы, проверял их надежность. Внутри Big4 аудита существуют

Technology Approval Process

– советы, утверждающие внедрение программного обеспечения. Аналогично и консалтинговые компании могли бы создавать комитеты по этике ИИ, которые проверяют новые инструменты, прежде чем те пойдут в работу. Важный принцип аудита:

“ошибка программы не освобождает аудитора от ответственности”

. Если отчёт искажён из-за бага или “кривого” алгоритма, аудитор несёт ответственность, как за свою ошибку. Этот же тезис мы предлагаем для всех профуслуг с ИИ: исполнитель отвечает за ИИ-инструмент,

как за свой собственный разум

. Такая проверка – аналог идеи

“аудита ИИ”

. Уже есть законодательные инициативы: сенаторы в США предлагают сделать

алгоритмический аудит стандартной практикой

для повышения подотчётности

39[39]

.

●

Фармацевтика и медицина.

В разработке лекарств и медизделий давно действует

лицензионно-допускная система

: ни одно лекарство не выйдет на рынок без серии клинических испытаний и одобрения регулятора (FDA, EMA и т.п.). Причина – высокая цена ошибки (риск для жизни) и сложность экспертизы (пациент не может сам оценить безопасность препарата). По сути, здесь признано:

необходим независимый верификатор

, который проверит результаты испытаний, протоколы, статистику – то, что пациенту недоступно. Перенося на ИИ, особенно критический (медицина, транспорт, энергетика), напрашивается

аналогичная модель сертификации

. Уже обсуждается идея

“FDA для алгоритмов”

: перед массовым внедрением, например, диагностический ИИ проходит тестирование на выборке случаев, результаты оценивают эксперты, и только затем выдается разрешение на использование

40[40]

. Некоторые юрисдикции двигаются в этом направлении: в ЕС AI Act требует сертификации «систем высокого риска» (например, ИИ для хирургии или отбор кандидатов на работу). В сущности, принцип тот же, что в фарме:

докажи безопасность и эффективность прежде, чем применять на людях

. Также фармотрасль известна развитой системой

фармаконадзора

– мониторинга побочных эффектов в пострыночный период. Для ИИ можно представить

“алгоритмонадзор”

: обязать разработчиков собирать и предоставлять сведения о сбоях и нештатных ситуациях, чтобы регулятор мог реагировать. И снова в AI Act мы видим подобное: требование к провайдерам высокорисковых ИИ непрерывно следить за функционированием системы и сообщать об инцидентах. Так что опыт фармы уже закладывается в ИИ-политику.

●

Судебная экспертиза и судебная аналитика.

В судебной экспертизе (криминалистике) автоматизация началась давно – эксперты используют ПО для ДНК-анализа, баллистики, и т.д. Суд, принимая экспертное заключение, однако требует, чтобы

эксперт описал методики и обосновал выводы

. То есть, если программа выдала результат, эксперт должен объяснить, на основании чего он доверяет этой программе и как она работает. Если он ответит: “не знаю, компьютер так сказал”, – суд вероятно не примет такое заключение. В США действует стандарт

Daubert/Frye

: научное доказательство допустимо, только если метод общепризнан и верифицируем

41[41]

. В одном случае американский суд отказался принять доказательство, полученное чисто алгоритмом распознавания, именно потому, что алгоритм не был проверен на общепринятость и эксперт не смог объяснить его работу

42[42]

. Это урок для всех профотраслей:

непроверяемый “магический” результат доверия не заслуживает

. Консультант, представляя клиенту анализ, выполненный ИИ, должен обосновать его так,

как если бы обосновывал в суде

– проверяемыми методами или подтверждением от человека-эксперта. Ещё аспект –

сертификация экспертов

. Судебные эксперты проходят аттестацию, и использование ими ПО не освобождает их от личной ответственности за выводы. Можно ожидать, что и в консалтинге, аудите, науке появится институт

сертифицированных AI-специалистов

, ответственных за корректность применения ИИ. Уже сейчас крупные фирмы вводят должности

AI Ethics Officer, AI Risk Manager

– людей, чья задача следить за проектами с ИИ, отсекать этические и правовые риски

43[43]

. Это прообраз будущих стандартов, когда наличие такого куратора станет обязательным.

Подводя итог главе, отмечу тренд: мир движется к многослойной системе регулирования ИИ. На верхнем уровне – принципы (как у ОЭСР) и законы (как AI Act), задающие общую рамку: прозрачность, подотчётность, человеческий контроль. На среднем – отраслевые стандарты и лучшие практики, учитывающие специфику применения (финансы, здравоохранение, наука). На базовом – договорные и внутренние механизмы: компании включают особые условия в контракты, создают внутренние политики по ИИ, фиксируют ответственность кураторов, ведут аудит-трейлы работы алгоритмов . Всё это складывается в систему, где злоупотребления ИИ всё сложнее скрыть и всё опаснее совершать.

Критика крайностей “вещь vs субъект” показывает, что ни полная невидимость ИИ в праве, ни фиктивное наделение его правами не дают приемлемого результата. Напротив, перспективны гибридные модели: ИИ как особый “псевдо-субъект” под человеческой опекой. Именно такой подход – признавать автономность функций, но нести за них ответственность – читается в эволюции права. В следующей части рассмотрим конкретные предложения, как реализовать эту парадигму в законодательстве и правоприменении, чтобы ИИ стал надёжным партнёром, а не источником неконтролируемых рисков, сохраняя фундамент доверия в цифровую эпоху.

Часть 2. Разработка парадигмы и правовых механизмов автономизации цифровых агентов

Глава 6. Введение в авторскую модель

6.1. Избранные доктринальные подходы

К этому моменту исследования мы прошли две доктринальные развилки, на которых обычно сходит с рельс дискуссия об ИИ: первая — метафизическая, где спорят о «душе машины», вторая — техно-утилитарная, где ИИ пытаются навсегда закрепить в статусе вещи или сервиса. Автор фиксирует здесь иной выбор и делает его сознательно: оптика здесь — функциональная и корпоративная.

Функциональная — потому что право вменяет и управляет риском не по красоте метафор, а по наблюдаемому поведению, границам полномочий и предсказуемости принятия решений.

Корпоративная — потому что для устойчивого вменения нам нужна институциональная сборка: контур, который можно идентифицировать, наделить мандатом, снабдить имуществом для покрытия вреда и отключить или наказать, если он действует вне правил.

В этой логике ИИ перестаёт быть «чёрной коробкой» и становится автономным цифровым агентом с опорами, без которых никакой самостоятельности у него нет.

6.2. Правовой тест Тьюринга как стратегия сертификации и классификации моделей

Центральным измерителем пригодности такого агента к автономным действиям автор делает концепцию «правовового теста Тьюринга» — простого по идее и строгого по применению: допуск ИИ к юридически значимым операциям возможен только тогда, когда в конкретной области его поведение неотличимо по предсказуемости и управляемости от поведения благонадёжного человека, и одновременно предъявлены четыре опоры:

-

действующий мандат с описанными пределами,

-

стабильная идентичность версии модели,

-

реальное обеспечение ответственности (страхование или эквивалентный пул покрытия),

-

и непрерывный журнал входов, решений и причинно-следственных связок;

если хотя бы одна из опор отсутствует, агент действует лишь через человека-куратора, а ответственность и обязанность раскрытия ложатся на принципала. Этот тест — не теория «про жизнь», а рабочий рубильник, которым мы дальше будем “включать” или “выключать” автономию во всех доменах.

Чтобы тест был применим, нужна понятная классификация самого ИИ: не по красивым маркетинговым названиям, а по юридически значимым признакам. Автор разделяет системы по двум осям — степени автономности (инструментальная, полуавтономная, автономная) и контексту риска (низкий потребительский, профессиональный/регулируемый, критически-опасный), фиксирует область компетенции (узкий домен против общего назначения) и источник данных/моделей (закрытые/открытые, с правами или без них).

Такая сетка позволяет заранее понимать, где тест будет строгим как допуск к авиаперевозкам, а где достаточно облегчённого режима, похожего на требования к офисному софту, и, главное, — где автономия в принципе недопустима без постоянного присутствия человека.

6.3. Концепция цифровой доверенности

Юридическим сердцем такой модели становится «цифровая доверенность» — мандат, который описывает, что именно агент вправе делать, на каком наборе данных и версий модели он действует, как он эскалирует ситуацию к человеку, как и что он обязан журналировать, кто платит за вред и из какого источника. У этой доверенности есть нюансы: она требует жёсткой привязки к версии (чтобы нельзя было незаметно «подменить личность» модели), содержит «kill-switch» и триггеры остановки при выходе за пределы домена, предусматривает порядок отзыва и переоформления, а также правила трансграничного действия — чтобы агент, допущенный в одной юрисдикции, не превращался в «зайца» в другой. По сути, это не бумага, а протокол управления жизненным циклом агента, и потому она должна быть машинно-читаемой, проверяемой и пригодной к аудиту.

Роли и ответственность в этой архитектуре распределяются заранее и прозрачно. Принципал (доверитель) определяет цели и несёт конечный риск; куратор берёт на себя обязанность разумного контроля, своевременной эскалации и ведения журналов; разработчик отвечает за заявленные свойства модели, её уязвимости и ограничители; интегратор — за то, как всё это собрано и где именно может разорваться причинность. Чтобы эти обещания были не пустыми, необходима привязка к агенту покрытия ответственности: страховой полис на алгоритмические риски, эскроу-счёт или фонд, из которого компенсируется вред пострадавшим, с заранее известной методикой расчёта. Покрытие в данном случае — не бонус, а условие допуска: нет покрытия — нет автономии.

6.4. Интеллектуальная собственность ИИ-контента и ее правовой режим

Отдельная линия — интеллектуальная собственность. Здесь предлагается не спорить о «творчестве машины», а работать с двумя простыми плоскостями: права на результат и права на входы/стили.

Результат в большинстве применений предлагаемой модели закрепляется по модели «служебного произведения»: права получает принципал или иной заранее указанный бенефициар, при этом договором фиксируются ограничения «генерации в стиле» и обязанность проверок на совпадения, а в самом агенте включаются фильтры, снижающие риск чужих прав. Для датасетов и моделей вводятся прозрачные лицензионные контуры: что можно, что нельзя, чем компенсируется использование закрытого контента, как фиксируется происхождение. Спор здесь быстро становится техническим, и это хорошо: мы переводим его из лозунгов в аудит следов.

6.5. Ответственность и деликт

Деликт и ошибки — ещё один узел. Базовая логика проста: чем выше автономность и чем опаснее домен, тем ближе режим ответственности к строгому, но он всё равно модифицируется двумя факторами — добросовестной осмотрительностью и документированной попыткой избежать ущерба. Если агент, действуя в рамках доверенности, столкнулся с дилеммой, где любое решение причиняет вред, он должен выбирать меньшее зло по зафиксированному заранее правилу, а куратор — показать суду, что правило было разумным для данной области, было включено и сработало; в таком случае санкция может быть снижена, а ответственность перераспределена. Напротив, намеренная конфигурация на вред, обход предохранителей, скрытие логов и отказ от эскалации квалифицируются как сознательное причинение вреда, с соответствующими правовыми последствиями вплоть до корпоративной уголовной ответственности там, где она предусмотрена.

6.6. Договорные аспекты и ИИ

●

Договоры об использовании ИИ

Начнём с договоров, где стороны остаются человеческими и корпоративными лицами, но исполнение заведомо включает использование ИИ: здесь базовая логика проста — мы не «разрешаем/запрещаем ИИ», а вшиваем его в ткань обязательства так, чтобы способ исполнения был прозрачно описан и управляем, поэтому в договоре прямо фиксируется уведомление об использовании автономных систем, указывается класс и домен применяемой модели, режим допуска по нашему тесту, а также вводятся четыре опоры исполнения — мандат (что именно система вправе делать в рамках поручения), идентичность версии (что именно действует), покрытие риска (страхование и/или эскроу) и журнал причинности (что именно сделано и почему); рядом возникают две «служебные» оговорки — о происхождении данных и права на аудит (provenance-clause и audit-API), которые дают стороне доступ к следам решения без разрушения коммерческой тайны. Сервисные уровни специфицируются не только как скорость и аптайм, но как предсказуемость, воспроизводимость и обратимость (право на отзыв шага, на откат к предыдущему состоянию и на ручную эскалацию), причём каждая метрика привязана к неустойке или к повышенному самоучастию в убытках при её нарушении. Отдельно заранее согласуется «safe-harbor» для честно настроенного выбора меньшего зла: если в документированно экстремальной ситуации агент следует утверждённой политике минимизации ущерба и вовремя эскалирует, санкция становится мягче и убытки делятся по заранее оговорённой формуле. Наконец, вводится режим смены версии модели во время исполнения: уведомление, допуск после контрольного прогона, право контрагента на отказ от версии, которая ухудшает управляемость риска, и автоматическая подстройка лимитов ответственности к новому профилю поведения системы. В результате спор по такому договору не превращается в магию — он разложим: что было позволено, какая версия действовала, какие следы оставлены, каков источник покрытия вреда и где нарушен режим эскалации.

●

Договоры с участием ИИ

Если же мы выходим в пилотную, гипотетическую плоскость и допускаем договоры, где стороной сама по себе обозначена автономная система (или обе стороны — ИИ), то договор становится надстройкой над цифровой доверенностью и регистровой записью об «институциональной идентичности» агента: мы договариваемся не с «программой вообще», а с контуром, который прошёл допуск по нашему тесту, имеет фиксированный мандат, версию-личность и патримониум для ответственности.

Конец ознакомительного фрагмента.

Текст предоставлен ООО «Литрес».

Прочитайте эту книгу целиком, купив полную легальную версию на Литрес.

Безопасно оплатить книгу можно банковской картой Visa, MasterCard, Maestro, со счета мобильного телефона, с платежного терминала, в салоне МТС или Связной, через PayPal, WebMoney, Яндекс.Деньги, QIWI Кошелек, бонусными картами или другим удобным Вам способом.

Примечания

1

Дело Mata v. Avianca, Inc. Docket nos. 1:22-cv-01461. Citation 678 F. Supp. 3d 443

Вернуться

2

The Market for “Lemons”: Quality Uncertainty and the Market Mechanism», «The Quarterly Journal of Economics», Vol. 84, № 3 (август 1970), стр. 488–500

Вернуться

3

Kudo T., Richardson J. SentencePiece: A simple and language independent subword tokenizer and detokenizer for Neural Text Processing // Proceedings of the 2018 Conference on Empirical Methods in Natural Language Processing: System Demonstrations. Brussels, Belgium, November 2018. P. 66-71. DOI: 10.18653/v1/D18-2012. [Электронный ресурс]. URL: https://aclanthology.org/D18-2012.pdf

Вернуться

4

Dai D., Sun Y., Dong L., Hao Y., Ma S., Sui Z., Wei F. Why Can GPT Learn In-Context? Language Models Implicitly Perform Gradient Descent as Meta-Optimizers // Findings of the Association for Computational Linguistics: ACL 2023. 2023. P. 4005-4019. URL: https://aclanthology.org/2023.findings-acl.247.pdf

Вернуться

5

Cloud A., Le M., Chua J., Betley J., Sztyber-Betley A., Hilton J., Marks S., Evans O. Subliminal Learning: Language Models Transmit Behavioral Traits via Hidden Signals in Data: препринт arXiv. 2025. arXiv:2507.14805. DOI: 10.48550/arXiv.2507.14805. [Электронный ресурс]. URL: https://arxiv.org/abs/2507.14805

Вернуться

6

“Robots Should Be Slaves”. Joanna J. Bryson. Artifical Models of Natural Intelligence University of Bath, BA2 7AY, United Kingdom; http://www.cs.bath.ac.uk/∼jjb May 21, 2009

Вернуться

7

European Parliament resolution of 16 February 2017 with recommendations to the Commission on Civil Law Rules on Robotics (2015/2103(INL))

Вернуться

8

Lawrence B. Solum, Legal Personhood for Artificial Intelligences, 70 N.C. L. Rev. 1231 (1992).

Вернуться

9

Европейский парламент; Совет Европейского союза. Директива (ЕС) 2024/2853 Европейского парламента и Совета от 23 октября 2024 г. об ответственности за дефектную продукцию и об отмене Директивы 85/374/ЕЭС // Official Journal of the European Union. 18.11.2024. L. Электронный ресурс. URL: https://eur-lex.europa.eu/legal-content/EN/TXT/PDF/?uri=CELEX:32024L2853

Вернуться

10

Hallevy G. “I, Robot - I, Criminal”-When Science Fiction Becomes Reality: Legal Liability of AI Robots committing Criminal Offenses // Syracuse Science & Technology Law Reporter. 2010. Vol. 22 (Spring). P. 1-36. URL: https://jost.syr.edu/wp-content/uploads/Hallevy-Volume-22.pdf

Вернуться

11

Balkin J. M. Information Fiduciaries and the First Amendment // UC Davis Law Review. 2016. Vol. 49. P. 1183-1234. Электронный ресурс. URL: https://lawreview.law.ucdavis.edu/archives/49/4/information-fiduciaries-and-first-amendment

Вернуться

12

Micheler E. Corporate rights and obligations - the perspective of real entity theory // Transnational Legal Theory. 2025. Vol. 16, No. 1-2. P. 22-42. DOI: 10.1080/20414005.2025.2496574. URL: https://eprints.lse.ac.uk/127987/1/Corporate_rights_and_obligations_the_perspective_of_real_entity_theory.pdf

Вернуться

13

Rudin C. Why Are We Using Black Box Models in AI When We Don’t Need To? A Lesson From an Explainable AI Competition // Harvard Data Science Review. 2019. No. 1.2 (Fall). Электронный ресурс. URL: https://hdsr.mitpress.mit.edu/pub/f9kuryi8

Вернуться

14

U.S. Department of Commerce. National Telecommunications and Information Administration (NTIA). AI Accountability Policy Report: Earned Trust through AI System Assurance. Washington, DC, 2024. Электронный ресурс. URL: https://www.ntia.gov/sites/default/files/publications/ntia-ai-report-final.pdf

Вернуться

15

OECD. Algorithms and Collusion: Competition Policy in the Digital Age. Paris: OECD, 2017. Электронный ресурс. URL: https://www.oecd.org/content/dam/oecd/en/publications/reports/2017/05/algorithms-and-collusion-competition-policy-in-the-digital-age_02371a73/258dcb14-en.pdf

Вернуться

16

Савельев А. И. Электронная коммерция в России и за рубежом: правовое регулирование: монография - 2-е изд., перераб. и доп. - М.: Статут, 2016. - 640 с. - ISBN 978-5-8354-1263-1.

Вернуться

17

Романова Т. Обузданный онлайн: кто и как предлагал регулировать работу маркетплейсов // Forbes.ru. 04.06.2025. Электронный ресурс. URL: https://www.forbes.ru/biznes/538692-obuzdannyj-onlajn-kto-i-kak-predlagal-regulirovat-rabotu-marketplejsov

Вернуться

18

Всемирная организация интеллектуальной собственности (ВОИС). Постоянный комитет по патентному праву. Artificial intelligence (AI) and inventorship: документ SCP/35/7. Женева, 2023. Электронный ресурс. URL: https://www.wipo.int/edocs/mdocs/scp/en/scp_35/scp_35_7.pdf

Вернуться

19

Dathathri S., See A., Ghaisas S. et al. Scalable watermarking for identifying large language model outputs // Nature. 2024. Vol. 634. P. 818-823. DOI: 10.1038/s41586-024-08025-4. URL: https://www.nature.com/articles/s41586-024-08025-4

Вернуться

20

Verdoliva L. Media Forensics and DeepFakes: An Overview // IEEE Journal of Selected Topics in Signal Processing. 2020. Vol. 14, No. 5. P. 910-932. DOI: 10.1109/JSTSP.2020.3002101. URL: https://arxiv.org/abs/2001.06564

Вернуться

21

Madkour N., Newman J., Raman D., Jackson K., Murphy E. R., Yuan C. Agentic AI Risk-Management Standards Profile. Version 1.0 (February 2026). Berkeley: Center for Long-Term Cybersecurity (CLTC), UC Berkeley, 2026. Электронный ресурс. URL: https://cltc.berkeley.edu/wp-content/uploads/2026/02/Agentic-AI-Risk-Management-Standards-Profile.pdf

Вернуться

22

MacNeill K. The Rise of RentAHuman, the Marketplace Where Bots Put People to Work // WIRED. 18 Feb. 2026. Электронный ресурс. URL: https://www.wired.com/story/ai-agent-rentahuman-bots-hire-humans/

Вернуться

23

Европол (Europol). Facing Reality? Law Enforcement and the Challenge of Deepfakes: report. The Hague: Europol Innovation Lab, 2022. 23 p. Электронный ресурс. URL: https://www.europol.europa.eu/cms/sites/default/files/documents/Europol_Innovation_Lab_Facing_Reality_Law_Enforcement_And_The_Challenge_Of_Deepfakes.pdf

Вернуться

24

Singapore. Electronic Transactions Act 2010 (No. 16 of 2010) - Part II “Electronic records, signatures and contracts”, s. 15 “Use of automated message systems for contract formation” (признание действительности договора, заключенного посредством автоматизированных систем, и атрибуция действий стороне, использующей такую систему) // Singapore Statutes Online: офиц. интернет-портал законодательства. Электронный ресурс. URL: https://sso.agc.gov.sg/Act/ETA2010?ProvIds=P12-

Вернуться

25

“Сopyright Registration Guidance: Works Containing Material Generated by Artificial Intelligence”, (Register of Copyrights, Shira Perlmutter, 10.03.2023

Вернуться

26

Ada Lovelace Institute. Risky business: assessing AI liability in the UK. London: Ada Lovelace Institute, 08.12.2025. [Электронный ресурс]. URL: https://www.adalovelaceinstitute.org/report/risky-business/

Вернуться

27

Организация экономического сотрудничества и развития (ОЭСР). Recommendation of the Council on Artificial Intelligence (OECD/LEGAL/0449): рекомендация Совета ОЭСР от 22 мая 2019 г. (в ред. 8 ноября 2023 г. и 3 мая 2024 г.; принцип “Accountability” - подотчётность и обязанность обеспечить прослеживаемость для анализа решений и ответов на запросы) [Электронный ресурс]. URL: https://legalinstruments.oecd.org/api/print?ids=648⟨=en

Вернуться

28

Европейский парламент; Совет Европейского союза. Регламент (ЕС) 2024/1689 Европейского парламента и Совета от 13 июня 2024 г. “о гармонизированных правилах в отношении искусственного интеллекта (Artificial Intelligence Act)” (в т.ч. классификация ИИ по уровням риска, требования к высокорисковым системам, транспарентность и обязанность раскрытия/маркировки AI-сгенерированного или существенно изменённого контента - ст. 50) // Official Journal of the European Union. 12.07.2024. L 2024/1689. [Электронный ресурс]. URL: https://eur-lex.europa.eu/legal-content/EN/TXT/PDF/?uri=OJ%3AL_202401689

Вернуться

29

Европейская комиссия. Living guidelines on the responsible use of generative AI in research (разработаны в рамках European Research Area Forum - ERA Forum). 2024. 20 p. [Электронный ресурс]. URL: https://research-and-innovation.ec.europa.eu/document/download/2b6cf7e5-36ac-41cb-aab5-0d32050143dc_en?filename=ec_rtd_ai-guidelines.pdf

Вернуться

30

Atleson M. Keep your AI claims in check // Federal Trade Commission (FTC). Business Blog. 27.02.2023. [Электронный ресурс]. URL: https://www.ftc.gov/business-guidance/blog/2023/02/keep-your-ai-claims-check

Вернуться

31

Калифорния (США). Business and Professions Code. Division 8, Chapter 25 “California AI Transparency Act” (Stats. 2024, Ch. 291 (SB 942); в ред. Stats. 2025, Ch. 674 (AB 853): глава “operative on August 2, 2026” - § 22757.6) // California Legislative Information: офиц. портал законодательства. Электронный ресурс. URL: https://www.leginfo.legislature.ca.gov/faces/codes_displayText.xhtml?lawCode=BPC&division=8.&chapter=25

Вернуться

32

U.S. Securities and Exchange Commission. Division of Investment Management. IM Guidance Update. February 2017. No. 2017-02: Robo-Advisers (о раскрытии алгоритмической природы услуги, принципов и ограничений работы алгоритма, а также степени участия человека) [Электронный ресурс]. URL: https://www.sec.gov/investment/im-guidance-2017-02.pdf

Вернуться

33

Latham & Watkins LLP. China’s New AI Regulations (обзор “Algorithm Recommendation Regulation” - раскрытие принципов работы рекомендательных алгоритмов и усиление пользовательского выбора/контроля, а также “Deep Synthesis Regulation” - обязательная маркировка синтезированного/отредактированного контента, вступившая в силу 10.01.2023). 16.08.2023. 25 p. [Электронный ресурс]. URL: https://www.lw.com/admin/upload/SiteAttachments/Chinas-New-AI-Regulations.pdf

Вернуться

34

Новак А.В. Российская модель регулирования искусственного интеллекта: от рамочных концепций к проекту суверенного - Zakon.ru. 05.05.2026. [Электронный ресурс]. URL: https://zakon.ru/blog/2026/5/5/rossijskaya_model_regulirovaniya_iskusstvennogo_intellekta_ot_ramochnyh_koncepcij_k_proektu_suverenn

Вернуться

35

Всемирная организация интеллектуальной собственности (ВОИС). WIPO Conversation on Intellectual Property (IP) and Artificial Intelligence (AI): Summary of Second and Third Sessions: документ WIPO/IP/AI/3/GE/20/INF/5 (обзор глобальной дискуссии ВОИС с 2019 г.; фиксируется подход, что “human authorship” - базовый принцип авторского права и высказывается позиция о помещении AI-generated works в public domain). Женева, 08.01.2021. [Электронный ресурс]. URL: https://www.wipo.int/edocs/mdocs/mdocs/en/wipo_ip_ai_3_ge_20/wipo_ip_ai_3_ge_20_inf_5.pdf

Вернуться

36

Thaler S. v. Perlmutter S. (Register of Copyrights), United States District Court for the District of Columbia. Civil Action No. 22-1564 (BAH). Memorandum Opinion and Order, 18.08.2023. [Электронный ресурс]. URL: https://www.copyright.gov/ai/docs/district-court-decision-affirming-refusal-of-registration.pdf

Вернуться

37

Организация экономического сотрудничества и развития (ОЭСР). Recommendation of the Council on Artificial Intelligence (OECD/LEGAL/0449): рекомендация Совета ОЭСР от 22 мая 2019 г. [Электронный ресурс]. URL: https://legalinstruments.oecd.org/api/print?ids=648⟨=en

Вернуться

38

Financial Reporting Council (FRC). AI in audit: Illustrative example and documentation guidance. London: FRC, 26 June 2025. 17 p. [Электронный ресурс]. URL: https://www.frc.org.uk/documents/8384/AI_in_Audit.pdf

Вернуться

39

Wyden R., Booker C., Heinrich M. et al. Algorithmic Accountability Act of 2023: Bill (To direct the Federal Trade Commission to require impact assessments of automated decision systems and augmented critical decision processes, and for other purposes). U.S. Senate, 118th Congress, 1st Session. 2023. [Электронный ресурс]. URL: https://www.wyden.senate.gov/imo/media/doc/algorithmic_accountability_act_text.pdf

Вернуться

40

Tutt A. An FDA for Algorithms // Administrative Law Review. 2017. Vol. 69, No. 1. P. 83-123 (обосновывается модель предварительного допуска “опасных” алгоритмов по логике FDA - тестирование, экспертная оценка безопасности и эффективности до вывода на рынок). [Электронный ресурс]. URL: https://www.administrativelawreview.org/wp-content/uploads/2019/09/69-1-Andrew-Tutt.pdf

Вернуться

41

National Academies of Sciences, Engineering, and Medicine; Federal Judicial Center. Reference Manual on Scientific Evidence: Fourth Edition. Washington, DC: The National Academies Press, 2025. (Глава “The Admissibility of Expert Testimony”). DOI: 10.17226/26919. [Электронный ресурс]. URL: https://www.nationalacademies.org/read/26919/chapter/2

Вернуться

42

Washington v. Puloka, No. 21-1-04851-2 (King’s County Super. Ct., Wash., 2024)

Вернуться

43

Palo Alto Networks. What Is AI Governance? (раздел “Building a Compliance Team”:) [Электронный ресурс]. URL: https://www.paloaltonetworks.com/cyberpedia/ai-governance

Вернуться