Информационные и правовые асимметрии разумных технологий: искусственный интеллект как автономный цифровой агент в праве XXI века
- -
- 100%
- +
В судебной экспертизе (криминалистике) автоматизация началась давно – эксперты используют ПО для ДНК-анализа, баллистики, и т.д. Суд, принимая экспертное заключение, однако требует, чтобы
эксперт описал методики и обосновал выводы
. То есть, если программа выдала результат, эксперт должен объяснить, на основании чего он доверяет этой программе и как она работает. Если он ответит: “не знаю, компьютер так сказал”, – суд вероятно не примет такое заключение. В США действует стандарт
Daubert/Frye
: научное доказательство допустимо, только если метод общепризнан и верифицируем
41[41]
. В одном случае американский суд отказался принять доказательство, полученное чисто алгоритмом распознавания, именно потому, что алгоритм не был проверен на общепринятость и эксперт не смог объяснить его работу
42[42]
. Это урок для всех профотраслей:
непроверяемый “магический” результат доверия не заслуживает
. Консультант, представляя клиенту анализ, выполненный ИИ, должен обосновать его так,
как если бы обосновывал в суде
– проверяемыми методами или подтверждением от человека-эксперта. Ещё аспект –
сертификация экспертов
. Судебные эксперты проходят аттестацию, и использование ими ПО не освобождает их от личной ответственности за выводы. Можно ожидать, что и в консалтинге, аудите, науке появится институт
сертифицированных AI-специалистов
, ответственных за корректность применения ИИ. Уже сейчас крупные фирмы вводят должности
AI Ethics Officer, AI Risk Manager
– людей, чья задача следить за проектами с ИИ, отсекать этические и правовые риски
43[43]
. Это прообраз будущих стандартов, когда наличие такого куратора станет обязательным.
Подводя итог главе, отмечу тренд: мир движется к многослойной системе регулирования ИИ. На верхнем уровне – принципы (как у ОЭСР) и законы (как AI Act), задающие общую рамку: прозрачность, подотчётность, человеческий контроль. На среднем – отраслевые стандарты и лучшие практики, учитывающие специфику применения (финансы, здравоохранение, наука). На базовом – договорные и внутренние механизмы: компании включают особые условия в контракты, создают внутренние политики по ИИ, фиксируют ответственность кураторов, ведут аудит-трейлы работы алгоритмов . Всё это складывается в систему, где злоупотребления ИИ всё сложнее скрыть и всё опаснее совершать.
Критика крайностей “вещь vs субъект” показывает, что ни полная невидимость ИИ в праве, ни фиктивное наделение его правами не дают приемлемого результата. Напротив, перспективны гибридные модели: ИИ как особый “псевдо-субъект” под человеческой опекой. Именно такой подход – признавать автономность функций, но нести за них ответственность – читается в эволюции права. В следующей части рассмотрим конкретные предложения, как реализовать эту парадигму в законодательстве и правоприменении, чтобы ИИ стал надёжным партнёром, а не источником неконтролируемых рисков, сохраняя фундамент доверия в цифровую эпоху.
Часть 2. Разработка парадигмы и правовых механизмов автономизации цифровых агентов
Глава 6. Введение в авторскую модель
6.1. Избранные доктринальные подходы
К этому моменту исследования мы прошли две доктринальные развилки, на которых обычно сходит с рельс дискуссия об ИИ: первая — метафизическая, где спорят о «душе машины», вторая — техно-утилитарная, где ИИ пытаются навсегда закрепить в статусе вещи или сервиса. Автор фиксирует здесь иной выбор и делает его сознательно: оптика здесь — функциональная и корпоративная.
Функциональная — потому что право вменяет и управляет риском не по красоте метафор, а по наблюдаемому поведению, границам полномочий и предсказуемости принятия решений.
Корпоративная — потому что для устойчивого вменения нам нужна институциональная сборка: контур, который можно идентифицировать, наделить мандатом, снабдить имуществом для покрытия вреда и отключить или наказать, если он действует вне правил.
В этой логике ИИ перестаёт быть «чёрной коробкой» и становится автономным цифровым агентом с опорами, без которых никакой самостоятельности у него нет.
6.2. Правовой тест Тьюринга как стратегия сертификации и классификации моделей
Центральным измерителем пригодности такого агента к автономным действиям автор делает концепцию «правовового теста Тьюринга» — простого по идее и строгого по применению: допуск ИИ к юридически значимым операциям возможен только тогда, когда в конкретной области его поведение неотличимо по предсказуемости и управляемости от поведения благонадёжного человека, и одновременно предъявлены четыре опоры:
-
действующий мандат с описанными пределами,
-
стабильная идентичность версии модели,
-
реальное обеспечение ответственности (страхование или эквивалентный пул покрытия),
-
и непрерывный журнал входов, решений и причинно-следственных связок;
если хотя бы одна из опор отсутствует, агент действует лишь через человека-куратора, а ответственность и обязанность раскрытия ложатся на принципала. Этот тест — не теория «про жизнь», а рабочий рубильник, которым мы дальше будем “включать” или “выключать” автономию во всех доменах.
Чтобы тест был применим, нужна понятная классификация самого ИИ: не по красивым маркетинговым названиям, а по юридически значимым признакам. Автор разделяет системы по двум осям — степени автономности (инструментальная, полуавтономная, автономная) и контексту риска (низкий потребительский, профессиональный/регулируемый, критически-опасный), фиксирует область компетенции (узкий домен против общего назначения) и источник данных/моделей (закрытые/открытые, с правами или без них).
Такая сетка позволяет заранее понимать, где тест будет строгим как допуск к авиаперевозкам, а где достаточно облегчённого режима, похожего на требования к офисному софту, и, главное, — где автономия в принципе недопустима без постоянного присутствия человека.
6.3. Концепция цифровой доверенности
Юридическим сердцем такой модели становится «цифровая доверенность» — мандат, который описывает, что именно агент вправе делать, на каком наборе данных и версий модели он действует, как он эскалирует ситуацию к человеку, как и что он обязан журналировать, кто платит за вред и из какого источника. У этой доверенности есть нюансы: она требует жёсткой привязки к версии (чтобы нельзя было незаметно «подменить личность» модели), содержит «kill-switch» и триггеры остановки при выходе за пределы домена, предусматривает порядок отзыва и переоформления, а также правила трансграничного действия — чтобы агент, допущенный в одной юрисдикции, не превращался в «зайца» в другой. По сути, это не бумага, а протокол управления жизненным циклом агента, и потому она должна быть машинно-читаемой, проверяемой и пригодной к аудиту.
Роли и ответственность в этой архитектуре распределяются заранее и прозрачно. Принципал (доверитель) определяет цели и несёт конечный риск; куратор берёт на себя обязанность разумного контроля, своевременной эскалации и ведения журналов; разработчик отвечает за заявленные свойства модели, её уязвимости и ограничители; интегратор — за то, как всё это собрано и где именно может разорваться причинность. Чтобы эти обещания были не пустыми, необходима привязка к агенту покрытия ответственности: страховой полис на алгоритмические риски, эскроу-счёт или фонд, из которого компенсируется вред пострадавшим, с заранее известной методикой расчёта. Покрытие в данном случае — не бонус, а условие допуска: нет покрытия — нет автономии.
6.4. Интеллектуальная собственность ИИ-контента и ее правовой режим
Отдельная линия — интеллектуальная собственность. Здесь предлагается не спорить о «творчестве машины», а работать с двумя простыми плоскостями: права на результат и права на входы/стили.
Результат в большинстве применений предлагаемой модели закрепляется по модели «служебного произведения»: права получает принципал или иной заранее указанный бенефициар, при этом договором фиксируются ограничения «генерации в стиле» и обязанность проверок на совпадения, а в самом агенте включаются фильтры, снижающие риск чужих прав. Для датасетов и моделей вводятся прозрачные лицензионные контуры: что можно, что нельзя, чем компенсируется использование закрытого контента, как фиксируется происхождение. Спор здесь быстро становится техническим, и это хорошо: мы переводим его из лозунгов в аудит следов.
6.5. Ответственность и деликт
Деликт и ошибки — ещё один узел. Базовая логика проста: чем выше автономность и чем опаснее домен, тем ближе режим ответственности к строгому, но он всё равно модифицируется двумя факторами — добросовестной осмотрительностью и документированной попыткой избежать ущерба. Если агент, действуя в рамках доверенности, столкнулся с дилеммой, где любое решение причиняет вред, он должен выбирать меньшее зло по зафиксированному заранее правилу, а куратор — показать суду, что правило было разумным для данной области, было включено и сработало; в таком случае санкция может быть снижена, а ответственность перераспределена. Напротив, намеренная конфигурация на вред, обход предохранителей, скрытие логов и отказ от эскалации квалифицируются как сознательное причинение вреда, с соответствующими правовыми последствиями вплоть до корпоративной уголовной ответственности там, где она предусмотрена.
6.6. Договорные аспекты и ИИ
●
Договоры об использовании ИИ
Начнём с договоров, где стороны остаются человеческими и корпоративными лицами, но исполнение заведомо включает использование ИИ: здесь базовая логика проста — мы не «разрешаем/запрещаем ИИ», а вшиваем его в ткань обязательства так, чтобы способ исполнения был прозрачно описан и управляем, поэтому в договоре прямо фиксируется уведомление об использовании автономных систем, указывается класс и домен применяемой модели, режим допуска по нашему тесту, а также вводятся четыре опоры исполнения — мандат (что именно система вправе делать в рамках поручения), идентичность версии (что именно действует), покрытие риска (страхование и/или эскроу) и журнал причинности (что именно сделано и почему); рядом возникают две «служебные» оговорки — о происхождении данных и права на аудит (provenance-clause и audit-API), которые дают стороне доступ к следам решения без разрушения коммерческой тайны. Сервисные уровни специфицируются не только как скорость и аптайм, но как предсказуемость, воспроизводимость и обратимость (право на отзыв шага, на откат к предыдущему состоянию и на ручную эскалацию), причём каждая метрика привязана к неустойке или к повышенному самоучастию в убытках при её нарушении. Отдельно заранее согласуется «safe-harbor» для честно настроенного выбора меньшего зла: если в документированно экстремальной ситуации агент следует утверждённой политике минимизации ущерба и вовремя эскалирует, санкция становится мягче и убытки делятся по заранее оговорённой формуле. Наконец, вводится режим смены версии модели во время исполнения: уведомление, допуск после контрольного прогона, право контрагента на отказ от версии, которая ухудшает управляемость риска, и автоматическая подстройка лимитов ответственности к новому профилю поведения системы. В результате спор по такому договору не превращается в магию — он разложим: что было позволено, какая версия действовала, какие следы оставлены, каков источник покрытия вреда и где нарушен режим эскалации.
●
Договоры с участием ИИ
Если же мы выходим в пилотную, гипотетическую плоскость и допускаем договоры, где стороной сама по себе обозначена автономная система (или обе стороны — ИИ), то договор становится надстройкой над цифровой доверенностью и регистровой записью об «институциональной идентичности» агента: мы договариваемся не с «программой вообще», а с контуром, который прошёл допуск по нашему тесту, имеет фиксированный мандат, версию-личность и патримониум для ответственности.
Конец ознакомительного фрагмента.
Текст предоставлен ООО «Литрес».
Прочитайте эту книгу целиком, купив полную легальную версию на Литрес.
Безопасно оплатить книгу можно банковской картой Visa, MasterCard, Maestro, со счета мобильного телефона, с платежного терминала, в салоне МТС или Связной, через PayPal, WebMoney, Яндекс.Деньги, QIWI Кошелек, бонусными картами или другим удобным Вам способом.
Примечания
1
Дело Mata v. Avianca, Inc. Docket nos. 1:22-cv-01461. Citation 678 F. Supp. 3d 443
2
The Market for “Lemons”: Quality Uncertainty and the Market Mechanism», «The Quarterly Journal of Economics», Vol. 84, № 3 (август 1970), стр. 488–500
3
Kudo T., Richardson J. SentencePiece: A simple and language independent subword tokenizer and detokenizer for Neural Text Processing // Proceedings of the 2018 Conference on Empirical Methods in Natural Language Processing: System Demonstrations. Brussels, Belgium, November 2018. P. 66-71. DOI: 10.18653/v1/D18-2012. [Электронный ресурс]. URL: https://aclanthology.org/D18-2012.pdf
4
Dai D., Sun Y., Dong L., Hao Y., Ma S., Sui Z., Wei F. Why Can GPT Learn In-Context? Language Models Implicitly Perform Gradient Descent as Meta-Optimizers // Findings of the Association for Computational Linguistics: ACL 2023. 2023. P. 4005-4019. URL: https://aclanthology.org/2023.findings-acl.247.pdf
5
Cloud A., Le M., Chua J., Betley J., Sztyber-Betley A., Hilton J., Marks S., Evans O. Subliminal Learning: Language Models Transmit Behavioral Traits via Hidden Signals in Data: препринт arXiv. 2025. arXiv:2507.14805. DOI: 10.48550/arXiv.2507.14805. [Электронный ресурс]. URL: https://arxiv.org/abs/2507.14805
6
“Robots Should Be Slaves”. Joanna J. Bryson. Artifical Models of Natural Intelligence University of Bath, BA2 7AY, United Kingdom; http://www.cs.bath.ac.uk/∼jjb May 21, 2009
7
European Parliament resolution of 16 February 2017 with recommendations to the Commission on Civil Law Rules on Robotics (2015/2103(INL))
8
Lawrence B. Solum, Legal Personhood for Artificial Intelligences, 70 N.C. L. Rev. 1231 (1992).
9
Европейский парламент; Совет Европейского союза. Директива (ЕС) 2024/2853 Европейского парламента и Совета от 23 октября 2024 г. об ответственности за дефектную продукцию и об отмене Директивы 85/374/ЕЭС // Official Journal of the European Union. 18.11.2024. L. Электронный ресурс. URL: https://eur-lex.europa.eu/legal-content/EN/TXT/PDF/?uri=CELEX:32024L2853
10
Hallevy G. “I, Robot - I, Criminal”-When Science Fiction Becomes Reality: Legal Liability of AI Robots committing Criminal Offenses // Syracuse Science & Technology Law Reporter. 2010. Vol. 22 (Spring). P. 1-36. URL: https://jost.syr.edu/wp-content/uploads/Hallevy-Volume-22.pdf
11
Balkin J. M. Information Fiduciaries and the First Amendment // UC Davis Law Review. 2016. Vol. 49. P. 1183-1234. Электронный ресурс. URL: https://lawreview.law.ucdavis.edu/archives/49/4/information-fiduciaries-and-first-amendment
12
Micheler E. Corporate rights and obligations - the perspective of real entity theory // Transnational Legal Theory. 2025. Vol. 16, No. 1-2. P. 22-42. DOI: 10.1080/20414005.2025.2496574. URL: https://eprints.lse.ac.uk/127987/1/Corporate_rights_and_obligations_the_perspective_of_real_entity_theory.pdf
13
Rudin C. Why Are We Using Black Box Models in AI When We Don’t Need To? A Lesson From an Explainable AI Competition // Harvard Data Science Review. 2019. No. 1.2 (Fall). Электронный ресурс. URL: https://hdsr.mitpress.mit.edu/pub/f9kuryi8
14
U.S. Department of Commerce. National Telecommunications and Information Administration (NTIA). AI Accountability Policy Report: Earned Trust through AI System Assurance. Washington, DC, 2024. Электронный ресурс. URL: https://www.ntia.gov/sites/default/files/publications/ntia-ai-report-final.pdf
15
OECD. Algorithms and Collusion: Competition Policy in the Digital Age. Paris: OECD, 2017. Электронный ресурс. URL: https://www.oecd.org/content/dam/oecd/en/publications/reports/2017/05/algorithms-and-collusion-competition-policy-in-the-digital-age_02371a73/258dcb14-en.pdf
16
Савельев А. И. Электронная коммерция в России и за рубежом: правовое регулирование: монография - 2-е изд., перераб. и доп. - М.: Статут, 2016. - 640 с. - ISBN 978-5-8354-1263-1.
17
Романова Т. Обузданный онлайн: кто и как предлагал регулировать работу маркетплейсов // Forbes.ru. 04.06.2025. Электронный ресурс. URL: https://www.forbes.ru/biznes/538692-obuzdannyj-onlajn-kto-i-kak-predlagal-regulirovat-rabotu-marketplejsov
18
Всемирная организация интеллектуальной собственности (ВОИС). Постоянный комитет по патентному праву. Artificial intelligence (AI) and inventorship: документ SCP/35/7. Женева, 2023. Электронный ресурс. URL: https://www.wipo.int/edocs/mdocs/scp/en/scp_35/scp_35_7.pdf
19
Dathathri S., See A., Ghaisas S. et al. Scalable watermarking for identifying large language model outputs // Nature. 2024. Vol. 634. P. 818-823. DOI: 10.1038/s41586-024-08025-4. URL: https://www.nature.com/articles/s41586-024-08025-4
20
Verdoliva L. Media Forensics and DeepFakes: An Overview // IEEE Journal of Selected Topics in Signal Processing. 2020. Vol. 14, No. 5. P. 910-932. DOI: 10.1109/JSTSP.2020.3002101. URL: https://arxiv.org/abs/2001.06564
21
Madkour N., Newman J., Raman D., Jackson K., Murphy E. R., Yuan C. Agentic AI Risk-Management Standards Profile. Version 1.0 (February 2026). Berkeley: Center for Long-Term Cybersecurity (CLTC), UC Berkeley, 2026. Электронный ресурс. URL: https://cltc.berkeley.edu/wp-content/uploads/2026/02/Agentic-AI-Risk-Management-Standards-Profile.pdf
22
MacNeill K. The Rise of RentAHuman, the Marketplace Where Bots Put People to Work // WIRED. 18 Feb. 2026. Электронный ресурс. URL: https://www.wired.com/story/ai-agent-rentahuman-bots-hire-humans/
23
Европол (Europol). Facing Reality? Law Enforcement and the Challenge of Deepfakes: report. The Hague: Europol Innovation Lab, 2022. 23 p. Электронный ресурс. URL: https://www.europol.europa.eu/cms/sites/default/files/documents/Europol_Innovation_Lab_Facing_Reality_Law_Enforcement_And_The_Challenge_Of_Deepfakes.pdf
24
Singapore. Electronic Transactions Act 2010 (No. 16 of 2010) - Part II “Electronic records, signatures and contracts”, s. 15 “Use of automated message systems for contract formation” (признание действительности договора, заключенного посредством автоматизированных систем, и атрибуция действий стороне, использующей такую систему) // Singapore Statutes Online: офиц. интернет-портал законодательства. Электронный ресурс. URL: https://sso.agc.gov.sg/Act/ETA2010?ProvIds=P12-
25
“Сopyright Registration Guidance: Works Containing Material Generated by Artificial Intelligence”, (Register of Copyrights, Shira Perlmutter, 10.03.2023
26
Ada Lovelace Institute. Risky business: assessing AI liability in the UK. London: Ada Lovelace Institute, 08.12.2025. [Электронный ресурс]. URL: https://www.adalovelaceinstitute.org/report/risky-business/
27
Организация экономического сотрудничества и развития (ОЭСР). Recommendation of the Council on Artificial Intelligence (OECD/LEGAL/0449): рекомендация Совета ОЭСР от 22 мая 2019 г. (в ред. 8 ноября 2023 г. и 3 мая 2024 г.; принцип “Accountability” - подотчётность и обязанность обеспечить прослеживаемость для анализа решений и ответов на запросы) [Электронный ресурс]. URL: https://legalinstruments.oecd.org/api/print?ids=648⟨=en
28
Европейский парламент; Совет Европейского союза. Регламент (ЕС) 2024/1689 Европейского парламента и Совета от 13 июня 2024 г. “о гармонизированных правилах в отношении искусственного интеллекта (Artificial Intelligence Act)” (в т.ч. классификация ИИ по уровням риска, требования к высокорисковым системам, транспарентность и обязанность раскрытия/маркировки AI-сгенерированного или существенно изменённого контента - ст. 50) // Official Journal of the European Union. 12.07.2024. L 2024/1689. [Электронный ресурс]. URL: https://eur-lex.europa.eu/legal-content/EN/TXT/PDF/?uri=OJ%3AL_202401689
29
Европейская комиссия. Living guidelines on the responsible use of generative AI in research (разработаны в рамках European Research Area Forum - ERA Forum). 2024. 20 p. [Электронный ресурс]. URL: https://research-and-innovation.ec.europa.eu/document/download/2b6cf7e5-36ac-41cb-aab5-0d32050143dc_en?filename=ec_rtd_ai-guidelines.pdf
30
Atleson M. Keep your AI claims in check // Federal Trade Commission (FTC). Business Blog. 27.02.2023. [Электронный ресурс]. URL: https://www.ftc.gov/business-guidance/blog/2023/02/keep-your-ai-claims-check
31
Калифорния (США). Business and Professions Code. Division 8, Chapter 25 “California AI Transparency Act” (Stats. 2024, Ch. 291 (SB 942); в ред. Stats. 2025, Ch. 674 (AB 853): глава “operative on August 2, 2026” - § 22757.6) // California Legislative Information: офиц. портал законодательства. Электронный ресурс. URL: https://www.leginfo.legislature.ca.gov/faces/codes_displayText.xhtml?lawCode=BPC&division=8.&chapter=25
32
U.S. Securities and Exchange Commission. Division of Investment Management. IM Guidance Update. February 2017. No. 2017-02: Robo-Advisers (о раскрытии алгоритмической природы услуги, принципов и ограничений работы алгоритма, а также степени участия человека) [Электронный ресурс]. URL: https://www.sec.gov/investment/im-guidance-2017-02.pdf
33
Latham & Watkins LLP. China’s New AI Regulations (обзор “Algorithm Recommendation Regulation” - раскрытие принципов работы рекомендательных алгоритмов и усиление пользовательского выбора/контроля, а также “Deep Synthesis Regulation” - обязательная маркировка синтезированного/отредактированного контента, вступившая в силу 10.01.2023). 16.08.2023. 25 p. [Электронный ресурс]. URL: https://www.lw.com/admin/upload/SiteAttachments/Chinas-New-AI-Regulations.pdf