Информационные и правовые асимметрии разумных технологий: искусственный интеллект как автономный цифровой агент в праве XXI века

В начале 2025 года эта осторожность получила прямое политическое выражение. Вице-премьер Дмитрий Григоренко на презентации национального проекта “Экономика данных” заявил, что законодательное регулирование технологии ИИ в ближайшие два года не планируется, поскольку преждевременное введение обязательных требований может затормозить развитие технологии.Уже в 2026 году появились сообщения о подготовке более предметного законопроекта, причем первоначально обсуждалось “мягкое” регулирование, затрагивающее скорее продукты, произведенные с использованием ИИ, чем саму технологию. Это хорошо показывает внутреннюю механику российского подхода: публичная власть долго сохраняет режим наблюдения, затем резко переходит к рамочному регулированию, оставляя за собой возможность в любой момент включить ограничительный контур через подзаконные акты, реестры, допуски, согласования и ведомственные требования34[34].

Российский проект федерального закона “Об основах государственного регулирования сфер применения технологий искусственного интеллекта в Российской Федерации” представляет собой попытку перевести регулирование ИИ из режима концепций и принципов в режим рамочного закона. Проект заявляет цели ускоренного развития и внедрения ИИ, обеспечения безопасности личности, общества и государства, а также государственного технологического суверенитета. При этом из его сферы выведено применение ИИ для целей обороны, безопасности государства, охраны правопорядка, антитеррористической защищённости и предотвращения чрезвычайных ситуаций, если иное не установлено специальными актами. Уже эта рамка показывает внутреннее напряжение документа: он одновременно претендует на роль закона о развитии, безопасности, технологическом суверенитете, правах граждан и цифровой инфраструктуре, что требует особенно точной юридической архитектуры.

Сильной стороной проекта является понятийный аппарат: он разводит искусственный интеллект, ИИ-систему, сервис ИИ, технологии ИИ, наборы данных, модель ИИ, обучение модели, разработчика модели, оператора системы, владельца сервиса и пользователя сервиса. Это важно, поскольку ИИ распределён между множеством ролей: модель может быть создана одним лицом, дообучена другим, встроена в сервис третьим, эксплуатироваться четвёртым и использоваться для юридически значимого решения пятым. Вместе с тем отдельные определения требуют технической нейтрализации. Например, обучение модели не следует описывать через “числовые значения (алгоритмы)” и влияние каждого запроса и ответа; корректнее говорить об изменении параметров, правил, весов или иных внутренних характеристик модели на основе данных, обратной связи или иных методов, направленном на изменение способности выполнять определённые классы задач.

Статья 4 закрепляет принципы регулирования: верховенство прав, свобод и законных интересов человека и гражданина, уважение автономии и свободы воли человека, риск-ориентированный подход, благоприятные условия для развития технологий, технологическую независимость, безопасность и учёт традиционных российских духовно-нравственных ценностей. Общая конструкция ожидаема, однако ценностный критерий остаётся наиболее проблемным: технологическая независимость и безопасность могут быть операционализированы через инфраструктуру, аудит, контроль, журналирование, управление инцидентами и процедуры допуска, тогда как “традиционные ценности” как общий критерий качества или статуса модели создают риск произвольной экспертизы.

Статья 5 является наиболее перспективной основой риск-ориентированной модели. Она предлагает учитывать назначение технологий ИИ, вероятность и масштаб вреда, степень автономности систем, влияние на юридически значимые действия и категорию обрабатываемой информации. Именно этот блок должен стать несущей конструкцией закона: чем выше автономность, чувствительность данных, масштаб возможного вреда и влияние на права граждан, тем строже должны быть требования к документации, тестированию, аудиту, объяснимости, человеческому контролю, обжалованию, хранению логов и инцидентной отчётности. Низкорисковые сервисы, банковский скоринг, медицинская диагностика, автономный транспорт и государственные решения о социальных выплатах не должны регулироваться с одинаковой интенсивностью.

Статья 7 вводит статусы больших фундаментальных моделей, суверенных и национальных больших фундаментальных моделей, а также доверенных моделей ИИ. Первоначальная редакция связывала суверенность и национальность модели с территорией разработки и обучения, гражданством участников и российским происхождением наборов данных. Такой подход юридически и технически слаб: суверенность ИИ должна определяться не происхождением данных и паспортом разработчика, а контролем над вычислениями, инфраструктурой, данными, обновлениями, цепочкой поставки, аудитом, режимом доступа, внешними зависимостями и подчинённостью оператора российской юрисдикции в критических сферах. Позднее смягчение требований к происхождению данных и гражданству разработчиков следует признать разумным, поскольку фундаментальные модели требуют больших многоязычных, научных, технических и отраслевых корпусов данных.

Статья 8 о доверенных моделях для государственных информационных систем и значимых объектов критической информационной инфраструктуры содержит практически оправданную идею повышенного стандарта для публичного сектора и КИИ. Однако доверенность модели не должна сводиться к включению в реестр. Реестр может подтверждать административный статус, но содержательное доверие возникает из проверяемой инфраструктуры: документированной области применения, тестирования, независимого аудита, стресс-тестирования, журналирования решений, контроля обновлений, мониторинга инцидентов, человеческого пересмотра и возможности доказательной реконструкции результата.

Статья 9 о правах граждан при использовании ИИ является одним из сильных элементов проекта. Она предусматривает информирование об использовании ИИ, уведомление об автономном решении, затрагивающем права, обязанности, свободы и законные интересы гражданина, возможность отказа от автономного использования ИИ в установленных случаях, досудебное обжалование решений органов власти и организаций с государственным участием, а также компенсацию вреда. При этом норма требует процессуального наполнения: гражданин должен понимать, в какой части решения использовался ИИ, какие данные учитывались, кто принял окончательное решение, как получить человеческий пересмотр, где хранятся логи, как оспорить исходные данные и как распределяется бремя доказывания. Государственный ИИ требует повышенного стандарта прозрачности, поскольку соединяет алгоритмическую обработку с публичным принуждением.

Статья 10 распределяет обязанности между разработчиком модели, оператором системы, владельцем сервиса и пользователем. Эта логика верна: разработчик отвечает за дефекты модели, документацию, известные уязвимости и тестирование; оператор - за эксплуатацию, назначение, контроль и реакцию на инциденты; владелец сервиса - за интерфейс, доступ, предупреждения, ограничения и коммерческую политику; пользователь - за умышленное противоправное применение и обход защитных механизмов. Вместе с тем формулы об “исключении” дискриминационных особенностей и предотвращении любого противоправного материала должны быть заменены на требования разумных, пропорциональных и проверяемых мер с учётом назначения сервиса и предсказуемых классов риска. Исключение обязанности крупных ИИ-сервисов исполнять режим организатора распространения информации по статье 10.1 Федерального закона “Об информации, информационных технологиях и о защите информации” следует оценить положительно: масштаб аудитории сам по себе не превращает ИИ-сервис в коммуникационную платформу.

Статья 11 об ответственности содержит правильную идею распределения ответственности по роли, вине и контролю, но использует опасные формулы. Критерий “должны были знать о возможности получения такого результата” слишком широк для генеративных моделей, поскольку абстрактная возможность злоупотребления существует почти всегда. Ответственность должна связываться с предсказуемыми классами риска, известными уязвимостями, назначением сервиса, фактической возможностью контроля, принятыми мерами, реакцией на инциденты и добросовестностью архитектуры. Формула “исчерпывающие меры” также требует замены: в ИИ возможны разумные, соразмерные, технологически доступные и соответствующие уровню риска меры, но невозможна абсолютная гарантия отсутствия вреда.

Статья 12 о маркировке синтезированного информационного материала отвечает реальной проблеме подрыва доверия к изображению, голосу, видео, документу и доказательству. Однако универсальная маркировка всего контента, созданного с использованием ИИ, может превратиться в информационный шум. Закон должен различать полностью сгенерированный материал, существенно изменённый материал, способный ввести в заблуждение, и вспомогательное использование ИИ. Строгая видимая и машиночитаемая маркировка нужна там, где материал имитирует реальное событие, лицо, голос, официальное сообщение или доказательство; для вспомогательного использования ИИ достаточно договорного раскрытия или технических метаданных.

Статья 13 об интеллектуальной собственности является наиболее уязвимой. Признание охраноспособности результатов, созданных автоматизированной системой независимо от участия человека, затрагивает основы авторского права и требует изменений в Гражданском кодексе РФ, включая вопросы авторства, первоначального правообладателя, срока охраны и критерия оригинальности. Норма об извлечении информации из объектов авторских или патентных прав для формирования наборов данных или обучения ИИ также относится к ограничениям исключительных прав и должна регулироваться через ГК РФ с условиями, гарантиями и исключениями, а не через рамочный закон об ИИ. Критика Совета при Президенте РФ по кодификации и совершенствованию гражданского законодательства от 23 апреля 2026 года в этой части представляется обоснованной.

Блок мониторинга, международного сотрудничества и вычислительной инфраструктуры также требует уточнения. Мониторинг инцидентов необходим, но закон должен определить виды инцидентов, сроки и форму сообщения, режим коммерческой тайны, объём публичного раскрытия и права гражданина при затрагивании его интересов. Международный блок пока носит декларативный характер и должен быть дополнен вопросами совместимости стандартов, признания аудита, трансграничных инцидентов и гармонизации маркировки синтетического контента. Наиболее практичным выглядит регулирование вычислительной инфраструктуры: суверенитет в сфере ИИ зависит от вычислений, энергии, центров обработки данных, кадров, оборудования, датасетов, инструментов тестирования и финансирования.

В целом проект следует рассматривать как переходный документ. Его достоинство состоит в том, что ИИ впервые описывается как инфраструктурное явление: через роли участников, риск-ориентированные критерии, права граждан, маркировку, доверенные модели, мониторинг и вычислительную базу. Его слабость - смешение публичного права, гражданского права, авторского права, информационной безопасности, промышленной политики, ценностной доктрины и платформенного регулирования без достаточной внутренней архитектуры. Для развития проекта риск-ориентированная статья 5 должна стать центром закона; статусы суверенной, национальной и доверенной модели следует развести; права граждан по статье 9 необходимо сделать процедурными; ответственность по статье 11 - привязать к контролю и предсказуемым рискам; интеллектуальную собственность по статье 13 - вынести в ГК РФ; маркировку по статье 12 - сделать многоуровневой и значимой. Российский закон об ИИ должен регулировать архитектуру человеческого контроля над автономными цифровыми агентами: допуск, мандат, прозрачность, трассируемость, ответственность и защиту гражданина от непрозрачной автоматизированной власти.

5.3. Международные организации и мягкое право ИИ.

Всемирная организация интеллектуальной собственности (ВОИС, WIPO) с 2019 г. выступила площадкой для глобальной дискуссии о ИИ и правах интеллектуальной собственности. ВОИС проводит серии опросов и конференций, выясняя позиции стран по вопросам авторства, патентоспособности ИИ-изобретений, необходимости раскрытия использования ИИ. Одним из результатов стало понимание, что консенсус между ведущими странами таков: произведения, созданные полностью ИИ без участия человека, не охраняются авторским правом35[35]. Это отражено, например, в практике США – отказ регистрировать изображение, сгенерированное без человека (дело “Thaler v. Perlmutter”, 2023)36[36]. ВОИС рекомендует странам подумать об установлении обязанности заявителей указывать использование ИИ при подаче патентов , чтобы экспертиза могла оценить вклад человека.

В области авторского права ВОИС фиксирует тренд на декларацию AI-вклада: когда авторы добровольно сообщают, какие части произведения созданы машиной. Цель – сохранить достоверность системы ИС и избежать споров. OECD (Организация экономического сотрудничества и развития) в 2019 г. приняла Принципы ИИ – первый межправительственный свод этических требований к ИИ, поддержанный затем странами G2037[37].

Ключевые положения – транспарентность, объяснимость, безопасность, ответственность. Принцип 1.3 прямо гласит: «Акторы в сфере ИИ должны предоставлять значимую информацию, соразмерную контексту, о функционировании ИИ-систем; уведомлять лиц о том, что они взаимодействуют с ИИ, где это уместно; обеспечивать возможность объяснить и оспорить решения, принятые ИИ» .

Эти принципы легли в основу многих национальных стратегий и стандартизации. На базе принципов ОЭСР, к примеру, разрабатываются стандарты ISO по управлению ИИ, где учитывается и риск информационной асимметрии. ОЭСР акцентирует также принцип подотчётности: кто бы ни применял ИИ, он несёт ответственность за его воздействие . Это полностью созвучно нашей концепции куратора.

5.4. Критическая оценка вещных и субъектных моделей

Проведённый обзор показывает, что чистые полюса регулирования нигде не воплощены на 100%. Даже Китай, строго контролируя ИИ, не признаёт за ним самостоятельности – значит, склоняется к модели “ИИ как объект права”. ЕС, вводя требования прозрачности, также исходит из объектной модели, но с усиленной ответственностью разработчиков (то есть приближаясь к идее “расширенной объектности”, когда к вещи приделывают паспорт, инструкции, отчёты и контролёры). США, не создавая новых статусов для ИИ, на деле используют принцип “ИИ – инструмент, но специалисты должны обновить правила пользования инструментом”. Никто из крупных игроков не решился наделить ИИ правосубъектностью, и этому есть веские причины. Почему модель “ИИ как субъект” не работает?

Во-первых, нет практической необходимости: на данном этапе любую ситуацию можно разложить на действия и упущения конкретных людей или компаний, и на них возложить ответственность. Придумывать фиктивного виновника-робота смысла нет – это лишь усложнит взыскание ущерба (у ИИ нет ни активов, ни морального сознания).

Во-вторых, этически и философски действующие ИИ-системы пока не обладают тем, что юристы связывают с субъектностью: пониманием норм, способностью нести обязанности, осознавать значение своих действий. Имитация интеллекта – не равна правовой дееспособности.

В-третьих, как отмечалось, есть риск злоупотреблений: корпорации могли бы создавать “дочек-роботов” и перекладывать на них всю вину, оставаясь безнаказанными – примерно так иногда используют фирмы-однодневки или фиктивные юрлица для ухода от ответственности. Этот аргумент неоднократно звучал в ЕС .

С другой стороны, почему модель “ИИ просто вещь” тоже не устраивает? Потому что она не даёт ответов на новые вопросы и не меняет поведения людей. Когда сложная система приводит к ущербу, выяснение, считать ли событие браком изделия, ошибкой пользователя или форс-мажором, превращается в юридическую казуистику. Например, при сбое автоматизированного самолёта: самолет – вещь, но пилот действовал по инструкциям автопилота… кто виноват? Вещный подход говорит – ищите конкретную неисправность. А если её нет, но алгоритм принял неверное решение? Кроме того, классический подход не стимулирует раскрытие информации. Производитель вещи по закону обязан предупредить о известных опасных свойствах. Но если алгоритм – вещь, производитель может сказать: “мы не знаем, как он работает внутри, потому не предупреждали” – и формально он честен. То есть слепая зона остаётся. Тот же вопрос ценообразования: если ИИ у консалтинга – просто инструмент, консультант может скрывать его использование и брать плату как за ручной труд. Норма о добросовестности общая, но без конкретизации она не заставит открыть карты. Поэтому в мире даже при объектной модели вводят специальные правила: маркировка, раскрытие, обязанность проверки и документации – всё это свидетельство, что стандартного режима недостаточно. Мы видим своеобразное сближение: с одной стороны, никто не хочет называть ИИ полноценным участником права, с другой – все вводят надстройки, чтобы учесть автономность и социотехническую роль ИИ.

5.5. Опыт смежных отраслей: как управлять сложными автономными системами.

В поисках оптимального режима полезно посмотреть на отрасли, где проблема доверия к сложным технологиям встала раньше. Такими отраслями являются финансы (финтех), аудит, фармацевтика, а также судебная экспертиза. Каждая из них сталкивалась с дилеммой: эксперт-профессионал использует автоматизированные инструменты или сложные процессы, непонятные клиенту или внешнему наблюдателю. Решения, выработанные там, могут пролить свет на регулирование ИИ.

●

Финтех (автоматизированные финансовые услуги).

С середины 2010-х на рынке инвестиций появились

робо-эдвайзеры

– алгоритмы, которые без участия человека управляют портфелями клиентов. Инвестор отвечает на онлайн-анкету, после чего ИИ распределяет его средства. Здесь очевидна

информационная асимметрия

: клиент не понимает устройство алгоритма и может переоценивать его способности. Регуляторы (в США, ЕС) отреагировали требованием

максимальной прозрачности и сохранения “человека в цикле”

. В США SEC чётко указала: оператор робо-советника должен раскрывать клиенту, что рекомендации даёт алгоритм, объяснить основные принципы его работы, ограничения, и предоставить возможность обратной связи с живым человеком. То есть, клиент имеет право знать, что перед ним не человек, а модель, и право задать вопросы или оспорить результат у специалиста. Это превратилось в де-факто стандарт индустрии. Перенося на консалтинг или науку: если выдаётся автоматический отчёт, хорошо бы, чтобы клиент/читатель получил

дисклеймер

: “этот прогноз сгенерирован ИИ, возможны допущения”, а также опцию

обратиться к эксперту

за пояснениями. Такой подход защищает от слепого доверия машине. Помимо раскрытия, в финтехе действует принцип:

человек всегда отвечает за алгоритм

. Если робо-эдвайзер ошибётся, лицензия и ответственность – на компании, как если бы ошибся живой советник. Это поддерживает доверие: клиент знает, что фирма не сможет отмахнуться “это всё компьютер виноват”.

●

Аудит и бухгалтерия.

Аудиторы – профессионалы, которым компании традиционно доверяют проверку финансов. Аудит всегда строился на

асимметрии знаний

: клиент не знает деталей аудиторских процедур и полагается на квалификацию аудитора . С появлением

цифрового аудита и ИИ-инструментов

для анализа транзакций и поиска аномалий, аудиторы получили ещё больший информационный перевес: они используют проприетарное ПО, Big Data методы, недоступные клиенту. Чтобы сохранить доверие, профсообщество выработало правило:

документируй и будь готов к проверке

. Международные стандарты аудита (ISA) обязывают фиксировать все существенные процедуры, а качество работы аудитора проверяется через внешние или внутренние контрольные комиссии. В 2025 г. в Великобритании вышло специальное руководство Совета по фин.отчётности (FRC) по применению ИИ в аудите. Оно подчеркнуло:

ИИ может повысить качество аудита, но аудиторы обязаны пропорционально и понятно документировать использование таких инструментов

38[38]

. Фактически аудиторам сказали:

можете применять ИИ, но объясните, как и что он сделал, и сохраните доказательства для возможной проверки

. Ключевые решения всё равно должны принимать

лицензированные аудиторы

, а не чёрный ящик . Это очень похоже на требование человеческого надзора за ИИ в консалтинге – параллель очевидна. FRC также рекомендует крупнейшим фирмам внедрить

внутреннюю сертификацию ИИ-моделей перед применением

– т.е. чтобы специальный комитет одобрял новые алгоритмы, проверял их надежность. Внутри Big4 аудита существуют

Technology Approval Process

– советы, утверждающие внедрение программного обеспечения. Аналогично и консалтинговые компании могли бы создавать комитеты по этике ИИ, которые проверяют новые инструменты, прежде чем те пойдут в работу. Важный принцип аудита:

“ошибка программы не освобождает аудитора от ответственности”

. Если отчёт искажён из-за бага или “кривого” алгоритма, аудитор несёт ответственность, как за свою ошибку. Этот же тезис мы предлагаем для всех профуслуг с ИИ: исполнитель отвечает за ИИ-инструмент,

как за свой собственный разум

. Такая проверка – аналог идеи

“аудита ИИ”

. Уже есть законодательные инициативы: сенаторы в США предлагают сделать

алгоритмический аудит стандартной практикой

для повышения подотчётности

39[39]

.

●

Фармацевтика и медицина.

В разработке лекарств и медизделий давно действует

лицензионно-допускная система

: ни одно лекарство не выйдет на рынок без серии клинических испытаний и одобрения регулятора (FDA, EMA и т.п.). Причина – высокая цена ошибки (риск для жизни) и сложность экспертизы (пациент не может сам оценить безопасность препарата). По сути, здесь признано:

необходим независимый верификатор

, который проверит результаты испытаний, протоколы, статистику – то, что пациенту недоступно. Перенося на ИИ, особенно критический (медицина, транспорт, энергетика), напрашивается

аналогичная модель сертификации

. Уже обсуждается идея

“FDA для алгоритмов”

: перед массовым внедрением, например, диагностический ИИ проходит тестирование на выборке случаев, результаты оценивают эксперты, и только затем выдается разрешение на использование

40[40]

. Некоторые юрисдикции двигаются в этом направлении: в ЕС AI Act требует сертификации «систем высокого риска» (например, ИИ для хирургии или отбор кандидатов на работу). В сущности, принцип тот же, что в фарме:

докажи безопасность и эффективность прежде, чем применять на людях

. Также фармотрасль известна развитой системой

фармаконадзора

– мониторинга побочных эффектов в пострыночный период. Для ИИ можно представить

“алгоритмонадзор”

: обязать разработчиков собирать и предоставлять сведения о сбоях и нештатных ситуациях, чтобы регулятор мог реагировать. И снова в AI Act мы видим подобное: требование к провайдерам высокорисковых ИИ непрерывно следить за функционированием системы и сообщать об инцидентах. Так что опыт фармы уже закладывается в ИИ-политику.

●

Судебная экспертиза и судебная аналитика.