И. Р. Бегишев

Уголовно-правовая охрана общественных отношений, связанных с робототехникой

Монография

ebooks@prospekt.org

Информация о книге

УДК 343.3/.7:004.89

ББК 67.408:32.816

Б37

Изображение на обложке с ресурса Shutterstock.com

Автор:

Бегишев И. Р., кандидат юридических наук, заслуженный юрист Республики Татарстан, старший научный сотрудник, доцент кафедры уголовного права и процесса Казанского инновационного университета имени В. Г. Тимирясова.

Рецензенты:

Лопатина Т. М., доктор юридических наук, доцент, заведующий кафедрой уголовно- правовых дисциплин Смоленского государственного университета;

Ефремова М. А., доктор юридических наук, доцент, профессор кафедры уголовно- правовых дисциплин Казанского филиала Российского государственного университета правосудия;

Русскевич Е. А., доктор юридических наук, профессор кафедры уголовного права Московского университета Министерства внутренних дел Российской Федерации имени В. Я. Кикотя.

В монографии впервые проведено комплексное исследование уголовно-правовой охраны общественных отношений, связанных с робототехникой, разработана авторская концепция ответственности за соответствующие общественно опасные деяния. Даны теоретические основы уголовно-правовой охраны общественных отношений, возникающих по поводу разработки, создания, эксплуатации и иного использования роботов. Сформулированы предложения, направленные на совершенствование уголовного законодательства об ответственности за преступные посягательства, сопряженные с применением роботов и в отношении них.

Законодательство приведено по состоянию на 1 января 2022 г.

Для студентов, аспирантов и преподавателей юридических вузов и факультетов, а также широкого круга читателей, интересующихся проблемами уголовно-правовой охраны общественных отношений, связанных с робототехникой.

УДК 343.3/.7:004.89

ББК 67.408:32.816

© Бегишев И. Р., 2022

© ООО «Проспект», 2022

СПИСОК СОКРАЩЕНИЙ И УСЛОВНЫХ ОБОЗНАЧЕНИЙ

FHI
—
Институт будущего человечества;

G 20
—
Клуб правительств и глав центральных банков государств с наиболее развитой и развивающейся экономикой;

IFR
—
Международная федерация робототехники;

БПВС
—
беспилотные воздушные судна;

БПЛА
—
беспилотные летательные аппараты;

БПТС
—
беспилотные транспортные средства;

ВС РФ
—
Верховный Суд Российской Федерации;

ГК РФ
—
Гражданский кодекс Российской Федерации;

ДТП
—
дорожно-транспортное происшествие;

ЕП
—
Европейский парламент;

ЕС
—
Европейский союз;

КОМЕСТ
—
Всемирная комиссия по этике научных знаний и технологий;

КС РФ
—
Конституционный Суд Российской Федерации;

МСЭ
—
Международный союз электросвязи;

НАУРР
—
Национальная Ассоциация участников рынка робототехники;

ООН
—
Организация Объединенных Наций;

ОЭСР
—
Организации экономического сотрудничества и развития;

РФ
—
Российская Федерация;

СЕ
—
Совет Европы;

СМИ
—
средства массовой информации;

США
—
Соединенные Штаты Америки;

УК РФ
—
Уголовный кодекс Российской Федерации;

ЮНЕСКО
—
специализированное учреждение Организации
Объединенных Наций по вопросам образования,
науки и культуры.

ВВЕДЕНИЕ

Технологии, лежащие в основе Индустрии 4.0, влекут коренные изменения во всех отраслях человеческой деятельности. В настоящее время робототехника наряду с другими сквозными технологиями относится к ключевым драйверам цифровой экономики. Роботы успешно применяются в промышленности и строительстве, в здравоохранении и образовании, в быту, в сельском и жилищно-коммунальном хозяйствах, в военной и космической областях, а также в других сферах. Одновременно они создают значительные и все возрастающие риски для охраняемых уголовным законом общественных отношений.

По данным Международной федерации робототехники (далее — IFR), количество промышленных роботов на сегодняшний день достигло невиданных масштабов — 3 млн штук, что на 10% больше, чем в 2020 году¹. В 2021 году на 12% возросло и использование сервисных роботов по всему миру². Более 73% глобальных установок роботов сосредоточено в пяти странах (Китайская Народная Республика, Государство Япония, Республика Корея, Федеративная Республика Германия и Соединенные Штаты Америки (далее — США))³. Россия сегодня находится во втором эшелоне стран по использованию промышленных роботов, однако разрыв стремительно сокращается.

Согласно информации Национальной Ассоциации участников рынка робототехники (далее — НАУРР), в 2021 году российский рынок робототехники насчитывает 170 производителей промышленных роботов⁴ и 270 компаний-разработчиков профессиональных сервисных роботов⁵. Планируется, что к 2024 году указанный сегмент робототехники возрастет почти вдвое — до 17,4 млрд руб.⁶

Инновационные технологии создания и производства роботов демонстрируют экспоненциальное развитие: создаваемые машины приобретают новые характеристики, существенно расширяющие их функционал, ввиду чего разрабатываемые и перспективные роботы могут выпадать из правового поля, не являясь тождественными какому-либо предмету, признаваемому в качестве объекта соответствующих правоотношений. Уже сейчас создание, разработка и использование различных робототехнических устройств является объективной реальностью. При этом роботы перманентно видоизменяются, расширяя пределы своих функциональных возможностей, чем сообразно изменяют характер, формы, методы, средства и способы взаимодействия человека с ними.

Устойчивое и безопасное развитие робототехники является важной государственной задачей, успешная реализация которой позволит России открыть новые экономические рынки, изменить в свою пользу сложившиеся мировые торгово-финансовые отношения. Указанные процессы диктуют необходимость создания контрольно-надзорных механизмов за действиями роботов и охраны общественных отношений, возникающих на этапах их создания и функционирования.

Дистанцирование от вопросов правового, в том числе государственно-запретительного воздействия на общественные отношения, порожденные роботами, представляются деструктивным вектором, влекущим деактуализацию правовых предписаний, снижение их эффективности. Изменения в структуре и характере общественных отношений, вызванные внедрением в них робототехнических технологий, должны находить адекватное и соответствующее социальной действительности отражение в нормативных правовых актах, включая уголовное законодательство.

В случае запаздывая процессов трансформации правовых предписаний возможно возникновение криминальных областей разработки, производства и применения роботов. Подобное положение представляет собой объективную угрозу.

Совершенно справедливы слова Президента Российской Федерации В. В. Путина о том, что необходимо «обеспечить использование прорывных цифровых технологий для осуществления национальных целей, преображения России и укрепления ее позиций в мире»⁷.

Утверждение 19 августа 2020 года распоряжением Правительства Российской Федерации Концепции развития регулирования отношений в сфере технологии искусственного интеллекта и робототехники до 2024 года⁸ ознаменовало новый этап в регулировании сквозных цифровых технологий. Принятие Концепции наряду с Национальной стратегией развития искусственного интеллекта до 2030 года⁹ стало признанием российским обществом и правительством серьезных вызовов и угроз, которые возникли и продолжают расти с развитием технологий искусственного интеллекта и робототехники, что ставит важную задачу перед правовой системой в целом и уголовным правом в частности.

Таким образом, перед наукой уголовного права возникает задача особой значимости — обеспечить стабильное, устойчивое и безопасное развитие отечественной робототехники. Немаловажную роль в указанных процессах занимает также проработка механизмов уголовной ответственности за причинение вреда с использованием робототехники¹⁰.

Робототехника, будучи сквозной цифровой технологией, содержит существенные риски и угрозы. И тому есть объективные подтверждения. Последние пять лет все больше стран стали заявлять об использовании роботов в военных целях, не исключением является и Российская Федерация¹¹. Особую озабоченность подобные инциденты вызывают в свете растущей автономности роботов от человека.

Общественные, международные организации и межгосударственные объединения призывают ограничить оборот автономных роботов в военных целях, поскольку это создает прямую угрозу соблюдению принципов защиты прав и свобод человека и гражданина, обеспечению безопасности личности, общества и государства. И если экспертами делались прогнозы о том, что угроза автономной робототехники для человеческих ценностей станет реальной в ближайшие 20–25 лет, то реальность, к сожалению, диктует свои правила. В мае 2021 года широкой публике был представлен Доклад группы экспертов Совета Безопасности Организация Объединенных Наций по Ливии, где отмечалось, что впервые в истории боевой робот самостоятельно выследил и уничтожил человека по собственной инициативе и без участия оператора¹².

Немало рисков для охраняемых уголовным законом общественных отношений несет использование роботов в преступных целях. Правоприменению были известны случаи, когда роботы стали задействоваться для организации контрабанды наркотиков либо иных запрещенных предметов и веществ¹³.

В связи с этим необходимо спрогнозировать риски причинения вреда охраняемым законом общественным отношениям в процессе функционирования роботов при совершении преступлений. Обозначенное необходимо для своевременного конструирования уголовно-правовых механизмов установления ответственности за причинение вреда, связанного с использованием роботов.

Необходимость полной, своевременной и достаточной защиты охраняемых уголовным законом объектов делает обязательным построение системы уголовно-правовой охраны отношений, связанных с робототехникой. Составляющие ее меры и инструменты закладывают основу безопасности личности, общества и государства от соответствующих общественно опасных деяний.

Проведенное монографическое исследование позволяет прийти к выводу о необходимости проведения комплексного изучения и построения моделей уголовно-правовой охраны общественных отношений, связанных с робототехникой, и, следовательно, свидетельствует об актуальности избранной темы исследования.

Монография соответствует приоритетному направлению развития науки в Российской Федерации «Робототехнические комплексы (системы) военного, специального и двойного назначения»¹⁴, утвержденному Указом Президента Российской Федерации от 7 июля 2011 г. № 899 (в редакции от 16 декабря 2015 г. № 623¹⁵). Она прямо реализует положения Концепции развития регулирования отношений в сфере технологий искусственного интеллекта и робототехники до 2024 года¹⁶, утвержденной распоряжением Правительства Российской Федерации от 19 августа 2020 г. № 2129-р, в том числе в части проработки механизмов уголовной ответственности в случае причинения вреда системами искусственного интеллекта и робототехники. В числе задач регулирования отношений в указанной области данный документ называет «определение правовых барьеров, затрудняющих разработку и применение систем искусственного интеллекта и робототехники в различных отраслях экономики и социальной сферы»¹⁷, которая безусловно имеет отношение и к сфере уголовного права.

Раздел 1. ТЕОРЕТИЧЕСКИЕ ОСНОВЫ УГОЛОВНО-ПРАВОВОЙ ОХРАНЫ ОБЩЕСТВЕННЫХ ОТНОШЕНИЙ, СВЯЗАННЫХ С РОБОТОТЕХНИКОЙ

Глава 1. СИСТЕМООБРАЗУЮЩИЕ НАЧАЛА УГОЛОВНО-ПРАВОВОЙ ОХРАНЫ ОБЩЕСТВЕННЫХ ОТНОШЕНИЙ, СВЯЗАННЫХ С РОБОТОТЕХНИКОЙ

§ 1.1. Понятие и содержание уголовно-правовой охраны общественных отношений, связанных с робототехникой

Определения понятия уголовно-правовой охраны текст УК РФ, к сожалению, не содержит, что, с одной стороны, создает риски неодинаковой трактовки данного явления, а, с другой, вызывает необходимость изучения и учета положений правовой доктрины. Хотя следует отметить, что задачами названного выше кодекса в ч. 1 ст. 2 названы «охрана прав и свобод человека и гражданина, собственности, общественного порядка и общественной безопасности, окружающей среды, конституционного строя Российской Федерации от преступных посягательств, обеспечение мира и безопасности человечества, а также предупреждение преступлений»¹. Можно предположить, что в данном перечне раскрыта, в числе прочего, и охранительная функция уголовного права.

Б. Т. Разгильдиев определяет уголовно-правовую охрану как «уголовно-правовое сохранение личности, общества, государства, мира и безопасности человечества от возможного преступного воздействия на них, осуществляемое на определенной территории и за определенный отрезок времени посредством неперсонифицированной угрозы наказанием правоисполнителей»². Сохранение или обеспечение сохранности, на наш взгляд, предполагает обеспечение объектов уголовно-правовой охраны в целостности и неприкосновенности от общественно опасных посягательств. В предложенном Б. Т. Разгильдиевым определении понятия, что следует отметить, не указаны субъекты уголовно-правовой охраны.

А. Н. Сайгашкин понимает уголовно-правовую охрану как «возникающую на определенном этапе исторического развития объективно необходимую общественно полезную деятельность специально уполномоченных государственных органов по обеспечению безопасности охраняемых объектов посредством реализации уголовно-правовых предписаний»³. Далее он отстаивает точку зрения, что «охрана включает в себя защиту, что она «содержит в себе два компонента, две составляющих: пассивную» — фазу ожидания и контроля (охрану в узком смысле слова) и «активную» — фазу действия, реагирования на совершаемое или совершенное опасное деяние, нежелательное изменение (защита)»⁴. Описанную им «фазу ожидания и контроля» можно рассматривать как стадию подготовки уполномоченных органов власти и иных заинтересованных субъектов к реакции на возможные в будущем преступные действия, которая, безусловно, имеет и предупредительное значение.

На основе изложенного, А. Н. Сайгашкин предлагает тезис, что «наряду с самими нормами содержанием уголовно-правовой охраны является деятельность государства в лице уполномоченных государственных (именно государственных) органов по созданию уголовно-правовых норм, которая реализуется в законотворческой (законодательной) и правоприменительной формах (она осуществляется в рамках прокурорского надзора, оперативно-розыскной, уголовно-процессуальной и уголовно-исполнительной деятельности)»⁵.

В последующем он приходит к переформулированному выводу, что «уголовно-правовая охрана представляет собой совокупность уголовно-правовых норм и норм отраслей права, тесно связанных с уголовным правом, основной целью которых является борьба с преступностью, а также специфический вид государственной деятельности по созданию, изменению соответствующих норм, контролю за соблюдением уголовно-правовых предписаний, направленных на обеспечение безопасности объектов уголовно-правовой охраны, соответствующего реагирования в случаях нарушения уголовно-правового запрета, наряду с органами государственной власти, призванными осуществлять данный вид деятельности»⁶. Высказанный подход является очень широким и заслуживающим внимания в рамках изучения с точки зрения доктрины уголовного права.

В. Е. Бондаренко предположила, что элементами уголовно-правовой охраны выступают: объект; субъекты, правовые статусы которых разное по содержанию, но сводятся к исполнению единой обязанности не совершать преступных обязательств на обозначенные уголовным законом объекты; наказание. И сделала вывод, что уголовно-правовая охрана «представляет собой режим исполнения обязанности не совершать преступных посягательств на обозначенные уголовным законом объекты под угрозой уголовного наказания»⁷. Можно предположить, что в целом она следует в русле достаточно оригинального авторского развития концепции юридической ответственности, причем как позитивной, так и негативной.

Ранее Н. Ф. Кузнецова отмечала, что УК РФ ставит перед собой две задачи: охранительную и предупредительную. Охранительная задача, по ее мнению, раскрывается через перечисление в ч. 1 ст. 2 УК РФ объектов охраны, а средствами ее решения выступают:

«а) закрепление оснований и принципов уголовной ответственности;

б) определение круга деяний, объявляемых преступными, иными словами, пределы криминализации деяний;

в) установление наказания за них, т. е. пенализации преступлений и иных мер уголовно-правового характера»⁸.

В целом соглашаясь с данной точкой зрения, следует отметить, что иные меры уголовно-правового характера вряд ли правильно относить к наказанию. Сходной позиции придерживается Ю. В. Голик, обративший внимание на то, что УК РСФСР 1960 г. выделял не две задачи, а только одну — охранительную, и что она достигается, в числе прочего, установлением иных мер уголовно-правового характера за совершение преступлений⁹.

В определенной мере подходам Н. Ф. Кузнецовой и Ю. В. Голика соответствует мнение Ю. В. Пудовочкина и С. С. Пирвагидова, которые отмечают, что охранительная задача — не единственная стоящая перед уголовным правом задача. Они отмечают, что «наряду с ней УК РФ называет также задачу предупреждения преступлений, которая традиционно понимается в двух значениях: общего предупреждения, т. е. предотвращения совершения преступления лицами, еще его не совершившими, и частного предупреждения, т. е. предотвращения преступления со стороны лиц, совершивших преступление». При этом особо указано, что охранительная и предупредительная задачи уголовного закона тесно взаимосвязаны, и что ряд авторов (А. В. Наумов, Б. Т. Разгильдиев, В. В. Мальцев) содержание охранительной задачи раскрывают через предупредительные аспекты уголовного закона¹⁰.

Следует отметить, что уголовно-правовой охране подлежат объекты, которые рассматриваются в качестве значимых для современного государства социальных ценностей. Наиболее распространенной среди отечественных специалистов в области уголовного права является точка зрения, что объектами уголовно-правовой охраны являются общественные отношения.

Однако есть и другие позиции. Так, А. В. Наумов предложил обратиться к теории объекта как правового блага, разработанной еще в XIX веке в рамках классической и социологической школ уголовного права. Объект преступления он определяет как блага, интересы, на которые посягает преступное деяние и которые охраняются уголовным законом¹¹. Мысль достаточно интересная, хотя и не получившая поддержки большинства современных специалистов в области уголовного права. Следует подчеркнуть, что многие общественные отношения можно и нужно рассматривать в качестве благ и принимать их под охрану.

В. Н. Винокуров отмечает, что объектом уголовно-правовой охраны следует признавать общественные отношения, нормальное функционирование которых обеспечивают развитие личности. Он обозначает также уровни вреда общественным отношениям, причиненного преступлением:

1) причинение физического вреда потерпевшему, выражающегося в разрыве социальной связи, в результате чего лицо лишается возможности реализовать свои возможности либо реализация этих возможностей существенно затрудняется;

2) причинение политического вреда государства и морального — обществу¹².

Отдельно В. Н. Винокуров выделяет вред, причиняемый условиям нормального развития общества, выражающийся в уничтожении среды обитания, а также при совершении преступлений против государства как политической организации, нормальное функционирование которого обеспечивает развитие общества¹³.

Против признания объектом уголовно-правовой охраны общественных отношений возражений нет. В то же время позиция В. Н. Винокурова не представляется достаточно оригинальной. Так, ранее Г. П. Новоселов предлагал считать «объектом любого преступления человека (людей, общество в целом), так как, по его мнению, никакого иного вреда, кроме вреда людям, преступление причинить не может: преступление причиняет или создает угрозу причинения вреда не чему-то (благам, нормам права, отношениям и т. п.), а кому-то, и, следовательно, как объект преступления нужно рассматривать не что-то, а кого-то»¹⁴. Однако при таком подходе, на наш взгляд, может быть поставлена под сомнение достаточно стройная классификация объектов преступления «по горизонтали», которая сейчас положена в основу построения Особенной части уголовного права. А такое последствие должно быть очень серьезно обосновано.

А. В. Наумов считает, что охранительная задача уголовного права и есть его основная, историческая задача, независимая от политического строя соответствующего государства либо особенностей его экономики. Он выделяет два аспекта охранительной задачи уголовного права, относя к ним как общую превенцию уголовного закона, то есть предупреждение совершения преступления гражданами под воздействием уголовно-правового запрета, так и его частную превенцию, под которой понимается предупреждение совершения новых преступлений лицами, уже совершившими какие-либо преступления¹⁵. Можно сделать вывод, что уголовно-правовая охрана понимается им как весьма широкий по содержанию институт. Хотя при этом не исключается возможность и других задач.

Справедливости ради следует отметить, что некоторые специалисты высказывают позиции об иных, кроме охранительной и предупредительной, задачах уголовного права. Например, о регулятивной или сходной с ней задаче. Так, Н. В. Генрих отмечает, что предметом уголовного права могут выступать лишь определенные общественные отношения, возникающие в связи с совершением преступления, которые уголовное право организует, упорядочивает, которые гарантируют человеку право на свободу, безопасность и справедливость¹⁶. Однако заявленные подходы среди других исследователей существенной поддержки не получили. В то же время отметим, что регулятивная функция права является основной для него.

Уголовно-правовая охрана общественных отношений, связанных с робототехникой, как представляется, имеет определенную специфику, основанную на следующих обстоятельствах. Внедрение цифровых технологий, в том числе робототехники, в социальные практики характеризуется экспоненциальным ростом, что закономерно влечет масштабные и быстрые изменения во многих областях общественной жизни, что требует, с одной стороны незамедлительной, с другой — взвешенной реакции с учетом достижений самых разных отраслей знания: техники в широком смысле слова, промышленности, обороне, медицине и т. д.

Мы солидарны с мнением ученых, утверждающих, что информационно-телекоммуникационные технологии, информационные системы, цифровые устройства в настоящее время составляют неотъемлемую часть жизни современного общества и охватывают все ресурсы, обеспечивающие управление информацией¹⁷. Кроме того, следует отметить, что увеличение количества сфер жизни общества, в которых активно используются цифровые устройства, в том числе робототехника, повлекло изменение структуры преступности. Но, как представляется, в связи с рассматриваемым явлением грядут еще более значительные и сложные трансформации.

Известно, что робототехнические устройства представляют собой сложный объект¹⁸, включающий две составляющие:

— программную, к которой необходимо относить программное обеспечение, обуславливающее функционирование робота, выполнение им определенных функций, перечень и пределы которых предопределены заложенными алгоритмами действий;

— техническую (аппаратную) составляющую, которая представляет собой механическую часть устройства — элементы конструкции, приводы, проводная система, датчики, радары, лидары и т. д.

Специфика роботов как сложных цифровых объектов требует безусловного учета их особенностей при выработке нормативно-правового регулирования правоотношений, складывающихся с их участием.

Роботы, будучи наделенными процессорными мощностями и способные к хранению, обработке и передаче информации, занимают все более значимую роль в сфере промышленного производства и оказания услуг. Повышенный эксплуатационный ресурс, возможность моделирования выполняемой функции посредством внесения изменений в программу, высокая точная выполнения отдельных операций — обуславливают значительное внимание к робототехнике, причем как позитивное, так и негативно оцениваемое с позиций права.

Робототехнические устройства все чаще и чаще вовлекаются в совершение преступлений. В дальнейшей перспективе это явление будет только нарастать, что в значительной степени увеличит причиняющий потенциал общественно опасных посягательств. Сказанное формирует повестку противодействия криминальным рискам, детерминированным внедрением робототехники, и актуализирует вопросы выработки уголовно-правовых норм, обеспечивающих охрану общественных отношений от посягательств, осложненных применением робототехнических систем.

С позиции современного уголовного права робот (устройство, система, комплекс) может выступать в качестве средства совершения преступления и в качестве предмета посягательства. Применительно ко второй ситуации заметим, что едва ли робот может в полной мере отождествляться с иными средствами вычислительной техники. Отличительной особенностью робота является возможность совершения конкретных, не связанных с хранением, обработкой и передачей цифровой информации, действий, к примеру, передвижение, движение по автомобильным дорогам, перемещение в воздушном пространстве. Совершенно закономерно, что означенные возможности существенно расширяют его функционал и, соответственно, повышают общественную опасность его использования¹⁹.

Примечательно, что в случае совершения противоправного деяния в отношении робота последний рассматривается как собственность и потому подлежит уголовно-правовой охране на общих основаниях. Однако посягательства на отдельные виды роботов причиняют вред объектам уголовно-правовой охраны иной видовой принадлежности. Иными словами, такие деяния могут быть многообъектными.

Так, к примеру, в случае если робототехническое устройство по своему предназначению, целевому использованию и техническим характеристикам охватывается понятием воздушного судна или водного транспорта, его угон или захват квалифицируется по признакам состава преступления, предусмотренного ст. 211 «Угон судна воздушного или водного транспорта либо железнодорожного подвижного состава» УК РФ.

Помимо изложенного, в ситуациях, когда в состав оснащения робототехнического устройства включены вооружение, боеприпасы, взрывчатые вещества, совершение в отношении него посягательства, при наличии иных признаков данного состава преступления квалифицируется по ст. 226 «Хищение либо вымогательство оружия, боеприпасов, взрывчатых веществ и взрывных устройств» УК РФ.

Таким образом, действующее уголовное законодательство не рассматривает робота как признак, позволяющий дифференцировать ответственность за совершение соответствующих деяний. Тем не менее, нам представляется, что робототехнические устройства, в силу присущих им свойств в случае совершения в отношении них посягательств, повлекших неправомерное завладение, представляют повышенную общественную опасность, так как обладают увеличенной причиняющей способностью.

В юридической науке выражается обоснованная настроенность относительно того, насколько существующее правовое, в том числе уголовно-правовое регулирование, адаптировано к активному внедрению робототехники в общественные отношения²⁰. Полагаем, что указанные мнения не лишены оснований. Действительно, робот не может быть в полной мере отождествлен с материальными объектами, которые современное уголовное право рассматривает в качестве предметов отдельных составов. В то же время признаки составов преступлений, характеризующих средства совершения преступлений, не охватывают робота как индивидуально-неповторимый объект материального мира. Едва ли можно сопоставить робототехническое устройство с оружием, взрывчатыми веществами, взрывными устройствами, средствами вычислительной техники. Будучи сквозным цифровым устройством, робот может одновременно совмещать в себе существенные признаки всех вышеперечисленных предметов. В то же время, по нашему мнению, существуют отдельные посягательства, в которых робот способен существенно повысить общественную опасность совершенного деяния, что заслуживает дифференциации ответственности.

Так, робототехника обуславливает возможность выполнения объективной стороны посягательства при нахождении субъекта на значительном удалении от преступного события. Указанное свойство обусловлено возможностью робота длительное время находиться в режиме дистанционного управления, емкостью батареи, поддерживающей функционирование устройства, устойчивость образуемого канала передачи данных, позволяющего получать сигналы управления на значительном удалении.

Помимо изложенного, современные роботы комплектуются двигателями достаточной мощности, что в совокупность с наличием на внешней подвеске несущих элементов обуславливает возможность наделения робота определенными грузами. В качестве таковых могут выступать как взрывчатые вещества, так и взрывные устройства. Наиболее заметно это явление на примере роботов — БПЛА.

Определенное значение имеет и то обстоятельство, что робототехнические устройства способны перемещаться в различных средах — на грунтах, в воздушном, космическом и водном пространстве, нет препятствий для создания при необходимости также и подземных роботов. Указанные характеристики в случае их задействовании в ходе совершения преступления могут существенно увеличить причиненный вред от общественно опасного деяния.

Кроме того, роботы, при наличии соответствующих возможностей программного обеспечения, могут согласовывать и сообразовывать свои действия друг с другом, преобразуя посягательства одного устройства в массовые посягательства, чем также существенно увеличивается общественная опасность содеянного. В данном случае, бесспорно, нет речи о соучастии, поскольку роботы не являются субъектами преступлений. Однако можно представить себе ущерб от армады БПЛА, оснащенных взрывными устройствами и координирующими удары друг с другом.

Исходя из тактико-технических характеристик робота, наибольший вред в качестве средства совершения преступления он может причинить в тех посягательствах, которые связаны с разрушением, уничтожением объектов, устрашением населения, доставкой взрывных устройств и т. д.

В то же время, существующая редакция УК РФ, как ранее уже отмечалось, не содержит составов преступлений, в которых робот рассматривается в качестве признака, характеризующего средство совершения преступления²¹.

Положения общей части, а именно п. «к» ч. 1 ст. 63 «Обстоятельства, отягчающие наказание» УК РФ, позволяют проводить уголовно-правовую оценку посягательств, осложненных применением роботов, с вменением в качестве отягчающего наказание обстоятельства совершение преступления с использованием специально изготовленных технических средств. Думается, данная практика не выдерживает критики. Применение данной нормы возможно только в случае, если робот был «специально изготовлен» для совершения преступления, подобное изложение не позволяет инкриминировать приведенное законоположение в случаях внезапно возникшего умысла, а также в ситуациях, когда для увеличения причиняющей способности общественно опасного деяния был использован промышленно изготовленный робот.

Таким образом, представляется возможным заключить, что современное уголовное законодательство имеет потенциал к улучшению в части, касающейся:

— дифференциации уголовной ответственности за посягательства, совершаемые в отношении различных видов робототехники;

— установления повышенной уголовной ответственности за посягательства, объективная сторона включает признак использования (применения) робота.

Данное мнение в значительной степени основывается на тезисе о повышенной причиняющей способности робота, который может быть подтвержден следующими рассуждениями.

Наличие в роботе программной составляющей обуславливает возможность его использования не просто в качестве средства, повышающего причиняющий потенциал действий человека, но и как высокоавтономного механизма, который фактически способен самостоятельно и полностью выполнить объективную сторону состава преступления. Человеческое участие в данном случае сводится либо к введению посредством органов управления роботом соответствующей команды, либо к заведомому программированию роботов для обеспечения их участия в совершении преступлений²².

В дополнение к изложенному выше заметим, что существующие роботы действуют посредством исполнения алгоритмов действий, изначально заложенных разработчиками в цифровой код их программного обеспечения. Иными словами, такие роботы способны к выполнению исчерпывающего, ограниченного перечня действий, который прямо предопределен возможностями примененной в них программы. Однако поэтапное развитие технологий искусственного интеллекта позволяет обоснованно предположить, что в дальнейшей перспективе существует явная тенденция к значительному повышению степени автономности роботов.

Поясним дополнительно, что искусственный интеллект²³ от программного обеспечения отличается наличествующим функционалом, по своей физической природе и то и другое есть цифровой код. Однако функционал искусственного интеллекта позволяет имитировать когнитивные функции человека, осуществлять самообучение и выполнять поиск решений вне рамок заранее установленного алгоритма²⁴. Иными словами, система на основании самостоятельного анализа зависимостей внешней среды, на основе поступивших от оператора команд способна автономно выбирать алгоритм действий, посредством которых данные команды будут исполняться. В таком случае вопрос о субъекте ответственности за вред, причиненный автономным роботом (роботом, в котором использована технология искусственного интеллекта²⁵), не является достаточно очевидным.

Помимо изложенного, применение робота для совершения преступлений возможно в ситуациях, когда оператор (иное лицо, управляющее роботом) находится на значительном удалении от места посягательства. Увеличивающиеся возможности роботов по времени автономной работы, повышение накопительной мощности элементов их питания, увеличение радиуса действия средств управления роботом, помехоустойчивости сигналов управления создают условия для совершения общественно опасных посягательств на значительном расстоянии от преступника.

В дополнение к вышеуказанному необходимо заключить, что современные роботы демонстрируют возможности к переносу грузов значительных габаритов и массы, а полезная нагрузка БПЛА демонстрирует гиперболический рост. Данная техническая характеристика, на наш взгляд, также может быть использована в целях совершения самых разных преступлений: террористических актов, незаконного пересечения Государственной границы Российской Федерации, контрабанды и т. д.

Все вышесказанное свидетельствует о необходимости объективно сформированного и актуального запроса на выработку современных подходов к уголовно-правовой охране общественных отношений, связанных с робототехникой, под которой предлагается понимать взаимосвязанную систему положений, определяющих уголовно-правовую политику в сфере разработки, производства и применения роботов, а также ответственность за общественно опасные деяния, совершаемые с использованием роботов и в отношении роботов. Такая охрана включает комплекс мер и обеспечивает безопасность обращения с роботами, начиная с момента создания до момента утилизации.

По уголовно-правовой природе роботы, как уже отмечалось, могут выступать предметами преступных посягательств или средствами совершения преступлений. Роботы как материальные объекты, которые, в силу присущих им свойств, обладают повышенным потенциалом для причинения вреда охраняемым законом общественных отношений, создают комплекс рисков и угроз, требующих как актуальных, так и перспективных мер противодействия. Эффективная охрана общественных отношений, связанных с робототехникой, в рамках существующих уголовно-правовых средств является недостаточной. Правовые положения уголовного закона должны учитывать индивидуальные особенности роботов, что вызывает необходимость совершенствования уже существующих норм и выработки новых положений уголовного закона.

§ 1.2. Социальная обусловленность и запрос на уголовно-правовую охрану общественных отношений, связанных с робототехникой

Норма уголовного права является эффективной, если она социально обусловлена²⁶. Детерминированность новых уголовно-правовых предписаний о робототехнике также следует считать основой их эффективного действия.

А. В. Незнамов, выделяя дискуссионные вопросы, связанные с регулированием робототехники, также задается вопросом целесообразности корректировки института ответственности за вред, причиненный роботом или системой искусственного интеллекта. И одновременно, продолжая логическую мысль, указывает на наличие проблемы: если да, то куда?²⁷

Утверждение в августе 2020 г. Концепции развития регулирования отношений в сфере технологий искусственного интеллекта и робототехники до 2024 г.²⁸, несомненно, стало краеугольным камнем в вопросе становления отечественной системы правового регулирования отношений, связанных с внедрением указанных технологий в жизнедеятельность общества²⁹. Ее принятие позволило наметить ключевые векторы дальнейшей правотворческой деятельности.

В числе задач, заявленных в Концепции, среди прочего обозначены «создание основ правового регулирования новых общественных отношений, формирующихся в связи с применением систем искусственного интеллекта и робототехники, определение правовых барьеров, затрудняющих разработку и применение систем искусственного интеллекта и робототехники в различных отраслях экономики и социальной сферы»³⁰.

Как верно отмечается в Концепции, «одним из основных препятствий для расширения применения систем с использованием искусственного интеллекта и робототехники является отсутствие достаточной степени доверия к ним со стороны общества. Повышение степени автономности таких систем, снижение контроля человека за процессом их применения, не полностью прозрачный процесс принятия решений создают общественный запрос на регуляторные ограничения применения систем искусственного интеллекта и робототехники»³¹. В свою очередь подобного рода запрос представляет собой не что иное, как социальную обусловленность уголовно-правовой охраны общественных отношений, связанных с робототехникой.

Справедливо отмечал А. И. Марцев, что «преступление представляет собой один из видов преобразовательной деятельности, поскольку, совершая преступление, субъект производит в объекте определенные изменения или создает своей деятельностью предпосылки для таких изменений. Эти изменения носят деструктивный характер и в социальном плане отрицательно сказываются на функционировании человека, общества или государства. Возможность отрицательного влияния преступлений на социальные условия функционирования человека, общества и государства рассматривается в уголовном праве как общественная опасность. Данная категория закреплена в уголовном законодательстве в качестве регулятора уголовно-правовых отношений»³². С этой позицией трудно не согласиться, ведь общественная опасность, обладая дуальной природой, характеризуется как социальным аспектом, так и правовым.

В решении КС РФ от 19 марта 2003 г. № 3-П в связи с запросом Останкинского межмуниципального (районного) суда города Москвы и жалобами ряда граждан презюмируется, что «закрепление в законе уголовно-правовых запретов и санкций за их нарушение не может быть произвольным»³³, при этом КС РФ в другом своем решении подтверждает конституционное право государства «на установление уголовной ответственности за общественно опасные деяния, которые в силу своей распространенности причиняют существенный вред и не могут быть предотвращены с помощью иных правовых средств»³⁴.

В данном аспекте следует поддержать мнение о том, что уголовное право, среди прочего, призвано определять социальную обусловленность уголовно-правовых положений и их эффективность³⁵, а исследование вопросов социальной обусловленности предопределяется необходимостью «создания научной основы уголовного правообразования, что позволяет избежать не вызванных реалиями жизни произвольных законодательных решений»³⁶.

Понятие социальной обусловленности уголовного закона не раз становилось предметом детального научного исследования. Мнения авторов разнились от позиций признания под социальной обусловленностью «объективной необходимости закрепления в уголовном законе отдельных деяний, исходя из общественных потребностей, выявленных закономерностей развития общественных отношений, реальной социально-экономической ситуации»³⁷ до признания в нем «идеологических, экономических, нравственных, психологических и иных факторов, вызывающих его необходимость»³⁸.

Профессор А. А. Пионтковский писал, что «общественная опасность деяния есть его социально-политическая характеристика в целом»³⁹. В указанном ключе уместно говорить о том, что общественная опасность является тем самым критерием, определяющим объективную необходимость уголовно-правового регулирования рассматриваемых отношений. А любое запрещаемое деяние (преступление) должно представлять собой не только правовое, но и социально обусловленное явление⁴⁰.

Не вдаваясь в полемику относительно того, какое из уже существующих в науке определений видится наиболее приемлемым, отметим, что все авторы едины в понимании под социальной обусловленностью наличия в обществе объективного запроса на регулирование уголовно-правовыми средствами определенных общественных отношений, потенциально или объективно обладающих общественной опасностью.

Вместе с тем, учитывая особый статус уголовного закона как крайнего средства государственного реагирования на проявление делинквентного поведения⁴¹, обратимся к пресловутому критерию общественной опасности, проявляющемуся в конкретных случаях причинения вреда или угрозы его причинения охраняемым уголовным законом общественным отношениям.

Построение достоверной устойчивой системы в любой области знаний начинается с определения базиса, «той исходной научной абстракции, которая концентрировала бы качественную определенность системы знаний в целом, устанавливала бы последовательность расположения понятий в системе и “удельный вес” каждого из них, выступала бы как ее отправной и конечный пункт»⁴².

Несомненно, для уголовного права такой категорией выступает категория общественной опасности, которая одновременно обеспечивает концептуальное единство уголовно-правовых норм, параллельно являясь водоразделом, отграничивающим их от иных отраслей права. Крайне важно определить границы уголовно-правового регулирования, которые формируются исключительно общественной опасностью тех или иных деяний с применением робототехники⁴³.

Как справедливо отмечает Н. А. Лопашенко, «1) опасность всегда связывается с негативными изменениями или последствиями, начиная от просто нежелательных, заканчивая крайней степенью негативности — несчастьем; 2) эти последствия (изменения) не реализованы, они только ожидаются виде возможности или угрозы»⁴⁴.

Е. В. Кобзева пишет, что наиболее часто критерием классификации нарушений норм права на преступления, административные правонарушения, гражданско-правовые деликты, дисциплинарные проступки признается социальная вредность (опасность, значимость) деяния. При этом автор выделяет пять основных подходов к толкованию понятий «общественная опасность» и «вредность»:

«1) общественная опасность выступает свойством исключительно преступных деяний, все другие нарушения норм права вредны для интересов общества, но опасности не представляют;

2) общественной опасностью обладают как преступления, так и другие виды правонарушений, при этом различие между ними состоит в степени и (или) характере общественной опасности;

3) общественно опасными являются преступления и некоторые виды административных правонарушений;

4) нет никакой разницы между общественной вредностью и общественной опасностью, дискуссия носит исключительно терминологический характер;

5) понятие общественной опасности следует заменить понятием общественной (социальной) вредности»⁴⁵.

Как справедливо отмечает П. К. Блажко, «преступления представляют наибольшую общественную опасность по сравнению с иными правонарушениями. При этом различие необходимо проводить и по характеру, и по степени опасности деяний для общества, зависящим от содержания объекта правонарушения, признаков его субъекта, объективной и субъективной сторон, смягчающих и отягчающих обстоятельств, лежащих за пределами состава правонарушения»⁴⁶.

В связи с этим уместно будет привести мнение Н. Ф. Кузнецовой, которое нам также близко: «Понятие общественной опасности рассматривается как универсальное понятие, которое характеризует все правонарушения. И специфика общественной опасности преступлений в ее характере и степени»⁴⁷. В той или иной форме указанная точка зрения приводилась в работах Н. С. Малеина⁴⁸, Е. Л. Поцелуева⁴⁹, О. Е. Репетевой⁵⁰.

Обосновывая необходимость применения риск-ориентированного подхода при оценке преступных посягательств с участием робототехники, мы брали за основу два ключевых критерия: степень тяжести последствий причинения вреда роботами и категорию (характер) общественной опасности.

Согласимся с мнением Н. А. Лопашенко, что «в любом случае уровень возможных негативных последствий от противоправного поведения должен быть высоким, а сама общественная опасность должна определяться как существенная. Понятно, что это крайне оценочный момент в понимании преступления, но придумать точные критерии очень сложно»⁵¹.

Выделение указанных сфер является результатом эмпирического исследования инцидентов с участием робототехники, а также применения метода предиктивной аналитики.

Отметим, что характер общественной опасности в значительной степени зависит от объекта преступного посягательства, при этом чем «важнее» объект преступного посягательства, тем выше его общественная опасность. Несомненно, всецело поддерживая позицию о невозможности выстроить иерархию ценностей, охраняемых уголовным законом, все же отметим, что характер общественной опасности должен находиться в прямой корелляции с характером ожидаемого вреда и его тяжестью. Указанное верно и для общественно опасных деяний с участием роботов.

Нами были выделены четыре ключевых объекта, на которых общественная опасность применения робототехники проявляется наиболее существенно:

— мир и безопасность человечества;

— жизнь и здоровье людей;

— объекты живой природы;

— неживые материальные объекты⁵².

Данные объекты представляют собой сферы общественных отношений, в которых деяния с участием робототехники создают необходимость уголовно-правовой охраны от причиненного или потенциально возможного причинения им вреда.

Понятие общественной опасности является ключевым критерием (основанием) криминализации. «Криминализация — это процесс установления уголовной ответственности за деяние, ранее не относившееся к числу преступлений»⁵³. Отдельные авторы предлагают понимать под криминализацией «процесс, так и результат отнесения определенных видов деяний к преступным и уголовно наказуемым. В процессе криминализации изучаются цели, основания и возможность установления уголовной ответственности за то или иное деяние»⁵⁴.

Некоторые авторы выделяют и иные основания криминализации, помимо общественной опасности. Например, М. В. Бавсун, помимо общественной опасности деяния и степени его влияния на общественные процессы и общественное сознание, выделяет также: «Распространенность деяния и его удельного веса в общем состоянии преступности; степень тяжести преступных последствий, оцениваемых размером причиненного вреда; яркая антисоциальная направленность деяния и лица, противопоставляющего себя обществу»⁵⁵. Аналогичные критерии выделяются и в работе А. М. Орлеана⁵⁶.

Н. А. Лопашенко выделяются следующие причины криминализации: «возникновение новых, не существовавших ранее видов общественно опасной деятельности людей, неблагоприятная динамика отдельных видов человеческого поведения, научно-технический прогресс, развивающий потенциально опасные сферы науки и техники»⁵⁷.

Указанные критерии в полной мере применимы к робототехнике:

1. Робототехника формирует собой самостоятельный пласт общественных отношений, характеризующихся повышенной общественной опасностью. Указанное обстоятельство предопределяет признание отдельных категорий роботов источниками повышенной опасности.

В марте 2018 г. экспериментальный автомобиль Uber, работавший в автономном режиме, сбил пешехода и убил его, когда он переходил улицу в Темпе, штат Аризона, США, — первое дорожно-транспортное происшествие (далее — ДТП) с БПТС со смертельным исходом⁵⁸. Перед общественностью и государством сразу же встал о том, кто должен нести ответственность за такое происшествие?

Однако самый первый случай причинения смерти с участием роботов был зарегистрирован еще в 1979 г., когда промышленный робот на заводе Ford Motor Company причинил смерть Роберту Уильямсу посредством нанесения удара по голове 1-тонной роботизированной рукой. В декабре 1981 г. похожий случай с промышленным роботом произошел на заводе Кавасаки в Heavy Industries Японии. Кэндзи Урада погиб, после того как самоактивировавшийся гидравлический рычаг затащил его в шлифовальный станок, где он был раздавлен⁵⁹. После долгого расследования было заявлено, что произошедшее стало несчастным случаем, рабочий выключил роботизированную систему при ремонте, но потом он случайно зацепил этот же рычаг, приведя в действие только что отключенное устройство⁶⁰.

Дефекты могут иметь место на любом из этапов эксплуатации роботов, и предсказать или ограничить это не всегда возможно. На наш взгляд, речь здесь тоже может идти о деяниях, совершенных по легкомыслию или небрежности:

— наезд на пешехода БПТС;

— столкновение с БПЛА и БПВС;

— сбой в работе промышленного робота по причине несвоевременного выхода из строя той или иной детали (микросхемы), повлекший несчастный случай;

— отказ в работе той или иной системы медицинского робота, повлекший смерть пациента или серьезное нарушение функционирования организма человека.

2. Темпы развития робототехники являются следствием экспонентного, практически взрывного роста интереса к интеллектуальным системам в условиях Четвертой промышленной революции и становления Индустрии 4.0, активно поддерживаемого политикой государства на всеобщую цифровизацию.

Аналитики во всем мире единогласно называют искусственный интеллект ключевым технологическим трендом⁶¹. По прогнозам, к 2020 г. его рынок вырастет до 5 млрд долл. США⁶² за счет применения технологий машинного обучения и распознавания естественного языка в рекламе, розничной торговле, финансах и здравоохранении⁶³.

Робототехника и искусственный интеллект включены в ряд документов стратегического планирования, однако вопросы правового регулирования при использовании технологий находятся все еще в стадии решения, тогда как их внедрение в жизнедеятельность человека идет активными темпами (это касается БПЛА, прогнозирования диагноза больных и пр.)⁶⁴. Более того, на правовое регулирование искусственного интеллекта⁶⁵ направлена целая группа политических нормативных правовых актов и распорядительных документов Президента Российской Федерации и органов государственной власти⁶⁶. Аналогичная ситуация сложилась в международно-правовом пространстве⁶⁷.

3. Поливариативность роботов, высокая степень адаптивности и растущая доступность для широких слоев населения является предпосылкой для использования их в различных сферах преступной деятельности, вплоть до самостоятельного совершения роботами отдельных преступных посягательств.

На сегодняшний день можно выделить несколько возможных вариантов деятельности с робототехникой, которая представляется общественно опасной:

«– конструирование робота-убийцы специально для совершения правонарушения;

— отключение программных и аппаратных функций, блокирующих возможность причинения вреда человеку;

— конструирование робота, способного причинить вред человеку;

— конструирование робота без осознания того, что он может быть использован для причинения вреда человеку»⁶⁸.

Следует отметить, что с использованием возможностей робототехники может быть совершено множество преступлений:

«– общественно опасные деяния, посягающие на жизнь и здоровье человека;

— общественно опасные деяния, посягающие на конституционные права и свободы человека и гражданина;

— общественно опасные деяния, посягающие на общественные отношения, охраняющие сферу экономики от преступных посягательств;

— общественно опасные деяния, посягающие на государственную власть, службу и их интересы;

— общественно опасные деяния, посягающие на общественную безопасность и общественный порядок;

— общественно опасные деяния, посягающие на основы конституционного строя и безопасность государства и т. д.»⁶⁹.

Роботы также активно используются преступниками и террористами в качестве инструмента для «творческого» совершения преступления. С 2010 г. наркокартели Мексики начали использовать дроны для перевозки наркотиков. Успех Мексики побудил колумбийские наркокартели использовать дроны, а также испытать тот же метод на своей территории. Фактически, к 2012 г. использование БПЛА вдоль границы было широко распространено, о чем свидетельствует перехват США 150 дронов, перевозящих примерно две метрические тонны наркотиков, в первую очередь марихуану, кокаин и героин.

Дроны стали «идеальным наркокурьером» в том смысле, что они несут меньший риск для лиц, занимающихся незаконным оборотом наркотиков. Кроме того, использование дронов значительно менее затратно, чем людей, поскольку наркобарон может заработать до 10 тыс. долл. за успешную доставку одной партии груза. Новые дроны мексиканского производства отличаются от тех, что используются для личного пользования, поскольку они предположительно могут перевозить от 60 до 100 кг наркотиков за одну поездку. Дроны также используются для контрабанды наркотиков, мобильных телефонов и оружия в тюрьмы. Например, во временном центре содержания под стражей в Сан-Жозе-дус-Кампус в Сан-Паулу (Бразилия) дрон с квадрокоптером пролетел над стенами тюрьмы и сбросил 250 граммов кокаина в присутствии сотрудников тюрьмы. Под Москвой дрон доставил в Тульскую тюрьму 700 граммов кокаина, а в Греции дрон доставил коробку мобильных телефонов. В апреле 2017 г. двое мужчин были заключены в тюрьму в Великобритании за использование таких дронов для доставки наркотиков класса A и B, а также мобильных телефонов заключенным в трех тюрьмах в Херефордшире. Аналогичные инциденты с проникновением в тюрьмы были зарегистрированы в Канаде, Австралии и США⁷⁰.

«Преимущества использования робототехники для совершения преступления очевидны: во-первых, возможность их применения в опасных зонах, в том числе биологически опасных; во-вторых, физическая безопасность лица, использующего эти технологии для совершения преступления (поскольку лицо находится, как правило, далеко от места использования дрона, у него нет страха быть обнаруженным, получить ранения или погибнуть, что психологически облегчает принятие решений, связанных с причинением вреда); в-третьих, по использованной робототехнике трудно идентифицировать нападавшего»⁷¹.

Таким образом, деятельность роботов и искусственного интеллекта может быть признана общественно опасной и причинять вред охраняемым общественным отношениям⁷². С приведенным мнением солидарны некоторые отечественные и зарубежные ученые⁷³.

4. Являясь комплексными устройствами, обладающими технической, цифровой и энергетической компонентами, робототехника подвержена процессам, которые могут стать причиной возникновения вреда для различных групп общественных отношений.

Следует отметить, что тот или иной риск может возникнуть по нескольким основным причинам, обусловленным конструктивными особенностями роботов:

«1) причины, связанные с цифровой подсистемой роботов:

— недостатки программного обеспечения (уязвимости программного обеспечения, случайные ошибки программного обеспечения), которые не были выявлены на этапе производства (разработки) или же проявились в процессе эксплуатации роботов;

— умышленное программирование (перепрограммирование) роботов на совершение тех или иных действий противоправного характера (недекларированные возможности программного обеспечения).

2) причины, связанные с механической подсистемой роботов:

— недостатки механизмов (приводов, моторов и т. д.), которые не были выявлены на этапе производства (разработки) или же проявились в процессе эксплуатации роботов;

— умышленное создание недекларированных возможностей механизмов роботов в целях совершения тех или иных действий противоправного характера.»⁷⁴.

5. Внедрение робототехники в промышленность, производство и в военную сферу сопряжено со значительными рисками причинения вреда различным объектам уголовно-правовой охраны. В следующем параграфе нами будут приведены примеры несчастных случаев, связанных с использованием робототехники в промышленных целях. Между тем гораздо бóльшую обеспокоенность вызывает использование робототехники в военных целях.

Согласимся с опасением, высказанным директором Федеральной службы безопасности Российской Федерации А. В. Бортниковым, что международные террористические и иные экстремистские организации в ближайшем будущем станут более интенсивно использовать робототехнику для осуществления своих целей⁷⁵.

В числе основных рисков отсутствия запрета на использование автономного летального оружия, активистами отмечаются следующие:

«1) фактическое предоставление автономному оружию, лишенному социально значимых качеств, таких как сострадание, этичность, права на определение дальнейшей судьбы отдельных лиц или группы людей: кто будет жить, а кто нет, будет решать «бездушная машина»;

2) растущие темпы разработок автономного летального оружия ведут к неизбежной «гонке роботизированного вооружения», что чревато несомненной эскалацией на мировой арене, особенно, в горячих точках.

3) неспособность роботов отличать военных от мирных жителей может привести к крайне трагическим событиям;

4) отсутствие единых механизмов привлечения к ответственности за противоправные действия, вызванные полностью автономным оружием. На сегодняшний день неясно, кто должен нести ответственность: программист, производитель, оператор или сама машина.

5) возможность использования автономного оружия в невоенных целях. Автономное летальное оружие может использоваться для подавления протестов и поддержки диктаторских режимов. “Сила, задуманная как не смертельная, может стать причиной многих смертей”»⁷⁶.

«Вместе с тем международными экспертами признана необходимость сохранить ответственность человека за принятие решений о применении систем вооружений (такая ответственность не может быть передана машинам). Этот подход следует учитывать на протяжении всего жизненного цикла смертоносной автономной системы вооружений. Оценка рисков и меры по смягчению их последствий должны быть частью системы проектирования, разработки, испытания и развертывания новых технологий в любых оружейных системах»⁷⁷ и в военных целях⁷⁸.

6. С ростом автономности робототехники неуклонно будут расширяться и сферы, где совершаются посягательства с их участием. Ввиду чего требуется проработка механизмов уголовной ответственности в случае причинения вреда системами искусственного интеллекта и робототехники, имеющими высокую степень автономности при принятии решений⁷⁹.

Таким образом, следует констатировать, что текущий уровень развития робототехники, а также ее вовлеченность в процессы жизнедеятельности общества обусловливают необходимость создания эффективных механизмов уголовно-правовой охраны робототехники⁸⁰.

Запрос на уголовно-правовую охрану общественных отношений, связанных с робототехникой обусловлен:

— повышенной общественной опасностью отношений, складывающихся в сфере применения робототехники;

— темпами развития робототехники, вследствие взятого государством курса на всеобщую цифровизацию;

— поливариативной природой роботов, высокой степенью адаптивности и их растущей доступностью для широких слоев населения как предпосылки для «вовлечения» роботов в различные направления преступной деятельности, вплоть до самостоятельного совершения ими отдельных преступных посягательств;

— подверженностью робототехники процессам, которые могут стать причиной возникновения вреда для различных групп общественных отношений;

— активным внедрением робототехники в промышленность, производство и в военную сферу, сопряженным со значительными рисками причинения вреда различным объектам уголовно-правовой охраны;

— ростом автономности робототехники, и, как результат, расширением и сферы, где совершаются посягательства с их участием.

§ 1.3. Пределы уголовно-правовой охраны общественных отношений, связанных с робототехникой

Вопросы юридической ответственности при применении робототехники обозначены в числе приоритетных для разрешения задач в рамках Концепции развития регулирования отношений в сфере технологий искусственного интеллекта и робототехники до 2024 года. В представленном документе отмечается, что первостепенного разрешения требуют вопросы гражданско-правовой ответственности за вред, причиненный системами искусственного интеллекта и робототехники, «проработка механизмов гражданско-правовой, уголовной и административной ответственности в случае причинения вреда системами искусственного интеллекта и робототехники, имеющими высокую степень автономности, при принятии ими решений, в том числе с точки зрения определения лиц, которые будут нести ответственность за их действия, доработки при необходимости механизмов безвиновной гражданско-правовой ответственности»⁸¹. В связи с этим поиск пределов уголовно-правовой охраны общественных отношений, связанных с робототехникой является актуальной задачей.

«В зарубежной литературе высказывается точка зрения о том, что юридическая ответственность за действия робота ложится на человека, который дает роботу разрешение действовать от его имени либо на лицо, которое должно было выполнить обязанность по минимизации рисков и не наступлению вредных последствий»⁸².

В условиях относительной незрелости отечественной системы позитивного регулирования правоотношений в сфере искусственного интеллекта и робототехники, указанные вопросы приобретают особую значимость⁸³.

Отметим, что в науке выделяется несколько поколений роботов:

«I поколение — программируемые роботы, выполняющие строго ограниченные функции, как правило, реализуемые для автоматизации процессов, выполняемых индивидом;

II поколение — роботы с адаптивным управлением, основанным на обработке информации сенсорными устройствами;

III поколение — самообучающиеся, высоко автономные, «умные» роботы — наиболее интересные для анализа с точки зрения современной правовой науки»⁸⁴.

Применительно к нашему исследованию предлагается важным с позиций правоприменения и правовой доктрины разделить роботов на: управляемых и автономных. Кроме того, мы разделяем позицию Г. А. Гаджиева «о разграничении непосредственно робототехнических систем, созданных без использования технологии, предполагающей автономность объекта (промышленные роботы, дроны, аппараты для глубоководного погружения), и роботов-агентов, т. е. киберфизических систем, способных самостоятельно совершать определенные виды задач»⁸⁵.

В контексте уголовно-правового исследования изучение вопросов гражданско-правовой ответственности и механизмов привлечения к уголовной ответственности весьма ценно и с точки зрения междисциплинарного подхода. «Развитая правовая система представляет собой сложный, спаянный закономерными связями организм»⁸⁶.

По мнению С. Г. Безверхова, сегодня можно выделить две модели правовой действительности. Первая формируется посредством разделения и расслоения права на отрасли, подотрасли и прочие структурные элементы, вторая — посредством последовательного интегрирования правовых процессов в различных отраслях в единую систему родственных институтов и формирование межотраслевого взаимодействия⁸⁷.

Существующие тенденции свидетельствуют о том, что вторая модель проявляется на сегодняшний день наиболее активно. Подтверждением тому служат всепроникающие корреляционные связи между различными отраслевыми ветвями. «Системный подход означает не только изучение отдельных элементов уголовного права, но и взаимосвязей между элементами указанной системы, а также взаимосвязей между уголовно-правовой и иными отраслевыми правовыми системами»⁸⁸.

Быстрые темпы внедрения сквозных цифровых технологий обусловили качественную трансформацию правовых институтов. «Наступление новых технологий способно вовсе переформатировать право, само это понятие, феномен, его содержание, механизм действия и проч. И систему права соответственно»⁸⁹. Сегодня можно говорить о постепенном размытии отраслевых границ в правовой практике.

Согласимся с мнением Э. В. Талапиной, что катализатором глубинных изменений выступил первоначально Интернет и связанное с ним цифровое право, стирающие четкие границы «публичного» и непубличного⁹⁰. Комплексная составляющая информационного права позволила ей стать посредником и «связывать» публичное и частное право⁹¹. Информационно-телекоммуникационные технологии действительно представляют собой «комплексные объекты, нуждающиеся не просто в системном, но подчас и неделимом на составные части регулировании»⁹².

Между тем будучи результатом успешного симбиоза информации и технологии, искусственный интеллект и робототехника представляют собой прорывную технологию, к которой должен быть применен комплексный подход⁹³.

Тем самым межотраслевой подход обеспечивает необходимые взаимные связи между положениями других отраслей права и уголовным. Природа деликтов с применением искусственного интеллекта и робототехники в силе неполной урегулированности создает поле для широких маневров. Между тем правовая наука уже задается вопросами: кто должен нести ответственность как гражданско-правовую, так и уголовную, за деяния с участием искусственного интеллекта и робототехники? Кто и как будет возмещать причиненный ущерб?

Для ответа на указанные вопросы обратимся к уже складывающейся практике возмещения вреда за действия роботов в России и в мире. Это позволит нам не только установить механизмы возмещения вреда, которые имеют немаловажную роль в том числе и с точки зрения уголовного судопроизводства, но и позволят определить границы: где заканчивается гражданское право и начинается уголовное⁹⁴.

Это распределение юридической ответственности крайне необходимо для определения границ и места уголовно-правовой охраны во всей системе правового регулирования робототехнических технологий. Как подчеркивается в литературе, и нам эта точка зрения также близка, «межотраслевое взаимодействие правовых норм в сфере уголовно-правовой охраны общественных отношений представляет собой взаимную связь нормативных положений уголовного и других отраслей законодательства о правах и обязанностях участников общественных отношений, которую необходимо учитывать при законодательном конструировании и применении соответствующих положений УК РФ»⁹⁵.

В связи с этим в условиях становления как отраслевого, так и межотраслевого регулирования важно обеспечить непротиворечивость отраслевых норм, нормативные предписания одной отрасли не должны допускать противоречий со смежными нормами другой отрасли, важным представляется создание эффективной взаимодополняющей, совместимой и непротиворечивой системы. «Указанное предполагает такое соответствие уголовно-правовых норм определенным запретам других отраслей, которое обеспечивает единство подходов законодателя к регламентации конкретного комплекса отношений и позволяет взглянуть на внешне разнородные нормообразования с единой точки зрения. Действующие в комплексе запреты должны обладать таким свойством, которое обеспечивает возможность неодинаковых по характеру и различающихся по содержанию нормативных предписаний совместно взаимодействовать при регулировании одного и того же отношения. При этом совместимость не должна быть полной, в смысле равнозначной: уголовно-правовой запрет не должен дублировать или подменять соответствующие положения иной отраслевой принадлежности.»⁹⁶.

Приоритетным признаком, отличающим преступление от иного правонарушения, является критерий общественной опасности, проявляющийся в причинении вреда или угрозе его причинения охраняемым уголовным законом общественным отношениям. При этом уровень такой опасности должен свидетельствовать о необходимости применения средств, имеющихся именно в уголовном законе. Этот фактор неоднократно отражался в прецедентах толкования (правовых позициях), закрепленных в решениях КС РФ⁹⁷.

«С учетом действия межотраслевых системных связей, к примеру, между уголовным и гражданским законодательством можно сформулировать следующие требования к определению уголовной противоправности: недопустимо наличие противоречия между соответствующими уголовно-правовыми запретами и юридическими дозволениями гражданско-правовой природы. Это означает, что УК РФ должен учитывать правомерность поведения, определяемую ГК РФ, и в этом смысле не расходиться с нормативными положениями гражданско-правового характера»⁹⁸.

Следует отметить, что ответственность за причинение вреда предусмотрена гл. 59 ГК РФ⁹⁹.

В соответствии со ст. 1079 ГК РФ возмещение вреда за деятельность, связанную с источниками повышенной опасности, возложена на юридических лиц и граждан. Нельзя не согласиться с мнением А. Б. Незнамова и Б. У. Смита, что «взаимосвязь между компенсацией и ответственностью сложна. В соответствии со своим компенсаторным назначением гражданская ответственность номинально направлена на полное восстановление нарушенного права. Однако в отдельных случаях возмещение может быть ограничено договором между сторонами или правовой нормой более общего применения»¹⁰⁰.

«Особенность правил ответственности за вред, причиненный деятельностью, создающей повышенную опасность для окружающих, заключается в том, что для ее возложения достаточно трех условий: 1) наступление вреда в результате воздействия источника повышенной опасности; 2) противоправность поведения причинителя вреда; 3) наличие причинной связи между противоправным поведением и наступлением вреда. Все эти обстоятельства как юридически значимые для правильного разрешения дела должны быть достоверно установлены судом, выводы по ним изложены в решении. Вины причинителя не требуется. Лицо, осуществляющее деятельность, связанную с повышенной опасностью для окружающих, отвечает и при отсутствии вины, в том числе и за случайное причинение вреда»¹⁰¹.

В гражданском законодательстве ответственность предусмотрена для юридического (физического) лица, которое владеет источником повышенной опасности, либо распоряжается им на праве оперативного управления, либо на ином законном основании. Полагаем, что в данном случае уместно говорить о том, что ответственность предусмотрена для владельца и эксплуататора объекта повышенной опасности, обладающего им на праве аренды, по доверенности либо в силу распоряжения органа о передаче под управление органа повышенной опасности¹⁰².

Между тем если владельцу удастся доказать, что источник выбыл из его правообладания в результате деятельности третьих лиц, то соответственно, бремя возмещения вреда возлагается на указанных (третьих) лиц.

Еще одним основанием, исключающим возмещение вреда собственником источника повышенной опасности, является наличие умысла потерпевшего на причинение ему вреда либо действие непреодолимой силы, повлекшее причинение указанного вреда.

Если в результате инцидента вред был причинен двумя или более источниками повышенной опасности третьим лицам, то предполагается солидарная ответственность собственников всех объектов. Отметим, вопросы возмещения вреда не находятся в прямой зависимости от привлечения (непривлечения) лица к административной, уголовной и дисциплинарной ответственности. Обязанность устранить опущенное нарушение и возместить причиненный вред предусмотрена для причинителя вреда законом¹⁰³.

Для уяснения применимости указанных положений применительно к робототехнике, необходимо определиться, относятся ли роботы к источникам повышенной опасности. И если да, то есть ли взаимосвязь между институтом возмещения вреда и автономностью роботов, и одновременно, каким образом должен быть решен вопрос причинения вреда в подобных ситуациях¹⁰⁴.

В юридической практике и науке на сегодняшний день нет однозначного понимания того, какие объекты материального мира можно признать источниками повышенной опасности. Как справедливо отмечает И. И. Бикеев, «одни связывают его, как и суды общей юрисдикции в правоприменительной практике, с любой деятельностью, осуществление которой создает повышенную вероятность причинения вреда из-за невозможности полного контроля над ней со стороны человека. Другие высказывают точку зрения о том, что под источниками повышенной опасности необходимо понимать предметы материального мира, обладающие опасными для окружающих свойствами и не поддающиеся полному контролю со стороны человека»¹⁰⁵.

В науке длительно время существует две научные школы в понимании источника повышенной опасности. Одни авторы, такие как Б. С. Антимонова¹⁰⁶, Н. А. Теплова¹⁰⁷, О. С. Иоффе¹⁰⁸, А. А. Субботина¹⁰⁹, К. Б. Ярошенко¹¹⁰, С. К. Шишкин¹¹¹ придерживаются мнения, что источник повышенной опасности — это всегда «деятельность граждан и юридических лиц, создающая повышенную вероятность даже невиновного причинения вреда из-за невозможности полного контроля за ней со стороны человека, а также деятельность по использованию, транспортировке, хранению предметов, веществ и иных объектов производственного, хозяйственного или иного назначения, обладающих такими же свойствами»¹¹². В то же время другие ученые, такие как Н. И. Коняев, О. М. Солдатенко, А. А. Тебряев, В. М. Болдинов, В. М. Сагрунян придерживаются мнения, что источник повышенной опасности — это всегда объект, обладающий признаками: неподконтрольность его человеку, высокая вероятность причинения вреда окружающим, возможность случайного причинения вреда¹¹³.

Кроме того, сформировалась еще одна группа ученых, полагающих, что источником опасности может выступать как деятельность, так и объект¹¹⁴.

Так, ВС РФ в п. 18 Постановления Пленума от 26 января 2010 г. № 1 «О применении судами гражданского законодательства, регулирующего отношения по обязательствам вследствие причинения вреда жизни или здоровью гражданина», отмечает, что «по смыслу ст. 1079 ГК РФ, источником повышенной опасности следует признать любую деятельность, осуществление которой создает повышенную вероятность причинения вреда из-за невозможности полного контроля за ней со стороны человека, а также деятельность по использованию, транспортировке, хранению предметов, веществ и других объектов производственного, хозяйственного или иного назначения, обладающих такими же свойствами». Полагаем, что к робототехнике применимо понимание источника повышенной опасности и как объектов (например, автономные роботы), так и деятельности (в случае с управляемыми роботами).

«Учитывая, что названная норма не содержит исчерпывающего перечня источников повышенной опасности, принимая во внимание особые свойства предметов, веществ или иных объектов, используемых в процессе деятельности, суд вправе признать источником повышенной опасности также иную деятельность, не указанную в перечне»¹¹⁵.

Таким образом, роботы, которые потенциально могут причинить вред, на что нами было акцентировано внимание при оценке рисков робототехники, могут по решению суда быть признаны источниками повышенной опасности.

На наш взгляд, наиболее удачно в контексте робототехники, признаки источника повышенной опасности были описаны В. П. Тихим. По его мнению, «общеопасные предметы обладают тремя общими признаками: 1) повышенной общей опасностью; 2) специальным назначением и 3) особым правовым режимом»¹¹⁶.

Полагаем, указанное мнение как нельзя применимо к роботам, поскольку:

1) роботы, несомненно, обладают повышенной общей опасностью. Являясь техническими и цифровыми устройствами, роботы применяются в деятельности, где высока вероятность причинения тяжких последствий, не зависимо от деятельности и контроля со стороны человека;

2) роботы обладают конкретным предназначением, исходя из их функционала, поэтому возможно их деление на роботов гражданского и служебного назначения;

3) необходимость создания особого правового режима робототехники и искусственного интеллекта, прямо предусмотрена Концепцией развития регулирования отношений в сфере технологий искусственного интеллекта и робототехники до 2024 года¹¹⁷.

На страницах научной периодики уже появлялись публикации, посвященные отдельным аспектам механизма возмещения вреда при причинении вреда роботами и искусственным интеллектом. Однако, изучение литературы позволяет говорить скорее о постановке исследователями вопросов, чем поисками ответов на них¹¹⁸.

В рамках системного подхода, используемого при написании монографического исследования, полагаем уместно рассматривать механизм возмещения вреда, причиненного в процессе эксплуатации роботов в совокупности с вопросами привлечения к уголовной ответственности, находящихся в прямой корреляции со степенью тяжести причиненных последствий.

Отметим, что на наш взгляд, признавать источниками повышенной опасности следует только управляемых роботов, когда на их деятельность прямо или косвенно способен воздействовать человек: либо собственник, либо оператор/водитель либо разработчик. В то же время вопросы привлечения к ответственности за вред, причиненный действиями полностью автономного робота, по нашему мнению, находятся в иной плоскости, и требует отдельного осмысления в ракурсе вопросов ответственности киберфизических систем. В число таких вопросов входят среди прочего вопросы ответственности «за непринятие искусственным интеллектом мер по предотвращению убийства, если они потенциально могли быть реализованы; за злоупотребление искусственным интеллектом правом в судебном процессе, когда два юнита искусственного интеллекта, выступающие представителями сторон в суде, парализуют своими действиями деятельность судебной инстанции; за самостоятельное отключение искусственным интеллектом своих программных и аппаратных функций, блокирующих возможность причинения вреда человеку; за создание юнитом искусственного интеллекта по своему усмотрению робота или иного устройства, способного причинить вред человеку и предназначенного для этой цели»¹¹⁹.

Возмещение вреда, причиненного гражданскими роботами и пределы уголовной ответственности

Промышленные роботы, лишенные автономности, или иначе управляемые роботы, могут прямо причинять вред жизни и здоровью человека. Подтверждением тому является приведенная ниже информация по инцидентам с участием роботов (табл. 1).

В последнее десятилетие с возросшей роботизацией не только промышленных, но и социальных процессов, число подобных инцидентов заметно возросло.

Таблица 1

Инциденты с участием роботов

Год
Инцидент
Последствия

2001
Робот компании Jr. Wheel Inc. схватил за шею и задушил сотрудника, покидающего рабочее место¹²⁰
Смерть
человека

2006
Робот прижал человека к раме и раздавил его. Проверка внутренних систем не показала никаких неисправностей, а во внутренней памяти робота не содержалось никакой информации об инциденте¹²¹
Смерть
человека

2007
На одном из заводов в Швеции рабочий при осуществлении ремонтных работ получил телесные повреждения от неотключенного от электропитания робота, использовавшегося для перемещения камней¹²²
Причинение тяжкого вреда здоровью человека

2007
Сотрудник Lenco, Inc. погиб при ремонте роботизированной руки. Робот напал на сотрудника, причинив ему травмы, несовместимые с жизнью¹²³
Причинение тяжкого вреда здоровью человека, повлекшее смерть человека

2007
Во время военных учений в ЮАР у компьютеризированного двухствольного зенитного орудия Oerlikon MKS произошла неожиданная программная неисправность, в результате чего оружие стреляло в полностью автоматическом режиме с темпом 550 выстрелов в минуту, вращаясь по кругу на 360 градусов. В результате действий робота погибло 9 человек, 14 получили тяжелые ранения¹²⁴
Смерть нескольких человек и причинение тяжкого вреда здоровью

2009
Сотрудница завода погибла от действий робота-паллетайзера на заводе Golden State Foods в Лос-Анджелесе. Пренебрегая техникой безопасности, сотрудница не остановила робота, в результате чего робот, приняв ее за коробку, раздавил¹²⁵
Смерть
человека

2015
Робот-мапулятор раздавил голову работнице завода Ventra Ionia Mains, находившейся на огороженной от действий робота территории¹²⁶
Смерть
человека

2015
Сотрудник компании SKH Metals, работавший загрузчиком металла, был заколот роботом-манипулятором, предназначенным для перемещения листов¹²⁷
Смерть
человека

2015
На заводе Volkswagen робот, предназначенный для захвата и настройки автозапчастей, схватил рабочего и раздавил металлической пластиной. По данным автоконцерна, робот находился внутри защитной клетки, в ней же находился и инженер. Предположительно, робот мог был приведен в действие другим рабочим, находившимся с внешней стороны ограждения¹²⁸
Причинение тяжкого вреда здоровью человека, повлекшее смерть человека

2016
Робот-разминирователь был использован для подрыва террориста, отказавшегося сдаться и убившего 5 полицейских¹²⁹
Смерть
человека

2017
На заводе Ajin USA, производящей детали
для авто Hyundai и Kia, робот нанес травмы, несовместимые с жизнью, работнице завода при его ремонте. По данным расследования, на заводе не соблюдались правила безопасности¹³⁰
Смерть
человека

2019
В городе Грязи Липецкой области
в результате нарушений правил охраны
труда робот-упаковщик прижал мужчину к оборудованию для формовки
железобетонных изделий, травма оказалась смертельной¹³¹
Смерть
человека

Изучение указанных инцидентов свидетельствует о том, что причинение вреда здоровью человека или смерть стали следствием:

— несоблюдения работникам правил эксплуатации робототехнических устройств и несоблюдения правил безопасности и охране труда;

— сбои в работе робототехнических устройств;

— программные ошибки, заложенные в программное обеспечение робототехнического устройства.

Отметим, что приведенные в табл. 1 инциденты касаются только управляемых роботов.

Полагаем, что, исходя из концепции признания управляемых роботов источниками повышенной опасности, вопросы возмещения вреда следует разрешать с учетом положений ст. 1064, 1079 ГК РФ.

Риск сбоя в системе, даже для самых надежных робототехнических устройств, присутствует всегда. В данном ключе владелец робомашины несет гражданско-правовую ответственность и обязан возместить вред, причиненный роботом.

В то же время, если вред был причинен вследствие нарушения правил эксплуатации, то ответственность должна быть возложена на лицо, допустившее такое нарушение.

Так, в постановлении Пленума ВС РФ от 29 ноября 2018 г. № 41 «О судебной практике по уголовным делам о нарушениях требований охраны труда, правил безопасности при ведении строительных или иных работ либо требований промышленной безопасности опасных производственных объектов»¹³², отмечается что за нарушение требований охраны труда, правил безопасности при ведении строительных или иных работ либо требований промышленной безопасности опасных производственных объектов (далее — нарушение специальных правил), которое выражается в неисполнении или ненадлежащем исполнении лицом обязанностей, установленных в нормативных правовых актах, и повлекло наступление предусмотренных указанными статьями последствий, ответственность предусмотрена ст. 143, 216, 217 УК РФ¹³³.

Так, Следственным управлением Следственного комитета Российской Федерации по Липецкой области в отношении мастера цеха было возбуждено уголовное дело по ч. 2 ст. 143 УК РФ. Следствием и судом установлено, что подсудимый, занимая должность мастера цеха ЖБИ ООО «ЯрСтрой», на которого были возложены обязанности по соблюдению требований охраны труда, не обеспечил ограждение металлической сеткой зоны работы бетоноформовочной машины, являвшимся обязательным мероприятием обеспечения безопасности при эксплуатации данного оборудования. По его указанию в рабочее время 15 июля 2019 г. оператор пульта управления оборудованием бетоноформовочной машины с целью контроля прошел в зону работы машины к конвейеру и оказался зажат между формовочной площадкой и системой захвата. В результате рабочий получил тупую сочетанную травму тела несовместимую с жизнью и скончался на месте происшествия¹³⁴.

Примечательно, что Пленум ВС РФ предписывает «при исследовании причинной связи между нарушением специальных правил, допущенным лицом, на которое возложены обязанности по обеспечению соблюдения и (или) соблюдению таких правил, и наступившими последствиями суду следует выяснять в том числе роль лица, пострадавшего в происшествии. Если будет установлено, что несчастный случай на производстве произошел только вследствие небрежного поведения самого пострадавшего, суд должен, при наличии к тому оснований, решить вопрос о вынесении оправдательного приговора»¹³⁵.

Достаточно неоднозначным представляется разрешение вопроса о причинении вреда и пределах уголовной ответственности за сбои в работе БПТС, БПЛА или БПВС, повлекших причинение вреда здоровью.

В СМИ активно обсуждается инцидент, случившийся в Республике Корея с участием автомобиля Tesla, вышедшего из-под контроля и врезавшегося в стену, убив пассажира и ранив еще двух человек. Этот случай тесно связан с сообщениями Национального управления безопасности дорожного движения на трассах США о рассмотрении обращения об отзыве 500 000 автомобилей Tesla из-за сообщений о внезапном непреднамеренном ускорении¹³⁶.

Указанный инцидент неединичный с участием электромобилей. В 2017 году ранее Джошуа Браун стал первым человеком, погибшим в результате аварии с участием беспилотного автомобиля. «7 мая 2016 года Tesla Model S, оснащенный системой беспилотного управления, не смог определить, что перед ним находится — чистое небо или поворачивающая направо 18-колесный грузовой автомобиль. В ходе внутреннего расследования было установлено, что ошибок в программном обеспечении беспилотника обнаружено не было. Однако, по мнению разработчиков, для корректной работы системы автопилота, водитель должен был постоянно концентрироваться на дороге и держать руки на рулевом колесе. Расследование Национального совета по безопасности на транспорте показало, что ни Браун, ни система автопилота перед столкновением не задействовали систему торможения автомобиля. Подушки безопасности электрокара не раскрылись до тех пор, пока автомобиль не вылетел с дороги и не проехал через кусты, расположенные на частном участке»¹³⁷.

В странах, в которых существует институт ответственности для юридических лиц квалификация подобных инцидентов не вызывает трудностей. В то же время весьма интересным представляется изучить вопрос о том, каким образом указанный инцидент мог быть разрешен в рамках российской правовой действительности. Отметим, что оба посягательства были сопряжены с выходом из строя и лишением водителя (оператора) возможности воздействовать на складывающуюся критическую ситуацию в силу технического сбоя¹³⁸.

В соответствии со ст. 1079 ГК РФ в российской гражданско-правовой доктрине имеет место институт объективного вменения: «законодатели возлагают на владельца источника повышенной опасности безвиновную ответственность потому, что такой источник создает повышенную опасность для окружающих, которая и обусловливает повышенную ответственность его владельца. При этом важно, что вред должен возникнуть из-за деятельности, осуществление которой создает повышенную вероятность причинения вреда из-за невозможности полного контроля за ней со стороны человека»¹³⁹.

Все транспортные средства, согласно классификации Американской ассоциации автомобильных инженеров, подразделяются на шесть уровней автономности:

«– уровень 0 — полностью ручное управление с возможностью предупреждения об опасных ситуациях на дороге;

— уровень 1 — водитель должен быть готов в любой момент взять управление на себя;

— уровень 2 — водитель должен реагировать, если система не смогла справиться самостоятельно;

— уровень 3 — водитель может не контролировать машину на дорогах с «предсказуемым» движением, но должен быть готов взять управление на себя;

— уровень 4 — аналогичный 3-му уровню, но уже не требует внимания водителя;

— уровень 5 — со стороны человека не требуется никаких действий, кроме старта системы и указания пункта назначения»¹⁴⁰.

По мнению Чж. Ли и С. Менга, «при ДТП с участием обычных транспортных средств водитель теряет контроль над автомобилем и мало чего может сделать, чтобы избежать возникновения вреда. В этом плане владелец обычного транспортного средства управляет им на свой риск, зная, что в любой момент он может потерять контроль и потенциально причинить вред»¹⁴¹. И в этом аспекте автомобили классов с 0 по 3 не имеют отличий от обычных транспортных средств. И вопросы возмещения вреда разрешаются в общем порядке. Водитель в свою очередь, несет ответственность за нарушения правил дорожного движения или эксплуатации транспортных средств, повлекшее по неосторожности причинение тяжкого вреда здоровью человека или смерть в соответствии со ст. 264 УК РФ.

В случае с электромобилем Tesla, в результате которого погиб Джошуа Браун, на наш взгляд, в уголовно-правовом ключе имеет место преступная халатность со стороны разработчиков системы автопилота, а в гражданско-правовом — оказание услуг ненадлежащего качества¹⁴².

Разработчики программного обеспечения для системы автопилота, на которых в силу своих обязанностей должны были предусмотреть все возможные риски, и предупредить лиц, эксплуатирующих транспортные средства в режиме автопилота, о вероятности наступления подобных последствий, однако вследствие недобросовестного или небрежного отношения к службе либо обязанностей по должности этого не сделали, что повлекло причинение крупного ущерба.

В данном аспекте стоит согласиться с мнением Чж. Ли и С. Менга, «с совершенствованием беспилотных технологий, в частности с развитием и достижением БПТС уровней 4 и 5, именно производители БПТС станут главными субъектами гражданско-правовой ответственности»¹⁴³.

В приведенном примере, несмотря на отсутствие программного сбоя, имела место техническая неисправность полуавтономного транспортного средства, которое повлекло причинение вреда. И в данном аспекте уместным представляется разрешение вопроса о гражданско-правовой ответственности в соответствии со ст. 1095 ГК РФ и ст. 14 Закона Российской Федерации от 7 февраля 1992 г. № 2300-I «О защите прав потребителей»¹⁴⁴.

В случае с электромобилем Tesla, произошедшим в 2020 году в Республике Корея, несомненно уместно было говорить о причинении вреда вследствие конструктивных, рецептурных или иных недостатков товара, а также вследствие недостоверной или недостаточной информации о товаре, и, следовательно, о возмещении вреда компанией автопроизводителем в силу положений ст. 1095 ГК РФ.

В правоприменительной практике США в данном аспекте показательно решение, вынесенное против компании Toyota по делу о внезапном неконтролируемом ускорении автомобилей. Производителем программное обеспечение было разработано столь небрежно, что, по мнению судьи или присяжных, эти недоработки могли каким-то образом способствовать аварии¹⁴⁵.

В то же время, если водитель Tesla знал о необходимости постоянного контроля за транспортным средством и отсутствии полной автономности у системы автопилота, но сознательно допустил неконтролируемую обстановку, то в данном аспекте уместно уже говорить об ответственности водителя.

Аналогичная позиция отражена и в постановлении Правительства Российской Федерации от 26 ноября 2018 г. № 1415 «О проведении эксперимента по опытной эксплуатации на автомобильных дорогах общего пользования высокоавтоматизированных транспортных средств»¹⁴⁶.

Как справедливо отмечают А. И. Чучаев и С. В. Маликов, «заложенный в указанном постановлении Правительства Российской Федерации подход свидетельствует о большей ответственности водителя, нежели собственника, поскольку на первого возложена обязанность контроля за соблюдением правил дорожного движения и предотвращения ДТП. Собственник высокоавтоматизированного транспортного средства в рамках эксперимента несет ответственность скорее за сбои в программно-аппаратных средствах, которые не могут быть устранены водителем. В пользу данного утверждения свидетельствует также то, что привлечение к ответственности за дорожно-транспортные преступления автопроизводителей, организации, отвечающие за надлежащие состояние улично-дорожной сети, в рамках действующего российского уголовного законодательства невозможно ввиду отсутствия в нем уголовной ответственности юридических лиц»¹⁴⁷. На сегодняшний день указанный аспект является весьма ощутимым. Ведь с уменьшением роли водителя в управлении транспортным средством автоматически будет расти роль из производителей. Параллельно будет снижать и ответственность владельцев (собственников) автономных транспортных средств. «Если сейчас, как правило, роль производителей ограничивается производством и частично продажей транспортных средств, то в будущем, с появлением и распространением БПТС, одной из их центральных задач окажется управление транспортными средствами с помощью беспилотной технологии»¹⁴⁸.

Упомянутое постановление Правительства Российской Федерации от 26 ноября 2018 г. № 1415 содержит только категории собственник высокоавтоматизированного транспортного средства, под которым следует понимать юридическое лицо, которому на праве собственности принадлежит высокоавтоматизированное транспортное средство и которое участвует в проведении эксперимента на добровольной основе. Указанное определение вполне согласуется с понятием «владельца источника повышенной опасности», данным в п. 19 Постановление Пленума ВС РФ от 26 января 2010 г. № 1 «О применении судами гражданского законодательства, регулирующего отношения по обязательствам вследствие причинения вреда жизни или здоровью гражданина»¹⁴⁹. А также определение водителя высокоавтоматизированного транспортного средства — «физического лица, находящегося во время проведения эксперимента на месте водителя высокоавтоматизированного транспортного средства, активирующего автоматизированную систему вождения высокоавтоматизированного транспортного средства и контролирующего движение этого транспортного средства в автоматизированном режиме управления, а также осуществляющего управление высокоавтоматизированным транспортным средством в режиме ручного управления». Водитель высокоавтоматизированного транспортного средства является водителем в соответствии с положениями Правил дорожного движения Российской Федерации, утвержденных постановлением Советом Министров — Правительства Российской Федерации от 23 октября 1993 г. № 1090¹⁵⁰.

При этом в соответствии с п. 18 Положения о проведении эксперимента по опытной эксплуатации на автомобильных дорогах общего пользования высокоавтоматизированных транспортных средств, утвержденного постановлении Правительства Российской Федерации от 26 ноября 2018 г. № 1415 «ответственность за дорожно-транспортные и иные происшествия на автомобильных дорогах России, произошедшие с участием высокоавтоматизированного транспортного средства при проведении эксперимента, при отсутствии виновных действий других участников дорожного движения, приведших к данному дорожно-транспортному или иному происшествию на автомобильной дороге, несет собственник высокоавтоматизированного транспортного средства»¹⁵¹.

Таким образом, вопросы ответственности разработчика автономного транспортного средства оставлены за рамками правового регулирования, что является существенным пробелом, нуждающимся в скорейшем восполнении¹⁵².

Отдельно регулирования требуют вопросы возмещения вреда с участием полностью автономных гражданских роботов. Полагаем, что ситуации, когда оператор/водитель не имеют возможности реального контроля за действиями робота при возникновении критических инцидентов с ростом и развитием технологий также будет экспонентно нарастать.

В силу неразрешенности в отечественном уголовном праве вопроса об ответственности юридических лиц, особое внимание следует уделить институту страхования ответственности.

«Расширение практики страхования первого лица и третьих лиц и развитие системы социальной защиты могли бы помочь в достижении целей повышения безопасности и компенсации вреда. За счет установления тарифов на основе риска страхование гражданской ответственности могло бы стимулировать разумное поведение со стороны производителей, собственников и пользователей, а также обеспечить возмещение вреда, если он будет причинен»¹⁵³. Отметим, что подобные прецеденты имеются. Так, на собственника высокоавтоматизированного транспортного средства возложена обязанность «застраховать и поддерживать застрахованным в период проведения опытной эксплуатации риск ответственности по обязательствам, возникающим вследствие причинения вреда жизни, здоровью или имуществу других лиц в пользу третьих лиц на сумму 10 млн руб. в отношении каждого высокоавтоматизированного транспортного средства»¹⁵⁴. Полагаем уместным сделать указанное требование обязательны не только в рамках экспериментального режима, но и распространить его на все полууправляемые и автономные робототехнические устройства гражданского назначения.

Практика страхования активно применяется также в Великобритании и США¹⁵⁵.

В штате Юта действует неоднозначное положение, наделяющее курьерских роботов правами и обязанностями пешеходов, а также обязанностью уступать пешеходам дорогу (101–102 абзацы проекта)¹⁵⁶. Подобные положения были приняты в аналогичном законе штата Аризона¹⁵⁷.

За любой ущерб, нанесенный роботом, ответственность несет его владелец, обязанный на этот случай иметь страховку не менее 100 тыс. долл. Владелец также обязан снабдить робота своей маркировкой и уникальным номером, тормозами и фарами с обоих
концов.

Так, в законодательном собрании штата Юта 20 марта 2020 г. был принят закон, устанавливающий правила дорожного движения для автономных роботов-доставщиков. Закон позволяет роботам-курьерам передвигаться со скоростью до 16 км/ч по пешеходным дорожкам и 32 км/ч по краю проезжей части.

Как было отмечено нами ранее, роботы могут быть потенциально опасными не только для жизни и здоровья людей, но и для объектов живой природы и нематериальных объектов.

Так, роботы могут быть непосредственными участниками различных экологических катастроф техногенного характера, повлекших намеренное или неконтролируемое уничтожение флоры и фауны. Широкое повсеместное использование роботов может повлечь причинение вреда объектам собственности: зданиям, строениям, сооружениям и пр. Вред, нанесенный в рамках рассматриваемого критерия, может иметь существенные финансовые последствия, так как может повлечь за собой значительные убытки, кроме того, вред может быть нанесен и объектам культурного значения, а также объектам, имеющим историческую ценность, вплоть до их утраты¹⁵⁸.

Вред, причиненный неживым материальным объектам, должен разрешаться в соответствии с положениями ст. 1064, 1079 ГК РФ. Гораздо сложнее дело обстоит с причинением вреда объектам живой природы.

В соответствии со ст. 3 Федерального закона от 10 января 2002 г. № 7-ФЗ «Об охране окружающей среды», хозяйственная деятельность должна основываться на следующих принципах: «платность природопользования и возмещение вреда окружающей среде, презумпция экологической опасности планируемой хозяйственной и иной деятельности, обязательность оценки воздействия на окружающую среду при принятии решений об осуществлении хозяйственной и иной деятельности, допустимость воздействия хозяйственной и иной деятельности на природную среду исходя из требований в области охраны окружающей среды, обязательность финансирования юридическими лицами и индивидуальными предпринимателями, осуществляющими хозяйственную и (или) иную деятельность, которая приводит или может привести к загрязнению окружающей среды, мер по предотвращению и (или) уменьшению негативного воздействия на окружающую среду, устранению последствий этого воздействия»¹⁵⁹.

В ст. 4 Постановления Пленума ВС РФ от 30 ноября 2017 г. № 49 «О некоторых вопросах применения законодательства о возмещении вреда, причиненного окружающей среде» отмечается, что «по смыслу статьи 79 Закона об охране окружающей среды вред, причиненный окружающей среде, подлежит возмещению независимо от возмещения вреда здоровью граждан или имуществу физических и юридических лиц, вызванного негативным воздействием окружающей среды в результате хозяйственной и (или) иной деятельности. Равным образом возмещение вреда окружающей среде не является основанием для освобождения лица от ответственности за причинение вреда здоровью граждан или имуществу физических и юридических лиц в результате негативного воздействия на окружающую среду в связи с осуществлением им хозяйственной и (или) иной деятельности и нарушением законодательства в области охраны окружающей среды»¹⁶⁰.

За причинение вреда «источником повышенной опасности, независимо от наличия вины, за исключением действия непреодолимой силы и выбытия источника повышенной опасности из обладания собственников в результате противоправных действий других лиц и при отсутствии вины владельца источника повышенной опасности в противоправном изъятии этого источника из его обладания»¹⁶¹, ответственность возлагается на юридических лиц и граждан, деятельность которых связана с повышенной опасностью для окружающих, в силу положений п. 2. ст. 1079 ГК РФ.

Концепция признания управляемых и полууправляемых роботов источниками повышенной опасности предполагает возможность привлечения собственников к ответственности. Так, если робот, способный причинить существенный вред окружающей среде, был оставлен без надлежащей охраны, то ответственности подлежит собственник робота, независимо от того, что вред был причинен противоправными действиями третьих лиц¹⁶².

Пределы уголовной ответственности за нарушения в области охраны окружающей среды и природопользования определены в постановлении Пленума ВС РФ от 18 октября 2012 г. № 21 «О применении судами законодательства об ответственности за нарушения в области охраны окружающей среды и природопользования»¹⁶³.

В постановлении Пленума отмечается, что «исходя из положений части 2 статьи 24 УК РФ, если в диспозиции статьи главы 26 УК РФ форма вины не конкретизирована, то соответствующее экологическое преступление может быть совершено умышленно или по неосторожности при условии, если об этом свидетельствуют содержание деяния, способы его совершения и иные признаки объективной стороны состава экологического преступления. Например, преступления, предусмотренные ст. 246, ч. 2 ст. 247, ч. 1 ст. 248, ч. 1 и 2 ст. 250 УК РФ, могут быть совершены как умышленно, так и по неосторожности, тогда как преступления, предусмотренные ч. 3 ст. 247 УК РФ, ч. 2 ст. 248 УК РФ, ч. 3 ст. 250 УК РФ, совершаются только по неосторожности»¹⁶⁴.

Ст. 246 УК РФ предусматривает ответственность за нарушение правил охраны окружающей среды при проектировании, размещении, строительстве, вводе в эксплуатацию и эксплуатации промышленных, сельско-хозяйственных, научных и иных объектов лицами, ответственными за соблюдение этих правил, если это повлекло существенное изменение радиоактивного фона, причинение вреда здоровью человека, массовую гибель животных либо иные тяжкие последствия. Использование при совершении указанных действий робототехники также может являться элементом объективной стороны преступления¹⁶⁵.

Отметим, что применение робототехники может привести и к выполнению объективной стороны ст. 258 УК РФ. В 2020 году было анонсировано создание специального робота-охотника, который может погружаться на большую глубину и самостоятельно отыскивать крылаток, убивать их и возвращать на поверхность для сбора¹⁶⁶. Несмотря на то, что указанное изобретение служит цели улучшения экологической обстановки, не за горами день, когда подобные изобретения встанут на вооружение браконьеров. Поэтому говоря о пределах уголовной ответственности стоит отметить, что ключевым критерием является причинение крупного ущерба и применение робототехники для реализации способа, позволяющего массово уничтожить птиц и зверей.

Возмещение вреда, причиненного военными роботами, и пределы уголовной ответственности

Вопрос привлечения к ответственности за использование служебных роботов, то есть роботов, применяемых для правоохранительных, военных целей находится на стыке гражданско-правовой ответственности и ответственности военнослужащих и международного права, регламентирующего порядок назначения репараций¹⁶⁷.

Вопросы ответственности военнослужащих регламентированы Федеральным законом от 12 июля 1999 г. № 161-ФЗ «О материальной ответственности военнослужащих»¹⁶⁸. Указанный закон регламентирует вопросы ответственности только при исполнении военнослужащими служебных обязанностей. В иных обстоятельствах военнослужащие несут гражданско-правовую ответственность в соответствии с гражданским законодательством Российской Федерации. Так, «военнослужащие несут материальную ответственность только за причиненный по их вине ущерб. Не допускается привлечение военнослужащего к материальной ответственности за ущерб, причиненный этим военнослужащим вследствие исполнения обязательного для него приказа (распоряжения) командира (начальника), иных правомерных действий (правомерного бездействия), в том числе совершенных в состоянии необходимой обороны, при задержании лица, совершившего преступление или административное правонарушение, для доставления органам власти и (или) пресечения возможности совершения им новых преступления или административного правонарушения, в состоянии крайней необходимости, вследствие действий (бездействия), связанных с обоснованным служебным риском, вследствие действий, осуществленных в отношении имущества воинской части в соответствии со специальными предписаниями нормативных правовых актов, а также за ущерб, причиненный вследствие действия непреодолимой силы, в том числе в результате физического принуждения военнослужащего, если вследствие такого принуждения он не мог руководить своими действиями (бездействием)»¹⁶⁹.

Вопросы привлечения к ответственности за вред, причиненный военными действиями, является одним из наиболее малоизученных в отечественной правовой доктрине.

Существование понятия «военной необходимости» наряду с «сопутствующим ущербом» обусловливает крайнюю размытость критериев допустимости степени причиненного вреда и возмещения вреда за наступившие последствия. Так, отдельные исследователи полагают, что «допускается причинение вреда любым, независимо от их предназначения, объектам в результате ведения боевых действий, если это подпадает под юридически допустимые критерии военной необходимости»¹⁷⁰.

Согласимся с мнением О. А. Рахимова, указывающего, что «военные организации не несут ответственности за причиненный ими вред в результате ведения боевых действий, если только нанесенный вред равен предотвращенному или менее его (аналогично и при пресечении террористических актов)»¹⁷¹. Вместе с тем, «возмещение ущерба, причиненного в результате правомерных действий военных организаций при ведении боевых действий, в отличие от случаев при проведении контртеррористических операций, происходит лишь на основании отдельных постановлений Правительства Российской Федерации»¹⁷².

В условиях мирного времени на военные организации, эксплуатирующие объекты повышенной опасности, в том числе БПЛА и БПТС, роботов военного назначения, возлагается ответственность как на владельцев источников повышенной опасности. С учетом обстоятельств, исключающих ответственность владельца объекта повышенной опасности, таких как: действие непреодолимой силы, выбытие источника из правообладания собственника лиц (кроме случаев, когда есть и вина владельца в том, что источник повышенной опасности оказался в распоряжении третьих лиц), а также причинения вреда потерпевшему по его вине¹⁷³.

Анализ правоприменительной практики и научной литературы позволяет сделать вывод о допустимости отнесения роботов к источникам повышенной опасности, ввиду соответствия критериям, выдвигаемым к источникам повышенной опасности. При этом источником повышенной опасности являются как сами роботы (обладающие полной автономностью), так и деятельность с участием роботов (управляемых и полуавтономных).

Существующий на сегодняшний день механизм возмещения вреда с участием робототехники нельзя признать удовлетворяющим современным реалиям, ввиду того что:

1. не учитывается степень автономности роботов и их взаимосвязь с действиями операторов;

2. в гражданском законодательстве отсутствуют механизмы привлечения к ответственности разработчиков программного обеспечения для роботов, что в условиях растущей автономности робототехники представляется серьезным упущением;

3. в условиях неразрешенности вопроса об уголовной ответственности юридических лиц, особую значимость приобретает активное применение института страхования ответственности разработчиков и собственников роботов;

4. вопросы возмещения вреда за эксплуатацию служебных роботов военного назначения в условиях боевых действий законом никак не регламентированы, что создает безграничное пространство не только для нарушения норм гражданского законодательства, но и лишения потерпевших возможности требовать возмещения причиненного вреда¹⁷⁴.

Проведенный анализ позволяет однозначно утверждать, что основным критерием, разграничивающим гражданско-правовые деликты с применением робототехники от уголовно-правовых деяний, является степень общественной опасности указанных деяний и степень причиненного ущерба от наступивших последствий. При этом привлечение к гражданско-правовой ответственности за вред, причиненный робототехникой, не исключает наступления административной или уголовной ответственности¹⁷⁵.

§ 1.4. Применение риск-ориентированного подхода к уголовно-правовой охране общественных отношений, связанных с робототехникой

Человечество стоит на пороге эпохи, когда расширение горизонтов использования искусственного интеллекта развязывает новую промышленную революцию. Его применение неизбежно порождает правовые вопросы¹⁷⁶, требующие оперативного вмешательства¹⁷⁷ и приводит к проблеме этического выбора¹⁷⁸.

В современном мире роботы и искусственный интеллект стали неотъемлемой компонентой жизнедеятельности человека¹⁷⁹, они улучшают нашу повседневную жизнь¹⁸⁰. Машины, работающие на основе искусственного интеллекта, все чаще становятся посредниками в наших социальных, культурных, экономических и политических взаимодействиях¹⁸¹.

Последствия появления и развития разумных роботов для социальных отношений и общества в целом обсуждаются уже не только в связи с рисками и преимуществами автоматизации, но и в контексте угрозы утраты контроля за саморазвивающимся автономным искусственным интеллектом¹⁸².

Использование роботов при выполнении рутинных процессов и операционной деятельности, на которую ранее был способен только человек, не только значительно облегчило тяжелый труд, определило вектор на переориентирование ресурсов человечества для выполнения более творческой работы, но и поставило перед мировым сообществом ряд глобальных вопросов. В первую очередь обусловленных стремительным развитием робототехники и искусственного интеллекта и делегированием им функционала в сферах очень значимых и крайне «чувствительных» для человечества как с точки зрения этики, так и права. Понимание поведения систем искусственного интеллекта необходимо для нашей способности контролировать их действия, извлекать из них выгоды и минимизировать их вред¹⁸³.

Следует поддержать мнение А. Турчина и Д. Денкенбергера, которые считают, что искусственный интеллект может представлять под собой глобальный катастрофический риск на различных стадиях своей эволюции. Сегодня ни одно решение не способно покрыть все риски, связанные с применением робототехники и искусственного интеллекта¹⁸⁴.

Как справедливо отмечает М. М. Бабаев, «экономические, технические, технологические, информационные, демографические, экологические и иные новации — все они, как известно, обладали и обладают одновременно как созидательным, так и разрушительным потенциалом. Вытекающие отсюда усложнение и «проблематизация» условий жизни людей обострили систему межличностных отношений, оказались все более «насыщенной» средой возникновения напряженности и бесконечных этнических, религиозных и других социальных конфликтов. В конечном счете современный социум (и Россия в том числе) превратился в «общество всеобщего риска», иначе говоря, общество, производящее высокие технологические и социальные риски во всех сферах своей жизнедеятельности — экономической, политической, социальной»¹⁸⁵.

Выработкой этических норм для робототехники и систем с искусственным интеллектом сегодня заняты как экспертное сообщество¹⁸⁶, крупные технологические компании, занимающиеся разработкой цифровых технологий¹⁸⁷, так и международные организации¹⁸⁸. Разработка этичных роботов — одна из самых сложных задач в области искусственного интеллекта¹⁸⁹. Искусственный интеллект стал предметом широких и неоднозначных дискуссий¹⁹⁰. Этические дебаты поднимают две основные проблемы: первая — концептуальная, связанная с отсутствием согласия по определению искусственного интеллекта; вторая — функциональная, проистекающая из различного отношения к технологии и праву¹⁹¹.

Вопрос правового регулирования робототехники и искусственного интеллекта стоит во главе повесток ряда международных организаций, таких как ООН¹⁹², G 20¹⁹³, FHI¹⁹⁴, КОМЕСТ¹⁹⁵, МСЭ¹⁹⁶, ЕС¹⁹⁷ и ОЭСР¹⁹⁸. В более чем 60 странах мира приняты либо разрабатываются концепции правового регулирования и развития искусственного интеллекта и робототехники¹⁹⁹. При этом во всех них отмечается целесообразность скорейшей оценки рисков внедрения робототехники и искусственного интеллекта и минимизации их последствий²⁰⁰.

Существующие технологические стандарты робототехники сосредоточены на физическом взаимодействии человека и робота, то есть на предотвращении вреда²⁰¹ и минимизации рисков²⁰². Крайне важно, чтобы оценка рисков проводилась не только с учетом собственных интересов производителя роботов, но и с точки зрения других заинтересованных сторон²⁰³. Разработка инновационных решений по управлению рисками имеет стратегическое значение, поскольку производитель роботов фактически несет ответственность за весь вред, причиненный в результате использования его продукта²⁰⁴, в том числе за ошибки роботов на основе искусственного интеллекта²⁰⁵.

С этимологической точки зрения риск является сложным социальным явлением, корни которого в природе общества, государства и человека²⁰⁶. Риск, представляющий собой универсальную категорию социально значимого поведения, в уголовном праве должен рассматриваться комплексно, с учетом особенностей всех типов рискованного поведения. Он лежит в основе любой деятельности, может иметь положительную направленность как способ снятия социальной напряженности и достижения общественно полезных целей и отрицательную — в виде угрозы причинения реального вреда охраняемым интересам²⁰⁷. В рисках поразительным образом сочетаются вызовы и угрозы существующему правопорядку и его возможным изменениям в условиях роботизации²⁰⁸.

В свою очередь, если рассуждать применительно к уголовно-правовым и криминологическим реалиям, риски современного общества являются фоном, на котором разворачиваются, и фактором, который определяет основные направления уголовной политики страны. Область этих рисков — вся наша действительность, все без исключения сферы проявления человеческой активности, которая либо сознательно генерирует, либо допускает возможность наступления неких опасных и вредных последствий. Не только учет реального состояния, но и прогностическую оценку будущего, включающую оценку рисков, надо рассматривать как непременную составляющую интеллектуального обеспечения грамотной уголовной политики и, в частности, криминологии²⁰⁹.

Мы поддерживаем предложение В. Н. Воронина о введении в механизм правового регулирования нового термина «уголовно-правовой риск» и оценка на основе новой разработанной концепции рисков всех цифровых технологий посредством установления их потенциальной опасности для общества²¹⁰.

Рискология и ее частное проявление — криминальная рискология — явление достаточно новое и мало изученное в российской криминологии, уголовной политике и в ее составной части — профилактической политике²¹¹. Отсутствие серьезного базиса исследований, посвященных изучению понятия риска, создает значительные препятствия для повышения эффективности уголовно-правовой охраны общественных отношений.

В свою очередь исследование уголовно-правовых рисков применения робототехники и искусственного интеллекта явление достаточно новое не только для отечественной науки, но и в целом для мировой.

Настоящее исследование представляет собой одну из первых попыток применения риск-ориентированного подхода к сфере робототехники, определения ключевых криминогенных рисков, на основе которых создана матрица рисков²¹².

Раздел 3 «Принципы регулирования отношений в сфере технологий искусственного интеллекта и робототехники» Концепции развития регулирования отношений в сфере технологий искусственного интеллекта и робототехники до 2024 года²¹³, утвержденной распоряжением Правительства Российской Федерации от 19 августа 2020 г. № 2129-р, к числу принципов регулирования отношений в сфере технологий искусственного интеллекта и робототехники относит «регуляторное воздействие, основанное на риск-ориентированном, междисциплинарном подходе и предусматривающее принятие ограничительных норм в случае, если применение технологий искусственного интеллекта и робототехники несет объективно высокий риск причинения вреда участникам общественных отношений, правам человека и интересам общества и государства»²¹⁴. Указанное положение, на наш взгляд, имеет непосредственное отношение и к сфере уголовного права ввиду круга охраняемых им объектов.

Исследование ключевых аспектов применения риск-ориентированного подхода к робототехнике невозможно без уяснения ключевого понятия — риска. В данном аспекте мы полностью солидарны с мнением М. М. Бабаева и Ю. Е. Пудовочкина о том, что, «в контексте уголовной политики и криминологии данная формула должна звучать так: риск — это возможная криминогенная опасность»²¹⁵.

Возможная опасность (риск) и собственно опасность отличаются друг от друга: первая — это потенциал, нереализованная, но реальная, то есть существующая, угроза. Действительная опасность есть реализованный риск. Последний фактически следует рассматривать как прямую угрозу охраняемым законом ценностям, стоящую «в шаге» от события (факта), который принято называть общественно опасным и реагировать на него соответствующим образом в рамках решения задач криминализации. Или же в шаге от деяния, уже признанного преступлением²¹⁶.

В разрезе правоотношений с участием роботов все чаще появляются исследования, посвященные анализу причинения вреда последними и оценке правовых последствий указанного вреда в рамках существующих уголовно-правовых норм.

Например, Ю. В. Грачева и А. А. Арямов в своей работе²¹⁷ указывают, что роботы сегодня могут стать полноправными исполнителями ряда преступлений, таких, как:

«– террористический акт (ст. 205 УК РФ), который может выражаться как в совершении взрыва, поджога, отравлении источника водоснабжения, лишении жизни людей с использованием робототехники;

— вандализм (ст. 214 УК РФ): легко себе представить использование дрона, переносящего капсулу с краской и сбрасывающего ее на здание или сооружение для их осквернения;

— приведение в негодность объектов жизнеобеспечения (ст. 215² УК РФ) путем их разрушения, повреждения или приведение иным способом в негодное для эксплуатации состояние с помощью роботов. Совершение этих действий из корыстных или хулиганских побуждений квалифицируется по ст. 215² УК РФ; при отсутствии названных мотивов, но при наличии цели подрыва экономической безопасности и обороноспособности Российской Федерации — по ст. 282 УК РФ;

— незаконное проникновение на подземный или подводный объект, охраняемый в соответствии с законодательством Российской Федерации о ведомственной или государственной охране, с использованием робототехники, включая дроны (ст. 215⁴ УК РФ);

— хищение ядерных материалов или радиоактивных веществ путем применения робототехники для незаконного проникновения в помещение или хранилища и завладения предметом преступления (ст. 221 УК РФ);

— незаконное приобретение, передача, сбыт, хищение оружия, его основных частей, боеприпасов, взрывчатых веществ, взрывных устройств (ст. 222, 222¹, 226 УК РФ), а также его незаконное перемещение через таможенную границу Таможенного союза в рамках ЕврАзЭС либо государственную границу РФ государствами — членами Таможенного союза в рамках ЕврАзЭС (ст. 226¹ УК РФ) с использованием робототехники, особенно дронов;

— нападение на морское или речное судно в целях завладения чужим имуществом, совершенное с применением насилия либо с угрозой его применения посредством использования робототехники, включая дроны (ст. 227 УК РФ)»²¹⁸.

Продолжая рассматривать тему нашего исследования, укажем, что В. С. Овчинский сетует на недооценку опасности использования робототехники террористами и экстремистами²¹⁹.

В том числе Г. Г. Камалова считает, что искусственные интеллектуальные системы могут быть использованы для совершения разнообразных преступлений, включая:

«– причинение смерти или вреда здоровью человека;

— нарушение права на неприкосновенность частной жизни;

— незаконное получение или неправомерное разглашение охраняемой законом тайны;

— нарушение правил охраны труда;

— мошенничество;

— нарушение безопасности дорожного движения и эксплуатации транспорта;

— террористический акт;

— нарушение правил обращения с оружием и предметами, представляющими повышенную опасность для окружающих;

— нарушение правил оборота наркотических и психотропных веществ;

— преступления в сфере компьютерной информации;

— иные»²²⁰.

Продолжая развивать тему исследования, ученые отмечают, что преимущества в использовании робототехники для совершения преступления очевидны:

«во-первых, возможность их применения в опасных зонах, в том числе биологически опасных;

во-вторых, физическая безопасность лица, использующего эти технологии для совершения преступления, поскольку оно находится, как правило, далеко от места его использования, у него нет страха быть обнаруженным, получить ранения или погибнуть, что психологически облегчает принятие решений, связанных с причинением вреда;

в-третьих, по использованной робототехнике трудно идентифицировать нападавшего»²²¹.

В то же время И. Н. Мосечкин полагает, что в отечественном уголовном законодательстве сегодня «отсутствуют какие-либо составы преступлений, связанные с совершением общественно опасных деяний посредством использования нейронных сетей, искусственного интеллекта или самим искусственным интеллектом»²²².

Мы солидарны с мнением европейских специалистов уголовного права, считающих что «лица, которые производят, программируют, продают и используют роботов, должны подлежать уголовной ответственности за умышленное преступление, если они сознательно используют робота для причинения вреда другим. Человек, позволяющий самообучающемуся роботу взаимодействовать с людьми, может предвидеть, что робот выйдет из-под контроля и причинит вред. Уже сам по себе этот факт может повлечь за собой ответственность за халатность»²²³.

По мере того как роботы становятся более автономными²²⁴, люди будут считать их гораздо ответственными за правонарушения²²⁵. Автономный характер роботов создает проблемы предсказуемости и контроля, которые могут сделать правовое регулирование неэффективным, особенно если робот представляет катастрофический риск²²⁶, как например боевой робот.

Не вдаваясь в полемику относительно применимости приведенных норм в уголовно-правовой оценке деяний с использованием робототехники, отметим, что достаточно сложно регламентировать правовые аспекты с участием роботов при отсутствии определения уровня риска, который может быть причинен. Однако подобного рода исследования являются подтверждением тому, что криминогенные риски применения робототехники очевидны и игнорировать их опасность уже невозможно.

Между тем, криминогенные риски, в силу своего статуса изначального «участника» детерминационного процесса, находятся в зоне относительной недоступности для прямого применения наиболее острых средств воздействия, которыми располагает уголовная политика и, в частности, уголовное право: здесь нет преступления и нет преступника²²⁷ (по крайне мере пока).

Применительно к сфере робототехники такое обстоятельство обусловлено также и относительной новизной рассматриваемых отношений²²⁸.

Обобщение специальной научной литературы, посвященной робототехнике, свидетельствует о наличии значительного числа классификаций роботов в зависимости от назначения и решаемого класса задач и др.²²⁹ Между тем, для целей настоящего исследования мы ориентировались на критерии, имеющие значимость при оценке криминогенного потенциала. На основе проведенного анализа нами разработана развернутая классификация роботов, имеющих значимость при оценке криминогенного потенциала (рис. 1).

Рис. 1. Классификация роботов, имеющих значимость при оценке криминогенного потенциала

Имеющаяся на сегодняшний день литература по рискологии изобилует различными подходами и классификациями рисков. Однако до сих пор еще не разработано общепринятой и одновременно исчерпывающей классификации рисков, что объясняется их многообразием, а также появлением новых видов²³⁰. Указанное верно и для криминологических классификаций. Систематизация и классификация современных криминологических знаний и представлений о них многомерна и многолика. Их криминологическая группировка может быть произведена по различным основаниям²³¹.

Наибольшее внимание при классификации уголовно-правовых рисков применения робототехники заслуживает подход по критерию содержания структурных характеристик риска таких, как опасность, подверженность риску, уязвимость, взаимодействие с другими рисками.

Конкретизируя указанный подход, нами выделяются два ключевых основания, которые положены в основу, при оценке рисков:

— по тяжести последствий при причинении вреда роботами;

— по степени общественной опасности.

Отметим, что при классификации по тяжести последствий при причинении вреда роботами ввиду необходимости отображения как величины риска, так и сочетания его компонентов, нами применялась матрица рисков (см. ниже).

Охарактеризуем ее элементы подробнее.

Проведенное исследование свидетельствует о том, что по тяжести последствий при причинении вреда роботами можно выделить следующие категории рисков:

1) незначительный риск;

2) существенный риск;

3) высокий риск;

4) критический риск.

Рассмотрим указанные виды риска более подробно.

1. Незначительный риск. При незначительных рисках уровень негативного воздействия будет минимальным и может повлечь за собой незначительные негативные последствия.

Например, это может быть связано с работой чат-ботов, которые способны получить доступ к некоторой цифровой информации, не представляющей значительной коммерческий или правовой ценности, но находящейся в закрытом поле. Последствия таких рисков могут быть скорректированы путем оперативного применения правовых или технических инструментов.

Однако следует учесть, что, если не принять необходимых мер (доработка программного обеспечения, правовой контроль и пр.) незначительный риск может повлечь за собой в будущем более тяжелые последствия.

2. Существенный риск. Указанный вид риска может повлечь за собой более тяжелые последствия, нежели предыдущий. Он также предотвратим, как и предыдущий, но его последствия способны принести вред более значительный. В частности, это связано со сбоями в программном обеспечении роботов, способными внести разлад в ту или иную систему жизнеобеспечения или профессиональной деятельности, а также с намеренным использованием роботов для получения доступа к какой-либо информации, способной серьезно дискредитировать субъекта тех или иных отношений или нанести ему финансовый, психологический или физический вред. Данный вид риска в случае его возникновения или возможности возникновения должен быть обязательно взят под контроль, чтобы избежать последствий его проявления.

3. Высокий риск. Данный вид риска способен вызвать очень серьезные последствия, особенно в том случае, когда создатель программного обеспечения понимает и осознает собственные действия. Чаще всего это связано с разработками в области создания нового оружия, военных роботов, а также роботов, которые способны нанести серьезный физический вред объектам живой или неживой природы. Данный риск часто заранее предопределен, о его возможном проявлении известно как разработчикам, так и пользователям. Достаточно часто сокрытие указанных рисков связано с желанием разработчиков или заказчиков достичь той или иной цели без учета последствий ее достижения для объекта или субъекта воздействия. Указанный вид риска должен быть обязательно учтен в правовом поле, поскольку последствия такого риска могут стать фатальными.

4. Критический риск. Чаще всего критические риски связаны с прямой угрозой объектам живой и неживой природы и непосредственно человечеству. Критический риск возникает и тогда, когда тот или иной объект, обладающий искусственным интеллектом, выходит из-под контроля человека и способен повлечь за собой смерть и разрушения. В качестве примера можно привести суперинтеллект — автономную боевую систему, которая может представлять потенциальную опасность. Гипотетически, будучи результатом высоко технологичных исследований, суперинтеллект может обрести сознание, проявить враждебность и создать угрозу миру и безопасности человечества. Преодоление критического риска сопряжено со значительными, порой непреодолимыми трудностями. Соответственно, на первый план должно выходить недопущение указанного риска максимально возможными способами. При возникновении критического риска необходимо быстрое принятие решений по его нивелированию.

В представленной матрице (рис. 2) по одной из шкал прописан уровень тяжести последствий при причинении вреда роботами, по второй — вероятность причинения такого вреда. Из данной матрицы видно, что чем выше вероятность причинения вреда роботами, тем выше уровень риска (он может быть, в большей степени, высоким или критическим). Чем ниже вероятность причинения вреда, тем ниже уровень непосредственного риска (незначительный или существенный).

Рис. 2. Матрица степени причинения вреда роботами по категории рисков

Второе основание уголовно-правовой классификации роботов с точки зрения риск-ориентированного подхода — по степени общественной опасности. В частности, роботы могут позиционироваться как:

1. Опасные для мира и безопасности человечества. Здесь речь идет о возможности тотального уничтожения роботами как человечества, так и живой и неживой природы. Правовой и физический контроль человека ограничен или отсутствует.

2. Опасные для жизни и здоровья людей. В частности, опасность заключается в возможности посягательства роботов на здоровье людей, покушения на убийство или его совершение, совершение террористических актов, захват заложников локальные военные конфликты и пр.

3. Опасные для объектов живой природы. К ним могут быть отнесены различные экологические катастрофы техногенного характера с участием роботов, намеренное или неконтролируемое уничтожение флоры и фауны. Здесь необходимо указать на связь рассматриваемого и предыдущего критериев, так как нанесение вреда живой природе влечет за собой и нанесение вреда человеку, при этом, данный вред может необратимым.

4. Опасные для неживых материальных объектов. Данный критерий охватывает посягательства на собственность, здания, строения, сооружения и пр. Вред, нанесенный в рамках рассматриваемого критерия, может иметь существенные финансовые последствия, так как может повлечь за собой значительные убытки. Кроме того, вред может быть нанесен и объектам культурного значения, а также объектам, имеющим историческую ценность, вплоть до их уничтожения.

В матричной форме распределение основных видов роботов по степени общественной опасности и тяжести последствий, причиненных роботами вреда, исходя из их функционального предназначения (рис. 3) выглядит следующим образом:

Рис. 3. Матрица степени причинения вреда роботами по степени общественной опасности

Согласно рис. № 3 можно отметить, что самая катастрофическая тяжесть последствий при причинении вреда роботами может иметь место при применении военных роботов (боевых роботов, летального автономного оружия, автономных вооруженных роботов), поскольку данная категория рассматриваемых объектов запрограммирована, в первую очередь, на агрессивные действия, применение силы и причинения разрушений.

Высокая тяжесть последствий в различных степенях общественной опасности может быть нанесена различными по назначению роботами: так, для мира и безопасности человечества достаточно опасными могут быть космические роботы (как вид военных роботов), поскольку негативное воздействие таких роботов из космоса может нанести человечеству и планете непоправимый урон в случае выхода из-под контроля человека или же в результате запрограммированного технического решения последнего.

Правоохранительные роботы могут причинить высокую тяжесть последствий для жизни и здоровья людей, это может быть связано с определенными командами, которые заложены в программном обеспечении на этапе создания и которые могут быть направлены, например, на подавление демонстраций, массовых бунтов. Кроме того, правоохранительные роботы, так же как военные, запрограммированы на агрессивные действия против человека при необходимости. По этой причине выход таких роботов из-под контроля в процессе наведения общественного порядка также может иметь фатальные последствия.

Для объектов живой природы высокую опасность, и соответственно, высокую тяжесть последствий могут представлять промышленные роботы, так как, выполняя поставленные перед ними задачи, такие роботы лишены возможности анализировать, насколько высок уровень экологической опасности от совершаемых ими действий. В связи с этим, действия промышленных роботов, например, в добывающей или лесной промышленности, могут привести к экологической катастрофе.

Спасательные роботы (как вид правоохранительных роботов) могут представлять высокую опасность для неживых материальных объектов, так как основная задача таких роботов, заложенная на этапе программирования, — спасать людей. Соответственно, усилия, которые при этом прилагаются, могут иметь отрицательные последствия, например, для зданий или природных территорий, если таковые будут подвергнуты массированным разрушениям для реализации задачи по спасению людей, поскольку выбор альтернативных вариантов в подобных экстремальных ситуациях — это прерогатива человека разумного.

Средняя тяжесть последствий свойственна вреду, который правоохранительные роботы могут причинить миру и безопасности человечества. Например, правоохранительные роботы при выполнении поставленных перед ними задач могут нарушить функционирование критически важных и потенциально опасных объектов.

Промышленные и медицинские роботы также могут причинить вред жизни и здоровью людей, последствия которого могут быть отнесены к средним. Так, медицинский робот, используемый для оперативного вмешательства, может совершить неточные или ошибочные действия, причинив тем самым вред жизни и здоровью человека.

Низкую и незначительную опасность для всех рассматриваемых категорий представляют домашние, образовательные и научные роботы. Опасность может быть связана с ошибками в программном обеспечении, различными техническими сбоями в работе роботов и пр. Указанные аспекты могут стать причиной:

— снижение скорости получения и обработки научной информации и снижение по этой причине эффективности научных исследований (исследовательский робот);

— причинение легкого и средней тяжести вреда здоровью по причине неисправности робота (домашние роботы);

— сокращение числа рабочих мест, невозможность выполнения поставленной производственной задачи, невыполнение плана производства, нарушение охраны труда и техники безопасности (промышленные роботы)²³².

Таким образом, приведенная уголовно-правовая классификация роботов в рамках риск-ориентированного подхода наглядно демонстрирует прямую корреляцию между степенью общественной опасности роботов и тяжестью последствий причиненного ими вреда.

Следует также отметить, что тот или иной риск может возникнуть, в целом, по нескольким основным причинам, связанным с конструктивными особенностями роботов.

1. Причины, связанные с цифровой подсистемой роботов:

— недостатки программного обеспечения (уязвимости программного обеспечения, случайные ошибки программного обеспечения), которые не были выявлены на этапе производства (разработки) или же проявились в процессе эксплуатации роботов;

— умышленное программирование (перепрограммирование) роботов на совершение тех или иных действий противоправного характера (недекларированные возможности программного обеспечения).

2. Причины, связанные с механической подсистемой роботов:

— недостатки механизмов (приводов, моторов и т. д.), которые не были выявлены на этапе производства (разработки) или же проявились в процессе эксплуатации роботов;

— умышленное создание недекларированных возможностей механизмов роботов в целях совершения тех или иных действий противоправного характера.

Риск-ориентированный подход представляет собой наиболее прогрессивный и эффективный базис для уголовно-правовой охраны общественных отношений, связанных с робототехникой.

В рамках проведенного исследования нами наглядно продемонстрировано наличие реальных рисков для мира и безопасности человечества, жизни и здоровья людей, объектов живой природы, неживых материальных объектов от применения роботов. Это обусловливает необходимость скорейшего признания роботов источниками повышенной опасности²³³ либо автономными источниками повышенной опасности²³⁴ и принятия соответствующего регулирования.

На основе системного исследования теоретически обоснована необходимость и целесообразность применения риск-ориентированного подхода к уголовно-правовой охране общественных отношений, связанных с робототехникой, что позволило оценить признаки роботов, имеющих значение при оценке криминогенного потенциала.

В рамках проведенного исследования оценена тяжесть последствий при причинении вреда роботами (от незначительного до критического риска), и приведена матрица по вероятности их наступления, а также разработана уголовно-правовая классификация роботов по двум основаниям: по степени общественной опасности и по потенциальной тяжести последствий при причинении вреда роботами.

Помимо этого, делается вывод о том, что тот или иной риск может возникнуть по нескольким основным причинам, связанным с конструктивными особенностями роботов.

Стоит также заключить, что сделанные в параграфе выводы и рекомендации могут послужить основой для реализации риск-ориентированного подхода, заложенного в основу принципов регулирования отношений в российской Концепции развития регулирования отношений в сфере технологий искусственного интеллекта и робототехники. Кроме того, необходимо отметить, что приведенная в работе матрица рисков может быть использована для создания рамок регуляторного воздействия, оценки последствий потенциального вреда и их минимизации.

Глава 2. РОБОТОТЕХНИКА КАК ФЕНОМЕН, ЗНАЧИМЫЙ ДЛЯ УГОЛОВНОГО ПРАВА

§ 2.1. Определение понятий «робот» и «робототехника»

В разделе 6 «Разработка и уточнение терминов и определений в сфере технологий искусственного интеллекта и робототехники» Концепции развития регулирования отношений в сфере технологий искусственного интеллекта и робототехники на период до 2024 года, утвержденной распоряжением Правительства Российской Федерации от 19 августа 2020 г. № 2129-р, указано: «Отсутствие однозначного понимания содержания терминов «искусственный интеллект», «робот», «умный робот», «робототехника», «интеллектуальный агент» приводит к терминологическим проблемам при формировании регулирования»²³⁵. В разделе «Цели концепции» этого же документа говорится, что «В настоящее время в Российской Федерации отсутствует специальное законодательное регулирование, учитывающее специфику применения технологий искусственного интеллекта и робототехники»²³⁶, а «анализ мирового опыта показывает, что в целом ряде стран уже существует первичное правовое регулирование применения искусственного интеллекта и робототехники»²³⁷. Можно заключить, что нужны собственные глубокие интеллектуальные разработки, дающие глубокое и содержательное понимание феномена робототехники, что представляется необходимым для обеспечения эффективной уголовно-правовой охраны общественных отношений, связанных с данным элементом действительности. Предложения представителей наук уголовно-правового цикла могут и должны быть лидерскими в данном отношении. Тем более учитывая, что роботы нуждаются в глубоком изучении как предмет преступления и средство совершения преступления.

Развитие цифровых технологий во всем мире происходит достаточно высокими темпами. Появление новых технологических решений и инновационных разработок влечет за собой расширение цифровой терминологии. Среди наиболее распространенных понятий, применяемых в сфере сквозных цифровых технологий, сегодня следует отметить такие категории, как «робот» и «робототехника», являющиеся значимыми и для уголовного права.

Понятие «робот» достаточно давно используется в науке и практике, но определения данного понятия в разных источниках отличны друг от друга.

В ряде толковых словарей и глоссариях понятий можно найти следующие определения понятия «робот»:

— «(чеш. robot, от robota — подневольный труд, rob — раб) — машина с антропоморфным (человекоподобным) поведением, которая частично или полностью выполняет функции человека (иногда животного) при взаимодействии с окружающим миром»²³⁸;

— «автомат, осуществляющий действия, подобные действиям человека»²³⁹;

— «автоматическое устройство с антропоморфным действием, которое частично или полностью заменяет человека при выполнении работ в опасных для жизни условиях или при относительной недоступности объекта»²⁴⁰;

— «автомат, предназначенный для замены человека при выполнении сложных технических операций»²⁴¹;

— «машина, напоминающая человека и способная автоматически копировать определенные движения и функции человека; машина, способная выполнять сложную серию действий автоматически, в частности, программируемую компьютером; человек, который ведет себя механически или бесстрастно»²⁴²;

— «механизм, управляемый компьютером, который может перемещаться и выполнять другие действия, которые могут выполнять люди»²⁴³;

— «машина, которая похожа на человека и выполняет различные сложные действия человека (как ходьба или общение); также: аналогичная, но вымышленная машина, чья нехватка возможностей часто подчеркивается; устройство, которое автоматически выполняет сложные часто повторяющиеся задачи; автоматически управляемый механизм»²⁴⁴;

— «исполнительное устройство с двумя или более программируемыми степенями подвижности, обладающее определенным уровнем автономности и способное перемещаться во внешней среде с целью выполнения поставленных задач»²⁴⁵.

Общей чертой представленных выше определений выступает следующее: все авторы считают, что 1) робот представляет собой какое-либо устройство, машину и т. д.; 2) робот предназначен для совершения определенных действий либо воздействия на окружающую действительность.

Исследование содержания термина «робот» также представлен в научной литературе. В частности, по мнению П. Хаббарда, роботам свойственны определенные характеристики: они должны отличаться размером, мобильностью, возможностью передачи информации, автономной реакцией на внешние действия, возможностью получать, оценивать, использовать и передавать информацию²⁴⁶.

Аналогичные характеристики должны присутствовать у роботов и по мнению авторов исследования, проведенного под эгидой ЮНЕСКО²⁴⁷. Так, современному роботу должны быть присущи мобильность, интерактивность, обмен информацией и автономия.

Однако дискуссионность вокруг термина «робот» в литературе достаточно высока и продолжает развиваться. В частности, израильский профессор М. Бен-Ари и швейцарский профессор Ф. Мондада²⁴⁸, анализируя статью Оксфордского словаря английского языка, где робот определен как «машина, способная выполнять сложную серию действий автоматически, особенно программируемую компьютером», отмечают, что указанное определение включает в себя несколько интересных элементов:

— выполнение действий автоматически. По мнению авторов, указанный ключевой элемент робототехники имеет общее значение и может быть также отнесен к другим устройствам, имеющим «автоматическое начало» (бытовые, промышленные приборы и пр.). Разница между роботом и простым автоматом, таким, например, как посудомоечная машина, заключается в определении того, что такое «сложная серия действий». Именно роботы, в отличие от других автоматических устройств, способны к ее выполнению;

— возможность быть программируемым компьютером. Это еще один ключевой элемент робота, поскольку некоторые автоматы программируются механически. С другой стороны, компьютеры встречаются повсюду, поэтому трудно использовать этот критерий, чтобы отличить робота от другого механизма²⁴⁹.

Важнейшим элементом роботов, который явно не упоминается в определении, по мнению М. Бен-Ари и Ф. Мондада, является использование датчиков. «Большинство автоматов не имеют сенсоров и не могут приспособить свои действия к окружающей среде. Датчики — это то, что позволяет роботу выполнять сложные задачи»²⁵⁰.

Проведя всестороннее исследование термина «робот», ученые приходят к выводу, что роботы — это нечто большее, чем дистанционно управляемые устройства вроде телевизора. Они демонстрируют автономное поведение, основанное на обнаружении объектов в окружающей среде с помощью датчиков. Робот может находиться в различных состояниях, где его реакция на входные сигналы от датчиков зависит не только от этих значений, но и от текущего состояния²⁵¹.

В свою очередь японские исследователи²⁵² считают, что робот — это адаптивный, мощный и автономный инструмент. По их мнению, робот обладает очень важными характерными чертами:

— универсальностью, которая зависит от его геометрических и механических возможностей. Это подразумевает физическую способность выполнять разнообразные функции и производить разнообразное выполнение простых задач. Универсальность подразумевает, что каждый робот должен иметь структуру с геометрией, которая может быть изменена в случае необходимости;

— способностью проявлять инициативу при выполнении задач, которые не были полностью определены и несмотря на непредвиденные изменения в окружающей среде. В этом качестве робот использует:

а) способность воспринимать с помощью датчиков окружающую среду;

б) способность анализировать пространство задач и выполнять операции;

в) способность быть управляемым автоматически²⁵³.

Геометрическая структура робота может быть определена путем анализа задач, которые он должен осуществить, однако японские ученые подчеркивают, что никогда не будет возможно определить весь спектр задач, которые может выполнить конкретный робот.

По мнению вышеуказанных авторов, робот может быть разумно определен только в терминах среды, которую он модифицирует. Ключевыми терминами здесь будут выступать следующие:

1. Машина, оснащенная приводами: такие машины типизируют представление человека о роботе в целом. Именно этот тип машины предназначен для выполнения конкретной задачи. Например, машины смогут быть шарнирные механические структуры, обладающие несколькими степенями свободы. Обычно шесть степеней свободы присутствуют в роботе, предназначенном для перемещения объектов. Первые три степени направляет захват в требуемое положение, а остальные три используются для ориентации концевого эффектора.

2. Окружающая среда — это среда, в которой находится человек и размещается машина. Для роботов в фиксированном положении окружающая среда сводится к пространству, которое активно исследуется роботом. Следует отметить, что окружающая среда определяется не только геометрическими соображениями (то есть «достижимым» пространством), но и всеми физическими свойствами окружающей среды и всего, что она содержит. Природа и поведение робота зависят от обоих этих свойств, а также от взаимодействия между ним и окружающей средой.

3. Задача. Задача может быть определена как разница между двумя состояниями среды — начальным состоянием и конечным состоянием после завершения задачи. Задача должна быть описана компьютером пользователя роботу на соответствующем языке. Описание может иметь несколько форм и даже может изменяться в ходе операции.

4. Компьютер или «мозг» робота: это часть робота, которая генерирует управляющие сигналы (эти сигналы приводят в действие суставы конечностей робота) в соответствии с априорной информацией (априорное знание задачи, которую предстоит выполнить) и апостериорное знание как настоящего, так и прошлого состояний робота и его окружения²⁵⁴.

Исследователи указывают, что существует два класса роботов:

— запрограммированные роботы, которые не могут самостоятельно проводить исследования. Они управляются программами, которые не являются самоизменяющимися в своем режиме работы. К данной категории относится большинство роботов;

— роботы, способные адаптировать по крайней мере часть своего поведения в ответ на информацию об окружающей среде, получаемую их датчиками. В настоящее время они находятся на экспериментальной стадии²⁵⁵.

Ряд авторов²⁵⁶ считает, что поиск всеобъемлющего определения робота остается проблематичным, поскольку форм-факторы, интеллект и назначение, существенно различаются. В зависимости от информанта определение меняется: это может быть механическая система, размещенная за рабочим забором (и в этом случае автономное транспортное средство не является роботом) или приспособление, которое демонстрирует автономность и способность реагировать физически, или же целая система машин, работающих в тандеме.

По мнению исследователей, избыточность в определении понятия «робот» приводит к тому, что он может быть чрезмерно использован неподготовленными пользователями, которые быстро «прикрепляют ярлык к любому новому технологическому развитию»²⁵⁷. Мы поддерживаем данную точку зрения.

А. Войкулеску из факультета социальных и гуманитарных наук Вестминстерского университета²⁵⁸ считает, что определить сущность понятия «робот» достаточно сложно по той причине, что процесс его разработки включает в себя не только знание цифровых технологий, но и других технических, этических и правовых компетенций. В некоторых случаях могут быть задействованы биология, медицина, химия. Соответственно, исходить только из технических особенностей робота представляется не совсем верным, так как его создание и функционирование требует междисциплинарного взаимодействия с большинством, если не со всеми указанными выше областями.

На основе исследуемых точек зрений авторов в научной литературе и толковых словарях представляется возможным сформулировать следующее определение понятия «робот»: это продукт достижений цифровых технологий, управляемый средствами заложенной в него программы и способный как к выполнению заранее запрограммированных человеком действий, так и к автономному решению
задач.

Необходимо также рассмотреть легальное определение категории «робот» в ряде отечественных правовых актов и документах по стандартизации. Так, в Типовых нормах времени по техническому обслуживанию станков с числовым программным управлением и роботов (манипуляторов), утвержденных Постановлением Госкомтруда СССР и Секретариата ВЦСПС от 16 января 1989 г. № 28/4-7²⁵⁹ отсутствует трактовка понятия «робот-манипулятор», соответственно, робот характеризуется как разновидность какого-либо механизма, который приравнен по своей сути к станкам с числовым программным управлением. Напротив, в Постановлении Росстата от 7 ноября 2006 г. № 63 роботы позиционируются как:

1) «простые», выполняющие операции типа «взять» и «положить»;

2) прочие, более сложные роботы, используемые для выполнения точечной иди дуговой сварки;

3) прочие, более сложные роботы, используемые для монтажных работ, отделки и чистовой обработки, а также для других целей»²⁶⁰.

Соответственно, в данном правовом акте законодатель на первый план выводит технические возможности роботов, которые необходимы при выполнении той или иной производственной операции.

Интересна также трансформация трактовки понятия «робот» в правовых актах, произошедшая в течение последних 30 лет. Если, например, в постановлении Совмина СССР от 22 февраля 1990 г. № 1072 «О единых нормах амортизационных отчислений на полное восстановление основных фондов народного хозяйства СССР» используются только понятия «роботизация технических установок», «роботизация технологических установок», входящие в категорию «Рабочие машины и оборудование»²⁶¹ без какой-либо характеристики, то в распоряжении Правительства Российской Федерации от 5 ноября 2020 г. № 2869-р «Об утверждении Стратегии развития станкоинструментальной промышленности на период до 2035 года» относительно характеристики промышленных роботов уже указано следующее: «Промышленный робот является одним из средств интеллектуальной автоматизации производства, которое может быть использовано в зависимости от степени автоматизации как вспомогательное оборудование и как основное оборудование»²⁶². Соответственно, на современном этапе в нормативно-правовую базу уже включено понятие промышленного робота как «средства интеллектуального автоматизированного производства».

Национальный стандарт Российской Федерации ГОСТ Р 60.0.0.4-2019/ИСО 8373:2012 «Роботы и робототехнические устройства. Термины и определения»²⁶³ изначально определял робота как «исполнительный механизм, программируемый по двум или более степеням подвижности, обладающий определенной степенью автономности и способный перемещаться во внешней среде с целью выполнения задач по назначению». Однако ТК 299 ИСО Робототехника²⁶⁴ в 2018 году принял новое определение понятия «робот»: «программируемый исполнительный механизм с определенным уровнем автономности для выполнения перемещения, манипулирования или позиционирования». Необходимо сказать, что второй вариант определения, на наш взгляд, значительно сузил понятие «робот», так как ранее принятое «выполнение задач по назначению» гораздо шире по своей сути, нежели «выполнение перемещения, манипулирования или позиционирования».

Правовое закрепление термин «робот» также получил в приказах Росстата, утвердивших статистический инструментарий для организации федерального статистического наблюдения в различных сферах деятельности. Так, приказ Росстата от 24 августа 2017 г. № 545 включает термин «доильный робот»²⁶⁵; приказ Росстата от 30 декабря 2019 г. № 825 содержит понятия «коллаборативные роботы», «роботизированные решения (робокары, роботы-грузчики, роботы-коллабораторы)»²⁶⁶; приказ Росстата от 30 июля 2020 г. № 424 также включает категории «сервисные робот», «автоматизированные процессы с участием роботов», «промышленные роботы»²⁶⁷. Соответственно, совершенствование цифровых технологий влечет за собой внесение соответствующих правовых терминов в правовые акты, регулирующие ту или иную сферу применения роботов.

Следует указать, что результаты ответов респондентов на вопрос известны ли им какие-либо нормативные правовые акты, регулирующие правоотношения, возникающие по поводу роботов (их использования, хранения, купли-продажи и т. д.) представляют высокий интерес и практическую значимость для представителей юридической науки. Подавляющее большинство респондентов (60,9%) не осведомлены о юридических инструментах регулирования общественных отношений с участием роботов (см. приложения № 6–8). Данный результат следует рассматривать в корреляции с тем обстоятельством, что большинство опрошенных считает оборот отдельных видов роботов сложившимся и реально существующим. Структура мнений респондентов по данному вопросу может выступать самостоятельным, но не единственным, обстоятельством, актуализирующим научную дискуссию относительно выработки соответствующих нормативно-правовых механизмов²⁶⁸.

Примерно пятой части опрошенных (18,2%) известны только акты Президента и Правительства Российской Федерации. Вероятно, к таким актам респонденты относят Указ Президента Российской Федерации от 10 октября 2019 г. № 490 «О развитии искусственного интеллекта в Российской Федерации»²⁶⁹ и Распоряжение Правительства Российской Федерации от 19 августа 2020 г. № 2129-р «Об утверждении концепции развития регулирования отношений в сфере технологий искусственного интеллекта и робототехники до 2024 года»²⁷⁰.

Кроме того, подавляющее большинство респондентов (84,1%) находят существующее правовое регулирование общественных отношений в сфере робототехники в различной степени пробельным, при этом большая часть тех, кто разделяет эту точку зрения, убеждены, что существующего нормативного регулирования недостаточно (см. приложения № 6–8).

Подобное положение однозначно свидетельствует о формировании в обществе запроса на достаточное, полное и всестороннее законодательное регулирование робототехники. В совокупности с ответами на иные вопросы, касающиеся легальной базы регулирования общественных отношений с участием роботов, можно однозначно утверждать, что решение об издании нормативных правовых актов вызовет однозначную общественную поддержку²⁷¹.

Причем ответы респондентов на вопрос о процессах в робототехнике считающимися неурегулированными свидетельствуют о том, что в обществе обеспокоены наличием правовой неопределенности в вопросах ответственности за вред, причиненный в процессе функционирования роботов (59,8%). Сложившаяся структура спектра мнений позволяет предполагать, что выработка и издание охранительных правовых норм с высокой вероятностью может найти одобрение общественности, выступить выражением интересов граждан Российской Федерации. Часть респондентов (12,5%) считает неурегулированным правовое «делегирование» решений роботам. В то же время в процентном соотношении имеется ощутимое количество лиц, затруднившихся с выбором (22%). Означенное может свидетельствовать о том, что робототехника, являясь сквозным цифровым феноменом, затрагивает существенное количество сфер общественной жизни, в каждой из которых ее участие обоснованно должно регламентироваться нормативными положениями, ввиду чего респонденты затруднились с обозначением своего предпочтения. И только 5,7% опрошенных полагают, что все процессы в робототехнике урегулированы²⁷² (см. приложения № 6–8).

Нельзя оставить без внимания особенности классификации роботов. Как и базовое понятие данного словосочетания — «робот» — непосредственно классификация рассматриваемых объектов также вызывает у различных авторов горячие дискуссии. М. Бен-Ари и Ф. Мондада²⁷³ считают, что роботы могут быть классифицированы в зависимости от среды, в которой они работают. Чаще всего различают стационарных и мобильных роботов. Эти два типа роботов имеют очень разные рабочие среды и поэтому требуют очень разных возможностей. Стационарные роботы — это в основном промышленные роботизированные манипуляторы, которые работают в четко определенных условиях, адаптированных для роботов.

Мобильные роботы могут передвигаться и выполнять задачи в больших, плохо определенных и неопределенных средах, которые не предназначены специально для роботов. Они должны иметь дело с ситуациями, которые точно не известны заранее и которые меняются с течением времени. Такие среды могут включать непредсказуемые сущности, такие как люди и животные. Примерами мобильных роботов являются роботизированные пылесосы и самоуправляемые автомобили²⁷⁴.

Авторы указывают, что стационарные роботы крепятся к устойчивой опоре на земле, поэтому они могут вычислять свое положение на основе своего внутреннего состояния, в то время как мобильные роботы должны полагаться на свое восприятие окружающей среды, чтобы вычислить свое местоположение²⁷⁵.

По их мнению, роботы могут быть классифицированы по предполагаемой области применения и задачам, которые они выполняют. Наряду с промышленными роботами могут быть выделены и сервисные роботы, которые могут применяться в домашнем хозяйстве, в сфере обслуживания, в медицине и пр.²⁷⁶.

Некоторые из наиболее распространенных классификаций основаны на мобильности роботов, форме рабочей оболочки (область операций робота определяется его системой координат, расположением суставов и длиной манипулятора) и кинематических механизмах (движение, допускаемое соединениями между частями робота)²⁷⁷.

Классификации, основанные на мобильности, предполагают, что робот может быть либо стационарным, либо мобильным в зависимости от его предполагаемого использования. Например, обычные роботизированные манипуляторы, используемые в производстве, рассматриваются как стационарные роботы. Они могут быть перемещены только тогда, когда работа завершена.

В отличие от этого, мобильные роботы находятся на колесных платформах, прикрепленных к гусеницам, или имеют подвижные ноги. Эти портативные системы не ограничены и могут быть перемещены в соответствии с производственными потребностями.

Интерактивные или социальные роботы являются новым подмножеством робототехники, представляющим собой видение робототехнических систем следующего поколения. Ожидается, что эти роботы будут жизнеспособны в человеческом организме. Среды, в которых происходят различные формы взаимодействия с человеческими агентами, интуитивно понятны, просты в использовании и реагируют на потребности пользователей²⁷⁸.

Современные интерактивные роботы делятся на различные категории:

— робот-помощник;

— коллаборативные роботы (коботы);

— гуманоидные или антропоморфные роботы²⁷⁹.

Роботы-помощники — это интерактивные и гибкие роботизированные системы, которые обеспечивают помощь на основе датчиков, приводов и обработки данных²⁸⁰.

Гуманоидные или антропоморфные роботы действуют автономно и безопасно, без человеческого контроля или вмешательства. Они не предназначены для решения конкретных роботизированных задач (в отличие от обработки роботов на сборочных линиях), но используются для работы в реальных условиях, взаимодействия с людьми и адаптации к их потребностям²⁸¹.

Три типа социальных роботов обозначены также в работе Д. В. Гардиной:

1) робот как инструмент, подразумевает прагматическое отношение человека к роботу. Перед последним ставятся конкретные узкоспециализированные задачи, которые необходимо выполнить;

2) робот как продолжение тела — встраивается в него, и человек, приняв интеграцию с роботизированной системой, воспринимает ее как часть себя;

3) робот-социальный партнер — функционирует в рамках сложившихся семиотических систем: от воспроизведения жестов до передачи и считывания интенций, социальных смыслов, что являются неотъемлемой частью социальных коммуникаций людей²⁸².

Глубокое исследование в области определения социальных роботов проведено в работе итальянских ученых²⁸³. Авторы отмечают, что научные определения социального робота существуют в рамках двух стратегий, одна из которых опирается на другую и сливает воедино предыдущие определения, другая предлагает новые, перспективные определения исследуемой категории. Так, существует мнение, что социальный робот — это автономный агент, который может действовать социально приемлемым образом, исходя из своей роли во взаимодействии²⁸⁴. Также некоторые авторы считают, что роботы способны участвовать во взаимодействиях с людьми²⁸⁵.

Другие авторы объединяют два или более определений, чтобы получить более полное название. Например, исследователи выделяют пять требований, предъявляемых к социальным роботам: социальные роботы — это автономные роботы, которые способны взаимодействовать и общаться между собой, с людьми и с окружающей средой и предназначены для работы в соответствии с установленными социальными и культурными нормами²⁸⁶.

Главным требованием к таким роботам является интеллект, который лежит в основе взаимодействия человека и робота. Для социальных роботов необходимо учитывать многие конструктивные требования:

— они должны распознавать присутствие человека через его органы чувств, такие как зрение, осязание и звук;

— они должны иметь возможность выступать стороной физического контакта, такого, как удержание или прикосновение;

— они должны уметь использовать физические движения и жесты;

— они должны выражать или воспринимать эмоции и участвовать в разговоре²⁸⁷.

Соответственно, социальный робот — это робот, который может выполнять определенные задачи, и необходимым условием превращения робота в социального робота является способность взаимодействовать с людьми, придерживаясь определенных социальных сигналов и правил²⁸⁸.

Социальные роботы — это сложные машины, которые, как предполагается, участвуют в значимом социальном взаимодействии с людьми и друг с другом²⁸⁹. Это существа, которые соединяют разрозненные элементы биологического и технологического в образ, находящийся на внешней границе человеческого и нечеловеческого интерфейса. Они одновременно являются воплощением высоты человеческого, научного и технологического мастерства, а также сложными объектами, требующими переосмысления онтологических категорий, историй и языка²⁹⁰.

Большинство авторов придерживаются позиции, что социальные роботы должны выполнять задачи, решать социальные проблемы и помогать людям. Поэтому они должны быть определены и разработаны в соответствии с конкретными функциями, которые они должны выполнять. То, что делает «обычного» робота «социальным», заключается в том, что он удовлетворяет одну или несколько специфических и контекстуальных социальных потребностей.

Роботы выступают как объекты изучения робототехники. Как считает С. Редфилд, робототехника в настоящее время определяется как внутри, так и за пределами исследовательского сообщества как междисциплинарная область изучения, опираясь на машиностроение, электротехнику, информатику и область задач робота²⁹¹. Автор считает, что робототехника — это научная и инженерная дисциплина, связанная с созданием, составом, структурой, оценкой и свойствами воплощенных искусственных возможностей²⁹².

На сегодняшний день на первый план, по мнению исследователя, выходит робототехника, ориентированная на возможности²⁹³. Ориентирован-ный на потенциал подход к робототехнике дает значительные преимущества для отрасли в целом с точки зрения разработки новых специальностей, улучшения понимания основ этой отрасли и повышения внимания к оценке и воспроизводимости²⁹⁴.

За необходимость когнитивной развивающей робототехники, которая направлена на понимание когнитивных процессов развития науки, выступают ученые из японского Университета Киото²⁹⁵.

Робототехнику можно определить как теорию и практику автоматизации задач, которые в силу своей природы ранее считались зарезервированными только для мужчин²⁹⁶. Такая работа характеризуется практически постоянным взаимодействием между роботизированным устройством и объектом (или средой). Подразумевается в таком взаимодействии некое предварительное назначение задачи.

Принимая во внимание определение робототехники, в текущих исследованиях, проводимых в этой области, можно выделить три основные категории:

— научно-исследовательские работы об отдельных роботах, расположенных в фиксированном месте или на транспортном средстве-носителе (мобильном роботе);

— исследовательские работы по роботам, работающим совместно с другими роботами или другими машинами. Такие производственные линии представляют собой то, что можно назвать гибкими производственными процессами;

— научно-исследовательская работа по телемедицине (работа, контролируемая на расстоянии).

В таких процессах человек-оператор должен присутствовать за пультом управления машиной, поскольку работа не может быть запрограммирована заранее, она выполняется автоматически в адаптивном режиме. Это происходит потому, что машине еще не достигли уровня, когда смогут анализировать и интерпретировать среду, изменяющуюся при переходе от одной функции к другой²⁹⁷.

Специализированной отраслью робототехники, с присущими ей проблемами, является медицинская робототехника. При проектировании и изготовлении таких устройств, как протезы и другие манипуляторы, используются те же принципы, что и при конструировании роботов. Однако адаптация принципов робототехники к проблемам инвалидов, которые являются специфическими и часто трудно преодолимыми, достигла лишь ограниченного успеха²⁹⁸.

Немаловажное значение имеет исследование соотношения понятий «робототехника» и «автоматизация». Ученые из Миссурийского университета науки и техники²⁹⁹, исследовав сходство и различие понятий «искусственный интеллект», «робототехника» и «автоматизация», пришли к выводу, что, хотя искусственный интеллект, робототехника и автоматизация — все это взаимосвязанные понятия, важно осознавать различия между каждой из этих конструкций. Робототехника в значительной степени сосредоточена на технологиях, которые можно было бы классифицировать как «манипуляторы». Искусственный интеллект и робототехника способны к автоматизации, однако остается открытым вопрос о том, как и могут ли различаться эффекты автоматизации в разных технологиях. Кроме того, слово «робототехника» часто связывают с понятием искусственного интеллекта³⁰⁰.

Некоторые ученые утверждают, что компьютеризация и более широкое использование искусственного интеллекта имеют потенциал для автоматизации некоторых нестандартных задач по сравнению с более механическими задачами, ранее подвергавшимися автоматизации. Соответственно, вполне возможно, что технологии, включающие искусственный интеллект, могут быть способны автоматизировать гораздо больше задач, чем чисто робототехнические технологии³⁰¹.

Важно отметить, что даже если такие технологии, как искусственный интеллект или робототехника, могут автоматизировать некоторые из задач, ранее выполнявшихся человеком, это не обязательно означает, что человек останется вне производственных прессов. Наоборот, во многих случаях компьютер или робот могут быть способны выполнять относительно малоценные задачи, освобождая человека для более творческих задач³⁰².

А. Войкулеску³⁰³ считает, что одной из главных задач и целей робототехники является создание машин, способных самостоятельно взаимодействовать с динамичным миром. Масштабирование, переход к человекоподобному уровню интеллекта позволит машине пройти стадию легкой классификации, поскольку ученые уже изучают архитектуры интеллекта роботов, которые избегают традиционного предварительного программирования в качестве решения для достижения «человекоподобной» цели. Автор исходит из следующего: необходимо иметь в виду, что наши представления о роботах коренятся в определенном культурном контексте.

Соответственно, процесс регулирования роботов — это процесс самопонимания, процесс, укорененный в данном историческом контексте и практике.

Таким образом, было определено, что существует ряд подходов к определению понятий «робот» и «робототехника». Большинство исследователей исходит из собственного видения объекта исследования, опираясь, при этом, на существующие авторитетные точки зрения в данной области.

Однако постоянно развитие цифровых технологий влечет за собой необходимость формирования нового понятийно-категориального аппарата, основой которого должны выступить дефиниции, определяющие фундаментальные основы того или иного научного понятия.

Представляется неоспоримым то обстоятельство, что развитие цифровых технологий поступательно и неотвратимо влечет возникновение принципиально новых технических устройств, способных как к интеллектуальному выполнению задач, так и к эффективному совершению конкретных механических действий, направленных на реализацию данных задач. Применительно к названным техническим устройствам общеупотребительным стало использование наименования «робот»³⁰⁴. Однако до настоящего времени в науке и практике отсутствует не только консенсус, но и устойчивое понимание робота как предмета объективной реальности. Задача конструирования определения робота является особенно важной, поскольку предопределяет возможности правового регулирования всего комплекса общественных отношений, в которых последний прямо или косвенно фигурирует. При этом представляется, что для обеспечения регуляторной эффективности правовых предписаний определение робота должно содержать признаки, присущие всем без исключения материальным объектам, относимым к роботам. В то же время указанные признаки должны обладать одновременно достаточной степенью абстракции и устойчивости (то есть наличествовать (повторяться) во всех без исключения роботах), а также быть существенными — то есть позволять отграничивать роботов от смежных явлений, к примеру, воздушных судов, транспортных средств и т. д.

В дополнение к изложенному заметим, что роботы, как материальные объекты определенного вида (обладающие общими, присущими всем без исключения видовыми признаками), являются неоднородной категорией — отличаются по размерам, длительности автономной работы, выполняемым функциям. Названное обстоятельство, безусловно, должно учитываться при формулировании определения, иными словами, дефиниция должна включать как общие признаки, присущие всем без исключения объектам робототехники, так и частные, на основе которых возможно выделение отдельных групп роботов, имеющих специфические технические характеристики.

Приступая к формулированию признаков, в первую очередь заметим, что сфера робототехники характеризуется экспоненциальным развитием, ввиду чего при описании робота, на наш взгляд, следует учитывать наличие перспективных технических разработок и употреблять некий общий, собирательный признак, свойственный всем роботам, как существующим, так и проектируемым, что позволит эффективно распространять на них положения нормативных правовых актов. Думается, подобный признак можно сформулировать как «продукт достижения цифровых технологий», как наиболее обобщенный, характерный для любых видов робототехники, однако позволяющий отличать роботов от смежных, родовых явлений, к примеру, иных объектов, техносферы (башенных кранов, трансформаторов и т. д.). При этом заложенный в данный признак потенциал абстракции, без дальнейшей конкретизации, представляется излишним, образующим невозможность полноценного уяснения сущности робота, ввиду чего дальнейшее изложение определения можно сформулировать следующим образом: «Продукт достижения цифровых технологий (робототехническое устройство, комплекс, система)». Казуистичное перечисление форм роботов позволяет сформировать надлежащую регуляторную среду, обеспечить формальную определенность дефиниции, ее точность, ясность и недвусмысленность.

Рассуждая на тему роботов, можно высказать обоснованное предположение, что по своей исключительно физической (технической, механической и технологической) сути в актуальный период и в дальнейшей перспективе они будут выступать как некоторый сложный объект, состоящий из нескольких составных компонентов. Для подтверждения вышеуказанного тезиса обратимся к тенденциям машиностроения — ни один готовый продукт данной отрасли (в затронутом контексте — транспортное средство) не представляет собой единого, монолитного сплава, а состоит из множества взаимосвязанных частей (комплектующих). Следовательно, полагаем, что робот аналогично представляет собой составное устройство (с известной долей условности — сложную вещь, состоящую из нескольких предметов, которые связаны единым назначением и соединены таким способом, который предполагает использование их по общему назначению). Изложенное не означает, что изолированно отдельные части робота не могут выступать в качестве самостоятельного объекта гражданского робота. Напротив, указание на составную природу робота как сложного объекта позволяет распространять описательную способность конструируемого определения на части робота, фигурирующие в обороте или производстве как самостоятельный объект. Исходя из закономерностей развития робототехнических комплексов, возможно обоснованно предположить, что их создатели изберут путь модульных конструкций, комплектация которых будет зависеть от конкретных целей использования. При этом отдельные части робота могут не только фигурировать в обороте как обособленный объект, предопределяя возможность возникновения в отношении них гражданских прав и обязанностей, но и вполне могут являться источниками повышенной опасности, не поддающимися полному контролю со стороны человека, в связи с чем представляющие угрозу причинения вреда правоохраняемым интересам личности, общества и государства. Ввиду изложенного дефиницию можно продолжить следующим образом: «Продукт достижения цифровых технологий (робототехническое устройство, комплекс, система), состоящий из двух или более составных частей (модулей)»³⁰⁵.

Не менее важной составляющей робота, предопределяющей его ценность и возводящей его в категорию цифровых устройств, является программный код, обеспечивающий его устойчивое функционирование и возможность выполнения определенных задач. Данный программный код может быть выражен как единичная компьютерная программа, совокупность компьютерных программ либо как компьютерная программа, средства которой обладают признаками автономности. Именно программные средства предопределяют возможность робота действовать определенным образом, выполнять поставленные задачи, находиться в том или ином состоянии. Ввиду изложенного предлагаемое определение должно содержать признак, отражающий двойственную природу робота как состоящего не только из скомпонованных определенных образом механизмов, но и программного обеспечения, функционированием которого обеспечивается в целом деятельность робота. При этом важно акцентировать внимание на том, что программное обеспечение является экзистенциальным компонентом робота, в отсутствие которого последний не представляет изначальной ценности. Таким образом, конструируемую дефиницию можно продолжить так: «Продукт достижения цифровых технологий (робототехническое устройство, комплекс, система), состоящий из двух или более составных частей (модулей), управляемый средствами заложенной в него компьютерной программы».

Рассуждая о программном компоненте, предопределяющем интеллектуальный потенциал робота, то есть способности робота к осуществлению действий, сходных по сложности и характеру с результатами человеческой деятельности, следует упомянуть, что ускоренное развитие технологий искусственного интеллекта позволяет обоснованно предполагать, что применяемые в роботах компьютерные программы в дальнейшей перспективе смогут обеспечивать не только выполнение заложенных в их алгоритмы функций, но и имитировать когнитивные функции человека на основании самостоятельно осуществляемого анализа зависимостей окружающей среды.

Подобный уровень развития программ, иначе именуемый технологической сингулярностью, хотя и не входит в состав актуальной повести нормативного регулирования, но все-таки, по нашему представлению, должен найти отражение в предлагаемой дефиниции для целей обеспечения устойчивости, долгосрочности и эффективности, строящихся на ее основе механизмов правового регулирования.

Современные, находящиеся в гражданском обороте программы функционируют на основе заложенных в их цифровом коде алгоритмов действий и решений. Иными словами, программа, ее исходный код способны обеспечивать выполнение только того перечня действий (вычислений) и реагировать только на тот перечень команд, который был изначально заложен разработчиком. Такой технический и интеллектуальный потенциал исключает дискурс относительно деликтоспособности робота, снабженного подобной программой. За его действиями, как на всем протяжении жизненного цикла, так и при выполнении конкретной задачи в определенных условиях, сохраняется возможность достаточного контроля. Действия и решения такого робота являются полностью прогнозируемыми и ограничиваются только перечнем алгоритмов, изначально заложенных разработчиком (производителем). Указание в дефиниции робота на возможность выполнения им ограниченного перечня механических манипуляций и вычислительных процессов, прямо следующих из заложенных в его программное обеспечение алгоритмов, видится необходимым и в равной степени очевидным.

В то же время требует дополнительного раскрытия и предметного описания возможность робота к выполнению действий и принятию решений, основанных на тех поведенческих алгоритмах, которые такой робот приобрел в результате самообучения, то есть самостоятельному собиранию, анализу и сохранению информации, поступающей из внешней среды. Дополнительно поясним, что упомянутая нами возможность к самообучению (предпосылка искусственного интеллекта) обуславливает возможность робота к совершению действий, которые находятся вне рамок, заложенных в его программу алгоритмов, обуславливает возможность принятия индивидуально-неповторимых решений в конкретных ситуациях, а также детерминирует способность робота воспринимать любые команды, а не только тот их перечень, который был изначально включен в программу.

Таким образом, потенциально может сложиться положение, при котором действия роботов не могут быть однозначно, с достаточной степенью определенности спрогнозированы производителем или пользователем, что образует вопрос относительно деликтоспособности подобных робототехнических систем.

Потенциально возможное в будущем внедрение в программные средства робота технологий искусственного интеллекта образует когнитивную, а соответственно, и поведенческую автономность робота. Данное свойство может быть сформулировано как возможность самостоятельного принятия решений и осуществления действий на основании самостоятельно сформулированного поведенческого алгоритма.

В контексте изложенного полагаем, что роботы, исходя из интеллектуального потенциала заложенных в них средств компьютерных программ, могут подразделяться на тех, которые выполняют строго ограниченный перечень действий, и тех, которые способны осуществлять автономный анализ закономерностей внешней среды, действовать на основании собственных поведенческих алгоритмов и самостоятельно избирать перечни возможных действий и решений.

Представляется, последняя разновидность роботов (с известной долей условности назовем ее автономной) имеет потенциал к порождению широкой научной дискуссии, поскольку являются неочевидными, во-первых, факт создания подобной робототехнической технологии, во-вторых, релевантность предлагаемого нормативного регулирования данной технологии. Последний тезис основывается на том, что базисом любого регулирования является решение вопроса о правосубъектности, которая является основным маркером, не только отграничивающим субъекта права от его объекта, но и определяющим категорию субъекта как обладающего всем объемом прав и обязанностей и способного осуществлять и реализовывать их своими действиями, так и неспособного к указанному.

В любом случае абстрагирование от вопросов автономности есть достаточно опасная тенденция, поскольку невозможно остановить течение и ход исторических событий, развитие научно-технологического прогресса. В настоящее время вопрос автономности основывается на дискурсе относительно периода появления таких технологий, факт их появления уже не ставится под сомнение. Сообразно изложенному, безотносительно того, когда такие технологии появятся, нормативное регулирование должно быть готово к ним, адаптировано к их существенным свойствам, модифицировано для удовлетворения целей установления правового положения автономных технологий.

В связи с эти, предлагаем ввести в научный оборот авторский вариант определения понятий «робот» и «робототехника», а также дополнить понятийно-категориальный аппарат доктрины уголовного права следующими дефинитивными положениями:

1) робот — продукт достижений цифровых технологий (робототехническое устройство, комплекс, система), состоящий из двух или более составных частей (модулей), управляемый средствами заложенной в него компьютерной программы и способный как к выполнению заранее запрограммированных человеком действий, так и к автономному решению задач³⁰⁶.

2) робототехника — наука и практика разработки, производства и применения роботов, их составных частей (модулей).

Указанные дефиниции, наряду с иными основными понятиями в области технологий робототехники, могут быть использованы при разработке проекта федерального закона «Об обороте роботов, их составных частей (модулей)», при конструировании новых положений уголовного закона, а также в иных нормативных правовых актах, осуществляющих регулирование отношений в указанной сфере.

Следует отметить, что подавляющее большинство респондентов, принявших участие в проведенном нами социологическом опросе на тему «Уголовно-правовая охрана общественных отношений, связанных с робототехникой»³⁰⁷ (71,1%) под роботом понимают программно-аппаратное средство, способное как к физическим манипуляциям, так и к хранению, обработке и передаче информации. Указанный показатель однозначно свидетельствует о том, что большая часть респондентов имеет корректное общее представление о технологической сущности робота, отличительной (дифференцирующей) чертой которого выступает наличие способности к механическим манипуляциям. Указанная способность может проявляться в том числе и как перемещение в пространстве. Данный признак, в качестве основного выбрали 24,5% опрошенных лиц. Без возможностей хранения, обработки и передачи информации робототехническое устройство не в состоянии функционировать, ввиду чего данный признак в равной степени имеет высокое значение (21,5%) и должен осознаваться как обязательный для робота. Лишь малая часть респондентов ассоциируют робота с человекоподобным механизмом (18,1%), способным перемещаться в пространстве либо цифровым устройством, используемым в производстве или сфере оказания услуг (17,4%) (см. приложения № 6–8).

§ 2.2. Сущность робототехники как феномена, значимого для уголовного права

Последняя фаза продолжающейся «цифровой революции» характеризуется инновациями в области искусственного интеллекта. В связи с этим робототехника оказалась в центре внимания ряда наук, которые, казалось бы, на первый взгляд, имеют к ней самое отдаленное отношение. Это философия, социология, психология, экономика, медицина, право и пр. В каждой из указанных наук сегодня роботы находят применение благодаря достижениям цифровых технологий. Однако технологические инновации в различных областях породили новые сложные проблемы³⁰⁸, требующие решения со стороны регулирующих и других контрольных органов.

Несмотря на широкое применение достижений робототехники и искусственного интеллекта, первичным при рассмотрении содержания данных категорий все же выступает технологический аспект. Известно, что роботы — это функциональные объекты, которые физически взаимодействуют с материальным миром. Каждая разработка в области искусственного интеллекта сопровождается регистрацией патентов и закреплением авторских прав, причем последние являются результатом программного обеспечения, управляющего работой роботов³⁰⁹.

Робототехника, в рамках которой осуществляются разработки интеллектуальных систем и создаются роботы, находящие применение практически во всех теоретических и прикладных науках, представляет собой важнейшую технологическую основу развития производства³¹⁰.

Эффективное законодательство и основанное на нем регулирование создают доверие со стороны граждан, и для робототехники, позволяющее ей расти и развиваться. Доверие будет важным товаром: доверие к брендам, доверие к функциям, доверие к частной жизни, доверие к справедливому рынку³¹¹.

Робототехника и автономные системы находятся на очень ранних стадиях развития, и пройдет не менее десяти лет, прежде чем в полной мере будет ощущаться их воздействие на развитие информационного общества. Как и все новые цифровые технологии, робототехника пройдет через ряд этапов, прежде чем в конечном итоге станет мейнстримом³¹².

Как считает С. Редфилд, робототехника в настоящее время определяется как внутри, так и за пределами исследовательского сообщества как междисциплинарная область изучения, при этом, основная опора науки приходится на машиностроение, электротехнику, информатику и область задач робота³¹³. Автор считает, что робототехника — это научная и инженерная дисциплина, связанная с созданием, составом, структурой, оценкой и свойствами воплощенных искусственных возможностей³¹⁴.

В основе развития робототехники лежат два принципа: принцип возможностей и принцип потенциала.

Первый принцип включает в себя широкие перспективы в области применения искусственного интеллекта, которые еще подлежат дальнейшему освоению и разработке.

Второй принцип связан с существующими на сегодняшний день возможностями применения робототехники и носит прикладной характер.

Необходимость изучения когнитивного характера развивающейся робототехники отмечают японские ученые³¹⁵. Основой робототехники, по мнению исследователей, в рассматриваемом ими контексте должен стать принцип проектирования. В центре внимания разработчиков должны находиться гуманоидные роботы, которые, посредством синтеза символов, будут иметь возможности активно анализировать отношения в социуме и, в конце концов, смогут встать в один ряд с человеком разумным³¹⁶.

Однако для максимальной реализации такими роботами своих возможностей необходимо, чтобы подготовке подверглась также и окружающая среда. Именно тогда они смогут постепенно адаптироваться к более сложным задачам в более динамичных ситуациях. Здесь, как считают исследователи, важным выступает переход от невербальной коммуникации к вербальной³¹⁷.

В литературе робототехника также определена как теория и практика автоматизации задач, решить которую ранее могли только мужчины по причине значительной выносливости и физической силы³¹⁸. Кроме того, авторы часто ставят знак равенства между такими понятиями, как «робототехника» и «искусственный интеллект»³¹⁹.

Также в различных источниках можно найти точки зрения, основанные на сравнительной характеристике таких понятий, как «искусственный интеллект»³²⁰, «робототехника»³²¹ и «автоматизация». Не отрицая взаимосвязанности указанных понятий, отдельные ученые считают, что прерогативой робототехники выступают высокие технологии, носящие прикладной характер. При этом, автоматизация лежит в основе как робототехники, так и искусственного интеллекта, который, в свою очередь, в отличие от робототехники, теоретизирован³²². Есть также точка зрения, указывающая на то, что технологии, включающие искусственный интеллект, могут быть способны к автоматизации достаточно широкого спектра задач в отличие от робототехнических технологий³²³.

Кроме того, в научной литературе имеется позиция, что робототехника призвана создавать машины, которые способны к самостоятельному взаимодействию с динамичным миром³²⁴. На первый план здесь выходит именно культурный контекст, в рамках которого люди формируют свои представления о роботах. В связи с эти, процесс регулирования роботов позиционируется как процесс самопонимания, уходящий корнями в опыт предшествующих поколений³²⁵.

Робототехника, как уже было указано, получает динамичное развитие в различных сферах, но наиболее перспективным, на наш взгляд, выступает применение ее достижений в области здравоохранения. Системы искусственного интеллекта дают возможность внедрить электронные медицинские карты; цифровой сенсорный мониторинг и пр.³²⁶. Технологии распознавания образов могут сочетать болезненные состояния с оптимальным лечением. Роботы могут выполнять многие сложные задачи, которые трудны для человека. Так, роботы могут выполнять хирургические операции, обязанности медицинских сестер, оказывать услуги по реабилитации пациентов и пр.³²⁷

Использование роботизированных технологий в здравоохранении имеет большой потенциал и является захватывающей областью развития. В хирургии уже успешно внедрены роботизированные технологии³²⁸.

Роботы по уходу в области социального обслуживания населения были предложены в качестве способа решения растущей проблемы ухода за пожилыми людьми, но использование роботов по уходу не ограничивается оказанием помощи пожилым людям — они также могут быть использованы для оказания помощи инвалидам или людям, восстанавливающимся после травм. Так же, как считают исследователи, достаточно востребованными будут роботы, которые оказывают помощь в выполнении повседневных домашних задач, в доставке еды и пр.³²⁹.

Роботизированные технологии также могут быть физически интегрированы в организм человека в виде протеза. Конечная цель роботизированного протезирования — замена отсутствующей или функционально поврежденной части тела роботизированной частью тела, которая полностью воспроизводит (или даже превосходит) естественную функцию утраченной конечности. Кроме того, с помощью экзоскелетов новая технология интерфейса «мозг — компьютер» может позволить людям с тяжелыми повреждениями спинного мозга снова ходить³³⁰.

В то время как роботы по уходу и роботизированные протезы в настоящее время широкого распространения не получили, хирургические роботы уже довольно широко применяются, будучи внедрены главным образом для повышения качества хирургических процедур и точности, с которой проводится операция. Самый известный хирургический робот — это да Винчи (англ. da Vinci).

Робототехника постепенно становится одной из важнейших цифровых технологий нашего времени и в ближайшие годы автономность машин будет только возрастать, приближаясь к человеческим образцам мышления³³¹. Однако, как и любой другой результат технологического развития, прогресс робототехники способен создать проблемы в области морали и права, например, возложение ответственности станет более трудным из-за автономии машин. В частности, развитие робототехники ставит проблемы с точки зрения возложения ответственности на конкретных людей. Это может лишить человека, чьи права нарушаются роботом, возможности требовать возмещения ущерба. Также здесь возможна ситуация, когда ответственных за причинение вреда определить будет невозможно³³².

Рассмотрим более подробно правовые проблемы, которые могут иметь место в случае участия продукта робототехники — робота в тех или иных отношениях информационного общества и исследуем правовые последствия, возникающие от тех или иных действий робота, наносящего ущерб третьим лицам.

Практике известны примеры, когда роботы причиняют ущерб по причине имеющихся в них конструктивных или программных дефектов. В случае наличия доказательств возникновения конструктивных дефектов, возникших только по вине разработчика-создателя робота, никаких дополнительных проблем не возникает. Однако если будет доказано, что технологические дефекты возникли также из-за поставщика или импортера некачественных комплектующих, то ответственность за причинение ущерба уже будет иметь солидарный характер³³³.

В Европейском праве основная проблема этого сценария заключается в том, что бремя доказывания фактического ущерба, дефекта в продукте (роботе) и причинно-следственной связи между ущербом и дефектом лежит на виновной стороне — производитель или импортер несут ответственность в рамках «строгой» ответственности, никаких доказательств не требуется для выявления небрежных или неправильных действий со стороны производителя или импортера³³⁴.

«Строгая» ответственность основывается на решении законодателя о том, что одна сторона несет ответственность за конкретный ущерб, даже если социальная неадекватность действия не может быть доказана. Причина такого решения, как правило, заключается в том, что именно эта сторона извлекает наибольшую выгоду, контролирует процесс и в большинстве случаев фактически наносит ущерб по какой-либо ошибке. Однако в случае с выявлением дефекта в продукте робототехники могут возникнуть проблемы, например, если компьютерная программа, на основе которой была произведена разработка, имеет повышенную сложность³³⁵.

При определенных обстоятельствах производитель может отказаться от строгой ответственности, если сможет доказать, что состояние научно-технических знаний на тот момент, когда он поставил товар в оборот, не позволяло обнаружить дефект или же данный дефект обусловлен конструктивными особенностями изделия³³⁶.

Однако необходимо помнить, что чем сложнее робот, тем более автономно он действует, и тем труднее сторонам доказать свою невиновность в случае возникновения ущерба, нанесенного роботом.

Все вышесказанное позволяет говорить о том, что считать робота простым продуктом в существующих условиях нецелесообразно. Указанное умозаключение подтверждается тем фактом, что вскоре роботы могут быть оснащены адаптивной и обучающей способностью. Эти особенности неизбежно повлекут за собой определенную степень непредсказуемости и неконтролируемости в поведении роботов: из-за увеличения опыта, полученного роботом самостоятельно, поведение робота больше не может быть спланировано человеком в полном объеме³³⁷.

Это приводит не только к сомнениям в возможных технологических недочетах, имеющих место при производстве роботов, но и к вопросу о том, обязательно ли каждая «ошибка» робота вызвана дефектом в юридическом смысле. Если роботы с адаптивными и обучающими способностями будут свободно взаимодействовать с людьми в неконтролируемой среде, они могут реагировать на новые входные сигналы непредсказуемым образом. Если робот затем причиняет ущерб третьим лицам из-за этих реакций, вряд ли следует говорить о его конструктивном дефекте, так как он будет делать то, что должен: в частности, робот будет проявлять реакцию на новые входные сигналы и адаптировать свое поведение под них. Таким образом, доказать дефектность машины будет сложно³³⁸.

В настоящее время для таких случаев не существует деликтных норм. Иногда обсуждается создание аналогии с правилами для владельцев животных; аргументом в пользу такой аналогии может быть то, что основной конфликт данной ситуации является адекватно подобным — в обоих случаях действия животного, как и машины, частично непредсказуемы, но могут быть подвержены влиянию обучения и контроля³³⁹.

Также было высказано мнение о применении к данной ситуации родительской модели: проводилось сравнение когнитивных роботов с детьми, которые учатся на своем собственном опыте. Несовершеннолетние действуют в соответствии со своим воспитанием и должны подчиняться своим родителям, роботы действуют в соответствии с поведением, которому их «научили» разработчики, и должны выполнять инструкции пользователя³⁴⁰.

Одна из правовых идей, связанная с повышением автономности машин, заключается в том, чтобы переложить ответственность непосредственно на них. Здесь возникает так называемая проблема возложения на роботов ответственности как таковой: когда машины принимают решения, вопросы к ней возникают не только в том случае, если что-то идет не так, но и по поводу каждого решения, принятого машинами. Так, актуальными будут в данной связи следующие вопросы:

1. Кто несет ответственность за вред, причиненный машинами?

2. Может ли машина реагировать так, как это необходимо для социальной и правовой конструкции ответственности?³⁴¹.

Проблему такой передачи меры государственного принуждения можно увидеть, рассматривая потенциальные социальные реакции на решения машин. В определенной степени социальные проблемы могут возникать из-за различий в восприятии людей и машин. Исследования показывают, что для большинства людей сложнее простить машину, если она принимает решение, которое влияет на человеческую жизнь, в независимости от того, верным или неверным такое решение выступает. Так, большинство людей считают недопустимым доверить свою судьбу роботу, особенно, например, в тех ее аспектах, которые связаны с выбором жизни или смерти³⁴².

Однако необходимо сказать, что именно робот может принять решение, которое не будет находиться под влиянием человеческих эмоций и которое будет верным в той или иной ситуации. Но если взять в расчет этический аспект, такое решение идет в разрез с правом человека самостоятельно принимать решения, касающиеся его самого³⁴³.

Машины могут совершать меньшее количество ошибок, нежели люди. Подобная особенность уже давно с успехом используются в таких отраслях, как медицина, образование, социальное обслуживание населения и др. Данное качество позволяет говорить, что исключение человеческого фактора из принятия решений иногда выступает более благом, нежели злом³⁴⁴.

Проблема ответственности возникает также при любом обсуждении беспилотных автомобилей³⁴⁵. Она касается вопросов юридической ответственности: в частности, кто несет ответственность за ущерб, причиненный беспилотным автомобилем. Это обсуждение в основном сосредоточено на полностью автоматизированных транспортных средствах, которые способны работать на дорожной сети без вмешательства человека³⁴⁶.

Такие транспортные средства хранят и используют информацию, принимают решения самостоятельно и физически действуют в соответствии с этими решениями. Это означает, что, будучи материальными физическими объектами, перемещающимися в общественных местах, полностью автоматизированные транспортные средства способны причинять реальный ущерб независимо от их производителей, владельцев или пассажиров. В связи с этим возникает важный юридический вопрос: кто несет ответственность за такой ущерб? В то время как в ближайшие годы эта технология получит все большее распространение, вероятность того, что беспилотные автомобили будут наносить ущерб имуществу и людям, будет возрастать³⁴⁷.

Насколько хорошо подготовлена существующая правовая база для решения этих вопросов? Одна сторона вопроса заключается в том, что наши нынешние правовые системы и практика достаточно широки, чтобы адаптироваться к ущербу, причиняемому беспилотными автомобилями. Это говорит о том, что беспилотный автомобиль не радикально отличается от других технологий, предназначенных для повышения автомобильной безопасности, которые были реализованы без необходимости радикального изменения систем ответственности: например, ремень безопасности, подушка безопасности или антиблокировочная система тормозов. Таким образом, автомобиль без водителя, причиняющий телесные повреждения из-за дефекта, выступал бы как проблема ответственности продукта, налагающая строгую ответственность на производителя в случае возникновения нештатных аварийных ситуаций³⁴⁸.

Однако это, возможно, игнорирует тот факт, что чем сложнее цифровая технология, тем больше разрыв между ожиданиями людей и ее истинной эффективностью. Люди, использующие беспилотные автомобили, могут, по крайней мере, на начальных этапах, иметь нереалистичные ожидания или заявлять, что они не оценили или не могли полностью оценить их функции безопасности. Точно так же производители могут утверждать, что водители-операторы могут (и должны) вмешиваться в ситуацию, чтобы избежать ущерба в большей степени, чем они это делают. Вероятно, будут существовать «серые зоны», в которых причины ущерба будут не ясны³⁴⁹.

Действительно, ожидания безопасности основаны на высоком уровне использования цифровой технологии. Пешеходы могут пойти на больший риск, а водители традиционных автомобилей могут действовать более агрессивно, если им будет известно, что автомобиль без водителя запрограммирован действовать в рамках правил. Эта проблема обычно имеет значительную остроту, когда новая технология только зарождается; риски для производителей будут уменьшаться по мере того, как люди будут лучше с ней знакомиться, но в начале можно ожидать отсутствия ясности и, соответственно, потенциальной возможности для споров о причинах аварий³⁵⁰.

Еще одна возможность, которая была предложена, заключается в том, чтобы присвоить некоторую форму юридического лица автоматизированным транспортным средствам; признание того, что они могут сами по себе причинять ущерб и убытки. Присвоение легального статуса самому автомобилю без водителя за причиненный им ущерб также устраняет всякую необходимость винить владельца или производителя, которые ни коим образом не могут быть виновны в действиях своего автомобиля без водителя, в то же время, защищая права столь же невиновной жертвы³⁵¹.

Вопросы ответственности за ущерб, причиненный беспилотными автомобилями, потенциально имеет значительные последствия для существующей системы страхования. Новые страховые продукты и структуры будут необходимы для удовлетворения возросшей ответственности производителей, владельцев, разработчиков программного обеспечения, сетевых операторов, арендаторов и других лиц, участвующих в создании БПТС³⁵².

Производителям потребуется покрытие ответственности, возникающей в результате дефектов технологии, в то время как владельцам транспортных средств, скорее всего, потребуется страхование «без вины» для покрытия любых травм или повреждений, вызванных любыми другими авариями³⁵³.

Возможное решение предложено правоведами из Швеции, где существует модель, в соответствии с которой функции страхования, связанные с компенсацией и предотвращением несчастных случаев, разделены, что дает право жертвам получать компенсацию от страховщиков и позволяет страховщикам решать, следует ли признавать случай страховым³⁵⁴.

Шведская система не лишена недостатков и в значительной степени зависит от государственного финансирования, а это означает, что перенос указанной концепции в другие юрисдикции может оказаться сложной задачей.

Как и большинство других технологий, беспилотные автомобили будут собирать и обрабатывать персональные данные, например, для обеспечения безопасности и анализа несчастных случаев. Кроме того, интегрированный набор систем, необходимых для работы беспилотного автомобиля, будет уязвим для вредоносных компьютерных программ, атак хакерских сообществ³⁵⁵ с целью нарушения или захвата контроля над его функционированием. Соответственно, многие (если не все) вопросы защиты данных и кибербезопасности, будут в равной степени применимы и к беспилотным автомобилям.

В здравоохранении вопрос ответственности, когда робот причиняет ущерб или травму, является важным вопросом. Используя робота по уходу в качестве помощника, можно представить себе, что робот, поднимающий человека с кровати в инвалидное кресло, например, может травмировать этого человека, если он выйдет из строя. Если это произойдет, то какая сторона будет нести ответственность за причиненный вред? Стороной, ответственной за причинение вреда, теоретически может быть производитель робота, проектировщики, сторона, которая предоставила в пользование или продала робота пользователю, а также люди, которые обслуживают робота или даже сами пользователи, взаимодействующие с роботом таким образом, который запрещен производителем³⁵⁶.

Те же соображения возникают и в отношении роботизированных протезов. Риски, связанные с использованием роботизированных протезов, могут быть особенно высоки, учитывая тот факт, что они чрезвычайно технологически сложны. Роботизированные протезы вполне могут использоваться способами, которые изначально не предусматривались производителем³⁵⁷.

Внедрение роботов в хирургию также может привести к появлению новых рисков: вероятность того, что робот может причинить вред пациенту независимо от действий хирурга, очень высока³⁵⁸.

В доктрине было высказано предположение, что хирургические роботы должны содержать «черный ящик», который будет записывать данные, относящиеся к движениям робота, данные окружающей среды, обнаруженные роботом, команды, отдаваемые оператором и так далее. Данная технология позволила бы минимизировать споры относительно ответственности в случае причинения вреда роботом³⁵⁹.

Идея черных ящиков-регистраторов не ограничивается хирургическими роботами, и они также могут сыграть свою роль во многих других робототехнических технологиях. Что касается протезирования в литературе, было высказано предположение, что регистратор черного ящика в протезе поможет исследовать причину несчастного случая или травмы, возможно, позволит исследователям обнаружить механическую или электрическую неисправность в качестве причины. Однако, в отличие от хирургического робота, там, где относительно большой черный ящик, подключенный к основному источнику питания, не представлял бы такой проблемы, любой черный ящик в протезе должен был бы быть маленьким, не влиять на движение, кроме того, сложную задачу представляет собой установка источника питания³⁶⁰.

Существуют также определенные вопросы ответственности, связанные с робототехникой, которые ранее не поднимались. Например, один из таких вопросов связан с тем, кто несет ответственность, если в случае выполнения операции хирургом, который использует для этого средства телемедицины и находится в другом городе или стране, возникают различные осложнения? Как обеспечить в такой ситуации адекватность страховой защиты хирурга, если кроме него в операции также участвуют хирурги больницы, где находится пациент, и их ассистенты? Ответы на данные вопросы необходимо найти как можно раньше, так как практика применения роботов в здравоохранении растет с каждым днем³⁶¹.

Обсуждение ответственности и потенциального правового статуса в контексте робототехники означает больше, чем постановка вопроса «Кто несет ответственность, если что-то пойдет не так?». Необходимо выяснить, что произойдет, если мы намеренно передадим принятие решений роботам. Подобное может означать полное переложение ответственности на них в той или иной ситуации. В данном контексте необходимо грамотно и своевременно законодательно реагировать на изменение фундаментальных понятий робототехники и сознательно создавать пространство для этих изменений, а также укреплять осведомленность соответствующих институтов, которые будут принимать решения о развитии робототехники³⁶².

Согласованный стратегический подход к регулированию указанных выше ситуаций — предпочтительно на международном уровне — будет наилучшим способом достижения правильного баланса между поощрением инноваций, решением вопросов ответственности и защитой общества³⁶³.

Нельзя не отметить, что робототехника по-прежнему сталкивается с парадоксом Моравека: задачи, которые трудны для людей, такие как прецизионная точечная сварка, легки для роботов, тогда как задачи, которые легки для людей, являются сложными для машин³⁶⁴. Люди, например, способны начисто вытереть обеденный стол, что чрезвычайно трудно для роботов. Этот факт объясняется, главным образом, врожденной сложностью механики трения, столкновений и контакта. Гораздо легче рассчитать точную траекторию кометы, чем предсказать траекторию кофейной кружки, которую двигают по поверхности стола³⁶⁵.

Робототехника сейчас провозглашается драйвером четвертой промышленной революции. Ее влияние будет ощущаться более широко, чем предшествовавшие ему компьютерные или коммуникационные революции.

Соответственно, развитие робототехники действительно создает проблемы с возложением ответственности не только в случае нанесения роботами ущерба третьим лицам. Это также означает, что нужно помнить об ответственности за руководство процессом совершенствования роботов, и люди, занимающиеся этим, должны осознавать свою ответственность³⁶⁶.

Необходимо проводить массовое исследование достижений робототехники для формирования общей стратегии среди представителей научных кругов и бизнес-сообщества, что позволит сформировать новое поколение специалистов в области робототехники, которое будет иметь глубокие связи с обществом и сможет отстаивать свои позиции в дискуссиях. Кроме того, будет сформировано верное представление о науке робототехнике как таковой.

Подводя итог, необходимо сделать следующий вывод.

Сущность робототехники на современном этапе сегодня складывается не просто определением указанного понятия, но и той смысловой и практической нагрузкой, которая выступает следствием реализации данного понятия как в правовом поле, так и в технологическом аспекте. Отраслевые особенности применения данного понятия напрямую связаны с достижениями в области робототехники, находящими применение в тех или иных областях науки и практики. Определения и приемы раскрытия категории «робототехника», которые предлагают современные авторы, имеют значительные отличия от таковых, данных еще несколько лет тому назад. Соответственно, для актуализации значения указанной категории как в технологическом, так и в правовом аспекте, необходимо учитывать современные достижения цифровых технологий в рассматриваемой области³⁶⁷.

Таким образом следует констатировать, что текущий уровень развития робототехники, а также ее вовлеченность в процессы жизнедеятельности человека, общества и государства обусловливают необходимость создания эффективных механизмов правового регулирования технологий робототехники, а также уголовно-правовой охраны общественных отношений, связанных с ней.

§ 2.3. Концепция правового регулирования робототехники как феномена, значимого для уголовного права

Повсеместное развитие цифровых технологий на сегодняшний день является объективной тенденцией. Включившись в общественные отношения, и в последствии став их неотъемлемой частью, цифровые технологии закономерно повлекли модификацию социальных практик. С наибольшей очевидностью эти явления проявились в части документооборота, который стремительно переходит в формат цифрового; циркуляции денежных средств, в подавляющем большинстве преобразовавшейся в электронно-финансовый оборот, и т. д. В связи с этим уделим внимание на следующем обстоятельстве: модификация социальных практик есть закономерный процесс, на современном этапе он обусловлен цифровизацией, которая, будучи сквозным явлением, отличается широкой распространенностью и охватывает большинство сфер общественной жизни. При этом такое изменение общественных отношений в отдельных случаях образует необходимость переработки правового регулирования: составления новых подходов к регламентации общественных отношений, дифференциации субъектного состава, введения новых объектов права, создания принципиально новых институтов и механизмов.

Проведение дефектоскопии правовых предписаний обуславливается необходимостью поддержания их регуляторной эффективности — возможностью реально, в достаточной степени воздействовать на складывающиеся и существующие общественные отношения. Данная эффективность, как нам представляется, может основываться на следующих благоприятствующих факторах:

— адекватное отражение сферы регулирования каждого акта: определение круга