И. Р. Бегишев

Уголовно-правовое регулирование робототехники

Монография

ebooks@prospekt.org

Информация о книге

УДК 343.3/.7:004.89

ББК 67.408:32.816

Б37

Автор:
Бегишев И. Р., кандидат юридических наук, заслуженный юрист Республики Татарстан, старший научный сотрудник Казанского инновационного университета им. В. Г. Тимирясова (ИЭУП).

Рецензенты:
Лопатина Т. М., доктор юридических наук, профессор, заведующая кафедрой уголовного права и уголовного процесса Смоленского государственного университета;
Ефремова М. А., доктор юридических наук, доцент, профессор кафедры уголовно-правовых дисциплин Казанского филиала Российского государственного университета правосудия.

В монографии исследуются вопросы формирования уголовной ответственности за общественно опасные деяния, совершаемые в процессе разработки, производства и применения роботов, а также за деяния, в которых робот используется как предмет преступного посягательства либо как средство совершения преступления. Особое внимание уделено выработке перспективного механизма применения уголовного закона в случае причинения вреда в процессе функционирования автономного робота и уголовно-правовых средств предупреждения и пенализации деятельности, направленной на создание, распространение и использование автономных вооруженных роботов.

Законодательство приведено по состоянию на 1 июля 2021 г.

Для студентов, аспирантов и преподавателей юридических вузов и факультетов, а также широкого круга читателей, интересующихся вопросами уголовно-правового регулирования робототехники.

Изображение на обложке Phonlamai Photo / Shutterstock.com

УДК 343.3/.7:004.89

ББК 67.408:32.816

© Бегишев И. Р., 2021

© ООО «Проспект», 2021

ВВЕДЕНИЕ

Технологии, лежащие в основе Индустрии 4.0, обещают коренные изменения во всех секторах бизнеса и отраслях экономики. В настоящее время робототехника наряду с другими сквозными технологиями относится к ключевым драйверам цифровой экономики. Роботы уже сейчас успешно применяются в промышленности и строительстве, в здравоохранении и образовании, в быту и индустрии развлечений, в сельском и жилищно-коммунальном хозяйствах, в военной и космической областях, в других сферах экономической деятельности.

По данным Международной федерации робототехники (далее – IFR), количество промышленных роботов, используемых в производстве, на сегодняшний день достигло невиданных масштабов – 2,7 млн промышленных роботов, работающих на заводах по всему миру, что на 12% больше, чем в 2019 году¹. На 20% возросло и использование сервисных роботов по всему миру. 73% глобальных установок роботов сосредоточено в пяти странах (Китайская Народная Республика, Государство Япония, Республика Корея, Федеративная Республика Германия и Соединенные Штаты Америки (далее – США)).

Россия сегодня находится во втором эшелоне стран по использованию промышленных роботов, однако разрыв стремительно сокращается. По данным Национальной ассоциации участников рынка робототехники (далее – НАУРР), в 2019 году российский рынок промышленных роботов вырос на 40% по отношению к предыдущему году – число установленных устройств составило более 1400. В 2020 году, несмотря на пандемию и всеобщий спад производства, робототехника стала заметным ИТ-трендом в российских средствах массовой информации (далее – СМИ), в сегменте COVID-Tech. За 2020 год робототехника упоминалась 32,7 тыс. раз в контексте пандемии коронавируса и стала вторым направлением по числу упоминаний в СМИ в этом сегменте. Проведенный Ассоциацией опрос участников рынка показал, что у 68% опрошенных, несмотря на вызовы 2020 года, выручка продолжала планомерно расти относительно прошлых лет².

Инновационные технологии создания и производства роботов демонстрируют экспоненциальное развитие: создаваемые робоустройства приобретают новые характеристики, существенно расширяющие их функционал, ввиду чего разрабатываемые и перспективные роботы могут выпадать из правового поля, не являясь тождественными какому-либо предмету, признаваемому в качестве объекта соответствующих правоотношений. Уже сейчас создание, разработка и использование различных робототехнических устройств есть объективная реальность. При этом роботы перманентно видоизменяются, расширяя пределы своих функциональных возможностей, чем сообразно изменяют характер, формы, методы, средства и способы взаимодействия человека с ними. Как отмечается, с 2019 года, несмотря на пандемию, наблюдается устойчивый тренд на внедрение коллаборативных роботов (коботов) (+ 11%), активно взаимодействующих с человеком³.

Устойчивое и безопасное развитие робототехники есть важная государственная задача, успешная реализации которой позволит России открыть новые экономические рынки, изменить в свою пользу сложившиеся мировые торгово-финансовые отношения. Указанные процессы в совокупности диктуют необходимость создания контрольно-надзорных механизмов за действиями роботов и регулирования общественных отношений, возникающих на всех этапах их создания и функционирования.

Дистанцирование от вопросов правового, в том числе государственно-запретительного воздействия на общественные отношения, порожденные роботами, представляются деструктивным вектором, влекущим деактуализацию правовых предписаний, снижение их эффективности. Изменения в структуре и характере общественных отношений, вызванные внедрением в них робототехнических технологий, должны находить адекватное и соразмерное отражение в нормативных правовых актах.

В случае запаздывая процессов трансформации правовых предписаний возможно возникновение таких областей использования, разработки и применения робототехники, которые либо вовсе не будут урегулированы правом, либо будут регулироваться частично. Подобное положение есть объективная угроза.

Совершенно справедливы и последовательны утверждения Президента Российской Федерации В. В. Путина о том, что необходимо «обеспечить использование прорывных цифровых технологий для осуществления национальных целей, преображения России и укрепления ее позиций в мире»⁴.

Утверждение 19 августа 2020 года распоряжением Правительства Российской Федерации Концепции развития регулирования отношений в сфере технологии искусственного интеллекта и робототехники до 2024 года⁵ ознаменовало новый этап в регулировании сквозных цифровых технологий на территории России. Принятие Концепции наряду с Национальной стратегией развития искусственного интеллекта до 2030 года⁶ стало подтверждением признания российским обществом и правительством серьезных вызовов и угроз, которые возникли и продолжают расти с развитием технологий искусственного интеллекта и робототехники. Это, в свою очередь, ставит важную задачу перед правом в целом. Согласно Концепции, к 2024 году в России планируется разработать и принять нормативные акты, создающие комфортную регуляторную среду для развития соответствующих цифровых технологий.

Таким образом, перед правовой наукой возникает задача особой значимости – правовыми средствами обеспечить стабильное, устойчивое и безопасное развитие отечественной робототехники. Немаловажную роль в указанных процессах занимает проработка вопросов ответственности за причинение вреда с использованием робототехники⁷.

Робототехника, будучи сквозной цифровой технологией, содержит существенные риски и угрозы. И тому есть объективные подтверждения. Последние пять лет все больше стран стали заявлять об использовании роботов в военных целях, не исключением является и Российская Федерация⁸. Особую озабоченность подобные инциденты вызывают в свете растущей автономности роботов от человека.

В повестке ряда общественных, международных организаций и межгосударственных объединений звучат призывы ограничить оборот автономных роботов в военных целях, поскольку это создает прямую угрозу соблюдению принципов защиты прав и свобод человека и гражданина, обеспечению безопасности личности, общества и государства. И если экспертами делались прогнозы о том, что угроза автономной робототехники для человеческих ценностей станет реальной в ближайшие 10–15 лет, то реальность, к сожалению, диктует свои правила. В мае 2021 года широкой публике был представлен Доклад группы экспертов Совета Безопасности Организация Объединенных Наций по Ливии, где отмечалось, что впервые в истории боевой робот самостоятельно выследил и уничтожил человека по собственной инициативе и без участия оператора⁹.

Немало рисков для охраняемых уголовным законом интересов и благ несет робототехника и при использовании роботов в преступных целях. Правоприменительной практике известны случаи, когда роботы стали использоваться для организации контрабанды наркотиков либо иных запрещенных предметов и веществ¹⁰.

В этой связи необходимо спрогнозировать риски причинения вреда охраняемым законом общественным отношениям в процессе функционирования роботов, их использования при совершении преступлений. Обозначенное необходимо для сообразного и своевременного конструирования уголовно-правовых моделей ответственности за факты причинения вреда, совершенные с использованием роботов.

В то же время, отступая от исключительно деликтной природы инициирования действия уголовно-правовых механизмов, необходимо, чтобы инструментами уголовного законодательства было обеспечено исполнение нормативных правовых актов позитивно-юридического регулирования, в том числе юридико-технических предписаний, что составляет объективную основу нормальной и безопасной деятельности в области развития и внедрения робототехники.

Необходимо обозначить, что правовые механизмы уголовно-правовой сущности не являются единственными и исчерпывающими средствами достижения безопасного создания, внедрения и использования робототехники, так как должны применяться в тесной, системно-корреляционной взаимосвязи с иными правовыми положениями, устанавливающими основу государственной политики и нормативно-правового регулирования в рассматриваемой области. Изложенное актуализирует вопросы выработки механизмов позитивно-правового регулирования, нормативно-технической и административно правовой природы. Преследуя цель устойчивого и поступательного внедрения робототехники, следует предусматривать инструменты установления правового статуса участников данных правоотношений, нормативно закреплять все возможные варианты (модели) их должного и возможного поведения.

Полнота и достаточность защиты наиболее значимых, охраняемых уголовным законом интересов есть необходимая детерминанта построения системного и комплексного правового регулирования разработки, внедрения и использования робототехнических устройств, комплексов и систем. Меры и инструменты уголовно-правовой охраны закладывают основу безопасности данных общественных отношений — не будучи обеспеченными в части, касающейся защиты наиболее значимых ценностей, вопросы внедрения и разработки роботов не могут претендовать на установление и поддержание безопасных условий существования.

Системный анализ вышеприведенных рассуждений позволяет прийти к убеждению о необходимости комплексного исследования и построения моделей, выработки системы уголовно-правового регулирования робототехники и, следовательно, об актуальности избранной для исследования темы.

Глава 1.
ТЕОРЕТИЧЕСКИЕ ОСНОВЫ ПРАВОВОГО РЕГУЛИРОВАНИЯ РОБОТОТЕХНИКИ

§ 1.1. Теоретические подходы к определению понятий «робот» и «робототехника»

Развитие цифровых технологий во всем мире происходит достаточно высокими темпами. Появление новых технологических решений и инновационных разработок влечет за собой расширение цифровой терминологии. Среди наиболее распространенных понятий, применяемых в сфере сквозных цифровых технологий, сегодня следует отметить такие категории, как «робот» и «робототехника».

В Концепции развития регулирования отношений в сфере технологии искусственного интеллекта и робототехники до 2024 года¹¹ определено, что отсутствие однозначного понимания содержания терминов «искусственный интеллект», «робот», «умный робот», «робототехника», «интеллектуальный агент» приводит к терминологическим проблемам при формировании регулирования¹².

Понятие «робот» достаточно давно используется в науке и практике, но определения данного понятия в разных источниках отличны друг от друга.

В ряде толковых словарей и глоссариях понятий можно найти следующие определения понятия «робот»:

• (чеш. robot, от robota – подневольный труд, rob – раб) – машина с антропоморфным (человекоподобным) поведением, которая частично или полностью выполняет функции человека (иногда животного) при взаимодействии с окружающим миром¹³;

• автомат, осуществляющий действия, подобные действиям человека¹⁴;

• автоматическое устройство с антропоморфным действием, которое частично или полностью заменяет человека при выполнении работ в опасных для жизни условиях или при относительной недоступности объекта¹⁵;

• автомат, предназначенный для замены человека при выполнении сложных технических операций¹⁶;

• машина, напоминающая человека и способная автоматически копировать определенные движения и функции человека; машина, способная выполнять сложную серию действий автоматически, в частности, программируемую компьютером; человек, который ведет себя механически или бесстрастно¹⁷;

• механизм, управляемый компьютером, который может перемещаться и выполнять другие действия, которые могут выполнять люди¹⁸;

• машина, которая похожа на человека и выполняет различные сложные действия человека (как ходьба или общение); также: аналогичная, но вымышленная машина, чья нехватка возможностей часто подчеркивается; устройство, которое автоматически выполняет сложные часто повторяющиеся задачи; автоматически управляемый механизм¹⁹;

• исполнительное устройство с двумя или более программируемыми степенями подвижности, обладающее определенным уровнем автономности и способное перемещаться во внешней среде с целью выполнения поставленных задач²⁰.

Общей чертой представленных выше определений выступает следующее: все авторы считают, что 1) робот представляет собой какое-либо устройство, машину и т. д.; 2) робот предназначен для совершения определенных действий либо воздействия на окружающую действительность.

Анализ содержания термина «робот» также представлен в научной литературе. В частности, по мнению П. Хаббарда, роботам свойственны определенные характеристики: они должны отличаться размером, мобильностью, возможностью передачи информации, автономной реакцией на внешние действия, возможностью получать, оценивать, использовать и передавать информацию²¹.

Аналогичные характеристики должны присутствовать у роботов и по мнению авторов исследования, проведенного под эгидой ЮНЕСКО²². Так, современному роботу должны быть присущи мобильность, интерактивность, обмен информацией и автономия.

Однако, дискуссионность вокруг термина «робот» в литературе достаточно высока и продолжает развиваться. В частности, израильский профессор М. Бен-Ари и швейцарский профессор Ф. Мондада²³, анализируя статью Оксфордского словаря английского языка, где робот определен как «машина, способная выполнять сложную серию действий автоматически, особенно программируемую компьютером», отмечают, что указанное определение включает в себя несколько интересных элементов:

• выполнение действий автоматически. По мнению авторов, указанный ключевой элемент робототехники имеет общее значение и может быть также отнесен к другим устройствам, имеющим «автоматическое начало» (бытовые, промышленные приборы и пр.). Разница между роботом и простым автоматом, таким, например, как посудомоечная машина, заключается в определении того, что такое «сложная серия действий». Именно роботы, в отличие от других автоматических устройств, способны к ее выполнению;

• возможность быть программируемым компьютером. Это еще один ключевой элемент робота, поскольку некоторые автоматы программируются механически. С другой стороны, компьютеры встречаются повсюду, поэтому трудно использовать этот критерий, чтобы отличить робота от другого механизма²⁴.

Важнейшим элементом роботов, который явно не упоминается в определении, по мнению М. Бен-Ари и Ф. Мондада, является использование датчиков. «Большинство автоматов не имеют сенсоров и не могут приспособить свои действия к окружающей среде. Датчики – это то, что позволяет роботу выполнять сложные задачи»²⁵.

Проведя всестороннее исследование термина «робот», ученые приходят к выводу, что роботы – это нечто большее, чем дистанционно управляемые устройства вроде телевизора. Они демонстрируют автономное поведение, основанное на обнаружении объектов в окружающей среде с помощью датчиков. Робот может находиться в различных состояниях, где его реакция на входные сигналы от датчиков зависит не только от этих значений, но и от текущего состояния²⁶.

Японские исследователи²⁷ считают, что робот – это адаптивный, мощный и автономный инструмент. По их мнению, робот обладает очень важными характерными чертами:

• универсальностью, которая зависит от его геометрических и механических возможностей. Это подразумевает физическую способность выполнять разнообразные функции и производить разнообразное выполнение простых задач. Универсальность также подразумевает, что каждый робот должен иметь структуру с геометрией, которая может быть изменена в случае необходимости;

• способностью проявлять инициативу при выполнении задач, которые не были полностью определены и несмотря на непредвиденные изменения в окружающей среде. В этом качестве робот использует:

а) способность воспринимать окружающую среду (с помощью датчиков);

б) способность анализировать пространство задач и выполнять план операции;

в) способность быть управляемым автоматически²⁸.

Геометрическая структура робота может быть определена путем анализа задач, которые он должен осуществить, однако японские ученые подчеркивают, что никогда не будет возможно определить весь спектр задач, которые может выполнить конкретный робот.

По мнению вышеуказанных авторов, робот может быть разумно определен только в терминах среды, которую он модифицирует. Ключевыми терминами здесь будут выступать следующие:

1. Машина, оснащенная приводами: такие машины типизируют представление человека о роботе в целом. Именно этот тип машины предназначен для выполнения конкретной задачи. Например, машины смогут быть шарнирные механические структуры, обладающие несколькими степенями свободы. Обычно шесть степеней свободы присутствуют в роботе, предназначенном для перемещения объектов. Первые три степени направляет захват в требуемое положение, а остальные три используются для ориентации концевого эффектора.

2. Окружающая среда: это среда, в которой находится человек и размещается машина. Для роботов в фиксированном положении окружающая среда сводится к пространству, которое активно исследуется роботом. Следует отметить, что окружающая среда определяется не только геометрическими соображениями (то есть «достижимым» пространством), но и всеми физическими свойствами окружающей среды и всего, что она содержит. Природа и поведение робота зависят от обоих этих свойств, а также от взаимодействия между ним и окружающей средой.

3. Задача. Задача может быть определена как разница между двумя состояниями среды – начальным состоянием и конечным состоянием после завершения задачи. Задача должна быть описана компьютеру пользователя. робот на соответствующем языке. Описание может иметь несколько форм и даже может изменяться в ходе операции.

4. Компьютер или «мозг» робота: это часть робота, которая генерирует управляющие сигналы (эти сигналы приводят в действие суставы конечностей робота) в соответствии с априорной информацией (априорное знание задачи, которую предстоит выполнить) и апостериорное знание как настоящего, так и прошлого состояний робота и его окружения²⁹.

Исследователи считают, что существует два класса роботов:

• запрограммированные роботы, которые не могут самостоятельно проводить исследования. Они управляются программами, которые не являются самоизменяющимися в своем режиме работы. К данной категории относится большинство роботов;

• роботы, способные адаптировать по крайней мере часть своего поведения в ответ на информацию об окружающей среде, получаемую их датчиками. В настоящее время они находятся на экспериментальной стадии³⁰.

Ряд авторов³¹ считает, что поиск всеобъемлющего определения робота остается проблематичным, поскольку форм-факторы, интеллект и назначение, существенно различаются. В зависимости от информанта определение меняется: это может быть механическая система, размещенная за рабочим забором (и в этом случае автономное транспортное средство не является роботом) или приспособление, которое демонстрирует автономность и способность реагировать физически, или же целая система машин, работающих в тандеме.

По мнению исследователей, избыточность в определении понятия «робот» приводит к тому, что он может быть чрезмерно использован неподготовленными пользователями, которые быстро «прикрепляют ярлык к любому новому технологическому развитию»³². Мы поддерживаем данную точку зрения.

А. Войкулеску из факультета социальных и гуманитарных наук Вестминстерского университета³³ считает, что определить сущность понятия «робот» достаточно сложно по той причине, что процесс его разработки включает в себя не только знание цифровых технологий, но и других технических, этических и правовых компетенций. В некоторых случаях могут быть задействованы биология, медицина, химия. Соответственно, исходить только из технических особенностей робота представляется не совсем верным, так как его создание и функционирование требует междисциплинарного взаимодействия с большинством, если не со всеми указанными выше областями.

На основе всего вышесказанного представляется возможным сформулировать следующее определение понятия «робот»: это продукт достижений цифровых технологий, управляемый средствами заложенной в него программы и способный как к выполнению заранее запрограммированных человеком действий, так и к автономному решению задач.

Необходимо также рассмотреть легальное определение категории «робот» в ряде отечественных правовых актов. Так, в Типовых нормах времени по техническому обслуживанию станков с числовым программным управлением и роботов (манипуляторов), утвержденных постановлением Госкомтруда СССР и Секретариата ВЦСПС от 16 января 1989 г. № 28/4-7³⁴ отсутствует трактовка понятия «робот-манипулятор», соответственно, робот характеризуется как разновидность какого-либо механизма, который приравнен по своей сути к станкам с числовым программным управлением. Напротив, в постановлении Росстата от 7 ноября 2006 г. № 63 роботы позиционируются как:

1) «простые», выполняющие операции типа «взять» и «положить»;

2) прочие, более сложные роботы, используемые для выполнения точечной иди дуговой сварки;

3) прочие, более сложные роботы, используемые для монтажных работ, отделки и чистовой обработки, а также для других целей»³⁵.

Соответственно, в данном правовом акте законодатель на первый план выводит технические возможности роботов, которые необходимы при выполнении той или иной производственной операции.

Интересна также трансформация трактовки понятия «робот» в правовых актах, произошедшая в течение последних 30 лет. Если, например, в постановлении Совмина СССР от 22 февраля 1990 г. № 1072 «О единых нормах амортизационных отчислений на полное восстановление основных фондов народного хозяйства СССР» используются только понятия «роботизация технических установок», «роботизация технологических установок», входящие в категорию «Рабочие машины и оборудование»³⁶ без какой-либо характеристики, то в распоряжении Правительства Российской Федерации от 5 ноября 2020 г. № 2869-р «Об утверждении Стратегии развития станкоинструментальной промышленности на период до 2035 года» относительно характеристики промышленных роботов уже указано следующее: «Промышленный робот является одним из средств интеллектуальной автоматизации производства, которое может быть использовано в зависимости от степени автоматизации как вспомогательное оборудование и как основное оборудование»³⁷. Соответственно, на современном этапе в нормативно-правовую базу уже включено понятие промышленного робота как средства интеллектуального автоматизированного производства.

Национальный стандарт Российской Федерации ГОСТ Р 60.0.0.4-2019/ИСО 8373:2012 «Роботы и робототехнические устройства. Термины и определения»³⁸ изначально определял робота как «исполнительный механизм, программируемый по двум или более степеням подвижности, обладающий определенной степенью автономности и способный перемещаться во внешней среде с целью выполнения задач по назначению». Однако ТК 299 ИСО Робототехника³⁹ в 2018 году принял новое определение понятия «робот»: «программируемый исполнительный механизм с определенным уровнем автономности для выполнения перемещения, манипулирования или позиционирования». Необходимо сказать, что второй вариант определения, на наш взгляд, значительно сузил понятие «робот», так как ранее принятое «выполнение задач по назначению» гораздо шире по своей сути, нежели «выполнение перемещения, манипулирования или позиционирования».

Правовое закрепление термин «робот» также получил в приказах Росстата, утвердивших статистический инструментарий для организации федерального статистического наблюдения в различных сферах деятельности. Так, приказ Росстата от 24 августа 2017 г. № 545 включает термин «доильный робот»⁴⁰; приказ Росстата от 30 декабря 2019 г. № 825 содержит понятия «коллаборативные роботы», «роботизированные решения (робокары, роботы-грузчики, роботы-коллабораторы)»⁴¹; приказ Росстата от 30 июля 2020 г. № 424 также включает категории «сервисные робот», «автоматизированные процессы с участием роботов», «промышленные роботы»⁴². Соответственно, совершенствование цифровых технологий влечет за собой внесение соответствующих правовых терминов в правовые акты, регулирующие ту или иную сферу применения роботов.

Нельзя оставить без внимания особенности классификации роботов. Как и базовое понятие данного словосочетания – «робот» – непосредственно классификация рассматриваемых объектов также вызывает у различных авторов горячие дискуссии. М. Бен-Ари и Ф. Мондада⁴³ считают, что роботы могут быть классифицированы в зависимости от среды, в которой они работают. Чаще всего различают стационарных и мобильных роботов. Эти два типа роботов имеют очень разные рабочие среды и поэтому требуют очень разных возможностей. Стационарные роботы – это в основном промышленные роботизированные манипуляторы, которые работают в четко определенных условиях, адаптированных для роботов.

Мобильные роботы могут передвигаться и выполнять задачи в больших, плохо определенных и неопределенных средах, которые не предназначены специально для роботов. Они должны иметь дело с ситуациями, которые точно не известны заранее и которые меняются с течением времени. Такие среды могут включать непредсказуемые сущности, такие как люди и животные. Примерами мобильных роботов являются роботизированные пылесосы и самоуправляемые автомобили⁴⁴.

Авторы указывают, что стационарные роботы крепятся к устойчивой опоре на земле, поэтому они могут вычислять свое положение на основе своего внутреннего состояния, в то время как мобильные роботы должны полагаться на свое восприятие окружающей среды, чтобы вычислить свое местоположение⁴⁵.

По их мнению, роботы могут быть классифицированы по предполагаемой области применения и задачам, которые они выполняют. Наряду с промышленными роботами могут быть выделены и сервисные роботы, которые могут применяться в домашнем хозяйстве, в сфере обслуживания, в медицине и пр.⁴⁶

Некоторые из наиболее распространенных классификаций основаны на мобильности роботов, форме рабочей оболочки (область операций робота определяется его системой координат, расположением суставов и длиной манипулятора) и кинематических механизмах (движение, допускаемое соединениями между частями робота)⁴⁷.

Классификации, основанные на мобильности, предполагают, что робот может быть либо стационарным, либо мобильным в зависимости от его предполагаемого использования. Например, обычные роботизированные манипуляторы, используемые в производстве, рассматриваются как стационарные роботы. Они могут быть перемещены только тогда, когда работа завершена.

В отличие от этого, мобильные роботы находятся на колесных платформах, прикрепленных к гусеницам, или имеют подвижные ноги. Эти портативные системы не ограничены и могут быть перемещены в соответствии с производственными потребностями.

Интерактивные или социальные роботы являются новым подмножеством робототехники, представляющим собой видение робототехнических систем следующего поколения. Ожидается, что эти роботы будут жизнеспособны в человеческом организме. Среды, в которых происходят различные формы взаимодействия с человеческими агентами, интуитивно понятны, просты в использовании и реагируют на потребности пользователей⁴⁸.

Современные интерактивные роботы делятся на различные категории:

• робот-помощник;

• коллаборативные роботы (коботы);

• гуманоидные или антропоморфные роботы⁴⁹.

Роботы-помощники – это интерактивные и гибкие роботизированные системы, которые обеспечивают помощь на основе датчиков, приводов и обработки данных⁵⁰.

Гуманоидные или антропоморфные роботы действуют автономно и безопасно, без человеческого контроля или вмешательства. Они не предназначены для решения конкретных роботизированных задач (в отличие от обработки роботов на сборочных линиях), но используются для работы в реальных условиях, взаимодействия с людьми и адаптации к их потребностям⁵¹.

Три типа социальных роботов обозначены также в работе Д. В. Гардиной:

1) робот как инструмент, подразумевает прагматическое отношение человека к роботу. Перед последним ставятся конкретные узкоспециализированные задачи, которые необходимо выполнить;

2) робот как продолжение тела – встраивается в него, и человек, приняв интеграцию с роботизированной системой, воспринимает ее как часть себя;

3) робот-социальный партнер – функционирует в рамках сложившихся семиотических систем: от воспроизведения жестов до передачи и считывания интенций, социальных смыслов, что являются неотъемлемой частью социальных коммуникаций людей⁵².

Глубокое исследование в области определения социальных роботов проведено в работе итальянских ученых⁵³. Авторы отмечают, что научные определения социального робота существуют в рамках двух стратегий, одна из которых опирается на другую и сливает воедино предыдущие определения, другая предлагает новые, перспективные определения исследуемой категории. Так, существует мнение, что социальный робот – это автономный агент, который может действовать социально приемлемым образом, исходя из своей роли во взаимодействии⁵⁴. Также некоторые авторы считают, что роботы способны участвовать во взаимодействиях с людьми⁵⁵.

Другие авторы объединяют два или более определений, чтобы получить более полное название. Например, исследователи выделяют пять требований, предъявляемых к социальным роботам: социальные роботы – это автономные роботы, которые способны взаимодействовать и общаться между собой, с людьми и с окружающей средой и предназначены для работы в соответствии с установленными социальными и культурными нормами⁵⁶.

Главным требованием к таким роботам является интеллект, который лежит в основе взаимодействия человека и робота. Для социальных роботов необходимо учитывать многие конструктивные требования:

• они должны распознавать присутствие человека через его органы чувств, такие как зрение, осязание и звук;

• они должны иметь возможность выступать стороной физического контакта, такого, как удержание или прикосновение;

• они должны уметь использовать физические движения и жесты;

• они должны выражать или воспринимать эмоции и участвовать в разговоре⁵⁷.

Соответственно, социальный робот – это робот, который может выполнять определенные задачи, и необходимым условием превращения робота в социального робота является способность взаимодействовать с людьми, придерживаясь определенных социальных сигналов и правил⁵⁸.

Социальные роботы – это сложные машины, которые, как предполагается, участвуют в значимом социальном взаимодействии с людьми и друг с другом⁵⁹. Это существа, которые соединяют разрозненные элементы биологического и технологического в образ, находящийся на внешней границе человеческого и нечеловеческого интерфейса. Они одновременно являются воплощением высоты человеческого, научного и технологического мастерства, а также сложными объектами, требующими переосмысления онтологических категорий, историй и языка⁶⁰.

Большинство авторов придерживаются позиции, что социальные роботы должны выполнять задачи, решать социальные проблемы и помогать людям. Поэтому они должны быть определены и разработаны в соответствии с конкретными функциями, которые они должны выполнять. То, что делает «обычного» робота «социальным», заключается в том, что он удовлетворяет одну или несколько специфических и контекстуальных социальных потребностей.

Роботы выступают как объекты изучения робототехники. Как считает С. Редфилд, робототехника в настоящее время определяется как внутри, так и за пределами исследовательского сообщества как междисциплинарная область изучения, опираясь на машиностроение, электротехнику, информатику и область задач робота⁶¹. Автор считает, что робототехника – это научная и инженерная дисциплина, связанная с созданием, составом, структурой, оценкой и свойствами воплощенных искусственных возможностей⁶².

На сегодняшний день на первый план, по мнению исследователя, выходит робототехника, ориентированная на возможности⁶³. Ориентированный на потенциал подход к робототехнике дает значительные преимущества для отрасли в целом с точки зрения разработки новых специальностей, улучшения понимания основ этой отрасли и повышения внимания к оценке и воспроизводимости⁶⁴.

За необходимость когнитивной развивающей робототехники, которая направлена на понимание когнитивных процессов развития науки, выступают ученые из японского Университета Киото⁶⁵.

Робототехнику можно определить как теорию и практику автоматизации задач, которые в силу своей природы ранее считались зарезервированными только для мужчин⁶⁶. Такая работа характеризуется практически постоянным взаимодействием между роботизированным устройством и объектом (или средой). Подразумевается в таком взаимодействии некое предварительное назначение задачи.

Принимая во внимание определение робототехники, в текущих исследованиях, проводимых в этой области, можно выделить три основные категории. Это:

• научно-исследовательские работы об отдельных роботах, расположенных в фиксированном месте или на транспортном средстве-носителе (мобильном роботе);

• исследовательские работы по роботам, работающим совместно с другими роботами или другими машинами. Такие производственные линии представляют собой то, что можно назвать гибкими производственными процессами;

• научно-исследовательская работа по телемедицине (работа, контролируемая на расстоянии).

В таких процессах человек-оператор должен присутствовать за пультом управления машиной, поскольку работа не может быть запрограммирована заранее, она выполняется автоматически в адаптивном режиме. Это происходит потому, что машине еще не достигли уровня, когда смогут анализировать и интерпретировать среду, изменяющуюся при переходе от одной функции к другой⁶⁷.

Специализированной отраслью робототехники, с присущими ей проблемами, является медицинская робототехника. При проектировании и изготовлении таких устройств, как протезы и другие манипуляторы, используются те же принципы, что и при конструировании роботов. Однако адаптация принципов робототехники к проблемам инвалидов, которые являются специфическими и часто трудно преодолимыми, достигла лишь ограниченного успеха⁶⁸.

Немаловажное значение имеет исследование соотношения понятий «робототехника» и «автоматизация». Ученые из Миссурийского университета науки и техники⁶⁹, исследовав сходство и различие понятий «искусственный интеллект», «робототехника» и «автоматизация», пришли к выводу, что, хотя искусственный интеллект, робототехника и автоматизация – все это взаимосвязанные понятия, важно осознавать различия между каждой из этих конструкций. Робототехника в значительной степени сосредоточена на технологиях, которые можно было бы классифицировать как «манипуляторы». Искусственный интеллект и робототехника способны к автоматизации, однако остается открытым вопрос о том, как и могут ли различаться эффекты автоматизации в разных технологиях. Кроме того, слово «робототехника» часто связывают с понятием искусственного интеллекта⁷⁰.

Некоторые ученые утверждают, что компьютеризация и более широкое использование искусственного интеллекта имеют потенциал для автоматизации некоторых нестандартных задач по сравнению с более механическими задачами, ранее подвергавшимися автоматизации. Соответственно, вполне возможно, что технологии, включающие искусственный интеллект, могут быть способны автоматизировать гораздо больше задач, чем чисто робототехнические технологии⁷¹.

Важно отметить, что даже если такие технологии, как искусственный интеллект или робототехника, могут автоматизировать некоторые из задач, ранее выполнявшихся человеком, это не обязательно означает, что человек останется вне производственных прессов. Наоборот, во многих случаях компьютер или робот могут быть способны выполнять относительно малоценные задачи, освобождая человека для более творческих задач⁷².

А. Войкулеску⁷³ считает, что одной из главных задач и целей робототехники является создание машин, способных самостоятельно взаимодействовать с динамичным миром. Масштабирование, переход к человекоподобному уровню интеллекта позволит машине пройти стадию легкой классификации, поскольку ученые уже изучают архитектуры интеллекта роботов, которые избегают традиционного предварительного программирования в качестве решения для достижения «человекоподобной» цели. Автор исходит из следующего: необходимо иметь в виду, что наши представления о роботах коренятся в определенном культурном контексте.

Соответственно, процесс регулирования роботов – это процесс самопонимания, процесс, укорененный в данном историческом контексте и практике.

Таким образом, было определено, что существует ряд подходов к определению и трактовке категорий «робот» и «робототехника». Большинство авторов исходит из собственного видения объекта исследования, опираясь, при этом, на существующие авторитетные точки зрения в данной области.

Однако постоянно развитие цифровых технологий влечет за собой необходимость формирования нового понятийного и категориального аппарата, основой которого должны выступить дефиниции, определяющие фундаментальные основы того или иного научного понятия.

Представляется неоспоримым то обстоятельство, что развитие цифровых технологий поступательно и неотвратимо влечет возникновение принципиально новых технических устройств, способных как к интеллектуальному выполнению задач, так и к эффективному совершению конкретных механических действий, направленных на реализацию данных задач. Применительно к названным техническим устройствам общеупотребительным стало использование наименования «робот»⁷⁴. Однако до настоящего времени в науке и практике отсутствует не только консенсус, но и устойчивое понимание робота как предмета объективной реальности. Задача конструирования определения робота является особенно важной, поскольку предопределяет возможности правового регулирования всего комплекса общественных отношений, в которых последний прямо или косвенно фигурирует. При этом представляется, что для обеспечения регуляторной эффективности правовых предписаний определение робота должно содержать признаки, присущие всем без исключения материальным объектам, относимым к роботам. В то же время указанные признаки должны обладать одновременно достаточной степенью абстракции и устойчивости (то есть наличествовать (повторяться) во всех без исключения роботах), а также быть существенными – то есть позволять отграничивать роботов от смежных явлений, к примеру, воздушных судов, транспортных средств и т. д.

В дополнение к изложенному заметим, что роботы, как материальные объекты определенного вида (обладающие общими, присущими всем без исключения видовыми признаками), являются неоднородной категорией – отличаются по размерам, длительности автономной работы, выполняемым функциям. Названное обстоятельство, безусловно, должно учитываться при формулировании определения, иными словами, дефиниция должна включать как общие признаки, присущие всем без исключения объектам робототехники, так и частные, на основе которых возможно выделение отдельных групп роботов, имеющих специфические технические характеристики.

Приступая к формулированию признаков, в первую очередь заметим, что сфера робототехники характеризуется экспоненциальным развитием, ввиду чего при описании робота, на наш взгляд, следует учитывать наличие перспективных технических разработок и употреблять некий общий, собирательный признак, свойственный всем роботам, как существующим, так и проектируемым, что позволит эффективно распространять на них положения нормативных правовых актов. Думается, подобный признак можно сформулировать как «продукт достижения цифровых технологий», как наиболее обобщенный, характерный для любых видов робототехники, однако позволяющий отличать роботов от смежных, родовых явлений, к примеру, иных объектов, техносферы (башенных кранов, трансформаторов и т. д.). При этом заложенный в данный признак потенциал абстракции, без дальнейшей конкретизации, представляется излишним, образующим невозможность полноценного уяснения сущности робота, ввиду чего дальнейшее изложение определения можно сформулировать следующим образом: «Продукт достижения цифровых технологий (робототехническое устройство, комплекс, система)». Казуистичное перечисление форм роботов позволяет сформировать надлежащую регуляторную среду, обеспечить формальную определенность дефиниции, ее точность, ясность и недвусмысленность.

Рассуждая на тему роботов, можно высказать обоснованное предположение, что по своей исключительно физической (технической, механической и технологической) сути в актуальный период и в дальнейшей перспективе они будут выступать как некоторый сложный объект, состоящий из нескольких составных компонентов. Для подтверждения вышеуказанного тезиса обратимся к тенденциям машиностроения – ни один готовый продукт данной отрасли (в затронутом контексте – транспортное средство) не представляет собой единого, монолитного сплава, а состоит из множества взаимосвязанных частей (комплектующих). Следовательно, полагаем, что робот аналогично представляет собой составное устройство (с известной долей условности – сложную вещь, состоящую из нескольких предметов, которые связаны единым назначением и соединены таким способом, который предполагает использование их по общему назначению). Изложенное не означает, что изолированно отдельные части робота не могут выступать в качестве самостоятельного объекта гражданского робота. Напротив, указание на составную природу робота как сложного объекта позволяет распространять описательную способность конструируемого определения на части робота, фигурирующие в обороте или производстве как самостоятельный объект. Исходя из закономерностей развития робототехнических комплексов, возможно обоснованно предположить, что их создатели изберут путь модульных конструкций, комплектация которых будет зависеть от конкретных целей использования. При этом отдельные части робота могут не только фигурировать в обороте как обособленный объект, предопределяя возможность возникновения в отношении них гражданских прав и обязанностей, но и вполне могут являться источниками повышенной опасности, не поддающимися полному контролю со стороны человека, в связи с чем представляющие угрозу причинения вреда правоохраняемым интересам личности, общества и государства. Ввиду изложенного дефиницию можно продолжить следующим образом: «Продукт достижения цифровых технологий (робототехническое устройство, комплекс, система), состоящий из двух или более составных частей (модулей)».

Не менее важной составляющей робота, предопределяющей его ценность и возводящей его в категорию цифровых устройств, является программный код, обеспечивающий его устойчивое функционирование и возможность выполнения определенных задач. Данный программный код может быть выражен как единичная компьютерная программа, совокупность компьютерных программ либо как компьютерная программа, средства которой обладают признаками автономности. Именно программные средства предопределяют возможность робота действовать определенным образом, выполнять поставленные задачи, находиться в том или ином состоянии. Ввиду изложенного предлагаемое определение должно содержать признак, отражающий двойственную природу робота как состоящего не только из скомпонованных определенных образом механизмов, но и программного обеспечения, функционированием которого обеспечивается в целом деятельность робота. При этом важно акцентировать, что программное обеспечение является экзистенциальным компонентом робота, в отсутствие которого последний не представляет изначальной ценности. Таким образом конструируемую дефиницию можно продолжить так: «Продукт достижения цифровых технологий (робототехническое устройство, комплекс, система), состоящий из двух или более составных частей (модулей), управляемый средствами заложенной в него компьютерной программы».

Рассуждая о программном компоненте, предопределяющем интеллектуальный потенциал робота, то есть способности робота к осуществлению действий, сходных по сложности и характеру с результатами человеческой деятельности, следует упомянуть, что ускоренное развитие технологий искусственного интеллекта позволяет обоснованно предполагать, что применяемые в роботах компьютерные программы в дальнейшей перспективе смогут обеспечивать не только выполнение заложенных в их алгоритмы функций, но и имитировать когнитивные функции человека на основании самостоятельно осуществляемого анализа зависимостей окружающей среды.

Подобный уровень развития программ, иначе именуемый технологической сингулярностью, хотя и не входит в состав актуальной повести нормативного регулирования, но все-таки, по нашему представлению, должен найти отражение в предлагаемой дефиниции для целей обеспечения устойчивости, долгосрочности и эффективности строящихся на ее основе механизмов правового регулирования.

Современные, находящиеся в гражданском обороте программы функционируют на основе заложенных в их цифровом коде алгоритмов действий и решений. Иными словами, программа, ее исходный код способны обеспечивать выполнение только того перечня действий (вычислений) и реагировать только на тот перечень команд, который был изначально заложен разработчиком. Такой технический и интеллектуальный потенциал исключает дискурс относительно деликтоспособности робота, снабженного подобной программой. За его действиями как на всем протяжении жизненного цикла, так и при выполнении конкретной задачи в определенных условиях сохраняется возможность достаточного контроля. Действия и решения такого робота являются полностью прогнозируемыми и ограничиваются только перечнем алгоритмов, изначально заложенных разработчиком (производителем). Указание в дефиниции робота на возможность выполнения им ограниченного перечня механических манипуляций и вычислительных процессов, прямо следующих из заложенных в его программное обеспечение алгоритмов, видится необходимым и в равной степени очевидным.

В то же время требует дополнительного раскрытия и предметного описания возможность робота к выполнению действий и принятию решений, основанных на тех поведенческих алгоритмах, которые такой робот приобрел в результате самообучения, то есть самостоятельному собиранию, анализу и сохранению информации, поступающей из внешней среды. Поясним дополнительно, что упомянутая нами возможность к самообучению (предпосылка искусственного интеллекта) обуславливает возможность робота к совершению действий, которые находятся вне рамок заложенных в его программу алгоритмов, обуславливает возможность принятия индивидуально-неповторимых решений в конкретных ситуациях, а также детерминирует способность робота воспринимать любые команды, а не только тот их перечень, который был изначально включен в программу.

Таким образом, потенциально может сложиться положение, при котором действия роботов не могут быть однозначно, с достаточной степенью определенности спрогнозированы производителем или пользователем, что образует вопрос относительно деликтоспособности подобных робототехнических систем.

Потенциально возможное в будущем внедрение в программные средства робота технологий искусственного интеллекта образует когнитивную, а соответственно, и поведенческую автономность робота. Данное свойство может быть сформулировано как возможность самостоятельного принятия решений и осуществления действий на основании самостоятельно сформулированного поведенческого алгоритма.

В контексте изложенного полагаем, что роботы, исходя из интеллектуального потенциала заложенных в них средств компьютерных программ, могут подразделяться на тех, которые выполняют строго ограниченный перечень действий, и тех, которые способны осуществлять автономный анализ закономерностей внешней среды, действовать на основании собственных поведенческих алгоритмов и самостоятельно избирать перечни возможных действий и решений.

Представляется, последняя разновидность роботов (с известной долей условности назовем ее автономной) имеет потенциал к порождению широкой научной дискуссии, поскольку являются неочевидными, во-первых, факт создания подобной робототехнической технологии, во-вторых, релевантность предлагаемого нормативного регулирования данной технологии. Последний тезис основывается на том, что базисом любого регулирования является решение вопроса о правосубъектности, которая является основным маркером, не только отграничивающим субъекта права от его объекта, но и определяющим категорию субъекта как обладающего всем объемом прав и обязанностей и способного осуществлять и реализовывать их своими действиями, так и неспособного к указанному.

В любом случае абстрагирование от вопросов автономности есть достаточно опасная тенденция, поскольку невозможно остановить течение и ход исторических событий, развитие научно-технологического прогресса. В настоящее время вопрос автономности основывается на дискурсе относительно периода появления таких технологий, факт их появления уже не ставится под сомнение. Сообразно изложенному, безотносительно того, когда такие технологии появятся, нормативное регулирование должно быть готово к ним, адаптировано к их существенным свойствам, модифицировано для удовлетворения целей установления правового положения автономных технологий.

В связи с вышеизложенным, предлагаем ввести в научный и практический оборот авторский вариант определения понятий «робот» и «робототехника»:

1) робот – продукт достижений цифровых технологий (робототехническое устройство, комплекс, система), состоящий из двух или более составных частей (модулей), управляемый средствами заложенной в него компьютерной программы и способный как к выполнению заранее запрограммированных человеком действий, так и к автономному решению задач⁷⁵.

2) робототехника – наука и практика разработки, производства и применения роботов, их составных частей (модулей).

Указанные дефиниции, наряду с иными основными понятиями в области технологий робототехники, могут быть использованы при подготовке проекта федерального закона «Об обороте роботов, их составных частей (модулей)», а также в иных нормативных правовых актах, осуществляющих регулирование отношений в указанной сфере.

§ 1.2. Сущность робототехники: технолого-правовые аспекты

Последняя фаза продолжающейся «цифровой революции» характеризуется инновациями в области искусственного интеллекта. В этой связи робототехника оказалась в центре внимания ряда наук, которые, казалось бы, на первый взгляд, имеют к ней самое отдаленное отношение. Это социология, психология, экономика, медицина, право и пр. В каждой из указанных наук сегодня роботы находят применение благодаря достижениям цифровых технологий. Однако технологические инновации в различных областях породили новые сложные проблемы, требующие решения со стороны регулирующих и других директивных органов.

Несмотря на широкое применение достижений робототехники и искусственного интеллекта первичным при рассмотрении данных категорий все же выступает технологический аспект. Известно, что роботы – это функциональные объекты, которые физически взаимодействуют с материальным миром. Каждая разработка в области искусственного интеллекта сопровождается регистрацией патентов и закреплением авторских прав, причем последние являются результатом программного обеспечения, управляющего работой роботов⁷⁶.

Робототехника, в рамках которой осуществляются разработки интеллектуальных систем и создаются роботы, находящие применение практически во всех теоретических и прикладных науках, представляет собой важнейшую технологическую основу развития производства.

Эффективное законодательство и регулирование создают доверие, и для робототехники, позволяющее ей расти и развиваться. Доверие будет важным товаром: доверие к брендам, доверие к функциям, доверие к частной жизни, доверие к справедливому рынку⁷⁷.

Робототехника и автономные системы находятся на очень ранних стадиях развития, и пройдет не менее десяти лет, прежде чем в полной мере будет ощущаться их воздействие на развитие информационного общества. Как и все новые цифровые технологии, робототехника пройдет через ряд этапов, прежде чем в конечном итоге станет мейнстримом⁷⁸.

Как считает С. Редфилд, робототехника в настоящее время определяется как внутри, так и за пределами исследовательского сообщества как междисциплинарная область изучения, при этом, основная опора науки приходится на машиностроение, электротехнику, информатику и область задач робота⁷⁹. Автор считает, что робототехника – это научная и инженерная дисциплина, связанная с созданием, составом, структурой, оценкой и свойствами воплощенных искусственных возможностей⁸⁰.

В основе развития робототехники лежат два принципа: – принцип возможностей и принцип потенциала. Первый принцип включает в себя широкие перспективы в области применения искусственного интеллекта, которые еще подлежат дальнейшему освоению и разработке.

Второй принцип связан с существующими на сегодняшний день возможностями применения робототехники и носит прикладной характер.

Необходимость изучения когнитивного характера развивающейся робототехники отмечают японские ученые⁸¹. Основой робототехники, по мнению исследователей, в рассматриваемом ими контексте должен стать принцип проектирования. В центре внимания разработчиков должны находиться гуманоидные роботы, которые, посредством синтеза символов, будут иметь возможности активно анализировать отношения в социуме и, в конце концов, смогут встать в один ряд с человеком разумным⁸².

Однако для максимальной реализации такими роботами своих возможностей необходимо, чтобы адаптации подверглась также и окружающая среда. Именно тогда они смогут постепенно адаптироваться к более сложным задачам в более динамичных ситуациях. Здесь, как считают авторы, важным выступает переход от невербальной коммуникации к вербальной⁸³.

В литературе робототехника также определена как теория и практика автоматизации задач, решить которую ранее могли только мужчины по причине значительной выносливости и физической силы⁸⁴. Кроме того, авторы часто ставят знак равенства между такими понятиями, как «робототехника» и «искусственный интеллект»⁸⁵.

Также в различных источниках можно найти точки зрения, основанные на сравнительной характеристике таких понятий, как «искусственный интеллект», «робототехника» и «автоматизация». Не отрицая взаимосвязанности указанных понятий, отдельные авторы считают, что прерогативой робототехники выступают высокие технологии, носящие прикладной характер. При этом, автоматизация лежит в основе как робототехники, так и искусственного интеллекта, который, в свою очередь, в отличие от робототехники, теоретизирован⁸⁶. Есть также точка зрения, указывающая на то, что технологии, включающие искусственный интеллект, могут быть способны к автоматизации достаточно широкого спектра задач в отличие от робототехнических технологий⁸⁷.

Кроме того, в научной литературе имеется позиция, что робототехника призвана создавать машины, которые способны к самостоятельному взаимодействию с динамичным миром⁸⁸. На первый план здесь выходит именно культурный контекст, в рамках которого люди формируют свои представления о роботах. В этой связи, процесс регулирования роботов позиционируется как процесс самопонимания, уходящий корнями в опыт предшествующих поколений⁸⁹.

Робототехника, как уже было указано, получает динамичное развитие в различных сферах, но наиболее перспективным, на наш взгляд, выступает применение ее достижений в области здравоохранения. Системы искусственного интеллекта дают возможность внедрить электронные медицинские карты; цифровой сенсорный мониторинг и пр.⁹⁰ Технологии распознавания образов могут сочетать болезненные состояния с оптимальным лечением. Роботы могут выполнять многие сложные задачи, которые трудны для человека. Так, роботы могут выполнять хирургические операции, обязанности медицинских сестер, оказывать услуги по реабилитации пациентов и пр.⁹¹.

Использование роботизированных технологий в здравоохранении имеет большой потенциал и является захватывающей областью развития. В хирургии уже успешно внедрены роботизированные технологии⁹².

Роботы по уходу в области социального обслуживания населения были предложены в качестве способа решения растущей проблемы ухода за пожилыми людьми, но использование роботов по уходу не ограничивается оказанием помощи пожилым людям – они также могут быть использованы для оказания помощи инвалидам или людям, восстанавливающимся после травм. Также, как считают исследователи, достаточно востребованными будут роботы, которые оказывают помощь оказания помощи в выполнении повседневных домашних задач, в доставке еды и пр.⁹³

Роботизированные технологии также могут быть физически интегрированы в организм человека в виде протеза. Конечная цель роботизированного протезирования – замена отсутствующей или функционально поврежденной части тела роботизированной частью тела, которая полностью воспроизводит (или даже превосходит) естественную функцию утраченной конечности. Кроме того, с помощью экзоскелетов новая технология интерфейса мозг – компьютер может позволить людям с тяжелыми повреждениями спинного мозга снова ходить⁹⁴.

В то время как роботы по уходу и роботизированные протезы в настоящее время широкого распространения не получили, хирургические роботы уже довольно широко применяются, будучи внедрены главным образом для повышения качества хирургических процедур и точности, с которой проводится операция. Самый известный хирургический робот – это да Винчи.

Робототехника постепенно становится одной из важнейших цифровых технологий нашего времени и в ближайшие годы автономность машин будет только возрастать, приближаясь к человеческим образцам мышления⁹⁵. Однако, как и любой другой результат технологического развития, прогресс робототехники способен создать проблемы в области морали и права, например, возложение ответственности станет более трудным из-за автономии машин. В частности, развитие робототехники ставит проблемы с точки зрения возложения ответственности на конкретных людей. Это может лишить человека, чьи права нарушаются роботом, возможности требовать возмещения ущерба. Также здесь возможна ситуация, когда ответственных за причинение вреда определить будет невозможно⁹⁶.

Рассмотрим более подробно правовые проблемы, которые могут иметь место в случае участия продукта робототехники – робота в тех или иных отношениях информационного общества и исследуем правовые последствия, возникающие от тех или иных действий робота, наносящего ущерб третьим лицам.

Практике известны примеры, когда роботы причиняют ущерб по причине имеющихся в них конструктивных или программных дефектов. В случае наличия доказательств возникновения конструктивных дефектов, возникших только по вине разработчика-создателя робота, никаких дополнительных проблем не возникает. Однако, если будет доказано, что технологические дефекты возникли также из-за поставщика или импортера некачественных комплектующих, ответственность за причинение ущерба уже будет иметь солидарный характер⁹⁷.

В Европейском праве основная проблема этого сценария заключается в том, что бремя доказывания фактического ущерба, дефекта в продукте (роботе) и причинно-следственной связи между ущербом и дефектом лежит на виновной стороне – производитель или импортер несут ответственность в рамках «строгой» ответственности, никаких доказательств не требуется для выявления небрежных или неправильных действий со стороны производителя или импортера⁹⁸.

«Строгая» ответственность основывается на решении законодателя о том, что одна сторона несет ответственность за конкретный ущерб, даже если социальная неадекватность действия не может быть доказана. Причина такого решения, как правило, заключается в том, что именно эта сторона извлекает наибольшую выгоду, контролирует процесс и в большинстве случаев фактически наносит ущерб по какой-либо ошибке. Однако в случае с выявлением дефекта в продукте робототехники могут возникнуть проблемы, например, если компьютерная программа, на основе которой была произведена разработка, имеет повышенную сложность⁹⁹.

При определенных обстоятельствах производитель может отказаться от строгой ответственности, если сможет доказать, что состояние научно-технических знаний на тот момент, когда он поставил товар в оборот, не позволяло обнаружить дефект или же данный дефект обусловлен конструктивными особенностями изделия¹⁰⁰.

Однако, необходимо помнить, что чем сложнее робот, тем более автономно он действует, и тем труднее сторонам доказать свою невиновность в случае возникновения ущерба, нанесенного роботом.

Все вышесказанное позволяет говорить о том, что считать робота простым продуктом в существующих условиях нецелесообразно. Эта доказывается тем, что вскоре роботы могут быть оснащены адаптивной и обучающей способностью. Эти особенности неизбежно повлекут за собой определенную степень непредсказуемости и неконтролируемости в поведении роботов: из-за увеличения опыта, полученного роботом самостоятельно, поведение робота больше не может быть спланировано человеком в полном объеме¹⁰¹.

Это приводит не только к сомнениям в возможных технологических недочетах, имеющих место при производстве роботов, но и к вопросу о том, обязательно ли каждая «ошибка» робота вызвана дефектом в юридическом смысле. Если роботы с адаптивными и обучающими способностями будут свободно взаимодействовать с людьми в неконтролируемой среде, они могут реагировать на новые входные сигналы непредсказуемым образом. Если робот затем причиняет ущерб третьим лицам из-за этих реакций, вряд ли следует говорить о его конструктивном дефекте, так как он будет делать то, что должен: в частности, робот будет проявлять реакцию на новые входные сигналы и адаптировать свое поведение под них. Таким образом, доказать дефектность машины будет сложно¹⁰².

В настоящее время для таких случаев не существует никаких деликтных норм. Иногда обсуждается создание аналогии с правилами для владельцев животных; аргументом в пользу такой аналогии может быть то, что основной конфликт данной ситуации является адекватно подобным – в обоих случаях действия животного, как и машины, частично непредсказуемы, но могут быть подвержены влиянию обучения и контроля.

Также было высказано мнение о применении к данной ситуации родительской модели: проводилось сравнение когнитивных роботов с детьми, которые учатся на своем собственном опыте. Несовершеннолетние действуют в соответствии со своим воспитанием и должны подчиняться своим родителям, роботы действуют в соответствии с поведением, которому их «научили» разработчики, и должны выполнять инструкции пользователя¹⁰³.

Одна из правовых идей, связанная с повышением автономности машин, заключается в том, чтобы переложить ответственность непосредственно на них. Здесь возникает так называемая проблема возложения на роботов ответственности как таковой: когда машины принимают решения, вопросы к ней возникают не только в том случае, если что-то идет не так, но и по поводу каждого решения, принятого машинами. Так, актуальными будут в данной связи следующие вопросы:

1. Кто несет ответственность за вред, причиненный машинами?

2. Может ли машина реагировать так, как это необходимо для социальной и правовой конструкции ответственности?¹⁰⁴

Проблему такой передачи ответственности можно увидеть, рассматривая потенциальные социальные реакции на решения машин. В определенной степени социальные проблемы могут возникать из-за различий в восприятии людей и машин. Исследования показывают, что для большинства людей сложнее простить машину, если она принимает решение, которое влияет на человеческую жизнь, в независимости от того, верным или неверным такое решение выступает. Так, большинство людей считают недопустимым доверить свою судьбу роботу, особенно, например, в тех ее аспектах, которые связаны с выбором жизни или смерти¹⁰⁵.

Однако, необходимо сказать, что именно робот может принять решение, которое не будет находиться под влиянием человеческих эмоций и которое будет верным в той или иной ситуации. Но если взять в расчет этический аспект, такое решение идет в разрез с правом человека самостоятельно принимать решения, касающиеся его самого¹⁰⁶.

Машины могут совершать меньшее количество ошибок, нежели люди. Эти их особенности уже давно с успехом используются в таких отраслях, как медицина, образование, социальное обслуживание населения и др. Данная особенность позволяет говорить, что исключение человеческого фактора из принятия решений иногда выступает более благом, нежели злом¹⁰⁷.

Проблема ответственности возникает также при любом обсуждении беспилотных автомобилей. Она касается вопросов юридической ответственности: в частности, кто несет ответственность за ущерб, причиненный беспилотным автомобилем. Это обсуждение в основном сосредоточено на полностью автоматизированных транспортных средствах, которые способны работать на дорожной сети без вмешательства человека¹⁰⁸.

Такие транспортные средства хранят и используют информацию, принимают решения самостоятельно и физически действуют в соответствии с этими решениями. Это означает, что, будучи материальными физическими объектами, перемещающимися в общественных местах, полностью автоматизированные транспортные средства способны причинять реальный ущерб независимо от их производителей, владельцев или пассажиров. В связи с этим возникает важный юридический вопрос: кто несет ответственность за такой ущерб? В то время как в ближайшие годы эта технология получит все большее распространение, вероятность того, что беспилотные автомобили будут наносить ущерб имуществу и людям, будет возрастать¹⁰⁹.

Насколько хорошо подготовлена существующая правовая база для решения этих вопросов? Одна сторона вопроса заключается в том, что наши нынешние правовые системы и практика достаточно широки, чтобы адаптироваться к ущербу, причиняемому беспилотными автомобилями. Это говорит о том, что беспилотный автомобиль не радикально отличается от других технологий, предназначенных для повышения автомобильной безопасности, которые были реализованы без необходимости радикального изменения систем ответственности: это, например, ремень безопасности, подушка безопасности или антиблокировочная система тормозов. Таким образом, автомобиль без водителя, причиняющий телесные повреждения из-за дефекта, выступал бы как проблема ответственности продукта, налагающая строгую ответственность на производителя в случае возникновения нештатных аварийных ситуаций¹¹⁰.

Однако это, возможно, игнорирует тот факт, что чем сложнее цифровая технология, тем больше разрыв между ожиданиями людей и ее истинной эффективностью. Люди, использующие беспилотные автомобили, могут, по крайней мере, на начальных этапах, иметь нереалистичные ожидания или заявлять, что они не оценили или не могли полностью оценить их функции безопасности. Точно так же производители могут утверждать, что водители-операторы могут (и должны) вмешиваться в ситуацию, чтобы избежать ущерба в большей степени, чем они это делают. Вероятно, будут существовать «серые зоны», в которых причины ущерба будут не ясны¹¹¹.

Действительно, ожидания безопасности основаны на высоком уровне использования цифровой технологии. Пешеходы могут пойти на больший риск, а водители традиционных автомобилей могут действовать более агрессивно, если им будет известно, что автомобиль без водителя запрограммирован действовать в рамках правил. Эта проблема обычно имеет значительную остроту, когда новая технология только зарождается; риски для производителей будут уменьшаться по мере того, как люди будут лучше с ней знакомиться, но в начале можно ожидать отсутствия ясности и, соответственно, потенциальной возможности для споров о причинах аварий¹¹².

Еще одна возможность, которая была предложена, заключается в том, чтобы присвоить некоторую форму юридического лица автоматизированным транспортным средствам; признание того, что они могут сами по себе причинять ущерб и убытки. Присвоение легального статуса самому автомобилю без водителя за причиненный им ущерб также устраняет всякую необходимость винить владельца или производителя, которые ни коим образом не могут быть виновны в действиях своего автомобиля без водителя, в то же время, защищая права столь же невиновной жертвы¹¹³.

То, как будет рассматриваться ответственность за ущерб, причиненный беспилотными автомобилями, потенциально имеет значительные последствия для существующей системы страхования. Новые страховые продукты и структуры будут необходимы для удовлетворения возросшей ответственности производителей, владельцев, разработчиков программного обеспечения, сетевых операторов, арендаторов и других лиц, участвующих в создании БПТС¹¹⁴.

Производителям потребуется покрытие ответственности, возникающей в результате дефектов технологии, в то время как владельцам транспортных средств, скорее всего, потребуется страхование «без вины» для покрытия любых травм или повреждений, вызванных любыми другими авариями¹¹⁵.

Возможное решение предложено правоведами из Швеции, где существует модель, в соответствии с которой функции страхования, связанные с компенсацией и предотвращением несчастных случаев, разделены, что дает право жертвам получать компенсацию от страховщиков и позволяет страховщикам решать, следует ли признавать случай страховым¹¹⁶.

Шведская система не лишена недостатков и в значительной степени зависит от государственного финансирования, а это означает, что перенос указанной концепции в другие юрисдикции может оказаться сложной задачей.

Как и большинство других технологий, беспилотные автомобили будут собирать и анализировать персональные данные, например, для обеспечения безопасности и анализа несчастных случаев. Кроме того, интегрированный набор систем, необходимых для работы беспилотного автомобиля, будет уязвим для вредоносных компьютерных программ, атак хакерских сообществ¹¹⁷ с целью нарушения или захвата контроля над его функционированием. Соответственно, многие (если не все) вопросы защиты данных и кибербезопасности, будут в равной степени применимы и к беспилотным автомобилям.

В здравоохранении вопрос ответственности, когда робот причиняет ущерб или травму, является важным вопросом. Используя робота по уходу в качестве помощника, можно представить себе, что робот, поднимающий человека с кровати в инвалидное кресло, например, может травмировать этого человека, если он выйдет из строя. Если это произойдет, то какая сторона будет нести ответственность за причиненный вред? Стороной, ответственной за причинение вреда, теоретически может быть производитель робота, проектировщики, сторона, которая предоставила в пользование или продала робота пользователю, а также люди, которые обслуживают робота или даже сами пользователи, взаимодействующие с роботом таким образом, который запрещен производителем¹¹⁸.

Те же соображения возникают и в отношении роботизированных протезов. Риски, связанные с использованием роботизированных протезов, могут быть особенно высоки, учитывая тот факт, что они чрезвычайно технологически сложны. Роботизированные протезы вполне могут использоваться способами, которые изначально не предусматривались производителем¹¹⁹.

Внедрение роботов в хирургию также может привести к появлению новых рисков: вероятность того, что робот может причинить вред пациенту независимо от действий хирурга, очень высока¹²⁰.

Было высказано предположение, что хирургические роботы должны содержать «черный ящик», который будет записывать данные, относящиеся к движениям робота, данные окружающей среды, обнаруженные роботом, команды, отдаваемые оператором и так далее. Данная технология позволила бы минимизировать споры относительно ответственности в случае причинения вреда роботом¹²¹.

Идея черных ящиков-регистраторов не ограничивается хирургическими роботами, и они также могут сыграть свою роль во многих других робототехнических технологиях. Что касается протезирования, было высказано предположение, что регистратор черного ящика в протезе поможет исследовать причину несчастного случая или травмы, возможно, позволит исследователям обнаружить механическую или электрическую неисправность в качестве причины. Однако, в отличие от хирургического робота, там, где относительно большой черный ящик, подключенный к основному источнику питания, не представлял бы такой проблемы, любой черный ящик в протезе должен был бы быть маленьким, не влиять на движение, кроме того, сложную задачу представляет собой установка источника питания¹²².

Существуют также определенные вопросы ответственности, связанные с робототехникой, которые ранее не поднимались. Например, один из таких вопросов связан с тем, кто несет ответственность, если в случае выполнения операции хирургом, который использует для этого средства телемедицины и находится в другом городе или стране, возникают различные осложнения? Как обеспечить в такой ситуации адекватность страховой защиты хирурга, если кроме него в операции также участвуют хирурги больницы, где находится пациент, и их ассистенты? Ответы на данные вопросы необходимо найти как можно раньше, так как практика применения роботов в здравоохранении растет с каждым днем¹²³.

Обсуждение ответственности и потенциального правового статуса в контексте робототехники означает больше, чем постановка вопроса «Кто несет ответственность, если что-то пойдет не так?». Необходимо понять, что произойдет, если мы намеренно передадим принятие решений роботам. Это может означать полное переложение ответственности на них в той или иной ситуации. В данном контексте необходимо грамотно и своевременно законодательно реагировать на изменение фундаментальных понятий робототехники и сознательно создавать пространство для этих изменений, а также укреплять осведомленность соответствующих институтов, которые будут принимать решения о развитии робототехники¹²⁴.

Согласованный стратегический подход к регулированию указанных выше ситуаций – предпочтительно на международном уровне – будет наилучшим способом достижения правильного баланса между поощрением инноваций, решением вопросов ответственности и защитой общества.

Нельзя не отметить, что робототехника по-прежнему сталкивается с парадоксом Моравека: задачи, которые трудны для людей, такие как прецизионная точечная сварка, легки для роботов, тогда как задачи, которые легки для людей, являются сложными для машин¹²⁵. Люди, например, способны начисто вытереть обеденный стол, что чрезвычайно трудно для роботов. Это объясняется, главным образом, врожденной сложностью механики трения, столкновений и контакта. Гораздо легче рассчитать точную траекторию кометы, чем предсказать траекторию кофейной кружки, которую двигают по поверхности стола¹²⁶.

Робототехника сейчас провозглашается драйвером четвертой промышленной революции. Ее влияние будет ощущаться более широко, чем предшествовавшие ему компьютерные или коммуникационные революции.

Соответственно, развитие робототехники действительно создает проблемы с возложением ответственности не только в случае нанесения роботами ущерба третьим лицам. Это также означает, что нужно помнить об ответственности за руководство процессом совершенствования роботов, и люди, занимающиеся этим, должны осознавать свою ответственность.

Необходимо проводить массовое исследование достижений робототехники для формирования общей стратегии среди представителей научных кругов и бизнес-сообщества. Это позволит сформировать новое поколение специалистов в области робототехники, которое будет иметь глубокие связи с обществом и сможет отстаивать свои позиции в дискуссиях. Кроме того, будет сформировано верное представление о науке робототехнике как таковой.

Подводя итог, необходимо сделать следующий вывод. Сущность робототехники на современном этапе сегодня складывается не просто определением указанного понятия, но и той смысловой и практической нагрузкой, которая выступает следствием реализации данного понятия как в правовом поле, так и в технологическом аспекте. Отраслевые особенности применения данного понятия напрямую связаны с достижениями в области робототехники, находящими применение в тех или иных областях науки и практики. Определения и приемы раскрытия категории «робототехника», которые предлагают современные авторы, имеют значительные отличия от таковых, данных еще несколько лет тому назад. Соответственно, для актуализации значения указанной категории как в технологическом, так и в правовом аспекте, необходимо учитывать современные достижения цифровых технологий в рассматриваемой области.

Таким образом следует констатировать, что текущий уровень развития робототехники, а также ее вовлеченность в процессы жизнедеятельности человека, общества и государства обусловливают необходимость создания эффективных механизмов правового регулирования отношений в сфере оборота роботов.

§ 1.3. Авторская модель правового регулирования робототехники

Повсеместное развитие цифровых технологий на сегодняшний день есть объективная тенденция. Включившись в общественные отношения, став их неотъемлемой частью, цифровые технологии закономерно повлекли модификацию социальных практик. С наибольшей очевидностью эти явления проявились в части документооборота, который стремительно переходит в формат цифрового; циркуляции денежных средств, в подавляющем большинстве преобразовавшейся в электронно-финансовый оборот, и т. д. В этой связи остановим внимание на следующем обстоятельстве: модификация социальных практик есть закономерный процесс, на современном этапе он обусловлен цифровизацией, которая, будучи сквозным явлением, отличается широкой распространенностью и охватывает большинство сфер общественной жизни. При этом такое изменение общественных отношений в отдельных случаях образует необходимость переработки правового регулирования: составления новых подходов к регламентации общественных отношений, дифференциации субъектного состава, введения новых объектов права, создания принципиально новых институтов и механизмов.

Проведение дефектоскопии правовых предписаний обуславливается необходимостью поддержания их регуляторной эффективности – возможностью реально, в достаточной степени воздействовать на складывающиеся и существующие общественные отношения. Данная эффективность, как нам представляется, может основываться на следующих благоприятствующих факторах:

• адекватное отражение сферы регулирования каждого акта: определение круга общественных отношений, на которые он распространяется. Соблюдение данного условия позволяет исключить возникновение противоречий в действующей правовой системе;

• определение исчерпывающего перечня субъектов, на регулирование поведения которых направлен конкретный акт. Иными словами, нормативные положения должны позволять однозначно определить спектр субъектов, права и обязанности которых они устанавливают;

• содержать формально определенные, изложенные в доступной форме полномочия субъектов: их права и обязанности, условия, необходимые для реализации прав или исполнения обязанностей, если их наличие связывается с возникновением определенных прав и обязанностей;

• использовать понятийный аппарат, получивший должное разъяснение непосредственно в положениях самого нормативного правового акта либо в иных актах равной или высшей юридической силы.

Заметим, что руководством государства принимаются достаточные и весьма эффективные усилия, направленные на обеспечение правовыми средствами устойчивого и безопасного развития Российской Федерации в сфере цифровых технологий¹²⁷. В то же время перед юридической наукой стоит значимая задача по выявлению сфер общественных отношений, правовую регламентацию которых можно улучшить, и формулированию конкретных предложений такого улучшения.

Наряду с модификацией существующих сфер общественных отношений процессы цифровизации в отдельных случаях создают новые отрасли человеческой деятельности, то есть устойчивые группы сходных по содержанию и направленности общественных отношений, порожденных единым родовым объектом. В качестве такового в настоящее время выступает робототехника.

Последнюю достаточно обоснованно можно отнести к цифровым технологиям, поскольку функционирование роботов основывается на процессах хранения, обработки и передачи цифровой информации¹²⁸, которая составляет основу программной составляющей робота. Так, компьютерная программа, содержащая поведенческие алгоритмы, сигналы управления, поступающие роботу от оператора, – все это по своей сути цифровая информация, то есть электромагнитные и оптико-электронные сигналы, представленные в форме цифровой последовательности символов.

Тем не менее робот не является типичным продуктом достижения цифровых технологий и не может в полной мере отождествляться со средством вычислительной техники. Ключевое различие состоит в аппаратной части. Поясним: если упомянутая нами выше программная компонента присуща всем без исключения цифровым устройствам, то есть посредством нее хранится, обрабатывается и передается информация, именно ее составляющими являются компьютерные программы, антивирусное программное обеспечение, более того, в ней содержатся алгоритмы действий робота, в частности те элементы его компьютерной программы, задействуя которые робот совершает определенные механические манипуляции (движение, перемещение, остановку, захват предмета и т. д.). В свою очередь, аппаратная составляющая есть механическая часть робота, состоящая из взаимосвязанной совокупности элементов контракции: датчиков, рычагов, подшипников, двигателей, редукторов, электромоторов, радаров, лидаров, камер, шасси, элементов кузова, материалов, из которых эти элементы изготовлены. При этом сложное, многокомпонентное строение аппаратной части робота предопределяет его способность к совершению множества механических действий, начиная от элементарных (передвижение, изменение скорости и направления движения), заканчивая способностью к совершению сложных манипуляций (операционные роботы, роборуки).

Как представляется, в этом и состоит отличие робота от иного продукта достижения цифровых технологий (стационарного или переносного компьютера, мобильного устройства расширенных мультимедийных возможностей, иных объектов, которые принято относить к интернету вещей). Безусловно, все названные предметы имеют аппаратную часть – процессор, приемопередающие датчики, экраны, ОЗУ, платы, однако они не обладают существенным, конститутивным свойством, присущим роботу, – возможностью совершения механических манипуляций, действий.

Таким образом, приходим к выводу о том, что отличительной особенностью робота является предопределенная строением аппаратной и структурой программной части возможность к совершению механических манипуляций. Названное не означает, что роботы не обладают вычислительной мощностью – напротив, они в равной степени способны хранить, обрабатывать и передавать цифровую информацию, обращаться по системе адресации трафика к определенным указателям сайтов и т. д., то есть реализовывать весь функционал средств вычислительной техники.

Из изложенного можно сделать вывод о том, что робот, даже на современных условиях, есть предмет, достаточно распространенный в повседневном обиходе. Действительно, многие объекты, формально подпадающие под то определение робота, которое является общеупотребительным и традиционно понимаемым, уже успешно функционируют, удовлетворяя как хозяйственно-бытовые, так и производственные нужды. То есть на некоторые из них (высокоавтоматизированные транспортные средства; роботы, применяемые в производственных целях, БПВС) уже распространяются требования отдельных нормативных правовых актов¹²⁹.

Названные нормативные акты имеют место, однако, будучи направленными на регулирование специальной, узкой сферы общественных отношений, едва ли они могут быть адаптированы для правовой регламентации процессов внедрения, разработки и использования всех робототехнических устройств, комплексов и систем. Так, в случае с высокоавтоматизированными транспортными средствами можно заметить следующее.

В январе 2021 года в России вступил в силу Федеральный закон от 31 июля 2020 г. № 258-ФЗ «Об экспериментальных правовых режимах в сфере цифровых инноваций в Российской Федерации»¹³⁰, направленный на регулирование отношений, связанных с установлением и реализацией, в том числе изменением, приостановлением, прекращением, мониторингом, оценкой эффективности и результативности экспериментальных правовых режимов в сфере цифровых инноваций.

Примечательно, что ключевыми сферами, в которых может происходит апробация инноваций названы:

«1) медицинская деятельность, в том числе с применением телемедицинских технологий и технологий сбора и обработки сведений о состоянии здоровья и диагнозах граждан, фармацевтическая деятельность;

2) проектирование, производство и эксплуатация транспортных средств, в том числе высокоавтоматизированных транспортных средств и БПВС, аттестация их операторов, предоставление транспортных и логистических услуг и организация транспортного обслуживания;

3) сельское хозяйство;

4) финансовый рынок;

5) продажа товаров, работ, услуг дистанционным способом;

6) архитектурно-строительное проектирование, строительство, капитальный ремонт, реконструкция, снос объектов капитального строительства, эксплуатация зданий, сооружений;

7) предоставление государственных и муниципальных услуг и осуществление государственного контроля (надзора) и муниципального контроля;

8) промышленное производство (промышленность);

9) иные направления разработки, апробации и внедрения цифровых инноваций, установленные Правительством Российской Федерации»¹³¹.

Однако на сегодняшний день экспериментальное регулирование еще не показало свою эффективность в силу ряда обстоятельств, в том числе и ввиду отсутствия необходимых изменений в общем режиме регулирования.

Роботы являются крайне широкой категорией, под которую фактически подпадает любой материальный объект, способный к механическим манипуляциям в пространстве и обладающий достаточным уровнем развития программного обеспечения. Поясним этот признак: нами указано на необходимость наличия «достаточного уровня» развития программного обеспечения (собственно компьютерной программы), поскольку в случаях, когда ее вычислительные мощности сводятся, например, к проецированию параметров функционирования устройства (отражение скорости движения, заряда элементов питания и т. д.) и иным подобным действиям, устройство едва ли можно признать робототехническим. Робот представляет собой единство программного и аппаратного элементов, при этом каждый из них, как представляется, должен находиться на достаточном уровне, в противном случае под дефиницию робота сможет подпадать все многообразие технических средств, в которых присутствует даже простейшая программа, что видится нецелесообразным.

При этом представляется необходимым конкретизировать упомянутые нами признаки «достаточности, достаточного уровня» применительно к компьютерным программам, поскольку, являясь оценочными, они вполне могут порождать правовую неопределенность, неточность и двусмысленность, распространять правовые предписания, касающиеся роботов на излишне широкий круг материальных объектов. Таким образом, возникает необходимость категорирования компьютерных программ, что позволит определить, является ли тот или иной объект роботом либо он представляет собой устройство, снабженное компьютерной программой незначительной вычислительной мощности. Рассуждая о подходах к такому категорированию, можно предложить следующие исходные тезисы дифференциации:

• в случае если заложенные в цифровой код компьютерной программы алгоритмы позволяют устройству осуществлять такой круг механических манипуляций, который дает возможность решать задачи, традиционно выполняемые человеком, подобная программа однозначно характеризуется как имеющая достаточный уровень вычислительных мощностей и автоматизации;

• в случае если заложенные в цифровой код компьютерной программы алгоритмы позволяют устройству в автоматическом режиме выполнять часть присущего ему функционала, то есть совершать определенные механические манипуляции не под управлением¹³², но под контролем человека¹³³, подобная программа, по нашему мнению, также может признаваться имеющей достаточный уровень вычислительной мощности и автоматизации.

Представляется, что указанные исходные тезисы недостаточны для разграничения, ввиду чего полагаем необходимым издание государственным органом нормативных разъяснений, содержащих конкретные критерии категорирования компьютерных программ. Со своей стороны выскажем предположение, что одними из таких критериев могут являться сложность и длина кода компьютерной программы.

Таким образом, робот характеризуется аппаратным компонентом который позволяет совершать механические манипуляции (перемещение в пространстве, захват и удержание предметов, установление, поддержание или изменение скорости, направления и вектора движения и иные механические действия), а программным компонентом содержащий цифровой код компьютерной программы, обладающей достаточными вычислительной мощностью и уровнем автоматизации. В случае отсутствия признака, характеризующего аппаратный компонент, такое устройство представляет собой средство вычислительной техники, собственно цифровое устройство, при отсутствии программного компонента устройство в целом не может быть отнесено к цифровой сфере, поскольку оно не способно хранить, обрабатывать и передавать электромагнитные и оптико-электронные сигналы, представленные в форме цифровой последовательности символов.

Принимая во внимание разъяснения относительно программно-аппаратной природы и широкой распространенности роботов, отметим, что в настоящее время, как ранее указывалось, подобные устройства уже частично внедрены в отдельные группы общественных отношений, ввиду чего на них распространяются определенные предписания нормативных правовых актов. Однако область действия, круг регулируемых отношений, указанных актов представляется достаточно узким, не охватывающим всего многообразия робототехнических устройств, регулирует узкую область их разработки, применения либо использования, не содержит понятийного аппарата, не отражает дифференциацию роботов по различным основаниям. Помимо этого, заметим, что если робот фигурирует в правоотношении под иным наименованием, однако по изложенным нами признакам фактически подпадает под определение робота и на него распространяются определенные правовые предписания (наиболее удачный пример – воздушное судно), представляется, что данное нормативное регулирование не подлежит переработке, поскольку учитывает все существенные особенности конкретного вида роботов и эффективно упорядочивает их участие в определенных правоотношениях. В то же время данное обстоятельство не устраняет необходимости выработки иной модели регулирования (выраженной в форме конкретного нормативного акта), а в случае возникновения коллизий при регулировании оборота роботов в отдельных сферах деятельности между общим, предлагаемым нами в дальнейшем правовым актом и специальным отраслевым последний, как представляется, подлежит применению в силу того, что является специальной нормой.

Однако, общие вопросы участия роботов в социальных отношениях, определение их категорий, установление конститутивных запретов и ограничений, определение перечня субъектов, уполномоченных взаимодействовать с роботами, – все эти аспекты не могут получить правового опосредования в рамках специального, отраслевого нормативного правового акта.

В настоящее время зарождаются и сохраняют однозначную тенденцию к увеличению в дальнейшей перспективе многообразные формы взаимодействия человека с цифровыми устройствами, по вышеизложенным признакам могущим относиться к роботам. Так, к примеру, уже является объективной реальностью производство роботов, имеющих определенную специализацию (как правило, промышленную), создаются и применяются высокоавтоматизированные транспортные средства, перестают быть чем-то особенным факты подъема в воздух БПВС. Указанные процессы дают основание для формулирования следующих наблюдений:

• способы, формы и методы взаимодействия человека и робота не являются абсолютно тождественными, что продиктовано многообразием тактико-технических характеристик объектов робототехники;

• сообразно изложенному лица, взаимодействующие с роботами, выполняют неоднородные, но имеющие устойчивые, повторяющиеся признаки функции (предпосылка деления субъектов).

Оба приведенных тезиса предопределены различными тактико-техническими характеристиками и различным предназначением робототехнических устройств, комплексов и систем, ввиду чего необходимо выделение их в устойчивые, отличающиеся отдельными признаками группы.

Таким образом, представляется возможным утверждать, что формируется новая область человеческой деятельности, которую максимально обобщенно можно поименовать оборотом роботов. При этом отсутствует комплексный нормативный правовой акт, регулирующий данную область общественных отношений. Отдельные направленные на решение узких вопросов участия роботов в некоторых видах вышеуказанного оборота нормативные правовые акты, как видится, уже на данном этапе непригодны для решения общей, фундаментальной задачи регулирования такого оборота.

При этом, будучи реально существующей, сфера оборота роботов несет в себе некоторые риски и угрозы:

• отсутствие адаптированных к специфике роботов нормативно-технических требований, условий и стандартов в области их разработки и производства с высокой степенью вероятности может приводить к выпуску в оборот, предоставлению гражданам в собственность небезопасной робототехнической продукции, эксплуатация которой может привести к авариям, фактам причинения вреда в процессе функционирования таких роботов;

• отсутствие единого, централизованного специально уполномоченного государственного органа влечет рассогласованность в сфере реализации механизмов публично-правового регулирования процессов оборота роботов;

• отсутствие правил эксплуатации влечет угрозу несанкционированного внесения изменений в программную и (или) аппаратную часть робота, в результате которых последний может приобрести качества и свойства, образующие общественную опасность его эксплуатации;

• отсутствие нормативно установленного категорирования роботов влечет невозможность применения к ним сообразных, соответствующих их тактико-техническим характеристикам мер контроля, учета и регулирования;

• отсутствие нормативно описанных групп субъектов, осуществляющих деятельность в сфере оборота роботов, влечет невозможность как их централизованного учета, так и выработки мер контроля и материального стимулирования, что образует опасность вхождения в данную сферу непроверенных субъектов, способных осуществлять небезопасные формы оборота роботов.

Очевидно, что реализация вышеуказанных рисков и угроз является высоковероятной. Поскольку сфера оборота роботов в настоящее время не полностью сложилась, находится в первичном состоянии своего становления, то и сопряженные с нею угрозы без должного внимания могут казаться гиперболизированными, основанными на излишне неблагоприятной интерпретации развития дальнейших событий. Полагаем, что дистанцирование, а тем более пренебрежение вопросами обеспечения безопасности оборота роботов есть крайне негативная тенденция. Такое отношение может повлечь не только реализацию вышеуказанных угроз, но и возникновение новых, наступление положения, при котором фактически сформировавшаяся область общественных отношений не будет в достаточной степени урегулирована нормами права. Изложенное видится недопустимым.

Безусловно, обеспечение безопасности оборота невозможно без установления и реализации мер государственного контроля, выработки и применения стандартов качества и безопасности робототехнической продукции, закрепления как обязательных требований, являющихся условием допуска лиц и организаций к обороту роботов (особенно таким разновидностям, как производство и разработка). Однако подобные меры имеют единственной своей целью сохранение жизни и здоровья людей. Нельзя отрицать, что робототехника, в силу присущих ей весьма различных свойств, в рамках своего использования создает существенные риски, а процессы ее эксплуатации не подлежат полному контролю со стороны человека. В таких условиях необходимо в первую очередь уделять внимание безопасности, предотвращению аварий, недопущению использования при производстве роботов некачественных, имеющих недостаточный ресурс прочности материалов. Только таким образом можно однозначно сохранить должный уровень безопасности при обороте роботов. Реализация таких мер, предотвращение аварий и фактов причинения вреда в процессе функционирования роботов, по нашему глубокому убеждению, возможно только при основополагающей, смыслообразующей, регулятивной роли государства. Только и исключительно государство в своей деятельности реализует интересы всех граждан и организаций, ни один субъект, кроме государства, не способен в полной мере обеспечить безопасность оборота роботов, что предопределяет его главенствующую роль в этом вопросе. Президент Российской Федерации убедительно продемонстрировал, что абсолютным приоритетом для него являются интересы граждан Российской Федерации¹³⁴, а это в том числе и интересы их безопасности. Ввиду чего применение мер контроля и учета в рамках оборота роботов видится нам совершенно необходимым.

Следует учитывать, что область оборота роботов находится в процессе своего становления, ввиду чего некоторые ее аспекты в настоящее время не могут быть непосредственно изучены, так как находятся в перспективной области (обоснованно возникнут в будущем). При этом выработка нормативного регулирования есть актуальная задача, однако при выработке конкретных механизмов, институтов и инструментов регулирования необходимо сообразовывать предложения с динамичным характером самих общественных отношений, выступающих предметом регулирования.

Исходя из вышеуказанных рассуждений, нам видится обоснованным тезис о том, что при составлении моделей правового регулирования следует избегать излишней конкретизации. Думается, что, не обладая полной определенностью относительно того, какие именно в будущем могут производиться и эксплуатироваться роботы, не предвидя исчерпывающего перечня всех их разновидностей, едва ли возможно в положениях нормативного правового акта апеллировать к абсолютно конкретным определениям и критериям дифференциации роботов, в равной степени представляется затруднительным на данном этапе сформулировать общие технические требования к роботам.

В затронутом контексте заметим также, что робототехника по своей природе скорее может быть отнесена к технической науке, ввиду чего познание всего исчерпывающего спектра ее особенностей вряд ли может производиться в рамках изыскания юридической направленности. Роль права в этой связи сводится к установлению общего «скелета» регулирования: нормативно-правового акта, устанавливающего основные механизмы (контроль, надзор, учет, полномочия специального органа) и институты (определение субъектов оборота, выстраивание категорий роботов, ведение централизованных баз данных, лицензионно-разрешительная деятельность). При этом специфические вопросы оборота робототехники вполне могут регулироваться иными отраслевыми актами, исключительно технические аспекты – конкретизироваться в нормативных документах, изданных уполномоченными органами с привлечением лиц, обладающих специальными познаниями.

Полагаем, что содержание и структура правовых механизмов, институтов, положений, долженствовавших наличествовать в нормативном правовом акте, закладывающем основу регулирования оборота роботов, должны:

• во-первых, устранять либо минимизировать риски и угрозы;

• во-вторых, способствовать стабильному, прогрессирующему развитию Российской Федерации в области робототехнических технологий;

• в-третьих, устанавливать правовой статус субъектов, определять требования, предъявляемые к ним;

• в-четвертых, упорядочивать, в том числе путем установления общеобязательных стандартов, процессы разработки и создания роботов;

• в-пятых, содержать исчерпывающий, согласованный, недвусмысленный перечень ключевых понятий.

Первоначальной задачей видится конструирование понятийного аппарата. Смыслообразующим термином в рассматриваемом контексте является «робот». Ранее было указано¹³⁵, что он имеет двухкомпонентную, программно-аппаратную структуру, каждый элемент которой должен удовлетворять обязательному признаку: компьютерная программа – обладать достаточным уровнем вычислительных мощностей, а аппаратная составляющая – предопределять возможность устройства по осуществлению механических манипуляций. Однако только два вышеуказанных признака видятся недостаточными для формулирования вышеуказанного понятия. Робот как объект материального мира может характеризоваться значительным количеством признаков. При этом отдельные из них являются присущими только определенному роботу и по сути являются индивидуально-неповторимыми, иные наличествуют у роботов, имеющих общее назначение, производителя, комплектацию и т. д., следующие, более обобщенные, признаки характеризуют всех без исключения роботов, позволяя отграничить их как от иных объектов материального мира, так и от иных достижений цифровых технологий. Для целей формулирования общего определения робота представляются релевантными последние, имеющие наибольший уровень обобщения признаки, которые в то же время являются достаточно конкретными для отграничения робота от иных явлений¹³⁶. Думается, такие признаки должны повторяться в каждом без исключения робототехническом устройстве, комплексе и системе; отражать его существенные характеристики; быть достаточно очевидными, не допускающими двойного и расширительного толкования.

Следующей ключевой задачей выступает определение круга субъектов, осуществляющих деятельность в сфере оборота роботов. Представляется, что указанных лиц отличает одна конститутивная особенность – область их интереса и профессиональной деятельности непосредственно связана с роботами, однако фактически выполняемая функция, форма такой деятельности, имеет существенные отличия. К примеру, едва ли можно отождествить лицо, производящее робототехнику, и хозяйствующего субъекта, извлекающего полезные свойства из эксплуатации робота. Их действия, совершаемые по отношению к роботу, неоднородны и требуют различного правового регулирования, как минимум требования по безопасности такой деятельности являются различными. В то же время высоковероятно появление иных субъектов – лиц, осуществляющих переработку, ремонт роботов, экспортирующих такую технику, профессионально выполняющих посреднические функции при ее гражданском обороте и т. д. Все вышеуказанные лица выполняют, по сути, разную деятельность применительно к одному объекту – робототехнике, различиями деятельности предопределяются и неодинаковые меры государственного контроля, надзора, учета, поощрения, собственно, все то, что составляет основу правового регулирования. При этом для обеспечения эффективности такого регулирования необходимо однозначно определиться с тем, на какие виды деятельности имеют распространение отдельные правовые механизмы, что невозможно без категорирования таких видов деятельности, что и выражается в выработке перечня субъектов.

Кроме этого, сами по себе роботы, как ранее отмечалось, являются неоднородными. Вернемся к тезису о наличии у них признаков, характерных только для отдельных видов роботов. Такими признаками может в том числе являться наличие у них вооружения, способности их к автономному совершению действий, указанные признаки могут состоять в различной степени опасности, создающейся при эксплуатации робота. Совершенно очевидно, что представляющие повышенную опасность, являющиеся технически сложными, выполняющие деятельность по перевозке людей роботы не могут подлежать тем же мерам контроля, в первую очередь технического, что и роботы, предназначенные для удовлетворения хозяйственно-бытовых нужд. В этой связи, равно как и в отношении субъектов, видится необходимым введение категорирования, градации применяемых правовых мер и, соответственно, выработки эффективного нормативного регулирования.

Помимо изложенного, принимая во внимание необходимость первоочередного обеспечения безопасности граждан в ходе оборота роботов, системообразующий нормативный правовой акт, по нашему мнению, должен содержать ограничения, налагаемые на оборот, устанавливать обязательные требования, адресованные субъектам, не удовлетворяя которым они не могут быть допущены к обороту, предусматривать технические требования по безопасному производству и, что видится принципиальным, закреплять виды роботов, запрещенных к обороту на территории Российской Федерации.

Также видится целесообразным нормативное закрепление дефиниции оборота роботов. Данное понятие должно в достаточной степени описывать все многообразие форм и методов взаимодействия с роботами, позволять с высокой определенностью отграничивать отдельные составляющие такого оборота, проводить их дифференцирование.

На основании изложенного, преследуя цели обеспечения стабильного, устойчивого, поступательного и опережающего развития Российской Федерации, недопущения вхождения в оборот небезопасных в эксплуатации роботов, нами в форме научного издания был предложен инициативный проект федерального закона «Об обороте роботов, их составных частей (модулей)»¹³⁷ (далее – законопроект).

Текст законопроекта приведен в приложении № 1, пояснительная записка законопроекта приведена в приложении № 2, а структура законопроекта приведена в приложении № 3.

В законопроекте учтено, что правоотношения, возникающие по поводу некоторых материальных объектов, фактически подпадающих под определение роботов, уже урегулированы отдельными нормативными правовыми актами, ввиду чего в положения ч. 2 ст. 1 введено коллизионное уточнение, определяющее порядок применения законопроекта во взаимосвязи с иными правовыми предписаниями. Следует отметить, что предлагаемый проект федерального закона не представляет собой единственной нормативной основы регулирования правоотношений, возникающих по поводу роботов. Изначально предполагается его применение в системной взаимосвязи с иным отраслевым законодательством. Тем не менее законопроект устанавливает основы оборота роботов и, хотя и не затрагивая узкие аспекты применения и разработки роботов в отдельных сферах, закладывает фундаментальные, сквозные механизмы и институты правового регулирования.

Далее, в ст. 2 законопроекта излагаются цели нормативного регулирования, закладываемые законопроектом. Их смысл и содержание предопределены задачами, установленными Концепцией развития регулирования отношений в сфере технологий искусственного интеллекта и робототехники до 2024 года¹³⁸.

После указания целей в законопроекте изложен дефинитивный аппарат, охватывающий все области оборота роботов. При конструировании определений мы исходили из необходимости соблюдения консенсуса между абстрактностью изложения, необходимой для эффективного и стабильного применения права, и достаточной конкретизацией, не допускающей двойного толкования, обеспечивающей формальную определенность, точность, ясность, недвусмысленность правовых предписаний.

Основополагающей для наших рассуждений является дефиниция робота, под которым, согласно предложенному законопроекту, предлагается понимать «продукт достижения цифровых технологий (робототехническое устройство, комплекс, систему), состоящий их двух и более составных частей (модулей), управляемый средствами заложенной в него компьютерной программы и способный как к выполнению заранее запрограммированных человеком действий, так и к автономному решению задач»¹³⁹.

Заметим, что указанное определение корреспондирует вышеприведенным рассуждениям относительно программно-аппаратной природы робота. Указание на то, что робот состоит минимум из двух частей, необходимо понимать как обязательное наличие в нем и компьютерной программы, содержащей алгоритмы действий, и аппаратной составляющей, посредством механических движений которой реализуются заложенные в цифровой код компьютерной программы алгоритмы и, соответственно, достигаются цели, ставящиеся перед роботом.

Отметим также достаточное описание самого программного элемента в изложенном определении. Обозначенную «способность к выполнению заранее запрограммированных действий» необходимо интерпретировать как возможность робота за счет элементов его аппаратной части совершать определенные механические манипуляции, в рамках реализации алгоритмов его компьютерной программы. Поясним дополнительно, что алгоритм компьютерной программы есть набор команд, осуществляемых в определенной последовательности. Сам по себе он представляет некоторую строку кода программы – запись в виде символов. Получая соответствующий сигнал от устройства управления либо от датчиков, робот реализует указанный алгоритм и в рамках него совершает определенные манипуляции. Данные алгоритмы могут быть различной длины и сложности, сообразно чему совершаемые в рамках их реализации механические манипуляции могут являться аналогично различными по содержанию: некоторые алгоритмы, к примеру, предполагают только однократное перемещение одной части робота в пространстве, иные – длительные, взаимосвязанные действия робота, вследствие которых он получает итог, сопоставимый с результатами деятельности человека. Таким образом вышеуказанные алгоритмы могут быть различной длины, содержания, целевой направленности. В затронутом контексте существенно следующее: все механические манипуляции робота являются заранее определенными содержанием его алгоритмов, соответственно они могут именоваться заранее запрограммированными.

Названные рассуждения справедливы до тех пор, пока исчерпывающий перечень алгоритмов вносится на стадии разработки и в ходе функционирования робота не подлежит существенным изменениям. Однако поступательное развитие технологий искусственного интеллекта позволяет предполагать, что в дальнейшей перспективе роботы могут обрести способность к самообучению. Иными словами, робототехническое устройство, способное самостоятельно отбирать, накапливать и использовать информацию внешней среды (в этом и состоит самообучение), может самостоятельно (автономно), без участия человека, внести изменения в запись своего программного кода, изменить алгоритмы и обрести способность к совершению иных действий.

Приведем важное уточнение: в случае если в программу заложена способность к анализу определенного массива данных, выявлению закономерностей и составлению определенных алгоритмов, такую программу едва ли можно справедливо отождествить с искусственным интеллектом, поскольку, во-первых, пределы самообучения заранее предопределены разработчиком, во-вторых, самообучение в иных отраслях невозможно. Искусственный интеллект, а соответственно, и роботов, в которых он реализован, отличает способность к самообучению во всех сферах, не определенных разработчиком.

Таким образом, программа, способная к самостоятельному формулированию алгоритмов, способна и к совершению действий, заранее не предполагаемых разработчиком, ввиду чего она имеет признак автономности.

После формулирования ключевого определения робота в тексте законопроекта приводится поступательное раскрытие иных дефиниций, представляющихся значимыми для регулирования. Одним из наиболее значительных является понятие «оборот роботов». Конструируя его, мы нашли невозможным использование любых абстрактных, общих выражений, поскольку данное понятие напрямую коррелирует и определяет границы действия законопроекта. Ввиду изложенного мы пришли к убеждению о целесообразности казуистического перечисления всех форм действий, которые могут быть совершены с роботом, в которых робот предопределяет само поведение и является основным объектом, по поводу которого указанные действия совершаются.

Условно оборот роботов можно подразделить на следующие компоненты:

Производство – согласно авторскому описанию, «разработка, производство, испытания, установка».

Использование – согласно авторскому описанию, «использование (применение), приобретение, сбыт, хранение, перевозка, транспортирование».

Несение бремени содержания – согласно авторскому описанию, «монтаж, техническое обслуживание, ремонт».

Государственное регулирование оборота как особая форма оборота – согласно авторскому описанию, «учет, изъятие».

Конечный этап потребления – согласно авторскому описанию, «утилизация, уничтожение».

Контроль перемещения через Государственную границу Российской Федерации – согласно авторскому описанию, «ввоз роботов, их составных частей (модулей) в Российскую Федерацию и вывоз их из Российской Федерации».

Таким образом, под оборотом роботов необходимо понимать – использование (применение), приобретение, сбыт, разработка, производство, испытания, установка, монтаж, техническое обслуживание, ремонт, утилизация, учет, хранение, перевозка, транспортирование, изъятие, уничтожение роботов, ввоз роботов в Российскую Федерацию и вывоз их из Российской Федерации.

В последующих положениях инициативного законопроекта излагается дифференциация роботов по различным, устойчивым и существенным признакам.

В ст. 6 законопроекта¹⁴⁰ предложено деление роботов на гражданских и служебных. Признаками дифференциации в данном случае выступают цель и субъект использования. В случае если роботы находятся в свободном гражданском обороте (права собственности на них могут возникать у любых субъектов), соответственно, целями их использования является удовлетворение имущественных и частных интересов. Такие роботы признаются гражданскими.

Если робот принадлежит на праве собственности государственным военизированным организациям, исчерпывающий перечень которых приведен в тексте законопроекта, можно обоснованно предположить, что он используется для оказания содействия в реализации компетенции данных органов и, соответственно, априори реализует публичные интересы, выступая средством исполнения публичных полномочий. Такой робот признается служебным.

Мы не исключаем возможности использования государственными военизированными организациями роботов, предназначенных для реализации частных интересов, однако в данном случае подобные роботы являются гражданскими, поскольку они не ограничены в обороте и не применяются для реализации публично-властной компетенции указанных органов. Государственная военизированная организация в данном случае выступает как субъект права собственности и, соответственно, как участник гражданско-правовых отношений (публично-правовое образование, собственник имущества).

Будучи использованы в отдельных сферах, составляющих части деятельности органов по реализации публичной компетенции, служебные роботы подразделяются на правоохранительные и военные.

В ст. 11 предложенного законопроекта¹⁴¹ изложено деление роботов в зависимости от характера и пределов человеческого участия в их деятельности. В данном случае поясним, что под управляемым роботом понимается такой робот, механические манипуляции которого:

• либо непосредственно детерминированы сигналами управления, поступающими от человека;

• либо реализуются в рамках сложного алгоритма, однако инициируется данный алгоритм сигналом управления, поступающим от человека.

Автономность робота не исключает человеческого участия, но при автономности человек не воздействует на совершение роботом механических манипуляций.

В ст. 14 приведены классы опасности, возникающей в процессе функционирования роботов¹⁴². Эта категория и полагается в основу дальнейших правовых институтов, предлагаемых законопроектом. В данном случае критерием разграничения выступает степень опасности, возникающей в процессе функционирования. Такая опасность может детерминироваться различными характеристиками робота: габаритами, возможностью действий, использования при изготовлении опасных материалов, привлечения робота к работам, связанным с риском для жизни. Помимо изложенного, опасность могут представлять режимы работы робота: способность достигать высоких скоростей, перемещаться в воздушном пространстве, использовать режим стелс-технологий и т. д. Выработка критериев является дискреционной прерогативой специально уполномоченного государственного органа.

Принимая во внимание динамичность оборота роботов как отдельной области человеческой деятельности, не все положения законопроекта сформулированы нами как предельно конкретные. В отдельных случаях нормативный акт имеет непрямое действие и отсылает к актам Правительства России или специально уполномоченного государственного органа. Подобная практика существует и в иных нормативных правовых актах (федеральных законах). Изложенное сообразуется с концепцией законопроекта, которая состоит в заложении основы правового регулирования и возможности применения в тесной единой системе с иными нормативными правовыми актами, к которым относятся в том числе и акты указанных органов.

Существенным нововведением является предложение по созданию вышеуказанного специально уполномоченного органа. Это представляется необходимой мерой, поскольку выработка государственной политики и нормативное регулирование в данной области требуют наличия специально уполномоченного, обладающего необходимыми навыками и познаниями аппарата сотрудников.

Кроме этого, законопроектом установлены ограничения оборота роботов. Данные положения непосредственно коррелируют с уголовным правом, а представленные в законопроекте требования информационной и технологической безопасности позволяют конструировать конкретные составы преступлений.

Учитывая необходимость создания комфортных и безопасных условий как базиса для конструктивной и продуктивной деятельности по обороту роботов, законопроектом особо отмечается, что нарушение требований, изложенных в нем, влечет за собой дисциплинарную, гражданско-правовую, административную или уголовную ответственность в соответствии с законодательством Российской Федерации.

Принятие законопроекта приведет к положительным последствиям в виде прорывного научно-технологического и социально-экономического развития Российской Федерации.

Глава 2.
СИСТЕМООБРАЗУЮЩИЕ НАЧАЛА И ТЕОРЕТИЧЕСКИЕ ОСНОВЫ УГОЛОВНО-ПРАВОВОГО РЕГУЛИРОВАНИЯ РОБОТОТЕХНИКИ

§ 2.1. Особенности применения риск-ориентированного подхода к уголовно-правовому регулированию робототехники

Человечество стоит на пороге эпохи, когда расширение горизонтов использования искусственного интеллекта развязывает новую промышленную революцию. Его применение неизбежно порождает правовые вопросы¹⁴³, требующие оперативного вмешательства¹⁴⁴ и приводит к проблеме этического выбора¹⁴⁵.

В современном мире роботы и искусственный интеллект стали неотъемлемой компонентой жизнедеятельности человека¹⁴⁶, они улучшают нашу повседневную жизнь¹⁴⁷. Машины, работающие на основе искусственного интеллекта, все чаще становятся посредниками в наших социальных, культурных, экономических и политических взаимодействиях¹⁴⁸.Последствия появления и развития разумных роботов для социальных отношений, общества в целом обсуждаются уже не только в связи с рисками и преимуществами автоматизации, но и в контексте угрозы утраты контроля за саморазвивающимся автономным искусственным интеллектом¹⁴⁹.

Использование роботов при выполнении рутинных процессов и операционной деятельности, на которую ранее был способен только человек, не только значительно облегчило тяжелый труд, определило вектор на переориентирование ресурсов человечества для выполнения более творческой работы, но и поставило перед мировым сообществом ряд глобальных вопросов. В первую очередь обусловленных стремительным развитием робототехники и искусственного интеллекта и делегированием им функционала в сферах очень значимых и крайне «чувствительных» для человечества, как с точки зрения этики, так и права. Понимание поведения систем искусственного интеллекта необходимо для нашей способности контролировать их действия, извлекать из них выгоды и минимизировать их вред¹⁵⁰.

Следует поддержать мнение А. Турчина и Д. Денкенбергера, которые считают, что искусственный интеллект может представлять глобальный катастрофический риск на различных стадиях своей эволюции. Сегодня ни одно решение не способно покрыть все риски, связанные с применением робототехники и искусственного интеллекта¹⁵¹.

Как справедливо отмечает М. М. Бабаев, «экономические, технические, технологические, информационные, демографические, экологические и иные новации – все они, как известно, обладали и обладают одновременно как созидательным, так и разрушительным потенциалом. Вытекающие отсюда усложнение и «проблематизация» условий жизни людей обострили систему межличностных отношений, оказались все более «насыщенной» средой возникновения напряженности и бесконечных этнических, религиозных и других социальных конфликтов. В конечном счете современный социум (и Россия в том числе) превратился в «общество всеобщего риска», иначе говоря, общество, производящее высокие технологические и социальные риски во всех сферах своей жизнедеятельности – экономической, политической, социальной»¹⁵².

Выработкой этических норм для робототехники и систем с искусственным интеллектом сегодня заняты как экспертное сообщество¹⁵³, крупные технологические компании, занимающиеся разработкой цифровых технологий¹⁵⁴, так и международные организации¹⁵⁵. Разработка этичных роботов – одна из самых сложных задач в области искусственного интеллекта¹⁵⁶. Искусственный интеллект стал предметом широких и неоднозначных дискуссий¹⁵⁷ Этические дебаты поднимают две основные проблемы: первая – концептуальная, связанная с отсутствием согласия по определению искусственного интеллекта; вторая – функциональная, проистекающая из различного отношения к технологии и праву¹⁵⁸.

Вопрос правового регулирования робототехники и искусственного интеллекта стоит во главе повесток ООН¹⁵⁹, G 20¹⁶⁰, FHI¹⁶¹, КОМЕСТ¹⁶², МСЭ¹⁶³, ЕС¹⁶⁴ и ОЭСР¹⁶⁵. В более чем 60 странах мира приняты либо разрабатываются концепции правового регулирования и развития искусственного интеллекта и робототехники¹⁶⁶. При этом во всех них отмечается целесообразность скорейшей оценки рисков внедрения робототехники и искусственного интеллекта, и минимизации их последствий¹⁶⁷.

Существующие технологические стандарты робототехники сосредоточены на физическом взаимодействии человека и робота, то есть на предотвращении вреда¹⁶⁸ и минимизации рисков¹⁶⁹. Крайне важно, чтобы оценка рисков проводилась не только с учетом собственных интересов производителя роботов, но и с точки зрения других заинтересованных сторон¹⁷⁰. Разработка инновационных решений по управлению рисками имеет стратегическое значение, поскольку производитель роботов фактически несет ответственность за весь вред, причиненный в результате использования его продукта¹⁷¹, в том числе за ошибки роботов на основе искусственного интеллекта¹⁷².

Риски – сложное социальное явление, корни которого в природе общества, государства и человека¹⁷³. Риск, представляющий собой универсальную категорию социально значимого поведения, в уголовном праве должен рассматриваться комплексно, с учетом особенностей всех типов рискованного поведения. Он лежит в основе любой деятельности, может иметь положительную направленность как способ снятия социальной напряженности и достижения общественно полезных целей и отрицательную – в виде угрозы причинения реального вреда охраняемым интересам¹⁷⁴. В рисках поразительным образом сочетаются вызовы и угрозы существующему правопорядку и его возможным изменениям в условиях роботизации¹⁷⁵.

В свою очередь, если рассуждать применительно к уголовно-правовым и криминологическим реалиям, риски современного общества являются фоном, на котором разворачиваются, и фактором, который определяет основные направления уголовной политики страны. Область этих рисков – вся наша действительность, все без исключения сферы проявления человеческой активности, которая либо сознательно генерирует, либо допускает возможность наступления неких опасных и вредных последствий. Не только учет реального состояния, но и прогностическую оценку будущего, включающую оценку рисков, надо рассматривать как непременную составляющую интеллектуального обеспечения грамотной уголовной политики и, в частности, криминологии¹⁷⁶.

Мы поддерживаем предложение В. Н. Воронина о введении в механизм правового регулирования нового термина «уголовно-правовой риск» и оценка на основе новой разработанной концепции рисков всех цифровых технологий посредством установления их потенциальной опасности для общества¹⁷⁷.

Рискология, и ее частное проявление – криминальная рискология – явление достаточно новое и мало изученное в российской криминологии, уголовной политике и в ее составной части – профилактической политике¹⁷⁸. Отсутствие серьезного базиса криминологических исследований, посвященных исследованию понятия риска, создает значительные препятствия для повышения эффективности уголовно-правового регулирования.

А криминологическое исследование рисков применения робототехники и искусственного интеллекта явление достаточно новое не только для отечественной науки, но и для мировой.

Настоящее исследование представляет собой одну из первых попыток применения риск-ориентированного подхода к сфере робототехники, определения ключевых криминогенных рисков, на основе которых создана матрица рисков.

Исследование ключевых аспектов применения риск-ориентированного подхода к робототехнике невозможно без уяснения ключевого понятия – риска. В данном аспекте мы полностью солидарны с мнением М. М. Бабаева и Ю. Е. Пудовочкина о том, что, «в контексте уголовной политики и криминологии данная формула должна звучать так: риск – это возможная криминогенная опасность»¹⁷⁹.

Возможная опасность (риск) и собственно опасность отличаются друг от друга: первая – это потенциал, нереализованная, но реальная, то есть существующая, угроза. Действительная опасность есть реализованный риск. Последний фактически следует рассматривать как прямую угрозу охраняемым законом ценностям, стоящую «в шаге» от события (факта), который принято называть общественно опасным и реагировать на него соответствующим образом в рамках решения задач криминализации. Или же в шаге от деяния, уже признанного преступлением¹⁸⁰.

В разрезе правоотношений с участием роботов все чаще появляются исследования, посвященные анализу причинения вреда последними и оценке правовых последствий указанного вреда в рамках существующих уголовно-правовых норм.

Например, Ю. В. Грачева и А. А. Арямов в своей работе¹⁸¹ указывают, что роботы сегодня могут стать полноправными исполнителями ряда преступлений, таких, как:

• террористический акт (ст. 205 УК РФ), который может выражаться как в совершении взрыва, поджога, отравлении источника водоснабжения, лишении жизни людей с использованием робототехники;

• вандализм (ст. 214 УК РФ): легко себе представить использование дрона, переносящего капсулу с краской и сбрасывающего ее на здание или сооружение для их осквернения;

• приведение в негодность объектов жизнеобеспечения (ст. 215.2 УК РФ) путем их разрушения, повреждения или приведение иным способом в негодное для эксплуатации состояние с помощью роботов. Совершение этих действий из корыстных или хулиганских побуждений квалифицируется по ст. 215.2 УК РФ; при отсутствии названных мотивов, но при наличии цели подрыва экономической безопасности и обороноспособности РФ – по ст. 282 УК РФ;

• незаконное проникновение на подземный или подводный объект, охраняемый в соответствии с законодательством Российской Федерации о ведомственной или государственной охране, с использованием робототехники, включая дроны (ст. 215.4 УК РФ);

• хищение ядерных материалов или радиоактивных веществ путем применения робототехники для незаконного проникновения в помещение или хранилища и завладения предметом преступления (ст. 221 УК РФ);

• незаконное приобретение, передача, сбыт, хищение оружия, его основных частей, боеприпасов, взрывчатых веществ, взрывных устройств (ст. 222, 222.1, 226 УК РФ), а также его незаконное перемещение через таможенную границу Таможенного союза в рамках ЕврАзЭС либо государственную границу РФ государствами – членами Таможенного союза в рамках ЕврАзЭС (ст. 226.1 УК РФ) с использованием робототехники, особенно дронов;

• нападение на морское или речное судно в целях завладения чужим имуществом, совершенное с применением насилия либо с угрозой его применения посредством использования робототехники, включая дроны (ст. 227 УК РФ)¹⁸².

В. С. Овчинский сетует на недооценку опасности использования робототехники террористами и экстремистами¹⁸³.

Г. Г. Камалова считает, что искусственные интеллектуальные системы могут быть использованы для совершения разнообразных преступлений, включая:

«– причинение смерти или вреда здоровью человека;

– нарушение права на неприкосновенность частной жизни;

– незаконное получение или неправомерное разглашение охраняемой законом тайны;

– нарушение правил охраны труда;

– мошенничество;

– нарушение безопасности дорожного движения и эксплуатации транспорта;

– террористический акт;

– нарушение правил обращения с оружием и предметами, представляющими повышенную опасность для окружающих;

– нарушение правил оборота наркотических и психотропных веществ;

– преступления в сфере компьютерной информации;

– иные»¹⁸⁴.

Исследователи отмечают, что преимущества в использовании робототехники для совершения преступлений очевидны:

• во-первых, возможность их применения в опасных зонах, в том числе биологически опасных;

• во-вторых, физическая безопасность лица, использующего эти технологии для совершения преступления, поскольку оно находится, как правило, далеко от места его использования, у него нет страха быть обнаруженным, получить ранения или погибнуть, что психологически облегчает принятие решений, связанных с причинением вреда;

• в-третьих, по использованной робототехнике трудно идентифицировать нападавшего¹⁸⁵.

В то же время И. Н. Мосечкин полагает, что в отечественном уголовном законодательстве сегодня «отсутствуют какие-либо составы преступлений, связанные с совершением общественно опасных деяний посредством использования нейронных сетей, искусственного интеллекта или самим искусственным интеллектом»¹⁸⁶.

Мы солидарны с мнением европейских специалистов уголовного права, считающих что «лица, которые производят, программируют, продают и используют роботов, должны подлежать уголовной ответственности за умышленное преступление, если они сознательно используют робота для причинения вреда другим. Человек, позволяющий самообучающемуся роботу взаимодействовать с людьми, может предвидеть, что робот выйдет из-под контроля и причинит вред. Уже сам по себе этот факт может повлечь за собой ответственность за халатность»¹⁸⁷.

По мере того как роботы становятся более автономными¹⁸⁸, люди будут считать их гораздо ответственными за правонарушения¹⁸⁹. Автономный характер роботов создает проблемы предсказуемости и контроля, которые могут сделать правовое регулирование неэффективным, особенно если робот представляет катастрофический риск¹⁹⁰, как например боевой робот.

Не вдаваясь в полемику относительно применимости приведенных норм в уголовно-правовой оценке деяний с использованием робототехники, отметим, что достаточно сложно регламентировать правовые аспекты с участием роботов при отсутствии определения уровня риска, который может быть причинен. Однако, подобного рода исследования являются подтверждением тому, что криминогенные риски применения робототехники очевидны и игнорировать их опасность уже невозможно.

Между тем, криминогенные риски, в силу своего статуса изначального «участника» детерминационного процесса, находятся в зоне относительной недоступности для прямого применения наиболее острых средств воздействия, которыми располагает уголовная политика и, в частности, уголовное право: здесь нет преступления и нет преступника¹⁹¹ (по крайне мере пока).

Применительно к сфере робототехники такое обстоятельство обусловлено также и относительной новизной рассматриваемых отношений.

Анализ специальной научной литературы, посвященной робототехнике, свидетельствует о наличии значительного числа классификаций роботов в зависимости от назначения и решаемого класса задач и др.¹⁹² Между тем, для целей настоящего исследования мы ориентировались на критерии, имеющие значимость при оценке криминогенного потенциала. На основе проведенного анализа нами разработана развернутая классификация роботов, имеющих значимость при оценке криминогенного потенциала (рис. 1).

Рис. 1. Классификация роботов, имеющих значимость при оценке криминогенного потенциала

Имеющаяся на сегодняшний день литература по рискологии изобилует различными подходами и конструкциями классификации рисков. Однако до сих пор еще не разработано общепринятой и одновременно исчерпывающей классификации рисков, что объясняется их многообразием, а также появлением новых видов¹⁹³. Указанное верно и для криминологических классификаций. Систематизация и классификация современных криминологических знаний и представлений о них многомерна и многолика. Их криминологическая группировка может быть произведена по различным основаниям¹⁹⁴.

Наибольшее внимание при классификации криминологических рисков применения робототехники заслуживает подход по критерию содержания структурных характеристик риска таких, как опасность, подверженность риску, уязвимость, взаимодействие с другими рисками.

Конкретизируя указанный подход, нами выделяются два ключевых основания, которые положены в основу, при оценке рисков:

1) по тяжести последствий при причинении вреда роботами;

2) по степени общественной опасности.

Отметим, что при классификации по тяжести последствий при причинении вреда роботами ввиду необходимости отображения как величины риска, так и сочетания его компонентов, нами применялась матрица рисков (см. ниже).

Охарактеризуем ее элементы подробнее.

Проведенное исследование свидетельствует о том, что по тяжести последствий при причинении вреда роботами можно выделить следующие категории рисков:

1) незначительный риск;

2) существенный риск;

3) высокий риск;

4) критический риск.

Рассмотрим указанные виды риска более подробно.

1. Незначительный риск. При незначительных рисках уровень негативного воздействия будет минимальным и может повлечь за собой незначительные негативные последствия.

Например, это может быть связано с работой чат-ботов, которые способны получить доступ к некоторой цифровой информации, не представляющей значительной коммерческий или правовой ценности, но находящейся в закрытом поле. Последствия таких рисков могут быть скорректированы путем оперативного применения правовых или технических инструментов.

Однако следует учесть, что, если не принять необходимых мер (доработка программного обеспечения, правовой контроль и пр.) незначительный риск может повлечь за собой в будущем более тяжелые последствия.

2. Существенный риск. Указанный вид риска может повлечь за собой более тяжелые последствия, нежели предыдущий. Он также предотвратим, как и предыдущий, но его последствия способны принести вред более значительный. В частности, это связано со сбоями в программном обеспечении роботов, способными внести разлад в ту или иную систему жизнеобеспечения или профессиональной деятельности, а также с намеренным использованием роботов для получения доступа к какой-либо информации, способной серьезно дискредитировать субъекта тех или иных отношений или нанести ему финансовый, психологический или физический вред. Данный вид риска в случае его возникновения или возможности возникновения должен быть обязательно взят под контроль, чтобы избежать последствий его проявления.

3. Высокий риск. Данный вид риска способен вызвать очень серьезные последствия, особенно в том случае, когда создатель программного обеспечения понимает и осознает собственные действия. Чаще всего это связано с разработками в области создания нового оружия, военных роботов, а также роботов, которые способны нанести серьезный физический вред объектам живой или неживой природы. Данный риск часто заранее предопределен, о его возможном проявлении известно как разработчикам, так и пользователям. Достаточно часто сокрытие указанных рисков связано с желанием разработчиков или заказчиков достичь той или иной цели без учета последствий ее достижения для объекта или субъекта воздействия. Указанный вид риска должен быть обязательно учтен в правовом поле, поскольку последствия такого риска могут стать фатальными.

4. Критический риск. Чаще всего критические риски связаны с прямой угрозой объектам живой и неживой природы и непосредственно человечеству. Критический риск возникает и тогда, когда тот или иной объект, обладающий искусственным интеллектом, выходит из-под контроля человека и способен повлечь за собой смерть и разрушения. В качестве примера можно привести суперинтеллект – автономную боевую систему, которая может представлять потенциальную опасность. Гипотетически, будучи результатом высоко технологичных исследований, суперинтеллект может обрести сознание, проявить враждебность и создать угрозу миру и безопасности человечества. Преодоление критического риска сопряжено со значительными, порой непреодолимыми трудностями. Соответственно, на первый план должно выходить недопущение указанного риска максимально возможными способами. При возникновении критического риска необходимо быстрое принятие решений по его нивелированию.

В представленной матрице (рис. 2) по одной из шкал прописан уровень тяжести последствий при причинении вреда роботами, по второй – вероятность причинения такого вреда. Из данной матрицы видно, что чем выше вероятность причинения вреда роботами, тем выше уровень риска (он может быть, в большей степени, высоким или критическим). Чем ниже вероятность причинения вреда, тем ниже уровень непосредственного риска (незначительный или существенный).

Рис. 2. Матрица степени причинения вреда роботами по категории рисков

Второе основание криминологической классификации роботов с точки зрения риск-ориентированного подхода – по степени общественной опасности. В частности, роботы могут позиционироваться как:

1. Опасные для мира и безопасности человечества. Здесь речь идет о возможности тотального уничтожения роботами как человечества, так и живой и неживой природы. Правовой и физический контроль человека ограничен или отсутствует;

2. Опасные для жизни и здоровья людей. В частности, опасность заключается в возможности посягательства роботов на здоровье людей, покушения на убийство или его совершение, совершение террористических актов, захват заложников локальные военные конфликты и пр.;

3. Опасные для объектов живой природы. К ним могут быть отнесены различные экологические катастрофы техногенного характера с участием роботов, намеренное или неконтролируемое уничтожение флоры и фауны. Здесь необходимо указать на связь рассматриваемого и предыдущего критериев, так как нанесение вреда живой природе влечет за собой и нанесение вреда человеку, при этом, данный вред может необратимым;

4. Опасные для неживых материальных объектов. Данный критерий охватывает посягательства на собственность, здания, строения, сооружения и пр. Вред, нанесенный в рамках рассматриваемого критерия, может иметь существенные финансовые последствия, так как может повлечь за собой значительные убытки, кроме того, вред может быть нанесен и объектам культурного значения, а также объектам, имеющим историческую ценность, вплоть до их утраты.

В матричной форме распределение основных видов роботов по степени общественной опасности и тяжести последствий, причиненных роботами вреда, исходя из их функционального предназначения (рис. 3) выглядит следующим образом:

Рис. 3. Матрица степени причинения вреда роботами по степени общественной опасности

Согласно рис. 3, можно отметить, что самая катастрофическая тяжесть последствий при причинении вреда роботами может иметь место при применении военных роботов (боевых роботов, летального автономного оружия, смертоносных автономных систем вооружения), поскольку данная категория рассматриваемых объектов запрограммирована, в первую очередь, на агрессивные действия, применение силы и причинения разрушений.

Высокая тяжесть последствий в различных степенях общественной опасности может быть нанесена различными по назначению роботами: так, для мира и безопасности человечества достаточно опасными могут быть космические роботы (как вид военных роботов), поскольку негативное воздействие таких роботов из космоса может нанести человечеству и планете непоправимый урон в случае выхода из-под контроля человека или же в результате запрограммированного технического решения последнего.

Правоохранительные роботы могут причинить высокую тяжесть последствий для жизни и здоровья людей, это может быть связано с определенными командами, которые заложены в программном обеспечении на этапе создания и которые могут быть направлены, например, на подавление демонстраций, массовых бунтов. Кроме того, правоохранительные роботы, так же как военные, запрограммированы на агрессивные действия против человека при необходимости. По этой причине выход таких роботов из-под контроля в процессе наведения общественного порядка также может иметь фатальные последствия.

Для объектов живой природы высокую опасность, и соответственно, высокую тяжесть последствий могут представлять промышленные роботы, так как, выполняя поставленные перед ними задачи, такие роботы лишены возможности анализировать, насколько высок уровень экологической опасности от совершаемых ими действий. В этой связи, действия промышленных роботов, например, в добывающей или лесной промышленности, могут привести к экологической катастрофе.

Спасательные роботы (как вид правоохранительных роботов) могут представлять высокую опасность для неживых материальных объектов, так как основная задача таких роботов, заложенная на этапе программирования, – спасать людей. Соответственно, усилия, которые при этом прилагаются, могут иметь отрицательные последствия, например, для зданий или природных территорий, если таковые будут подвергнуты массированным разрушениям для реализации задачи по спасению людей, поскольку выбор альтернативных вариантов в подобных экстремальных ситуациях – это прерогатива человека разумного.

Средняя тяжесть последствий свойственна вреду, который правоохранительные роботы могут причинить миру и безопасности человечества. Например, правоохранительные роботы при выполнении поставленных перед ними задач могут нарушить функционирование критически важных и потенциально опасных объектов.

Промышленные и медицинские роботы также могут причинить вред жизни и здоровью людей, последствия которого могут быть отнесены к средним. Например, медицинский робот, используемый для оперативного вмешательства, может совершить неточные или ошибочные действия, причинив тем самым вред жизни и здоровью человека.

Низкую и незначительную опасность для всех рассматриваемых категорий представляют домашние, образовательные и научные роботы. Опасность может быть связана с ошибками в программном обеспечении, различными техническими сбоями в работе роботов и пр. Указанные аспекты могут стать причиной:

• снижение скорости получения и обработки научной информации и снижение по этой причине эффективности научных исследований (исследовательский робот);

• причинение легкого и средней тяжести вреда здоровью по причине неисправности робота (домашние роботы);

• сокращение числа рабочих мест, невозможность выполнения поставленной производственной задачи, невыполнение плана производства, нарушение охраны труда и техники безопасности (промышленные роботы).

Таким образом, приведенная криминологическая классификация роботов в рамках риск-ориентированного подхода наглядно демонстрирует прямую корреляцию между степенью общественной опасности роботов и тяжестью последствий причиненного ими вреда.

Следует также отметить, что тот или иной риск может возникнуть, в целом, по нескольким основным причинам, связанным с конструктивными особенностями роботов.

1. Причины, связанные с механической подсистемой роботов:

• недостатки механизмов (приводов, моторов и т. д.), которые не были выявлены на этапе производства (разработки) или же проявились в процессе эксплуатации роботов;

• умышленное создание недекларированных возможностей механизмов роботов в целях совершения тех или иных действий противоправного характера.

2. Причины, связанные с цифровой подсистемой роботов:

• недостатки программного обеспечения (уязвимости программного обеспечения, случайные ошибки программного обеспечения), которые не были выявлены на этапе разработки или же проявились в процессе эксплуатации роботов;

• умышленное программирование (перепрограммирование) роботов на совершение тех или иных действий противоправного характера (недекларированные возможности программного обеспечения).

3. Причины, связанные с подсистемой энергопитания роботов:

• недостатки питающих элементов (уязвимости питающих элементов), которые не были выявлены на этапе разработки или же проявились в процессе эксплуатации роботов;

• умышленное вмешательство в работу энергоэлементов роботов, направленное на совершение тех или иных действий противоправного характера (нарушение правил эксплуатации и норм безопасности энергопитания роботов).

Риск-ориентированный подход представляет собой наиболее прогрессивный и эффективный базис для регулирования рассматриваемых отношений.

В рамках проведенного исследования нами наглядно продемонстрировано наличие реальных рисков для мира и безопасности человечества, жизни и здоровья людей, объектов живой природы, неживых материальных объектов от применения роботов. Это обусловливает необходимость скорейшего признания роботов источниками повышенной опасности¹⁹⁵ либо автономными источниками повышенной опасности¹⁹⁶ и принятия соответствующего регулирования.

На основе системного анализа теоретически обоснована необходимость и целесообразность применения риск-ориентированного подхода к робототехнике, дана оценка признакам роботов, имеющим значение при оценке криминогенного потенциала.

В рамках проведенного исследования оценена тяжесть последствий при причинении вреда роботами (от незначительного до критического риска), и приведена матрица по вероятности их наступления, а также разработана авторская криминологическая классификация роботов по двум основаниям: по степени общественной опасности и по потенциальной тяжести последствий при причинении вреда роботами.

Автором также делается вывод, что тот или иной риск может возникнуть, в целом, по нескольким основным причинам, связанным с конструктивными особенностями роботов разработана также типология причин в зависимости от них.

Стоит также заключить, что сделанные в работе выводы и рекомендации могут послужить основой для реализации риск-ориентированного подхода, заложенного в основу принципов регулирования отношений в российской Концепции развития регулирования отношений в сфере технологий искусственного интеллекта и робототехники. Кроме того, необходимо отметить, что приведенная в работе матрица рисков может быть использована для создания рамок регуляторного воздействия, оценки последствий потенциального вреда и их минимизации.

§ 2.2. Социальная обусловленность и запрос на уголовно-правовое регулирование робототехники

Норма уголовного права является эффективной, если она социально обусловлена¹⁹⁷. Детерминированность новых уголовно-правовых предписаний о робототехнике также следует считать основой их эффективного действия.

А. В. Незнамов, выделяя дискуссионные вопросы, связанные с регулированием робототехники, задается также вопросом целесообразности корректировки института ответственности за вред, причиненный роботом или системой искусственного интеллекта. И одновременно, продолжая логическую мысль, задается следующим резонным вопросом: если да, то куда?¹⁹⁸

Утверждение в августе 2020 года Концепции развития регулирования отношений в сфере технологий искусственного интеллекта и робототехники до 2024 года¹⁹⁹, несомненно, стало краеугольным камнем в вопросе становления отечественной системы правового регулирования отношений, связанных с внедрением указанных технологий в жизнедеятельность общества. И позволило наметить ключевые векторы дальнейшей правотворческой деятельности.

В числе задач, заявленных в Концепции, среди прочего обозначены «создание основ правового регулирования новых общественных отношений, формирующихся в связи с применением систем искусственного интеллекта и робототехники, определение правовых барьеров, затрудняющих разработку и применение систем искусственного интеллекта и робототехники в различных отраслях экономики и социальной сферы»²⁰⁰.

Как справедливо отмечается в Концепции, «одним из основных препятствий для расширения применения систем с использованием искусственного интеллекта и робототехники является отсутствие достаточной степени доверия к ним со стороны общества. Повышение степени автономности таких систем, снижение контроля человека за процессом их применения, не полностью прозрачный процесс принятия решений создают общественный запрос на регуляторные ограничения применения систем искусственного интеллекта и робототехники»²⁰¹. В свою очередь подобного рода запрос представляет собой не что иное, как социальную обусловленность уголовно-правового регулирования.

Справедливо отмечал А. И. Марцев, что «преступление представляет собой один из видов преобразовательной деятельности, поскольку, совершая преступление, субъект производит в объекте определенные изменения или создает своей деятельностью предпосылки для таких изменений. Эти изменения носят деструктивный характер и в социальном плане отрицательно сказываются на функционировании человека, общества или государства. Возможность отрицательного влияния преступлений на социальные условия функционирования человека, общества и государства рассматривается в уголовном праве как общественная опасность. Данная категория закреплена в уголовном законодательстве в качестве регулятора уголовно-правовых отношений»²⁰². С этой позицией трудно не согласиться, ведь общественная опасность, обладая дуальной природой, характеризуется как социальным аспектом, так и правовым.

В решении КС РФ от 19 марта 2003 г. № 3-П в связи с запросом Останкинского межмуниципального (районного) суда города Москвы и жалобами ряда граждан презюмируется, что «закрепление в законе уголовно-правовых запретов и санкций за их нарушение не может быть произвольным»²⁰³, при этом КС РФ в другом своем решении подтверждает конституционное право государства «на установление уголовной ответственности за общественно опасные деяния, которые в силу своей распространенности причиняют существенный вред и не могут быть предотвращены с помощью иных правовых средств»²⁰⁴.

В данном аспекте следует поддержать мнение о том, что уголовное право, среди прочего, призвано определять социальную обусловленность уголовно-правовых положений и их эффективность²⁰⁵, а исследование вопросов социальной обусловленности предопределяется необходимостью «создания научной основы уголовного правообразования, что позволяет избежать не вызванных реалиями жизни произвольных законодательных решений»²⁰⁶.

Понятие социальной обусловленности уголовного закона не раз становилось предметом детального научного исследования. Мнения авторов разнились от позиций признания под социальной обусловленностью «объективной необходимости закрепления в уголовном законе отдельных деяний, исходя из общественных потребностей, выявленных закономерностей развития общественных отношений, реальной социально-экономической ситуации»²⁰⁷ до признания в нем «идеологических, экономических, нравственных, психологических и иных факторов, вызывающих его необходимость»²⁰⁸.

Профессор А. А. Пионтковский писал, что «общественная опасность деяния есть его социально-политическая характеристика в целом»²⁰⁹. В указанном ключе уместно говорить о том, что общественная опасность является тем самым критерием, определяющим объективную необходимость уголовно-правового регулирования рассматриваемых отношений. А любое запрещаемое деяние (преступление) должно представлять собой не только правовое, но и социально обусловленное явление²¹⁰.

Не вдаваясь в полемику относительно того, какое из уже существующих в науке определений видится наиболее приемлемым, отметим, что все авторы едины в понимании под социальной обусловленностью наличия в обществе объективного запроса на регулирование уголовно-правовыми средствами определенных общественных отношений, потенциально или объективно обладающих общественной опасностью.

Вместе с тем, учитывая особый статус уголовного закона как крайнего средства государственного реагирования на проявление делинквентного поведения²¹¹, обратимся к пресловутому критерию общественной опасности, проявляющемуся в конкретных случаях причинения вреда или угрозы его причинения охраняемым уголовным законом общественным отношениям.

Построение достоверной устойчивой системы в любой области знаний начинается с определения базиса, «той исходной научной абстракции, которая концентрировала бы качественную определенность системы знаний в целом, устанавливала бы последовательность расположения понятий в системе и “удельный вес” каждого из них, выступала бы как ее отправной и конечный пункт»²¹².

Несомненно, для уголовного права такой категорией выступает категория общественной опасности, которая одновременно обеспечивает концептуальное единство уголовно-правовых норм, параллельно являясь водоразделом, отграничивающим их от иных отраслей права. Крайне важно определить границы уголовно-правового регулирования, которые формируются исключительно общественной опасностью тех или иных деяний с применением робототехники.

Как справедливо отмечает Н. А. Лопашенко, «1) опасность всегда связывается с негативными изменениями или последствиями, начиная от просто нежелательных, заканчивая крайней степенью негативности – несчастьем; 2) эти последствия (изменения) не реализованы, они только ожидаются виде возможности или угрозы»²¹³.

Е. В. Кобзева пишет, что наиболее часто критерием классификации нарушений норм права на преступления, административные правонарушения, гражданско-правовые деликты, дисциплинарные проступки признается социальная вредность (опасность, значимость) деяния. При этом автор выделяет пять основных подходов к толкованию понятий «общественная опасность» и «вредность»:

«1) общественная опасность выступает свойством исключительно преступных деяний, все другие нарушения норм права вредны для интересов общества, но опасности не представляют;

2) общественной опасностью обладают как преступления, так и другие виды правонарушений, при этом различие между ними состоит в степени и/или характере общественной опасности;

3) общественно опасными являются преступления и некоторые виды административных правонарушений;

4) нет никакой разницы между общественной вредностью и общественной опасностью, дискуссия носит исключительно терминологический характер;

5) понятие общественной опасности следует заменить понятием общественной (социальной) вредности»²¹⁴.

На наш взгляд, оптимальна позиция о признании общественно опасными всех видов правонарушений. Как справедливо отмечает П. К. Блажко, «преступления представляют наибольшую общественную опасность по сравнению с иными правонарушениями. При этом различие необходимо проводить и по характеру, и по степени опасности деяний для общества, зависящим от содержания объекта правонарушения, признаков его субъекта, объективной и субъективной сторон, смягчающих и отягчающих обстоятельств, лежащих за пределами состава правонарушения»²¹⁵.

В связи с этим уместно будет привести мнение Н. Ф. Кузнецовой, которое нам также близко: «Понятие общественной опасности рассматривается как универсальное понятие, которое характеризует все правонарушения. И специфика общественной опасности преступлений в ее характере и степени»²¹⁶. В той или иной форме указанная точка зрения приводилась в работах Н. С. Малеина²¹⁷, Е. Л. Поцелуева²¹⁸, О. Е. Репетевой²¹⁹.

Обосновывая необходимость применения риск-ориентированного подхода при оценке преступных посягательств с участием робототехники, мы брали за основу два ключевых критерия: степень тяжести последствий причинения вреда роботами и категорию (характер) общественной опасности.

Согласимся с мнением Н. А. Лопашенко, что «в любом случае уровень возможных негативных последствий от противоправного поведения должен быть высоким, а сама общественная опасность должна определяться как существенная. Понятно, что это крайне оценочный момент в понимании преступления, но придумать точные критерии очень сложно»²²⁰.

Выделение указанных сфер является результатом эмпирического исследования инцидентов с участием робототехники, а также применения метода предиктивной аналитики.

Отметим, что характер общественной опасности в значительной степени зависит от объекта преступного посягательства, при этом чем «важнее» объект преступного посягательства, тем выше его общественная опасность. Несомненно, всецело поддерживая позицию о невозможности выстроить иерархию ценностей, охраняемых уголовным законом, все же отметим, что характер общественной опасности должен находиться в прямой корелляции с характером ожидаемого вреда и его тяжестью. Указанное верно и для общественно опасных деяний с участием роботов.

Нами были выделены четыре, на наш взгляд, ключевых объекта, на которых общественная опасность применения робототехники проявляется наиболее существенно:

• мир и безопасность человечества;

• жизнь и здоровье людей;

• объекты живой природы;

• неживые материальные объекты.

Данные объекты представляют собой сферы общественных отношений, в которых деяния с участием робототехники создают необходимость уголовно-правовой охраны от причиненного или потенциально возможного причинения им вреда.

Понятие общественной опасности является ключевым критерием (основанием) криминализации. «Криминализация – это процесс установления уголовной ответственности за деяние, ранее не относившееся к числу преступлений»²²¹. Отдельные авторы предлагают понимать под криминализацией «процесс, так и результат отнесения определенных видов деяний к преступным и уголовно наказуемым. В процессе криминализации изучаются цели, основания и возможность установления уголовной ответственности за то или иное деяние»²²².

Некоторые авторы выделяют и иные основания криминализации, помимо общественной опасности. Например, М. В. Бавсун, помимо общественной опасности деяния и степени его влияния на общественные процессы и общественное сознание, выделяет также: «Распространенность деяния и его удельного веса в общем состоянии преступности; степень тяжести преступных последствий, оцениваемых размером причиненного вреда; яркая антисоциальная направленность деяния и лица, противопоставляющего себя обществу»²²³. Аналогичные критерии выделяются и в работе А. М. Орлеана²²⁴.

Н. А. Лопашенко выделяются следующие причины криминализации: «возникновение новых, не существовавших ранее видов общественно опасной деятельности людей, неблагоприятная динамика отдельных видов человеческого поведения, научно-технический прогресс, развивающий потенциально опасные сферы науки и техники»²²⁵.

Указанные критерии в полной мере применимы к робототехнике:

1. Робототехника формирует собой самостоятельный пласт общественных отношений, характеризующихся повышенной общественной опасностью. Указанное обстоятельство предопределяет признание отдельных категорий роботов источниками повышенной опасности.

В марте 2018 года экспериментальный автомобиль Uber, работавший в автономном режиме, сбил пешехода и убил его, когда он переходил улицу в Темпе, штат Аризона, США, – первое дорожно-транспортное происшествие (далее – ДТП) с БПТС со смертельным исходом²²⁶. Перед общественностью и государством сразу же встал о том, кто должен нести ответственность за такое происшествие?

Однако самый первый случай причинения смерти с участием роботов был зарегистрирован еще в 1979 году, когда промышленный робот на заводе Ford Motor Company причинил смерть Роберту Уильямсу посредством нанесения удара по голове 1-тонной роботизированной рукой. В декабре 1981 года похожий случай с промышленным роботом произошел на заводе Кавасаки в Heavy Industries Японии. Кэндзи Урада погиб, после того как самоактивировавшийся гидравлический рычаг затащил его в шлифовальный станок, где он был раздавлен²²⁷. После долгого расследования было заявлено, что произошедшее стало несчастным случаем, рабочий выключил роботизированную систему при ремонте, но потом он случайно зацепил этот же рычаг, приведя в действие только что отключенное устройство²²⁸.

Дефекты могут иметь место на любом из этапов эксплуатации роботов, и предсказать или ограничить это не всегда возможно. На наш взгляд, речь здесь тоже может идти о деяниях, совершенных по легкомыслию или небрежности:

• наезд на пешехода БПТС;

• столкновение с БПЛА и БПВС;

• сбой в работе промышленного робота по причине несвоевременного выхода из строя той или иной детали (микросхемы), повлекший несчастный случай;

• отказ в работе той или иной системы медицинского робота, повлекший смерть пациента или серьезное нарушение функционирования организма человека.

2. Темпы развития робототехники являются следствием экспонентного, практически взрывного роста интереса к интеллектуальным системам в условиях Четвертой промышленной революции и становления Индустрии 4.0, активно поддерживаемого политикой государства на всеобщую цифровизацию.

Аналитики во всем мире единогласно называют искусственный интеллект ключевым технологическим трендом²²⁹. По прогнозам, к 2020 году его рынок вырастет до 5 млрд долл. США²³⁰ за счет применения технологий машинного обучения и распознавания естественного языка в рекламе, розничной торговле, финансах и здравоохранении²³¹.

Робототехника и искусственный интеллект включены в ряд документов стратегического планирования, однако вопросы правового регулирования при использовании технологий находятся все еще в стадии решения, тогда как их внедрение в жизнедеятельность человека идет активными темпами (это касается БПЛА, прогнозирования диагноза больных и пр.)²³². Более того, на правовое регулирование искусственного интеллекта направлена целая группа политических нормативных правовых актов и распорядительных документов Президента Российской Федерации и органов государственной власти²³³.

3. Поливариативность роботов, высокая степень адаптивности и растущая доступность для широких слоев населения является предпосылкой для использования их в различных сферах преступной деятельности, вплоть до самостоятельного совершения роботами отдельных преступных посягательств.

На сегодняшний день можно выделить несколько возможных вариантов деятельности с робототехникой, которая представляется общественно опасной:

«– конструирование робота-убийцы специально для совершения правонарушения;

– отключение программных и аппаратных функций, блокирующих возможность причинения вреда человеку;

– конструирование робота, способного причинить вред человеку;

– конструирование робота без осознания того, что он может быть использован для причинения вреда человеку»²³⁴.

Следует отметить, что с использованием возможностей робототехники может быть совершено множество преступлений:

«– общественно опасные деяния, посягающие на жизнь и здоровье человека;

– общественно опасные деяния, посягающие на конституционные права и свободы человека и гражданина;

– общественно опасные деяния, посягающие на общественные отношения, охраняющие сферу экономики от преступных посягательств;

– общественно опасные деяния, посягающие на государственную власть, службу и их интересы;

– общественно опасные деяния, посягающие на общественную безопасность и общественный порядок;

– общественно опасные деяния, посягающие на основы конституционного строя и безопасность государства и т. д.»²³⁵

Ю. В. Грачева и А. А. Арямов в своей работе указывают, что роботы сегодня могут стать полноправными исполнителями ряда преступлений, таких как:

«– террористический акт (ст. 205 УК РФ), который может выражаться в совершении взрыва, поджога, отравлении источника водоснабжения, лишении жизни людей с использованием робототехники;

– вандализм (ст. 214 УК РФ): легко себе представить использование дрона, переносящего капсулу с краской и сбрасывающего ее на здание или сооружение для их осквернения;

– приведение в негодность объектов жизнеобеспечения (ст. 2152 УК РФ) путем их разрушения, повреждения или приведение иным способом в негодное для эксплуатации состояние с помощью роботов. Совершение этих действий из корыстных или хулиганских побуждений квалифицируется по ст. 2152 УК РФ; при отсутствии названных мотивов, но при наличии цели подрыва экономической безопасности и обороноспособности РФ – по ст. 282 УК РФ;

– незаконное проникновение на подземный или подводный объект, охраняемый в соответствии с законодательством Российской Федерации о ведомственной или государственной охране с использованием робототехники, включая дроны (ст. 2154 УК РФ);

– хищение ядерных материалов или радиоактивных веществ путем применения робототехники для незаконного проникновения в помещение или хранилища и завладения предметом преступления (ст. 221 УК РФ);

– незаконное приобретение, передача, сбыт, хищение оружия, его основных частей, боеприпасов, взрывчатых веществ, взрывных устройств (ст. 222, 2221, 226 УК РФ), а также его незаконное перемещение через таможенную границу Таможенного союза в рамках ЕврАзЭС либо государственную границу РФ государствами – членами Таможенного союза в рамках ЕврАзЭС (ст. 2261 УК РФ) с использованием робототехники, особенно дронов;

– нападение на морское или речное судно в целях завладения чужим имуществом, совершенное с применением насилия либо с угрозой его применения посредством использования робототехники, включая дроны (ст. 227 УК РФ)»²³⁶.

Г. Г. Камалова считает, что «искусственные интеллектуальные системы могут быть использованы для совершения разнообразных преступлений, включая:

– причинение смерти или вреда здоровью человека;

– нарушение права на неприкосновенность частной жизни;

– незаконное получение или неправомерное разглашение охраняемой законом тайны;

– нарушение правил охраны труда;

– мошенничество;

– нарушение безопасности дорожного движения и эксплуатации транспорта;

– террористический акт;

– нарушение правил обращения с оружием и предметами, представляющими повышенную опасность для окружающих;

– нарушение правил оборота наркотических и психотропных веществ;

– преступления в сфере компьютерной информации;

– иные»²³⁷.

Роботы также активно используются преступниками и террористами в качестве инструмента для «творческого» совершения преступлений. С 2010 г. наркокартели Мексики начали использовать дроны для перевозки наркотиков. Успех Мексики побудил колумбийские наркокартели использовать дроны, а также испытать тот же метод на своей территории. Фактически, к 2012 году использование БПЛА вдоль границы было широко распространено, о чем свидетельствует перехват США 150 дронов, перевозящих примерно две метрические тонны наркотиков, в первую очередь марихуану, кокаин и героин.

Дроны стали «идеальным наркокурьером» в том смысле, что они несут меньший риск для лиц, занимающихся незаконным оборотом наркотиков. Кроме того, использование дронов значительно менее затратно, чем людей, поскольку наркобарон может заработать до 10 000 долларов за успешную доставку одной партии груза. Новые дроны мексиканского производства отличаются от тех, что используются для личного пользования, поскольку они предположительно могут перевозить от 60 до 100 кг наркотиков за одну поездку. Дроны также используются для контрабанды наркотиков, мобильных телефонов и оружия в тюрьмы. Например, во временном центре содержания под стражей в Сан-Жозе-дус-Кампус в Сан-Паулу (Бразилия) дрон с квадрокоптером пролетел над стенами тюрьмы и сбросил 250 граммов кокаина в присутствии сотрудников тюрьмы. Под Москвой дрон доставил в Тульскую тюрьму 700 граммов кокаина, а в Греции дрон доставил коробку мобильных телефонов. В апреле 2017 года двое мужчин были заключены в тюрьму в Великобритании за использование таких дронов для доставки наркотиков класса A и B, а также мобильных телефонов заключенным в трех тюрьмах в Херефордшире. Аналогичные инциденты с проникновением в тюрьмы были зарегистрированы в Канаде, Австралии и США²³⁸.

Преимущества использования робототехники для совершения преступлений очевидны: во-первых, возможность их применения в опасных зонах, в том числе биологически опасных; во-вторых, физическая безопасность лица, использующего эти технологии для совершения преступления (поскольку лицо находится, как правило, далеко от места использования дрона, у него нет страха быть обнаруженным, получить ранения или погибнуть, что психологически облегчает принятие решений, связанных с причинением вреда); в-третьих, по использованной робототехнике трудно идентифицировать нападавшего²³⁹.

Таким образом, деятельность роботов и искусственного интеллекта может быть признана общественно опасной и причинять вред охраняемым общественным отношениям²⁴⁰. С приведенным мнением солидарны некоторые отечественные и зарубежные ученые²⁴¹.

4. Являясь комплексными устройствами, обладающими технической, цифровой и энергетической компонентами, робототехника подвержена процессам, которые могут стать причиной возникновения вреда для различных групп общественных отношений.

Следует отметить, что тот или иной риск может возникнуть по нескольким основным причинам, обусловленным конструктивными особенностями роботов:

1) причины, связанные с механической подсистемой роботов:

• недостатки механизмов (приводов, моторов и т. д.), которые не были выявлены на этапе производства (разработки) или же проявились в процессе эксплуатации роботов;

• умышленное создание недекларированных возможностей механизмов роботов в целях совершения тех или иных действий противоправного характера;

2) причины, связанные с цифровой подсистемой роботов:

• недостатки программного обеспечения (уязвимости программного обеспечения, случайные ошибки программного обеспечения), которые не были выявлены на этапе разработки или же проявились в процессе эксплуатации роботов;

• умышленное программирование (перепрограммирование) роботов на совершение тех или иных действий противоправного характера (недекларированные возможности программного обеспечения);

3) причины, связанные с подсистемой энергопитания роботов:

• недостатки питающих элементов (уязвимости питающих элементов), которые не были выявлены на этапе разработки или же проявились в процессе эксплуатации роботов;

• умышленное вмешательство в работу энергоэлементов роботов, направленное на совершение тех или иных действий противоправного характера (нарушение правил эксплуатации и норм безопасности энергопитания роботов).

5. Внедрение робототехники в промышленность, производство и в военную сферу сопряжено со значительными рисками причинения вреда различным объектам уголовно-правовой охраны. В предыдущих исследованиях нами были приведены примеры несчастных случаев, связанных с использованием робототехники в промышленных целях. Между тем гораздо большую обеспокоенность вызывает использование робототехники в военных целях.

Согласимся с опасением, высказанным директором ФСБ России А. В. Бортниковым, что международные террористические и иные экстремистские организации в ближайшем будущем станут более интенсивно использовать робототехнику для осуществления своих целей²⁴².

В числе основных рисков отсутствия запрета на использование автономного летального оружия, активистами отмечаются следующие:

1) фактическое предоставление автономному оружию, лишенному социально значимых качеств, таких как сострадание, этичность, права на определение дальнейшей судьбы отдельных лиц или группы людей: кто будет жить, а кто нет, будет решать «бездушная машина»;

2) растущие темпы разработок автономного летального оружия ведут к неизбежной «гонке роботизированного вооружения», что чревато несомненной эскалацией на мировой арене, особенно, в горячих точках.

3) неспособность роботов отличать военных от мирных жителей может привести к крайне трагическим событиям;

4) отсутствие единых механизмов привлечения к ответственности за противоправные действия, вызванные полностью автономным оружием. На сегодняшний день неясно, кто должен нести ответственность: программист, производитель, оператор или сама машина.

5) возможность использования автономного оружия в невоенных целях. Автономное летальное оружие может использоваться для подавления протестов и поддержки диктаторских режимов. «Сила, задуманная как не смертельная, может стать причиной многих смертей»²⁴³.

«Вместе с тем международными экспертами признана необходимость сохранить ответственность человека за принятие решений о применении систем вооружений (такая ответственность не может быть передана машинам). Этот подход следует учитывать на протяжении всего жизненного цикла смертоносной автономной системы вооружений. Оценка рисков и меры по смягчению их последствий должны быть частью системы проектирования, разработки, испытания и развертывания новых технологий в любых оружейных системах»²⁴⁴ и в военных целях²⁴⁵.

6. С ростом автономности робототехники неуклонно будут расширяться и сферы, где совершаются посягательства с их участием. Ввиду чего требуется проработка механизмов уголовной ответственности в случае причинения вреда системами искусственного интеллекта и робототехники, имеющими высокую степень автономности при принятии решений²⁴⁶.

Таким образом, следует констатировать, что текущий уровень развития робототехники, а также ее вовлеченность в процессы жизнедеятельности общества обусловливают необходимость создания эффективных механизмов уголовно-правового регулирования.

Запрос на такое регулирование обусловлен:

• повышенной общественной опасностью отношений, складывающихся в сфере применения робототехники;

• темпами развития робототехники, вследствие взятого государством курса на всеобщую цифровизацию;

• поливариативной природой роботов, высокой степенью адаптивности и их растущей доступностью для широких слоев населения как предпосылки для «вовлечения» роботов в различные направления преступной деятельности, вплоть до самостоятельного совершения ими отдельных преступных посягательств;

• подверженностью робототехники процессам, которые могут стать причиной возникновения вреда для различных групп общественных отношений;

• активным внедрением робототехники в промышленность, производство и в военную сферу, сопряженным со значительными рисками причинения вреда различным объектам уголовно-правовой охраны.

• ростом автономности робототехники, и, как результат, расширением и сферы, где совершаются посягательства с их участием.

§ 2.3. Пределы уголовно-правового регулирования робототехники

Вопросы юридической ответственности при применении робототехники обозначены в числе приоритетных для разрешения задач в рамках Концепции развития регулирования отношений в сфере технологий искусственного интеллекта и робототехники до 2024 года. В Концепции отмечается, что первостепенного разрешения требуют вопросы гражданско-правовой ответственности за вред, причиненный системами искусственного интеллекта и робототехники, «проработка механизмов гражданско-правовой, уголовной и административной ответственности в случае причинения вреда системами искусственного интеллекта и робототехники, имеющими высокую степень автономности, при принятии ими решений, в том числе с точки зрения определения лиц, которые будут нести ответственность за их действия, доработки при необходимости механизмов безвиновной гражданско-правовой ответственности»²⁴⁷. Все это вызывает необходимость поиска пределов уголовно-правового регулирования робототехники.

«В зарубежной литературе высказывается точка зрения о том, что юридическая ответственность за действия робота ложится на человека, который дает роботу разрешение действовать от его имени либо на лицо, которое должно было выполнить обязанность по минимизации рисков и не наступлению вредных последствий»²⁴⁸.

В условиях относительной незрелости системы позитивного регулирования правоотношений в сфере искусственного интеллекта и робототехники, указанные вопросы приобретают особую значимость.

Отметим, что в науке выделяется несколько поколений роботов:

«I поколение – программируемые роботы, выполняющие строго ограниченные функции, как правило, реализуемые для автоматизации процессов, выполняемых индивидом;

II поколение – роботы с адаптивным управлением, основанным на обработке информации сенсорными устройствами;

III поколение – самообучающиеся, высоко автономные, «умные» роботы – наиболее интересные для анализа с точки зрения современной правовой науки»²⁴⁹.

Применительно к нашему исследованию предлагается удобным разделить роботов на: управляемых, полуавтомных и автономных. Кроме того, мы разделяем позицию Г. А. Гаджиева «о разграничении непосредственно робототехнических систем, созданных без использования технологии, предполагающей автономность объекта (промышленные роботы, дроны, аппараты для глубоководного погружения), и роботов-агентов, т. е. киберфизических систем, способных самостоятельно совершать определенные виды задач»²⁵⁰.

В контексте уголовно-правового исследования, изучение вопросов гражданско-правовой ответственности и механизмов привлечения к уголовной ответственности весьма ценно и с точки зрения междисциплинарного подхода. «Развитая правовая система представляет собой сложный, спаянный закономерными связями организм»²⁵¹.

По мнению С. Г. Безверхова, сегодня можно выделить две модели правовой действительности. Первая формируется посредством разделения и расслоения права на отрасли, подотрасли и прочие структурные элементы, вторая – посредством последовательного интегрирования правовых процессов в различных отраслях в единую систему родственных институтов и формирование межотраслевого взаимодействия²⁵².

Существующие тенденции свидетельствуют о том, что вторая модель проявляется на сегодняшний день наиболее активно. Подтверждением тому служат всепроникающие корреляционные связи между различными отраслевыми ветвями. «Системный подход означает не только изучение отдельных элементов уголовного права, но и взаимосвязей между элементами указанной системы, а также взаимосвязей между уголовно-правовой и иными отраслевыми правовыми системами»²⁵³.

Быстрые темпы внедрения сквозных цифровых технологий обусловили качественную трансформацию правовых институтов. «Наступление новых технологий способно вовсе переформатировать право, само это понятие, феномен, его содержание, механизм действия и проч. И систему права соответственно»²⁵⁴. Сегодня можно говорить о постепенном размытии отраслевых границ в правовой практике.

Согласимся с мнением Э. В. Талапиной, что катализатором глубинных изменений выступил первоначально Интернет и связанное с ним цифровое право, стирающие четкие границы «публичного» и непубличного²⁵⁵. Комплексная составляющая информационного права позволила ей стать посредником и «связывать» публичное и частное право²⁵⁶. Информационно-телекоммуникационные технологии действительно представляют собой «комплексные объекты, нуждающиеся не просто в системном, но подчас и неделимом на составные части регулировании»²⁵⁷.

Между тем будучи результатом успешного симбиоза информации и технологии, искусственный интеллект и робототехника представляют собой прорывную технологию, к которой должен быть применен комплексный подход.

Межотраслевой подход обеспечивает необходимые взаимные связи между положениями других отраслей права и уголовным. Природа деликтов с применением искусственного интеллекта и робототехники в силе неполной урегулированности создает поле для широких маневров. Между тем наука и практика уже задаются вопросами: кто должен нести ответственность как гражданско-правовой, так и уголовную, за деяния с участием искусственного интеллекта и робототехники? Кто и как будет возмещать причиненный ущерб?

Для ответа на указанные вопросы обратимся к уже складывающейся практике возмещения вреда за действия роботов в России и в мире. Это позволит нам не только установить механизмы возмещения вреда, которые имеют немаловажную роль в том числе и с точки зрения уголовного судопроизводства, но и позволят определить границы: где заканчивается гражданское право и начинается уголовное.

Это водораздел, пусть даже и весьма условный, крайне необходим для определения границ и места уголовно-правового регулирования во всей системе правового регулирования искусственного интеллекта и робототехники. Как подчеркивается в литературе, и нам эта точка зрения также близка, «межотраслевое взаимодействие правовых норм в сфере уголовно-правовой охраны общественных отношений представляет собой взаимную связь нормативных положений уголовного и других отраслей законодательства о правах и обязанностях участников общественных отношений, которую необходимо учитывать при законодательном конструировании и применении соответствующих положений УК РФ»²⁵⁸.

В этой связи в условиях становления как отраслевого, так и межотраслевого регулирования важно обеспечить непротиворечивость отраслевых норм, нормативные предписания одной отрасли не должны допускать противоречий со смежными нормами другой отрасли, важным представляется создание эффективной взаимодополняющей, совместимой и непротиворечивой системы. «Указанное предполагает такое соответствие уголовно-правовых норм определенным запретам других отраслей, которое обеспечивает единство подходов законодателя к регламентации конкретного комплекса отношений и позволяет взглянуть на внешне разнородные нормообразования с единой точки зрения. Действующие в комплексе запреты должны обладать таким свойством, которое обеспечивает возможность неодинаковых по характеру и различающихся