И. Р. Бегишев

Автономная робототехника в системе уголовно-правовых отношений

Монография

ebooks@prospekt.org

Информация о книге

УДК 343.3/.7:004.89

ББК 67.408:32.816

Б37

Автор:
Бегишев И. Р., кандидат юридических наук, заслуженный юрист Республики Татарстан, старший научный сотрудник Казанского инновационного университета им. В. Г. Тимирясова (ИЭУП).

Рецензенты:
Хисамова З. И., кандидат юридических наук, начальник отделения планирования и координации научной деятельности научно-исследовательского отдела Краснодарского университета МВД России;
Шутова А. А., кандидат юридических наук, доцент кафедры уголовно-правовых дисциплин Ижевского института (филиала) Всероссийского государственного университета юстиции (РПА Минюста России).

В монографии исследуются уголовно-правовые и криминологические аспекты разработки, производства и применения роботов, определяется место беспилотных транспортных средств, летального автономного оружия и автономных роботов в системе уголовно-правовых отношений. Особое внимание в работе уделено построению модели уголовно-правовой реакции государства на потенциальную возможность причинения вреда охраняемым законом общественным отношениям, ценностям и интересам в процессе функционирования автономных роботов.

Законодательство приведено по состоянию на 1 июля 2021 г.

Для студентов, аспирантов и преподавателей юридических вузов и факультетов, а также широкого круга читателей, интересующихся вопросами уголовно-правового регулирования автономной робототехники.

Изображение на обложке с ресурса Shutterstock.com

УДК 343.3/.7:004.89

ББК 67.408:32.816

© Бегишев И. Р., 2021

© ООО «Проспект», 2021

ВВЕДЕНИЕ

Правовое поле включает в себя ряд различных правоотношений, в которые вступают субъекты и которые подчинены законодательным нормам различного генеза. Выход подобных правоотношений за пределы правового поля влечет за собой нарушение правовых норм и, как следствие, совершение правонарушений или преступлений.

Практически каждому противоправному деянию физического или юридического лица та или иная отрасль права дает соответствующую оценку и, опираясь на отраслевые нормы, определяет степень вины и объем применимого в определенном случае наказания.

Соответственно, если субъект административного правонарушения или преступления четко определен в законе, то применение к нему определенных инструментов правового воздействия чаще всего труда не составляет. Однако в последнее время все чаще участниками правоотношений становятся различные производные искусственного интеллекта — роботы, которые получают широкое применение в различных областях современной жизни.

Наука, связанная с разработкой и внедрением в массы робототехнических технологий, — робототехника — является одним из важнейших научно-практических направлений нашего времени и в ближайшие годы станет более актуальной во многих областях жизни. Пропорционально внедрению робототехнических технологий в человеческую жизнь возрастает и автономия таких роботов, которые все больше и больше приближаются к образцам человеческого мышления. В частности, исследователи отмечают, что в результате проведения определенных экспериментов роботы способны осознавать себя самих в пространстве¹. Все это свидетельствует о том, что перед будущим робототехники поставлена задача создать таких роботов, которые будут способны адаптироваться к неструктурированной среде, такой как производство различных товаров, ведение домашнего хозяйства или войны.

Несомненны положительные итоги подобных разработок: роботы облегчат повседневную жизнь человека, так как возьмут на себя значительную долю рутинной работы, а также позволят расширить социальные контакты, поскольку смогут самостоятельно общаться на равных с людьми, удовлетворять их эмоциональные потребности (в ситуации с пожилыми людьми и детьми). Подобные роботы будут способны решать определенные задачи более рационально, нежели это способен будет сделать человек, однако, как и любое другое технологическое развитие, прогресс робототехники создаст новые проблемы для нормативно-правовых систем, в частности возложение ответственности за то или иное противоправное деяние, совершенное с участием робота, будет затруднено.

Последние достижения в области робототехники создают огромные трудности для правовой системы. С одной стороны, робототехника позиционируется как некий «совместный проект», в котором сообща действуют человек и машина и где некоторая ответственность может такой машине предписываться. С другой стороны, правовая система традиционно ориентирована на индивидуальную ответственность, по этой причине проблема распределения ответственности за нарушение правовых норм приобретает достаточную остроту.

Если в разрезе гражданско-правовых отношений имеет место множество публикаций как российских, так и зарубежных авторов, связанных с определением робота как субъекта права, обозначением переделов ответственности машины и прочего, то уголовно-правовые аспекты указанной проблематики рассмотрены недостаточно широко. Данное обстоятельство не только создает некий информационный вакуум в области рассматриваемого вопроса, но и влечет за собой недооценку опасности совершения роботами, особенно автономными, противоправных деяний, направленных против жизни и здоровья человека, против собственности, против общественной безопасности, против мира и безопасности человечества. По этой причине основные проблемные вопросы, рассматриваемые в настоящей монографии, являются высокоактуальными.

Работа включает четыре главы, каждая из которых раскрывает определенные аспекты уголовно-правового регулирования правоотношений с участием автономной робототехники.

Первая глава посвящена рассмотрению вопросов, связанных с уголовно-правовыми и криминологическими аспектами разработки, производства и применения роботов. На начальном этапе обозначены проблемы правового регулирования робототехники в целом, поскольку именно они выступают отправной точкой для возникновения тех или иных правовых коллизий. Отсутствие алгоритмической прозрачности, уязвимость кибербезопасности, сложности с решением вопросов конфиденциальности и защиты данных — все это никак не способствует формированию правового механизма в области регулирования правоотношений с участием роботов.

Отсутствие соответствующей нормативной правовой базы в рассматриваемой сфере влечет за собой возникновение различного рода криминологических рисков разработки, производства и применения роботов. В частности, здесь следует указать на возможные ошибки разработчиков программного обеспечения, возникновение различных сбоев в работе машин по вине оператора или программиста, невозможность предусмотреть наступление общественно опасных последствий от действий роботов, которые могут повлечь за собой различный вред. При этом также необходимо учесть, что риск может иметь как непрогнозируемую, так и прогнозируемую природу, соответственно, невозможность учесть все риски, которые могут возникнуть в различных сферах деятельности человека, связанных с применением роботов, влечет за собой поиск правовых инструментов, которые будут способны нивелировать подобные риски еще до того, как они станут потенциальными.

В качестве одного из направлений работы в области снижения возможностей возникновения указанных рисков может быть названа уголовно-правовая охрана общественных отношений с участием роботов. Причина обращения к данному вопросу заключена в том, что действующее уголовное законодательство не рассматривает робота как признак, позволяющий дифференцировать ответственность. Однако не вызывает вопросов тот факт, что робототехнические устройства, в силу присущих им свойств, в случае совершения в отношении их посягательств, повлекших неправомерное завладение, представляют повышенную общественную опасность, так как обладают увеличенной причиняющей способностью.

Особая роль отводится рассмотрению факторов, оказывающих влияние на возникновение робопреступности. Причина этого заключена в том, что выявление сил, негативно влияющих на повышение уровня криминогенности отношений, возникающих под влиянием или при участии роботов, позволит не только снизить уровень такого влияния, но и принять меры по предупреждению их возникновения. Среди указанных факторов в монографии названы следующие: социальные факторы, обусловливающие использование роботов в преступных целях (социальная несправедливость, социальное неравенство, общественная разобщенность, межрелигиозные противоречия, межнациональные противоречия, корыстный умысел), недостатки системы, заложенной при конструировании роботов, а также дефекты (отклонения) функционирования системы робота в ходе эксплуатации — сюда считаем возможным отнести такие события, как наезд на пешехода беспилотным транспортным средством, столкновение с беспилотным летательным аппаратом, сбой в работе промышленного робота по причине несвоевременного выхода из строя той или иной детали (микросхемы), повлекший за собой несчастный случай, отказ в работе той или иной системы медицинского робота, повлекший за собой смерть пациента или серьезное нарушение функционирования организма человека и пр.

Во второй главе монографии проводится изучение места беспилотных транспортных средств в системе уголовно-правовых отношений. Исследование проблемы правового регулирования беспилотных транспортных средств проводится с опорой на законопроект «О высокоавтоматизированных транспортных средствах и о внесении изменений в отдельные законодательные акты Российской Федерации», а также на постановление Правительства Российской Федерации от 26 ноября 2018 г. № 1415 «О проведении эксперимента по опытной эксплуатации на автомобильных дорогах общего пользования высокоавтоматизированных транспортных средств».

Важной частью данной главы выступает анализ криминологических рисков применения беспилотных транспортных средств. В указанном параграфе обозначено юридически значимое обстоятельство: возможность робототехнического транспортного средства осуществлять движение с деактивированной автоматизированной системой управления. Соответственно, можно заключить, что в случае, если в управление транспортным средством вовлечен человек, он выступает субъектом уголовной ответственности.

Также в рассматриваемой главе освещен вопрос, касающийся наступления ответственности за вред, причиненный беспилотными транспортными средствами. В результате исследования сделан вывод, что для совершенствования правового регулирования данного института необходимо выработать систему оценки автономности функционирования автомобиля при помощи его программно-аппаратных средств, разработать специальные требования разработки, создания, эксплуатации, поддержания технического состояния высокоавтоматизированного транспортного средства. Кроме того, в каждой конкретной ситуации причинения вреда предложено устанавливать, наряду с неисполнением субъектом адресованной ему обязанности, наличие у него реальной возможности совершить объективно необходимые действия, направленные на причинение вреда охраняемым уголовным законом интересам.

Третья глава рассматривает летальное автономное оружие в системе уголовно-правовых отношений. В частности, дается оценка летального автономного оружия с позиции его характеристики в качестве потенциальной угрозы для мира и безопасности человечества. В результате проведенного правового анализа был сделан вывод о том, что необходимо в ближайшее время обратить внимание на отсутствие в международном законодательстве норм, прямо запрещающих оборот автономных военных роботов, и устранить данный пробел, чтобы не подвергать уничтожению человечество в целом.

Кроме того, рассмотрены этические проблемы вооруженного конфликта, который протекает с использованием летального автономного оружия. Анализ данного направления завершается выводом о том, что для будущего человечества необходимо уже сейчас ввести превентивный запрет на наступательные смертоносные автономные технологии, которые находятся вне разумного контроля человека. Если создание превентивных механизмов управления безопасностью не станет приоритетом для правоведов всего мира, то это может привести к необратимым последствиям для мира в целом.

В главе исследованы также криминологические риски применения летального автономного оружия, такие как риск распределения ответственности за использование летального автономного оружия, риск выхода летального автономного оружия из-под контроля человека, риск незаконного оборота летального автономного оружия.

В завершающей монографию главе рассмотрена роль автономных роботов в системе уголовно-правовых отношений. Автором исследуется проблема определения правосубъектности автономных роботов, проводится анализ позиций компетентных специалистов в данной области. По результатам анализа дискуссии в рамках данного вопроса следует вывод о том, что в сложившихся условиях невозможно наделить автономного робота правосубъектностью, так как сквозные цифровые технологии еще не достигли необходимого уровня развития. Однако с течением времени и в процессе совершенствования этих технологий ситуация может измениться и наделение автономного робота правосубъектностью станет необходимостью.

Исследование вопроса возможности применения уголовного наказания к автономным роботам завершает указанную главу. Автором предложены варианты правовой взаимосвязи между поведением субъекта, способного подлежать уголовной ответственности, и фактом причинения вреда в процессе функционирования автономного робота, на основании чего им было определено, что формы реализации мер уголовно-правового характера, применяемых в отношении автономных роботов, находятся в прямой причинной зависимости с тем фактором, который повлек причинение вреда в процессе функционирования такого робота.

В целях наиболее полного и всестороннего решения задач УК РФ, адаптации существующих уголовно-правовых норм к тенденциям динамично прогрессирующих цифровых технологий, находим возможным в обозримом будущем, при достижении технологической сингулярности и появлении автономных роботов, предложить модель уголовно-правовой реакции государства на потенциальную возможность причинения вреда охраняемым законом общественным отношениям, ценностям и интересам в процессе функционирования автономных роботов, путем дополнения Общей части УК РФ новой главой «Меры уголовно-правового характера, применяемые в отношении автономных роботов».

Таким образом, структура данной монографии позволяет тщательно изучить вопросы, касающиеся уголовно-правовой природы регулирования отношений с участием автономной робототехники, а также определить направления для дальнейшего исследования.

Глава 1.
УГОЛОВНО-ПРАВОВЫЕ И КРИМИНОЛОГИЧЕСКИЕ АСПЕКТЫ РАЗРАБОТКИ, ПРОИЗВОДСТВА И ПРИМЕНЕНИЯ РОБОТОВ

1.1. Проблемы правового регулирования робототехники

В течение нескольких последних десятилетий развитие робототехники в мире происходит достаточно интенсивно. Как и любая другая отрасль, данная сфера влечет за собой возникновение ряда правоотношений, регулируемых различными отраслями права. Однако специфика правоотношений в области робототехники такова, что достаточно часто в качестве прямого или косвенного субъекта позиционируется робот — продукт, созданный человеком для выполнения тех или иных задач и функционирующий на основе специальных программ и алгоритмов. Расширение возможностей роботов за счет наделения последних автономностью, проявляющейся в той или иной степени, влечет за собой риски выхода машин из-под контроля человека, недобросовестное использование роботов в противоправных целях, а также различные технические ошибки в программировании, способные привести к фатальным для человека последствиям. Все это не оставляет сомнений в том, что правовое регулирование отношений в рамках робототехники сопряжено с рядом актуальных проблем.

Вопросы, связанные с проблемами правового регулирования робототехники, на сегодняшний день изучаются широкой юридической научной общественностью. Спектр выделенных в данном разрезе рисков и проблем довольно широк². Значительная часть исследований указанных выше проблем относится к предметной области. Например, авторы, изучающие правовые риски, возможные в результате внедрения робототехники, сосредотачивают свое внимание на таких отраслях, как здравоохранение, транспорт, оборона и безопасность.

Часть исследований касается проблем, связанных с правосубъектностью, интеллектуальной собственностью, дискриминацией, несправедливостью, охраной труда, конфиденциальностью и защитой данных, кибербезопасностью, ответственностью за вред³ и пр.

Рассмотрим проблемы правового регулирования робототехники посредством выделения основных групп правовых проблем, возникающих в указанной сфере.

Первая проблема — отсутствие алгоритмической прозрачности. Данная проблема стала предметом изучения ряда зарубежных правоведов⁴. Серьезность указанной задачи подтверждается тем, что она наиболее часто становится предметом дискуссий юристов. Так, авторы считают, что, учитывая распространение искусственного интеллекта (далее — ИИ) в областях повышенного риска, необходимо, чтобы он был подотчетным, справедливым и прозрачным⁵. Отсутствие алгоритмической прозрачности проблематично еще и по той причине, что сбои в программном обеспечении ИИ могут привести к нарушению прав и свобод человека и гражданина⁶.

Для решения указанной правовой проблемы предлагалось повысить осведомленность граждан в области алгоритмов принятия различных управленческих решений, а также установить виновных и привлечь их к ответственности за совершение сбоев в программном обеспечении.

Также высказано предположение о необходимости осуществления глобальной координации алгоритмического управления⁷. Кроме того, предложено разработать и принять так называемый стандарт алгоритмической прозрачности⁸. Однако у алгоритмической прозрачности есть свои ограничения, и, даже когда результаты интеллектуальной системы могут быть объяснены, субъекты, принимающие решения, могут не соглашаться с ними.

Некоторые из предложенных выше решений, хотя и являются чрезвычайно ценными, представляются относительно новыми и все еще находятся в процессе разработки, поэтому на данном этапе их эффективность невозможно полностью оценить.

В качестве второй проблемы следует выделить уязвимость кибербезопасности.

Авторы освещают различные проблемы безопасности, связанные с робототехникой и ИИ, например:

— полностью автоматизированное принятие решений, приводящее к дорогостоящим ошибкам и гибели людей;

— использование оружия, созданного на основе ИИ и способного к действиям без участия человека;

— применение ИИ в интересах национальной безопасности.

Все вышесказанное открывает новый вектор атаки, основанный на уязвимости цифрового программного обеспечения, использовании методов сетевого вмешательства и др.⁹

Не менее сложными представляются проблемы, связанные с внутренней безопасностью, например, расширение сети искусственных агентов для наблюдения за гражданским населением в интересах правительств. Данные действия напрямую могут повлиять на основные права и свободы граждан. Подобные проблемы имеют большое значение, поскольку они наносят серьезный ущерб обществу и отдельным лицам, создавая угрозу жизни и безопасности человека и доступу к ресурсам. Уязвимости кибербезопасности также представляют собой значительную угрозу, если их обнаружение происходит уже после того, как инцидент информационной безопасности произошел.

Эффективное решение таких проблем требует активного и оперативного использования правовых инструментов на всех этапах жизненного цикла рассматриваемых сквозных цифровых технологий, таких как разработка, внедрение и использование. В частности, необходимо принятие нормативных правовых актов, регулирующих права и обязанности специалистов и пользователей, имеющих доступ к той или иной интеллектуальной системе.

Третья проблема — это проблема дискриминации личности.

Данная проблема была признана серьезной рядом авторов на том основании, что алгоритмы и автоматизированные системы использовались для принятия решений, связанных с реализаций прав граждан. Это вопросы здоровья, трудоустройства, правосудия и страхования¹⁰.

В документе Агентства Европейского союза по основным правам описывается потенциал дискриминации отдельных лиц с помощью алгоритмов и говорится, что принцип недискриминации, закрепленный в статье 21 Хартии основных прав Европейского союза, необходимо учитывать при применении алгоритмов в повседневной жизни. Документ включает примеры, демонстрирующие отдельные виды дискриминации: автоматический отбор кандидатов для собеседований, определение риска при оценке кредитоспособности или в ходе испытаний кандидата¹¹.

В отчете Европейского парламента указано, что из-за наборов данных и алгоритмических систем, используемых при оценке и прогнозировании на разных этапах обработки данных, большие данные могут приводить не только к нарушениям основных прав людей, но также к дифференцированному обращению и косвенной дискриминации в отношении групп людей со схожими характеристиками, особенно в отношении справедливости и равенства возможностей доступа к образованию и занятости, при найме или оценке отдельных лиц или при определении новых потребительских привычек пользователей социальных сетей¹².

В отчете содержится призыв к Европейской комиссии, государствам-членам и органам по защите данных выявить и принять любые возможные меры для минимизации алгоритмической дискриминации и предвзятости и разработать прочную и общую этическую основу для прозрачной обработки персональных данных и автоматизированного принятия решений¹³.

В свете обозначенной проблемы были предложены различные варианты решений. Например, проведение регулярных оценок репрезентативности наборов данных, внесение технологических или алгоритмических корректировок для компенсации проблемных предубеждений ИИ¹⁴, участие людей в процессе оценки¹⁵.

Хотя законодательство четко регулирует правоотношения и защищает от дискриминационного поведения, есть мнение, что оно не соответствует требованиям. Так, было определено, что закон может быть неприменим в том случае, если он не распространяется на то, что прямо не защищено законом от дискриминации. Человеческий фактор может привнести дополнительные правовые проблемы в рамках рассматриваемого вопроса. Повышение прозрачности алгоритмов не означает, что они станут более понятными для людей, также может обостриться проблема раскрытия личных данных. Чтобы алгоритмический аудит был эффективным, требуется целостный, междисциплинарный, научно обоснованный и этически выработанный подход¹⁶.

Четвертая проблема — это проблемы правового статуса робота. Достаточно остро в настоящий момент ведутся дискуссии о том, подходят робототехнические системы под существующие правовые категории или следует создать новую категорию права со своими особенностями и последствиями. Исследователи ставят вопрос, можно ли считать роботов субъектами права¹⁷.

Группа экспертов высокого уровня по ИИ (AI HLEG) особо призвала «лиц, определяющих политику, воздерживаться от установления юридического лица для систем ИИ или роботов», подчеркнув, что это «в корне несовместимо с принципом человеческой деятельности, подотчетности и ответственности» и представляет собой «значительный моральный риск»¹⁸. Однако параллельно существуют мнения о том, что «правосубъектность ИИ может быть оправдана как элегантное решение прагматических проблем, возникающих из-за трудностей распределения ответственности за ИИ или в качестве поддержки моральных принципов ИИ»¹⁹.

Другие авторы предполагают, что в будущем искусственные сущности получат гражданство, и считают, что правовой статус небиологического интеллекта важно учитывать²⁰. Однако большинство авторов придерживаются позиции, которая отрицает необходимость создания нового юридического лица на базе систем ИИ. Так, отдельные исследователи, которые рассматривали вопрос о юридической ответственности автономных машин, утверждают, что «автономным машинам не может быть предоставлен статус юридических агентов»²¹. Другие авторы считают, что предоставление юридического лица чисто синтетическим объектам станет вполне реальной юридической возможностью, но полагают, что такие «законодательные меры были бы морально ненужными и юридически проблемными»²².

В качестве пятой проблемы следует обозначить сложности с решением вопросов конфиденциальности и защиты данных.

Ученые-юристы и специализированные правовые организации считают, что ИИ создает огромные проблемы с конфиденциальностью и защитой данных²³. К ним относятся информированное согласие, нарушение прав отдельных лиц на защиту данных, например, права доступа к личным данным, права на предотвращение обработки данных, которая может причинить ущерб, право не подчиняться решению, основанному исключительно на автоматизированной интеллектуальной обработке, и др.

Исследователи также подчеркивают озабоченность по поводу алгоритмической подотчетности и подчеркивают, что «физическим лицам предоставляется ограниченный контроль и надзор за тем, как их личные данные используются», и призывают к новой защите данных через «право на разумные выводы», чтобы закрыть пробел в подотчетности²⁴.

В качестве шестой проблемы необходимо выделить ответственность за вред, причиненный роботом.

Применение роботов с технологией ИИ может нанести ущерб людям и имуществу. Это, в частности, наезд на пешеходов беспилотными автомобилями, аварии и повреждения, вызванные частично управляемым дроном²⁵. Авторы подчеркивают, что, поскольку в оборот роботов с технологией ИИ вовлечено множество сторон (поставщик составных частей, поставщик программного обеспечения, разработчик, производитель, программист, пользователь и сама робосистема), ответственность трудно установить, когда что-то пойдет не так, и существует множество факторов, которые необходимо учитывать при вынесении решения об ответственности конкретного субъекта²⁶.

Вопросы юридической ответственности роботов с технологией ИИ можно рассматривать в двух плоскостях: гражданской или уголовной. В данном разрезе авторы обсуждают следующие вопросы: подлежит ли робот с технологией ИИ уголовной ответственности, к кому конкретно она может применяться, является ли рассматриваемый робот продуктом, на который распространяется законодательство об ответственности за некачественный продукт, например, в случаях конструктивных или производственных сбоев²⁷.

Другие авторы обсуждают вопросы, связанные с уголовной ответственностью субъектов ИИ, и предполагают, что привлечение их к уголовной ответственности за совершение противоправных деяний в области интеллектуальной собственности вполне возможно. Проблемы ответственности, по мнению исследователей, также можно решить в соответствии с законодательством о защите прав потребителей²⁸.

Также есть мнение, что необходимо предложить дополнительные правила, которые вместе с существующими моделями ответственности могут обеспечить более совершенные правовые механизмы, подходящие для роботов с технологией ИИ. Такие дополнительные правила будут функционировать как квазибезопасные вторичные правовые нормы. Они могут включать в себя обязанности по наблюдению за роботом с технологией ИИ, оснащение их встроенными аварийными кнопками, а также постоянную техническую поддержку и ремонт²⁹.

В гражданских правоотношениях многие вопросы ответственности решаются в рамках строгой ответственности за вред, причиненный повышенно опасной деятельностью. Тем не менее в литературе подчеркивается, что строгая ответственность также является неполным решением проблемы, потому что, если нельзя предвидеть решения, которые может выполнить робот с технологией ИИ, или последствия, к которым это может привести, он также не может участвовать в поведении, которое призвано стимулировать строгую ответственность³⁰.

Таким образом, можно заключить, что существует целый ряд правовых вопросов, пробелов и проблем в области правового регулирования робототехники. Наиболее важным в данной ситуации представляется то, что указанные проблемы затрагивают целый спектр прав человека: защиту данных, равенство, свободы, человеческую автономию и самоопределение личности, человеческое достоинство, безопасность человека, информированное согласие, целостность, справедливость и равенство, недискриминацию, неприкосновенность частной жизни и самоопределение.

Кроме того, необходимо назвать дополнительные правовые проблемы в рассматриваемой области, такие как отсутствие специальных регулирующих органов, «работоспособность» существующих национальных законов, отсутствие разъяснений по поводу применения существующих законов, отсутствие глобальных юридических академических дебатов в некоторых странах, неэффективность правового статуса автоматизированных систем и пр.

1.2. Криминологические риски разработки, производства и применения роботов

Внедрение любой новой технологии всегда влечет за собой возникновение рисков, имеющих различную природу. Так, М. М. Бабаев отмечает, что «в ходе хорошо известных огромных цивилизационных процессов в глобальном обществе произошли изменения, принесшие бесконечное число самых разнообразных новых, ранее неизвестных миру опасностей и угроз. Экономические, технические, технологические, информационные, демографические, экологические и иные новации — все они, как известно, обладали и обладают одновременно как созидательным, так и разрушительным потенциалом»³¹.

Робототехника имеет высокий уровень инновационности, развиваясь огромными темпами, может оказывать не только положительное влияние на темпы научно-технического прогресса, но и нести ряд рисков и угроз как для создателей роботов, так и для их потенциальных пользователей. В ряде случаев подобные риски и угрозы могут иметь технологическую природу (несовершенство программного обеспечения, выход машины из-под контроля человека и пр.), однако в последнее время в научной литературе высказываются опасения относительно негативной роли человеческого фактора в возникновении правовых проблем, вытекающих из правоотношений с участием роботов и искусственного интеллекта. В этой связи считаем необходимым исследовать возможные риски и угрозы, которые могут быть образованы при обороте роботов.

Подобные риски могут иметь место как при создании (разработке, производстве), так и при использовании (применении) роботов. Рассмотрим указанные аспекты более подробно.

Процесс создания роботов представляет собой техническую разработку, которая предполагает на выходе получение образца, обладающего заданными свойствами и способного к совершению одной или нескольких операций в конкретных сферах деятельности. Обычно разработка алгоритмов компьютерных программ подобных машин осуществляется на основе технического задания, которое предусматривает то или иное назначение, а также функции робота. Однако на данном этапе возможно возникновение ряда рисков и угроз.

1. Разработчик может допустить техническую ошибку, в результате которой при функционировании робота будут иметь место различные сбои, влекущие за собой опасность для человека. В частности, «рабочий завода Volkswagen в Германии погиб после того, как вышедшая из-под контроля роботизированная установка ударила его в грудь и придавила к металлической пластине»³². Причиной данного несчастного случая был признан сбой в программном обеспечении, предусмотреть который разработчик заранее не мог.

Однако в данном разрезе привлечение к ответственности может быть осуществлено в отношении должностных лиц, если будет доказано, что несчастный случай мог быть предотвращен, если бы такие лица контролировали безопасное участие рабочих в производственном процессе. Например, в городе Грязи Липецкой области по ч. 2 ст. 143 УК РФ был привлечен к ответственности мастер цеха одного из заводов. Нарушив требования охраны труда, мастер цеха дал указание оператору пульта управления контролировать линию формовочной машины. Тот прошел в зону работы машины, где вопреки нормам не имелось ограждения, чтобы оценить проблемы в работе робота-упаковщика. Робот-упаковщик прижал мужчину к оборудованию для формовки железобетонных изделий, травма оказалась смертельной³³.

2. Разработчик в процессе создания самообучающейся машины может не предусмотреть наступления общественно опасных последствий, которые могут повлечь за собой различный вред. В качестве примера можно привести роботизированный автопилот, который при попытке пилота перейти на ручное управление в связи с необходимостью, например, обхода грозового фронта может самостоятельно нанести вред пилоту (принудительное катапультирование, резкое ограничение кислорода и пр.), если действия пилота будут расценены им как опасные и нарушающие заранее прописанный алгоритм³⁴.

3. Разработчик, получая техническое задание, изначально осведомлен, что создаваемый им робот будет применяться в военной сфере, имея основным назначением уничтожение целей, в том числе человеческих.

Создание подобных роботов на сегодняшний день связано с желанием большинства стран усилить свою военную мощь. По этой причине технические специалисты на сегодняшний день осуществляют разработку и производство роботизированного оружия, при этом самым опасным видом такого оружия является автономное летальное оружие, основное назначение которого — самостоятельное принятие решений о ведении или приостановке боевых действий.

Как отмечает Г. Поволоцкий, «автономное летальное оружие представляет собой военную вооруженную платформу, перемещающуюся по воздуху, по земле или воде, которая снабжена разнообразными сенсорами и датчиками и кибернетическим устройством искусственного интеллекта, способная по своему усмотрению, без контроля со стороны человека, ориентироваться и передвигаться на местности, находить цель и переходить к уничтожению живой силы и техники противника в соответствии с оперативно-тактическими планами своего командования»³⁵. Соответственно, уже при создании подобного робота существует прямая угроза человеку, заложенная в самой природе создаваемой машины.

Кроме того, указанный робот может выступить товаром на так называемом черном рынке, после чего заинтересованные лица, приобретшие такой товар, могут осуществлять с его помощью различные преступления, прямо нарушая уголовный закон³⁶.

В последние годы все больше известных людей выступают за полный запрет «роботов-убийц». Под соответствующей инициативой подписались более 20 лауреатов Нобелевской премии мира, 150 религиозных лидеров и 3 тыс. специалистов по искусственному интеллекту. Мировую общественность ужасает сама мысль, что право распоряжаться человеческой жизнью может достаться бездушной машине, которая, конечно, не станет соблюдать нормы гуманитарного права³⁷.

Как отмечают Л. А. Букалерова, Т. Н. Уторова, Д. О. Сизов, «уже сегодня искусственный интеллект обладает такими отличительными свойствами, как планирование и прогнозирование действий и их последствий, обработка информации, самостоятельность в принятии решений, а также обучаемость. Но остается еще одна существенная деталь — цели и задачи искусственного интеллекта формулирует и задает человек»³⁸. Мы солидарны с мнением ученых.

В этой связи возникает необходимость рассмотрения еще одного аспекта, связанного с криминальными рисками и угрозами, которые могут возникнуть в области робототехники, — использования роботов.

Осуществив разработку того или иного вида робота, специалисты передают его в пользование заказчику или другому заинтересованному лицу, которое планирует использование робота в той или иной сфере деятельности.

Указанное использование может быть как добросовестным, так и, наоборот, недобросовестным. В первом случае пользователь использует робота по его прямому назначению, в соответствии с его техническими характеристиками и в той области, которая изначально была определена в техническом задании. При этом последующее усовершенствование такого робота может производиться добросовестным пользователем только в целях улучшения его возможностей и технических характеристик. Нецелевое применение робота добросовестный пользователь не планирует и не осуществляет.

Но даже при добросовестном применении роботов могут возникнуть определенные риски и угрозы. Так, в медицинской сфере возможны ситуации, когда робот, выполняющий медицинское оперативное вмешательство под дистанционным контролем врача, не может справиться с нештатной ситуацией (внезапное кровотечение), что влечет за собой гибель пациента. Данная ситуация не могла быть предусмотрена заранее, однако ее можно отнести к рисковым, несмотря на то, что робот применялся по назначению, контролировался человеком и полностью выполнил все запрограммированные манипуляции на высоком уровне.

Другой пример — недобросовестное использование роботов. В данном случае речь идет о неправильном применении роботов с целью реализации преступных или иных нарушающих закон намерений. В качестве примера можно привести возможности роботизированных систем, применяемых в социальной инженерии для доступа к банковской и коммерческой тайне. Кроме того, была высказана опасность возможного использования роботов представителями криминального мира для распространения наркотических веществ: в частности, роботы могут служить «живыми» контейнерами для наркотиков, и прямой контакт между дилерами и потребителями исключен, что усложняет привлечение первых к ответственности за распространение наркотических веществ³⁹.

Согласно вышесказанному, создание и использование роботов может нести в себе определенные криминальные риски и угрозы, при этом преступления с их применением могут совершаться непредумышленно или же умысел при совершении таких преступлений может быть как прямым, так и косвенным. Однако наказуемость данных преступлений с целью преодоления рисков и угроз связана с рядом проблем.

Основные сложности в рассматриваемой сфере сегодня, как отмечает Н. Ш. Козаев, связаны с «запаздыванием правового, в том числе уголовно-правового, реагирования на изменяющиеся общественные отношения, связанные, помимо прочего, с эксплуатацией достижений науки и техники представителями преступности»⁴⁰.

Кроме того, как отмечают специалисты, необходимо внимательно отнестись к угрозе, которая может иметь место из-за психоэмоциональной связи между компьютерной программой или роботом и пользователями. Особенно уязвимы в данном ключе дети, а также люди в возрасте или особо впечатлительные личности. Ведение современными компьютерными программами диалога с такими людьми может поставить их в зависимость от программы, в результате чего человек может стать своеобразным рабом машины, а оператор, который руководит ею, может диктовать пользователю свои условия, направлять его действия и пр. При этом пользователь будет уверен, что другой стороной в диалоге выступает настоящий человек, но не машина.

В частности, современные компьютерные программы уже сегодня способны к ведению диалога от имени человека, при этом идентифицировать их довольно сложно. Машины сегодня способны с детальной точностью воссоздать эмоции человека, что вызывает у пользователя также определенный эмоциональный отклик.

Эмоциональная реакция человека на общение с роботом может привести к достаточно нежелательным последствиям, начиная с возникновения нервного срыва под целенаправленным воздействием виртуального друга и заканчивая совершением самоубийства или возникновением веры в правое дело террора. Манипуляции человеком посредством применения роботов сегодня — это угроза даже более значительная, чем прямое нанесение вреда роботами.

Посредством помещения человека в состояние психологической зависимости заинтересованные лица могут не только достичь своей цели в области вербовки будущих солдат или последователей, но и нарушить миропорядок в целом, что может привести к мировой психологической катастрофе.

Данная проблематика (психоэмоциональная связь между пользователем и программой, в том числе роботом и человеком; ее последствия, а также необходимость установления ограничений при разработке таких видов программ/роботов) подлежит дополнительному исследованию широким кругом специалистов, в первую очередь психологов⁴¹.

В трудах С. П. Бортникова на основе изучения возможных криминальных рисков и угроз проводится анализ взаимосвязи ответственности, возникающей при производстве, приобретении и использовании роботов и программного обеспечения. В частности, по мнению исследователя, необходима реально работающая правовая среда, которая позволит обеспечить безопасность пользователей роботов, контролировать будущую безопасность машин еще на этапе их разработки. Автор считает, что для развития рынка роботов необходимо создать минимально комфортные условия с экономической, правовой и административной точек зрения. Если с правовой позиции прозрачным будет регулирование отношений с участием робототехники в области предпринимательского и гражданского права, то это позволит систематизировать меры уголовной и гражданско-правовой ответственности за вред и возможные негативные последствия, причиненные роботами⁴².

Кроме того, исследователь считает, что наделение робота статусом электронного лица уже становится необходимостью, поскольку скорость, с которой разрабатываются и принимаются правовые акты, оставляет желать лучшего, и в случае инициации подобного закона или правового акта и организации его разработки готовность документа может совпасть с тем периодом, когда роботы будут полноправными участниками гражданского оборота. При необходимости данный нормативный акт может быть скорректирован путем внесения актуальных изменений⁴³.

Также С. П. Бортниковым была высказана мысль об обязательном страховании ответственности роботов, как это уже было реализовано для транспортных средств, создании специальных фондов, установлении лимита ответственности и т. д.⁴⁴

Проблема ответственности в рамках возникновения определенных рисков и угроз в области создания и использования оборота роботов неоднократно становилась основой для дискуссии относительно определения уровня ответственности сторон.

Но, как отметил И. Н. Мосечкин, «учитывая настоящий уровень развития искусственного интеллекта и его роль в деятельности человека, было бы абсурдно настаивать на необходимости привлечения системы к ответственности. Программное обеспечение, например, беспилотного транспорта или устройства для автоматической биржевой торговли не обладает самосознанием или должной степенью самосознания, что исключает субъективную противоправность, а также достижение целей наказания. В таких случаях эффективнее перепрограммирование или замена устройства без использования уголовно-правового механизма. Собственно, применяя уголовное наказание для подобных устройств, можно лишь достичь цели предупреждения совершения преступлений, в меньшей степени — восстановления социальной справедливости и крайне маловероятно — исправления осужденного»⁴⁵. Мы поддерживаем такую точку зрения.

Таким образом, можно заключить следующее. Криминальные риски и угрозы, связанные с созданием и использованием роботов, представляют собой серьезную опасность, поскольку очень сложно ограничить круг таких рисков и угроз, а также выявить возможность их возникновения и определить степень возможных последствий.

Создание роботов и их использование априори сопряжено с определенными рисками⁴⁶ уже по своей природе: любой механизм или объект, который не способен критически оценивать существующую ситуацию, может совершать действия, способные причинить вред окружающим.

На стадии создания роботов возможны такие риски и угрозы, как сбои компьютерной программы, предназначенной для функционирования робота, причинение роботом вреда по неосторожности, производство же военных автономных роботов само по себе представляет определенную угрозу, так как данный продукт достижений цифровых технологий имеет своей целью уничтожать все живое.

На стадии применения роботов, даже при добросовестном их использовании, может возникнуть проблема, связанная с той или иной нештатной ситуацией, решить которую для человека гораздо проще, чем для машины, чей алгоритм чаще всего не приспособлен для данной цели. Кроме того, недобросовестное использование роботов представляет собой прямую угрозу окружающим, так как преследует цель умышленного причинения вреда как собственности, так и жизни и здоровью того или иного человека.

Соответственно, можно заключить, что пути минимизации криминальных рисков и угроз, возникающих при создании и применении роботов, связаны напрямую с совершенствованием законодательной базы, в которую необходимо включить норму об ответственности за нарушение правил создания, эксплуатации, ремонта и иного использования роботов.

1.3. Уголовно-правовая охрана общественных отношений с участием роботов: проблемы и перспективы

Характеризующееся экспоненциальным ростом внедрение цифровых технологий в социальные практики закономерно влечет изменения во многих областях общественной жизни. Дифференцируются производственные процессы, в область дорожного движения входят высокоавтоматизированные транспортные средства, робототехническим устройствам, системам и комплексам делегируются связанные с опасностью для жизни и здоровья человека функции⁴⁷. Вышеизложенное является положительным примером цифровизации, однако, являясь многосторонним феноменом, последняя изменяет также и структуру преступного поведения.

Широкое распространение цифровой информации, повсеместное использование средств микропроцессорной техники есть привычная тенденция. Согласимся с мнением ученых, утверждающих, что информационно-телекоммуникационные технологии, информационные системы, цифровые устройства в настоящее время составляют неотъемлемую часть жизни современного общества и охватывают все ресурсы, обеспечивающие управление информацией⁴⁸. В затронутом контексте повышение сфер жизни общества, в которых активно используются цифровые устройства, повлекло изменение структуры преступности.

Известно, что робототехнические устройства представляют собой сложный объект, включающий две составляющие:

— программную, к которой необходимо относить программное обеспечение, обуславливающее функционирование робота, выполнение им определенных функций, перечень и пределы которых предопределены заложенными алгоритмами действий⁴⁹;

— техническую (аппаратную) составляющую, которая представляет собой механическую часть устройства — элементы конструкции, приводы, проводная система, датчики, радары, лидары и т. д.

Таким образом, специфика роботов как сложных цифровых объектов требует учета их особенностей при выработке нормативно-правового регулирования правоотношений, складывающихся с их участием.

Спектр общественных отношений с участием роботов характеризуется постепенным расширением. В настоящее время функционирование большинства систем осуществляется благодаря роботам, выполняющим требуемые манипуляции.

Позволим выразить убеждение, что, равно как и средства компьютерной и иной микропроцессорной техники, робототехнические устройства в дальнейшей перспективе могут быть вовлечены в совершение преступлений, в значительной степени увеличить причиняющий потенциал общественно опасных посягательств⁵⁰. Сказанное формирует повестку противодействия криминологическим рискам, детерминированным внедрением робототехники, и актуализирует вопросы выработки уголовно-правовых норм, обеспечивающих охрану общественных отношений от посягательств, осложненных применением робототехнических систем.

С позиции современного уголовного права робот (устройство, система, комплекс) может выступать в качестве средства совершения преступления и в качестве предмета посягательства⁵¹.

Примечательно, что в случае совершения противоправного деяния в отношении робота последний рассматривается как собственность и, сообразно этому, подлежит уголовно-правовой охране на общих основаниях. Однако посягательства на отдельные виды роботов причиняют вред объектам уголовно-правовой охраны иной видовой принадлежности.

Так, к примеру, в случае если робототехническое устройство по своему предназначению, целевому использованию и техническим характеристикам охватывается понятием воздушного судна или водного транспорта, содеянное, при его угоне или захвате, квалифицируется по признакам состава преступления, предусмотренного статьей 211 УК РФ «Угон судна воздушного или водного транспорта либо железнодорожного подвижного состава».

Помимо изложенного, в ситуациях, когда в состав оснащения робототехнического устройства включены вооружение, боеприпасы, взрывчатые вещества, совершение в отношении него посягательства, при наличии иных признаков данного состава преступления квалифицируется по статье 226 УК РФ «Хищение либо вымогательство оружия, боеприпасов, взрывчатых веществ и взрывных устройств».

Таким образом, действующее уголовное законодательство не рассматривает робота как признак, позволяющий дифференцировать ответственность. Тем не менее нам представляется, что робототехнические устройства, в силу присущих им свойств, в случае совершения в отношении их посягательств, повлекших неправомерное завладение, представляют повышенную общественную опасность, так как обладают увеличенной причиняющей способностью⁵², ⁵³.

Рассуждая относительно робота как средства совершения преступления, заметим, что действующий уголовный закон не содержит состава преступления, в котором робот выступал в качестве признака, описывающего способ. Положения общей части, а именно пункт «к» статьи 63 УК РФ «Обстоятельства, отягчающие наказание», позволяют проводить уголовно-правовую оценку посягательств, осложненных применением роботов, с вменением в качестве отягчающего наказание обстоятельства совершение преступления с использованием специально изготовленных технических средств. Думается, данная практика не выдерживает критики. Применение данной нормы возможно только в случае, если робот был «специально изготовлен» для целей совершения преступления, подобное изложение не позволяет инкриминировать приведенное законоположение в случаях внезапно возникшего умысла и в ситуациях, когда для увеличения причиняющей способности общественно опасного деяния был использован промышленно изготовленный робот.

Таким образом, находим возможным заключить, что современное уголовное законодательство имеет потенциал к улучшению в части, касающейся:

— дифференциации уголовной ответственности за посягательства, совершаемые в отношении робототехнических устройств, комплексов и систем;

— установления повышенной уголовной ответственности за посягательства, объективная сторона которых выполнена посредством использования робототехнического устройства, комплекса и системы.

Данное мнение в значительной степени основывается на тезисе о повышенной причиняющей способности робота, который может быть подтвержден следующими рассуждениями.

Наличие в роботе программной составляющей обуславливает возможность его использования не просто в качестве средства, повышающего причиняющий потенциал действий человека, но и как высокоавтономного механизма, который фактически способен самостоятельно и полностью выполнить объективную сторону состава преступления. Человеческое участие в данном случае сводится либо к введению посредством органов управления роботом соответствующей команды, либо заведомому программированию роботов для обеспечения их участия в совершении преступлений⁵⁴.

В дополнение к изложенному заметим, что существующие роботы действуют посредством исполнения алгоритмов действий, изначально заложенных разработчиками в цифровой код их программного обеспечения. Иными словами, такие роботы способны к выполнению исчерпывающего, ограниченного перечня действий, который прямо предопределен возможностями примененной в них программы. Однако поэтапное развитие технологий искусственного интеллекта позволяет обоснованно предположить, что в дальнейшей перспективе робототехнические комплексы значительно повысят степень своей автономности. Поясним дополнительно, что искусственный интеллект от программного обеспечения отличается наличествующим функционалом, по своей физической природе и то и другое есть цифровой код. Однако функционал искусственного интеллекта позволяет имитировать когнитивные функции человека, осуществлять самообучение и выполнять поиск решений вне рамок заранее установленного алгоритма⁵⁵. Иными словами, система на основании самостоятельного анализа зависимостей внешней среды, на основе поступивших от оператора команд способна автономно выбирать алгоритм действий, посредством которых данные команды будут исполняться. В таком случае вопрос о субъекте ответственности за вред, причиненный автономным роботом (роботом, в котором использована технология искусственного интеллекта), не является достаточно очевидным.

Помимо изложенного, применение робота для целей совершения преступлений возможно в ситуациях, когда оператор (иное лицо, управляющее роботом) находится на значительном удалении от места посягательства. Увеличивающиеся возможности роботов по времени автономной работы, повышение накопительной мощности элементов их питания, увеличение радиуса действия средств управления роботом, помехоустойчивости сигналов управления создают условия для совершения общественно опасных посягательств со значительного удаления.

В дополнение к вышеуказанному необходимо заключить, что современные роботы демонстрируют возможности к переносу грузов значительных габаритов и массы, полезная нагрузка беспилотных летательных аппаратов демонстрирует гиперболический рост. Данная техническая характеристика, на наш взгляд, также может быть использована для совершения преступлений.

Все вышесказанное свидетельствует о необходимости объективно сформированного и актуального запроса на выработку подходов к построению моделей уголовно-правовой охраны общественных отношений с участием роботов. Адаптация уголовного законодательства к повышенному причиняющему потенциалу робототехнических устройств, на наш взгляд, должна найти выражение в конструировании повышенной ответственности за посягательства на роботов, что позволит обеспечить их усиленную охрану уголовно-правовыми средствами и адекватно отразить особую общественную опасность неправомерного завладения ими. Также видится необходимым включение факта использования роботов в число признаков, характеризующих способ в некоторых составах преступлений.

1.4. Факторы, влияющие на робопреступность

Развитие цифровых технологий, наряду с положительными результатами в различных технологических разработках и выходом на новый уровень мышления, к сожалению, принесло с собой и негативные тенденции. Получив доступ к виртуальным инструментам, лица, стремящиеся нарушить закон, значительно активизировали свою деятельность. Террористические акты, издевательства, нападения и вандализм — все это становится возможным при участии интеллектуальных и робототехнических технологий.

Чем активнее в мире происходит развитие цифровых технологий, тем негативнее сценарий, описываемый исследователями, опасающимися расширения возможностей преступных кланов и группировок в области применения роботов для реализации своих преступных целей. Так, зарубежные исследователи считают, что наркокартели могут приспособить роботов для доставки наркотиков, используя, в частности, конфигурацию мобильных торговых автоматов, которые будут выполнять роль роботизированных дилеров, способных вести диалог с потенциальными покупателями в части определения стоимости и количества запрашиваемого «товара смерти». В отличие от обычных торговых автоматов уровень защиты от нападения и взлома в таких устройствах может быть гораздо серьезней. Учитывая возможности 360-градусного обзора роботов, разработчики могут наделить их способностями к уничтожению внутреннего тайника в случае угрозы захвата⁵⁶.

Ряд авторов высказывают опасения относительно того, что современные возможности роботов могут быть в будущем использованы для участия в ограблениях банков, уличных ограблениях и нападении на транспорт, перевозящий различные товары и ценности, при этом в данной ситуации возможна комбинация действий наземных роботов-нападающих и воздушных роботов-наблюдателей.

Более того, по мнению исследователей, роботы и связанные с ними технологии, такие как экзоскелетные костюмы, обладают физической силой, значительно превосходящей человеческую. При этом, они могут способствовать совершению таких преступлений, как нападение, изнасилование или убийство⁵⁷.

Соответственно, в связи с динамичным развитием робототехники в современном мире значительно обострилась проблема потенциального использования роботов в различных противоправных деяниях. Киберфизические сущности сегодня могут представлять собой реальную угрозу для человека в случае решения оператора или разработчика направить способности и возможности первого против существующего правопорядка.

Различные методические подходы к исследованию преступлений и правонарушений, совершенных с прямым или косвенным участием роботов, позволяют заключить, что причины использования роботов в преступных целях в первую очередь определяются рядом факторов, которые являются движущей силой при замысле и реализации преступных деяний человеком, имеющим возможность направить возможности и ресурсы роботов против себе подобных для достижения тех или иных преступных целей.

Рассмотрим указанные факторы более подробно.

1. Социальные факторы, обусловливающие использование роботов в преступных целях.

Среди указанных факторов следует, на наш взгляд, выделить следующие подвиды:

— социальная несправедливость. Данный фактор имеет психологические корни: киберпреступники ищут различные виды противоправного обогащения, основываясь на том, что те, кто обладает значительным состоянием, получили его не по причине собственных способностей, знаний или умений, а потому, что изначально все богатство в мире распределено несправедливо. По этой причине те, кто им обладает, могут и должны быть подвергнуты некоей экспроприации, что и осуществляют кибермошенники, используя для этого роботов и технологии социальной инженерии. Степень влияния фактора средняя, так как он рассчитан в целом на массовое воздействие, в рассматриваемом контексте речь об это не идет;

— социальное неравенство. Данный фактор, как и предыдущий, имеет психологическую подоплеку, однако здесь речь идет уже о классовой составляющей, что носит более научный характер. Мотивация киберпреступников здесь основана на том, что путем совершения тех или иных киберпреступлений с участием роботов они стараются восстановить некий баланс в обществе, «перераспределяя» полученные незаконным путем денежные средства или имущество. Степень влияния фактора выше средней, поскольку общедоступными являются различные рейтинги и топ-списки состоятельных людей, и информационная составляющая в данном разрезе выступает стимулирующим фактором для совершения противоправных действий или преступлений;

— общественная разобщенность. Рассматриваемый фактор является достаточно важным, поскольку предполагает отсутствие связей между людьми по ряду причин. Чем более разобщены субъекты воздействия, тем проще киберпреступникам совершать противоправные действия, так как поддержку друг в друге указанные выше субъекты найти не могут, у них часто недостаточно самостоятельно получаемых знаний, чтобы отразить атаки киберпреступников, чем активно пользуются последние. Степень влияния фактора также выше средней, поскольку в связи со снижением покупательской способности населения и обеднением средних слоев социальная разобщенность только усугубляется;

— межрелигиозные противоречия. Данные противоречия могут стать веской причиной к совершению преступлений с использованием роботов, так как религиозная основа провоцирует мощное психологическое воздействие на личность и формирует стойкие жизненные убеждения. В этой связи особенно опасным является использование роботов для совершения различных террористических актов и дискредитаций на межрегиональной основе. Степень влияния фактора следует расценить как среднюю, поскольку массового характера она не носит, а имеет, скорее, узконаправленное воздействие на определенные категории граждан, чьи религиозные убеждения граничат с фанатизмом;

— межнациональные противоречия. Данный фактор схож с вышеописанным и также основан на глубоком убеждении в том, что национальный вопрос является той областью, которая позволяет решать возникающие вопросы не только с помощь дипломатии, но и с помощью силы или же, как в данном случае, одного из направлений силового воздействия, которое осуществляется с применением роботов или искусственного интеллекта. Самыми опасными в данной связи могут стать вооруженные конфликты с участием роботов, что повлечет за собой большое количество жертв. Степень влияния фактора выше средней, поскольку расовые и межнациональные вопросы на сегодняшний день стоят в мире достаточно остро;

— корыстный умысел. Степень влияния указанного фактора высокая, так как это самая распространенная причина всех преступлений независимо от их природы. Чаще всего преступления с участием роботов или с применением робототехники совершаются именно с корыстным умыслом, так как преследуют цель завладения информацией, собственностью, финансовыми средствами, властью и пр. Ставя перед собой цель обогатиться за счет других, кибермошенники прилагают различные усилия для ее достижения, разрабатывая все новые и новые программные комплексы, способные разрушить самую сложную многоступенчатую защиту кредитной организации, информационного банка данных или правительственную информационную базу.

Также корыстный умысел может стать причиной совершения военных, экологических преступлений с использованием роботов и пр.

2. Недостатки системы, заложенной при конструировании роботов. Данный фактор имеет, на наш взгляд, степень влияния ниже средней, поскольку предполагает фатальную ошибку IT-инженеров, которая может привести к преступным последствиям. В данной ситуации преступления могут позиционироваться как совершенные по неосторожности — т. е. деяния, совершенные по легкомыслию или небрежности (например, несчастный случай на производстве по причине отказа или сбоя в работе промышленного робота из-за конструктивных нарушений последнего при проектировании).

3. Дефекты (отклонения) функционирования системы робота в ходе эксплуатации. Данный фактор имеет высокую степень влияния, поскольку указанные дефекты могут иметь место на любом из этапов эксплуатации роботов, и предсказать или ограничить это не всегда возможно. На наш взгляд, речь здесь тоже может идти о деяниях, совершенных по легкомыслию или небрежности:

— наезд на пешехода беспилотным транспортным средством. В данном контексте можно привести яркий пример, демонстрирующий фатальные последствия рассматриваемого фактора. Так, в 2018 г. автономный кроссовер Volvo XC90 компании Uber на скорости около 60 км/ч сбил 49-летнюю Илейн Херзберг, которая пересекала проезжую часть, ведя рядом с собой велосипед. Полученные травмы стали фатальными для женщины, она скончалась в больнице.

Местом трагедии стал город Темпи, штат Аризона. Годом раньше там также произошло подобное ДТП. Однако тогда обошлось без жертв, виновным же признали водителя другого автомобиля, поскольку он не уступил дорогу беспилотному транспортному средству. Однако в случае с аварией, исход которой повлек за собой смерть потерпевшей, на водительском месте кроссовера находился оператор, который должен был в экстренном случае переключить управление на себя. Причины, по которым он не произвел необходимых манипуляций, не ясны. Кроме того, полиция штата Аризона также не пришла к единому заключению относительно нарушения правил дорожного движения потерпевшей: одни свидетельствовали, что женщина резко вышла на проезжую часть рядом с пешеходным переходом, вторые отмечали, что переход дороги потерпевшей был осуществлен непосредственно по пешеходному переходу. Однако непреложным фактом в данной ситуации остается гибель человека⁵⁸;

— столкновение с беспилотным летательным аппаратом. Так, 22 марта 2014 г., примерно в 22:00 по восточному летнему времени, вертолет Bell 412, зарегистрированный VH-WSR, поднялся из больницы Джона Хантера в Ньюкасле для полета около 2 км на вертолетную площадку Newcastle Westpac, Новый Южный Уэльс, с пятью членами экипажа на борту.

Пилот передал свои намерения на общую консультативную частоту движения (далее — CTAF) и не получил ответа. Направляясь на северо-восток и набирая высоту до 1200 футов над уровнем земли, пилот наблюдал устойчивый белый свет, который первоначально казался самолетом в окрестностях аэропорта Уильямтаун, примерно в 10 км от него. Достигнув высоты 1200 футов, пилот начал спуск к вертолетной площадке.

Движения неопознанного летательного аппарата были достаточно хаотичными. Опасаясь столкновения, пилот вертолета вновь передал информацию о данном аппарате по CTAF, но ответа от оператора не получил.

Примерно через 10–15 секунд после отправки сообщения пилот заметил, что неопознанный объект сделал резкий правый поворот и направился к вертолету. Скорость и радиус разворота указывали пилоту, что это не самолет, а скорее небольшой беспилотный летательный аппарат.

Пилоту вертолета пришлось выполнить ряд оперативных маневров, чтобы избежать столкновения с неизвестным объектом, и только благодаря его мастерству столкновения с беспилотником удалось избежать. При этом, как выяснилось в процессе разбора полета, операторам CTAF не было известно ничего о данном летательном объекте⁵⁹;

— сбой в работе промышленного робота по причине несвоевременного выхода из строя той или иной детали (микросхемы), повлекший за собой несчастный случай. Так, первая смерть человека от робота на заводе зафиксирована в 1979 г. 25-летний рабочий сборочного цеха Ford в Мичигане погиб от удара робота-манипулятора по голове. Семья рабочего получила десять миллионов долларов компенсации. Причиной трагедии стало несоблюдение техники безопасности.

Сотрудник ремонтной компании на заводе Volkswagen находился внутри специальной клетки и настраивал робота. 21-летний мужчина получил удар в грудь и был прижат к стальной плите. Мужчину госпитализировали, но врачи не смогли его спасти — он скончался в больнице⁶⁰;

— отказ в работе той или иной системы медицинского робота, повлекший за собой смерть пациента или серьезное нарушение функционирования организма человека. Здесь возможны следующие ситуации:

1) ведущий мировой кардиохирург, хирург, ответственный за операцию, и ассистент ведущего хирурга дистанционно оперируют пациента в другой стране с помощью телехирургической системы. Во время операции вскрывается крупный кровеносный сосуд. Ответственный за операцию хирург не может остановить кровотечение с помощью робота. Ассистирующий хирург вмешивается и контролирует кровотечение. Несмотря на это, пациент теряет кровь и погибает;

2) хирург использует роботизированный телескоп во время операции на пациенте. Назначение данного прибора — информировать ведущего операцию хирурга о расположении важного кровеносного сосуда. Хирург планирует использовать эту информацию для безопасного выполнения операции. Во время операции робот выходит из строя. Это дает хирургу неточную информацию. Кровеносный сосуд перерезан, а пациенту причинен вред;

3) пациенту делают операцию, при которой робот вставляет винты ему в позвоночник. Хирург заранее программирует робота с указанием направления для установки винтов. Затем робот выполняет операцию самостоятельно под наблюдением хирурга. После операции пациент просыпается и не может пошевелить ногами. Последующее сканирование показывает, что винт установлен не в указанном хирургом месте, что привело к травме позвоночника. Расследование показало, что хирург правильно запрограммировал робота, направив винты в сторону от спинного мозга, однако сбой в работе робота привел к фатальной ошибке;

4) хирург рекомендует пациенту операцию по замене тазобедренного сустава. Робот выполняет операцию самостоятельно, и хирург, который наблюдает, не вмешивается. Операция технически прошла успешно, и последующее сканирование показало, что бедро было восстановлено в соответствии с планом. Однако сильная боль в бедре пациента остается, что негативно сказывается на качестве его жизни;

5) интеллектуальный робот разрабатывает новую хирургическую технику для лечения рака поджелудочной железы. Исследования, проведенные в ходе клинических испытаний, показывают, что новая методика лучше существующих методов лечения. Хирург направляет пациента с недавно диагностированным раком поджелудочной железы на процедуру. Во время операции робот не может справиться с непредвиденными осложнениями, и пациент получает травму⁶¹.

Таким образом, описанные выше факторы, влияющие на робопреступность, необходимо тщательно изучать с целью снижения их воздействия на те или иные противоправные действия роботов. Учет указанных факторов будет способствовать повышению уровня контроля за безопасной эксплуатацией роботов и практическим использованием достижений в области цифровых технологий.

Подводя итог вышесказанному, необходимо заключить следующее. По мере развития робототехники возникнут новые правовые проблемы. Технологический прогресс будет ускоряться за счет инноваций, которые дополняют или превосходят человеческие возможности. Поэтому необходимо разрабатывать универсальные подходы к преодолению коллизий в области правового регулирования робототехники, которые будут учитывать динамику развития указанной цифровой технологии.

В современном мире роботы все больше и больше внедряются в человеческую жизнь. Люди сознательно привлекают роботов к различным видам деятельности в ряде областей с целью снизить нагрузку на себе подобных, повысить производительность труда, увеличить скорость обработки информации, а также для того, чтобы машины выполняли различные операции, необходимость которых очевидна, но выполнение или не под силу человеку, или же достаточно сложно для него. Однако, как показывает практика применения роботов в различных областях, могут иметь место различные проблемы криминального характера.

Глава 2.
БЕСПИЛОТНЫЕ ТРАНСПОРТНЫЕ СРЕДСТВА В СИСТЕМЕ УГОЛОВНО-ПРАВОВЫХ ОТНОШЕНИЙ

2.1. Правовое регулирование беспилотных транспортных средств

Предпосылки к созданию и использованию беспилотных автотранспортных средств появились уже довольно давно. За счет использования роботизированного транспорта решается ряд задач, укажем некоторые из них:

— снижение стоимости пассажиро- и грузоперевозок;

— увеличение эффективности использования транспортного пространства за счет централизованного управления транспортными потоками и полного соблюдения правил дорожного движения;

— снижение аварийности путем исключения человеческого фактора;

— снижение вредоносного экологического воздействия транспорта на окружающую среду;

— возможность использования транспорта лицами, ранее не имеющими на это права, например несовершеннолетними или инвалидами.

В настоящее время большое количество крупных мировых автомобилестроительных компаний уже занимаются разработкой беспилотных транспортных средств и планируют их внедрение в ближайшем будущем. Так, компании Ford, Jaguar Land Rоver, «ГАЗ» уже активно проводят тестирование своих беспилотных автомобилей⁶². Говоря о России, можно отметить, что уже в течение нескольких лет ряд российских компаний активно занимаются развитием технологий для создания автоматизированных средств передвижения⁶³. В частности, можно отметить опыт компании «Яндекс» — ее беспилотный автомобиль совершил поездку длиной 780 км, при этом автомобиль 99 % времени двигался без участия человека.

В беспилотных транспортных средствах для автоматического движения используются интеллектуальные системы машинного зрения, наборы камер, радаров, сенсоров и спутниковой навигации. Беспилотные автомобили в перспективе могут передвигаться не только по оборудованным дорогам, но и в условиях бездорожья.

Учитывая несомненные достоинства беспилотных автомобилей, нужно отметить их недостатки:

— потеря рабочих мест из-за автоматизации процесса;

— ненадежность программного обеспечения, которая ведет к риску создания аварийных ситуаций;

— наличие киберугроз, влияющих на безопасность движения и раскрытие конфиденциальных данных;

— утрата возможности самостоятельного управления автомобилем⁶⁴.

Наиболее серьезными недостатками следует считать киберугрозы, а также ненадежность программного обеспечения.

Киберугрозы напрямую влияют на безопасность при использовании автоматизированного транспорта. Так, злоумышленник может использовать уязвимость цифровой системы роботизированного автомобиля. Кроме того, правонарушитель может перехватить конфиденциальные данные, изменить важную информацию о скорости, местоположении и направлении движения автомобиля или даже получить контроль над транспортным средством, что будет способствовать созданию аварийной ситуации.

Ненадежное программное обеспечение также является серьезной проблемой на пути к переходу к автоматизированному транспорту. Система должна работать надежно при любых критических дорожных ситуациях, однако это не всегда имеет место. В частности, с подобными проблемами столкнулись специалисты в США в 2015 г., исходом развития которых стала гибель оператора, находившегося в кабине беспилотника⁶⁵.

Еще один случай имел место в 2018 г.: внедорожник Uber насмерть сбил велосипедиста, при этом в кабине находился оператор. Происшествие произошло в темное время суток, причем велосипедист появился из тени прямо перед машиной. Как отметил шеф полиции города, в котором произошло происшествие, ни техника, ни человек не могли среагировать на такую непредвиденную ситуацию⁶⁶.

На основе анализа указанных случаев можно заключить, что правильность работы автоматизированных автомобилей сильно зависит от условий окружающей среды, например времени суток или погоды. При отказе датчиков из-за высокой температуры или отказе камер при плохой видимости автомобиль оказывается в нетипичной ситуации и не может распознать окружающую обстановку, вследствие чего может произойти происшествие.

Возвращаясь к проблеме правового регулирования беспилотных транспортных средств, необходимо задаться вопросом о том, как необходимо регулировать ответственность при возникновении происшествий из-за неправильной работы программного обеспечения.

А. О. Ананенко на основе анализа гражданско-правового регулирования использования беспилотных транспортных средств за рубежом указывает, что имеет место ряд тенденций:

— общих правовых моделей, даже в пределах сходных правовых систем, на настоящий момент не выработалось;

— варианты правового регулирования разнятся в диапазоне от полного запрещения беспилотных транспортных средств до их свободного использования без какой-либо регистрации;

— даже в государствах с развитой практикой и культурой использования беспилотных транспортных средств не наблюдается определенности в том, какая модель правового регулирования является оптимальной, и имеет место перманентное изменение правил в данной сфере, нередко на диаметрально противоположные, что говорит об отсутствии устоявшихся принципов и норм правового регулирования и поиске наиболее эффективных правовых механизмов методом проб и ошибок;

— намечается тенденция к ужесточению контроля в области использования беспилотных транспортных средств в связи с тем, что практикой подтверждены существенные риски их использования, особенно в местах скопления людей и вблизи стратегически значимых объектов;

— все больше внимания уделяется порядку обучения пользователей беспилотных транспортных средств⁶⁷. Автор приходит к выводу, что данные тенденции следует учитывать при развитии отечественного беспилотного транспорта.

Россия слабо продвинулась в вопросах разработки законодательства в сфере беспилотных автомобилей. С началом использования беспилотных транспортных средств возникает ряд моральных проблем, помимо технических, описанных выше. Какое действие принять автопилоту, когда жертвы неизбежны, но есть возможность выбора этих жертв? Данная проблема была описана в 1967 году ученым из Англии Филиппом Футом. Он назвал ее «проблемой вагонетки» и сформулировал так: какое решение должен принять человек, если у него есть возможность переключить ход движения вагонетки, несущейся по рельсам прямиком на пятерых человек, привязанных к рельсам, притом что на втором пути, на который есть возможность переключить ход движения, привязан только один человек.

Существует множество различных ответов на поставленный Футом вопрос, но к единому мнению общество так и не пришло. В связи с этим как разработчикам беспилотных транспортных средств программировать их? Были проведены опросы среди населения Европы, многие люди придерживались идеи, согласно которой в критической ситуации беспилотный автомобиль должен выбрать такое решение, из-за которого меньший урон будет нанесен другим участникам движения, несмотря на, возможно, колоссальный урон для самого беспилотного транспортного средства. Но допустимо ли запрограммировать беспилотник так, чтобы при вероятном столкновении с мотоциклистом он врезался в стену?

Существует ряд других вопросов, ответов на которые современное общество не имеет: какое действие должно принять беспилотное транспортное средство, если на дорогу выскочило животное, например кошка? Подвергать опасности других участников движения и экстренно тормозить либо продолжать движение? В эру классических автомобилей каждый водитель сам принимает решение в данной ситуации, согласно его субъективному мнению, также только он будет нести ответственность за все последствия его маневров. Но кто возьмет ответственность на себя за всех сбитых животных либо погибших в дорожных происшествиях людей?

А. А. Гришин указывает, что «в России на сегодняшний день не сформировано законодательство в области производства и использования беспилотных транспортных средств. Учитывая аргументы специалистов о высоких темпах развития отношений по производству и эксплуатации высокоавтоматизированных транспортных средств (далее — ВАТС), а также другой связанной с этими процессами деятельности, можно утверждать, что в современных условиях законодатель вынужден будет урегулировать эти отношения»⁶⁸.

Правительство страны утвердило стратегию развития автомобильной промышленности Российской Федерации на период до 2025 г. Данный документ указывает, что «успешное развитие автономного (беспилотного) транспорта во многом обусловлено усовершенствованием и созданием новой информационно-коммуникационной и дорожной инфраструктуры. Это те инструменты, которые способны обеспечить самоуправляемые и автономные транспортные средства нужными сервисами и сведениями»⁶⁹.

В России была создана рабочая группа, деятельность которой направлена на решение вопросов, связанных с беспилотными технологиями, совершенствованием законодательства в области создания необходимых условий для развития беспилотных систем⁷⁰. На начальном этапе планируется создать в рассматриваемой области контур правовой системы, а именно:

— дать законодательное определение беспилотных транспортных средств в примечании к статье УК РФ, устанавливающей ответственность за нарушение правил безопасности эксплуатации беспилотников;

— провести разработку правил функционирования беспилотников, стандартов и технических регламентов;

— создать регламент правовой ответственности в гражданском и административном праве за нарушение правил функционирования беспилотных транспортных средств, ответственности в уголовном праве за совершение преступлений с участием беспилотника;

— произвести совершенствование технико-юридических аспектов уголовно-правовой нормы.

Важным вопросом выступает необходимость обеспечения безопасности эксплуатации беспилотных транспортных средств. В частности, в Стратегии безопасности дорожного движения в Российской Федерации на 2018–2024 годы⁷¹ определено следующее: новые технологии должны быть направлены на обеспечение безопасности дорожного движения. К указанным технологиям следует отнести интеллектуальные транспортные системы, системы автоматизации процесса управления. Именно это будет способствовать снижению уровня аварийности и повышению безопасности как водителей, так и пассажиров в беспилотных транспортных средствах.

Следует отметить, что Правительством Российской Федерации⁷² было принято решение провести на территориях г. Москвы и Республики Татарстан эксперимент по опытной эксплуатации на автомобильных дорогах общего пользования ВАТС с 1 декабря 2018 г. по 1 марта 2022 г.

В рамках эксперимента собственник транспортного средства должен подать заявку на участие, застраховать транспортное средство, а также во время проведения эксперимента осуществлять видеофиксацию действий водителя и окружающей дорожно-транспортной обстановки, уведомлять пассажиров ВАТС о том, что эксплуатация этого транспортного средства осуществляется в режиме эксперимента.

Ответственность за ДТП и иные происшествия с участием беспилотного транспортного средства, участвующего в эксперименте, несет его собственник.

По результатам проведения эксперимента и на основе данных, предоставленных собственником, испытательная лаборатория формирует отчет об итогах проверки и направляет его в Министерство промышленности и торговли Российской Федерации, которое на основе полученной информации организует разработку и установление требований безопасности к ВАТС и методов испытаний таких транспортных средств на основании результатов эксперимента и формирует и направляет в Правительство Российской Федерации предложения о целесообразности дальнейшего применения и развития опыта, полученного в рамках реализации эксперимента.

Таким образом, данный документ, на наш взгляд, имеет высокую практическую значимость, поскольку позволяет в рамках эксперимента отследить возможности и недостатки беспилотных транспортных средств в процессе непосредственной их эксплуатации в условиях населенных пунктов и дорог федерального и местного значения, регламентирует многоступенчатые контрольные процедуры за процессом эксплуатации рассматриваемого средства и дает возможность получить официальные данные об эксплуатации беспилотного транспортного средства в реальных условиях, которые могут лечь в основу разработки стандартов и технических регламентов, а также правового сопровождения использования указанных транспортных средств.

Кроме того, в стране разработан проект Федерального закона «О высокоавтоматизированных транспортных средствах и о внесении изменений в отдельные законодательные акты Российской Федерации»⁷³. Законопроект направлен на регулирование отношений, возникающих в связи с изготовлением и эксплуатацией ВАТС. В нем закрепляются полномочия органов власти по формированию государственной политики в сфере высокоавтоматизированных транспортных средств, устанавливается понятийный аппарат в указанной сфере, а также требования к перевозке пассажиров и грузов такими ВАТС. Кроме того, законопроектом закрепляются требования о наличии обязательного страхования гражданской ответственности владельца высокоавтоматизированного транспортного средства, о допуске ВАТС к участию в дорожном движении, о порядке и периодичности проведения осмотра ВАТС.

Отдельной статьей закрепляется ответственность изготовителя, владельца и оператора высокоавтоматизированного транспортного средства. В данной норме указано, что изготовитель ВАТС несет ответственность за вред, причиненный жизни, здоровью или имуществу гражданина либо имуществу юридического лица вследствие конструктивных недостатков транспортных средств, влияющих на безопасность дорожного движения, а также вследствие недостоверной или недостаточной информации о них в соответствии с законодательством Российской Федерации.

Владелец ВАТС обязан возместить вред, причиненный высокоавтоматизированным транспортным средством, если не докажет, что вред возник вследствие непреодолимой силы или умысла потерпевшего.

Таким образом, оператор ВАТС, согласно данному закону, будет нести ответственность в случае наступления вредных последствий на основании соответствующих норм отечественного законодательства в области организации дорожного движения, а основной груз ответственности возлагается на изготовителя. Однако данный проект не дает ответа на вопрос, кто будет ответственным за негативные последствия, наступившие в случае эксплуатации ВАТС, если конструктивные недостатки, ставшие причиной ДТП, возникли, например, по вине оператора или владельца, или же последние по собственной инициативе предоставили недостоверную и недостаточную информацию о транспортном средстве. Соответственно, указанный проект требует существенной доработки.

Расширение сферы правового регулирования беспилотных транспортных средств влечет за собой необходимость решения ряда серьезных проблем. Так, сюда следует включить необходимость корректировки правил дорожного движения, в которые будет включен беспилотный транспорт. Данный вопрос сопряжен с рядом сложностей по причине отсутствия единой классификации беспилотных транспортных средств.

Необходимо также сказать о том, что действующий УК РФ относительно рассматриваемого вопроса требует совершенствования, поскольку не включает нормы об ответственности за управление беспилотными транспортными средствами в случае ДТП, особенно если последние повлекли за собой тяжкие последствия для их участников. Следует отметить, что для успешной интеграции беспилотных транспортных средств в нашу жизнь необходимо преодолеть правовую неопределенность не только на национальном, но и на международном уровне.

2.2. Криминологические риски применения беспилотных транспортных средств

Повсеместное внедрение цифровых технологий влечет существенные изменения в привычных общественных отношениях. Одной из активно развивающихся сфер является применение автоматизированных систем в транспортных средствах⁷⁴. Особенность данных систем состоит в том, что они, аккумулируя информацию с различных датчиков и используя команды управления водителя, способны поддерживать движение транспортного средства без участия человека.

В то же время, как справедливо отмечается, в научной литературе отсутствует консенсус мнений относительно корректной дефиниции таких транспортных средств⁷⁵. Некоторые ученые предлагают дефиницию «беспилотные мобильные средства»⁷⁶, иные специалисты полагают, что подобные устройства следует именовать «транспортные средства, оборудованные автоматической системой управления, которые могут передвигаться без участия человека»⁷⁷. Положения нормативных правовых актов демонстрируют схожую терминологию. Так, согласно постановлению Правительства РФ от 26 ноября 2018 г. № 1415, высокоавтоматизированным транспортным средством признается транспортное средство, в конструкцию которого внесены изменения, связанные с его оснащением автоматизированной системой вождения⁷⁸.

Приведенные определения тождественны в признании «автоматизированного» характера вождения, то есть движения автомобиля. В то же время дефиниция, изложенная в нормативном акте Правительства России, нам представляется наиболее удачной, поскольку она содержит прямое указание на автоматизированную систему вождения, то есть некоторое программно-аппаратное средство, позволяющее выполнять функции управления, в отсутствие