Реализация конституционных социальных прав и свобод с использованием искусственного интеллекта: проблемы правового регулирования, пределы и ответственность
Под общ. ред. Липчанской М.А.
Учебник

Рецензенты:

Нарутто С. В. – доктор юридических наук, профессор, профессор кафедры конституционного и муниципального права Московского государственного юридического университета им. О. Е. Кутафина (МГЮА);

Ковалева Н. Н. – доктор юридических наук, профессор, заведующая кафедрой информационного права Саратовской государственной юридической академии.

© Коллектив авторов, 2022

© ООО «Проспект», 2022

* * *

Авторский коллектив монографии

Липчанская Мария Александровна – доктор юридических наук, профессор, профессор кафедры публичного права и правового обеспечения управления ФГБОУ ВО «Государственный университет управления», профессор кафедры государственно-правовых дисциплин Института государственной службы и управления РАНХиГС (введение; параграфы 1.1 и 2.5 совместно с Е. А. Отставновой; параграф 3.5; параграф 2.4 совместно с Т. В. Заметиной; параграфы 2.1 и 2.3 совместно с Т. Н. Балашовой; параграф 3.6 совместно с Т. Н. Балашовой и С. А. Приваловым; заключение);

Балашова Татьяна Николаевна – доктор юридических наук, профессор, профессор кафедры гражданского процесса и ОССП ФГБОУ ВО «Всероссийский государственный университет Юстиции (РПА Минюста России)», профессор кафедры публичного права и правового обеспечения управления ФГБОУ ВО «Государственный университет управления» (параграфы 2.1 и 2.3 совместно с М. А. Липчанской; параграф 3.6 совместно с М. А. Липчанской и С. А. Приваловым);

Заметина Тамара Владимировна – доктор юридических наук, профессор, заведующая кафедрой конституционного права им. профессора И. Е. Фарбера ФГБОУ ВО «Саратовская государственная юридическая академия» (параграф 1.2, параграф 2.4 совместно с М. А. Липчанской);

Зырянов Игорь Александрович – кандидат юридических наук, доцент кафедры конституционного права им. профессора И. Е. Фарбера ФГБОУ ВО «Саратовская государственная юридическая академия» (параграфы 1.3, 3.4; приложение 1 и 2 совместно с Колесниковой М. А.);

Отставнова Елена Александровна – кандидат юридических наук, доцент кафедры конституционного права им. профессора И. Е. Фарбера ФГБОУ ВО «Саратовская государственная юридическая академия» (параграфы 1.1 и 2.5 совместно с М. А. Липчанской; параграф 3.2 совместно с Е. С. Шуршаловой);

Привалов Сергей Александрович – преподаватель кафедры конституционного права им. профессора И. Е. Фарбера ФГБОУ ВО «Саратовская государственная юридическая академия» (параграфы 2.2, 2.6; параграф 3.6 совместно с М. А. Липчанской и Т. Н. Балашовой);

Шуршалова Елена Сергеевна – кандидат юридических наук, доцент кафедры конституционного права им. профессора И. Е. Фарбера ФГБОУ ВО «Саратовская государственная юридическая академия» (параграфы 3.1, 3,3; параграф 3.2 совместно с Е. А. Отставновой);

Колесникова Мария Александровна – магистрант кафедры конституционного права им. профессора И. Е. Фарбера ФГБОУ ВО «Саратовская государственная юридическая академия» (приложения 1 и 2 совместно с Зыряновым И. А.).

Выражаю глубокую признательность профессору, доктору юридических наук, заслуженному юристу РФ Г. Н. Комковой, написавшей предисловие к данной книге, рецензентам: профессору, доктору юридических наук С. В. Нарутто, профессору, доктору юридических наук Н. Н. Ковалевой за ценные советы и полезные замечания по ее содержанию. Искренне благодарю всех авторов, подготовивших свои материалы на высоком профессиональном и научном уровне, без которых это исследование не состоялось бы.

Руководитель проекта,

автор концепции и редактор монографии,

д. ю. н., проф. М. А. Липчанская

lipchan_maria@mail.ru

Предисловие

Предлагаемая вашему вниманию монография является определенным итогом коллективной научно-исследовательской работы, посвященной актуальному направлению в мировой юриспруденции – влиянию цифровизации, систем и технологий искусственного интеллекта на государственное управление в целом и реализацию прав и свобод человека в частности.

Следует отметить, что в настоящее время научный интерес относительно цифровизации и развития искусственного интеллекта, детерминированный как объективными причинами, так и информационными потребностями современного государства, возрастает, появляются исследования этих процессов в различных сферах научного знания. Однако в конституционно-правовом пространстве данные проблемы пока изучаются фрагментарно, практически нет научного анализа вопросов, посвященных содержанию и реализации конституционных прав и свобод человека с использованием искусственного интеллекта. Предлагаемая монография призвана восполнить данный пробел.

С учетом совокупности уже накопленных теоретических и практических знаний в различных отраслях гуманитарных и естественных наук предлагается авторское осмысление искусственного интеллекта, рассматриваемого одновременно как субъект и объект конституционных отношений. Безусловно, имеются спорные, дискуссионные моменты, которые обусловлены опережающим развитием цифровизации и некоторым отставанием правового регулирования реализации прав человека в условиях инновационных интеллектуальных технологий.

Методологические подходы, используемые в данном научном исследовании, позволили авторскому коллективу разработать и предложить вниманию научного сообщества новое видение конституционной теории прав человека с учетом современной информационно-цифровой реальности. При этом в данной монографии акцент сделан на правомочия, правовое регулирование и реализацию социальных прав и свобод человека, закрепленных Конституцией Российской Федерации.

Комплексный подход к исследованию социальных прав и свобод человека в условиях цифровизации и развития искусственного интеллекта, который предлагают авторы данной книги, позволяет по-новому посмотреть на традиционное, устоявшееся содержание социальных прав и свобод человека, переосмыслить концепцию юридической ответственности за нарушение социальных прав человека, реализуемых с использованием искусственного интеллекта, увидеть проблемы и тенденции их правового регулирования.

Оригинальными, хотя и не бесспорными, являются предложенные в монографии приложения, в которых обосновывается необходимость принятия Федерального закона «О естественных и цифровых гарантиях прав и свобод человека и людей, сопряженных с искусственным интеллектом» и предлагается текст подготовленного авторами монографии законопроекта и пояснительной записки к нему.

Авторам удалось органично сочетать значительный теоретический материал с большим количеством практических примеров из зарубежной и отечественной практики, убедительно подтверждающих обоснованность приводимых доводов и обобщающих выводов. Многогранность и дискуссионность выдвинутых новых концепций, гипотез и подходов создает широкое поле для их обсуждения на конференциях, семинарах и других научных мероприятиях, посвященных проблемам правового регулирования конституционных социальных прав и свобод человека при использовании искусственного интеллекта.

Комкова Галина Николаевна,

доктор юридических наук, профессор,

заведующий кафедрой конституционного и муниципального права,

декан юридического факультета Саратовского

национального исследовательского государственного

университета имени Н. Г. Чернышевского,

Заслуженный юрист РФ

Введение

Наука не является и никогда не будет являться законченной книгой. Каждый важный успех приносит новые вопросы. Всякое развитие обнаруживает со временем все новые и более глубокие трудности.

А. Эйнштейн

Масштабные планы российского государства по внедрению и использованию цифровых технологий и систем искусственного интеллекта во все сферы жизнедеятельности общества объективно актуализируют потребность в осмыслении, научном обосновании и адекватном правовом регулировании этих процессов. Достаточно давно среди ученых юристов ведутся дискуссии о присвоении роботам правового статуса «электронных лиц»[1], о признании полноценным киберсубъектом общества[2], о возможности наделения правосубъектностью виртуальных лиц[3], о наделении той или иной системы статусом субъекта права[4], о признании системы искусственного интеллекта в качестве субъекта авторских и патентных прав[5], обсуждаются вопросы применения искусственного интеллекта в правосудии[6], при реализации социальных прав человека[7].

Важно отметить, что в отечественной правовой доктрине попытки системно подойти к регулированию технологий искусственного интеллекта долгое время не предпринимались. Длительное отсутствие фундаментальных исследований по данной проблематике связано, в том числе, с новизной общественных отношений. В настоящее время стали появляется публикации, посвященные проблемам концептуального осмысления регуляторных проблем искусственного интеллекта, где справедливо отмечается, что «тактика нормативного продвижения … не вызывает возражений при условии, что изменения будут носить комплексный, взаимосвязанный характер, а это невозможно без выработки хотя бы самых общих принципов с осознанием динамики регуляторных усилий»[8].

Особое значение при этом приобретает необходимость баланса в правовом регулировании и развитии цифровизации, искусственного интеллекта и сохранения общепризнанных конституционных ценностей.

Не случайно в стратегических документах Российской Федерации, определяющих основной вектор развития технологий искусственного интеллекта и задачи их регламентации, формулируются не только принципы, но и базовые этические нормы, к числу которых относят: приоритет благополучия и безопасности человека, защиты его основополагающих прав и свобод; запрет на причинение вреда человеку по инициативе систем искусственного интеллекта и робототехники; подконтрольность человеку (в той мере, в которой это возможно с учетом требуемой степени автономности систем искусственного интеллекта и робототехники и иных обстоятельств); недопущение противоправной манипуляции поведением человека[9]. Это фундаментальные этические нормы в базовой части представленные американским писателем-фантастом Айзеком Азимовым в известном произведении «Я, робот».

Футуристические идеи в последнее десятилетие весьма активно воплощаются в реальность и провоцируют перед правовой системой Российской Федерации, системой публичного управления и обществом в целом серьезные вызовы, поскольку развитие технологий искусственного интеллекта нельзя оценивать однозначно, следует предвидеть, научно-обосновывать и минимизировать риски, связанные с этими процессами.

В настоящее время технологии и системы искусственного интеллекта целенаправленно внедряются во все сферы деятельности общества и государства, их влияние становится все более заметным и ощутимым при реализации прав человека, в том числе и основных социальных прав, гарантированных Конституцией Российской Федерации.

Системы здравоохранения, образования, оказания социальной помощи и поддержки населению в настоящее время интегрируют достижения информационных технологий и цифровизации, стремясь обеспечить безбарьерную среду и качественную реализацию прав человека в социальной сфере. Разумеется, в условиях информационного общества и внедрения технологий искусственного интеллекта происходит трансформация не только реализации основных социальных прав человека, но и изменение их устоявшегося содержания, появляются новые правомочия или дополняются существующие «цифровой» спецификой.

Такая ситуация объективно обуславливает необходимость не только доктринального осмысления понятия и содержания искусственного интеллекта в конституционном праве, но и выработки концепции конституционного правового регулирования социальных прав и свобод человека при использовании систем и технологий искусственного интеллекта.

Целью данного исследования является формирование комплексного представления о сущности искусственного интеллекта в конституционном праве, выявление трансформационных тенденций в содержании и реализации основных социальных прав и свобод в условиях цифрового общества и применения искусственного интеллекта, анализ видов юридической ответственности искусственного интеллекта, изучение проблем определения ответственности за нарушение социальных прав человека, реализуемых с использованием искусственного интеллекта, а также выработка предложений по совершенствованию государственной политики и российского законодательства в социальной сфере с учетом опыта правового регулирования социально ориентированного искусственного интеллекта в зарубежных странах.

Глава 1. Теоретико-правовые проблемы определения понятия искусственного интеллекта

1.1. Генезис теории искусственного интеллекта и его семантическое значение

Эволюционное развитие человека и общества обуславливает возникновение новых общественных отношений, которые требуют установления общих и четких правил поведения с целью упорядочения действий, участвующих в них субъектов. Это достигается с помощью правовых норм. Однако действительность, зачастую, опережает нормативно-правовое регулирование, что в полной мере относится и к общественным отношениям, структурным элементом которых является искусственный интеллект.

В истории выделяют три этапа развития теории искусственного интеллекта. Еще совсем недавно этот термин использовался в информатике как ее раздел, «занимающийся разработкой методов моделирования и воспроизведения с помощью компьютеров творческой деятельности человека»[10]. Это вполне логично, поскольку его основоположником считается Джон Маккарти – специалист в области математики и информатики. В 1959 году в США была проведена конференция, на которой впервые прозвучало понятие «искусственного интеллекта». По мнению Д. Маккарти – это «наука и сопутствующие технологии по созданию интеллектуальных машин. А именно – интеллектуальных компьютерных программ. Искусственный интеллект связан с задачей использования компьютеров для понимания работы человеческого интеллекта, но не ограничивается использованием методов, наблюдаемых в биологии»[11]. Ученый отмечал, что исследования в этой области принесут результат, если будет определено точное понятие «искусственного интеллекта» с точки зрения эвристики и эпистемологии, которые отвечают на вопросы: как приобретается новое знание для решения поставленных задач и какими средствами данные задачи решать, проводя правдоподобные суждения.

В 80-х годах прошлого столетия научные изыскания были связаны с идеей экспертных систем, под которой понимается возможность решать задачи по заданным условиям. Основателем российской школы развития искусственного интеллекта считается академик Г. С. Поспелов, под научным руководством которого в 80-х годах прошлого столетия была разработана автоматизированная система комплексного развития оборонных отраслей промышленности «ГРАНИТ-М»[12]. В основе экспертных систем лежат модели поведения экспертов (профессионалов) в определенной области знаний с использованием процедур логического вывода и принятия решений, а также базы знаний[13]. В данном случае лицо, принимающее управленческое решение, должно внести условия задачи в систему, которая выбирает наиболее эффективное и верное решение, а также наилучшую альтернативу на случай непредвиденных обстоятельств. Процесс решения задачи видится учеными как процесс выбора наилучшей альтернативы из множества альтернатив[14]. В настоящее время это направление получило свое развитие в коммерческой версии предприятий при принятии управленческих решений. Наиболее популярны из них информационные программы, использующие технологии «Бизнес – интеллекта» (business intelligence – BI), «Управление знаниями» (knowledge management – KM)[15]. SWOT-анализ позволяет компаниям определить ее сильные и слабые стороны, а также возможности дальнейшего развития и угрозы внешней среды[16].

Третий этап развития научных изысканий в области искусственного интеллекта связан со значительными возможностями, характеризующими начало ХХ века и настоящее время. Современные знания имеют междисциплинарный подход. Они содержатся не только в информатике и кибернетике, но и в биологии, социологии, психологии и других науках.

Прежде всего, необходимо определиться с содержанием данного понятия. Несмотря на то что в последние годы ему отводится пристальное внимание во многих научных изысканиях, единого устоявшегося определения до сих пор не выработано.

Если обратиться к буквальному толкованию слова «интеллект», то оно означает мыслительную способность, умственное начало у человека, определяющее его деятельность. А «искусственный» – это «не природный, сделанный наподобие подлинного»[17]. Следовательно, «искусственный интеллект» необходимо рассматривать как подобие мыслительных и умственных способностей человека. На этом основано современное направление изучения и производства искусственного интеллекта, связанное с моделированием мозга человека, созданием искусственных нейронных сетей.

Следует отметить, что в психологии, занимающейся изучением интеллекта человека, до сих пор, также, ведутся споры о его содержании и определении, что в свою очередь, замедляет процесс правового регулирования общественных отношений, связанных с искусственным интеллектом. Наиболее удачным определением, на наш взгляд, которое можно использовать при моделировании искусственного интеллекта, является его понимание как устойчивой структуры умственных способностей индивида, уровня его познавательных возможностей, механизма психической адаптации индивида к жизненным ситуациям, понимания существенных возможностей действительности, включенности индивида в социокультурный опыт социума[18]. Из этого видно, что в структуре интеллекта должны быть: система знаний и алгоритмы решения задач, способность к обучению и получению новых знаний, адекватное реагирование на изменения окружающей среды, способность к абстрактному мышлению и прогнозированию, взаимодействие с другими личностями, понимание и создание культурных ценностей общества.

В психологии выделяют семь видов интеллекта: лингвистический (способность использовать естественный язык для передачи информации, а также для стимулирования), музыкальный (способность исполнять и сочинять музыку), логико-математический (способность исследовать, классифицировать категории и предметы, манипулировать символами и находить между ними связи), пространственный (воспринимать и создавать зрительно-пространственные композиции), телесно-кинестетический (способность использовать двигательные навыки в спорте и ручном труде), межличностный (способность понимать других людей и общаться с ними) и внутриличностный (понимать свои чувства и желания)[19]. Из них вытекают эмоциональный и духовный. Представляется, что каждый человек индивидуален и уникален, и не может обладать всеми видами интеллекта в равной степени. Например, человек, имеющий развитый музыкальный интеллект может не быть хорошим спортсменом с качественным телесно-кинетическим интеллектом. Кроме того, внутриличностный и духовный предполагают, что их носителем может быть только человек – личность.

Профессор, главный научный сотрудник ФИЦ «Информатики и управления» РАН Виктор Финн считает, что существет тринадцать естественных интеллектуальных способностей человека, которые в совокупности составляют идеальный интеллект и главный продукт искусственного интеллекта. К ним он относит: обнаружение существенного в данных, основанного на любопытстве и спонтанности; порождение последовательностей «цель – план – действие»; поиск посылок, релевантных цели рассуждений; способность к рассуждению: вывод, следствие из посылок; синтез познавательных процедур, производящих синтетические выводы – такие выводы, которые непосредственно из посылок не следуют и носят творческий характер: выводы по аналогии, индуктивные обобщения данных, выводы с помощью объяснения данных (абдукция), решение задач при помощи различных познавательных процедур; способность рефлексии – оценка знаний и действий; способность к объяснению; аргументация при принятии решения; познавательное любопытство и способность к распознаванию; способность к обучению и использованию памяти; способность к интеграции знания для образования концепций и теорий; способность уточнения неясных идей и преобразования их в точные понятия; способность к изменению системы знаний при получении новых знаний и изменениях ситуации[20]. Данный перечень не предусматривает способности, характеризующие внутриличностный, эмоциональный и духовный виды интеллекта, что вполне логично, поскольку ученый придерживается мнения, что искусственный интеллект не может быть равным человеческому.

Профессор Т. В. Черниговская по этому поводу справедливо замечает, что «… мы пока еще не видели искусственный интеллект, который был бы Моцартом или Шекспиром»[21]. Это подтверждают и другие исследователи, которые считают, что перевод с английского языка словосочетания Artificial Intelligence оказался неточным. Его следует понимать как «умение рассуждать разумно»[22]. Такой вывод напрашивается и в отношении наиболее «продвинутого» робота, созданного гонконгской компанией Hanson Robotics, Софии, получившей в 2017 году подданство Саудовской Аравии, обладающей 60 эмоциями и способной поддерживать разговор, принимать логически выверенные решения. Однако у нее отсутствует чувство юмора и способность к самостоятельному обучению. Также отмечаются сбои в ее работе, устранить которые по силам только человеку[23].

Развитие науки предполагает возможность в будущем создания искусственного интеллекта равного или превосходящего естественный. Однако на сегодняшний день говорить об этом рано. Приоритетным направлением остается взаимодействие человека и машины, поскольку любая незначительная поломка или сбой в системе могут привести к негативным последствиям. Эти проблемы способен пока решать только человек. Однако искусственный интеллект нельзя рассматривать и как простой набор алгоритмов. Основное его отличие от технических средств последнего поколения – способность к самообучению на основе накопленного опыта, адаптации к изменениям окружающей среды, наличие когнитивных функций[24].

Поэтому в настоящее время его необходимо понимать, как разумно мыслящую систему, способную выстраивать логические цепочки и выбирать оптимальный вариант поведения, обладающую человеческими когнитивными способностями. Он имеет следующие признаки:

– основывается на естественном интеллекте человека;

– создан человеком или самой системой;

– обслуживается, дорабатывается, исправляется человеком или самостоятельно;

– обладает частью или всеми составляющими человеческого интеллекта.

Как видно из основных признаков, в центре находится человек, следовательно, целью создания искусственно интеллекта должно стать повышение качества жизни человека.

Основываясь на теории видового состава естественного интеллекта человека, можно предположить, что искусственный интеллект необходимо классифицировать по этим основаниям на: лингвистический, музыкальный, логико-математический, пространственный, телесно-кинестетический, межличностный, внутриличностный, эмоциональный и духовный. Если человек обладает всеми из них в разной степени, то искусственный интеллект может быть одним из его видов или сочетать несколько из них. На наш взгляд, соединение всех видов интеллекта в одной системе – есть суперинтеллект, говорить о котором преждевременно, поскольку в таком случае он сможет существовать автономно от человека, находить способы самовоспроизводства, обладать волей и интересами.

Существует мнение, что в современный период сложилось три ключевых направления моделирования искусственно интеллекта:

1) создание смешанных интерактивных систем, основанных на взаимодействии человека и машины, то есть естественного и искусственного интеллектов;

2) изучение работы различных участков мозга человека с целью выявления способов мышления и построения на основе психофизиологических данных моделей интеллектуальной деятельности;

3) моделирование интеллектуальной деятельности с помощью вычислительных машин, результатом которых становятся возможности решения интеллектуальных задач наравне с человеком[25].

Другие авторы выделяют три типа искусственно интеллекта:

1) специализированный – применяется в определенной сфере (компьютерных играх, медицине, управлении). Его цель – нахождение оптимального варианта действий;

2) общий – представляет собой компьютерные устройства, способные решать поставленные задачи наравне с человеком. То есть способный размышлять, вычислять, планировать, абстрактно думать, проводить сравнение идей, поддаваться обучению;

3) суперинтеллект – интеллект, преобладающий над человеческим, способный к изобретению сложных технологий[26].

Исходя из анализа представленных предложений и учитывая виды естественного интеллекта, искусственный интеллект можно классифицировать следующим образом:

1) специализированный – реализуется в конкретных сферах (медицина, управление персоналом, промышленность и т. д.). Представляет собой один из видов естественного интеллекта;

2) комбинированный – состоит из нескольких видов естественного;

3) общий – равен интеллекту человека (некоторые из видов могут преобладать, другие проявляться в меньшей степени);

4) суперинтеллект – предполагает не только совокупность всех видов интеллекта человека, а их качественное превосходство над естественным интеллектом.

Поскольку, как известно, наибольшее распространение в настоящее время получили экспертная и нейронная системы искусственного интеллекта, можно говорить о том, что его продуктами являются: в первом случае – информация; во втором – результат деятельности, основанный на информации, действиях, эмоциях. В этих случаях искусственный интеллект может быть как специализированным, так и комбинированным. Соединение экспертной и нейронной систем позволит синтезировать общий и суперинтеллект. Что будет являться их продуктом предположить не представляется возможным.

По сути, все научные изыскания в области искусственного интеллекта направлены на создание человеком себе подобного существа или превосходящего по разуму. И если совсем недавно это воспринималось обществом как футуризм, то современный период развития искусственных технологий становиться реальностью. Однако до сих пор остается актуальным вопрос о возможности рассмотрения искусственного интеллекта в проекции конституционно-правовых отношений, поскольку в Основном законе страны данного понятия не содержится. Следует согласиться с теми авторами, которые рассматривают конституционные правоотношения как фактор объективной правовой реальности[27]. Конституция Российской Федерации содержит общие принципы построения государства и общества, в том числе, и принципы, на которых должны строиться все правоотношения в государстве. Она устанавливает правоотношения общего характера, в которых точно не определены субъекты, не установлены их права и обязанности[28]. В процессе их реализации возникают конкретные правоотношения, которые возникают по поводу конкретных фактов, случаев, споров, притязаний и могут регулироваться нормами других отраслей права. Конституционные правоотношения «охватываются предметом конституционного права и закрепляются его нормами»[29]. Они имеют фундаментальный характер, являясь ядром всех остальных правоотношений. Следовательно, содержащиеся в Конституции нормы применимы и к правоотношениям, связанным с искусственным интеллектом. Г. К. Гаджиев справедливо отмечает, что в Конституции пробелов быть не может и если Конституция хорошо «сработана», она является кладовой «неявных» знаний[30].

Одной из таких «кладовых» можно считать ч. 4 ст. 15 Конституции России, в которой закреплено, что общепризнанные принципы и нормы международного права и международные договоры являются частью ее правовой системы. В случаях коллизии международного права и национального законодательства, правила международного договора имеют приоритет пред российскими законами, но не перед Конституцией. Общепризнанные принципы и нормы международного права «компенсируют нормативный «вакуум» или нормативную «недостаточность»[31].

Применительно к искусственному интеллекту необходимо отметить, что международные договоры данного направления отсутствуют. Разработаны лишь документы, имеющие рекомендательный характер регионального уровня.

На универсальном уровне, в рамках ООН, данный вопрос подлежит обсуждению в связи с гарантированием прав и свобод человека, содержащихся во Всеобщей декларации прав человека и Пактах о гражданских и политических, социально-экономических и культурных правах человека. 12 сентября 2014 года на 27 сессии ООН Советом по правам человека был затронут вопрос неприкосновенности частной жизни в цифровой век. Во вступительном слове заместителя Верховного комиссара Организации Объединенных Наций по правам человека было отмечено, что цифровые технологии связи вызвали революционное изменение способов взаимодействия людей и для миллионов из них цифровой век стал веком освобождения – возможно, самого широкого освободительного движения, когда-либо известного миру. Однако вызывает озабоченность практикующиеся государственное или экстерриториальное наблюдения, перехват цифровых сообщений, сбор личных данных, которые ведут к нарушению права на частную жизнь, преследованию по политическим мотивам и инакомыслию. В докладе подчеркивается ответственность государств за законодательное обеспечение защиты права частной жизни индивидов от незаконного или произвольного вмешательства. «Контроль сообщений в любых формах должен вестись на основании общедоступного законодательства, которое должно в свою очередь соответствовать конституционному режиму данного государства и международному праву прав человека»[32].

Генеральный секретарь ООН Антониу Гутерриш на открытии Генеральной конференции ЮНЕСКО, проходившей 12 ноября 2019 года в Париже, отметил необходимость создание универсальной нормативной базы, касающейся этических сторон использования искусственного интеллекта[33]. Однако этот вопрос пока находится на стадии обсуждения.

В марте 2019 года Комитетом министров Совета Европы была разработана Рекомендация «О предотвращении сексизма и борьба с ним». В ней впервые была дано определение «сексизма», которое представляет собой «любые действия, жесты, визуальные представления, устные или письменные высказывания, практику или поведение в общественной или частной сфере, как в сети, так и вне ее, основывающиеся на представлении, что какое-либо лицо или группа лиц находятся ниже по положению из-за своей гендерной принадлежности, целью или результатом которых является нарушение неотъемлемого достоинства или прав такого лица или группы лиц». Особое место в Рекомендации уделено искусственному интеллекту, алгоритмы которого могут транслировать и укреплять гендерные стереотипы, способствуя распространению сексизма[34].

Дальше остальных в вопросах обсуждения искусственного интеллекта продвинулся Европейский союз. Резолюцией Европарламента 16.02.2017 были разработаны рекомендации для Европейской комиссии в отношении норм гражданского права о робототехнике. В частности, в ней отмечено, что ежегодно растет количество продаж роботов. В 2014 году среднее количество продаж по сравнению с 2010 годом выросло на 29 %, а количество заявлений на получение патентов в сфере технологий робототехники – на треть. В ней приведены положительные стороны внедрения искусственного интеллекта в жизнь общества, к которым отнесены: повышение эффективности и сокращение затрат в производстве и торговле, на транспорте, в сферах здравоохранения, спасательных операций, сельском хозяйстве, образовании. К ним же можно отнести – проблему старения населения и необходимость в связи с этим применения искусственного интеллекта на рынке труда.

В Резолюции предусмотрено, что Комиссия ЕС должна выработать единые и универсальные понятия «киберфизические системы», «автономные системы», «умные автономные роботы», учитывая следующие характеристики умного робота: способность становиться автономным, используя сенсоры и обмениваясь данными со своей средой; обмениваться этими данными и анализировать их; самообучаться на основе приобретенного опыта и при взаимодействии; наличие по меньшей мере минимальной физической поддержки; способность адаптировать свои действия и поведение в соответствии с условиями среды; отсутствие жизни с биологической точки зрения. Резолюция подчеркивает, что создание роботов должно иметь цель – дополнить возможности человека, а не заменить его. В ней же содержатся принципы разработки и внедрения в повседневную жизнь автономных транспортных средств (автомобилей, дронов); роботов по уходу (за престарелыми, людьми с ограниченными физическими возможностями) (Здесь необходимо отметить, что они не должны заменять человеческое общение, а должны выполнять рутинные задачи, быть ассистентами врачей); медицинских роботов (для выполнения рутинных задач и обеспечения точности операций); роботов по восстановлению и совершенствованию организма человека; роботов в сферах образования и труда.

В Резолюции также содержатся этические принципы, связанные с оценкой безопасности человека с точки зрения его здоровья, свободы, конфиденциальности, неприкосновенности и уважения человеческого достоинства, самоопределения, недискриминации и защиты личных данных. Особого внимания заслуживает положение Резолюции, включающее правило доступности и прозрачности для человека принятого искусственным интеллектом решения. Руководящими принципами в данной области должны стать – «делай благо» и «не навреди». Поэтому интерес представляют положения Резолюции, рекомендующие основные принципы ответственности, на которых должно строиться законодательство государства в сфере искусственного интеллекта. Главный из них – в основе взаимодействия людей и робота должны лежать предсказуемость и направленность. Второй принцип – нормативно-правовые акты не должны ограничивать виды и объем ущерба, который может быть компенсирован, а также ограничивать формы компенсации, которые могут быть получены пострадавшей стороной на основании того, что вред не был причинен человеком. Третье – введение системы страхования по примеру страхования повышенного источника опасности.

В документе содержится предложение о создании Агентства ЕС по робототехнике и искусственному интеллекту с целью создания единого реестра продуктов искусственного интеллекта для дальнейшей их идентификации[35]. Следует подчеркнуть, что в Рекомендации ЕС подчеркнуто, что она основывается на Законах А. Азимова, которые чаще всего используются в научной фантастике. Это те правила, которые направлены на обеспечение безопасности человека: робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред; робот должен повиноваться всем приказам, которые дает человек, кроме тех случаев, когда эти приказы противоречат Первому Закону; робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому или Второму Законам[36].

Европарламент, также, озаботился вопросами этики, составив Кодекс этики для разработчиков робототехники, предлагающий им добровольно его соблюдать. В документе содержатся основные принципы – «делай благо», «не навреди», самостоятельности (принцип добровольного информированного согласия человека на взаимодействие с роботом), справедливости (все блага, получаемые от деятельности роботов, должны распределяться справедливо)[37].

В рамках СНГ отсутствуют акты, затрагивающие тем или иным образом искусственный интеллект. Условно к таковым можно отнести Доклад Межгосударственного совета по антимонопольной политике Исполнительного комитета СНГ «Формирование конкурентной политики в государствах – участниках СНГ в условиях развития цифровой экономики» и протокольное решение к нему[38] В нем, в частности, подчеркивается, что цифровая экономика является информационной, глобальной, сетевой. При этом все экономические процессы оказываются встроенными в глобальную сеть взаимодействия между локальными бизнес-сетями. В Докладе дана характеристика развития цифровой экономики стран СНГ, а также проанализировано законодательство в данной сфере и его готовность к новым вызовам мирового масштаба. Согласно Докладу основное назначение цифровой экономики – ускорить обмен информацией между компаниями, банками, государственными органами, населением, минуя посредников и сложные схемы. Анализ законодательства стран СНГ, представленный в Докладе, позволяет говорить о том, что основным продуктом цифровой экономики является информация, обмен ею.

В рамках СНГ принят модельный закон «О трансграничном образовании»[39], предусматривающий обучение граждан в вузах государств-участников по месту нахождения в своей стране с использованием специальных технологий (электронное обучение).

Таким образом, понятие «искусственного интеллекта» более подробно и детально обсуждается на региональном уровне в рамках Европейского союза, участником которого Россия не является. Следовательно, рекомендации, данные его органами для России не обязательны. Однако разрабатываемые им основы регулирования производства и использования искусственного интеллекта могут в дальнейшем стать ключевыми в международном праве, и как следствие, в законодательстве большинства европейских и других государств. Основное, что можно вынести из современных идей, заложенных в документах ЕС, это то, что приоритетным направлением правового регулирования является взаимодействие человека и машины, в результате которого обеспечивается более качественный уровень жизни человека. На первый план все универсальные и региональные акты ставят его права и свободы. Виды искусственного интеллекта можно классифицировать по отраслям, в которых он применяется. Если придерживаться авторской типологии, это – специализированный и комбинированный интеллекты. А его продукты – это информация, услуги или сам искусственный интеллект, его тело (в случаях реставрации тела человека). В данных видах искусственный интеллект возможно рассматривать как объект конституционно-правовых отношений, поскольку анализ международно-правовых актов показывает, что его субъектами могут являться государства, государственные органы, общественные организации, юридические и физические лица, наделенные определенными правами и обязанностями, прописанными в законодательстве.

К искусственному интеллекту применима ч. 4. ст. 8 Конституции Российской Федерации, где закрепляются три вида собственности: государственная муниципальная и частная. Статья 35 гарантирует каждому право иметь, владеть, пользоваться и распоряжаться собственным имуществом. Следовательно, искусственный интеллект как объект конституционных правоотношений может находиться в собственности. Это общие конституционные положения, на основании которых возникают конкретные, регулируемые отраслевым законодательством (гражданско-правовым, административно-правовым, уголовным). В таком случае требует правового обоснования содержание прав и обязанностей субъектов правоотношений при изобретении, производстве и передачи искусственного интеллекта, а также его продуктов.

Статья 34 Конституции России гласит, что каждый вправе использовать свои способности и имущество для предпринимательской и иной не запрещенной законом деятельности. А ст. 43 содержит право на свободу научного творчества. Вместе они закрепляют возможность создания искусственно интеллекта и его использования в целях извлечения прибыли. Здесь он также подлежит рассмотрению в качестве объекта интеллектуальной собственности, использование которого регулируется нормами гражданского права.

В то же время статьи российской Конституции, посвященные социальным правам человека, таким как право на социальное обеспечение (ст. 39), на охрану здоровья и медицинскую помощь (ст. 41), на образование (ст. 43), применимы к искусственному интеллекту, анализируя его как средство реализации данных прав человека. Представляется, что в последующем право на него будет рассматриваться в качестве одного из правомочий конституционных прав и свобод человека.

Основной принцип, содержащийся в Основном Законе Российской Федерации, как и принцип международного права – это признание, соблюдение и защита государством прав и свобод человека (ст. 2). Это основополагающее начало всех правоотношений, в том числе тех, объектом которых является искусственный интеллект.

В настоящее время в России отсутствует законодательная база, посвященная исследуемому вопросу, возникающие правоотношения регулируются правовыми нормами по аналогии. Однако стремительное развитие новых технологий, требует разработки и принятия отдельного закона, в том числе в целях защиты прав и свобод человека. Знание «правил игры» в том числе позволит повысить инвестиционные вложения в научные исследования искусственного интеллекта.

В условия законодательного пробела Президент как гарант прав и свобод человека, определяющий основные направления внешней и внутренней политики, вправе издать указ. Это подтверждает Конституционный Суд РФ, указав в одном из своих Постановлений, что в случае пробела в законодательстве, Президент РФ вправе издать индивидуальный акт, который будет действовать до принятия законодательного[40].

Начало восполнения законодательного пробела было положено Указом Президента РФ от 07.05.2018[41], которым определены основные приоритеты развития российского государства и общества. В их числе – цифровая экономика. Несмотря на то что в Указе не содержится понятия «искусственный интеллект», анализ задач, поставленных перед Правительством РФ в этой сфере, позволяет прийти к выводу, что речь идет, в том числе, о специализированном и комбинированном искусственном интеллекте, его развитии и внедрении во все сферы жизни, особенно в экономической. В данном случае объектом конституционно-правовых отношений будут являться цифровые технологии и платформы. Во исполнение Указа Правительством РФ была разработана Программа «Цифровая экономика Российской Федерации»[42], которая в 2019 году была отменена в связи с утверждением Президентом России Стратегии развития искусственного интеллекта в России до 2030 года[43]. Однако именно в этой Программе впервые были употреблены понятия «искусственный интеллект» и «нейротехнологии» в качестве сквозных цифровых технологий.

В новой Стратегии впервые в российском праве дано понятие «искусственного интеллекта», как представляющему собой «комплекс технологических решений, позволяющий имитировать когнитивные функции человека (включая самообучение и поиск решений без заранее заданного алгоритма) и получать при выполнении конкретных задач результаты, сопоставимые, как минимум, с результатами интеллектуальной деятельности человека. Комплекс технологических решений включает в себя информационно-коммуникационную инфраструктуру, программное обеспечение (в том числе, в котором используются методы машинного обучения), процессы и сервисы по обработке данных и поиску решений)». А его технологиями признаны: компьютерное зрение, обработка естественно языка, распознавание и синтез речи, интеллектуальная поддержка принятия решений. Из определения следует, что искусственный интеллект в настоящее время понимается довольно узко и связан в основном с компьютерными технологиями. Это вполне оправданно, поскольку такие виды интеллекта, как общей и суперинтеллект еще не созданы человеком. При условии их возникновения появится необходимость пересмотра всего российского законодательства, поскольку в этом случае они перейдут из объекта в субъект конституционно-правовых отношений. Как отмечают некоторые исследователи, в Стратегии сделан акцент на когнитивной составляющей искусственного интеллекта[44]. Основными направлениями использования технологий искусственного интеллекта обозначены – экономика и социальная сфера.

Особое внимание в Стратегии уделено принципам развития и использования искусственного интеллекта в России, к которым отнесены: защита прав и свобод человека; безопасность граждан и юридических лиц; прозрачность; технологический суверенитет страны; целостность инновационного цикла; разумная бережливость; поддержка конкуренции. Все эти принципы вытекают из принципов российского конституционного строя, содержащихся в первой главе Конституции Российской Федерации, к которым относятся: приоритет прав и свобод человека; государственный суверенитет; социальное государство; единство экономического пространства. Кроме того, многие из них схожи с принципами, содержащимися в Резолюции Европарламента от 16.02.2017.

В Стратегии отдельное место отведено созданию комплексной системы регулирования общественных отношений, возникающих в связи с развитием и внедрением технологий искусственного интеллекта. Поскольку Конституция Российской Федерации является ядром правовой системы и имеет высшую юридическую силу, правовое регулирование общественных отношений, связанных с искусственным интеллектом, должно основываться на тех принципах, которые в ней содержатся. Именно Конституция была принята российским народом на референдуме, она имеет демократическую сущность и содержит основные национальные интересы. Следовательно, народ или его представители должны определять и способы создания и использования искусственного интеллекта с учетом его национальных интересов. В данном случае искусственный интеллект может рассматриваться лишь как благо материального или нематериального мира, по поводу которого субъекты вступают в них. Определяющим словом здесь должно выступать «благо». То есть технологии искусственного интеллекта должны повышать качество жизни человека. Придавая ему статус субъекта, общество рискует оказаться в другой реальности, требующей принятия новой Конституции с учетом интересов, прав и обязанностей искусственного интеллекта.

1.2. Юридическая природа и понятие искусственного интеллекта в различных отраслях знаний

Последние двадцать пять лет многочисленные аспекты использования искусственного интеллекта исследуются как в сфере технических наук, так и выступают объектом анализа различных направлений общественно-гуманитарных наук – философии, педагогики, социологии и юриспруденции. Например, в философской и педагогической литературе достаточно подробно рассмотрены философские основы, социокультурные и технологические предпосылки искусственного интеллекта, его онтологические и гносеологические аспекты, возможности использования в образовательной среде[45].

В зарубежной литературе проблемы понятия, развития в внедрения искусственного интеллекта в социальную сферу исследовались в трудах Ф. Джексона, Д. Кревье, Н. Нильсона, Д. Люгера, С. Рассела, М. Хаттера и других[46].

В отечественной юриспруденции отдельные вопросы искусственного интеллекта изучались в рамках теории права и государства, информационного права, при этом уделялось внимание вопросам обеспечения информационной безопасности России[47], теоретико-правовым основам безопасного функционирования и развития информационно-электронных систем[48], вопросам развития телемедицины, цифрового здравоохранения[49]. Исследовались проблемы правового статуса робототехники[50], правового регулирования Интернета[51] и др.

Самостоятельный блок работ по искусственному интеллекту посвящен гражданско-правовым[52], правоохранительным, криминологическим или уголовно-правовым аспектам этой проблемы[53].

В науке конституционного права данные вопросы касались, в основном информационных отношений[54], информационной деятельности[55], конституционных аспектов формирования информационно-цифрового пространства[56]. Специальные монографические работы в области конституционных основ искусственного интеллекта отсутствуют.

Как отмечают ученые, «теоретическое исследование – это всегда исследование в категориях, посредством категориального анализа»[57], поэтому уяснение понятийной стороны явлений выступает необходимой стадией научного и практического познания, способствует совершенствованию терминологического инструментария науки. Исходя из этого, рассмотрение искусственного интеллекта как объекта познания необходимо с анализа дефиниции самого понятия.

Artificial intelligence (AI) – раздел науки информатики и разновидность информационной технологии (от англ. computer science, фр. informatique), которые изучают «разумные» машины и соответствующее программное обеспечение. Первоначально данный термин, введение которого в 1955 году связывают Джоном Маккарти, означал науку и технику создания «разумных машин». Однако в СССР с 1970 года в силу господствующих философских и идеологических догм употребляли несколько иное понятие «искусственный интеллект». Сложность изучения искусственного интеллекта заключается в том, что с появлением первых теоретических разработок в 50-х годах прошлого века происходила достаточно быстрая смена парадигм в этой довольно молодой науке, а ее междисциплинарный базис породил различные научные школы и направления исследований[58].

Источники в области экономики, информатики, кибернетики используют различные дефиниции искусственного интеллекта. Чаще всего, искусственный интеллект (далее ИИ) рассматривается либо как имитация некоторых видов интеллектуальной (или мыслительной) человеческой деятельности в электронных системах[59], либо как научное направление, в рамках которого ставятся и решаются задачи аппаратного (или программного) моделирования интеллектуальных видов человеческой деятельности, включая свойство интеллектуальных систем выполнять функции (творческие), которые традиционно считаются прерогативой человека[60].

Наряду с понятием ИИ используются также термины интеллектуальные информационные системы (ИИС[61]) или искусственный разум[62]. Их содержание по смыслу близко понятию ИИ.

В таком же контексте раскрывают сущность понятийной стороны искусственного интеллекта и ученые правоведы. Например, по мнению Е. П. Сесицкого, «система искусственного интеллекта – это компьютерная система, представляющая собой совокупность алгоритмов, программ для ЭВМ, баз данных и аппаратного обеспечения, работающих на основе технологий искусственного интеллекта»[63]. Развернутое определение искусственного интеллекта дают И. В. Понкин и А. И. Редькина, которые пишут, что это искусственная сложная кибернетическая компьютерно-программно-аппаратная система (электронная, в том числе – виртуальная, электронно-механическая, био-электронно-механическая или гибридная) с когнитивно-функциональной архитектурой и собственными или релевантно доступными (приданными) вычислительными мощностями необходимых емкостей и быстродействия, обладающая: свойствами субстантивности (включая определенную субъектность, в том числе как интеллектуального агента) и в целом автономности, высокоуровневыми возможностями воспринимать (распознавать, анализировать и оценивать) и моделировать окружающие образы и символы, отношения, процессы и обстановку (ситуацию), самореферентно принимать и реализовывать свои решения, способностями самореферентно адаптировать свое собственное поведение, автономно глубинно самообучаться[64].

Аналогичное определение искусственного интеллекта дает П. М. Морхат. Он полагает, что это полностью или частично автономная самоорганизующая (и самоорганизующаяся) компьютерно-аппаратно-программная виртуальная (virtual) или киберфизическая (cyber-physical), в том числе био-кибернетическая (bio-cybernetic), система (юнит), не живая в биологическом смысле этого понятия, с соответствующим математическим обеспечением, наделенная/обладающая программно-синтезированными (эмулированными) способностями и возможностями, среди которых антропоморфно-разумные мыслительные и когнитивные действия, самореферентность, саморегулирование, самоограничения, самоадаптирование, обучение и самообучение, автономное сложное накопление информации и опыта и др.[65]

Концептуально согласимся с тем, что под искусственным интеллектом следует понимать, в первую очередь, компьютерные системы с человекоподобным интеллектом, не основанные на биоматериалах и биотехнологиях. Последние объекты требуют самостоятельного изучения. В рамках проводимого исследования нас интересуют правовые аспекты участия носителя искусственного интеллекта (системы, объекта, устройства, агента) в реализации социальных прав граждан в Российской Федерации.

Действующая Конституция не содержит в своем тексте упоминания «искусственный интеллект». Согласно ч. 1 ст. 44 Конституции РФ 1993 года, интеллектуальная собственность охраняется законом. Данное положение находится в первой части статьи, гарантирующей свободу литературного, художественного, научного, технического и других видов творчества. Правовое регулирование интеллектуальной собственности относится к исключительному ведению Российской Федерации (п. «о» ст. 71 Конституции РФ).

Несмотря на отсутствие в Основном законе термина искусственный интеллект, вопросы формирования цифровой экономики и развития искусственного интеллекта поднимаются в ряде документов стратегического характера, например, Стратегии научно-технологического развития Российской Федерации, утвержденной Указом Президента Российской Федерации от 01.12.2016 № 642, где развитие технологий, связанных с машинным обучением и созданием систем искусственного интеллекта рассматривается как одно из приоритетных направлений на ближайшие 10–15 лет, а также в Стратегии развития информационного общества в Российской Федерации на 2017–2030 годы, утвержденной Указом Президента Российской Федерации от 09.05.2017 № 203. В последней развитие технологий искусственного интеллекта определено в качестве одного из основных направлений развития российских информационных и коммуникационных технологий. Указом Президента РФ от 10.10.2019 № 490 «О развитии искусственного интеллекта в Российской Федерации» утверждена Национальная стратегия развития искусственного интеллекта на период до 2030 года, определяющая задачи развития искусственного интеллекта в целях обеспечения национальных интересов и реализации стратегических национальных приоритетов. В Послании Федеральному Собранию от 15.01.2020 Президент РФ отметил необходимость создания отечественных технологий и стандартов в области искусственного интеллекта, новых материалов, цифровых технологиях.

Правовое определение искусственного интеллекта дается в Национальной стратегии развития искусственного интеллекта на период до 2030 года. Под искусственным интеллектом предлагается понимать комплекс технологических решений, позволяющий имитировать когнитивные функции человека (включая самообучение и поиск решений без заранее заданного алгоритма) и получать при выполнении конкретных задач результаты, сопоставимые, как минимум, с результатами интеллектуальной деятельности человека.

Не вызывает сомнений тот факт, что Конституция государства как документ, обладающий высшей юридической силой, возглавляющий иерархию нормативно-правовых актов, закрепляет главенствующие социальные, политико-правовые ценности, определяет ориентиры развития страны. Поэтому прежде чем анализировать механизм реализации социальных прав граждан с использованием искусственного интеллекта, необходимо определиться с концептуальными установками в сфере использования искусственного интеллекта, вытекающими из анализа действующей Конституции РФ.

1. Согласно ст. 2 Конституции РФ «Человек, его права и свободы являются высшей ценностью». В России как в правовом и социальном государстве человек, а не носитель искусственного интеллекта признается полноправным участником общественных отношений, права и свободы которого определяют смысл, содержание и применение законов, деятельность законодательной и исполнительной власти, местного самоуправления и обеспечиваются правосудием, подлежат защите всеми законными способами. Именно человеку и гражданину предоставляется возможность обжаловать в суд решения и действия (бездействие) органов государственной власти и должностных лиц.

2. Формы выражения свободы не связаны только личным пространством человека, его частной жизнью, они находят свою объективацию во вне, в публичной сфере, в коллективных формах, объективно приобретает и весьма важное общественное значение. Конституция РФ гарантирует свободу и личную неприкосновенность каждому человеку (ч. 1 ст. 22). Что же касается носителей искусственного интеллекта (системы, объекта, устройства, агента), то их существование и функционирование носит служебный характер, должно быть направлено на реализацию прав и свобод граждан, подчинено цели достижения социально необходимого результата, быть строго обусловлено публичными интересами.

3. Закрепление в Конституции РФ 1993 года государственного суверенитета Российской Федерации, который распространяется на всю ее территорию (ст. 4), обусловливает необходимость создания гарантий экономического, технологического и цифрового суверенитета страны, то есть обеспечения самостоятельности Российского государства в области искусственного интеллекта, развитие и использование отечественных технологий в этой области. Участие России в международном сотрудничестве в сфере искусственного интеллекта не может снижать уровень самостоятельности и независимости нашей страны в принятии решений, связанных с использованием технологий искусственного интеллекта.

4. Формально юридически, вопросы искусственного интеллекта не отнесены ни к сфере исключительного ведения Российской Федерации, ни к сфере совместного ведения Российской Федерации и ее субъектов (Закон о поправке к Конституции РФ от 14.03.2020 № 1-ФКЗ «О совершенствовании регулирования отдельных вопросов организации и функционирования публичной власти» предусматривает дополнение подп. «и», ст. 71 Конституции РФ положением о том, что к предметам исключительного ведения РФ относятся информационные технологии). Однако очевидно, что оптимальный баланс в разграничении предметов ведения и полномочий в данной области, может быть достигнут только в случае федерального приоритета в решении принципиальных вопросов регулирования искусственного интеллекта. Неопределенность правовой базы соответствующих полномочий породит проблемы на практике, создаст препятствия реализации конституционных прав и свобод российских граждан.

5. Обеспечение безопасности относится к предметам исключительного ведения Российской Федерации (п. «м» ст. 71 Конституции РФ), созданы конституционные основы состояния защищенности интересов личности, общества и государства. Нужно отметить, что Закон о поправке к Конституции РФ от 14.03.2020 № 1-ФКЗ предусматривает дополнение п. «м» ст. 71 Конституции положениями о том, что к предметам исключительного ведения РФ относятся информационные технологии, обеспечение безопасности личности, общества и государства при применении информационных технологий, обороте цифровых данных. Поэтому создание, развитие, внедрение и использование технологий искусственного интеллекта не должно осуществляться в ущерб защищаемых Конституцией РФ ценностям, основам конституционного строя страны, создавать угрозы личности, обществу и государству.

Таким образом, анализ действующей Конституции РФ и существующих разработок в данной сфере позволяет сформулировать следующее определение искусственного интеллекта – это компьютерные системы и информационные технологии (не основанные на биоматериалах и биотехнологиях), способные имитировать интеллектуальную человеческую деятельность, создание, развитие, внедрение и использование которых регламентируется законодательством и основано на признании и уважении интересов личности, общества и государства. Очевидно, что федеральное законодательство, которое регламентирует сферу искусственного интеллекта, должно носить комплексный характер, обеспечивать взаимодействие различных отраслей права в целях эффективного регулирования различных аспектов этого сложного явления.

1.3. Искусственный интеллект как субъект и объект конституционно-правовых отношений

Как сообщают исследователи, в настоящее время в зарубежных странах отсутствует какое-либо законодательное закрепленное понятие искусственного интеллекта, как признание искусственного интеллекта, его программного обеспечения субъектами права[66].

Однако постепенно появляются единичные случаи, когда искусственный интеллект признают субъектом правоотношений по факту, а не по закону. Так, человекообразный робот Софья получила подданство Саудовской Аравии, искусственный интеллект был включен в Великобритании в 2014 году в совет директоров венчурной компании[67], в Центральном Банке РФ биржевой робот (программа) может совершать сделки в интересах человека[68]. С 2017 года Европарламент ЕС уже на наднациональном правовом уровне предлагает сложных автономных роботов в перспективе определять, как обладающих правосубъектностью электронных лиц[69].

В связи с этим в отечественной и зарубежной науке и практике разрабатывается все больше концепций правового положения искусственного интеллекта и роботов. Искусственному интеллекту предлагают придать статус квазисубъекта правоотношений[70], субъекта гражданского права[71], субъекта гражданского процесса[72], электронного лица[73], юридического лица[74]. Рассматриваются и более экзотические модели правового регулирования по аналогии робота: с ребенком, животным с ограниченной дееспособностью, с рабом в римском частном праве[75].

Зарубежные авторы в единичных случаях рассматривают возможность выступать искусственный интеллект субъектом конституционного права[76]. В отечественной науке эта проблема не разработана. Например, в одной из монографий 2019 года авторы уделяют конституционным аспектам робототехники в общей сумме 4 страницы[77].

Разработчики проектов федеральных законов о робототехнике[78] или внесении изменений в Гражданский кодекс РФ[79] также рассматривают роботов-агентов самостоятельными субъектами гражданского оборота и ответственности.

Объединяет выше рассмотренные модели то, что их авторы практически едины в идее необходимости закрепления за юнитами искусственного интеллекта особого правового положения, поскольку искусственный интеллект может являться источником повышенной опасности, нарушать права и свободы других лиц. Различают эти модели – виды ответственности, но ставят под сомнение – отсутствие доказательств осознания искусственным интеллектом своей вины, способности нести ответственность за свои действия, отсутствие конкретных санкций, которые бы искусственный интеллект мог бы «ощутить».

Согласимся с позициями ученых, опирающихся на Лоуренса Соулума: «Искусственные интеллекты (объекты с искусственным интеллектом) и даже объекты с полноценным искусственным интеллектом (киберсубъекты) не являются людьми и не могут позиционироваться в качестве аналогичным или тождественным людям. Это наиболее прямой из всех аргумент: можно утверждать, что только люди могут обладать конституционными правами»[80].

Практическую озабоченность связи прав человека с искусственным интеллектом, размыванием границ между человеком и машинами выразила в Рекомендации от 28.04.2017 ПАСЕ[81]. Особую значимость в свете сказанного приобретают сегодня права роботочеловека (гибридной модели искусственного интеллекта и человека), установление гарантий их реализации, особенно социальных.

В связи с этим является актуализация темы разработки научной концепции конституционно-правового регулирования искусственного интеллекта, рассмотрения его сущностных черт, для определения социальной значимости и места в системе правоотношений: является он субъектом или объектом.

Как отмечают зарубежные специалисты на основе социологических исследований, определить затраты на искусственный интеллект в мире традиционных компаний, работающих в области здравоохранения совсем не просто, основные капиталы «цифровых» инвесторов обычно идут в бизнес, системы распознавания речи, беспилотные автомобили, машинное обучение и робототехнику без особого вмешательства человека.

Самые высокие темпы внедрения искусственного интеллекта сегодня отмечаются в области телекоммуникаций, самые низкие показатели имеет строительство. Несмотря на то, что сферы здравоохранения и образования отличаются медленными темпами внедрения ИИ-технологий, именно в этих отраслях видится высокий уровень возможности применения цифровых технологий – они являются фундаментом для искусственного интеллекта[82].

Так машинное самообучение позволяет повысить в разы точность машинного прогнозирования и создает ценные преимущества искусственного интеллекта в исследовании естественного языка для системы образования, применяя сложные алгоритмы, системы здравоохранения могут предвидеть и предотвращать крупные эпидемии[83].

Сегодня следует развивать искусственный интеллект в социальной сфере, уделяя ему особое место в механизме реализации социальных прав и свобод человека и гражданина. Сегодня хирургический робот «Da Vinci» в США выполняет сложнейшие операции. В мире активно развивается телемедицина, использование искусственного интеллекта в образовательных и социальных услугах, оказании юридических и полицейских услуг, цифровом голосовании. С использованием технологий 3-D принтера все больше инвалидов получают возможность получать бионические (кибер) протезы, в том числе и в России, но пока что на коммерческой основе, а не по обязательному медицинскому страхованию. Все больше в мире становится людей, организм которых сопряжен с гаджетами и искусственным интеллектом (роботочеловеки).

В России активно ведется внедрение искусственного интеллекта для инклюзивного образования. Например, 26 сентября 2019 года ИИТО ЮНЕСКО в партнерстве с КСРК ВОС и компанией «Элита Групп» торжественно открыли Центр ИКТ – компетенций во Владивостоке на базе Приморской краевой организации ВОС. Для оснащения центра компания предоставила комплекс специализированного программно-аппаратного обеспечения, включая портативные компьютеры с вводом/выводом шрифтом Брайля и синтезатором речи «ElBraille», электронные видеоувеличители и другие тифлотехнические средства, предназначенные для активного приспособления незрячих людей к окружающей среде[84].

Из СМИ появляется информация о создании бионических протезов глаз, бионических нано-линз, увеличивающих возможности зрения в 5 раз. В России в Сколково разрабатываются 3-D принтеры, киберпротезы рук и прочие гаджеты.

Но одновременно с этим в мире с нарастающей силой возникают многочисленные страхи, связанные с возможными последствиями применения искусственного интеллекта и печальные события. В 2015 году роботизированная рука убивает рабочего на заводе Volkswagen, а автомобиль Tesla на автопилоте попадает в аварию, унося жизнь своего водителя[85]. Отрицательным проявлением искусственного интеллекта является то, что он может стать инструментом для кражи конфиденциальных данных, незаметно шпионить за любым объектом, увеличивать количество цифровых атак.

Недавно были продемонстрированы новые технологии искусственного интеллекта, позволяющие с помощью сканирования определять не только лица людей, но и проникать дистанционно в их карманы и по находящимся там банковским картам получать данные об их расходах, проведенных транзакциях и покупках. Демонстрация таких возможностей, по мнению ученых, выходит далеко за рамки не только Конституции России, но и за рамки элементарной человеческой порядочности. «Где тот порог нравственности в цифровизации, на котором человек должен остановиться?»[86]

Еще больше может пострадать молодежь. Риски остаться молодежи без работы сегодня даже с учетом будущего НТП велики. Генеральный директор МОТ Гай Райдер на 74-й сессии Генеральной Ассамблеи ООН 23 сентября 2019 года особо подчеркнул: «Безработица среди молодежи по-прежнему является, возможно, самым серьезным вызовом с точки зрения будущего сферы труда. Для молодых людей вероятность оказаться безработными в два-три раза выше, чем для других лиц на рынке труда»[87].

Всероссийский опрос «Спутник», проведенный в 2017 году сотрудниками ВЦИОМ» показал, что 60 % опрошенных из 1800 респондентов, было несогласно с тем, что при их жизни большинство существующих рабочих мест будет заменено роботами. Наиболее критично к замене людей на рабочих местах, как неправильной тенденции отнеслась молодежь – 70 %, в то время как старшее поколение высказывается более положительно[88].

Более того в 2018 году опрос ВЦИОМ выявил, что 2/3 граждан против электронных паспортов, есть ряд общественных инициатив против цифровой биометрической идентификации личности, выступая против чипизации жизни и слежки за ними искусственным интеллектом[89].

Есть и обратная точка зрения, согласно которой «Технологический прогресс…вытесняет не профессии, а их наименее производительные функции»[90]. Например, в России для решения проблемы востребованности профессии человека на рынке труда Автоматизированная система мониторинга рынка труда (АСМРТ) с 2016 года работает на базе искусственного интеллекта. С 2019 года Минтруд РФ с помощью Минкомсвязи запустил новый веб-проект по трудоустройству при поддержке искусственного интеллекта на базе платформы «Работа в России»[91]. На платформе содержатся аналитика рынка труда, справочники компетенций, функции оценки квалификаций, запись на стажировки и многое другое. Уже в 2021 году система показала достойные результаты работы и расширение сервисов. Предполагается, что к началу 2025 года платформой будет пользоваться 4,5 млн человек.

С другой стороны, Декларация столетия, принятая на 108-й Международной конференции труда в июне 2019 года, призывает к инвестициям в человеческий потенциал через подход к будущему сферы труда, в центре которого находится человек, а не искусственный интеллект и машины. Причем Президент России на Глобальном саммите по производству и индустриализации (GMIS) в июле 2019 года отметил, что ускоряющаяся технологическая трансформация и системы искусственного интеллекта не только повышают производительность труда, есть риски обострения экологических вызовов при бурном технологическом развитии[92].

Указанные факторы, обсужденные на различных площадках ООН должны учитываться мировым сообществом и отдельными государствами в развитии идей цифровой экономики и внедрения искусственного интеллекта в различные сферы жизнедеятельности. При этом считаем, не все сферы жизнедеятельности должны и могут быть охвачены НТП и искусственным интеллектом. Представьте себе: как искусственный интеллект сможет соблюдать моральные основы конституционного строя, заложенные в преамбуле Конституции РФ. Кто научит искусственный интеллект или сможет запрограммировать машины, когда еще не было даже толкования всех моральных категорий и ценностей Конституционным Судом РФ и законодательством, несмотря на долю четверти века Конституции РФ?

Даже конституционное право может регулировать далеко не все сферы жизни человека, оно ограничено рамками мозга, образом мышления человека, рамками семейного поведения, свободы мысли, вероисповедания и совести. Именно сюда не могут «влезть» конституционное и международное право прав человека со своим регулированием, они могут только их гарантировать, не то, чтобы искусственный интеллект.

Несмотря на это уже развивается Нейронет (электронная телепатия) – новейшие технологии искусственного интеллекта, которые позволяют не санкционировано влезать в мозг человека, управлять им и другими объектами на расстоянии, против чего уже выступают правозащитники и верующие.

В связи с этим в литературе вполне обоснованно предлагается принятие специального федерального закона «О робототехнике в Российской Федерации» (авторы В. В. Архипов, В. Б. Наумов), предусматривающего основания и порядок учета или регистрации моделей роботов, установление критериев отнесения роботов к источникам повышенной опасности, обеспечения их информационной безопасности. Закон должен детально раскрыть права и обязанности субъектов правоотношений, включая производителей, продавцов, владельцев и пользователей роботов.

Но авторы таких предложений заостряют внимание на административное, информационное и гражданско-правовое регулирование роботов, оставляя в стороне вопросы конституционности таких положений, хотя и предусматривают предварительную научную разработку концепции такой деятельности[93].

Поэтому весьма спорным и необоснованным здесь является позиция авторов, согласно которой они одних роботов-агентов рассматривают как имущество, ответственность за которых несет его владелец, а других роботов считают субъектами правоотношений, наделяя их правосубъектностью. К последней относится право совершать роботом сделки от своего лица, быть владельцами других роботов и нести (роботам) ответственность за причиненный вред других роботов, не зависимо от вины.

Авторы другой работы «Роботы заявляют о своих правах…2019»[94] уделяют конституционному аспекту в общей сумме 1 страницу (на стр. 50, 51, 63 приведена критика искусственного интеллекта, на стр. 62, 65, 155, 156, 224 – хвалебные высказывания). Безопасны ли для жизни человека высокотехнологические процессы и насколько они защищены? Нам удалось найти через электронные библиотечные системы и веб-ресурсы еще около 400 работ отечественных и зарубежных правоведов, писавших об общих или отдельных правовых аспектах искусственного интеллекта[95].

Удивляет то, что авторы в сравнительном анализе не акцентируют внимание на соблюдении искусственным интеллектом конституционных прав на личную неприкосновенность, частную жизнь, возражения миллионов православных верующих против тотального контроля со стороны искусственного интеллекта, не делались и социальные опросы, попытки всенародных обсуждений и референдумов.

В связи с изложенным, требуется научное и комплексное осмысление искусственного интеллекта, определения их понятия с позиций конституционного права и международного права, чтобы восполнить этот пробел. Поскольку последующие государственные концепции, национальные стратегии и доктрины в этой сфере должны быть научно обоснованы.

Для того, чтобы доказать, какое место искусственный интеллект занимает в конституционном праве и праве в целом, нужно проанализировать, относится он к субъектам или объектам права либо правоотношений. Для прохождения подобного теста на конституционность можно использовать стандартную структуру конституционного правоотношения, включающую себя следующие элементы – субъект, объект, содержание (права, обязанности, гарантии и ответственность субъектов отношений) и юридические факты.

Традиционно в теории конституционного права к субъектам относят такие группы участников, как физические лица и их объединения, различные социальные общности (коллективные субъекты права), публично-правовые образования, государственные и муниципальные органы власти и их должностные лица.

Самыми распространенными субъектами являются человек и гражданин. Искусственного интеллекта среди них не прослеживается, за исключением единственного случая в мире – предоставления гражданства Саудовской Аравии роботу Софье по факту, а не по праву. Вместе с тем, есть люди, сопряженные с искусственным интеллектом в виде киберпротезов или чипов – роботочеловеки. Если ИИ-составляющая мозга или умственной активности роботочеловека, имеет ли она признаки человека или человечности или автономна?

Например, в литературе искусственный интеллект связывают с человечностью в виду того, что они могут самостоятельно мыслить и общаться с людьми, сопоставляя искусственный интеллект с умом человека. Например, многие объекты национальных проектов, особенно в цифровой экономике вместо длинных определений содержат лаконичные понятия, которые в принципе по объему теоретизации схожи с формулировками конституций. Среди них, например, «умный» город, «умный» транспорт и другие. Если провести расширительное толкование, то под ними понимается совокупность таких искусственных интеллектов. В медицине сопряженные с искусственным интеллектом и человеком протезы называют также «умными» протезами (киберпротезами, бионическими протезами), соединенную между собой с помощью искусственного интеллекта бытовую технику – «умный» дом.

Может ли искусственный интеллект выступать коллективным субъектом? Искусственный интеллект может представлять собой и коллективный разум – соединенные в единую сеть или же в нейросеть компьютеры и программы. И сейчас трудно себе представить, что именно это такое: коллективный субъект или коллективный объект в материальном выражении. Самый проблемный вопрос, не касаясь того объект или субъект прав искусственный интеллект: это кто будет нести ответственность за его деяния? Сам интеллект, если это нано-ЭВМ, ЭВМ в оболочке робота, его создатель, или собственник или взломщик?

Пока что искусственный интеллект сегодня признается объектом права и объектом правоотношений в различных отраслях права, а по российскому гражданскому законодательству его по аналогии с транспортным средством можно признать источником повышенной опасности. Ведь любой современный автомобиль, автопилот самолета, беспилотные автомобили такси, смартфоны и прочая техника – тот же самый робот с искусственным интеллектом, источник повышенной опасности.

А если речь пойдет о нейросистемах, о более сильном сверхскоростном искусственном интеллекте? Значит, общественная опасность, как и экономические риски в цифровой экономике, становятся в разы, а то и в тысячи раз больше, и нужны все новые ограничения таких объектов права, их владельцев и создателей. Более сложной является проблема, когда искусственному интеллекту или роботу предлагают придать правовой статус квазисубъекта гражданско-правовых отношений или «электронного лица»[96].

Подробный объективный анализ по проблеме определения в науке субъектов и объектов цифровых (персональных) данных, в том числе виртуальной личности, был проведен профессором Э. В. Талапиной. Исследованные ученым различные мнения цивилистов нас настораживают с позиции их конституционности. Либерализация целей цифровой экономики постепенно приведет к тому, что цифровые персональные данные станут объектом гражданского права, смогут коммерциализироваться, будут отчуждаемы, защищаемы правом собственности[97].

Особо отметим, что цифровые новации должны иметь социальный спрос, выноситься на всенародные обсуждения, быть научно обоснованы с позиций справедливости, преамбулы и ч. 3 ст. 55 Конституции РФ. Искусственный интеллект не является субъектом конституционного права или даже других отраслей права и законодательства, ему не дано право полноправно управлять обществом. Народ по ст. 3 Конституции РФ государство на это не уполномочивал, он есть полноправный субъект контроля над искусственным разумом и нейросетями, но не наоборот.

Вернемся к субъектам, и определению содержания конституционных правоотношений. Традиционно субъекты являются носителем конституционной или отраслевой правосубъектности, зависящей от возможности и способностей совершать определенные действия и нести ответственность за них. В настоящее время определение субъективных прав и обязанностей искусственных интеллектов, роботов, их владельцев или собственников законодательством не урегулированы, здесь можно применять аналогию права или закона – ГК РФ, Конституцию РФ, международные договоры.

Исключение составляют единичные случаи регулирования: поправки в Воздушный Кодекс РФ, направленные на регулирование дронов, либо промышленные стандарты. ГОСТ Р ИСО 8373–2014 «Роботы и робототехнические устройства. Термины и определения», который действует в России с 01.01.2016 (переиздан в 2019 году).

Начало восполнения законодательного пробела было положено Указом Президента РФ от 07.05.2018[98], которым определены основные приоритеты развития российского государства и общества. В их числе – цифровая экономика. Несмотря на то, что в Указе не содержится понятия «искусственный интеллект», анализ задач, поставленных перед Правительством РФ в этой сфере, позволяет прийти к выводу, что речь идет, в том числе, о специализированном и комбинированном искусственном интеллекте, его развитии и внедрении во все сферы жизни, особенно в экономической.

В данном случае объектом конституционно-правовых отношений будут являться цифровые технологии и платформы. Во исполнение Указа Правительством РФ была разработана Программа «Цифровая экономика Российской Федерации»[99], которая в 2019 году была отменена в связи с утверждением Президентом России Стратегии развития искусственного интеллекта в России до 2030 года[100]. Однако именно в этой Программе впервые были употреблены понятия «искусственный интеллект» и «нейротехнологии» в качестве сквозных цифровых технологий.

Как отмечают некоторые исследователи, в Стратегии сделан акцент на когнитивной составляющей искусственного интеллекта[101]. Основными направлениями использования технологий искусственного интеллекта обозначены – экономика и социальная сфера.

В последующем понятие искусственного интеллекта, его технологий было дано в Федеральном законе от 24.04.2020 № 123-ФЗ «О проведении эксперимента по установлению специального регулирования в целях создания необходимых условий для разработки и внедрения технологий искусственного интеллекта в субъекте Российской Федерации – городе федерального значения Москве и внесении изменений в статьи 6 и 10 Федерального закона «О персональных данных». Понятие искусственного интеллекта в нем продолжило когнитивную составляющую. «Искусственный интеллект – комплекс технологических решений, позволяющий имитировать когнитивные функции человека (включая самообучение и поиск решений без заранее заданного алгоритма) и получать при выполнении конкретных задач результаты, сопоставимые, как минимум, с результатами интеллектуальной деятельности человека…»[102]

Вместе с тем, нами предпринята попытка дать несколько иное понятие искусственного интеллекта, которое тоже может показаться небесспорным и приводится в законопроекте в приложении 1 к данной работе. При этом следует учитывать, что целесообразно, понятие искусственного интеллекта корректировать и в будущем в законах с учетом развития конкретных видов и уровней искусственных интеллектов и роботов.

В остальном регулирование искусственного интеллекта прописано на уровне политических документов – концепций, программ, национальных проектов (в большей мере, касающихся цифровой экономики) и доктрин, которые могут не порождать конкретные права и обязанности участников общественных отношений в рассматриваемой сфере.

Если взять модель сторонников ученых и практиков, что искусственный интеллект является субъектом права или правоотношений, то за отправную точку берутся якобы его когнитивные функции. Но будут ли ему присущи в праве? Скорее всего найдутся доказательства обратного. Начнем с того, что полная правоспособность и дееспособность у физических лиц наступает в России с совершеннолетия по достижению 18 лет, в других странах – с 18, 21, 25, для юридических лиц – с момента государственной регистрации. Вопрос, сколько роботу или программе ЭВМ нужно дать лет, чтобы по аналогии условно считать их совершеннолетними, и как их считать для машины? Второй аспект: какие обязанности должен нести робот – любить Отечество, преумножать историю, ухаживать за детьми (производными от себя программами или машинами) согласно преамбуле Конституции России?

Еще интереснее по российскому законодательству здесь будет выглядеть исполнение конституционной обязанности робота или его собственника по получению образования. Как и сколько в него должен вложить программист знаний, чтобы искусственный интеллект или робот считался образованным в 9 классов? Если даже технически условно этот трюк создатель искусственного интеллекта выполнит, загрузив в него 100 000 книг, кто будет проверять и тестировать робота по знаниям, какие учителя будут принимать экзамены, нужно ли сдавать ГИА и ЕГЭ, кто будет выдавать им дипломы? Кто проверит робота на психическую адекватность, и как это сделать?

Теперь главный вопрос: а может ли искусственный интеллект, как субъект отношений выполнять все конституционные обязанности главы 2 Конституции РФ, не говоря уже о преамбульных обязанностях? С другой стороны, если не придавать ему критерии человечности, а рассматривать как государственно-подобного субъекта, сможет ли он выполнять все обязанности, возложенные на государство? Еще труднее будет контролировать саморазвивающуюся машину, когда она будет поглощать миллионные объемы информации, сама формировать свое поведение, не понимая какие законы, и какой страны соблюдать.

Искусственный интеллект обязан быть способен безопасно взаимодействовать с реальным миром и людьми. Пожалуй, это главная обязанность искусственного интеллекта, которую стоит прописать законодательно. Она должна развиваться машинным корректным программированием, построенном на выполнении не только технических задач, но и Конституции России.

Последний, уважаемый читатель, вопрос. Каков возраст политической зрелости робота, чтобы он мог руководить людьми, проводить выборы, давать образование? Сейчас уже все это делается безо всяких экзаменов роботов, которые подменяются словом «тестирование», уходят от контроля народа при полной не урегулированности данного вопроса в законодательстве.

Вот столько проблем породят роботы, если еще не будет защищена их информационная кибербезопасноть от взлома или не санкционированного перепрограмирования создателем или владельцем.

Важнейший элемент содержания правоотношения – это ответственность за несоблюдение или нарушение прав. На ком будет лежать умысел, на железяке или виртуальной программе, которую никто не сможет поймать, не зная на каком сервере он спряталась и в какой стране, или в космосе? Виртуальные цифровые следы для криминалистов сейчас представляют проблему, так как их легко уничтожить и невозможно поймать, с условием того, что уже ведены новые сверхскоростные технологии 5G беспроводной передачи данных. Кого наказывать, если робот может себя самоуничтожить, а виртуальная программа сохраниться на твердом материальном носителе в космосе?

Итак, тест на конституционность по классической структуре правоотношения искусственные интеллекты и роботы у нас не прошли, как субъекты правоотношений. Искусственный интеллект, прежде всего, – объект конституционных правоотношений, источник повышенной опасности, который конкретизирован в отраслевом законодательстве как объект других отраслей законодательства. Наличие искусственного интеллекта вне поля Конституции или Киберконстуции, как свода правил конституционного поведения в цифровом пространстве и между искусственными интеллектами различного уровня, можно назвать правовым пробелом государства. Именно оно должно определить, кого в первую очередь охранять и защищать в механизме правового регулирования – человека, его прав и свободы, либо кибербезопасноть роботов, как носителей искусственных интеллектов.

Именно здесь искусственный интеллект должен регламентироваться как гарантия естественных и позитивных прав и свобод человека и гражданина, а не наоборот. И если связывать человека, с искусственным интеллектом, чтобы продвигать виртуальных помощников в социально-юридическом механизме реализации прав и свобод, то стоило бы на конституционном уровне закрепить право человека (или гражданина) на искусственный интеллект, но не на собственность, чего еще ни одним государством сделано не было.

Как же нам понимать, что такое искусственный интеллект? Трудно и опасно давать унифицированное понятие еще не изведанному многогранному и многофункциональному явлению, которое почти каждый день может меняться с учетом создания новых креативных стартапов. Попытаемся дать ему наше определение.

Искусственный интеллект – нано-автоматизированные системы (самообучаемые роботы, программы ЭВМ, нейросети), значительно превышающие умственные и физические способности человека, которые способны на основе энергии самостоятельно в сверхскоростном режиме передвигаться в пространстве, и/или усваивать и производить новые бета-данные, операции и знания, управлять общественными техническими процессами, взаимодействовать с людьми и дополнять их работу.

Обратим внимание, что искусственный интеллект, как бы он не определялся, не может ставиться выше человека, его прав и свобод, что противоречило бы ст. 2 Конституции РФ и убеждениям миллионов верующих. Основное отличие от человека искусственного интеллекта, и это главный недостаток последнего – у него нет чувства страха, инстинкта самосохранения и нет живой человеческой души. Поэтому искусственный интеллект призван дополнять работоспособность человека, помогать ему, но не может заменить его.

Что касается признака сверхскоростного режима передвижения, это касается перемещения нано-программ ЭВМ, но не роботов в пространстве, сейчас уже это тысячи терабайтов в секунду в формате 5G-сетей или возможности получения, переработки, передачи, такой информации в колоссальном объеме и производства новых навыков для осуществления операций.

Искусственный интеллект не может работать без энергии. Энергия для искусственного интеллекта, роботов, как сейчас модно говорить – не только электричество, или солнечная энергия, но и миллиарды гигабайтов или эксгабайтов в мире в день, что приводит к более высокой точности решений. С учетом революционных темпов НТП, в будущем формы передвижения искусственного интеллекта и «невидимые» источники энергии – информационное поле земли, вода, космос, ультразвук, инфракрасное излучение, плазма, лазер, электромагнитные и радио волны, биоэнергия растений и животных и прочие.

Далее отметим, что сегодня не затихают споры об уровне искусственного интеллекта, какие из них относить к слабым, какие – к сильным. Мы будем исходить из условного деления на искусственный общий интеллект (ИОИ) и узкоспециализированный искусственный интеллект (УИ). Под ИОИ подразумевается технология, нацеленная на выполнение любой интеллектуальной задачи, которую может выполнить человек, УИ в отличие от ИОИ выполняют лишь одну узкую задачу, имеющей краткосрочный бизнес-потенциал до момента создания ИОИ[103].

На данный момент, по нашему мнению, к УИ могут быть отнесены государственно-автоматизированные системы «Правосудие», «Выборы», «Государственные и муниципальные услуги», «электронное» правительство, поисковые интернет системы и иные цифровые образы мышления, такие как компьютерный вирус, операционные системы, компьютерные симуляции и игры, 3D-принтеры.

Например, утвержденная Европейским парламентом директива об открытых данных и информации в государственном секторе значительно улучшит доступность и инновационное использование государственных и финансируемых государством данных, что, в свою очередь, будет способствовать развитию технологий с использованием искусственного интеллекта. Китайские тюрьмы оснастят искусственным интеллектом, который исключит побеги[104].

В России с 1 октября 2019 года после изменений в ст. 1124 Гражданского кодекса РФ и введения понятия «цифровые права» подписывать договоры можно будет с помощью смартфона, в марте 2019 года был разработан, но не принять проект о цифровом профиле человека.

Под ОИ, на наш взгляд, подпадают роботочеловеки (люди, сопряженные с искусственным интеллектом), или человекообразные роботы, сопряженные с гаджетами, бионическими протезами, развивающаяся самостоятельно среда Нейронет или нейросистемы цепочки компьютеров.

В любом случае, государственные программы по развитию искусственного интеллекта должны быть направлены не на коммерческие интересы и бизнес, позволяющие построить капиталистический строй, а гармоничное построение социального государства, где в центре правовой системы человек. Цифровые новации должны иметь социальный спрос, выноситься на всенародные обсуждения, быть научно обоснованы с позиций справедливости и ст. 55 Конституции РФ. Опираясь на труды профессора А. С. Мордовца и других ученых[105], необходимо продолжать развивать и совершенствовать идею социально-юридического механизма обеспечения прав и свобод. Именно здесь государство должно заботиться о предоставлении дополнительных гарантий естественных прав и свобод человека посредством искусственного интеллекта.

Искусственный интеллект находит свою реализацию, прежде всего, в цифровом праве – форме права наряду с существующими естественным, позитивным и религиозными формами. В этом смысле цифровое право представляет собой разновидность естественного права, когда эффективная жизнедеятельность человека, органически соединенного с компьютерными устройствами и искусственным интеллектом невозможна без работы цепочки цифровых алгоритмов, соединенных с нейронными цепочками организма.

Цифровые права и свободы человека, искусственный интеллект, если они и вводятся, должны выступать гарантией естественных прав и свобод, но не наоборот. В этом случае правовая политика цифровизации должна быть направлена на социальное обеспечение. Например, киберпротезы для инвалидов, новые цифровые методы лечения, развитие цифровой паллиативной медицинской помощи для инвалидов и роботочеловека должны гарантироваться как бесплатная медицинская помощь.

Следует ввести запрет на цифровое клонирование человека, чтение и записи его мыслей, цифрового образа на цифровые носители посредством технологий «цифровой телепатии» – нейронета. Производство сильного искусственного интеллекта, роботов и нейросистем, их машинное программирование должно быть лицензируемо государством под контролем ФСБ РФ. Цифровые институты и искусственный интеллект не должны ограничивать естественные свободы человека.

Искусственный интеллект должен нести пользу, но и иметь ограничения, дабы чрезмерно не ограничивать и не умалять право на личную неприкосновенность, личную тайну, персональные данные. Указанные проблемы требуют научного осмысления.

Именно в последнем аспекте цифрового права как субъективного права человека особо стоит вопрос об автономии человека, его личной неприкосновенности, персональных данных от слежения со стороны государства с помощью искусственного интеллекта или навязывания государством цифровых услуг. В этой связи очень важно оставлять для верующих граждан бумажный документооборот, как альтернативный вариант электронным паспортам, водительским правам, страховым свидетельствам, трудовым книжкам, дабы не нарушалось признаваемое и гарантируемое Конституцией РФ идеологическое многообразие и запрет на установление какого-либо идеологии в качестве обязательной. В данном случае речь идет о запрете полной цифровизации основных документов и денежных средств с полной их заменой на электронные (цифровые). Последние позволяют установить сканерам искусственных интеллектов любые действия и передвижения человека, все персональные данные посредством навязывания цифровизации, что может расцениваться как возведенная в ранг обязательный идеология цифровизации жизни.

На искусственный интеллект можно также экстраполировать концепцию виртуальной собственности Н. Н. Ковалевой и других авторов[106] по установлению в законодательстве статуса виртуального объекта, чье существование или атрибуты не отражены в реальном мире, и признать за искусственным интеллектом в будущем аналогичное положение. Последующее восполнение правовых пробелов возможно посредством толкования искусственного интеллекта, его видов органами конституционной юстиции или международными органами.

С позиций методологии права, большое значение будет иметь дальнейшее исследование складывающихся административной и судебной практики по защите социальных прав роботочеловеков и людей с ограниченными возможностями, персональных данных человека и социальных прав, и свобод, в том числе международной практики, связанных с использованием роботов и искусственного интеллекта.

При введении и разработке государственных концепций и программ, особое внимание следует уделять компаративистскому исследованию моральных и правовых аспектов применения искусственного интеллекта в реализации социальных прав и свобод человека и в государственном управлении, уважении прав верующих.

Таким образом, искусственный интеллект в структуре правоотношения не является субъектом и выступает уникальным виртуальным объектом. С позиций Конституции РФ искусственный интеллект можно расценивать как информационную (цифровую) технологию, средство обеспечения прав и свобод человека, конституционной экономики; имущество, защищаемое правом частной, государственной, муниципальной и иных форм собственности (ч. 2 ст. 8), либо режимом интеллектуальной собственности (ч. 1 ст. 44). Искусственный интеллект в системе объектов правоотношений относится к группе материальных (социально-экономических) или нематериальных благ. С другой стороны, искусственный интеллект и роботы могут являться источниками повышенной опасности.

При причинении вреда искусственным интеллектом и его юнитами встает закономерный вопрос, а кто будет нести ответственность за него и к кому применять санкции (киберразработчики, собственники, производители, продавцы, пользователи или третьи лица), будет ли он нести самостоятельную юридическую ответственность? Ведь теоретически юридическую ответственность по правилам юридической техники должны нести субъекты, а не объекты правоотношений. В связи с этим, наиболее спорные идеи, связанные с данной проблемой, модели правового регулирования и доказательства искусственного интеллекта как объекта правоотношений, будут более подробно рассмотрены в разделах 3.2 и 3.3 настоящей монографии.

Глава 2. Социальные права и свободы человека в условиях цифровизации и развития искусственного интеллекта: содержание и правовое регулирование

2.1. Правовое регулирование и реализация конституционного права на образование в условиях информационно-цифровой реальности

Проблемы цифровых трансформаций и использования искусственного интеллекта в сфере реализации права на образование широко обсуждается в научной среде.

Т. В. Заметина, Е. В. Комбарова, Е. Ю. Балашова рассматривают внедрение искусственного интеллекта как объективный процесс, затрагивающий права человека, представляющие собой высшую ценность, признанную как на национальном, так и на международном уровне[107]. В качестве приоритета они называют совершенствование государственного регулирования в области информирования населения о возможностях использования технологий искусственного интеллекта, развитие компетенции всех граждан в освоении новых форм взаимодействия с искусственным интеллектом. При этом, внедрение искусственного интеллекта должно быть связано с воплощением в жизнь конституционных ценностей демократии, признания и уважения интересов личности, общества и государства. По мнению авторов, необходимо создать правовую, организационную и финансовую среду, в которой технологические инновации обеспечивают соблюдение прав и свобод человека. Исследователи А. В. Кешалава, М. П. Буданов, В. Ю. Румянцев предсказывают существенное влияние на общество и «цифровую экономику» мобильных, когнитивных и облачных технологий, технологии «интернет вещей» и «больших данных»[108].

В исследовании поведения пользователей Интернета и социальных сетей в процессе обучения Аслама, Абдул Азис Вахаба, Пурнама Сяе Пуррохмана, Зулхермана, Эви Сегаравати Ампри[109], отмечается, что большинство пользователей используют глобальную сеть для занятий, направленных на получение удовольствия, и уже только после этого – для обучения. Интернет-безопасность и навыки активных пользователей, как правило, уже хорошо освоены. Таким образом, авторы приходят к выводу, что поведение при обучении с использованием социальных сетей и Интернета является довольно позитивным в восприятии молодого поколения. Социальные сети и Интернет могут быть средством обучения, обмена информацией и не считаются вредными для их обучения.

В исследовании Е. Добролюбовой, О. Александрова, А. Ефимова[110], посвященном перспективам цифровой трансформации, подчеркивается необходимость устранения правовых и организационных барьеров как фактора успешности цифровой трансформации в отдельных отраслях, в том числе, и в образовании.

Проблемам рисков внедрения цифровых технологий в образование посвящено исследование Н. Б. Стрекаловой[111], в котором наряду с положительными сторонами цифровизации образования анализируются возможные негативные изменения в данной сфере (потеря базовых когнитивных компетенций, снижение общего уровня подготовки, сокращение потребности в «интеллектуальном» специалисте, уход от фундаментальности, перераспределение функций администрации вузов и преподавателей, высокие требования к психологическим качествам преподавателя, сокращение личных контактов, рост конфликтов, «утечка» талантливой молодежи и преподавателей за границу, сокращение контингента высшего образования, потеря статуса отечественного высшего образования, снижение контингента обучающихся).

Несмотря на активное развитие систем и технологий искусственного интеллекта, влияние цифровизации на реализацию прав человека, в настоящее время в Российской Федерации отсутствует специальное законодательное регулирование, учитывающее специфику применения технологий искусственного интеллекта в сфере образования.

В данной ситуации возникает концептуальная дилемма: уместно ли опережающее законодательное регулирование императивного использования технологий искусственного интеллекта в образовательном процессе или постепенное применение современных информационных технологий должно происходить гибко в зависимости от экономических, ресурсных, национальных и иных особенностей и возможностей образовательной организации и других субъектов образовательного процесса?

Стоит обратить внимание, что в Концепции развития регулирования отношений в сфере технологий искусственного интеллекта и робототехники до 2024 года первой задачей заявлено создание основ правового регулирования новых общественных отношений, формирующихся в связи с применением систем искусственного интеллекта и робототехники, имеющих преимущественно стимулирующий характер. Исходя из этого можно сделать вывод, что российское государство ориентировано на создание правовых регуляторов «мягкого императивного» характера, которые создают условия и мотивируют субъектов правоотношений к использованию технологий искусственного интеллекта.

Вместе с тем, определяя в Концепции первоочередные отраслевые направления регулирования использования искусственного интеллекта, необоснованно игнорируется сфера образования. В перечень основных отраслевых направлений, нуждающихся в правовой регламентации внедрения систем ИИ, отнесено законодательство Российской Федерации в сфере охраны здоровья граждан; государственного и муниципального управления; правовое регулирование ИИ в сфере транспорта, градостроительной деятельности, включая реализацию концепции «умного города» и в сфере промышленности. Это исчерпывающий перечень. Рассуждения позволяют предположить, как минимум, два варианта в обоснование такой ситуации. Во-первых, принятая до 2024 года Концепция на самом деле не предполагает развитие образовательного законодательства с учетом технологий искусственного интеллекта в этой сфере в ближайшие несколько лет (что сомнительно). Во-вторых, именно в сфере образования предполагается применять гибкий пошаговый вариант внедрения ИИ по усмотрению самой образовательной организации, используя риск-ориентированный подход, основанный на оценке размера потенциального вреда и необходимости принятия мер по минимизации соответствующих рисков.

Не акцентируя внимание на анализе имеющихся технологий и инновационных систем искусственного интеллекта, используемых в настоящее время в образовании. Их достаточно много и количество перманентно увеличивается. Выскажем свои суждения относительно отношений, возникающих при реализации гарантированного Конституцией РФ права на образование с использованием технологий искусственного интеллекта. Разумеется, в данном контексте речь идет об ИИ не как о субъекте конституционного права на образование, предлагается рассматривать ИИ в следующих двух аспектах.

1. Искусственный интеллект как технологии, позволяющие совершенствовать процесс обучения.

2. Искусственный интеллект как объект изучения в рамках образовательного процесса.

Нормативным правовым актом, конкретизирующим реализацию конституционного права на образование, является Федеральный закон от 29.12.2012 № 273-ФЗ «Об образовании в Российской Федерации»[112]. Текстуальный и содержательный анализ указанного закона показал, что до настоящего времени в нем не используются термины «технологии искусственного интеллекта», «системы искусственного интеллекта» и иные словосочетания, образованные с конструкцией «искусственный интеллект». Содержится статья, устанавливающая понятия и порядок реализации образовательных программ с применением электронного обучения и дистанционных образовательных технологий.

При этом под электронным обучением понимается организация образовательной деятельности с применением содержащейся в базах данных и используемой при реализации образовательных программ информации, всевозможных информационно-телекоммуникационных сетей, обеспечивающих передачу по линиям связи информации, взаимодействие обучающихся и педагогических работников. Под дистанционными образовательными технологиями понимаются образовательные технологии, реализуемые в основном с применением информационно-телекоммуникационных сетей при опосредованном (на расстоянии) взаимодействии обучающихся и педагогических работников.

Таким образом, государственная политика в сфере образования допускает возможность использования таких инновационных форм образовательной деятельности, как электронное обучение и дистанционные технологии[113]. Одновременно с использованием электронного обучения и дистанционных технологий образовательная организация обязуется создать электронную информационно-образовательную среду, обеспечивающую определенные условия для качественного и без барьерного освоения образовательной программы обучающимися[114].

Первые практики внедрения электронного обучения в Российской Федерации уже имеются. Например, в Москве активно используется МЭШ – Московская Электронная Школа[115]. Большинство образовательных организаций в условиях ограничений, вызванных пандемией в 2020 году, были вынуждены в оперативном темпе внедрять электронное и дистанционное обучение. Однако важно понимать, что это еще не ИИ, но уже первая попытка автоматизировать образовательный процесс. Сначала необходимо обеспечить каждого обучающегося персональным цифровым устройством, и только после этого «возможно получить цифровой образовательный след и базовый технологический фундамент для построения индивидуальных образовательных траекторий с использованием искусственного интеллекта»[116].

Легко обратить внимание, что ни при электронном обучении, ни при дистанционных технологиях не задействованы системы ИИ в широком смысле. Полагаем, что электронные технологии, дистанционные образовательные технологии и технологии искусственного интеллекта близкие, но не тождественные понятия. Определение первых двух содержится, как было указано, в федеральном законе «Об образовании в Российской Федерации», а юридическое понятие искусственного интеллекта впервые в нашем государстве было сформулировано в подзаконном акте – Указе Президента РФ от 10.10.2019 № 490 «О развитии искусственного интеллекта в Российской Федерации»[117], впоследствии оно перекочевало в Федеральный закон № 123-ФЗ[118].

В соответствии с указанными актами под искусственным интеллектом понимают комплекс технологических решений, который позволяет имитировать когнитивные функции человека и получать результаты, сопоставимые, как минимум, с результатами интеллектуальной деятельности человека. При этом отдельно отмечается, что имитация включает самообучение и поиск решений без заранее заданного алгоритма. Важно обратить внимание на то, что определение в полной мере охватывает доступные на данный момент виды искусственного интеллекта. В широком понимании: искусственный интеллект, работающий на основе заранее определенных задач (имеющихся знаний), и искусственный интеллект, работающий автономно, то есть технология, которая для выполнения задач может потенциально полностью заменить человека[119].

Определение отражает принципиальные характеристики искусственного интеллекта, которые выявляются из его определения:

• это комплекс технологий, а не одна технология;

• искусственный интеллект может самообучаться и искать решения без заранее заданных алгоритмов – это принципиальное его отличие от других технологий;

• искусственный интеллект может получать результаты, сопоставимые, как минимум, с результатами интеллектуальной деятельности человека – то есть в определении заложено, что потенциально искусственный интеллект может получать более совершенные результаты, чем получаемые человеком.

С принятием в 2019 году Национальной стратегии развития искусственного интеллекта на период до 2030 года Россия вошла в число стран, имеющих документы стратегического планирования в сфере искусственного интеллекта.

В упомянутой Национальной стратегией развития искусственного интеллекта на период до 2030 года указывается, что использование технологий искусственного интеллекта в социальной сфере способствует созданию условий для улучшения уровня жизни населения, в том числе за счет повышения качества услуг в сфере образования. При этом в Национальной стратегии конкретизируется, что понимается под повышением качества услуг в образовательной среде. А именно: адаптация образовательного процесса к потребностям обучающихся и потребностям рынка труда, системный анализ показателей эффективности обучения для оптимизации профессиональной ориентации и раннего выявления детей с выдающимися способностями, автоматизация оценки качества знаний и анализа информации о результатах обучения. Указанные процессы в перспективе будут реализовываться системами искусственного интеллекта.

Условно к правовым инструментам стимулирования внедрения технологий искусственного интеллекта в сферу образования можно отнести экспериментальную и инновационную деятельность, определение и содержание которых закреплено в ст. 20 федерального закона об образовании. Безусловно, цель указанных видов деятельности ориентирована на модернизацию и развитие системы образования. Гипотетически предполагая, что модернизация и развитие в настоящее время не мыслятся без включения в образовательный процесс технологий искусственного интеллекта, можно говорить о «скрытом содержании» перечисленных видов деятельности в сфере образования. Как указывается в коллективном Комментарии к Федеральному закону «Об образовании в Российской Федерации» «инновационная деятельность определяется как деятельность (включая научную, технологическую, организационную, финансовую и коммерческую), направленная на реализацию инновационных проектов, а также на создание инновационной инфраструктуры и обеспечение ее деятельности»[120].

В Государственной программе развития образования до 2025 года, утвержденной постановлением Правительства от 26.12.2017 № 1642, инновационная и экспериментальная составляющие выражены несколько по-иному, нежели в предыдущей аналогичной программе[121]. В рамках данной госпрограммы предусмотрена ведомственная целевая программа «Поддержка инноваций в области развития и мониторинга системы образования, обеспечение эффективности конкурсных механизмов реализации программных мероприятий в сфере образования». В ее цели входит обеспечение ежегодной поддержки не менее 20 стратегических инициатив и инновационных разработок, направленных на развитие региональных и муниципальных систем по вопросам развития и мониторинга системы образования.

Серьезным развитием в реализации конституционного права на образование в современных условиях может стать новый проект Правительства Российской Федерации по формированию цифровой образовательной среды. Основной его целью декларируется предоставление свободного доступа по принципу «одного окна» для всех категорий граждан, в том числе обучающихся по образовательным программам высшего образования и образовательным программам дополнительного профессионального образования, к онлайн-курсам, реализуемым различными организациями, осуществляющими образовательную деятельность, и образовательными платформами.

Заслуживает внимания не только стимулируемое Правительством Российской Федерации образование единой общедоступной цифровой образовательной среды, но и впервые введении в нормативное поле России таких терминов, как образовательные платформы, онлайн-курсы, паспорт и экспертиза онлайн-курса, персональная образовательная траектория, портал и другие, отражающие трансформацию права на образование в условиях информационно-цифровой реальности. Тем не менее, это только первые шаги в правовом регулировании использования технологий искусственного интеллекта при реализации права на образование.

Одним из субъектов образовательных отношений является обучающийся. В отношении него ИИ призван обеспечить доступность и качество образовательных услуг, системное и полное освоение компетенций по конкретной образовательной программе. Применение искусственного интеллекта действительно может на новом качественном уровне решить задачу сопровождения по индивидуальной образовательной траектории, которая должна динамически перестраивается по мере приобретения обучающимся компетенций. Роль живого педагога должна трансформироваться: от передатчика знаний в носителя философии изучаемого предмета. К сожалению, в настоящее время индивидуальная траектория обучения понимается узко и «технически примитивно»: в некоторых вузах обучающиеся могут выбирать самостоятельно предметы для изучения внутри своей образовательной организации, в других – могут обучаться на любых выбранных онлайн-курсах, которые им засчитывают по направлению обучения в вузе.

Важным направлением влияния ИИ на реализацию права на образование является изменение программ обучения и включение в перечень обязательно изучаемых дисциплин, предметов, связанных с ИИ как на школьном уровне, так на уровне высшего образования.

В конце января 2021 года Министерство просвещения Российской Федерации анонсировало введение в российской начальной школе обучения основам искусственного интеллекта. Новая дисциплина в рамках уроков информатика появится 1 сентября, а первые учебные материалы планируется подготовить к концу мая[122]. Об этом говорится в проекте дорожной карты развития искусственного интеллекта (ИИ) в России. Кроме того, уже с 2021 года во всех регионах будет проводиться всероссийская олимпиада по ИИ. Инициатива заслуживает одобрения и поддержки, однако ставит многочисленные вопросы: необходимость модернизации всей образовательной программы, начиная с начальных классов, подготовка кадров и методических разработок, по которым школьников будут учить основам искусственного интеллекта.

Процессы цифровой трансформации рассматриваются сегодня уже не как что-то фантастическое и неосуществимое, а становятся частью реальности, современным трендом и охватывают практически все социально-экономические отношения. Не случайно, что одним из приоритетов в развитии образования в Указе Президента РФ от 07.05.2018 № 204 «О национальных целях и стратегических задачах развития Российской Федерации на период до 2024 года»[123] называется «создание современной и безопасной цифровой образовательной среды».

Трудно оспаривать тот факт, что сегодня цифровые технологии создают и обеспечивают комплекс возможностей для улучшения качества образования. Однако интегрировать их в учебный процесс далеко не простая задача. Только лишь путем обеспечения образовательных организаций новыми цифровыми технологиями невозможно добиться высоких образовательных результатов. Цифровая трансформация образования возможна при условии решения проблемы преодоления цифрового разрыва. Цифровая трансформация отрасли образования – это качественное изменение как самого образовательного процесса, так и образовательной деятельности на основе освоения прорывных информационных технологий. С помощью цифровых технологий упрощается использование новых моделей организации и проведения учебной работы, которые ранее не использовались в силу сложности или невозможности их осуществления путем традиционных технологий взаимодействия и работы с информацией.

При этом, создание современной и безопасной цифровой образовательной среды сопряжено не только с внедрением, использованием и развитием в рамках образовательного процесса современных цифровых информационных технологий, но и предполагает необходимость исследования возникающих правовых и организационных барьеров для внедрения и использования таких технологий, а также сопряжено с определенного рода рисками.

Одним из таких серьезных барьеров цифровой трансформации образования является цифровой разрыв, который появляется во всех сферах, где внедряются цифровые технологии. Не составляют исключение и школы и университеты. При этом возникающий цифровой разрыв обостряет «традиционное» образовательное неравенство, связанное с разными культурными и социальными возможностями детей, принадлежащих к разным социальным группам. В настоящее время образовательные организации России в той или иной степени оснащены цифровым оборудованием. Однако все еще сохраняется неравенство в доступе к нему. При этом наличие оборудования еще не означает, что оно будет активно и эффективно используется в образовательном процессе.

Другим, не менее серьезным барьером для внедрения цифровых технологий является доступ учащихся к сети Интернет. В настоящее время образовательный процесс уже немыслим без доступа в глобальную информационную сеть. Однако его наличие зачастую существенно различается в зависимости от региона страны, а также от типов населенных пунктов. Жители средних и крупных городов как правило не испытывают проблем с доступом в Интернет, чего нельзя сказать о сельской местности. Доступ к Интернету для образовательных организаций также обязателен, как и наличие телефонной связи. Но, несмотря на определенную положительную динамику, наметившуюся в работе по подключению школ к Интернету, неравенство по-прежнему сохраняется. Сегодня в российских регионах все еще остается немало образовательных учреждений, которые не имеют доступа к сети Интернет. Таким образом, мероприятия по созданию материальных условий для цифровой трансформации образования должны продолжаться. Говоря о проблеме доступа в глобальную информационную систему учебных заведений, нельзя не коснуться также качества такого доступа. Высокоскоростной Интернет доступен сегодня далеко не всем образовательным организациям, особенно на уровне общеобразовательных школ. Высокая скорость доступа к Интернету – необходимое условие не только для того, чтобы иметь возможность получать дополнительные образовательные ресурсы из сети Интернет, но и для того, чтобы предоставлять образовательные услуги, отвечающие запросам современного информационного общества.

Не менее серьезными представляются и риски, с которыми сопряжена цифровая трансформация образования.

В своей резолюции 55/63 Генеральная Ассамблея ООН выразила обеспокоенность в связи с тем, что технический прогресс создал новые возможности для преступной деятельности, и в частности для преступного использования информационных технологий. В докладе по вопросу о праве на образование, подготовленному во исполнение резолюции 26/17 Совета по правам человека ГА ООН достаточно подробно освещаются проблемы и вызовы в области права на образование в эпоху цифровых технологий. В частности, в докладе отмечается, что использование цифровых технологий заключает в себе риск принижения значимости общечеловеческих ценностей в образовании и подрыва качества образования. Цифровые технологии отрицательно сказываются на функции образования, понижая способность учащихся логически и критически мыслить, принижая значимость общечеловеческих ценностей и прокладывая путь к меркантилизации образования. Злоупотребление технологиями может приводить к издевательствам в киберпространстве, криминальной деятельности и даже к терроризму. Самым серьезным риском в докладе названы сексуальные надругательства или сексуальная эксплуатация несовершеннолетних. Менее серьезными, но при этом не рассматриваемыми как положительные, являются риски, связанные с рекламными объявлениями, спамами, спонсорством, раскрытием персональных данных и контентом, который носит агрессивный, пронизанный насилием, предвзятый, расистский, порнографический, нежелательный и вводящий в заблуждение характер.

В исследованиях, посвященных перспективам цифровой трансформации образования в Российской Федерации, также содержится критический анализ рисков использование цифровых технологий в обучении. В частности, называются такие негативные изменения в развитии мозга и сознания, как «цифровое слабоумие» или «цифровая деменция», когда нарушаются когнитивные функции мозга и поражаются его отдельные участки. Более того, именно с компьютерным обучением эксперты связывают и мировой рост аутизма. Например, по мнению директора Центра геополитики Института фундаментальных и прикладных исследований О. Н. Четвериковой, сегодня отсутствуют независимые исследования, бесспорно доказывающие, что обучение стало более эффективным благодаря внедрению в школах компьютеров и смартбродов, но при этом замена физического мира виртуальной цифровой средой ведет к атрофии определенных участков мозга, потере когнитивных функций, утрате навыков мышлении и неспособности концентрировать внимание и не только запоминать, но и даже понимать прочитанное[124].

Н. И. Касперская – известный эксперт в области ИТ-безопасности в своем выступлении на Парламентских слушаниях в Государственной думе РФ, также обозначила основные риски «цифровой колонизации» и широкого внедрения во все сферы жизнедеятельности таких технологий, как уберизация, «большие данные», блокчейн, виртуальная реальность[125]. Прорыв в искусственном интеллекте, анализ «больших данных» сопряжен, по ее мнению, с навязыванием западных технологий, деградации собственных компетенций, потерей базовых когнитивных компетенций, снижением качества обучения, снижением личных контактов, ростом конфликтов, «утечкой» талантливой молодежи и преподавателей за границу, снижение общего уровня подготовки и др.

Вот далеко не полный перечень барьеров и рисков цифровизации образования. Цифровая трансформация образовательной сферы в Российской Федерации обусловлена преимущественно внешними факторами. Основным из них (факторов) является необходимость осуществления цифровизации экономики, которая выдвигает требования к цифровым навыкам и универсальным компетентностям современных работников.

Цифровые трансформации системы современного российского образования представляют собой своего рода ядро, вокруг которого должны формироваться новые педагогические инновационные и методики и происходить качественное улучшение результативности образовательного процесса. Однако в настоящее время основная проблема заключается в отсутствии четкого понимания путей реформирования российской системы образования. Использование цифровых технологий в все еще продолжает рассматриваться в отрыве от трансформации целей, организационных форм и методов учебной работы, что порождает их неэффективность., а, соответственно, не способствует повышению качества образования.

Таким образом, важнейшим условием эффективного внедрения цифровых технологий в образовательный процесс является осмысление возможного места этих технологий в системе российского образования и результативности их использования.

Исследование правовых проблем использования технологий искусственного интеллекта в реализации права на образование позволяет сделать следующие выводы.

1. Искусственный интеллект является неотъемлемым условием развития образовательных стандартов будущего. При этом говорить об искусственном интеллекте как о субъекте образовательных правоотношений достаточно рано, хотя алгоритмы создания чат-ботов по формированию и корректировки индивидуальной траектории обучения, создания искусственным интеллектом учебников и учебных пособий активно обсуждаются. В настоящее время в сфере образования искусственный интеллект проявляется в двух аспектах: как технологии устойчивого развития образования и как объект изучения в рамках образовательного процесса.

2. Проведенный анализ программных и стратегических документов Российской Федерации по развитию искусственного интеллекта в образовании показал, что, во-первых, в Концепции развития регулирования отношений в сфере технологий искусственного интеллекта и робототехники до 2024 года, необоснованно игнорируется сфера образования, которая не указана в числе первоочередных отраслевых направлений регулирования использования искусственного интеллекта. Такая ситуация не способствует устойчивому развитию образования в условиях информационно-цифровой реальности.

3. Текстуальный и содержательный анализ Федерального закон от 29.12.2012 № 273-ФЗ «Об образовании в Российской Федерации» показал, что до настоящего времени в нем не используются термины «технологии искусственного интеллекта», «системы искусственного интеллекта» и иные словосочетания, образованные с конструкцией «искусственный интеллект». Несмотря на то, что в указанном законе содержится статья, устанавливающая понятия и порядок реализации образовательных программ с применением электронного обучения и дистанционных образовательных технологий, следует отдавать отчет, что ни при электронном обучении, ни при дистанционных технологиях не задействованы системы искусственного интеллекта в широком смысле.

4. Условно к правовым инструментам стимулирования внедрения технологий искусственного интеллекта в сферу образования можно отнести экспериментальную и инновационную деятельность, определение и содержание которых закреплено в ст. 20 Федерального закона об образовании. Безусловно, цель указанных видов деятельности ориентирована на модернизацию и устойчивое развитие системы образования. Гипотетически предполагая, что модернизация и развитие в настоящее время не мыслятся без включения в образовательный процесс технологий искусственного интеллекта, можно говорить о «скрытом содержании» перечисленных видов деятельности в сфере образования.

5. Несмотря на достигнутый прогресс, в сфере высшего образования по-прежнему существует неравенство возможностей. Цифровые технологии являются вездесущими только в принципе, в реальной жизни их присутствие раздроблено ввиду существования «цифрового разрыва».

Один из барьеров, который должен быть устранен, связан с расходами на инвестиции в информационно-коммуникационные технологии. Технологическая инфраструктура наряду с программным обеспечением, технической поддержкой, обучением педагогов и техническим обслуживанием требует существенной финансовой поддержки со стороны государства. Цифровые устройства в развивающихся странах не всегда доступны по стоимости ни для студентов, ни для государственных учебных заведений. Высокая стоимость цифровых технологий побуждает университеты образовывать консорциумы для совместного финансирования расходов, использования ресурсов и инфраструктуры.

6. Использование цифровых технологий таит в себе риск социального расслоения в обществе. Люди, проживающие в городах, в первую очередь получают доступ к Интернету более высокого качества, тогда как те, кто живет в удаленных районах, в этом отношении оказываются в неблагоприятном положении или вообще не имеют такого доступа. Использование информационно-коммуникационных технологий может приводить к лишению возможностей получения образования, особенно для малообеспеченных слоев населения.

Вместе с тем внедрение технологии в аудиторный учебный процесс существенно сказывается на роли преподавателя. Электронные материалы должны дополнять существующие методы работы в аудитории, поскольку видео и онлайн-упражнения служат дополнением к традиционным методикам обучения. За счет непосредственного взаимодействия со студентами преподавателю легче определить степень понимания материала и степень активности студентов и принять корректирующие меры для устранения проблем.

7. Злоупотребление технологиями может приводить к издевательствам в киберпространстве, криминальной деятельности и даже к терроризму. Педагоги должны готовить своих учащихся к тому, чтобы они могли противостоять новым рискам. Необходимо защитить детей от потенциально вредных последствий электронного контента.

Государство должно принимать меры к тому, чтобы защитить детей от онлайн-преследования, включая издевательства или «груминг» в сексуальных целях. Наконец, необходимо внимательно следить за тем, чтобы дети не вовлекались в незаконную деятельность, финансовые схемы или терроризм.

Резюмируя итоги проведенного исследования государственной политики России в сфере образования в условиях применения новых цифровых технологий и искусственного интеллекта, можно заключить, что, во-первых, для стимулирования развития и использования технологий искусственного интеллекта необходимы адаптация нормативного регулирования в части, касающейся взаимодействия человека с искусственным интеллектом, и выработка соответствующих этических норм. Во-вторых, избыточное регулирование искусственного интеллекта может существенно замедлить темп развития и внедрения технологических решений в образовательный процесс. Соответственно, следует руководствоваться принципом разумной достаточности: регуляторный процесс должен стимулировать развитие искусственного интеллекта в сфере образования, но не устанавливать императивы его внедрения. Вместе с тем в стратегические документы целесообразно включить положения, направленные на устойчивое развитие образования с использованием искусственного интеллекта, взвешивая при этом потенциальные риски.

2.2. Право на охрану здоровья, качественную и доступную медицинскую помощь в условиях развития систем искусственного интеллекта в сфере здравоохранения

Конец ознакомительного фрагмента.

Текст предоставлен ООО «Литрес».

Прочитайте эту книгу целиком, купив полную легальную версию на Литрес.

Безопасно оплатить книгу можно банковской картой Visa, MasterCard, Maestro, со счета мобильного телефона, с платежного терминала, в салоне МТС или Связной, через PayPal, WebMoney, Яндекс.Деньги, QIWI Кошелек, бонусными картами или другим удобным Вам способом.

Примечания

1

Ястребов О. А. Дискуссия о предпосылках для присвоения роботам правового статуса «электронных лиц» // Вопросы правоведения. 2017. № 1. С. 189–203.

Вернуться

2

Liability for damages caused by artificial intelligence // Computer Law & Security Review. 2015. Vol. 31. № 3. P. 376–389.

Вернуться

3

Полич С. Б. Некоторые особенности правосубъектности лиц – участников гражданских и семейных отношений // Вестник Пермского университета. Серия: Юридические науки. 2018. № 42. С. 664–684.

Вернуться

4

Габов А. В. Правосубъектность: традиционная категория права в современную эпоху // Вестник Саратовской государственной юридической академии. 2018. № 2 (121). С. 105–122.

Вернуться

5

Морхат П. М. Проблемы патентования изобретений, созданных юнитом искусственного интеллекта // Закон и право. 2018. № 8. С. 40–43.

Вернуться

6

Афанасьев С. Ф. К вопросу о законодательном регулировании искусственного интеллекта // Российская юстиция. 2020. № 7. С. 46–49.

Вернуться

7

Липчанская М. А., Заметина Т. В. Социальные права граждан в условиях использования искусственного интеллекта: правовые основы и пробелы законодательного регулирования в России // Журнал российского права. 2020. № 11. С. 77–96.

Вернуться

8

Габов А. В., Хаванова И. А. Эволюция роботов и право XXI века // Вестник Томского государственного университета. 2018. № 435. С. 215–233.

Вернуться

9

Распоряжение Правительства РФ от 19.08.2020 № 2129-р «Об утверждении Концепции развития регулирования отношений в сфере технологий искусственного интеллекта и робототехники до 2024 года» // СЗ РФ. 2020. № 35. Ст. 5593.

Вернуться

10

Словарь иностранных слов / отв. ред. В. В. Бурцева, Н. М. Семенова. 4-е изд. стереотип., М.: Русс. яз. – Медиа, 2007. С. 264.

Вернуться

11

McCarthy J. What is artificial intelligence? Stanford University, Revised November 12, 2007.

Вернуться

12

Поспелов Г. С. Искусственный интеллект – основа новой информационной технологии. М.: Наука, 1988. 280 с.

Вернуться

13

См.: Заинова К. Д. Экспертные системы // International Scientific Research 2018: XLI Международная научно-практическая конференция, 23 ноября 2018 г. М.: Научный центр «Олимп». С. 339–340.

Вернуться

14

Джексон П. Введение в экспертные системы / пер. с англ. и ред. В. Т. Тертышного. М.: Издательский дом «Вильямс», 2001. С. 420.

Вернуться

15

См.: Сухарева М. А., Винниченко М. В. Построение экспертных систем с применением технологий искусственного интеллекта как системы поддержки принятия управленческих решений // Новое поколение. 2019. № 20. С. 77.

Вернуться

16

Подробнее см.: Степура М. А. Экспертные системы как направление исследований в области искусственного интеллекта // Вектор экономики. 2019. № 1. С. 55–61.

Вернуться

17

Ожегов С. И. Словарь русского языка. 4-е изд., испр. и доп. М.: Государственное издательство иностранных и национальных словарей, 1960. С. 245, С. 248.

Вернуться

18

См.: Еникеев М. И. Психологический энциклопедический словарь. М.: ТК Велби, Проспект, 2006. С. 131.

Вернуться

19

Монфред К. Мистика лидерства. Развитие эмоционального интеллекта / пер. с англ. 2-е изд. М.: Альпина Бизнес Букс, 2005. С. 53.

Вернуться

20

См.: Финн В. Далеко не все функции естественного интеллекта могут быть формализованы и автоматизированы // Коммерсантъ Наука. 2019. № 68. С. 33.

Вернуться

21

Черниговская Т. В. Чеширская улыбка кота Шредингера: язык и сознание. M.: Языки славянской культуры, 2013. С. 18.

Вернуться

22

См.: Кобринский Б. Искусственный интеллект не сможет сравниться с естественным в изобретении нового // Коммерсантъ Наука. 2019. № 68. С. 37.

Вернуться

23

См.: Саможнев А. Робот София сломалась после вопроса о коррупции на Украине // РГ. 2018. 26 янв.

Вернуться

24

Подробнее см.: Морхат П. М. Искусственный интеллект: правовой взгляд. М.: Буки Веди, 2017. С. 39–70.

Вернуться

25

См.: Ревазов М. А., Царева З. Г. Анализ методов моделирования искусственно интеллекта // Научно-техническая конференция обучающихся молодых ученых СКГМИ (ГТУ) «НТК-2017»: сб. докладов. 26–30 апреля 2017 г. Владикавказ: Северно-Кавказский горно-металлургический институт (государственный технологический университет). 2017. С. 67.

Вернуться

26

См.: Лошкарев А. В., Кремнева Д. П. Искусственный интеллект. Правовой аспект создания и внедрения // Modern Science. 2019. № 5–1. С. 239.

Вернуться

27

См.: Лунгу Е. В. Конституционные правоотношения и уголовно-правовые отношения: сравнительный анализ // Уголовно-исполнительная система сегодня: взаимодействие науки и практики: материалы XIX всероссийской научно-практической конференции / отв. ред. А. Г. Чирков. Кузбасс: Кузбасский институт Федеральной службы исполнения наказаний. 2019. С. 194.

Вернуться

28

См.: Козлова Е. И. Конституционное право России: учебник / Е. И. Козлова, О. Е. Кутафин. 4-е изд., перераб. и доп. М., 2006. С. 14.

Вернуться

29

Авакьян С. А. Конституционное право России. Учебный курс: учеб. пособие: в 2 т. 5-е изд., перераб. и доп. М., 2014. Т. 1. С. 50.

Вернуться

30

Гаджиев Г. К. К вопросу о пробелах в Конституции // Пробелы в российской Конституции и возможности ее совершенствования. М.: Центр конституционных исследований МОНФ. 1998. С. 22.

Вернуться

31

См.: Курс международного права: в 7 т. Т. 2: основные принципы международного права / Г. В. Игнатенко, В. А. Карташкин, Б. М. Клименко и др. М., 1989. С. 10–11.

Вернуться

32

Резюме обсуждения на дискуссионном форуме вопроса о праве на неприкосновенность частной жизни в цифровой век // URL: https://www.un.org/en/ga/search/view_doc.asp?symbol=A/HRC/28/39&Lang=R (дата обращения: 28.01.2021).

Вернуться

33

См.: Новости ООН. Официальный сайт. URL: https://news.un.org/ru/story/2019/11/1366951 (дата обращения: 28.01.2021).

Вернуться

34

Рекомендация № CM/Rec (2019)1 Комитета министров Совета Европы «О предотвращении сексизма и борьбе с ним» (принята 27.03.2019 на 1342-м заседании представителей министров) // Бюллетень Европейского Суда по правам человека. Российское издание. 2019. № 10.

Вернуться

35

Резолюция Европарламента от 16.02.2017 // URL: http://robopravo.ru/riezoliutsiia_ies (дата обращения: 27.01.2021).

Вернуться

36

Подробнее см.: Шибаева К. В., Холова Л. Н. Три закона робототехники Айзека Азимова: к вопросу гуманности применения смертоносных автономных систем вооружения на войне // Теология. Философия. Право. 2018. № 4. С. 28–41.

Вернуться

37

Резолюция Европарламента от 16.02.2017 // URL: http://robopravo.ru/riezoliutsiia_ies (дата обращения: 27.01.2021).

Вернуться

38

Протокольное решение Экономического совета СНГ «О формировании конкурентной политики в государствах – участниках СНГ в условиях развития цифровой экономики» (принято в г. Москве 07.12.2018) // Единый реестр правовых актов и других документов СНГ. URL: http://cis.minsk.by/.

Вернуться

39

Модельный закон о трансграничном образовании: принят в г. Санкт-Петербурге 28.11.2014 // СПС «КонсультантПлюс». Версия от 27.01.2020.

Вернуться

40

Постановление Конституционного Суда РФ от 30.04.1996 № 11-П «По делу о проверке конституционности пункта 2 Указа Президента Российской Федерации от 03.10.1994 № 1969 “О мерах по укреплению единой системы исполнительной власти в Российской Федерации” и пункта 2.3 Положения о главе администрации края, области, города федерального значения, автономной области, автономного округа Российской Федерации, утвержденного названным Указом» // Вестник Конституционного Суда РФ. 1996. № 3.

Вернуться

41

Указ Президента РФ от 07.05.2018 № 204 (ред. от 19.07.2018) «О национальных целях и стратегических задачах развития Российской Федерации на период до 2024 года» // СЗ РФ. 2018. № 20. Ст. 2817.

Вернуться

42

Распоряжение Правительства РФ от 28.07.2017 № 1632-р «Об утверждении программы “Цифровая экономика Российской Федерации”» // СЗ РФ. 2017. № 32. Ст. 5138.

Вернуться

43

Указ Президента РФ от 10.10.2019 № 490 «О развитии искусственного интеллекта в Российской Федерации» // СЗ РФ. 2019. № 41. Ст. 5700.

Вернуться

44

См.: Пожарицкая И. М. Стратегия развития искусственного интеллекта в экономике и управлении // Устойчивое развитие социально-экономической системы Российской Федерации: сб. трудов XXI Всероссийской научно-практической конференции. 14–15 ноября 2019 г. Симферополь: Ариал, 2019. С. 347–350.

Вернуться

45

См, например: Степаненко А. С. Социокультурные и технологические предпосылки искусственного интеллекта: автореф. дис… д-ра филос. наук. Ростов-на-Дону, 2007; Алексеев А. Ю. Философия искусственного интеллекта: концептуальный статус комплексного теста Тьюринга: дис… д-ра филос. наук. М., 2016; Пушкарев А. В. Философские основания искусственного интеллекта: дис… канд. филос. наук. Уфа, 2017; Хвостова И. П. Построение и использование образовательной автоматизированной информационной системы с элементами искусственного интеллекта в учебном процессе вуза: дис… канд. пед. наук, Ставрополь, 2003 и т. д.

Вернуться

46

Jackson F. Introduction to Artificial Intelligence (2nd ed.). Dover, 1985; Crevier D. AI: The Rapid Search for Artificial Intelligence, New York, NY: BasicBooks, 1993; Nilsson N. In Search of Artificial Intelligence: A History of Ideas and Achievements. New York: Cambridge University Press, 2009; Nilsson N. Artificial Intelligence: A New Synthesis. Morgan Kaufmann. San Francisco, California, 1998; Luger J., Stubblefield W. Artificial Intelligence: Structures and Strategies for Integrated Problem Solving (5th ed.). Benjamin / Cummings, 2005; Russell Art. J., Norwig P. Artificial Intelligence: A Modern Approach (2nd ed.), Upper Saddle River, New Jersey: Prentice Hall, 2003; McCordack P. Machines That Think (2nd ed.), Natick, Massachusetts: AK Peters, Ltd., 2004; Hatter M. Universal Artificial Intelligence. Berlin: Springer, 2005.

Вернуться

47

Лопатин В. Н. Информационная безопасность России: автореф. дис. … д-ра юрид. наук. СПб., 2000.

Вернуться

48

Степанов О. А. Теоретико-правовые основы безопасного функционирования и развития информационно-электронных систем: автореф. дис. … д-ра юрид. наук. М., 2005.

Вернуться

49

Путило Н. В., Волкова Н. С. Телемедицина: потребности общества и возможности законодательства // Журнал российского права. 2018. № 6. С. 124–135.

Вернуться

50

Гаджиев Г. А. Является ли робот-агент лицом? (Поиск правовых форм для регулирования цифровой экономики) // Журнал российского права. 2018. № 1. С. 15–30.

Вернуться

51

Талапина Э. В. Право и цифровизация: новые вызовы и перспективы // Журнал российского права. 2018. № 2. С. 5–17; Талапина Э. В. Права человека в Интернете // Журнал российского права. 2019. № 2. С. 41–54.

Вернуться

52

Морхат П. М. Правосубъектность искусственного интеллекта в сфере права интеллектуальной собственности: гражданско-правовые проблемы: дис… д-ра юрид. наук. М., 2019; Сесицкий Е. П. Проблемы правовой охраны результатов, создаваемых системами искусственного интеллекта: дис… канд. юрид. наук. М., 2019.

Вернуться

53

См., например: Воробьев В. В. Преступления в сфере компьютерной информации: автореф. дис. … канд. юрид. наук. Н. Новгород, 2000; Яковенко И. Н. Современное состояние и перспективы использования информационных технологий в раскрытии и расследовании преступлений: автореф. дис. … канд. юрид. наук. Краснодар, 200; Егоров В. А. Организация правоохранительной деятельности с использованием информационных технологий: автореф. дис. … д-ра юрид наук. Саратов, 2007 и др.

Вернуться

54

Шайхуллин Г. С. Юридический статус средства массовой информации как субъекта избирательных информационных правоотношений: автореф. дис… канд. юрид. наук. Волгоград, 2003; Шевердяев С. Н. Проблемы конституционно-правового регулирования информационных отношений в Российской Федерации: автореф. дис… канд. юрид. наук. М., 2002; Кротов А. В. Конституционное право граждан на информацию и свободу информации: автореф. дис… канд. юрид. наук. Казань, 2007 и др.

Вернуться

55

Вешкельский А. С. Теория и практика информационно-аналитической работы в органах внутренних дел Российской Федерации (Организационно-правовое исследование): автореф. дис… канд. юрид. наук. СПб., 2000; Лисицына Е. С. Право на информацию и информационную деятельность в Российской Федерации: конституционно-правовые аспекты: автореф. дис… канд. юрид. наук. М., 2003.

Вернуться

56

Бондарь Н. С. Информационно-цифровое пространство в конституционном измерении: из практики Конституционного Суда Российской Федерации // Журнал российского права. 2019. № 11. С. 25–42.

Вернуться

57

Готт В. С., Семенюк Э. П., Урсул А. Д. Категории современной науки. М., 1984. С. 86, 91.

Вернуться

58

Гаврилова Т. А. Авторский дизайн курса «Искусственный интеллект»: онтологический подход // Шестнадцатая национальная конференция по искусственному интеллекту с международным участием Кии-2018: Труды конференции. Т. 1. М., 2018. С. 13.

Вернуться

59

Абдикеев Н. М. Проектирование интеллектуальных систем в экономике: учебник. Российская экономическая академия им. Г. В. Плеханова. М.: Экзамен, 2004, С. 477; Болотова Л. С. Системы искусственного интеллекта: модели и технологии, основанные на знаниях: учебник. М.: Финансы и статистика, 2012. С. 38–39.

Вернуться

60

Толковый словарь по искусственному интеллекту / авторы-составители А. Н. Аверкин, М. Г. Гаазе-Рапопорт, Д. А. Поспелов. М.: Радио и связь, 1992 // URL: http://www.raai.org/library/tolk/aivoc.html#L208 (дата обращения: 15.03.2020).

Вернуться

61

Романов В. П. Интеллектуальные информационные системы в экономике: учебник. Российская экономическая академия им. Г. В. Плеханова. М.: Экзамен, 2003. С. 5.

Вернуться

62

Энциклопедия кибернетики. Киев: Главная редакция украинской советской энциклопедии, 1975. Т. 1. С. 412.

Вернуться

63

Сесицкий Е. П. Проблемы правовой охраны результатов, создаваемых системами искусственного интеллекта: дис… канд. юрид. наук. М., 2019. С. 10.

Вернуться

64

Понкин И. В., Редькина А. И. Искусственный интеллект с точки зрения права // Вестник РУДН. Серия: Юридические науки. 2018. Т. 22. № 1. С. 94–95.

Вернуться

65

Морхат П. М. Правосубъектность искусственного интеллекта в сфере права интеллектуальной собственности: гражданско-правовые проблемы: дис… д-ра юрид. наук. М., 2019. С. 20–21.

Вернуться

66

См.: Ролинсон П., Ариевич Е. А., Ермолина Д. Е. Объекты интеллектуальной собственности, создаваемые с помощью искусственного интеллекта: особенности правового режима в России и за рубежом // Закон. 2018. № 5. С. 63–71.

Вернуться

67

См.: Никифорова Т. С., Смирнова К. М. Оставят ли роботы юристов без работы? // Закон. 2017. № 11.

Вернуться

68

См.: Юридическая концепция роботизации: монография / Н. В. Антонова, С. Б. Бальхаева, Ж. А. Гаунова и др.; отв. ред. Ю. А. Тихомиров, С. Б. Нанба. М.: Проспект, 2019 // СПС «КонсультантПлюс».

Вернуться

69

Резолюция Европарламента ЕС от 16.02.2017 «Нормы гражданского права о робототехнике» // URL: http://robopravo.ru/riezoliutsiia_ies (дата обращения: 27.09.2021).

Вернуться

70

См.: Ирискина Е. Н., Беляков К. О. Правовые аспекты гражданско-правовой ответственности за причинение вреда действиями робота как квазисубъекта гражданско-правовых отношений // Гуманитарная информатика. 2016. Вып. 10. С. 65.

Вернуться

71

См.: Архипов В. В., Наумов В. Б. Искусственный интеллект и автономные устройства в контексте права: о разработке первого в России закона о робототехнике // Труды СПИИРАН. 2017. Вып. 6. С. 51, 54, 57; Dentons разработала первый в России законопроект о робототехнике // URL: https://www.dentons.com/ru/insights/alerts/2017/january/27/dentons-develops-firstrobotics-draft-law-in-russia (дата обращения: 27.09.2021).

Вернуться

72

См.: Dentons разработала первый в России законопроект о робототехнике.

Вернуться

73

См.: Резолюция Европарламента ЕС от 16.02.2017 «Нормы гражданского права о робототехнике» // URL: http://robopravo.ru/riezoliutsiia_ies (дата обращения: 27.09.2021); Ястребов О. А. Дискуссия о предпосылках для присвоения роботам правового статуса «электронных лиц» // Вопросы правоведения. 2017. № 1.

Вернуться

74

См.: Гаджиев Г. А., Войниканис Е. А. Может ли робот быть субъектом права? (поиск правовых форм для регулирования цифровой экономики // Право. 2018. № 4. С. 45.

Вернуться

75

См.: Юридическая концепция роботизации: монография / Н. В. Антонова, С. Б. Бальхаева, Ж. А. Гаунова и др.; отв. ред. Ю. А. Тихомиров, С. Б. Нанба. М.: Проспект, 2019 // СПС «КонсультантПлюс».

Вернуться

76

Solum L. B. Legal Personhood for Artificial Intelligences // North Carolina Law Review. 1992. Vol. 70(4). P. 1258–1259.

Вернуться

77

См.: Роботы заявляют о своих правах: доктринально-правовые основы и нравственно-этические стандарты применения автономных роботизированных технологий и аппаратов: коллективная монография / под ред. А. Ю. Мамычева, А. Ю. Мордовцева, Г. В. Петрук. М.: РИОР, 2019. С. 50, 51, 62, 63, 65, 155, 156, 224 // DOI: https://doi.org/10.29039/02027-2.

Вернуться

78

См.: Архипов В. В., Наумов В. Б. Искусственный интеллект и автономные устройства в контексте права: о разработке первого в России закона о робототехнике // Труды СПИИРАН. 2017. Вып. 6. С. 51, 54, 57.

Вернуться

79

Dentons разработала первый в России законопроект о робототехнике // URL: https://www.dentons.com/ru/insights/alerts/2017/january/27/dentons-develops-firstrobotics-draft-law-in-russia (дата обращения: 27.09.2021).

Вернуться

80

Solum L. B. Op. cit. P. 1258–1259; Понкин И. В., Редькина А. И. Искусственный интеллект с точки зрения права // Вестник РУДН. Серия: Юридические науки. 2018. Т. 22. № 1. С. 96.

Вернуться

81

См.: Recommendation № 2102 of Parliamentary Assembly of the Council of Europe «Technological convergence, artificial intelligence and human rights», 28 April 2017 // URL: https://assembly.coe.int/nw/xml/XRef/Xref-XML2HTML-en.asp?fileid=23726&lang=en (дата обращения: 27.09.2021).

Вернуться

82

См.: Наука за рубежом // Институт проблем развития науки РАН. 2018. (№ 69). С. 9–14, 15, 18. URL: www.issras.ru/global_science_review (дата обращения: 27.09.2021).

Вернуться

83

См.: Наука за рубежом // Институт проблем развития науки РАН. 2018. (№ 69). С. 16–17. URL: www.issras.ru/global_science_review (дата обращения: 27.09.2021).

Вернуться

84

См.: Международный образовательный реабилитационный форум «Владивосток 2019» // ООН в России. 2019. № 3. С. 13.

Вернуться

85

См.: Robot Kills worker at Volkswagen plant in Germany // The Guardian. URL: https://www.theguardian.com/world/2015/jul/02/robot-kills-worker-at-volkswagenplant-in-germany (дата обращения: 07.07.2017); Tesla driver in fatal ‘Autopilot’ crash got numerous warnings: U. S. government // Reuters. URL: https://www.reuters.com/article/us-tesla-crash-idUSKBN19A2XC (дата обращения: 07.09.2021).

Вернуться

86

См.: Роботы заявляют о своих правах: доктринально-правовые основы и нравственно-этические стандарты применения автономных роботизированных технологий и аппаратов: коллективная монография / под ред. А. Ю. Мамычева, А. Ю. Мордовцева, Г. В. Петрук. М.: РИОР, 2019. С. 50.

Вернуться

87

Достойный труд, навыки и возможности для молодежи // ООН в России. 2019. № 3. С. 9.

Вернуться

88

См.: Цифровизация как драйвер профессий будущего: социальный аспект. М.: ВЦИОМ, 2017. С. 1, 3.

Вернуться

89

А я против! // РГ. 2018. 10 янв.; Запретить биометрические паспорта и прочие документы, хранящие биометрические данные // URL: https://www.roi.ru/20403/ (дата обращения: 27.09.2021); Требуем отклонить Законопроект о биометрической идентификации // URL: https://петиция-президенту. рф / (дата обращения: 18.06.2019).

Вернуться

90

Цифровая экономика: глобальные тренды, проблемы и парадоксы // ООН в России. 2019. № 3. С. 12.

Вернуться

91

Информационно-аналитическая система Общероссийская база вакансий «Работа в России». URL: https://trudvsem.ru/ (дата обращения: 04.10.2021).

Вернуться

92

Редакция. Екатеринбург распахнул двери участникам саммита GMIS-2019 и выставки ИННОПРОМ // ООН в России. 2019. № 3. С. 3.

Вернуться

93

См.: Архипов В. В., Наумов В. Б. Искусственный интеллект и автономные устройства в контексте права: о разработке первого в России закона о робототехнике // Труды СПИИРАН. 2017. Вып. 6 (55). С. 51, 54, 57 // URL: www.proceedings.spiiras.nw.ru/ (дата обращения: 02.01.2020).

Вернуться

94

См.: Роботы заявляют о своих правах: доктринально-правовые основы и нравственно-этические стандарты применения автономных роботизированных технологий и аппаратов: коллективная монография / под ред. А. Ю. Мамычева, А. Ю. Мордовцева, Г. В. Петрук. М.: РИОР, 2019. 349 с.

Вернуться

95

Например, в монографии: Морхат П. М. Искусственный интеллект: правовой взгляд. М.: Буки Веди, 2017 – на страницах 13–35 была проанализирована библиография по 2017 год более двухсот источников различных отраслей наук отечественных и зарубежных авторов по этой проблематике.

Вернуться

96

См., например: Ирискина Е. Н., Беляков К. О. Правовые аспекты гражданско-правовой ответственности за причинение вреда действиями робота как квазисубъекта гражданско-правовых отношений // Гуманитарная информатика. 2016. Вып. 10. С. 63–72; Ястребов О. А. Дискуссия о предпосылках для присвоения роботам правового статуса «электронных лиц» // Вопросы правоведения. 2017. № 1.

Вернуться

97

Талапина Э. В. Право и цифровизация: новые вызовы и перспективы // Журнал российского права. 2018. № 2. С. 7, 8, 10.

Вернуться

98

Указ Президента РФ от 07.05.2018 № 204 «О национальных целях и стратегических задачах развития Российской Федерации на период до 2024 года» // СЗ РФ. 2018. № 20. Ст. 2817.

Вернуться

99

Распоряжение Правительства РФ от 28.07.2017 № 1632-р «Об утверждении программы “Цифровая экономика Российской Федерации”» // СЗ РФ. 2017. № 32. Ст. 5138.

Вернуться

100

Указ Президента РФ от 10.10.2019 № 490 «О развитии искусственного интеллекта в Российской Федерации» (вместе с «Национальной стратегией развития искусственного интеллекта на период до 2030 года») // СЗ РФ. 2019. № 41. Ст. 5700.

Вернуться

101

См.: Пожарицкая И. М. Стратегия развития искусственного интеллекта в экономике и управлении // Устойчивое развитие социально-экономической системы Российской Федерации: сб. трудов XXI Всероссийской научно-практической конференции. 14–15 ноября 2019 г. Симферополь: Ариал, 2019. С. 347–350.

Вернуться

102

СЗ РФ. 2020. № 17. Ст. 2701.

Вернуться

103

См.: Наука за рубежом // Институт проблем развития науки РАН. 2018. № 69. С. 8.

Вернуться

104

См.: Ipchain Legaltech Review. April 2019. С. 5.

Вернуться

105

См.: Мордовец А. С. Социально-юридический механизм обеспечения прав человека и гражданина / под ред. Н. И. Матузова. Саратов: СВШ МВД РФ, 1996. 288 с.

Вернуться

106

См.: Kovaleva N. N., Zhirnova N. A., Filimonova M. V. The Virtual Property under the Legislation of the Russian Federation: Present State and Development Trends // Proceedings of the 1st International Scientific Conference «Modern Management Trends and the Digital Economy: from Regional Development to Global Economic Growth». ISTDE, 2019. P. 803, 806.

Вернуться

107

Заметина Т. В., Комбарова Е. В., Балашова Е. Ю. Human Rights as a Universal Value in the Context of Artificial Intelligence Development // Advances in Social Science, Education and Humanities Research. EAC–LAW. 2020. Vol. 498. Р. 13–19.

Вернуться

108

Кешелава A. B., Буданов В. Г., Румянцев В. Ю. Введение в «Цифровую» экономику. ВНИИГеосистем, 2017. 28 с. // URL: http://spkurdyumov.ru/uploads/2017/07/vvedenie-v-cifrovuyu-ekonomiku-na-poroge-cifrovogo-budushhego.pdf (дата обращения: 22.02.2021).

Вернуться

109

Aslam, Abdul Azis Wahab, Purnama Syae Purrohman, Zulherman, Evy Segarawati Ampry. Internet User Behavior and Social Media in Learning // Advances in Social Science, Education and Humanities Research. EAC–LAW. 2020. Vol. 526. Р. 50–55.

Вернуться

110

Dobrolyubova E., Alexandrov O., Yefremov A. Is Russia Ready for Digital Transformation? // DTGS 2017. Communications in Computer and Information Science. Cham. Springer, 2017. Vol. 745. P. 431–444; Alexandrov D., Boukhanovsky A., Chugunov A., et. al. (eds.) Digital Transformation and Global Society // DTGS 2018. Communications in Computer and Information Science. Cham. Springer, 2018. https://www.elibrary.ru/item.asp?id=44810575

Вернуться

111

Стрекалова Н. Б. Риски внедрения цифровых технологий в образование // Вестник Самарского университета // История, педагогика, филология. 2019. Т. 25. № 2. С. 84–88.

Вернуться

112

Федеральный закон от 29.12.2012 № 273-ФЗ (ред. от 08.12.2020) «Об образовании в Российской Федерации» (с изм. и доп., вступ. в силу с 01.01.2021) // СЗ РФ. 2012. № 53 (ч. 1). Ст. 7598; СЗ РФ. 2019. № 52 (ч. I). Ст. 7796.

Вернуться

113

При этом под электронным обучением понимается организация образовательной деятельности с применением содержащейся в базах данных и используемой при реализации образовательных программ информации, всевозможных информационно-телекоммуникационных сетей, обеспечивающих передачу по линиям связи информации, взаимодействие обучающихся и педагогических работников. Под дистанционными образовательными технологиями понимаются образовательные технологии, реализуемые в основном с применением информационно-телекоммуникационных сетей при опосредованном (на расстоянии) взаимодействии обучающихся и педагогических работников.

Вернуться

114

Постановление Правительства РФ от 16.11.2020 № 1836 «О государственной информационной системе «Современная цифровая образовательная среда» (вместе с «Положением о государственной информационной системе «Современная цифровая образовательная среда») // СЗ РФ. 2020. № 47. Ст. 7538.

Вернуться

115

Официальный интернет-ресурс. URL: https://www.mos.ru/city/projects/mesh/ (дата обращения: 22.02.2021).

Вернуться

116

Полехин А. Искусственный интеллект в образовании: примеряем на Россию // URL: https://netology.ru/blog/06-2019-iskusstvennyy-intellekt-v-obrazovanii (дата обращения: 22.02.2021).

Вернуться

117

Указ Президента РФ от 10.10.2019 № 490 «О развитии искусственного интеллекта в Российской Федерации» (вместе с «Национальной стратегией развития искусственного интеллекта на период до 2030 года») // СЗ РФ. 2019. № 41. Ст. 5700.

Вернуться

118

Федеральный закон от 24.04.2020 № 123-ФЗ «О проведении эксперимента по установлению специального регулирования в целях создания необходимых условий для разработки и внедрения технологий искусственного интеллекта в субъекте Российской Федерации – городе федерального значения Москве и внесении изменений в статьи 6 и 10 Федерального закона «О персональных данных» // СЗ РФ. 2020. № 17. Ст. 2701.

Вернуться

119

См. об этом: Васильев А. А., Шпоппер Д., Матаева М. Х. Термин «искусственный интеллект» в российском праве: доктринальный анализ // Юрислингвистика. 2018. № 7–8.

Вернуться

120

Комментарии к Федеральному закону от 29.12.2012 № 273-ФЗ «Об образовании в Российской Федерации» (постатейный) / С. В. Барабанова, Х. В. Пешкова (Белогорцева), И. В. Баранов, А. В. Менкенов, А. Х. Селезнева и др. // Подготовлен для СПС «КонсультантПлюс», 2019 (дата обращения: 21.02.2021).

Вернуться

121

Постановление Правительства РФ от 26.12.2017 № 1642 (в ред. от 06.02.2021) «Об утверждении государственной программы Российской Федерации «Развитие образования» // СЗ РФ. 2018. № 1 (ч. II). Ст. 375.

Вернуться

122

В начальной школе России вводится обучение основам искусственного интеллекта // URL: https://news.myseldon.com/ru/news/index/244516699; Основам искусственного интеллекта будут обучать в начальной школе // URL: https://news.rambler.ru/education/45676470-osnovam-iskusstvennogo-intellekta-budut-obuchat-v-nachalnoy-shkole; В будущем году Минпросвещения начнет апробацию учебных модулей «Искусственный интеллект» // URL: https://rg.ru/2020/03/02/v-2021-godu-nachnetsia-aprobaciia-uchebnyh-modulej-iskusstvennyj-intellekt.html (дата обращения 22.02.2021).

Вернуться

123

Указ Президента РФ от 07.05.2018 № 204 «О национальных целях и стратегических задачах развития Российской Федерации на период до 2024 года» // СЗ РФ. 2018. № 20. Ст. 2817.

Вернуться

124

Четверикова О. Н. Цифровизация – финальный этап ликвидации российской школы // URL: https://regnum.ru/news/polit/2639995.html (дата обращения: 22.02.2021).

Вернуться

125

Касперская Н. И. Цифровая экономика и риски цифровой колонизации. Развернутые тезисы выступления на Парламентских слушаниях в Госдуме // URL: https://ivan4.ru/news/traditsionnye_semeynye_tsennosti/the_digital_economy_and_the_risks_of_digital_colonization_n_kasperskaya_developed_theses_of_the_spee/ (дата обращения: 22.02.2021).

Вернуться