И. Р. Бегишев, З. И. Хисамова

Искусственный интеллект и уголовный закон

Монография

ebooks@prospekt.org

Информация о книге

УДК 004.8:343

ББК 32.813:67.408

Б37

Изображение на обложке Blue Planet Studio / Shutterstoks.com

Авторы:

Бегишев И. Р., кандидат юридических наук, заслуженный юрист Республики Татарстан, старший научный сотрудник Казанского инновационного университета им. В. Г. Тимирясова (ИЭУП);

Хисамова З. И., кандидат юридических наук, начальник отделения планирования и координации научной деятельности научно-исследовательского отдела Краснодарского университета МВД России.

Рецензенты:

Ястребов О. А., доктор юридических наук, профессор, заведующий кафедрой административного и финансового права Российского университета дружбы народов;

Морхат П. М., доктор юридических наук, судья Арбитражного суда Московской области.

В монографии исследуются уголовно-правовые и криминологические аспекты использования искусственного интеллекта в преступных целях. Особое внимание уделено проблеме регулирования правосубъектности искусственного интеллекта как основополагающей в вопросе разграничения ответственности.

В исследовании нашли отражение результаты комплексного теоретико-прикладного анализа основных современных доктрин, посвященных регулированию искусственного интеллекта и робототехники. Представлены результаты сравнительно-правового анализа международного законодательства, направленного на минимизацию криминологических рисков, связанных с применением искусственного интеллекта, и тезисы ключевых повесток ведущих международных организаций.

Законодательство приведено по состоянию на 1 августа 2020 г.

Для студентов, аспирантов и преподавателей юридических вузов и факультетов, а также широкого круга читателей, интересующихся вопросами уголовно-правового регулирования искусственного интеллекта и робототехники.

УДК 004.8:343

ББК 32.813:67.408

© Бегишев И. Р., Хисамова З. И., 2021

© ООО «Проспект», 2021

ВВЕДЕНИЕ

Никола Тесла предсказывал, что в XXI веке «автоматы (роботы) возьмут на себя всю монотонную работу и займут место, которое рабский труд занимал в древней цивилизации, и тогда человечество освободится для реализации своих высших чаяний»¹.

Искусственный интеллект становится неотъемлемой частью нашей жизни. Благодаря его развитию стало возможным не только в кратчайшие сроки обрабатывать огромные объемы данных и строить на их основе точные прогнозы развития для сложных систем и явлений, но и активно решать глобальные экологические и социальные проблемы. Внедрение искусственного интеллекта дает толчок формированию качественно нового этапа развития образования, медицины, полной автоматизации рутинных операций.

Искусственный интеллект обладает потенциалом, для того чтобы ускорить обеспечение достойной жизни — в мире и процветании — для всех людей. Настало время для всех нас — правительств, отраслевых предприятий и гражданского общества — понять, как технология повлияет на наше будущее.

Антониу Гутерреш,
генеральный секретарь ООН

Искусственный интеллект (далее — ИИ) окружает нас повсюду.

На сегодняшний день наблюдается активное прикладное применение ИИ во всех предметных областях и непрекращающееся расширение его возможностей. Выделяют несколько ключевых областей развития ИИ:

— крупномасштабное машинное обучение — разработка алгоритмов обучения, а также масштабирование существующих алгоритмов для работы с очень большими наборами данных;

— глубокое обучение — модель, составленная из входных «сигналов», таких как изображение или аудио, и нескольких спрятанных слоев подмодели, которые служат входными данными для следующего слоя и в конечном счете выходными данными или функцией активации;

— обработка естественного языка — алгоритмы, которые обрабатывают ввод на человеческом языке и преобразуют его в понятные представления;

— совместные системы — модели и алгоритмы, помогающие разрабатывать автономные системы, которые могут работать совместно с другими системами и людьми;

— «компьютерное зрение» (анализ изображений) — процесс выбора релевантной информации от изображения или наборов изображений для предварительных классификации и анализа;

— алгоритмическая теория игр и вычислительный социальный выбор — системы, которые учитывают экономические и социальные аспекты ИИ;

— робототехника в приложениях (роботизированная автоматизация процессов) — автоматизация повторяющихся задач и общих процессов, таких как ИТ, обслуживание клиентов и продаж².

Искусственный интеллект поднимает важные и неотложные вопросы. ИИ уже с нами — он меняет информацию, которую мы получаем, выбор, который мы делаем, и способы функционирования нашего общества. В ближайшие годы ИИ будет играть еще большую роль в том, как работают правительства и государственные учреждения, а также в том, как граждане взаимодействуют и участвуют в демократическом процессе.

Мария Бурич,
генеральный секретарь Совета Европы

Мы живем в эпоху «больших данных», когда ежедневно обрабатывается огромный объем информации, слишком громоздкой для обработки человеком. Среднестатистический житель планеты использует ИИ намного чаще, чем думает: только 33% респондентов считают, что они используют технологию с поддержкой ИИ, в то время как 77% фактически используют услугу или устройство с ИИ³.

Для современного человека роботы и искусственный интеллект стали элементом объективной реальности, и с середины 20 века интерес к искусственному интеллекту как предмету научных дискуссий во всем мире продолжает активно расти, в особенности в Европе, Соединенных Штатах Америки (далее — США) и Китайской Народной Республике (далее — КНР)⁴. Так, в базе данных Скопус в 2018 году насчитывалось 180 221 публикаций, а количество патентов достигло 57 545 (из них российские — только 1,5%)⁵.

Аналитики по всему миру единогласно называют искусственный интеллект ключевым технологическим трендом⁶. По прогнозам, к 2020 году рынок ИИ вырастет до 5 млрд долл. США⁷ за счет применения технологий машинного обучения и распознавания естественного языка в рекламе, розничной торговле, финансах и здравоохранении⁸.

Искусственный интеллект — это будущее не только России, это будущее всего человечества. Здесь колоссальные возможности и трудно прогнозируемые сегодня угрозы. Тот, кто станет лидером в этой сфере, будет властелином мира. И очень бы не хотелось, чтобы эта монополия была сосредоточена в чьих-то конкретных руках, поэтому мы, если мы будем лидерами в этой сфере, также будем делиться этими технологиями со всем миром, как мы сегодня делимся атомными технологиями, ядерными технологиями.

Владимир Путин,
президент Российской Федерации

Стоит отметить, что несомненные плюсы внедрения ИИ, которое предполагает освобождение человечества от рутинной работы и переход к творческой деятельности, на которую машины не способны, видят не только крупные корпорации и государственные деятели, но и обычные жители: 61% из опрошенных 6 000 человек заявили, что считают, что ИИ сделает мир лучше⁹.

Искусственный интеллект компьютеров обгонит интеллект человеческий уже в ближайшие 100 лет, и когда это случится, нужно убедиться в том, что цели компьютера и человека будут совпадать, а не идти вразрез друг другу.

Стивен Хокинг,
физик-теоретик, космолог и астрофизик,
директор по научной работе
Центра теоретической космологии
Кембриджского университета

Так ли это на самом деле? Знаем ли мы, современное общество, что такое ИИ и какие риски несут в себе его создание и оборот? Сможем ли извлечь преимущества применения ИИ, избежав негативных последствий? Существуют ли регулятивные механизмы контроля ИИ, готово ли отечественное законодательство к регулированию ситуаций, когда ИИ станет участником посягательств на охраняемые законом правоотношения? И не станет ли заглавие книги Д. Баррата «Последнее изобретение человечества: Искусственный интеллект и конец эры Homo sapiens»¹⁰ пророческим?

В рамках настоящей монографии авторами предпринята попытка найти ответы на столь неоднозначные и одновременно животрепещущие вопросы.

Глава 1. ЮРИДИКО-ТЕХНОЛОГИЧЕСКИЕ АСПЕКТЫ ПОНИМАНИЯ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА

1.1. История становления и развития науки об искусственном интеллекте

Человечество с древнейших времен не покидала мысль о создании устройств или приспособлений, способных упростить жизнь. Механизировав и автоматизировав тяжелый физический труд, общество задумалось о создании машины, способной выполнять интеллектуальную (умственную) работу — сугубо человеческую прерогативу.

ИИ стал предметом различных научных направлений достаточно недавно, именно поэтому имеет место недостаточное определение его структуры, а также круга вопросов, которые с ним связаны: так, хотя предпосылки изучения ИИ и имели место уже в начале XVIII века, формирование направления относят только к середине 40—50-х гг. XX века.

Как научное направление ИИ «приобрел вес» уже после того, как окончилась Вторая мировая война. Это произошло благодаря заслугам таких ученых, как А. Тьюринг, У. Мак-Каллок и У. Питтс.

К 1950-м годам в научном сообществе появилось поколение молодых ученых, математиков и философов с концепцией ИИ, культурно ассимилированного в их умах. Одним из таких людей был А. Тьюринг, который сегодня считается основоположником ИИ. В работе «Вычислительная техника и интеллект»¹¹ А. Тьюринг выдвинул тезис, что машины так же как и люди способны использовать доступную информацию, а также разум, чтобы решать проблемы и принимать решения, кроме того, им был описан тест (впоследствии получивший имя автора), позволяющий определить, когда машины смогут сравняться с человеком¹². Указанный подход, предложенный ученым, был раскритикован философами, но методика все же предопределила прагматический подход, используемый относительно ИИ до сих пор.

В начале 40-х годов появилась возможность использовать ресурсы машинной памяти и процессорной мощности для создания интеллектуальных программ. При помощи вычислительных машин были реализованы формальные системы рассуждений, а также были проведены испытания того, на сколько они достаточны «для проявления разумности на практике»¹³. Однако идеи А. Тьюринга в середине XX века не могли быть воплощены в жизнь в полной мере в силу ряда объективных причин. До 1949 года компьютеры не имели ключевой характеристики для интеллекта: они могли только выполнять команды, а не запоминать их, кроме того, вычислительная техника была чрезвычайно дорогой, например стоимость аренды компьютера доходила до 200 000 долларов в месяц¹⁴. Только престижные университеты и крупные технологические компании могли себе их позволить. И, наконец, исследования возможностей развития ИИ¹⁵ требовали финансирования и государственной поддержки, что также было весьма непростой задачей.

Американскими учеными — нейрофизиологом и одним из основателей кибернетики У. Мак-Каллоком¹⁶ и нейролингвистом, логиком и математиком У. Питтсом¹⁷ в совместной научной работе «Логическое исчисление идей, относящихся к нервной активности»¹⁸ впервые предложена математическая модель искусственной нейронной сети¹⁹. Именно результаты указанного научного исследования заложили основы разработки ИИ и революционного представления о мозге человека как о компьютере.

Шесть лет спустя доказательство возможности создания ИИ было представлено на конференции, организованной Д. Маккарти М. Мински в Дартмутском университете. А. Ньюэллом, К. Шоу и Г. Саймоном была представлена программа «Теоретика логики» (The Logic Theorist), предназначенная для имитации навыков решения проблем человека. Большинство исследователей склонно считать указанную программу первым прототипом ИИ. Стоит отметить, что Д. Маккарти на упомянутом мероприятии было придумано понятие ИИ (англ. Artificial intelligence, AI). Среди ученых, принявших соглашение об утверждении нового названия для данной области и согласовавших вышеназванный термин, были М. Мински, К. Шеннон, Н. Рочестер и другие исследователи²⁰. Конференция в Дартмуте стала отправной точкой исследований ИИ²¹, которые на протяжении 70 лет переживали то бурный всплеск, то крайнее затишье.

...некоторые из вас, возможно, слышали о программе под названием ELIZA, которую написал в 1966 г. Джозеф Вейценбаум. Эта программа моделирует психотерапевта, который все, что бы вы ему ни сказали, возвращает вам же в виде вопросов. Вейценбаум выяснил поразительную вещь: многие люди готовы открыть этой программе душу! И иногда, если рассказать, что беседовали они с программой (причем чрезвычайно простой), они не хотят этому верить.

Скотт Ааронсон,
лауреат премии Алана Уотермана,
американский ученый,
доктор философии факультета компьютерных наук
Техасского университета в Остине,
книга «Квантовые вычисления со времен Демокрита», 2017 год

Период с 1957 по 1974 год стал эпохой расцвета изучения ИИ: увеличилась производительность, доступность и объем памяти компьютеров, значительный прогресс наблюдался в развитии алгоритмов машинного обучения. Первые прототипы ИИ в начале 60-х годов, такие как компьютерная программа «General Problem Solver», разработанная А. Ньюэллом и Г. Саймоном, и «Eliza» Д. Вайзенбаума, имели многообещающее будущее в решении ряда проблем, в особенности в части интерпретации разговорного языка²². В 1971 году корпорация Intel выпустила свой первый коммерчески доступный микропроцессор²³. Эти успехи, а также пропаганда ведущих исследователей убедили государственные учреждения, такие как Агентство передовых оборонных исследовательских проектов США, финансировать исследования в области ИИ в нескольких учреждениях. Правительство особенно было заинтересовано в механизме, который мог бы транскрибировать и переводить устную речь, а также обладал высокой производительностью в обработке данных. Оптимизм был высок, а ожидания еще выше: в 1970 году М. Мински утверждал, что в течение 3—8 лет будет создана машина с интеллектом среднего человека²⁴.

Однако в конце 70-х научное сообщество столкнулось с неожиданной проблемой недостатка вычислительных мощностей: компьютеры просто не могли хранить достаточно информации или обрабатывать ее достаточно быстро. Вплоть до середины 80-х исследования ИИ замедлились и не имели значимых результатов, пока Д. Хопфилдом и Д. Румельхартом не были популяризированы методы «глубокого обучения», ставшие возможными благодаря расширению алгоритмического инструментария и увеличению средств машинного обучения. Одновременно с ними Э. Фейгенбаум представил экспертные системы, которые имитировали процесс принятия решений экспертом-человеком. В указанный период интерес к изучению и развитию ИИ был проявлен и японским правительством: в 1982—1990 годах оно инвестировало 400 млн долларов США в проект создания «компьютера пятого поколения» с целью «революционизации компьютерной обработки, внедрения логического программирования и улучшения ИИ»²⁵.

Несмотря на то что большинство амбициозных целей создания «компьютера пятого поколения» не были достигнуты, все же можно утверждать, что проект стал новым толчком развития ИИ, продолжающимся по сей день.

На современном этапе исследования ИИ также далеки от завершения, ученые работают над задачей, связанной с возможностью имитации машинами различных аспектов деятельности человеческого интеллекта. Интерес к данной проблеме «подогревают» следующие факты: в 1997 г. Г.К. Каспарову нанесла поражение компьютерная программа «Deep Blue», а В.Б. Крамнику в 2002 г. пришлось свести вничью матч, в котором его соперником была программа «Deep Fritz».

1.2. Теоретические подходы к толкованию понятия «искусственный интеллект»

На мой взгляд, все сказанное об искусственном интеллекте можно разделить на две категории: те 70%, которые содержатся где-то в работе Тьюринга 1950 года, и еще 30%, что появились в результате полувека более поздних исследований.

Скотт Ааронсон,
лауреат премии Алана Уотермана, американский ученый,
доктор философии факультета компьютерных наук
Техасского университета в Остине,
книга «Квантовые вычисления со времен Демокрита»,
2017 год

Понятие «искусственный интеллект» постепенно входит в нашу повседневную жизнь. Научные достижения в сфере использования ИИ создали огромное количество практических разработок, упрощающих наш быт, труд и досуг. Голосовое управление, распознавание речи и символов, машинный перевод и решение задач классификации документов, цифровые сервисы и медицинские приложения — это далеко не полный перечень благ, доступных человеку вследствие развития искусственного интеллекта²⁶. Потенциал ИИ успешно реализовывается в различных сферах: в образовании, медицине, робототехнике, экономике, в особенности банковской деятельности, промышленности, сельском хозяйстве, а также человеческом быту и многих иных сферах человеческой жизнедеятельности²⁷, и ближайшие десятилетия активная фаза этих метаморфоз будет продолжаться²⁸. Увеличивающееся присутствие искусственного интеллекта в нашей повседневной жизни становится весьма объективным²⁹.

Все это приводит к различным новым ситуациям и проблемам, далеко не всегда охватываемым правовым регулированием. Между тем такое положение дел весьма существенным образом сказывается на состоянии правопорядка и правовой системы в целом. Правовая жизнь общества в этой связи тоже приобретает несколько неустойчивый и во многом неопределенный характер, влияющий тем самым на степень защищенности субъектов права, на их возможности реагировать в новых технологических условиях протекания юридического бытия и т.д.³⁰

Когда ИИ приобретет больше здравого смысла, практические устройства станут более безопасными и полезными. Например, речевые помощники, такие как Siri или Alexa, поймут вас намного лучше и смогут ответить на гораздо более широкий круг вопросов. Будущие домашние роботы сами поймут, что остатки пирога сначала нужно положить в контейнер подходящего размера, а затем — в холодильник.

Еджин Чой,
старший менеджер
Института искусственного интеллекта им. Аллена,
специалист по обучению нейронных сетей
репрезентациям здравого смысла и рассуждений

Однако вопрос определения понятия «интеллект» до сих пор носит дискуссионный характер, четко не обозначен его состав, а также главные механизмы. Исследования в области ИИ ведутся достаточно активно, однако однозначное суждение исследователей, касающееся возможности построить ИИ, способный реализовать функции интеллекта человека, отсутствует. Соответственно, открытым остается вопрос, возможна ли в принципе машинная имитация человеческого интеллекта.

Кроме того, трудность определения рассматриваемого понятия сопряжена с междисциплинарным характером рассматриваемого явления, ввиду чего в логике, психологии, лингвистике, кибернетике, дискретной математике и программировании встречается немало терминов, определяющих суть и значение ИИ³¹,³².

Проведенный нами анализ достаточно большого количества определений понятия искусственный интеллект позволил выделить несколько ключевых направлений в характеристике ИИ.

Во-первых, ИИ понимается как система, наделенная определенной совокупностью признаков, позволяющей характеризовать ее как способную имитировать интеллектуальную деятельность человека.

Во-вторых, ИИ понимается в качестве самостоятельного направления (подотрасли) или отрасли кибернетической науки.

В-третьих, ИИ воспринимается в качестве некоего набора математических алгоритмов или метапроцедур.

В проекте о прорывных технологиях будущего, проводимого под эгидой Организации Объединенных Наций (далее — ООН)³³, искусственный интеллект рассматривается в двух ракурсах. Во-первых, искусственный интеллект — «это программное обеспечение, которое демонстрирует способности к осуществлению анализа, принятию решений и обучению, сходные со способностями человека». Во-вторых, это «область информатики, которая изучает интеллектуальные объекты не только с инженерной, но и с философской и психологической точки зрения»³⁴.

Законопроект США S.2217 «Об искусственном интеллекте» 2017 года также содержит определение «искусственного интеллекта». Согласно данному документу, ИИ — это любые искусственные системы, которые выполняют задачи в различных и непредсказуемых обстоятельствах, без значительного контроля со стороны людей, или которые могут извлечь уроки из своего опыта и улучшить свою работу. Указанные системы действуют рационально и достигают свои цели через восприятие, планирование, рассуждение, обучение, общение, принятие решений и действий.

Наиболее развернутые определения искусственного интеллекта приводятся в научной литературе. Нельзя не отметить, что само понятие «искусственный интеллект» интерпретируется учеными по-разному.

Согласно одному из определений, ИИ — это наука и технология, включающая набор средств, позволяющих компьютеру на основании накопленных знаний представлять ответы на вопросы и формулировать на их основе экспертные заключения, то есть получать знания, не вкладываемые в него разработчиками³⁵.

В рамках другого определения ИИ — это математическая модель, способная к обучению, созданная по подобию человеческого мозга³⁶.

Человеческий мозг — этот изначальный источник интеллекта — дает здесь важное вдохновение. Наш мозг невероятно эффективен по сравнению с сегодняшними методами глубокого обучения. Они весят несколько фунтов и требуют около 20 ватт энергии, чего едва хватает для питания тусклой лампочки. Тем не менее они представляют собой самую мощную форму разума в известной вселенной.

Роб Тэйвс,
обозреватель AI@Forbes,
специалист по машинному обучению

Иные авторы ИИ определяют как систему, способную рационально решать сложные проблемы или принимать надлежащие действия для достижения своих целей независимо от условий³⁷. При этом не уточняется сфера применения указанных систем, область деятельности (внешний мир, информационно-телекоммуникационная сеть «Интернет», ограниченный пространственный участок территории). На наш взгляд, вряд ли обоснованно определять «искусственный интеллект» столь широко, ведь подобный уровень абстракции позволит устанавливать свойства ИИ во многих бытовых приборах, что явно не соответствует изложенной выше сущности «искусственного интеллекта»³⁸.

Ряд исследователей достаточно широко определяют «искусственный интеллект» как компьютеризированную систему, поведение которой связано с наличием разума³⁹. Так, А.Э. Евстратов и И.Ю. Гученков считают, что искусственный интеллект как сложная вычислительная система характеризуется: вариативностью при принятии решений, определенной степенью автономности при работе, а также способностью учитывать полученный от ранее принятых решений опыт и использовать его для их корректировки⁴⁰.

По мнению других, «искусственный интеллект» является системой, которая способна к решению определенных поставленных перед ней проблем и может выполнять определенные действия, чтобы решить указанные выше проблемы. При этом условия, в которых осуществляет свою деятельности «искусственный интеллект», значения не имеют.

Р. Курцвейл считает, что ИИ — это прерогатива машин, которые требуют наличия интеллектуальных способностей при их реализации человеком⁴¹. Однако в данном случае вызывает состояние неопределенности текстуальная конструкция (требуют наличия интеллектуальных способностей), поскольку любое, даже самое элементарное по своей сути действие может быть расценено как проявление интеллекта.

П.Г. Уинстон, в свою очередь, считает ИИ вычислительной машиной, которая имеет возможность «делать такие вещи, которые для людей представляются разумными»⁴², А. Эндрю, конкретизируя эту мысль, определяет «искусственный интеллект» как вычислительную машину, которая способная к «интеллектуальному поведению»⁴³.

Р. Беллманн рассматривает «искусственный интеллект» через призму понятия «автоматизация действий», в группу которых включает «принятие решений, решение задач, обучение»⁴⁴. Сходную точку зрения высказал Дж. Слэйгл, считающий, что в основе «искусственного интеллекта» лежит эвристическое программирование⁴⁵.

Широкое определение «искусственного интеллекта» предложено исследователями В.Н. Ручкиным и В.А. Фулиным. Они считают, что рассматриваемое понятие есть «совокупность метапроцедур представления знаний, рассуждений, поиска релевантной информации в среде имеющихся знаний, их пополнение, корректировка и пр., имитирующих деятельность человека. Система «искусственного интеллекта — это аппаратный информационно-программный комплекс, действие которого выступает аналогичным действию механизмов мышления личности и сходно с решениями, которые принимал бы человек-эксперт, выступающий профессионал в рассматриваемой области»⁴⁶. Указанное определение мы склонны расценивать как весьма удачное, поскольку оно довольно точно отражает особенности когнитивных механизмов человека.

Через понятие «машины» ИИ определяет также и А.В. Шилейко, считающий, что в качестве «искусственного интеллекта» может определяться некая машина, если у нее есть возможности моделировать хотя бы одну функцию, традиционно включаемую в сферу разумной деятельности»⁴⁷.

По мнению Д.В. Смолина, «искусственный интеллект» можно интерпретировать как систему, имеющую способности и возможности целеустремленно изменять (с учетом состояния информационных входов) некоторые параметры функционирования, а также способ собственного поведения, при этом на последний будет оказывать влияние текущее состояние информационных входов⁴⁸.

Л.С. Болотова определяет «искусственный интеллект» в виде искусственной компьютерной системы, способной к имитации интеллекта человека: такая система имеет возможность к получению, обработке и хранению информаций и знаний, а также способна осуществлять над ними различные действия, в совокупности являющиеся мышлением⁴⁹.

Ошибка многих разработчиков искусственного интеллекта состоит в том, что они пытаются запрограммировать компьютеры таким образом, чтобы они функционировали подобно человеческому разуму. Они хотят достичь поставленной цели, обойдя вниманием вопрос о сути разума, о том, что означает слово «понимать». Но ведь этим самым они «выплеснули с водой ребенка» — создавая мыслящие механизмы, забыли о разуме! Но все попытки создания искусственного интеллекта без учета особенностей естественного обречены на провал.

Джефф Хокинс,
нейробиолог, член национальной инженерной академии США,
специалист в области информатики,
исследователь искусственного интеллекта

и Сандра Блейксли,
научный корреспондент New York Times,
книга «Об интеллекте», 2005 год

В работах В.Н. Синельниковой и О.В Ревинского указано, что ИИ есть компьютерная программа, созданная людьми и имеющая возможность, в соответствии с заложенной в ней командной архитектурой, создавать новую информацию⁵⁰. Схожей точки зрения придерживается А.А. Щитова, понимающая под ИИ программу, обладающую таким уровнем интеллектуальности, что способна осознать себя, и способная к самостоятельному принятию решений⁵¹. В целом мы поддерживаем данные позиции, но с оговоркой, относя данные дефиниции к сущности слабого ИИ.

С учетом вышесказанного интересной представляется позиция В.С. Дороганова и М.И. Баумгартена, которые указывают следующее. По своей сущности «искусственный интеллект» представляет собой математическую модель, расположенную в определенном техническом устройстве. Указанная модель — это способная к самообучению модель нейронных связей, способных воспринимать информацию объективной реальности, обрабатывать ее и в результате этого получать новое знание, не вкладываемое разработчиками⁵², т.е. создавать подобие человеческого мозга. Резюмируя, можно сказать, что в отличие от мозга человека, имеющего биологическое происхождение, ИИ — образование кибернетическое, вследствие чего возникает необходимость разъяснения некоторых важных отличий, оказывающих влияние на способность ИИ к осознанному поведению.

Н. Нильсон считает, что «искусственный интеллект» есть деятельность, позволяющая сделать компьютеры разумными⁵³. По мнению автора, «искусственный интеллект» можно считать и антропогенным продуктом, способным к интеллектуальному поведению, и машиной, способной к выполнению таких действий, которые обычно требуют присутствие интеллекта человека⁵⁴.

Новый международный энциклопедический словарь английского языка Уэбстера включает четыре определения рассматриваемого понятия, в которых «искусственный интеллект» выступает:

— представлением о том, что машины могут быть подвергнуты такому усовершенствованию, что будут способны выполнять функции, свойственные разуму человека;

— средством, позволяющим расширить возможности интеллекта человека на основе использования компьютера;

— направлением в компьютерной науке, связанным с разработкой компьютеров, которые способны к осуществлению мыслительных процессов, свойственных человеку;

— наукой о технических способах более эффективного использования компьютеров на основе улучшенных техник программирования⁵⁵.

Также ряд подходов к определению «искусственного интеллекта» имеет место в трудах С. Рассела и П. Норвига. В рамках первого из них авторы берут за основу мышление человека, в соответствии с которым и должен создаваться, и развиваться ИИ, приобретая способность мыслить, обучаться и пр. Основой второго подхода выступает поведение человека, согласно данному подходу, «искусственный интеллект» должен быть способен к действиям, для реализации которых необходим разум. В качестве основы третьего и четвертого подходов, соответственно, выступают рациональное мышление и рациональное поведение⁵⁶.

... если компьютеры когда-нибудь научатся имитировать людей во всех наблюдаемых отношениях, то мы будем вынуждены рассматривать их как обладающие сознанием, в точности по тем же причинам, по которым мы рассматриваем окружающих нас людей как обладающих сознанием.

Скотт Ааронсон,
лауреат премии Алана Уотермана, американский ученый,
доктор философии факультета компьютерных наук
Техасского университета в Остине,
книга «Квантовые вычисления со времен Демокрита»,
2017 год

Э. Челюдакис определяет «искусственный интеллект» как совокупность систем, которые способны к восприятию окружающего мира, на основе чего могут осуществлять независимо и непредсказуемым образом ряд различных действий⁵⁷.

М. Дельво полагает, что юнитом «искусственного интеллекта» выступает некий кибернетический объект, которому свойствен указанный интеллект, который приобретает автономию через реализующие обмен с окружающей средой датчики. Указанный объект может анализировать полученные данные и оперировать ими, может самообучаться, имеет физическую поддержку, а также способен к адаптации своего поведения к окружающей среде⁵⁸.

В.Б. Наумов и Г.Г. Камалова выделяют следующие ключевые характеристики ИИ:

1) факультативность аппаратного воплощения. Технология ИИ прежде всего включает в себя программы для ЭВМ, базы данных, компьютерные алгоритмы и их модели;

2) способность системы анализировать окружающую среду;

3) наличие определенной автономности в функционировании;

4) наличие способности накопления опыта, его оценки и реализации задачи самообучения;

5) наличие «интеллектуальности», описываемой через категории «разумности», «рациональности» или способности «мыслить, как человек», или «действовать, как человек», во всех или в определенных обстоятельствах⁵⁹.

До недавнего времени в действующем российском законодательстве отсутствовало определение понятия «искусственный интеллект». Сейчас это понятие закреплено в Национальной стратегии⁶⁰ развития искусственного интеллекта на период до 2030 года и определено как комплекс технологических решений, позволяющий имитировать когнитивные функции человека (включая самообучение и поиск решений без заранее заданного алгоритма) и получать при выполнении конкретных задач результаты, сопоставимые как минимум с результатами интеллектуальной деятельности человека⁶¹.

В свою очередь, в отечественном учебнике по цифровому праву ИИ определяется как «моделируемая (искусственно воспроизводимая) интеллектуальная деятельность мышления человека»⁶².

Наряду с термином «искусственный интеллект» также употребляется понятие «искусственный сверхинтеллект». Данный термин встречается в исследованиях И. Гуда⁶³ и Н. Бострома⁶⁴. Первый ученый считает, что «искусственный сверхинтеллект» способен в несколько раз превзойти интеллект любого самого умного человека. Второй автор отмечает, что «сверхразум» является интеллектом, который значительно превосходит когнитивные возможности человека практически во всех областях. По его мнению, «коллективный сверхразум» позиционируется как интегральная система, включающая большое число интеллектов, стоящих уровнем ниже. Организация рассматриваемой интегральной системы такова, что ее производительность значительно превосходит таковую любой другой когнитивной системы⁶⁵.

Как явление ИИ интерпретируется учеными по-разному, но в классификации этого понятия достигнута определенная солидарность. Например, принято различать сильный ИИ, представляющий собой программное обеспечение, благодаря которому компьютеры могут думать так же, как и люди, а равно получать иные способности разумного существа, и слабый ИИ, который способен осуществлять единственный вид деятельности, для которого конкретно и был создан, например проводить диагностику заболевания⁶⁶.

Имеет место и более широкая классификация. Так, в отчете обсерватории киберпреступности Австралийского национального университета искусственный интеллект подразделяется на три категории: Weak AI, Medium AI и Strong AI⁶⁷.

По мнению австралийских ученых, первые два элемента вышеуказанной классификации обладают ограниченным набором функций и строго определенным назначением. Направленность их заключается в получении, накоплении и поиске информации исходя из запросов пользователя. В вышеуказанном отчете подобными разновидностями ИИ признаются многие предметы, которыми человек пользуется повсеместно (к примеру, голосовые ассистенты цифровых устройств). Разграничение между Weak AI и Medium AI построено на эффективности взаимодействия с человеком, скорости принятия решений и комфорте коммуникации⁶⁸.

Следует отметить, что существенные отличия имеет Strong AI, который обладает способностью к самообучению и автономному, осознанно-волевому поведению⁶⁹. Указанная способность, на наш взгляд, может стать важнейшим признаком, поскольку возможность самообучения предполагает самостоятельное, автономное выявление новых знаний на основе способности к восприятию, обработке, накоплению и использованию информации внешнего мира.

Наличие способности к самообучению у сильного искусственного интеллекта выделяет его среди искусственного интеллекта других уровней автономности⁷⁰.

Вышеизложенное позволяет говорить о том, что ИИ способен к поведению, не поддающемуся конструктивному прогнозированию со стороны сторонних субъектов, так как основой данного поведения являются самостоятельно сформулированные поведенческие алгоритмы.

В исследовании «Intelligent Automation Reshaping the future of work with robots» наглядно представлено поэтапное развитие искусственного интеллекта.

1. Structured data interaction (SDI) — интеллектуальная интеграция данных, когда интеграция и обмен информацией хорошо структурированы.

2. Robotic process automation (RPA) — роботизированная автоматизация процессов, основанных на системе действия с использованием сценариев.

3. Machine Learning (ML) — машинное обучение, представляющее собой обучение путем ассимиляции данных, а также с помощью анализа принятых решений.

4. Natural Language Processing (NLP) — обработка естественного языка посредством использования статистических методов и алгоритмов обучения для анализа текста с неструктурированной информацией, чтобы понять смысл, чувства и намерения.

5. Natural Language Generation (NLG) — обработка и генерация сообщений на естественном языке на основе структурированных источников.

6. Chatbots and virtual agents-чат-боты и виртуальные агенты, представляющие собой системы, которые могут интерпретировать голос/текст в свободной форме (чате), чтобы отвечать стандартными предопределенными ответами. Чат-боты могут постоянно изучать и создавать словарный запас для интерпретации неструктурированной информации, направленной на них.

7. AI-Decision Systems — системы принятия решения с искусственным интеллектом. Это системы, которые используют множество технологий, алгоритмов и моделей для решения сложных и взаимосвязанных задач, для принятия решений. Они могут быть обусловлены системами глубокого обучения и когнитивными возможностями для распознавания паттернов и применения статистических моделей и алгоритмов для принятия решений и выбора. Они также могут потенциально охватывать несколько точек принятия решений⁷¹.

В современной научной и технической литературе приводится достаточно много различных классификаций систем ИИ и возможностей их применения⁷². Однако учитывая методологию настоящего исследования, мы придерживались классификации ИИ, учитывающей прикладные аспекты современных цифровых технологий.

Следует отметить, что в исследовании компании PwC⁷³ все виды ИИ разделены на две группы в зависимости от взаимодействия с человеком в их деятельности. Так, к ИИ, взаимодействующим с людьми, принято относить специальные устойчивые системы, такие как вспомогательный интеллект, который помогает людям выполнять задачи быстрее и лучше. Устойчивые системы не способны обучаться в их взаимодействиях. В указанную группу также принято относить адаптивный (дополненный интеллект), который помогает людям принимать правильные решения и способен к самообучению во время взаимодействия с человеком.

Во вторую группу, не взаимодействующую с человеком, отнесены автоматизированный интеллект, предназначенный для автоматизации механических/когнитивных и рутинных задач. Его деятельность не связана с выполнением новых задач и находится в сфере автоматизации существующих задач. В указанную группу также относится «автономный интеллект», который по своему функционалу и возможностям превосходит все предыдущие и может представлять угрозу для человечества и общества. Такой ИИ способен адаптироваться к различным ситуациям и действовать самостоятельно без участия человека⁷⁴, совершая, например, кражу личности⁷⁵.

Таким образом, начав с поддержки действий человека, включающих в себя интеллектуальную интеграцию данных и роботизацию автоматизированных процессов, ИИ постепенно через подражание действиям человека (машинное обучение и обработка естественного языка) переходит к подражанию интеллекту человека вплоть до его полной имитации.

Интересен также вопрос, касающийся механизма принятия решения «искусственным интеллектом». Указанный механизм был обоснован М.Т. Джонсом, по мнению которого, для поиска оптимального решения ИИ первоначально воспринимает случайное текущее решение, не оценивая его эффективность, после же производит исследование первичного случайного решения, чтобы установить его эффективность для разрешения поставленной проблемы, результатом чего выступает оригинальное решение, лишенное недостатков первичного⁷⁶. Процесс принятия решения основывается на методе симуляции восстановления. Исследователь разделяет алгоритм принятия решения на пять этапов, при котором «искусственный интеллект» разрабатывает несколько альтернативно возможных решений и на основе оценки эффективности каждого из них формулирует вывод о принятии итогового решения. При этом необходимо учесть, что техническая литература не содержит указания на участие либо прикосновенность человека к деятельности «искусственного интеллекта»⁷⁷.

Обладая способностью к самообучению, ИИ может дать оценку эффективности влияния на него разработчика и в последующем принять решение о невыполнении поступающих от него команд. Подобную гипотетическую ситуацию мы приводим для того, чтобы продемонстрировать реальную возможность ИИ к осознанно-волевой автономной деятельности. Указанный аспект будет рассмотрен нами несколько позднее.

Таким образом, на сегодняшний день разработано несколько подходов к толкованию дефиниции «искусственный интеллект». Кроме того, можно также обозначить ряд аспектов, касающихся исследования рассматриваемого понятия в трудах российских и зарубежных авторов, объединив их в группы.

В частности, ряд комплексно-правовых аспектов исследуемого феномена нашел свое отражение в работах таких зарубежных исследователей, как П. Черка, Ю. Григене и Г. Сирбиките, М. Шерер, А.Т. Андреа Кастильо и пр.

Правосубъектность ИИ, правовые перспективы изучения данного вопроса нашли отражение в трудах О.А. Ястребова, Г.А. Галджиева, А.В. Нестерова, Ф.В. Ужова, Г.Г. Камаловой, В.Н. Черкасова, Д.С. Гришина, Н.С. Еманова, С.Б. Полич и пр. Также данного вопроса касались и зарубежные авторы: М. Дельво, Н. Невеньяс, Л. Соумул, П. Черка, В. Курки, Д. Робертсон, Д. Винсент и пр.

Проблемы соотнесения правового регулирования и значения термина «искусственный интеллект» в области права интеллектуальной собственности исследовались авторами: А.А. Карцихия, В.Н. Синельниковой, Н.В. Алексеевым, О.В. Ревинским, Г.А. Ахмедовым, М. Ильменским, М.М. Поповским и пр. Также интерес к данной проблеме проявляли и зарубежные авторы: Э. Кайнсер, Д. Раффо, А. Гуадамус и пр.

Исследованию возможностей, особенностей, перспектив и пределов задействования технологий посвящены труды Г.А. Гаджиева, В. Шершульского, И. Кондрашова, А. Серго и пр. Также проблема задействования технологий юнитов ИИ в деятельности экспертов-криминалистов стала предметом изучения таких отечественных авторов, как Е.В. Булгакова, И.К. Кондратьева, а также зарубежных исследователей: Д. Римас, Ф. Леви, Э. Риссланд и пр.

Исследование рисков, которые имеют связь с применением «искусственного интеллекта», проведено в работах А.В. Титова, С.Н. Зайковой, О.Ю. Лозовской, А.Н. Орехова и пр. Из зарубежных авторов интерес к рассматриваемой проблеме проявили С. Хокинг, Н. Бостром, Э. Юдковский, М. Тегмарк, Э. Пальмерини и пр.

Кроме того, в своих трудах авторы касаются ряда нравственно-эстетических аспектов и проблем разработки, производства, программирования, оборота, применения, обучения, прекращения деятельности и утилизации «искусственного интеллекта». Среди исследователей, обратившихся к данному вопросу, можно назвать Ю.Ю. Петруни, А.В. Слободскую, И.М. Александрова, а также зарубежных исследователей: С. Надела, Д. Франко, Д. Балкин и пр.

Проблемы использования возможностей «искусственного интеллекта» в военных целях раскрыты в работах как отечественных авторов (А.В. Нестерова, В.Б. Козюлина, А.В. Гребенщикова, К.Л. Сазонова, С.А. Голобоко и пр.), так и зарубежных (Э. Пфэмлэн, Д. Бирк, Ю. Мякинков, К. Андерсон, М. Уоксмэн и пр.).

При этом, несмотря на широкий спектр исследований, посвященных трактовке, различным направлениям применения, а также правовым аспектам понятия «искусственный интеллект», неисследованные горизонты данной дефиниции довольно широки. По этой причине уровень интереса к многоаспектному рассмотрению и анализу термина «искусственный интеллект» достаточно высок, что позволяет говорить о достаточно широких перспективах развития подходов к ее изучению⁷⁸.

Таким образом, можно с достаточной определенностью сказать, что существует множество способов описания ИИ: посредством указания на механизм действия, основных принципов работы, спектра решаемых задач и т.д. и т.п. Однако на наш взгляд, наиболее убедительна и последовательна позиция тех ученых, которые склонны к описанию феномена ИИ посредством обозначения его существенных свойств и ключевых характеристик (способность к рассуждению и контролю, обучению и развитию, автономности деятельности и принятия решений, соответствующих общечеловеческой морали и этике, и т.д.).

При этом все указанные признаки в той или иной степени определяют значительные затруднения прогнозирования поведения ИИ, что представляется особо значимым с точки зрения правовой науки, поскольку позволяет определять ИИ как полноценного субъекта правоотношения.

В связи с вышеизложенным, предлагаем ввести в научный оборот авторский вариант понятия «искусственный интеллект» как правовой категории, под которым следует понимать когнитивно-интеллектуальную и адаптивно-автономную систему, наделенную способностями к осознанно-волевому поведению, позволяющую имитировать деятельность нейронов и нейронных сетей человеческого мозга посредством обработки информации, поступающей из окружающей среды.

Обобщая вышеизложенное, следует резюмировать, что ИИ стал предметом научного изучения относительно недавно, именно поэтому имеет место недостаточное определение его структуры, а также круга вопросов, которые с ним связаны (хотя предпосылки изучения ИИ и имели место уже в начале XVIII века, формирование направления началось только в середине 40—50-х гг. XX века). В современный период новейшей истории необходимость создания искусственного интеллекта находится в центре внимания научного сообщества, при этом интерес к данному явлению имеет место как у специалистов технического профиля, так и гуманитарного. В течение длительного времени был предпринят ряд попыток создания самостоятельно мыслящей и действующей системы, именуемой ИИ и осуществляющей свою деятельность параллельно с человеческой сознательной деятельностью. ИИ выступает как производная от интеллекта естественного. Проблема определения ИИ часто сводилась к определению интеллекта в целом. Поиск ответов на такие вопросы, как «Интеллект — это некое монолитное формирование, или оно включает совокупность ряда способностей? Может ли ИИ быть создан? Есть ли возможность создания компьютерных машин, которым свойствен интеллект?», стал основой формирования современной теории и практики ИИ.

1.3. Робототехника и искусственный интеллект: проблемы разграничения понятийного аппарата

На сегодняшний день искусственный интеллект и робототехника, как автономные области науки, получают интенсивное параллельное развитие как в теоретическом, так и в практическом плане. Инновационные робототехнические и интеллектуальные системы имеют широкое распространение за пределами исследовательских центров. К разработкам в области робототехники и ИИ проявляют интерес государственные корпорации, представители бизнеса, по внедрению таких разработок организуются различные стартапы и пр.

Робототехника и ИИ сегодня становятся частью жизни человека, поэтому правовая оценка их природы и регламентация порядка использования стала важнейшей задачей отечественного правоведения. Однако прежде чем разграничить правовые подходы к данным категориям, необходимо сказать, что сегодня имеет место одно фундаментальное заблуждение, основанное на том, что ИИ и робототехника считаются понятиями или близкими по значению, или полностью идентичными друг другу. Это совсем не так. Попробуем доказать это, разграничив понятийный аппарат данных категорий, основываясь на технологическом и правовом подходе. Даже в техническом плане определения понятий «искусственный интеллект» и «робототехника» отличны друг от друга.

Кроме того, нужно иметь в виду, что робототехника не является синонимом искусственного интеллекта⁷⁹.

Как отмечалось нами в предыдущем параграфе настоящего исследования, на сегодняшний день отсутствует легальное определение термина «искусственный интеллект», при этом вариантов авторского толкования данного понятия в науке более дюжины. Это же относится и к категориям «робот», «робототехника», «разумный робот» и пр.

Хотим мы этого или нет, но скоро нам придется сосуществовать с автономными машинами. Уже сейчас мы тратим заметную часть времени на взаимодействие с механическими подобиями людей в видеоиграх или в виртуальных системах — от FAQbots до Siri. Кем они станут — нашими слугами, помощниками, коллегами или хозяевами?

Джон Маркофф,
американский журналист,
книга «Homo Roboticus? Люди и машины в поисках взаимопонимания», 2015 год

Обратимся к определению понятия «робототехника». В существующих сегодня исследованиях отмечено, что в широком смысле робот должен воздействовать на окружающую среду, получать от нее обратную связь и представлять собой собственно машину. При этом внешний вид робота должен быть стандартным для восприятия человеком⁸⁰.

Однако если следовать логике, то необходимо отметить, что в качестве ключевого свойства «робота» должно все же выступать кибернетическое начало, соответственно, он должен являться неким устройством или механизмом. Сегодня это один из основных критериев, позволяющих с большой долей условности разграничить роботов и, например, программное обеспечение в чистом виде. Интересно, что после К. Чапека, впервые введшего в обиход указанный термин⁸¹, единого определения понятия «робот» так и не было сформулировано.

Чтобы проанализировать семантику термина «робот», обратимся к толковым словарям. Существующие толковые словари определяют термин «робот» следующим образом:

— автомат, осуществляющий действия, подобные действиям человека⁸²;

— машина, напоминающая человека и способная автоматически копировать определенные движения и функции человека; машина, способная выполнять сложную серию действий автоматически, в частности, программируемую компьютером; человек, который ведет себя механически или бесстрастно⁸³;

— механизм, управляемый компьютером, который может перемещаться и выполнять другие действия, которые могут выполнять люди⁸⁴;

— машина, которая похожа на человека и выполняет различные сложные действия человека (как ходьба или общение); также аналогичная, но вымышленная машина, чья нехватка возможностей часто подчеркивается; устройство, которое автоматически выполняет сложные часто повторяющиеся задачи; автоматически управляемый механизм⁸⁵.

Можно сказать, что все авторы словарей, при разнообразии тех или иных характеристик, сходятся в том, что робот — это некое устройство, машина и пр.

В литературе широко представлены подходы, посвященные анализу содержания исследуемого понятия. Так, П. Хаббард выделяет ряд характеристик, свойственных непосредственно роботам. В частности, роботы должны отличаться размером, мобильностью, возможностью передачи информации, автономной реакцией на внешние действия, возможностью получать, оценивать, использовать и передавать информацию⁸⁶. По его мнению, из вышепредставленных характеристик интерес представляет только автономность, благодаря которой «робот способен интерпретировать среду, в которой находится, и адаптироваться под поставленные задачи»⁸⁷.

Авторы европейского проекта Robolaw предлагают свою классификацию исходя из особенностей роботов⁸⁸. Так, по их мнению, роботы могут классифицироваться по:

— сфере применения или выполняемым задачам;

— окружающему пространству (воздух, земля, вода и человеческое тело и пр.);

— форме воплощения (воплощенные или бестелесные);

— взаимодействию с человеком;

— автономности и пр.

Согласно точке зрения авторов исследования, проведенного под эгидой специализированного учреждения ООН по вопросам образования, науки и культуры (далее — ЮНЕСКО)⁸⁹, современный робот может быть охарактеризован посредством четырех ключевых особенностей: мобильности, интерактивности, обмена информацией и автономии.

В свою очередь, российская правовая доктрина не дает легального определения термина «робот», но попытки определить данную категорию имеют место. П.М. Морхат считает, что «робот выступает автоматическим, полностью или частично автономным системным устройством, призванным выполнять различного рода работы»⁹⁰.

В.Б. Наумов и В.В. Архипов определяют понятие «робот» как устройство, способное действовать, определять свои действия и оценивать их последствия на основе информации, поступающей из внешней среды, без полного контроля со стороны человека⁹¹.

А разве психология роботов так отличается от человеческой? — Огромная разница. — Она позволила себе холодно улыбнуться. — Прежде всего, роботы глубоко порядочны.

Айзек Азимов,
писатель-фантаст, лауреат премий «Хьюго» и «Небьюла»,
сборник рассказов «Я, робот», 1950 год

Если обратиться к исследованию Сбербанка России «Аналитический обзор мирового рынка робототехники» от 12 апреля 2018 г., то можно увидеть, что здесь робот представляет собой «любое устройство или механизм, выполняющий предназначенные ему действия, которое одновременно отвечает трем условиям: воспринимает окружающий мир с помощью сенсоров, понимает окружающий мир и строит модели поведения, воздействует на физический мир тем или иным способом»⁹².

Так как на сегодняшний день действующее законодательство не дает полноценного определения рассматриваемой категории, считаем целесообразным обратиться к ГОСТ. Р ИС. 8373-2014, который может позиционироваться сегодня как ключевой документ в части исследуемой терминологии. Данный нормативно-технический документ толкует термин «робот» как «приводной механизм, программируемый по двум и более осям, имеющий некоторую степень автономности, движущийся внутри своей рабочей среды и выполняющий задачи по предназначению»⁹³. Попытка универсализации данного определения налицо, однако некоторые уточнения все же в будущем будут необходимы.

Таким образом, можно с достаточной определенностью сказать, что каждая сфера использования налагает определенные оттенки на определение термина «робот». Однако среди ключевых характеристик робота можно выделить несколько общих, которые касаются механизма, физического начала, искусственности, наличия автономности действий, программируемости, возможности воспринимать окружающую среду, взаимодействовать с ней, наличия привода.

К необязательным характеристикам робота можно отнести способность самообучаться, телеуправление.

Понятие и содержание термина «искусственный интеллект» было детально рассмотрено нами в предыдущем параграфе, поэтому резюмируем, что ИИ свойствен ряд ключевых характеристик:

— на первом месте находится описание программы или алгоритма, аппаратное воплощение может отсутствовать в принципе;

— наличие способности проводить анализ окружающей среды;

— присутствие автономности в реализации алгоритма;

— возможность самообучаться;

— присутствие так называемой интеллектуальности (способности «мыслить» или «действовать» как человек).

Таким образом, можно сделать вывод, что в ИИ ключевая роль отводится цифровым технологиям, физическое их проявление отходится на второй план⁹⁴. В то время как в определении робота оно является основополагающим.

Проведенное разграничение понятий «робот» и «искусственный интеллект» позволяет говорить о том, что указанные категории являются не только разнообъемными, но и семантически не совпадающими.

1.4. Искусственный интеллект и робот как правовые категории

Робототехника как во всем мире, так, в частности, и в России напрямую коррелирует не только лишь с внедрением и использованием цифровых технологий в производстве, но и открывает новые возможности для распространения угроз правопорядку и национальной безопасности. Прогресс цифровых технологий на порядок стремительнее, чем реакция законодательства и превенции со стороны правоохранительных органов.

Особым преимуществом для совершения уголовно-наказуемых деяний с применением робототехники, на наш взгляд, выступает триада причин, среди которых:

— доступность робототехнических элементов, сравнительная простота и легкость использования робототехнических устройств;

— анонимность или же отсутствие физического контакта субъекта и орудия преступления — робота;

— скорость внедрения и эксплуатации робототехнических устройств.

Почему мы выделяем скорость? В ответе на этот вопрос мы, пожалуй, сошлемся на профессионала своего дела, самую «media person» в сфере робототехники — Илона Маска — основателя и главу компании Tesla и SpaceX:

«Скорость — совершенное оружие. И я имею в виду отнюдь не скорость своих машин. Речь идет о скорости роботов и скорости их создания и обновления»⁹⁵.

Трудно не согласиться с таким мнением, поскольку сейчас уже никого не впечатляют роботы — пылесосы и мойщики окон, так как на передовой план выходит создание абсолютно антропоморфных или же, с физиологической точки зрения, человекообразных роботов.

Проблема уголовно-правового регулирования отношений в сфере применения робототехники как в зарубежных странах, так и в Российской Федерации (далее — РФ) на данный момент остается неразрешенной. В связи с этим необходимо выработать комплекс мер по превенции отрицательных, общественно опасных проявлений применения робототехники и норм, регламентирующих государственное реагирование на них.

Исходя из вышеизложенного, считаем необходимым ответить на вопрос: имеются ли механизмы правового регулирования робототехники? Для чего проанализируем попытки законодательного урегулирования вопросов робототехники.

Писатели-фантасты и различные ученые еще с прошлого века осуществляли попытки «прописать законы деятельности» робототехники. Наиболее известными из них являются А. Азимов со своими «тремя законами робототехники»⁹⁶, один из руководителей всемирно известной компании Microsoft — С. Наделла и его «десять законов искусственного интеллекта»⁹⁷ и, собственно, К. Чапек — создатель слова «робот»⁹⁸. С точки зрения последнего, например, взаимоотношения человечества и робототехники должны будут регулироваться некой международной судебной организацией, в равной степени признающей субъектом права и робота, и человека.

Мы создали думающие машины, а надо было — чувствующие!

Александр Вяземка, книга «Плато»

Их идеи, многие из которых дискуссионные, очень важны для понимания проблемы, однако не получили юридического развития. А социальная действительность, в частности, и сфера робототехники, нуждается в регулировании, в том числе уголовно-правовом.

Предпринимались также попытки саморегулирования со стороны ученых, которые непосредственно связаны с созданием робототехники. Так, в 2017 году, когда уже стало очевидно, что вопрос требует нормативно-правового регулирования, почти четырьмя тысячами ученых в данной области были подписаны так называемые Азиломарские принципы⁹⁹ Международного института будущих поколений¹⁰⁰.

В том же году сразу в четырех государствах появляются законопроекты, посвященные рассматриваемой проблематике. Лидерами стали РФ, КНР, Федеративная Республика Германия (далее — ФРГ) и Республика Эстония. Последняя, на наш взгляд, весьма поспешно решила стать пионером в данной области и получила горький опыт, легализовав правила «О передвижении роботов-курьеров»¹⁰¹. В итоге довольно скоро прибалтийским полицейским пришлось выявлять и пресекать деятельность роботов-наркокурьеров.

Среди международных организаций первым, в начале 2018 года, к разработке проекта «О робототехнике и искусственном интеллекте» приступил совещательный орган Европейского Союза (далее — ЕС. — Европейский парламент (далее — ЕП), который уже через пару месяцев принял соответствующую Резолюцию¹⁰².

Наиболее же интересным с правотворческой и правоприменительной точки зрения для РФ, пусть и с определенными оговорками, выступают две инициативы в данной сфере. Во-первых, это проект федерального закона, подготовленный Д.С. Гришиным, основателем Grishin Robotics, одним из руководителей компании Mail.Ru Group¹⁰³, во-вторых, это «Модельная конвенция о робототехнике и искусственном интеллекте» от «Исследовательского центра проблем регулирования робототехники и ИИ»¹⁰⁴. Основой данных разработок были сформулированные еще в прошлом веке три «закона — принципа» робототехники А. Азимова:

«1. Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред;

2. Робот должен повиноваться всем приказам, которые дает человек, кроме тех случаев, когда эти приказы противоречат Первому закону;

3. Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому или Второму законам»¹⁰⁵.

Исходя из анализа данных предложений, мы видим, что их авторы предлагают следующее — создание на базе трех названных правил новых регулятивных норм, касающихся взаимодействия роботов и робототехники с другими объектами и субъектами.

В.Б. Наумов и В.В. Архипов, рассуждая о природе ИИ, сравнивают последний с животными. При этом авторы резюмируют, что в отличие от животных, ИИ способен совершать самостоятельные действия, чреватые причинением значительного ущерба. В качестве решения вопроса о возмещении причиненного ИИ вреда, авторы считают целесообразным создание Единого государственного реестра робототехники, применение норм юридической ответственности к владельцу ИИ как владельцу источника повышенной опасности и (или) пользователю источника повышенной опасности в случае деликта от робототехники. Однако при этом дискуссионным является вопрос, по какому критерию будет относиться та или иная робототехника к источникам повышенной опасности.

Весьма интересным и необходимым в контексте настоящего исследования является рассмотрение ИИ и робота с точки зрения права.

Достаточно давно ведется дискуссия о присвоении роботам правового статуса «электронных лиц»¹⁰⁶, о признании полноценным киберсубъектом общества¹⁰⁷, о возможности наделения правосубъектностью виртуальных лиц¹⁰⁸, о наделении той или иной системы статусом субъекта права¹⁰⁹, о признании системы искусственного интеллекта в качестве субъекта авторских и патентных прав¹¹⁰ и обсуждается вопрос придания конструкции юридического лица роботу или ИИ.

В пп. f п. 59 резолюции ЕП отмечается необходимость исследования вопроса о придании особого правового статуса роботам. В документе указано, что «таким образом, по меньшей мере наиболее продвинутые автономные роботы могут создаваться как электронные лица и нести ответственность за причиненный ими ущерб в тех случаях, когда они принимают решения автономно или иным образом самостоятельно взаимодействуют с третьими лицами»¹¹¹.

Поскольку вопрос о самостоятельности робота как субъекта права преждевременен, в резолюции ЕП отмечается возможность применения к деликтным отношениям с участием роботов двух юридических конструкций ответственности:

— производителя за неисправности робота (за его качество и безопасность);

— пользователя робота за вредоносные действия робота, повлекшие за собой причинение вреда¹¹².

При этом в акте ЕП подчеркивается недостаточность вышеуказанных правил в том случае, если вред наступил вследствие действий и решений робота и при отсутствии вины и причинно-следственной связи действий человека и наступившего вреда. Не предрешая окончательные юридические решения в этом вопросе, ЕП наметил целый ряд направлений развития законодательства в части ответственности за действия умных роботов¹¹³.

В перспективе ЕП предлагает рассмотреть вопрос о наделении роботов самостоятельным правовым статусом для тех случаев, когда роботы как электронные лица принимают решения автономно¹¹⁴.

Среди примеров, касающихся признания роботов в качестве субъектов права, можно указать исследование эстонских специалистов, специализирующихся на роботизированных транспортных средствах¹¹⁵. По мнению авторов исследования, было бы возможным наделить робота статусом юридического лица, способного представлять владельца в той степени, в которой это определено.

Причем при рассмотрении вопроса о введении нового юридического лица в правовую систему законодатели должны учитывать права уже существующих субъектов¹¹⁶, поскольку на данный момент не существует объективных критериев для признания или отказа в признании чего-либо субъектом права¹¹⁷.

А.Р. Атабеков и О.А. Ястребов в работе по исследованию текущего правового регулирования искусственного интеллекта в разных странах пришли к выводу, что следует сделать особый упор на перспективу рассмотрения ИИ как автономного юридического лица, отдельного субъекта права и контроля¹¹⁸.

Среди примеров наделения робота правовым статусом можно назвать предоставление в 2017 году роботу Sophia гражданства в Королевстве Саудовской Аравии (далее — КСА)¹¹⁹ и предоставление резидентства умному боту Shibuya Mirai в Японии¹²⁰. Однако указанные случаи — это, скорее, исключение, нежели правило или тенденция в рассматриваемой области.

Также в литературе имеется позиция, согласно которой правосубъектностью могут наделяться не все роботы, а роботы-агенты¹²¹.

В период достижения определенных успехов в области робототехники и систем с ИИ возникла необходимость определения правового режима или статуса для указанных выше категорий¹²².

Так, еще в 1983 году М. Уилликом был отмечено, что «…становится все сложнее отличить обработку информации компьютером от обработки информации человеком, если оценивать по конечному результату» и что «увеличивающееся сходство между людьми и машинами может рано или поздно потребовать рассмотрения компьютеров как «лиц»¹²³.

Как только технологии позволят нам реконструировать человеческий мозг, Homo Sapiens исчезнет, история человечества закончится и начнется абсолютно новый, недоступный нашему с вами пониманию процесс.

Юваль Ной Харари,
военный историк-медиевист,
профессор исторического факультета
Еврейского университета в Иерусалиме,
книга «Sapiens: Краткая история человечества», 2011 год

В то же время сложность в определении правового статуса обусловлена тем, что роботы с системой искусственного интеллекта обладают как признаками объекта, так признаками и субъекта права, поэтому точно отнести данную технологию к объекту или субъекту пока не представляется возможным¹²⁴.

В более поздней публикации Э. Байамлиоглы Intelligent Agents and Their Legal Status указывает на три основных проблемы, которые предшествуют дискуссии о правосубъектности роботов и ИИ.

Выделяя понятие «умные агенты», автор подчеркивает, что им свойственны следующие особенности:

— они могут исполнять переговорные функции при заключении договоров;

— они могут нести ответственность за свои действия в рамках выполняемых ими функций;

— они могут выступать в качестве «правообладателей» относительно созданных ими баз данных и контента¹²⁵.

Однако обращаясь к вышесказанному, можно заключить, что все упомянутое свойственно, в большей степени, ИИ, который, в отличие от роботов, обладает «интеллектуальностью».

Соответственно, можно сделать вывод, что статус юридического лица здесь более применим к категории «искусственный интеллект».

Если рассматривать наиболее современные исследования, необходимо проанализировать труды П. Асаро¹²⁶, являющегося ключевым исследователем рассматриваемой проблематики. Он выстраивает методологию анализа проблемы правосубъектности роботов, считая отправной точкой проблему юридической ответственности. Асаро предлагает провести параллель между роботами и животными, однако не наделять первых специальными правами и т.п. При этом следует отметить, что в своем труде автор, как и некоторые предыдущие исследователи, также смешивает понятия «робот» и «искусственный интеллект», выдавая свойства последнего за свойства первого.

Ряд экспертных подходов принят на сегодня в Европе и оформлен в виде резолюции ЕП от 16 февраля 2017 г. с рекомендациями Комиссии о гражданско-правовых нормах в отношении робототехники (2015/2103(INL))¹²⁷. В данной резолюции также рассматривается вопрос наделения правами юридического лица именно роботов, но не ИИ. Отмечается, что «благодаря впечатляющим технологическим прорывам последней декады, современные роботы не только могут осуществлять деятельность, которую ранее осуществлял только человек, но развивают определенные автономные и когнитивные функции — например, возможность обучаться за счет опыта и принимать квазисамостоятельные решения — что делает их все больше и больше похожими на агентов, которые взаимодействуют со своей окружающей средой и могут ее существенно изменить…»¹²⁸.

Ты всего лишь машина. Только имитация жизни. Робот сочинит симфонию? Робот превратит кусок холста в шедевр искусства?

— А Вы?

Диалог с роботом Санни,
художественный фильм «Я, робот»,
режиссер Алекс Пройас, 2004 год

Вместе с тем, некоторые европейские ученые ведут речь о правосубъектности именно ИИ. В частности, обобщая и анализируя подходы к проблеме «электронного лица» М.А. Фелипе отмечает, что самостоятельной ответственностью могут быть наделены только «самоосознающие» машины¹²⁹. «Реактивные машины» и «машины с ограниченной памятью и машины с имплементацией систем мышления» не могут быть наделены такой ответственностью, вместо них ее несут пользователи, разработчики или страховщики. Т. есть именно вопросы ответственности могут выступить в качестве отправной точкой для многих выводов в рамках общей дискуссии, касающейся правосубъектности роботов.

В российской правовой науке на сегодняшний день нет единой доктринальной позиции относительно правосубъектности роботов. Обобщение имеющих сегодня в науке и в праве позиций, позволяет выделить следующие ключевые особенности:

— соотнесение механизма формирования гражданско-правовой воли и динамики алгоритма, который определяет действия робота;

— частичное допущение возможности применить концепцию признаков юридической ответственности к роботам;

— адаптация признаков юридического лица к роботам;

— избирательное применение концепции вины к действиям, которые предполагают создание и программирование роботов¹³⁰.

В результате обобщения указанных подходов можно обозначить следующее. В ряде исследований рассматриваемая проблема исследуется с различных позиций.

Так, некоторые ученые считают, что для положительного решения рассматриваемой проблемы нет достаточных научно-правовых предпосылок.

Другие исследователи считают, что данную проблему нужно исследовать как можно раньше и предлагают рассматривать робота в качестве квазисубъекта права¹³¹ («как бы субъектами права»¹³²), проводя аналогию с юридическим лицом.

Существующие подходы к наделению робота правами юридического лица имеют как преимущества, так и недостатки. Так, у подхода, при котором роботы и ИИ продолжают рассматриваться как объекты права, есть преимущества:

— нет необходимости разрабатывать и создавать принципиально новые нормы;

— модифицировать правовые нормы можно через толкование существующих норм.

Однако среди недостатков следует указать то, что не будут разрешены проблемы распределения ответственности, сложно будет достигнуть единообразия и формализации, а также у указанных норм изначально отсутствует возможность регулировать и разрешать сложные ситуации и конфликты, связанные с использованием роботов и ИИ.

В первую очередь открытым остается вопрос, кто должен нести ответственность за действия ИИ, обладающего способностью к самообучению, который принял решение о совершении действий/бездействия, квалифицируемых как преступление.

Вследствие этого возникает потребность в формировании системы уголовно-правовых мер противодействия преступлениям, совершаемым с применением ИИ¹³³, что позволит решить уголовно-правовые проблемы, связанные с использованием искусственного интеллекта¹³⁴. Аналогичным вопросом задается А.Г. Кибальник, рассуждая о реагировании уголовной политики на подобные тенденции¹³⁵.

В условиях цифровизации уголовное право следует рассматривать в качестве действенного средства осуществления политики государства в системе отношений человек — искусственный интеллект. При этом важно понимать, что уголовное право призвано сохранять структурно-функциональную устойчивость общества, путем обеспечения его безопасности¹³⁶.

Отметим, что изучение юридических аспектов, связанных с общественно опасными последствиями применения ИИ, представляет собой самостоятельный пласт серьезных и достаточно глубоких уголовно-правовых исследований, чему посвящена третья глава нашего исследования.

Другие концепции («каждый»¹³⁷, «антропоморфное тело»¹³⁸, «робот как электронная личность»¹³⁹, «робот как животное»¹⁴⁰, «робот как человек»¹⁴¹, «робот как юридическое лицо»¹⁴², «робот как электронное лицо»¹⁴³) также имеют ряд недостатков, среди которых — усложнение правового регулирования, проблемы с переосмыслением базовых ценностей общества, попытка уйти от ответственности посредством «замены объекта» и пр.

К тому же ИИ создает новые вызовы различным сферам права: от патентного до уголовного права, от охраны частной жизни до антимонопольного права. Среди существующих на сегодняшний день подходов наиболее оптимальным видится создание отдельного механизма правового регулирования, создающего четкое разграничение зон ответственности между разработчиками и пользователями систем с ИИ и непосредственно самой цифровой технологией.

Таким образом, можно заключить следующее:

1. Вопрос, касающийся рассмотрения роботов и ИИ в качестве субъектов права, можно признать актуальным.

2. Среди имеющихся на данный момент подходов к рассмотрению роботов и ИИ как субъектов права наиболее обоснованной является парадигма, построенная на аналогии с юридическим лицом.

3. Подходы, которые предлагают обосновать правосубъектность роботов и ИИ с учетом сущности одушевленных субъектов, у которых есть реальная, а не только формально-юридическая воля, получат развитие только после того, как развитие цифровых технологий достигнет объективно высокого уровня.

Таким образом, проанализировав понятийный аппарат терминов «робототехника» и «искусственный интеллект», можно заключить, что в отличие от первого второму свойственно наличие «интеллектуальности», саморазвития и пр. Однако дискутируя относительно правового статуса роботов и ИИ, большинство авторов допускают смешение понятий, предпринимая попытки обосновать необходимость наделения правовым статусом именно роботов, а не ИИ. Следует поддержать М.А. Лапину, «что в силу существенного расхождения в терминологии и разновидностях искусственного интеллекта, роботов и объектов робототехники необходимо идти по пути разработки лишь основных принципов правового регулирования, применимых ко всем видам искусственного интеллекта и объектам робототехники. Развитие правового регулирования отдельных разновидностей искусственного интеллекта и роботов должно конкретизироваться при помощи технического нормирования, поскольку необходима разработка разных правил для различных классов устройств» ¹⁴⁴.

Реализуя рассматриваемые подходы, необходимо учесть наличие юридико-экономической обоснованности и социальной обусловленности, а также возможную теоретико-правовую проблему, суть которой в следующем: если ввести новые юридические сущности, имеющие правосубъектность, то может снизиться уровень ответственности профессиональных участников рынка.

Поэтому наше отношение к автономным системам, будь то роботы или что-то другое, наше переосмысление их роли в обществе и положения среди нас, может иметь трансформационный эффект. Правосубъектность определяет то, что важно для общества, и позволяет решить, является ли «что-то» ценным и надлежащим объектом для обладания правами и обязанностями¹⁴⁵.

Высокие перспективы наделения правовым статусом ИИ предполагают необходимость регулярного мониторинга уровня развития цифровых технологий и экономических отношений. При этом, необходимо оценивать актуальный уровень технологического развития, а также юридико-экономический риск наделения ИИ или роботов правосубъектностью.

Результатом мониторинга может стать разработка формально-юридической конструкции правосубъектности роботов или ИИ, если это будет допустимо с позиции существующей правовой ситуации и уровня развития науки и техники.

Глава 2. ПОДХОДЫ К ПРАВОВОМУ РЕГУЛИРОВАНИЮ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА В МИРЕ

Как верно отмечают Р. Ибрагимов и Е. Сурагина, все принципы регулирования создания программ (включая роботов) так или иначе подчинены двум глобальным целям:

«1) обеспечить защиту человека, его прав и основных свобод, а также защиту общества, государства и человечества;

2) способствовать развитию технического прогресса в области новейших информационных технологий и робототехники в той мере, в которой это не противоречит достижению первой цели»¹⁴⁶.

Правовое регулирование представляет собой целенаправленное нормативно-организационное опосредование общественных отношений государством, осуществляемое при помощи целостной системы средств, обеспечивающих достижение необходимых целей (результатов)¹⁴⁷.

Применительно к ИИ следует отметить, что запрос на правовое регулирование обусловлен как наличием отраслевых правовых проблем в действующем правовом поле, мешающим развитию технологий, так и стремлением активизировать процесс внедрения технологий в рамках цифровой экономики, что обусловливает необходимость создания соответствующих регулятивных механизмов¹⁴⁸.

Искусственный интеллект окажет влияние на наши общества, о котором мы даже не догадываемся. Утверждается, что алгоритмы способны определять лучших кандидатов на работу, помогать врачам устанавливать медицинские диагнозы или помогать юристам в судах. Все это не совсем ново, поскольку уже в 1980-х годах экспертные системы помогали людям с высоким уровнем знаний. Новым сегодня является то, что компьютеры все чаще могут выполнять чрезвычайно сложные задачи независимо, но их разработчики иногда больше не понимают, как, что произошло в «черном ящике» глубокого обучения.

Следовательно, нам явно необходимо регулирование, чтобы предоставить людям право принимать важные решения, а не математическим моделям, адекватность и предвзятость которых не контролируются.

Ян Клейссен,
директор Управления информационного общества
и действий против преступности
Совета Европы

Уже сейчас активно создается правовая основа для регулирования деятельности с использованием робототехники и инструментов искусственного интеллекта, которая будет дорабатываться и усовершенствоваться в среднесрочной перспективе¹⁴⁹.

На сегодняшний день развитие правовой основы для существования ИИ условно можно разделить на два подхода:

— создание правовой основы для внедрения прикладных систем с ИИ и стимулирования их развития;

— регулирование сферы создания искусственного «суперинтеллекта», в частности, соответствия разрабатываемых технологий общепризнанным стандартам в области этики и права.

По мнению О.Н. Толочко, совершенствование законодательства должно осуществляться по трем направлениям:

— стимулирование процесса создания инновационных технологий искусственного интеллекта;

— правовая охрана технологий искусственного интеллекта и создаваемых с их помощью продуктов как объектов интеллектуальной собственности;

— ответственность за решения и действия, предпринимаемые с использованием технологий искусственного интеллекта¹⁵⁰.

Совершенствование законодательства должно носить комплексный характер и осуществляться поэтапно¹⁵¹.

В любом случае обеспечение баланса интересов — одна из главных задач формирования законодательства в сфере искусственного интеллекта и робототехники¹⁵².

Анализ законодательных инициатив различных стран мира свидетельствует о постановке задач государствами как по решению отдельных, наиболее актуальных вопросов, связанных с применением искусственного интеллекта и робототехники, так и по глобальному определению перспектив системного анализа и регулирования использования искусственного интеллекта в различных сферах общественной жизни, а также обеспечения системы безопасности личности, общества и государства от возможных угроз выхода искусственного интеллекта из-под контроля человека¹⁵³.

В целом, в целях оптимального правового регулирования использования искусственного интеллекта разработчики, исследователи и лица, финансирующие исследования в сфере искусственного интеллекта, а также в смежных областях, должны исходить из презумпции опасности искусственного интеллекта, подразумевая, что созданная или создаваемая технология искусственного интеллекта является опасной для человека, пока не доказано иного¹⁵⁴.

Справедливости ради стоит отметить, что современный уровень развития машинных систем ИИ не ставит остро проблему «сдерживания» ИИ как потенциальной угрозы человечеству. Вместе с тем наличие экзистенциальных рисков столь стремительного развития ИИ вполне очевидно. Искусственный «сверхинтеллект» или «суперинтеллект» может появиться довольно скоро. «Суперинтеллект будет построен на аналогии между распознаванием существующими системами искусственного интеллекта и мышления человека, он будет представлять собой имитацию человеческой мыслительной деятельности, вполне плодотворной и эффективной, способной решать проблемы выявления структур знания, что позволит осуществить создание новой модели: невербальной формы знания и интуиции, присущей человеку»¹⁵⁵.

А.В. Незнамовым подходы в правовом регулировании предлагается разделить на 4 уровня в зависимости от сферы регулирования:

1) частная инициатива и исследовательские институты;

2) саморегулирование в отрасли;

3) национальное регулирование;

4) наднациональное регулирование.

Положительно оценивая указанную инициативу, отметим, что, на наш взгляд, целесообразно выделять 3 уровня, объединив частную (экспертную) инициативу и саморегулирование¹⁵⁶.

Вместе с тем в рамках настоящей работы основное внимание уделяется наднациональному и национальному регулированию, как основным движущим силам, определяющим развитие отрасли в целом.

2.1. Саморегулирование отрасли развития и применения искусственного интеллекта в мире

Для обучения систем с ИИ используется огромный массив данных, сбор которых возможен только при помощи технологий сбора и обработки данных, поэтому на взаимосвязи между искусственным интеллектом и данными приходится почти 100 %. Главный вопрос сегодня: как использовать максимум данных с минимальными рисками?

Технологии и их развитие — давно уже не просто цель регулирования, они — самостоятельный актор, «провоцирующий» новые формы и расширяющий возможности регуляции, обогащающий юридический инструментарий¹⁵⁷.

Технологии ИИ могут анализировать огромные объемы данных и находить сложные и глубоко скрытые взаимосвязи. Однако на сегодняшний день остается много вопросов об этичности использования данных, в том числе персональных, для обучения технологий с ИИ, применяемых в бизнесе.

Этические проблемы, связанные с использованием ИИ, можно разделить на 3 группы:

1) проблемы, связанные со сбором, анализом и обработкой цифровых данных;

2) проблемы, связанные с принятием решений ИИ на основе обобщенных данных;

3) проблема создания сверхинтеллекта, неподконтрольного человечеству и принимающего решения вразрез общечеловеческой этике и морали.

Этические трудности вызваны прежде всего сбором, анализом и обработкой цифровых данных граждан, больших данных, социальных и личных данных.

Этика данных развивается и становится все более актуальной, о чем свидетельствуют соответствующие документы как общественных объединений, так и международных организаций. Определение границ этического доступа к данным является сложной проблемой, которая затрагивает различные заинтересованные стороны: граждан, государство, бизнес-корпорации, государственные учреждения и т. д. и требует комплексного решения¹⁵⁸.

Этика данных как своего рода прикладная этика появилась сравнительно недавно и пока не имеет общепринятого определения. Этика данных - это новая ветвь прикладной этики, которая описывает ценностные суждения и подходы, которые мы используем при генерировании, анализе и распространении данных. Она включает в себя глубокое знание законодательства о защите данных и другого соответствующего законодательства, а также надлежащее использование новых технологий, что требует целостного подхода в применении передовой практики в области вычислительной техники, этики и обеспечения информации¹⁵⁹.

Благодаря сбору и анализу больших данных с использованием ИИ, технологические гиганты способны выстраивать корреляции, которые сами люди еще не могут определить¹⁶⁰.

В этой связи возникает также вопрос о сохранении баланса между обеспечением права на защиту персональных данных¹⁶¹ и интересами науки, бизнеса и общества в целом, заинтересованном в широком применении технологий с ИИ. В ряде стран на сегодняшний день наблюдается ожесточенная полемика между использованием правительственными (и не только) организациями персональных данных граждан для обеспечения общественной безопасности, обучения систем с ИИ и обеспечением права на неприкосновенность частной жизни.

По мнению ряда экспертов, тотальная слежка вызывает больше опасений, чем все против чего она должна была бы защищать нас. Ставятся вопросы об этичноcти использования систем с ИИ для контроля за социально одобряемым поведением. Например, правительство КНР использует ИИ для создания социального рейтинга, при этом используется вся информация о пользователе в сети: его поведение, покупки, кредитная история, передвижения, круг общения, интересы.

Основу Европейского законодательства с 2018 года составляет Общий регламент по защите данных (GDPR)¹⁶². Основная цель принятия регламента — это создание в обществе правового режима, в рамках которого любой гражданин может быть уверен в конфиденциальности его персональных данных, в том числе иметь возможность реагировать на случаи использования его персональных данных без согласия — удалять размещенную информацию.

Вместе с тем, даже несмотря на принимаемые меры, в сети остается большое количество информации, которое при необходимой степени обработки, позволяет идентифицировать человека. Так, используя ПК, смартфоны с мобильными приложениями большинство без раздумья дает согласие на использование смартфоном данных о геопозиции, доступ к телефонной книге и звонкам, к поисковым запросам и истории поиска, к фотоабольмам и пр. И тезис о том, что наши данные стали продуктом, стал как никогда актуальным. Львиная доля наиболее технологических компаний мира пользуются бизнес-моделью, в основе которой лежит сбор и обработка персональных данных пользователей. И здесь на повестку дня встает вопрос об этичности не только сбора такой информации, но и их использования.

Так, вторая проблема связана с этикой и гуманностью решений ИИ.

При отсутствии глобальных вызовов и катастроф технологии будут развиваться гармонично: люди будут контролировать применение искусственного интеллекта в оборонной сфере и с осторожностью проводить генетические эксперименты. Но если возникнет глобальный кризис, человечество пойдет на отчаянные и рискованные меры.

Юваль Ной Харари,
военный историк-медиевист,
профессор исторического факультета
Еврейского университета в Иерусалиме,
книга «Sapiens: Краткая история человечества», 2011 год

Системы с ИИ, способные к обучению, проходят через тренировочную фазу, где они «учатся» обнаруживать правильные паттерны и действовать согласно введенным данным. Как только система полностью натренирована, она может перейти в тестовую фазу, где ей будут давать различные примеры и смотреть, как она с ними справляется.

Вместе с тем опыт последних лет показывает, что тренировок недостаточно, к тому же, несмотря на отсутствие у систем с ИИ чувств и эмоций, их нельзя признать беспристрастными и этичными по ряду причин.

Во-первых, само понятие этичности является весьма условным и может значительно отличаться в рамках одного общества и поколения, не говоря уже более длительных временных промежутках.

Во-вторых, уровень «предвзятости, чистоты и релевантности» используемых для обучения ИИ данных. Представляется крайне маловероятным, даже невероятным, найти в обществе достаточно большую группу людей с нулевым уровнем предвзятости, для возможности использования их данных для обучения ИИ. В результате мы имеем случаи дискриминации ИИ людей по расовому или половому признаку. Несомненно, программисты и крупные компании стараются немедленно устранить такие проявления «расизма, шовинизма или ксенофобии ИИ».

Доверяя решение важных вопросов тем или иным математическим моделям, мы можем пострадать от ошибок, допущенных при их разработке.

Сергей Марков,
автор одной из сильнейших
российских шахматных программ,
специалист по методам машинного обучения,
сотрудник Центрального Аппарата Сбербанка

Возможно, машина, которая способна к самообучению будет использовать неэтичные и аморальные данные при обучении. Не факт, что она не будет это реализовать в повседневной жизни человека, и делать не принятые в том или ином обществе вещи, которые допускаются, скажем так, в иных сообществах людей¹⁶³.

В своем исследовании PwC рассказали о том, как подготовить данные для обучения ИИ, извлечь из технологии максимальную прибыль и не потерять доверие клиентов. По мнению аналитиков, лучшая основа для внедрения ИИ — это центр компетенций по искусственному интеллекту. Представители бизнеса и IT должны: разрабатывать единые регламенты по работе с данными для всей корпорации и следить за их соблюдением; определять технические стандарты взаимоотношений с поставщиками; управлять объектами интеллектуальной собственности¹⁶⁴; оценивать уровень внедрения искусственного интеллекта. Все задачи по обучению искусственного интеллекта должен решать центр компетенций по ИИ¹⁶⁵. Однако стремительное развитие и использование технологий с ИИ делает такой контроль практически невозможным.

В указанных условиях перед экспертным сообществом возникла необходимость создания определенных границ и пределов для разработчиков и эксплуататоров ИИ, что стало катализатором становления саморегулирования отрасли.

Этические риски и проблемы, связанные с созданием сверхинтеллекта, неподконтрольного человечеству и принимающего решения вразрез общечеловеческой этике и морали, будут рассмотрены нами в рамках третьей главы настоящего исследования.

Экспертное сообщество в своем роде стало первым инициатором разработки определенных рамок для регулирования быстро растущей отрасли. Первые инициативы появились еще в 2001 году, когда Японской ассоциацией робототехники (Japan Robotics Association, JARA) был подготовлен краткий отчет для разработки правительственной программы «Робототехническое общество в ХХI веке»¹⁶⁶. Примечательно, что в данном документе были определены ключевые направления деятельности для вендорных компаний, непосредственно разработчиков ИИ, правительственных и государственных органов управления, а также научно-исследовательских организаций.

В 2017 году разработчиками и исследователями в сфере ИИ были приняты Азиломарские принципы искусственного интеллекта.

Принятие Азиломарских принципов искусственного интеллекта в январе 2017 года на конференции в Азиломаре, США (2017 Asilomar conference)¹⁶⁷ стало первым и весьма значимым шагом ответственного подхода человечества к разработке ИИ и робототехники (см. Приложение № 4).

В числе ключевых позиций данного документа следует отметить:

— принцип «полезного» финансирования, подразумевающего вливание инвестиций в проведение исследований по обеспечению полезного использования ИИ в поисках ответа на наиболее острые проблемы;

— принцип «связи науки и политики», предусматривающий конструктивное и полезное взаимодействие между исследователями в сфере ИИ и теми, кто принимает решения о регулировании ИИ;

— принцип «безопасности» и «прозрачности неудач», а также программирование ИИ на основе общечеловеческих принципов морали;

— этический принцип «человеческих ценностей», провозглашающий необходимость учета общечеловеческих идеалов и принципов, прав и свобод, многообразия культур при создании систем с ИИ.

Отдельным направлением выделены риски, которые влечет в себе создание ИИ и меры по их ограничению:

Так, разработчики систем ИИ играют ключевую роль в формировании нравственных последствий использования ИИ, неправильного использования ИИ и действий ИИ; они имеют возможностью и несут обязанность влиять на такие последствия. Вместе с тем, в Принципах провозглашается антропоцентристкий подход — «люди должны сами выбирать, как использовать системы ИИ для достижения своих целей, и использовать ли их для этого вообще».

Особое внимание уделяется также конфиденциальности личных данных и обеспечению базовых прав человечества и общества.

В долгосрочной перспективе провозглашен принцип разработки «суперинтеллекта» только под бдительным наблюдением, только для служения широко разделяемым этическим идеалам и на благо всего человечества, а также необходимость минимизации возможных рисков систем с ИИ еще на стадии прогнозирования.

Примечательно, что под Принципами поставили свои подписи не только ученые, озабоченные проблемами этики и морали, например, С. Хокинг и Р. Курцвейл, но и эксперты в сфере IT, а также крупнейшие IT-предприниматели, такие как И. Маск и Б. Гейтс, чьи компании активно инвестируют в разработку и развитие ИИ.

Наша свобода в технологических инновациях очень ценна — даже важна — для человечества. Это накладывает несколько императивов по части предложения мер предосторожности: проводить оценку рисков и возможностей в соответствии с имеющейся наукой, а не опираться на популярное восприятие. Учитывать, с одной стороны, стоимость самих ограничений, и с другой — упущенных возможностей. Предпочитать меры, которые пропорциональны вероятности и величине воздействия и которые имеют высокую ценность ожидания. Защищать свободу людей в экспериментах, инновациях и прогрессе.

Макс Мор, доктор философии,
стратег-футуролог, основатель и председатель Института Экстропии

Азиломарские принципы легли в основу этических аспектов, прописанных в Монреальской декларации ответственного искусственного интеллекта, принятой в декабре 2018 года¹⁶⁸ (см. Приложение № 5). Принципы ответственности при разработке продвинутых систем ИИ, конфиденциальности личных данных, свободы и неприкосновенности частной жизни, а также безопасности лежат в основе указанных этических меморандумов и ряда иных частных инициатив.

Интегрируя принципы социальной ответственности с самого начала технологического развития в университетских и промышленных лабораториях, мы можем оказать действительно положительное и конкретное влияние. Это отличительная черта Монреальской декларации: она учитывает интересы всех заинтересованных сторон и объединяет все гражданское общество вокруг разумных принципов.

Йошуа Бенджио,
штатный профессор
департамента информатики и исследования операций
Монреальского университета,
директор по научным исследованиям в институтах MILA и IVADO

В указанную группу также входят инициативы по созданию этических принципов для разрабатываемых ИИ.

В 2018 году в книге «Вычисляемое будущее: искусственный интеллект и его роль в обществе» компания Майкрософт формирует представление о том, куда движется технология искусственного интеллекта, и о новых социальных проблемах, которые она поднимает — обеспечение ответственного проектирования и использования искусственного интеллекта, установление этических принципов для защиты людей и влияние искусственного интеллекта на занятость и рабочие места. Принципы справедливости, надежности и безопасности, конфиденциальности и сохранности персональных данных, инклюзивности, прозрачности и подотчетности имеют решающее значение для устранения социальных последствий ИИ и укрепления доверия, поскольку ИИ становится все более и более важной частью продуктов и услуг, которые люди используют на работе и на работе. домой каждый день¹⁶⁹. Компания Microsoft выпустила также отчет о влиянии искусственного интеллекта на человечество, где предложила, в том числе ввести аналог «клятвы Гиппократа» для программистов¹⁷⁰. Консультативная группа по этике при Европейском инспекторе по защите данных опубликовала доклад, в котором спрогнозировала переход от индивидуальной к распределенной ответственности, указав на недостаточность регулирования и необходимость развития цифровой этики¹⁷¹.

Руководитель холдинга Alphabet и принадлежащего ему Google Сундар Пичаи написал колонку для Financial Times, в которой обозначил возможные угрозы технологии искусственного интеллекта¹⁷². В ответ на возникающие угрозы он предлагает придерживаться фундаментальных, общечеловеческих ценностей в вопросе регулирования ИИ. Особого внимания при этом заслуживают вопросы международно-правового регулирования, а точнее, необходимость консолидации позиций международного сообщества по вопросам регулирования ИИ.

Компания Google, в свою очередь, также разработала свои принципы ИИ, во многом тождественные ранее упомянутым. Однако Google выделены также ограничивающие принципы, такие как отказ от участия в разработке ИИ, способного нанести непоправимый ущерб человечеству¹⁷³.

Несмотря на активную разработку этических основ применения ИИ, техногиганты остаются крупнейшими представителями IT-бизнеса, и их интерес к технологиям обусловлен в первую очередь преимуществами для роста экономического благосостояния и прибыли, которые открываются благодаря внедрению ИИ. И озабоченность вопросами регулирования является следствием опасения того, что выбранные правительствами пути регулирования ИИ (в том числе самый ограничительный сценарий) затормозят развитие и создадут риск упущенных возможностей для экономического роста.

Еще одна глобальная корпорация — IBM, также занимается активно занимается разработкой подходов к регулированию ИИ. При этом во главу угла компанией ставится принцип открытости, позволяющий пользователем самостоятельно удостовериться в справедливости и беспристрастности систем ИИ: «IBM даст понять: когда и для каких целей применяется ИИ. Основные источники данных и экспертных знаний, а также методы, используемые для обучения систем и решений искусственного интеллекта» ¹⁷⁴. Компания IBM также предлагается прециозная модель регулирования рисков, предполагающая ответственность разрабатываемых ИИ систем и продуктов: «Технологические компании должны четко представлять себе, кто обучает их системы искусственного интеллекта, какие данные использовались в этом обучении и, самое главное, что входит в рекомендации их алгоритма. Если мы хотим использовать искусственный интеллект для принятия важных решений, это должно быть объяснимо. Хотя предвзятость никогда не может быть полностью устранена, мы и все компании, продвигающие ИИ, обязаны решать ее проактивно. Поэтому мы постоянно тестируем наши системы и находим новые наборы данных, чтобы лучше согласовать их результаты с человеческими ценностями и ожиданиями»¹⁷⁵. Компанией так же, как и другими техногигантами, декларируется поддержка и приверженность Принципам ИИ, разработанным организацией экономического сотрудничества и развития (далее — ОЭСР)¹⁷⁶.

В 2018 году в Нью-Йорке был принят закон, направленный на предотвращение дискриминации посредством алгоритмов, используемых государственными службами. Он стал основой для создания общественной группы экспертов, проводящих анализ правовых и этических аспектов работы городских систем автоматизированного принятия решений, а также введения в штат мэрии города должности сотрудника, занимающегося борьбой с предвзятостями в алгоритмах и повышением ответственности за принимаемые ими решения¹⁷⁷.

К примеру, социальная сеть Facebook заключила соглашение с Техническим университетом Мюнхена (TUM) для создания независимого исследовательского центра по этике в сфере искусственного интеллекта. Предпосылкой к проведению исследования стали обвинения в предвзятости алгоритмов Facebook, которые отвечают за формирование ленты новостей пользователей и фильтрацию контента. Для проведения исследования компания предоставит исследователям доступ к своим алгоритмам искусственного интеллекта¹⁷⁸. Проведение столь масштабного исследования предопределяется также желанием компании расширить внедрение ИИ в свои продукты.

«Создание летального автономного оружия станет третьей революцией».

Открытое письмо,
распространенное 20 августа
на сайте организации Future of Life Institute,
подписали 116 специалистов из 26 шести стран мира

Экспертное сообщество нередко выступает инициатором не только создания этических и иных принципов разработки ИИ, но и сторонником запрета развития и использования определенных технологий, видя в них угрозу для всего человечества. Например, в 2018 году группа экспертов и разработчиков наряду с основателем Tesla Inc. и Space X Илоном Маском направила в ООН открытое письмо (см. Приложение № 6), в котором выступила с призывом запретить автономное летательное оружие¹⁷⁹. Авторы обращения указывают, что создание летального автономного оружия может повлечь за собой третью революцию в способах ведения войны.

«Однажды возникнув, оно позволит вести военные действия на невиданном ранее уровне и в такие сжатые сроки, что человечество будет не в состоянии их осознать. Новый тип вооружения может стать оружием диктаторов и террористов, используемым против мирного населения, а хакеры смогут взламывать его и использовать в недопустимых целях. У нас не так много времени. Если ящик Пандоры однажды откроется, его будет тяжело закрыть»¹⁸⁰.

К сожалению, инициатива пока не нашла отклика у членов Совета Безопасности ООН ввиду того, что большая часть из них обладают развитой военной промышленностью.

Существует и противоположная точка зрения. Так, Р.И. Дремлюга обосновывает необходимость не запрещать автономное оружие, а выработать правила его использования и участия человека в его функционировании. Существенным вызовом для разработки таких правил является непрозрачность автономных систем вооружения, если рассматривать их как сложную интеллектуальную компьютерную систему¹⁸¹.

В целом можно констатировать, что по мере увеличения числа систем с ИИ, активно и обрабатывающих персональные данные граждан, все активнее ставится вопрос об этичности их использования в различных целях, в том числе коммерческих. Этику ИИ можно выделить в качестве нового самостоятельного направления этики данных. Без формирования этических основ применения систем с ИИ и принципов обработки персональных данных, используемых при их обработке, дальнейший прогресс невозможен. Общественные правовые институты уже активно участвуют в этическом регулировании искусственного интеллекта. При этом необходимо также помнить, что чрезмерные ограничения на доступ к данным могут замедлить развитие технологий ИИ, на что неустанно обращают внимание технологические гиганты.

Представляется, что разработка этических правил взаимодействия человека с искусственным интеллектом должна осуществляться на уровне профессиональных объединений и союзов, иных субъектов гражданского общества. Этическое регулирование в данной сфере не может ограничиваться только лишь рекомендациями по разработке этических стандартов субъектами, использующими искусственный интеллект. Необходима разработка единых, централизованных этических правил, которые могли бы дополняться в рамках конкретных направлений использования тех или иных технологий искусственного интеллекта¹⁸².

На наш взгляд, интеграция этических принципов должна регулироваться национальными или международными организациями. Отметим, что указанная сфера стала ключевой в повестке для обсуждения на мировых аренах. Важно соблюсти баланс между интересами частного лица и бизнеса. Создание цифровой экономики¹⁸³ предполагает построение системы, реализующей решение полного спектра задач, связанных с управлением социально-экономическими процессами с использованием робототехники и искусственного интеллекта¹⁸⁴, в том числе с учетом ключевого принципа общественного развития «что не запрещено — дозволено»¹⁸⁵.

Притом что одна из главных задач формирования правовой базы в сфере искусственного интеллекта — обеспечение баланса интересов всех субъектов, участвующих в процессе создания и внедрения ИИ¹⁸⁶. Продуманное законодательство и его применение позволят поддерживать баланс регулирования объема и степени анонимности личных данных без наложения многочисленных запретов. Но такое законодательство, к сожалению, еще не создано ни в одном государстве мира.

Отметим, что указанная сфера в ближайшие годы станет основной для обсуждения на мировых аренах¹⁸⁷. В ряде стран уже приняты отдельные акты, направленные на создание правового режима для внедрения систем с ИИ.

2.2. Международно-правовые основы регулирования развития и применения искусственного интеллекта в мире

Говоря о наднациональном регулировании, следует в первую очередь остановиться на инициативах основных международных организаций. ООН, являясь ключевой площадкой для международных дискуссий, неоднократно проводила различного рода мероприятия, посвященные вопросам регулирования развития, в том числе правового, искусственного интеллекта.

Свою позицию относительно воздействия ИИ на права человека ООН впервые изложила в докладе Специального докладчика Генеральной Ассамблее «Об ИИ и его влиянии на свободу мнений и их свободное выражение»¹⁸⁸. Документ носит комплексный характер. В нем отмечается, что при разработке национальных программ и стратегий государствам следует проявлять гибкость, чтобы не создать малопригодное регулирование, способное нивелировать преимущества внедрения ИИ и ограничить развитие технологий:

«оно может оказаться малопригодным для этой инновационной области и привести к тому, что ввиду отсутствия детальной информации будут приняты чрезмерно ограничительные или слишком либеральные положения. Возможно целесообразнее использовать секторальное регулирование, хотя можно утверждать, что существующие законы и нормативные акты, например в области защиты данных, обладают достаточной гибкостью и не требуют принятия дополнительных законодательных актов»¹⁸⁹.

При этом отмечается необходимость комплексного регулирования не только государственного сектора, но и частного.

Отдельное внимание в Докладе уделено вопросу учета стандартов в области прав человека при разработке ИИ. Отмечается, что при обсуждении влияния ИИ основное внимание уделяется вопросам предвзятости и дискриминации в процессе предоставления услуг, в то время как право на свободу мнений и их свободное выражение часто не обсуждается в общественных дискуссиях и политических дебатах, что является существенным упущением. Особо подчеркивается, что этические установки не подменяют собой права человека, которые каждое государство обязано соблюдать. Этические рамки должны помочь в определении конкретного содержания и обеспечения прав человека в конкретных условиях, в том числе права человека на приватность и конфиденциальность личной информации¹⁹⁰.

Ключевым в контексте оценки негативного воздействия ИИ на общественные отношения является признание все более усиливающегося тренда делегирования частным компаниям (разработчикам) решения все более сложных задач и вопросов, касающихся цензуры и контроля ИИ. При этом ООН предостерегает государства от перекладывания столь «чувствительных» вопросов на плечи частных корпораций, и ссылается на рекомендацию Совета Европы (далее — СЕ), что «решение вопросов, касающихся управления с помощью алгоритмов, и/или разработка нормативных положений является прерогативой государственной политики и не должно отдаваться в распоряжение только частных субъектов»¹⁹¹.

Транспарентность — главный посыл доклада Специального докладчика Генеральной Ассамблеи ООН. Особого внимания заслуживают данные в Докладе рекомендации для правительств и частных компаний, разрабатывающих ИИ.

Так, государствам рекомендована организация общественных обсуждений при оценке воздействия ИИ на права человека, проведение независимого аудита систем с ИИ, внедрение регуляторных механизмов и системы оценок воздействия ИИ на базовые права человека, в том числе при необходимости, введение секторального регулирования конкретных приложений искусственного интеллекта, в качестве необходимой и эффективной меры защиты прав человека. В конечном счете усилия правительств должны быть направлены на создание эффективных и гибких правовых норм регулирования использования искусственного интеллекта¹⁹².

Компании и правительства должны предоставить обществу четкие разъяснения относительно того, какие решения в информационной среде принимают автоматизированные системы, какие сопровождаются контролем со стороны человека и представить информацию относительно общих элементов логики, используемых этими системами. Транспарентность, как отмечается, не ограничивается предоставлением отдельным пользователям информации о наличии технологий искусственного интеллекта на используемых ими платформах и в онлайновых службах. Необходимо обеспечить транспарентность по всей цепочке функционирования искусственного интеллекта.

Вопросы развития ИИ активно рассматриваются на мероприятиях, проводимых организациями, находящимся под эгидой ООН. Ключевыми инициаторами проведения мероприятий выступают Учреждение ООН по вопросам образования, науки и культуры — ЮНЕСКО¹⁹³, Комиссия по Экономическому и Социальному развитию (ЭКОСОС), Комиссия по праву международной торговли (ЮНСИТРАЛ)¹⁹⁴, Конференции ООН по торговле и развитию (ЮНКТАД) и Международный союз электросвязи — (далее — МСЭ).

Основные усилия ЮНЕСКО в области регулирования ИИ сконцентрированы на использовании возможностей, открываемых новыми технологиями для построения «общества знаний» и достижения целей устойчивого развития, разработанных ООН¹⁹⁵. При этом ключевой акцент организацией делается на базовых принципах и правах человека, таких как открытость, доступность и инклюзивность.

На международной конференции Principles for AI: Towards a Humanistic Approach? A Global Conference, проведенной ЮНЕСКО 4 марта 2019 года, ключевыми вопросами повестки стали: Проблемы и возможности искусственного интеллекта. Универсальность искусственного интеллекта? К ориентированному на человека этическому ИИ? Новые архитектуры международного сотрудничества в эфире. Ключевым выводом мероприятия стал тезис: «ИИ не должен становиться автономным или заменять человеческий интеллект»¹⁹⁶.

Человеческий интеллект и искусственный интеллект могут сотрудничать, чтобы создать более значимое и, в конечном счете, гуманное будущее.

Андерс Сорман-Нильссон,
глобальный футурист,
основатель аналитического центра Thinque

Кроме принципов ROAM (права человека, открытость, доступность, участие всех заинтересованных групп) программный документ ЮНЕСКО отмечает необходимость разработки этических принципов для ИИ, а также обязательность соблюдения равноправия полов и социальных меньшинств, акцентирования особого внимания преодолению «цифрового неравенства», особенно в отношении стран Африки¹⁹⁷.

В 2019 году все 193 страны-участницы единогласно приняли резолюцию ЮНЕСКО по разработке этических норм в области ИИ¹⁹⁸. Группа международных экспертов, которой было поручено разработать рекомендации этических принципов разработки и использования искусственного интеллекта, отмечает, что «в связи с беспрецедентными возможностями влияния систем ИИ на права человека и их существенным отличием от традиционных информационных систем последствия принятых правил будут иметь глобальный и, вероятно, перманентный трансформативный характер как для экономики, так и для общества»¹⁹⁹. Особенно чувствительными для глобальной повестки эксперты видят угрозы применения ИИ в политических и военных целях. Что особенно актуально, когда устоявшаяся архитектура международной безопасности, и в том числе механизмы контроля за нераспространением оружия массового уничтожения, включая ядерное, подвергается серьезному испытанию.

Для ЮНЕСКО особо остро в свете инклюзивности и применения цифровых технологий для достижения гендерного и расового равенства, стоит также вопрос монополизации сферы искусственного интеллекта и перспективы влияния технологий искусственного интеллекта на экологию.

В свою очередь, МСЭ сконцентрирован на вопросе изучения возможных направлений стандартизации технических аспектов в области ИИ в контексте ряда прикладных областей, кроме того, организацией ведется работа по разработке «индексов готовности к ИИ»²⁰⁰.

Особую значимость в оценке на международном уровне рисков, связанных с использованием цифровых технологий в преступных целях, приобретают рекомендации ОЭСР. В настоящее время ОЭСР занимает одну из ключевых ролей в развитии отношений, возникающих в условиях цифровой экономики. В Рекомендациях 2019 года выделены 5 основополагающих принципов ответственного использования ИИ²⁰¹ (см. Приложение № 2). Указанные принципы во многом перекликаются с ранее упомянутыми, так, в документе декларируется обязанность приносить пользу людям, стимулировать инклюзивный рост, устойчивое развитие и благополучие, функционирование ИИ должно быть надежным и безопасным в течение всего срока использования или эксплуатации, а возникающие риски должны своевременно выявляться и устраняться.

Между тем в рамках настоящего исследования особого внимания заслуживают: принцип уважения к верховенству права, в том числе правам человека и демократическим ценностям, а также принцип антропоцентризма — обеспечения надлежащих гарантий, дающих возможность человеку вмешаться в работу системы в случае ее сбоя либо функционирования, допускающего какую-либо из форм дискриминации.

Отдельно стоит отметить и принцип ответственности. Организации и отдельные лица, разрабатывающие, внедряющие и эксплуатирующие ИИ должны нести ответственность за надлежащее их функционирование и использование.

В соответствии с упомянутыми принципами ОЭСР также предоставляет правительствам пять рекомендаций по их реализации:

1) содействие росту государственных и частных инвестиций в исследования и разработки для стимулирования инноваций в области разработки надежного ИИ;

2) содействие увеличению числа доступных экосистем ИИ с помощью цифровой инфраструктуры, технологий и механизмов для обмена данными и знаниями;

3) создание политической среды, которая откроет путь для развертывания надежных систем ИИ;

4) поощрение развития и расширения возможностей у людей, обладающих навыками в области разработки искусственного интеллекта;

5) активизация международного сотрудничества и межсекторального