Правовое регулирование искусственного интеллекта в условиях пандемии и инфодемии

Монография

Под общей редакцией 
профессора 
В. В. Блажеева,
профессора 
М. А. Егоровой

ebooks@prospekt.org

Информация о книге

УДК 347:004

ББК 67.404:32.97

П68

Рекомендовано Редакционно-издательским советом Московского государственного юридического университета имени О. Е. Кутафина (МГЮА).

Рецензенты:
Ивлиев Г. П., кандидат юридических наук, заслуженный юрист РФ, руководитель Федеральной службы по интеллектуальной собственности РФ;
Рейн Мюллерсон, доктор юридических наук, почетный профессор Таллинского университета и Королевского колледжа Лондонского университета Великобритании, член и экс-президент Института международного права (Женева).

Коллективная монография является первым в России научным изданием, которое посвящено актуальным вопросам правового регулирования искусственного интеллекта в условиях пандемии и инфодемии. В работе подробно рассмотрены роль, значение и особенности правового регулирования искусственного интеллекта в условиях пандемии, изучены перспективы использования технологий искусственного интеллекта для улучшения качества образовательной деятельности, правовое регулирование искусственного интеллекта и инфодемии. Исследовано правовое регулирование отдельных видов отношений с использованием искусственного интеллекта, в частности, перспективы патентования как правового механизма предотвращения распространения коронавирусной инфекции COVID-19 в мире, роль искусственного интеллекта в создании вакцин. Дан анализ современных возможностей применения технологии искусственного интеллекта при разрешении споров в условиях пандемии COVID-19, подняты вопросы перспектив использования искусственного интеллекта при оказании помощи в составлении процессуальных документов, информировании сторон о переносе или задержке судебного заседания, оценке уровня риска повторного совершения лицом преступления, анализе данных, необходимых для разрешения споров. Исследован опыт осуществления прогнозируемого правосудия (predictive justice) и разрешения споров посредством технологии искусственного интеллекта. Рассмотрены вопросы защиты персональных данных, собираемых и обрабатываемых в процессе использования искусственного интеллекта, в условиях пандемии COVID-19. Проанализированы проблемы обеспечения информационной безопасности таких данных, соотношения двух основополагающих прав человека, закрепленных как на национальном, так и на международном уровне, – права на защиту жизни и здоровья, с одной стороны, и права на неприкосновенность частной жизни и защиту данных – с другой, особенности правового регулирования развития искусственного интеллекта в ЕС, Китае, других странах мира, а также возможности его использования в борьбе с COVID-19.

Законодательство приведено по состоянию на 15 мая 2020 г.

Предназначена для преподавателей, научных и практических работников, работников органов государственной власти, юристов, адвокатов, судей, студентов, магистрантов, аспирантов и докторантов.

УДК 347:004

ББК 67.404:32.97

© Блажеев В. В., предисловие, 2020

© Коллектив авторов, 2020

© ООО «Проспект», 2020

АВТОРСКИЙ КОЛЛЕКТИВ

БЛАЖЕЕВ Виктор Владимирович, ректор Московского государственного юридического университета имени О. Е. Кутафина (МГЮА), профессор, заслуженный юрист РФ, почетный работник высшего профессионального образования РФ, почетный работник науки и техники РФ, сопредседатель Ассоциации юристов России (Предисловие);

ЕГОРОВА Мария Александровна, начальник Управления международного сотрудничества Московского государственного юридического университета имени О. Е. Кутафина (МГЮА), сопрезидент Международного союза юристов и экономистов (Франция), доктор юридических наук, профессор. (Параграф 1.2 главы 1; параграф 1.4 главы 1 совместно с А. В. Минбалеевым, А. Г. Барабашевым, Д. А. Пономаревой; параграф 3.2 главы 3 совместно с С. Ю. Кашкиным);

БАРАБАШЕВ Александр Георгиевич, кандидат юридических наук, доцент кафедры интеграционного и европейского права Московского государственного юридического университета имени О. Е. Кутафина (МГЮА). (Параграф 1.4 главы 1 совместно с М. А. Егоровой, А. В. Минбалеевым, Д. А. Пономаревой);

ЗАСЕМКОВА Олеся Федоровна, старший преподаватель кафедры международного частного права Московского государственного юридического университета имени О. Е. Кутафина (МГЮА), кандидат юридических наук. (Параграфы 2.3, 2.4 главы 2);

КАШКИН Сергей Юрьевич, заведующий кафедрой интеграционного и европейского права Московского государственного юридического университета имени О. Е. Кутафина (МГЮА), заслуженный юрист РФ, доктор юридических наук, профессор. (Параграф 1.1 главы 1 совместно с А. В. Минбалеевым; параграфы 3.1, 3.3 главы 3; параграф 3.2 главы 3 совместно с М. А. Егоровой);

МИНБАЛЕЕВ Алексей Владимирович, заведующий кафедрой информационного права и цифровых технологий Московского государственного юридического университета имени О. Е. Кутафина (МГЮА), доктор юридических наук, доцент. (Параграф 1.1 главы 1 совместно с С. Ю. Кашкиным, параграф 1.4 главы 1 совместно с М. А. Егоровой, А. Г. Барабашевым, Д. А. Пономаревой; параграфы 1.5, 1.6. главы 1);

ПОНОМАРЕВА Дарья Владимировна, заместитель заведующего кафедрой практической юриспруденции Московского государственного юридического университета имени О. Е. Кутафина (МГЮА), кандидат юридических наук. (Параграф 1.4 главы 1 совместно с М. А. Егоровой, А. В. Минбалеевым, А. Г. Барабашевым; параграф 1.3 главы 1);

ШАХНАЗАРОВ Бениамин Александрович, доцент кафедры международного частного права Московского государственного юридического университета имени О. Е. Кутафина (МГЮА), кандидат юридических наук, доцент. (Параграфы 2.1, 2.2 главы 2).

ПРЕДИСЛОВИЕ

Правовое регулирование искусственного интеллекта на протяжении последних нескольких лет стало одной из наиболее актуальных тем научных исследований в российской и зарубежной юридической науке.

При этом общемировой сегодня является проблема практически полного отсутствия нормативного правового регулирования и нормативного технического регулирования основ, условий и особенностей разработки, запуска в работу, функционирования, интеграции в другие системы и контроля применения технологий искусственного интеллекта.

Развитие искусственного интеллекта и его постоянно расширяющихся сфер применения требует изменений в правовом регулировании.

Попытки государственного регулирования искусственного интеллекта как в России, так и в других странах мира подтолкнули исследователей в области права к постановке проблем, связанных с необходимостью создания эффективного механизма правового регулирования искусственного интеллекта, создающего четкое разграничение зон ответственности между разработчиками и пользователями систем с искусственным интеллектом и самими технологиями, внедрением унифицированных этических принципов для таких систем.

Интенсификации исследовательской деятельности в области искусственного интеллекта способствовала пандемия коронавируса, внесшая изменения практически во все сферы общественной жизни — от политики, экономики и права до культуры и социальной защиты. Сегодня мы становимся свидетелями формирования новой реальности, в рамках которой подавляющее большинство операций перенесено в дистанционный формат. Пандемия дала толчок технологическим разработкам, особый интерес среди которых представляют системы искусственного интеллекта, использующиеся в области разработки лекарственных средств, медицинской визуализации, исследовании генома, диагностики заболеваний. Во всем мире системы искусственного интеллекта применяются в целях отслеживания распространения эпидемии, в том числе соблюдения гражданами и организациями профилактических мер, направленных на сдерживание экспансии пандемии. Активное использование технологий искусственного интеллекта ставит перед юридическим сообществом задачу разработки системы правового регулирования искусственного интеллекта, основанной как на действующих нормах российского права, опосредующих применение новейших технологий, так и передовом мировом опыте регламентации искусственного интеллекта.

В 2019 году в Российской Федерации была принята Национальная стратегия по развитию искусственного интеллекта на период до 2030 года, утвержденная Указом Президента Российской Федерации от 10.10.2019 № 490, которая предусматривает основные направления создания комплексной системы регулирования общественных отношений, возникающих в связи с развитием и внедрением технологий искусственного интеллекта. Данные направления предполагают создание нормативной основы для внедрения прикладных систем искусственного интеллекта и интенсификации их развития, а также обеспечение соответствия технологий искусственного интеллекта общепризнанным стандартам в области этики и права. Стремление к сохранению баланса этического и юридического заставляет государства усердно трудиться над разработкой принципов использования искусственного интеллекта, примером чему служат Азиломарские принципы, принятые в январе 2017 года на конференции в Азиломаре, США, и свидетельствующие о формировании ответственного подхода человечества к разработке искусственного интеллекта и робототехники, что приобретает особую значимость в эпоху пандемии.

Отличительной особенностью настоящего издания является то, что книга подготовлена высококвалифицированным коллективом Университета имени О. Е. Кутафина (МГЮА). Многих авторов знают не только в России, но и далеко за рубежом.

Настоящая книга посвящена ряду ключевых аспектов правового регулирования искусственного интеллекта в условиях пандемии в России и мире. Рассматривается роль, значение и особенности правового регулирования искусственного интеллекта в условиях пандемии с учетом передовой мировой практики, а также правовое регулирование отдельных аспектов применения технологий искусственного интеллекта, включая вопросы патентования, защиты персональных данных и использования систем ИИ при рассмотрении споров.

Надеюсь, что настоящее исследование послужит толчком к фундаментальным исследованиям в области искусственного интеллекта, решению правовых задач его практического внедрения в повседневную жизнь.

В.В. БЛАЖЕЕВ
ректор Московского государственного юридического
университета имени О. Е. Кутафина (МГЮА)
сопредседатель Ассоциации юристов России,
заслуженный юрист Российской Федерации

Глава 1.
РОЛЬ, ЗНАЧЕНИЕ И ОСОБЕННОСТИ ПРАВОВОГО РЕГУЛИРОВАНИЯ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА В УСЛОВИЯХ ПАНДЕМИИ

1.1. Правовая природа искусственного интеллекта: развитие идей и современное состояние

Толковый словарь по искусственному интеллекту определяет искусственный интеллект (далее — ИИ) как «Научное направление, в рамках которого ставятся и решаются задачи аппаратного или программного моделирования тех видов человеческой деятельности, которые традиционно считаются интеллектуальными». При этом «свойством интеллектуальных систем является выполнение функций (творческих), которые традиционно считаются прерогативой человека»¹.

1. Как это обычно бывает, новейшие технологии искусственного интеллекта и робототехники сравнительно внезапно появившись, пугающе быстро развиваются, и возникающие в этой сфере общественные отношения с некоторым опозданием начинают приобретать в различных странах мира и в интеграционных объединениях разнообразные формы правового регулирования. Поэтому правовой науке в нашей стране необходимо незамедлительно включиться в эти процессы. Ведь в идеале именно право должно предсказывать и направлять в нужном цивилизационном направлении развитие Человечества.

2. Даже чисто экономически происходит процесс изменения ценностных ориентаций современного мира. Если еще совсем недавно экономика оценивалась выгодой торговли товарами, а потом больший эффект давало предоставление услуг, то сегодня на первое место в экономике и политике вышло использование новейших достижений науки и технологий, создающих интеллектуальную собственность, определяющую будущее нашей планеты.

3. В условиях шестого экономического уклада под воздействием искусственного интеллекта и робототехники происходит кардинальная смена всего устоявшегося миропорядка. Меняется экономика, политика, право, идеология, общественные отношения, ценности и даже сама личность человека. Поэтому именно право должно стать тем механизмом, который должен отрегулировать сложные отношения между человеком и интеллектуальным роботом.

4. В различных странах мира и в интеграционных объединениях общественные отношения, связанные с функционированием ИИ, приобретают разнообразные формы правового регулирования. Поэтому правовой науке в нашей стране необходимо незамедлительно включиться в эти процессы. Ведь в идеале именно право должно предсказывать и направлять в нужном цивилизационном направлении развитие Человечества, особенно в сфере новейших технологий, определяющих будущее человечества.

5. Опыт КНР в правовом регулировании ИИ весьма интересен, но его развитие и достижения тесно связаны с мировыми тенденциями и практикой разных стран мира, с чего целесообразно и начать.

Идея искусственного интеллекта явилась порождением трех творческих стихий, синергетически соединившихся между собой и создавших пугающую человечество сегодня технически совершенную мечту о прекрасном будущем, способную лишить человечество даже скромного настоящего…

Первыми создателями идей о искусственном интеллекте были великие математики, работавшие над понятием алгоритма, который мог бы предвосхищать деятельность людей, например, индийский математик 8–9 в. н. эры ал-Хорезми, дело которого продолжил в 1684 году Г. В. Лейбниц и другие теоретики.

Вторую группу творцов ИИ представили великие создатели вычислительных машин, начиная с 1500 г., с чертежей арифмометра Леонардо да Винчи. В 1832 г. великий русский ученый Семеен Корсаков успешно использовал перфорированные карты для создания разработанных им механических интеллектуальных машин. Они стали прообразами современных компьютеров, элементов баз данных и экспертных систем². Эту плеяду деятелей и «программистов из прошлого» продолжила графиня Лавлэйс и Тьюринг, вплотную приблизившийся к живущим ныне поколениям.

И третью группу наиболее творческих создателей искусственного интеллекта составили великие поэты и писатели, дерзкий полет мысли которых более реально предвосхитил воплощение искусственного интеллекта на практике.

Уже вполне современная идея ИИ и созданного человеком робота родилась у писателей-фантастов. Одна из них — Мэри Шелли, издавшая в Лондоне в 1818 г. роман «Франкенштейн», поставила вопрос о контроле за создаваемыми людьми интеллектуальными саморазвивающимися роботами. И только более столетия спустя, уже в начале ХХ столетия чешский писатель-фантаст Карел Чапек в пьесе R.U.R. впервые поставил вопрос о правовом урегулировании взаимоотношений человека и робота. Большую известность, однако, получили произведения американского фантаста Айзека Азимова, который разработал три вполне научных и гуманных закона, предназначенных для регулирования взаимодействия человека и интеллектуального робота.

Правовое регулирование технологий искусственного интеллекта и робототехники более всего развивается в высокоразвитых государствах, которые широко применяют на практике такие технологии и имеют свои национальные черты, отражающие историю развития этих стран, специфику их национального менталитета и правовой культуры. Тем не менее логика правового регулирования этой сферы жизни и ее специфика позволяют сделать некоторые обобщения, необходимые для оптимального применения их полезного опыта, адаптированного к особенностям нашей страны и нашего права.

Действительно, ИИ многогранен, всеобъемлющ и вездесущ — он широко применяется в технических науках, кибернетике, информатике, математике, биологии, медицине, философии, этике, лингвистике, педагогике, искусствоведении, музыковедении, психологии, религиоведении и т. д. Но именно для всех этих наук особенно необходим и правовой аспект искусственного интеллекта, к удивлению, менее всего разработанный.

Любопытно, что вопросы правового регулирования ИИ затрагивают и глубоко проникают едва ли не в большинство отраслей современного права. Это и уголовное, и конституционное, и гражданское, и административное, и процессуальное, и финансовое, и экологическое, и международное, и интеграционное, и право интеллектуальной собственности, и т. д. Таким образом, мы видим, что это — находящаяся в процессе становления новая комплексная отрасль права. Она развивается сама и одновременно развивает все другие отрасли права, придавая им современное, отвечающее потребностям сегодняшнего дня, адекватное содержание.

С определенной долей условности мы можем наблюдать логику и специфику правового регулирования ИИ в его историческом (диахронном) и даже географическом (страноведческом) развитии. При этом общность гуманистических задач и эффективность функционирования правовых инструментов, используемых для его регулирования, в условиях глобализации и ускорения общественного развития, приводит к определенному сближению и гармонизации различных моделей правового регулирования использования технологий ИИ. Это положение особенно важно для исследователей, стремящихся найти такие общие закономерности, которые позволяют отстающим государствам быстро сравняться с передовыми и продвинуться дальше вперед.

Что же представляет собой искусственный интеллект? 10 октября 2019 года Президентом РФ был принят Указ «О развитии искусственного интеллекта в Российской Федерации», которым была утверждена Стратегия развития искусственного интеллекта на период до 2030 года (Следует отметить, что п. «а» п. 5 Стратегии предусматривает понятие искусственного интеллекта, под которым понимается комплекс технологических решений, позволяющий имитировать когнитивные функции человека (включая самообучение и поиск решений без заранее заданного алгоритма) и получать при выполнении конкретных задач результаты, сопоставимые, как минимум, с результатами интеллектуальной деятельности (далее — РИД) человека. Комплекс технологических решений включает в себя информационно-коммуникационную инфраструктуру, программное обеспечение (в том числе в котором используются методы машинного обучения), процессы и сервисы по обработке данных и поиску решений.

Термин «искусственный интеллект» относится в большей степени к области компьютерных наук, которая фокусируется на создании технических систем, способных собирать данные и принимать решения и / или решать проблемы³; это развивающаяся область, нацеленная на создание «мыслящих машин», то есть систем общего назначения с интеллектом, сопоставимым с интеллектом человека, также называемые (так называемый сильный искусственный интеллект); «способность машины имитировать разумное поведение человека»⁴. Закрепленное в Национальной стратегии развития искусственного интеллекта в РФ сконструировано исходя их технического восприятия данной технологии и для его правильного применения данное определение необходимо системно толковать с рядом других определений (технологическое решение, информационно-коммуникационная инфраструктура, методы машинного обучения и др.). Некоторые из них заложены в Национальной стратегии развития искусственного интеллекта в РФ, часть закрепляются в ГОСТах, а часть легально отсутствует в социальных и технических нормах⁵.

Законодательное введение понятия «искусственный интеллект» является продолжением государственной политики закрепления на уровне стратегических документов понятийного аппарата цифровых отношений. Вместе с появлением такого аппарата мы можем говорить и об изменении определенных подходов к правовому понятийному аппарату в целом. Как важнейшая правовая ценность понятийный аппарат всегда оценивался в качестве основы для существования и развития права, отражал его основу, сохраняющуюся на протяжении тысячелетий. В условиях цифрового мира право, стремясь «успеть» за технологическим развитием, вынуждено менять понятийный аппарат, подстраивать его под технологическое развитие отношений. Наблюдается определенное «недоверие» к техническому регулированию, на уровне которого традиционно закрепляются технические термины. Право имплементирует в свой арсенал далеко не свойственные ему понятия. Если ранее законодатель старался максимально интегрировать технические термины под правовую материю, то сегодня происходит простой перенос понятий и их определений в тексты нормативных правовых актов. При этом, конечно, законодатель забывает раскрыть все термины, в результате часто определения включают в себя термины, которые отсутствуют в законодательстве, что обусловливает изначальную неспособность полноценного внедрения их в жизнь и использование. Так, в Стратегии развития ИИ остались не раскрытыми такие понятия, как имитация, когнитивные функции человека, программное обеспечение, сервисы по обработке данных и др. Результатом является появление в праве огромного количества понятий из технической сферы, которые нуждаются в постоянной корректировке в связи со стремительным развитием и обновлением используемых информационных технологий, изменением их правового восприятия, необходимостью определять в праве те или иные технические составляющие определений. В итоге, к правовому понятийному аппарату во многом утрачивается отношение как к ценности. Этому способствует и крайне низкий уровень подготовки проектов нормативных правовых актов в сфере регулирования цифровых отношений, отсутствие системы правового моделирования, прогнозирования, отсутствие специализированной правовой научной экспертизы, низкий уровень использования, а иногда и игнорирование правил законодательной техники при формулировании понятий объектов, субъектов и процессов, связанных с процессами цифровизации⁶.

Благодаря Стратегии развития ИИ определился вектор дальнейшего регулирования цифровых отношений, связанных с использованием искусственного интеллекта, — регулирование слабого искусственного интеллекта и регулирование перспективных методов искусственного интеллекта, направленных на «создание принципиально новой научно-технической продукции, в том числе в целях разработки универсального (сильного) искусственного интеллекта»⁷. Отношения, складывающиеся в связи с использованием технологий слабого искусственного интеллекта, предполагающие функционирование тех или иных устройств (роботов) на основе заданного человеком алгоритма, рассматриваются как регулируемые общими нормами информационного законодательства, прежде всего, нормами об информационных системах, а также отраслевыми нормами, например, устанавливающими правовой режим программ для ЭВМ, ответственность за незаконное использование прав на них и др. Между тем, явно существует необходимость формирования специальных норм, регулирующих отношений в сфере использования технологий искусственного интеллекта, в целом, а также выделения соответствующего субинститута цифрового права. Принятие таких норм явно обусловлено перспективами возможности использования в рамках цифровой экономики данных технологий, а также потенциальными угрозами, которые исходят от технологий сильного искусственного интеллекта, как для отдельных сфер общественной жизни, так и глобально для всего человечества⁸.

Законодательно закрепленное определение ИИ в целом отражает суть данной технологии, хотя и содержит ряд не свойственных праву понятий. Это определение уже закреплено и Федеральном законе «О проведении эксперимента по установлению специального регулирования в целях создания необходимых условий для разработки и внедрения технологий искусственного интеллекта в субъекте Российской Федерации — городе федерального значения Москве и внесении изменения в статью 6 Федерального закона «О персональных данных». Полагаем, что в дальнейшем понятие «Искусственный интеллект» будет развиваться и подвергаться корректировке применительно к той или иной сфере общественных отношений.

1.2. Использование технологий искусственного интеллекта для улучшения качества образовательной деятельности

Сегодня система высшего юридического образования столкнулась с кардинальными переменами. Мы стоим на пороге технологического прогресса, который не может не повлиять на изменение подходов к ведению образовательной деятельности, трансформирующихся с учетом применения цифровых технологий, в том числе ИИ. Внедрение ИИ в образовательный процесс позволяет на качественно новом уровне решать проблемы как повышения качества образования в целом, так и обеспечить переход на индивидуализацию и персонализацию обучения, использовать динамические подходы к оценке образовательной деятельности, в том числе посредством методов машинного обучения.

Единообразного понимания сущности ИИ в науке не существует, как не существует такого единообразного его понимания и в праве. В настоящее время предложено множество определений ИИ, так как области его применения весьма широки. ИИ можно определить как систему, включающую в себя как аппаратные, так и программные компоненты, которые могут относиться к роботу, программе, выполняемой на одном компьютере, программе, выполняемой на сетевых компьютерах, или любому другому набору компонентов, в которых размещен ИИ⁹. ИИ подразделяется на два класса — сильный и слабый¹⁰. Сильный ИИ, по сути, замена человеческого разума, а слабый ИИ — обычно интеллектуальные системы, с помощью которых решаются формализованные задачи. В целом, основное преимущество ИИ заключается в экономии времени. Программы на основе ИИ нужны для выполнения трудоемких задач и повышения эффективности решения проблем. ИИ становится заметным постепенно, в ходе развития общества и экономики через новые технологии. Технологические изменения приносят социальные и культурные изменения, которые отражаются в образе жизни, нормах, политике, социальных институтах, навыках, а также в содержании и формах образования.

Не оспаривая и не отрицая значимость аудиторной работы, заключающейся в непосредственном взаимодействии преподавателя и обучающегося, стоит отметить, что именно образовательная сфера становится одной из перспективных областей применения ИИ. При этом системы ИИ чаще всего выступают своего рода «помощником» организации управленческих процедур, трансляции учебного материала, упрощения коммуникации участников образовательного процесса. Прогнозируется, что к 2025 году на рынке ИИ в образовании в передовых странах мира будет наблюдаться рост на 50%¹¹. Разработка новых моделей ИИ и машинного обучения требует высокого уровня компетенций в нескольких областях знаний. Драйверами информатизации университетов выступают не только накопившиеся системные проблемы вузов, но и переход технологий ИИ на качественно новый уровень. За последние несколько лет машины сумели преодолеть барьер идентификации жестов и распознавания речи. Следующая цель разработчиков ИИ — это создание и улучшение виртуальных преподавателей и ботов-ассистентов.

С учетом активного внедрения в образовательный процесс ИИ сегодня можно выделить ряд приоритетов внедрения цифровых инновационных методов в образовании:

1) более эффективное использование цифровых технологий для преподавания и обучения;

2) развитие соответствующих цифровых компетенций и навыков для цифровой трансформации;

3) улучшение образования за счет лучшего анализа данных и прогнозирования.

Скорость технологических изменений очень высока, что обуславливает трансформацию образовательных практик, институтов и образовательной политики. Следовательно, важно понимать потенциальное влияние ИИ на обучение и воспитание, процесс преподавания и качество образования.

Образовательные системы на основе ИИ в ближайшие годы будут все активнее внедряться в университетах, выгодным образом дополняя существующие образовательные программы и трансформируя их в цифровые и инновационные. Глобальная конкурентоспособность вузов и российского образования невозможна без совершенствования технологий образовательного процесса посредством интеграции человеко-машинных функций и автоматизированных когнитивных задач. Адаптация российских вузов к глобальным образовательным вызовам позволит обеспечить и их привлекательность со стороны работодателей, как заказчиков. Вузы, принимая запросы рынка, понимая важность трудоустройства выпускников, объективно будут внедрять современные образовательные технологии.

Спектр применения ИИ в высшем образовании достаточно широкий — проведение отбора и прием студентов, ускорение обучения, повышение качества знаний, объективный контроль знаний студентов, оптимизация образовательных программ, поддержка студентов в процессе обучения. Из приведенного перечня видно, что функционал систем ИИ в первую очередь должен использоваться там, где необходимо автоматизировать выполнение текущей, преимущественно «шаблонной» деятельности, предполагающей обработку значительного количества данных. Вместе с тем, комплексные автоматизированные системы управления всеми элементами учебного процесса станут в ближайшее время важным направлением развития образовательных технологий ИИ.

Можно выделить ряд основных функций ИИ в образовании:

1. ИИ может автоматизировать базовые действия в образовании, такие как аттестация.

2. Образовательное программное обеспечение может быть адаптировано к потребностям студентов и реализации индивидуальных образовательных траекторий.

3. ИИ указывает пробелы в обучении, формирует базу учебных курсов для освоения или углубления знаний.

4. Дополнительная поддержка студентов посредством «электронного преподавателя» (AI Tutors) на базе технологий ИИ.

5. Программы, основанные на ИИ, позволяют студентам и преподавателям получать обратную связь.

6. Системы ИИ позволяют осуществлять мониторинг успеваемости студентов, своевременно оповещать преподавателей, старост, деканат и других заинтересованных лиц, если возникают проблемы с успеваемостью.

7. ИИ может активизировать научную и исследовательскую деятельность преподавателей и студентов, агрегировать поисковики, данные, направлять на необходимые сайты, изменять алгоритм работы с информацией.

8. Изменение содержания работы преподавателя, повышение его роли фасилитатора. Системы ИИ могут быть запрограммированы для предоставления экспертных знаний, а преподаватель, в этом случае, дополняет лекции «электронного преподавателя», осуществляет поддержку и помощь в усвоении материала.

9. Интеллектуальная компьютерная система должна быть разработана так, чтобы помочь студентам учиться, избегая страха перед ошибками и незнанием. Минимизируются человеческий фактор и социальные барьеры.

10. Система ИИ способна подстраиваться, изменяться в зависимости от того, где учатся студенты, кто их обучает, как они приобретают базовые и специальные профессиональные навыки, формируют компетенции.

Тем не менее, сегодня появляются продвинутые системы ИИ, направленные на решение более сложных задач. Так, существуют системы ИИ, которые позволяют разработать профиль обучения под конкретного обучаемого на основе индивидуальной настройки, которая модулирует учебные материалы для студента с учетом его опыта, навыков, способностей и предпочтительного режима обучения. Персонализация необходима для индустрии образования, преподавание не может и не должно быть одинаковым для всех, так как способности студентов разные. Если нецелесообразно индивидуализированное обучение, то аналогично осуществляется обучение в малых группах. Группировка студентов (обучающихся) — автоматическая посредством ИИ. Если студенту становится скучно в аудитории или в процессе обучения, то автоматически включается режим многозадачности с поэтапным выполнением заданий и фазовым контролем. Нейронный ИИ и машинное обучение могут легко научиться классифицировать студентов на основе результатов их тестов. Современные нейронные системы ИИ естественным образом соответствуют моделям обучения, которые рассматривают обучение как передачу знаний в сознание учащегося. Если под обучением понимается развитие навыков и компетенций, то ИИ должен быть по-разному включен в учебные процессы. Например, IBM Watson Classroom приводит когнитивные решения, которые помогают преподавателям получить представление о стилях обучения, предпочтениях и способностях каждого учащегося, «выводя персонализированное обучение на совершенно новый уровень»¹². Таким образом, ИИ предоставляет новые возможности для адаптации (настройки) учебного контента на основе индивидуальных характеристик и стиля обучения конкретного студента. Системы ИИ могут также предоставлять диагностические данные студентам, чтобы они могли размышлять над своими метакогнитивными подходами и возможными областями, нуждающимися в развитии. Нейронный ИИ — большой потенциал для обучения, диагностики, аналитики и образовательного анализа данных. Технологический прогресс в обработке естественного языка и основанных на ИИ интерфейсов «человек-машина» в перспективе создаст новые педагогические возможности. Например, использование разговорных роботов и педагогических компаньонов в образовательном процессе. Кроме того, машинный перевод в режиме реального времени открывает новые возможности в изучении языка, а использование систем ИИ позволяет интерпретировать тексты, написанные студентами.

Интересным примером является платформа шведской компании «Lexplore», которая разработала систему, быстро сканирующую учащихся, подвергающихся риску, отслеживая движения глаз читателя. Система использует распознавание образов на основе данных, и в настоящее время компания расширяется на США и Великобританию. Современные системы ИИ очень хорошо сочетают доказательства из сложных и разнообразных источников данных и используют их для распознавания образов в реальном времени. Поведение обучающихся необходимо постоянно контролировать, чтобы обеспечить обратную связь. Например, технически обеспечить ненавязчивый мониторинг студентов с помощью обработки видео и удаленного отслеживания глаз.

Интенсификации процесса обучения, равно как и повышению качества знаний может способствовать созданная с использованием технологий ИИ система чат-ботов, которые могут использоваться как в дополнение к реализации управленческого функционала (помощь в информировании студентов об оплате обучения, текущих учебных курсах, дополнительных возможностях университета), так и «в помощь» преподавателю (проведение консультаций, дополнительная возможность для организации работы студентов). Чат-боты помогают студентам получить ответ на интересующий вопрос в любое время. По мере увеличения количества вопросов и ответов на них бот становится «умнее», что в дальнейшем может способствовать сокращению нагрузки как административного аппарата ВУЗа, так и профессорско-преподавательского состава.

В дополнение к чат-ботам популярной образовательной площадкой могут стать онлайн форумы, «усиленные» системами ИИ. Привычные онлайн форумы, созданные с использованием официального сайта университета, критикуются за отсутствие структурированной и полноценной обратной связи, что не позволяет студентам поддерживать конструктивное общение с преподавателем. На помощь в данной ситуации могут прийти инструменты ИИ, работа которых состоит в подключении к обсуждению, когда от него отключается человек. Такая система сможет помочь решать образовательные задачи, обучая студентов навыкам формулировки вопросов, ведения дискуссии, критического мышления.

Известно применение в рамках образовательного процесса в высшей школе учебных тренажеров, способных повышать общую успеваемость студентов. Зачастую такие тренажеры разрабатываются с учетом направления подготовки (будущей специальности) обучающегося. Существуют электронные платформы, способные оценивать остаточные знания студентов и одновременно обучать пользователей правилам академического письма. Отдельные системы ИИ осуществляют обязанности наставника — тьютора, объясняющего основы дисциплины, если у студента есть проблемы с освоением учебного курса.

Не исключено активное внедрение в ближайшем будущем комплексных систем автоматизации, сконцентрированных на осуществлении управлениями всеми элементами и стадиями образовательного процесса. В университетах США и Китая подобные системы используются в качестве эксперимента. Разработанные для конкретного учебного заведения, такие высокотехнологичные продукты в скором времени выйдут на мировой образовательный рынок. Известность получила американская образовательная платформа Stellic, функционал которой включает поддержку и адаптацию студентов на всех этапах образовательного процесса; адаптивное и инклюзивное образование; тьюторство; формирование рейтинга обучающихся¹³.

Проверка знаний студентов также может происходить под контролем систем ИИ. Подобного рода системы уже внедряются в процесс обучения в российских вузах. Они помогут российской системе образования не отставать от цифровизации и исключить из образовательного процесса элемент предвзятости со стороны преподавателей. Тестирование на основе ИИ сможет автоматизировать процесс проверки знаний, не только сократив преподавательскую нагрузку, но и сделав сам образовательный процесс более прозрачным. Показателен в данном случае зарубежный опыт. В Технологическом институте Джорджии около 5 месяцев студентам преподавала система ИИ, работающая на базе IBM Watson, которая одновременно осуществляла проверку знаний. В Японии же системы ИИ имеют более широкий функционал, фокусируясь не только на отслеживании успеваемости обучающихся, но и борьбе с негативными явлениями в студенческой среде (например, буллинг).

Уникальную компьютерную игру, позволяющую оценивать скорость принятия решений игроком и его способность прогнозировать ситуацию, создали ученые Московского государственного психолого-педагогического университета (МГППУ). По их словам, разработка также послужит специализированным тренажером этих навыков. Современные методы исследования когнитивных способностей подразумевают не только измерение навыков счета и логического мышления, считают ученые МГППУ: разработанная ими система способна также оценивать качество прогнозов и решений, принимаемых в быстро меняющихся условиях. ИИ адаптирует игровой процесс под конкретного испытуемого, наблюдая за его стратегией и генерируя ситуации такой сложности, которая даст наиболее подробное представление о реальном уровне развития его навыков. Представляет сложность при разработке подобных психодиагностических средств накопление больших эмпирических данных для корректной настройки адаптивных процедур. Дальнейшие задачи исследовательского коллектива — подготовка системы к внедрению в образовательную практику, а также разработка на основе созданного ИИ программных элементов, повышающих жизнеспособность автоматизированных систем в нештатных ситуациях.

Машинное обучение использует большие объемы входных данных для прогнозирования новых результатов. Алгоритмы машинного обучения анализируют данные для выявления закономерностей и построения образовательной модели, которая затем используется для прогнозирования будущих шагов. Машинное обучение рассматривается как трехэтапный процесс (анализ данных, построение модели, выполнение действия), который непрерывно повторяется (результаты действия генерируют новые данные, что, в свою очередь, вносит изменения в модель, в итоге — новое действие). Обучение с подкреплением подразумевает постоянное улучшение модели на основе обратной связи.

В формальном образовании ИИ может оказать не только положительное, но и отрицательное влияние на обучение. Ограничения технологии ИИ заключается в том, что ее невозможно применять в одинаковых форматах в разных образовательных организациях. Риски искусственного интеллекта в сфере образования существенны. ИИ — это вызов образовательной индустрии благодаря усовершенствованным и эффективным средствам обучения и преподавания. Основные риски: возможен рост безработицы в преподавательской среде; качество обучения с помощью ИИ не однозначно, особенно на первых этапах его внедрения в обучении, нужен компромисс; отсутствие личного участия и взаимодействия; действия виртуального преподавателя невозможно прогнозировать; повышение технологической зависимости студентов. Существует риск того, что ИИ может быть использован для расширения масштабов плохой педагогической практики. К явным недостаткам относят возможность несанкционированного доступа ИИ к информации о частной жизни студентов и преподавателей, а также неспособность виртуальных преподавателей и чат-ботов эффективно работать со сложными студентами, «подтягивать» их знания до приемлемого уровня.

Поскольку образовательные системы имеют тенденцию адаптироваться к требованиям индустриальной эпохи, то ИИ может сделать некоторые функции образования устаревшими, но, в то же время, подчеркнуть и актуализировать другие, что потребует внедрения искусственных когнитивных технологий. Одной из ключевых ролей современной образовательной системы является создание компетенций, позволяющих людям участвовать в экономической сфере жизни. Достижения в области ИИ и машинного обучения окажут глубокое влияние на будущие рынки труда, требования к навыкам, а также учебной и преподавательской практике. Основные препятствия при переходе на технологии ИИ, по мнению многих экспертов, связаны с человеческим фактором. Существующие навыки людей не позволяют широко в своей деятельности применять ИИ. Направления решения данной проблемы — инициативы и энтузиазм руководства высших учебных заведений, обучение и просветительская работа, осуществление пилотных проектов в организациях, оценка и управление рисками.

При этом сами технологии ИИ будут становиться предметом изучения в рамках различных учебных дисциплин. Все более активное включение технологий ИИ в образовательный процесс потребует подготовки высококлассных специалистов, глубоко разбирающихся в системах ИИ, применяемых в той или иной профессиональной деятельности. Подготовка юриста также потребует включение в учебный план соответствующих учебных дисциплин, раскрывающих возможности ИИ менять сферу деятельности и самостоятельно принимать решения. Представляется необходимым разработать цифровые модели компетенций специалистов, использующих в своей деятельности технологии ИИ. Высшей школе потребуется принимать участие в создании цифрового контента и реализации образовательных активностей, обеспечивающих развитие компетенций в области ИИ.

Современная подготовка юриста потребует включение в образовательный процесс практикоориентированных дисциплин, направленных на ознакомление обучающихся с технологиями ИИ, используемыми в юридической профессии. Уже сегодня роботы активно внедряются в деятельность крупнейших компаний, автоматизируя и упрощая выполнение несложных, типичных задач. ИИ стал использоваться в работе международных судов. Так, в деятельность Европейского Суда по правам человека включена система, способная отличать «нарушение» от «отсутствия нарушения» по делам, находящемся на рассмотрении ЕСПЧ. Конечно, системы ИИ пока не могут рассматривать дела самостоятельно. Технология применяется для быстрого определения в делах паттернов, ведущих к предсказуемым результатам¹⁴.

Технологии ИИ способны полностью автоматизировать процесс изучения документов во время юридической проверки (due diligence) в электронной комнате данных. Используя уникальную комбинацию контролируемого и не контролируемого машинного обучения для нахождения ключевой информации в тысячах документов, такие системы способны не только осуществлять ускоренный поиск информации, но выявлять потенциальные риски.

Ознакомление с такими технологиями и последующее обучение работы с ними впоследствии станет одной из ключевых задач подготовки конкурентоспособного специалиста, востребованного не только на внутреннем, но и мировом рынке юридических услуг.

Также стоит отметить, что перечисленные сферы применения технологий ИИ в равной степени могут быть использованы как при реализации образовательных программ бакалавриата, так и магистратуры, а также аспирантуры.

Несмотря на способность технологий ИИ помогать в осуществлении профессиональной деятельности, многие специалисты относятся к системам ИИ с известной долей скептицизма. Безусловно, ИИ содержит определенный рисковый потенциал, ведь системы ИИ, достигнув высокого уровня развития, могут осуществлять несанкционированный доступ к информации о частной жизни студентов и преподавателей. Кроме того, «виртуальный преподаватель» и чат-бот не смогут быть эффективными инструментами работы со сложными студентами, требующими индивидуального подхода. Онлайн курсы не всегда демонстрировали успешный опыт подготовки специалистов, равно как и современные системы адаптивного обучения. Тем более, перед современной образовательной системой стоит задача пересмотреть негативный опыт использования технологий ИИ, заимствовав лучшие практики, которые, помимо всего прочего, будут учитывать этические требования и стандарты работы ИИ.

В связи с этим потребуется проведение масштабной работы по созданию эффективной системы нормативного правового регулирования ИИ. В ряд нормативных правовых актов потребуется первоочередное внесение изменений. В частности:

1) Федеральный закон от 29.12.2012 № 273-ФЗ «Об образовании в Российской Федерации». Включение технологий ИИ в образовательный процесс потребует разработки более детального правового регулирования места ИИ, а также дистанционного обучения в образовательном процессе. Фрагментарные нормы актуальной редакции Федерального закона № 273-ФЗ в будущем должны быть заменены комплексным нормативным регулированием, что предполагает появление новой главы в составе указанного нормативного правового акта: «Технологии искусственного интеллекта в образовательном процессе»;

2) Гражданский кодекс Российской Федерации. Развитие автономности систем ИИ может повлечь за собой возникновение нового участника гражданских правоотношений, правовую природу которого в настоящее время достаточно сложно определить. Изменения могут коснуться конструкций гражданско-правовой ответственности за причинение вреда системами ИИ; общих положений договорного и обязательственного права, а также права интеллектуальной собственности, где технологии ИИ могут выступать в качестве объектов и субъектов правоотношений¹⁵;

3) Уголовный кодекс Российской Федерации и Кодекс Российской Федерации об административных правонарушениях. Сильный ИИ, способный к саморазвитию, ставит перед законодателем вопросы о появлении такого участника уголовно-правовых и административно-правовых отношений, как ИИ. По мере движения технологического прогресса важно определить место систем ИИ в структуре ответственности и круг правонарушений (преступлений), где может быть задействован ИИ;

4) Процессуальное законодательство Российской Федерации. Активное включение в администрирование и отправление правосудия технологий ИИ ставит перед законодателем задачу внести изменения в процессуальные кодексы¹⁶. Рассмотрение ряда гражданских и административных дел системами ИИ, способными анализировать предоставленную информацию и на основе анализа принимать решения, потребует внесение изменений в части порядка рассмотрения дел по первой инстанции, подачи апелляционной и кассационной жалоб, признания и исполнения судебных решений и т. д. В рамках уголовного процесса, учитывая тот факт, что привлечение к уголовной ответственности сопряжено с ограничением прав и свобод субъекта ответственности, возможность использования технологий ИИ должна стать предметом законодательной дискуссии.

Декларативные нормы Национальной стратегии по развитию искусственного интеллекта до 2030 года¹⁷ должны стать «отправной точкой» для внесения изменений в гражданское, административное, уголовное, образовательное законодательство с учетом цифровизации экономики и внедрения систем ИИ. Трансформацию будет ожидать законодательство о защите персональных данных, которые в эпоху повсеместного внедрения систем ИИ становятся все более уязвимыми. Совершенно очевидной представляется необходимость принятия Национального кодекса этических норм для конструкторов, операторов и пользователей систем ИИ, а впоследствии, по мере развития автономности систем ИИ, и для самого ИИ. Такой Кодекс будет способствовать соблюдению баланса прав и интересов всех участников правоотношений, складывающихся в связи с использованием технологий ИИ.

1.3. Роль искусственного интеллекта в условиях пандемии

31 декабря 2019 года мир потрясла новость об обнаружении в городе Ухань в провинции Хубэй Китайской Народной Республики 44 случаев пневмонии, вызванной неизвестным возбудителем¹⁸. Оказалось, что патоген является новым коронавирусом (известным как SARS-CoV-2). Новое заболевание в конце января 2020 года вынудило Всемирную организацию здравоохранения (далее — ВОЗ) объявить чрезвычайную ситуацию международного значения в области здравоохранения. 11 марта 2020 года эпидемия была признана пандемией¹⁹.

Перед человечеством встал вопрос о поиске эффективных инструментов борьбы с пандемией. С большой вероятностью можно сказать, что ИИ является мощным инструментом такой борьбы.

Начало пандемии породило острую необходимость обращения к технологиям ИИ. В настоящее время дискуссии о возможном вкладе ИИ в борьбу с пандемией, а также об ограничении его использования должно уделяться пристальное внимание. Ученые выделяют ряд основных направлений использования ИИ в условиях пандемии:

а) раннее предупреждение заболевания;

б) отслеживание развития эпидемиологической обстановки и прогнозирование;

в) применение информационных панелей;

г) диагностика заболевания и прогнозирование его развития;

д) лечение;

е) общественный контроль²⁰.

Представляется, что это далеко не полный перечень и развитие ИИ и связанных с ним технологий, бесспорно, будет осуществляться и в иных направлениях.

Безусловный интерес вызывает такое направление использования ИИ как ранее предупреждение. Здесь стоит упомянуть известную канадскую систему ИИ под названием BlueDot²¹. Достаточно недорогой инструмент, профинансированный за счет венчурного инвестирования²², может стать эффективным способом выявления вспышек заболевания в будущем. В соответствии с отчетными материалами²³, данная программа смогла предсказать вспышку коронавирусной инфекции уже в конце 2019 г. При этом пользователи данной системы были предупреждены о вспышке заболевания 31 декабря 2019 г., за несколько дней до официального информирования общественности ВОЗ. Группа исследователей, работая с программой BlueDot, определила 20 основных городов, куда могли бы отправляться пассажиры из города Ухань после вспышки эпидемии. Исследователи предупредили, что эти города в скором времени окажутся в эпицентре распространения болезни.

Тем не менее, программа BlueDot не избежала некоторой доли переоценки еее возможностей со стороны ученых, представляющих технические науки, и недооценки — со стороны ученых — гуманитариев. В то время как программа BlueDot «забила тревогу» 31 декабря 2019 г., еще одна модель ИИ HealthMap²⁴, используемая в Детской больнице г. Бостона (США), представила свое предупреждение на день ранее — 30 декабря 2019 г. Еще одной программой-предупреждением стала Программа «Для мониторинга новых заболеваний» (Program for Monitoring Emerging Diseases (PMED)). Хотя программа ИИ HealthMap оказалась быстрее на 30 минут, все-таки она придала вспышке заболевания низкий уровень значимости. На самом деле, выводы программы требовали соответствующей интерпретации, чтобы рассматривать информацию в качестве действительной угрозы. Стоит отметить, что без так называемого «человеческого фактора» ничтожны и выводы, представленные системой ИИ BlueDot. В настоящий момент достоверная и эффективная оценка системами ИИ возможности возникновения эпидемий возможна только при наличии соответствующего толкования результатов специалистами-исследователями.

Искусственный интеллект также может отслеживать и прогнозировать развитие эпидемий. Стоит заметить, что программы, позволяющие отслеживать развитие заболеваний, были протестированы еще в 2015 году в разгар эпидемии вируса Зика²⁵. Такой программой стала динамическая нейронная сеть, способная прогнозировать распространение болезни. Вместе с тем, предполагается, что такие системы будут нуждаться в перепрограммировании с учетом новой пандемии.

Точному прогнозированию пандемиии с учетом использования систем ИИ препятствует следующее:

— отсутствие накопленных и непредвзятых данных, необходимых для обучения ИИ;

— паника в социальных сетях и медиа-сфере в связи с развитием новой эпидемии;

— характеристики вируса COVID-19 отличаются от характеристик предыдущих пандемий.

Ввиду недостатка данных, обсуждений в социальных сетях, центрами больших данных и существующей алгоритмической динамики, прогнозы систем ИИ о распространении COVID-19 пока не очень точны и надежны. В связи с этим, далеко не все модели, которые используются для отслеживания и прогнозирования распространения эпидемии, не включают в себя системы ИИ. По этой причине большинство современных исследователей пока используют эпидемиологические модели, известные под англоязычной аббревиатурой SIR (расшифровывается как «Susceptible, Infected, Removed», т. е. «Восприимчивость, инфицированность, удаленность»). Так, Институт для будущего человечества (структурное подразделение Оксфордского университета) предоставляет прогнозы распространения вируса на основе эпидемиологической модели GLEAMviz²⁶. Компания из Сан-Франциско (США) под названием Metabiota предлагает эпидемический трекер²⁷ и модель краткосрочного прогнозирования распространения болезни.

Также любопытным является пример Института Роберта Коха в Берлине, который использует эпидемиологическую модель SIR, учитывающую меры, предпринимаемые национальными правительствами по сдерживанию распространения пандемии, в частности самоизоляцию, карантин, а также социальное дистанцирование.²⁸

Программы ИИ по отслеживанию и прогнозированию распространения заболеваний позволяют государственным органам в области здравоохранения разрабатывать соответствующие меры по планированию, подготовке и управлению течением пандемиии, а также оценке выхода на т. н. «эпидемиологический пик» и его дальнейшего преодоления. Такие программы также дают возможность спрогнозировать успешность повторного принятия мер, направленных на замедление распространения заболевания. Так, уже упомянутый нами ранее Институт Роберта Коха спрогнозировал стремительный количественный рост инфицированных в Нидерландах к 28 марта 2020 г. Вместе с тем, на эту дату в Нидерландах количество инфицированных было меньше чем в США. Более низкое число инфицированных может свидетельствовать о том, как меры, предпринимаемые правительствами отдельных государств, могут, в конечном итоге, снизить прогнозируемое количество заболевших.

Функция ИИ по отслеживанию и прогнозированию распространения заболеваний буквально спровоцировала создание специализированных информационных панелей данных для визуализации фактического и ожидаемого распространения пандемии. Наиболее популярными информационными панелями стали: UpCode, NextStrain, the Johns Hopkins’ CSSE, Thebaselab, the BBC, the New York Times, HealthMap и COVID-19 Tracker.

Данные информационные панели стали использоваться во всем мире. Каждая отдельная страна стремится разработать собственную программу прогнозирования распространения заболеваний. Так, в ЮАР была запущена модель Covid 19 ZA South Africa Dashboard²⁹, которая поддерживается Исследовательской группой Университета Претории по изучению влияния данных на общественные процессы. В США был создан концентратор данных — COVID-19 Data Hub, специализирующийся на визуализации информации³⁰.

Быстрая и точная диагностика заболеваний может спасти жизнь людей, ограничить распространение эпидемий и генерировать данные, на основе которых можно обучать модели ИИ. В данном контексте ИИ может быть исключительно полезен, в частности, при постановке достоверного диагноза на основе рентгенографических изображений грудной клетки. Согласно последним исследованиям³¹, системы ИИ, используемые при борьбе с COVID-19, могут быть такими же точными, как человеческий интеллект, и выполнять диагностику значительно быстрее и дешевле, чем при использовании стандартных медицинских тестов для выявления заболевания. В этой связи предпринимается ряд инициатив. Wang and Wong разработали COVID-Net, представляющую собой глубокую сверхточную нейронную сеть, которая может диагностировать COVID-19 по рентгенографическим снимкам грудной клетки. Тестирование и тренировка системы происходила с использованием хранилища открытых данных примерно 13 000 пациентов с различными заболеваниями легких, в том числе COVID-19. Тем не менее, авторы программы указывают на то, что данная система не может считаться конечным продуктом и нуждается в дальнейшем усовершенствовании в части повышения чувствительности. Также была предложена т. н. «Модель глубокого изучения» (Deep learning model) для диагностики COVID-19 с использованием возможностей компьютерной томографии³². Система смогла продемонстрировать довольно высокий результат эффективности, по крайней мере сопоставимый с результатами, представленными квалифицированными радиологами. Учитывая быстроту обработки информации, такая система при еее использовании в условиях пандемиии способна повысить эффективность работы кардиологов в их ежедневной клинической практике.

В качестве успешного примера можно привести работу исследователей из голландского Университета Делфта, которые смогли запустить модель ИИ в целях диагностики COVID-19 с помощью рентгеновскому излучению.

Эта модель получила наименование CAD4COVID. Ее особенность заключается в том, что она опирается на предыдущие разработки в области ИИ, созданные Университетом Делфта для диагностики туберкулеза.

Потенциал таких ИИ, работающих в связи с рентген-установками, до конца не реализован на практике. Врачи-радиологи отметили, что отсутствует достаточное количество данных для обучения системы ИИ, а использование компьютерной томографии и рентген-установок не является в условиях пандемии безопасным, поскольку может повлечь дальнейшее распространение заболевания, учитывая, что обозначенное медицинское оборудование имеет китайское происхождение.

В конце концов, как только болезнь диагностируется у человека, становится важным определить, насколько интенсивно она развивается в организме пострадавшего. Ведь далеко не все инфицированные будут нуждаться в интенсивной терапии. Возможность прогнозировать, у кого болезнь будет развиваться в наиболее тяжелой форме, может помочь в целенаправленном оказании помощи и планировании распределения медицинских ресурсов. Рядом исследователей предлагается использовать Программу машинного обучения (Machine Lerning), которая поможет разработать прогностический алгоритм для определения риска смертности человека, который был инфицирован, с использованием данных всего лишь 29 пациентов больницы Тунцзи г. Ухань Китая³³. Часть китайских исследователей³⁴ презентовала систему ИИ, которая может предсказать с 80-процентной точностью возможность развития из COVID-19 острого респираторного заболевания (ОРЗ) с осложнениями. Стоит отметить, что выборка, используемая для обучения системы ИИ, оказалась небольшой по объему (всего 53 пациента) и ограничивалась всего двумя медицинскими учреждениями Китая.

В заключение подчеркнем, что применение ИИ для диагностики таких заболеваний как COVID-19, а также прогнозирования его распространения не столь широко, как может показаться. В настоящее время не производится массовая диагностика коронавируса с помощью систем ИИ. Справедливости ради стоит отметить, что для ранней диагностики (определения инфицированности человека до того, как рентген-система или компьютерная томография это обнаружит) системы ИИ используются значительно реже.

ИИ также может быть полезен для поисков методов лечения, включая вакцину против заболеваний, вызывающих эпидемии (в частности, COVID-19)³⁵. Применение систем ИИ может ускорить открытие новых лекарственных средств, а также перепрофилирование уже существующих лекарств для лечения заболеваний. Здесь стоит привести в пример дочернее подразделение компании Google — фирму DeepMind, известную своим игровым приложением AlphaGo, которая использует системы ИИ для моделирования структуры белка вируса и использует данные для разработки новых лекарственных средств. Вместе с тем, подчеркивают представители компании, часто точность результатов нельзя назвать абсолютной. В ближайшем будущем сложно говорить об использовании методов лечения и лекарств, определяемых или, тем более, разрабатываемых с помощью систем ИИ. Причиной медленного внедрения таких систем в медицинскую сферу служат административные преграды, представленные многочисленными медицинскими и научными проверками, контрольными мероприятиями, которые необходимо произвести, прежде чем тот или иной препарат или метод лечения будет утвержден.

Общественный (социальный) контроль является еще одним актуальным направлением использования ИИ в условиях пандемии. Его возможности могут использоваться для целей сканирования общественных мест, где наблюдается массовое скопление людей, на предмет выявления потенциально инфицированных, а также социального дистанцирования и самоизоляции. Так, в Китае на территории аэропортов и железнодорожных вокзалов активно использовались инфракрасные камеры для сканирования людей с тем, чтобы выявить лиц с высокой температурой. Зачастую такие системы дополнялись системами распознавания лиц, с помощью которых значительно упростилась идентификация человека с высокой температурой и определение того, носит он защитную маску или нет. Такие камеры производила китайская фирма Baidu, которая смогла создать инструмент для сканирования порядка 200 человек в минуту и определения людей с температурой выше 37,3 градусов. Тепловизионное же изображение было подвергнуто критике, поскольку оно не позволяло идентифицировать с высокой точностью температуру у лиц, которые носят очки (необходимо принимать во внимание, что наиболее достоверные показания дает сканирование внутреннего слезного потока), а также причину повышенной температуры.

Системы ИИ активно используются органами государственной власти для обеспечения соблюдения гражданами карантинных мер. Как правило, это работает следующим образом: лицо, которое нарушило властные постановления и вышло из дома, может получить официальное предупреждение после того, как система распознавания его обнаружит. Причем использование подобных систем не ограничивается Китаем. Камеры с системами компьютерного зрения на базе ИИ использовались в британском городе Оксфорд для сканирования общественных зон на предмет соблюдения людьми требований социальной дистанцированности. Американский стартап на основе компьютерного зрения предложил собственное программное обеспечение, следящее за соблюдением социального дистанцирования и направляющее нарушителям автоматические предупреждения. Израиль пошел еще дальше, предложив в особых случаях спецслужбам использовать системы кибермониторинга для выявления и последующего принятия карантинных мер в отношении инфицированных COVID-19 людей.

Поскольку использование систем ИИ, направленных на прогнозирование и диагностику заболеваний, не всегда бывает успешным из-за отсутствия необходимого количества данных, применение таких ИИ-инструментов, как компьютерное зрение и роботы, является более предпочтительным. В краткосрочной перспективе именно данные инструменты будут широко использоваться в выполнении задач общественного (социального) контроля. «На помощь» системам ИИ придут сопутствующие технологии в виде мобильных приложений, разработанных на базе ИИ, и использующих данные о местоположении и состоянии здоровья владельца смартфона. Такие приложения могут позволить пациентам получать информацию о времени ожидания, медицинскую консультацию и сведения о состоянии их здоровья без необходимости посещения медицинского учреждения, в том числе уведомления об очагах распространения эпидемии, которые следует избегать³⁶. Однако существуют разумные опасения относительно того, что, несмотря на окончание пандемии, рост интенсификации разработки специальных программ, предусматривающих аккумуляцию конфиденциальной информации, не остановится, а правительственные учреждения будут продолжать использовать возросшие возможности для обследования населения и данные, полученные в ходе борьбы с пандемией, для различных целей, не связанными с вопросами здравоохранения³⁷.

Вместе с тем, справедливо замечено, что немногие из рассмотренных систем ИИ имеют достаточную операционную зрелость, чтобы активно использоваться в борьбе с пандемией. Текущее использование ИИ фактически ограничено, с одной стороны, из-за недостатка данных, а с другой — из-за слишком большого количества данных. На сегодняшний день не хватает данных, на основе которых можно обучать модели ИИ, не достаточно открытых наборов данных и моделей, с которыми возможно работать. Проблема усугубляется необходимостью обеспечения защиты хранилищ больших данных, нерегулируемостью алгоритмов, существованием невостребованных данных и потока научных открытий, которые должны быть подвергнуты соответствующей оценке до того, как предлагать конкретную диагностику и лечение.

Там, где ИИ уже активно используется, зарекомендовав себя в качестве эффективного инструмента выполнения задач (в первую очередь, речь идет о функции наблюдения), будет приложено гораздо больше усилий по его внедрению, что может повлечь за собой не всегда благоприятные последствия, сопряженные с реализацией права на неприкосновенность частной жизни и других прав человека.

Потребность в большом количестве данных потребует приложения новых усилий для тренировки систем ИИ; потребуется большая открытость и обмен информацией, а также проведение междисциплинарных исследований, направленных на повышение способностей ИИ. Будет возрастать необходимость проведения масштабных диагностических тестирований в целях улучшения практики отслеживания и прогнозирования распространения пандемии. В данном контексте ключевое значение будет играть взаимодействие человека с системами ИИ, способность отдельного индивидуума (или групп индивидуумов) управлять моделями ИИ.

В настоящее время достигнут заметный прогресс в создании глобальных систем обмена информации о пандемии. Первая такая система, аккумулирующая всю информацию о проводимых исследованиях в отношении эпидемии COVID-19, была создана под эгидой ВОЗ³⁸. Данная система является открытой и позволяет всем странам осуществлять транспарентный обмен информацией о коронавирусе.

Один из наиболее перспективных и амбициозных проектов, ориентированных на использование ИИ, — совместная инициатива Института ИИ Аллена и компаний Microsoft, Facebook и др.³⁹ Ее целью стало сделать открытым доступ к исследовательским данным в отношении COVID-19, содержащим порядка 44 000 научных статей, которые стали доступными для интеллектуального анализа. Платформа, представляющая собой конкурс научных данных — Kaggle, представила новый конкурс, посвященный открытым базам данных о коронавирусе (COVID-19 Open Research Dataset Challenge)⁴⁰.

Еще одной успешной инициативой по созданию системы сбора данных можно назвать организацию в рамках Калифорнийского университета Беркли и Университета Иллинойса Института цифровой трансформации C3.ai⁴¹. Данный Институт запустил Программу предложений по продвижению моделей ИИ для смягчения последствий пандемии⁴². Программа предложений включала применение машинного обучения и других методов для сокращения распространения коронавируса, а также специальные аналитические базы данных, включающие конфиденциальные сведения.

Но не только недостаток данных препятствует активному включению систем ИИ в борьбу с пандемией. Как это ни парадоксально, существует проблема переизбытка данных. По мере того как пандемия прогрессировала, средства массовой информации и социальные сети наполнялись все большим количеством сведений, которые с трудом мог бы обработать хоть какой-то алгоритм. Алгоритмическая корректировка и контроль за содержанием данных в совокупности с человеческим вмешательством становится необходимой частью работы по включению систем ИИ в борьбу с пандемией. Системам ИИ приходится иметь дело с большим количеством научных исследований и публикаций, которые требуют ежедневной генерации и проверки. Переизбыток информации привел к появлению специальной программы, нацеленной на генерацию научной информации — COVID-19 Evidence Navigator.

С эпидемиологической, диагностической и фармацевтической позиций ИИ пока не играет ключевой роли в борьбе с пандемией коронавируса. Использование систем ИИ значительно ограничивается недостатком полезных данных и переизбытком данных, не содержащих существенную и значимую информацию. В настоящее время возрастает необходимость применения непредвзятых (независимых) данных для обучения систем ИИ. Обнадеживает рост международных инициатив в данной области. Тем не менее, нельзя забывать о проведении все большего числа диагностических тестов, причем не только в целях снабжения моделей ИИ необходимыми данными, для эффективного управления ими, но и в связи с необходимостью снижения экономических издержек, связанных с борьбой с пандемией.

Первоначально практически все государства использовали нефармацевтические средства борьбы с пандемией: остановка работы предприятий, принудительное социальное дистанцирование, отмена массовых мероприятий. Стоит отметить, что на сегодняшний день данные меры преуспели в замедлении распространения коронавирусной инфекции и спасении человеческих жизней. Насколько устойчивыми являются вышеобозначенные меры, сказать проблематично. Непременным остается одно: интенсивное вмешательство будет необходимо продолжать до тех пор, пока не появится вакцина, учитывая прогнозы о возобновлении эпидемии, если вмешательство будет ослаблено.

Большее количество диагностических тестов должно сыграть положительную роль в остановке пандемии, снизить ущерб от экономического локдауна, предотвратить повторение эпидемии, как только ограничения будут ослаблены. Часть исследователей⁴³ приводят доводы в пользу широкого использования диагностического тестирования населения, чтобы позволить людям, если они не являются носителями инфекции, вернуться на рабочие места и ввести карантинный режим в отношении инфицированных лиц. Такие исследователи также выступают за применение выборочного тестирования с тем, чтобы сделать более объективными оценки доли популяции людей с вирусным заболеванием, которое протекает бессимптомно. Дело в том, что сегодня очень сложно подсчитать точное количество инфицированных людей. Есть предположения, что около 86 процентов всех случаев заражения являются недокументированными⁴⁴. Если это действительно так, то велика вероятность повторения «сценария» и восстановление экономики может затянуться на неопределенный срок. Таким образом, сегодня технические возможности современных систем ИИ могут помочь в деле преодоления ограниченности данных о том, кто инфицирован, а кто нет.

Проблема ограниченности данных играет центральную роль в определении того, будет ли ИИ эффективным инструментом борьбы с будущими эпидемиями и пандемиями. Тем не менее, существует опасение, что проблемы общественного здравоохранения превзойдут по своей значимости проблемы защиты конфиденциальных данных. Вполне возможно, что вопрос «эрозии» конфиденциальности будет одним из наиболее острых и требующих обстоятельного решения. Вместе с тем, не стоит забывать, что отдельные юрисдикции располагают соответствующими правовыми основами для ограничения права на защиту персональных данных. В частности, ст. 9 Регламента Европейского Союза о защите персональных данных⁴⁵ допускает сбор и анализ персональных данных при условии, что такой сбор преследует четкую и конкретную цель охраны общественного здоровья. Гибкость в оперативном сборе и анализе больших данных очень важна в борьбе с пандемией, даже если потребуется, чтобы власти аккумулировали больший объем персональных данных. Именно поэтому крайне важно обеспечить особую защиту таких данных, обосновав необходимость соответствующих ограничений широкой публике.

Несмотря на то, что использование систем ИИ в «допандемийную» эпоху было весьма ограниченным, представляется, что новая эпидемия приведет к более широкому использованию таких систем и, как следствие, всеобъемлющей цифровизации экономики, автоматизации человеческого труда. Инновации в области технологий ИИ, которые станут порождением текущего кризиса, потребуют стремительного прогресса в создании соответствующих механизмов управления системами ИИ.

1.4. Особенности правового регулирования искусственного интеллекта в условиях пандемии

Россия и законодательство об ИИ. Современная пандемия придала стремлению государств развивать технологии ИИ новое звучание. Вместе с тем, некорректно утверждать, что именно пандемия стала толчком к формированию соответствующей нормативной правовой базы ИИ. В частности, в Российской Федерации идеи создания правового регулирования ИИ звучали уже на протяжении нескольких лет. В 2017 году Президент Российской Федерации В.В. Путин высказал свое мнение, что страна, добившаяся лидерства в создании искусственного интеллекта, «будет властелином мира»⁴⁶.

Первоначально усилия Российской Федерации по развитию инфраструктуры ИИ и соответствующего нормативного регулирования были нацелены на обеспечение повышения обороноспособности страны. Так, в марте 2018 г. Министерство обороны Российской Федерации, Министерство образования и науки Российской Федерации и Российская академия наук провели совместную конференцию «Искусственный интеллект — проблемы и пути их решения»⁴⁷. Итогом конференции стало принятие Рекомендаций⁴⁸, которые включали в себя следующие ключевые пункты:

«1. Создание консорциума по проблемам анализа больших данных и ИИ с целью объединения усилий ведущих научных, образовательных и промышленных организаций по созданию и внедрению технологий искусственного интеллекта.

2. Активизация работы по созданию и наполнению Фонда аналитических алгоритмов и программ с целью обеспечения качественных экспертиз предлагаемых решений в интересах автоматизированных систем различного назначения.

3. Создание государственной системы подготовки и переподготовки специалистов в области искусственного интеллекта, обеспечивающей, в том числе, получение второго образования специалистам других областей экономики.

4. Создание в ВИТ «ЭРА» лаборатории для отработки перспективных программно-технических решений в области создания ИИ силами операторов научных рот.

5. Создание Национального центра искусственного интеллекта, обеспечивающего содействие созданию научного задела, развитию инновационной инфраструктуры в сфере искусственного интеллекта и реализации результатов теоретических исследований и перспективных проектов в области искусственного интеллекта и IT-технологий.

6. Проведение исследований по всему комплексу вопросов, связанных с развитием ИИ, включая общественно-научные.

7. Подготовка и проведение серии военных игр, по широкому спектру сценариев, с определением влияния моделей ИИ на изменение характера ведения военных действий в различных вариантах на тактическом, оперативном и стратегическом уровне.

8. Создание в Российской Федерации системы оценки соответствия интеллектуальных технологий предъявляемым требованиям»⁴⁹.

Документ, принятый по итогам конференции, носит рекомендательный характер, но имеет стратегическое значение, поскольку в условиях пандемии формат предложенных мер может оказаться той «отправной точкой», которая позволит разработать комплекс мер и мероприятий по развитию технологий ИИ в области здравоохранения и других социально значимых сферах жизни человека.

Поворотным для Российской Федерации в части создания нормативных правовых основ регулирования ИИ стало принятие Национальной стратегии по развитию ИИ на период до 2030 года (далее — Стратегия), утвержденной Указом Президента Российской Федерации от 10.10.2019 № 490⁵⁰. Принятие данного документа именно в форме «стратегии» характеризует Российскую Федерацию как страну, следующую передовому зарубежному опыту правового регулирования ИИ и одной из важнейших мировых тенденций — принятия стратегического документа, посвященного ИИ. Так, в течение последних нескольких лет национальные стратегии по содействию использованию и развитию ИИ был приняты Канадой⁵¹, Китаем⁵², Данией⁵³, Финляндией⁵⁴, Францией⁵⁵, Индией⁵⁶, Японией⁵⁷, Мексикой⁵⁸, Сингапуром⁵⁹, Швецией⁶⁰, Великобританией⁶¹, ОАЭ⁶² и рядом других государств⁶³. Как правило, «такие стратегии охватывают следующие направления использования технологий ИИ: научные исследования, образование, государственное и корпоративное управление, передача данных и цифровая инфраструктура. Особое внимание в документах уделяется вопросам этики, а также формированию стандартов адаптации нормативного регулирования в части, касающейся взаимодействия человека с искусственным интеллектом»⁶⁴.

Принятие Национальной стратегии по развитию искусственного интеллекта — «долгожданное событие, которое предопределяет вектор экономического и научно-технологического развития Российской Федерации на ближайшее десятилетие. Документ носит программный характер, изобилует акцентами на общих подходах, однако, в отличие от подобных стратегий, принятых в ряде зарубежных государств, включает и вполне конкретные, четко сформулированные понятия. В частности, Стратегия отвечает на вопрос, что следует понимать под ИИ, достаточно подробно и обстоятельно формулирует задачи, которые стоят перед публичным и частным сектором в области развития технологий ИИ. Общность российской и зарубежных Стратегий выражается в обозначении этической проблематики в качестве ключевой при решении вопроса о разработке нормативно-правового регулирования, а также признании необходимости объединения усилий государства и бизнеса для достижения целевых показателей, упомянутых в Стратегии»⁶⁵.

Представляется важным проанализировать указанный документ на предмет актуальности его использования в условиях пандемии. В первую очередь, стоит отметить, что Стратегия выделяет три ключевых направления использования технологий ИИ, каждое из которых становится особенно значимым с учетом стремительно меняющейся картины мира. Итак, Стратегия выделяет следующие направления использования ИИ:

«а) повышение качества услуг в сфере здравоохранения (включая профилактические обследования, диагностику, основанную на анализе изображений, прогнозирование возникновения и развития заболеваний, подбор оптимальных дозировок лекарственных препаратов, сокращение угроз пандемий, автоматизацию и точность хирургических вмешательств);

б) повышения качества услуг в сфере образования (включая адаптацию образовательного процесса к потребностям обучающихся и потребностям рынка труда, системный анализ показателей эффективности обучения для оптимизации профессиональной ориентации и раннего выявления детей с выдающимися способностями, автоматизацию оценки качества знаний и анализа информации о результатах обучения);

в) повышения качества предоставления государственных и муниципальных услуг, а также снижения затрат на их предоставление»⁶⁶.

Полагаем, что данные направления применения ИИ во многом вписываются в общую программу мер, направленную на сглаживание социальных, экономических и иных последствий пандемии. То, что одним из первых в числе направлений названо именно повышение качества услуг в сфере здравоохранения с помощью ИИ, говорит о возможности приоритетного использования цифровых технологий именно в этой сфере. Что касается образования, то в условиях невозможности проведения занятий в классических, привычных формах очного обучения, возникает необходимость прибегать к дистанционному образованию как ключевому способу адаптации образовательного процесса к меняющимся рыночным условиям и зависимости ряда общественных процессов от цифровых технологий.

Для юридического сообщества особую ценность представляют положения Стратегии, затрагивающие «основные направления создания комплексной системы регулирования общественных отношений, возникающих в связи с развитием и внедрением технологий искусственного интеллекта». В числе таких направлений, которые необходимо учитывать при разработке соответствующего нормативного правового регулирования, названы следующие:

«а) обеспечение благоприятных правовых условий (в том числе посредством создания экспериментального правового режима) для доступа к данным, преимущественно обезличенным, включая данные, собираемые государственными органами и медицинскими организациями;

б) обеспечение особых условий (режимов) для доступа к данным, включая персональные, в целях проведения научных исследований, создания технологий искусственного интеллекта и разработки технологических решений на их основе;

в) создание правовых условий и установление процедур упрощенного тестирования и внедрения технологических решений, разработанных на основе искусственного интеллекта, а также делегирования информационным системам, функционирующим на основе искусственного интеллекта, возможности принятия отдельных решений (за исключением решений, которые могут ущемлять права и законные интересы граждан), в том числе при исполнении государственными органами государственных функций (за исключением функций, направленных на обеспечение безопасности населения и государства);

г) устранение административных барьеров при экспорте продукции (работ, услуг) гражданского назначения, созданной на основе искусственного интеллекта;

д) создание единых систем стандартизации и оценки соответствия технологических решений, разработанных на основе искусственного интеллекта, развитие международного сотрудничества Российской Федерации по вопросам стандартизации и обеспечение возможности сертификации продукции (работ, услуг), созданной на основе искусственного интеллекта;

е) стимулирование привлечения инвестиций посредством совершенствования механизмов совместного участия инвесторов и государства в проектах, связанных с разработкой технологий искусственного интеллекта, а также предоставления целевой финансовой поддержки организациям, осуществляющим деятельность по развитию и внедрению технологий искусственного интеллекта (при условии, что внедрение таких технологий повлечет за собой существенные позитивные эффекты для отраслей экономики Российской Федерации);

ж) разработка этических правил взаимодействия человека с искусственным интеллектом»⁶⁷.

Обращает на себя внимание тот факт, что разработка нормативно-правового регулирования использования систем ИИ потребует внесения соответствующих изменений в законодательство о защите персональных данных. В случае Российской Федерации речь идет о Федеральном законе от 27.07.2006 № 152-ФЗ «О персональных данных»⁶⁸. Возможно, развитие российского законодательства будет связано с рецепцией ряда положений, разработанных в рамках права Европейского Союза. Как известно, Регламент Европейского Парламента и Совета Европейского Союза 2016/679 от 27 апреля 2016 г. о защите физических лиц при обработке персональных данных и о свободном обращении таких данных, а также об отмене Директивы 95/46/ЕС (т. н. Общий Регламент о защите персональных данных / General Data Protection Regulation / GDPR)⁶⁹ предусмотрел за физическими лицами права на принятие или пересмотр решения, основанного исключительно на автоматизированной обработке (алгоритме), физическим лицом, а не компьютером. Учитывая, что системы ИИ будут активно внедряться в управленческие процессы, такое правомочие потребует своего отражения в российском законодательстве.

Важно также отметить, что Стратегия обозначила основные временные периоды, на которые должен ориентироваться законодатель при разработке соответствующего нормативного правового регулирования ИИ. Так, к 2024 году планируется создание необходимых правовых условий для достижения целей, решения задач и реализации мер, предусмотренных Стратегией. Сама же система нормативного правового регулирования в области ИИ должна быть сформирована уже к 2030 году. Исходя из Стратегии, такая система должна характеризоваться гибкостью (что в условиях современной пандемии приобретает особую значимость), гарантировать безопасность населения и быть направленной на стимулирование развития технологий ИИ. Хотя данные характеристики были сформулированы российским законодателем еще до наступления пандемии, представляется, что они не должны подвергаться сомнению при разработке нормативной правовой базы ИИ.

Разрабатываемое законодательство об ИИ также должно учитывать основные принципы развития и использования ИИ: защита прав и свобод человека; безопасность; прозрачность; технологический суверенитет; целостность инновационного цикла; разумная бережливость; поддержка конкуренции. В условиях пандемии особое значение приобретает поиск разумного баланса между защитой прав человека и обеспечением безопасности. С учетом реальной угрозы общественному здоровью этот баланс не всегда удается соблюсти в пользу обеспечения защиты прав и свобод человека в том смысле, который придается этому принципу основополагающими актами международного права⁷⁰.

Законодательство Российской Федерации об ИИ дополнилось еще одним нормативным правовым актом — Федеральным законом от 24.04.2020 № 123-ФЗ «О проведении эксперимента по установлению специального регулирования в целях создания необходимых условий для разработки и внедрения технологий искусственного интеллекта в субъекте Российской Федерации — городе федерального значения Москве и внесении изменений в статьи 6 и 10 Федерального закона “О персональных данных”»⁷¹, вступающим в силу 1 июля 2020 г. Как указывалось в пояснительной записке к еще законопроекту, закон «позволит значительно стимулировать внедрение, развитие и использование технологий искусственного интеллекта, определить сферы экономики и общественных отношений, в которых целесообразно внедрение искусственного интеллекта, установить, какие общие правовые нормы должны быть скорректированы, а какие введены впервые, а также какие именно изменения правового режима позволят в наибольшей степени добиться решения поставленных Президентом Российской Федерации задач по обеспечению технологического суверенитета в сфере искусственного интеллекта, и, как следствие, обеспечения состоятельности российского бизнеса и экономики, повышения качества жизни граждан России, безопасности и обороноспособности государства»⁷². В условиях пандемии, с учетом ориентации экономики на обеспечение внутренних потребностей, необходимость обеспечения технологического суверенитета в области ИИ представляется первостепенной задачей.

Разработка правовых режимов для проведения экспериментов в целях повышения эффективности государственного и муниципального управления, а также обеспечения развития цифровой экономики явно необходима, в первую очередь, именно для развития искусственного интеллекта, поэтому данное направление является одним из наиболее приоритетных в сфере регулирования соответствующих отношений. Участниками такого экспериментального правового режима будут субъекты информационно-телекоммуникационного сектора, инновационной и инвестиционной деятельности, которые зарегистрированы официально на территории города Москвы, но свою деятельность осуществляют на всей территории Российской Федерации, а значит, так или иначе будут затронуты интересы ряда субъектов РФ и граждан России. Необходимость внедрения таких экспериментальных механизмов в сфере искусственного интеллекта совершенно справедливо обосновывается в юридической науке и вызвана следующими факторами:

— возможностью тестировать цифровые инновации, в том числе робототехнику и искусственный интеллект, в специально создаваемой, принятой и одобренной в рамках проекта контролируемой среде;

— формированием специальной изолированной регуляторной среды, в которой действуют специальные нормы;

— возможностью протестировать цифровые инновации и определить целесообразность, возможность вывода их на внутренний и международный рынок;

— индивидуальным подходом к заявителю введения экспериментального правового режима в сфере цифровых инноваций;

— возможностью значительного сокращения сроков для изменения правового регулирования в отношении отдельных цифровых инноваций;

— обеспечением качественного взаимодействия между регулирующим вопросы цифровой экономики органом государственной власти и развивающей цифровую инновацию организацией вне классических механизмов контрольно-надзорной деятельности, а также выработкой на основе такого взаимодействия эффективных государственных решений в сфере развития цифровой экономики;

— возможностью переноса положительного опыта регулирования цифровых инноваций на общее их регулирование законодательством Российской Федерации;

— возможностью снижения ряда административных барьеров, обусловленных достаточно консервативным законодательством Российской Федерации в сфере внедрения и использования отдельных цифровых технологий, или его отсутствием (это также очень существенный административный барьер, поскольку не позволяет уполномоченным органам государственной и муниципальной власти, их подведомственным организациям в целом ряде случаев принять положительное решение об использовании тех или иных цифровых инноваций, в первую очередь связанных с использованием искусственного интеллекта);

— возможностью реализации идей по развитию искусственного интеллекта в рамках Стратегии развития ИИ⁷³.

С учетом рассмотренной выше роли ИИ в борьбе с пандемией принятие данного федерального закона не вызывает сомнений. Важно подчеркнуть ограниченное территориальное действие данного ФЗ — эксперимент, предусмотренный законом, распространяет свое действие только на город федерального значения — Москву. Принимая во внимание время принятия законопроекта, важно отметить, что основополагающей его целью становится именно обеспечение повышения качества жизни населения, что должно быть гарантировано даже в условиях неблагоприятной эпидемиологической обстановки.

Российская Федерация только стоит на пути формирования собственного законодательства в области ИИ, а современная пандемия лишь способствует ускорению принятия решений и актов в данной области. Именно поэтому Российской Федерации так важно обращать внимание на релевантный зарубежный опыт правового регулирования ИИ, которое в отдельных странах подвержено изменениям в связи с пандемией COVID-19. Рассмотрим примеры передового мирового опыта правового регулирования ИИ в «эпоху COVID-19», которые могут быть использованы в развитии российского законодательства об ИИ.

Европейский Союз. Опыт правового регулирования ИИ в Европейском Союзе является одним из наиболее успешных. Необходимо отметить, что и до наступления «эпохи пандемии» Европейский Союз располагал соответствующий нормативной правовой базой, регламентирующей внедрение технологий искусственного интеллекта в ключевые сферы общественной жизни: науку и технологии, здравоохранение, образование, сельское хозяйство. К таким актам, в частности, относятся:

А) Регламент Европейского Парламента и Совета Европейского Союза 2016/679 от 27.04.2016 о защите физических лиц при обработке персональных данных и о свободном обращении таких данных, а также об отмене Директивы 95/46/ЕС (Общий Регламент о защите персональных данных / General Data Protection Regulation / GDPR)⁷⁴. Данный документ вступил в силу 25 мая 2018 года. Регламент как нормативный акт обладает прямым действием, то есть применяется непосредственно во всех государствах-членах Европейского Союза без необходимости трансформации его положений в национального законодательство. Особенностью указанного регламента является предусмотрение за физическими лицами права на принятие или пересмотр решения, основанного исключительно на автоматизированной обработке (алгоритме), физическим лицом, а не компьютером.

Б) Резолюция Европейского парламента по правилам гражданского законодательства по робототехнике⁷⁵. 16 февраля 2017 года законодательным органом Европейского Союза — Европейским парламентом — была принята Резолюция, в соответствии с которой Европейской Комиссии было рекомендовано внести ряд законодательных инициатив в области робототехники и искусственного интеллекта⁷⁶. В частности, Европарламент призвал Комиссию рассмотреть возможность принятия законодательного акта, предусматривающего нормы об ответственности роботов и искусственного интеллекта. В числе нововведений Европарламент предложил:

— сформулировать на наднациональном уровне определение киберфизических систем, автономных систем, продвинутых автономных роботов и их разновидностей;

— предусмотреть критерии классификации роботов, которые должны быть зарегистрированы;

— учредить Европейское агентство по робототехнике и искусственному интеллекту, а также разработать Хартию, включающую в себя Кодекс поведения инженеров-робототехников, а также Кодекс для вновь сформированных комитетов по этике исследований, осуществляющих рассмотрение протоколов робототехники и типовых лицензий для дизайнеров⁷⁷;

— предусмотреть особый правовой статус для роботов, в особенности в отношении автономных роботов, которые в долгосрочной перспективе должны приобрести статус «электронного лица» («electronic person»). Предполагается, что такие «электронные лица» должны нести ответственность за возмещение любого ущерба, который они могут причинить. Статус электронного лица также планируется применять к случаям, когда робот принимает автономное решение или иным образом автономно взаимодействует с третьей стороной.

В последующие годы Европейская комиссия, осуществляя деятельность по выполнению обозначенной Резолюции, отметила необходимость обратить внимание на «адаптацию норм о гражданско-правовой ответственности к потребностям цифровой экономики» и развивать сотрудничество с Европарламентом и государствами-членами в данной области. Еврокомиссией было предложено провести оценку действия Директивы об ответственности за продукцию⁷⁸ и изучить различные виды ответственности, предусмотренные документом. При этом Комиссия отклонила предложение Европарламента о создании Европейского агентства по робототехнике и искусственному интеллекту, предложив в качестве альтернативы провести соответствующие переговоры (консультации) в рамках экспертных групп, состоящих из представителей государств-членов, отраслей промышленности и разработчиков стандартов⁷⁹.

В) Акты Европейской Комиссии. В апреле 2018 года Европейская комиссия опубликовала Сообщение под названием «Искусственный интеллект для Европы», в котором изложила подход ЕС к использованию возможностей, предлагаемых ИИ, и решению связанных с ним проблем⁸⁰. В Сообщении подчеркивается, что Союз должен обеспечить, чтобы никто из государств-членов не остался в стороне от цифровой трансформации и чтобы искусственный интеллект разрабатывался и применялся на основе ценностей и основных прав ЕС. 18 декабря 2018 года Комиссия при поддержки группы экспертов высокого уровня по искусственному интеллекту выпустила Проект руководства по этике ИИ, содержащий основные правила разработки надежной системы ИИ⁸¹. Предполагается, что заслуживающая доверия система ИИ должна основываться на «уважении основных прав, применимого права, а также принципов и ценностей, обеспечивая соблюдение этических требований, быть технически надежной, поскольку, даже принимая во внимания позитивный характер разработки, отсутствие технологического надежности может причинить непреднамеренный вред»⁸².

Г) Декларация о сотрудничестве в области искусственного интеллекта⁸³. В апреле 2018 г. 24 государства-члена Европейского Союза, а также Норвегия (государство — член Европейской ассоциации свободной торговли) подписали Декларацию о сотрудничестве в области искусственного интеллекта для разработки европейского подхода к ИИ⁸⁴. Впоследствии к этим документам присоединились Кипр, Греция и Румыния, а также Хорватия. В Декларации обозначены следующие области сотрудничества европейских государств в области ИИ:

— расширение технологического и промышленного потенциала Европы в области искусственного интеллекта и его освоение, включая улучшение доступа к данным государственного сектора;

— решение социально-экономических проблем, таких как трансформация рынков труда и модернизация европейских систем образования и профессиональной подготовки, включая повышение квалификации и переподготовку граждан ЕС;

— обеспечение адекватной правовой и этической базы, опирающейся на основные права и ценности ЕС, включая неприкосновенность частной жизни и защиту персональных данных, а также такие принципы, как прозрачность и подотчетность.

Вышеобозначенные документы, за исключением Регламента, представляют собой не что иное, как «акты мягкого права», которые не содержат обязательных юридических норм, но полны декларативных положений, которые должны направить государства-члены Европейского Союза к принятию детального нормативного правового, а значит юридически обязывающего регулирования обозначенной сферы. Указанные акты были приняты до объявления пандемии, тем не менее они действуют до сих пор. Актуальным документом по развитию нормативно-правовых основ ИИ в «эру COVID-19» является акт, обозначенный ниже.

Д) Белая книга Европейской Комиссии по искусственному интеллекту — европейский подход к совершенству и доверию⁸⁵. 19 февраля 2020 г. Европейская комиссия представила свою стратегию в области данных и искусственного интеллекта. Хотя данный документ, будучи актом «мягкого права», не содержит юридически обязательных норм в сфере ИИ, он дает четкое представление о ключевых приоритетах Комиссии в области ИИ и предполагаемых мерах.

Стратегия Комиссия изложена в четырех отдельных документах, два из которых посвящены вопросам ИИ, один — цифровому будущему Европы и еще один — экономике данных. В совокупности данные документы позиционируют Союз как цифрового лидера с точки зрения надежности систем ИИ и экономики данных.

Белая книга подчеркивает важность и необходимость выработки единого подхода к правовому регулированию ИИ в рамках Европейского Союза с тем, чтобы избежать препятствий на пути к единому рынку ЕС. Документ указывает на риски, связанные с применением технологий ИИ. К таким рискам Белая книга относит возможность нарушения базовых прав и свобод, вопросы обеспечения безопасности и ответственность.

Комиссия разработала свой план риск-ориентированного подхода к разработке нормативного регулирования искусственного интеллекта. Еврокомиссия предлагает государствам-членам обратить внимание на т. н. «высокорисковые» приложения ИИ. Белая книга содержит перечень таких «высокорисковых» сфер, к которым относятся: здравоохранение, транспорт, энергетика и другие сферы, преимущественно связанные с государственным сектором экономики. Решение вопроса о том, можно ли считать то или иное приложение ИИ высокорисковым, зависит от того, может ли такое приложение оказывать значительное воздействие на права отдельного лица или компании. Так, системы искусственного интеллекта, используемые для дистанционной биометрической идентификации (например, наблюдение с использованием технологии распознавания лиц), будут считаться высокорисковыми, поскольку связаны с «вторжением» в личное пространство человека, что сопряжено с необходимостью обеспечения защиты прав. Стратегия отмечает направленность на достижение трех ключевых целей:

— обеспечение работы технологий на благо людей;

— создание справедливой и конкурентоспособной экономики;

— обеспечение создания открытого, демократического и устойчивого общества.

Белая книга заостряет внимание на планах Европейского Союза по увеличению европейских инвестиций в технологические инновации, чтобы уменьшить зависимость от цифровых решений, разработанных за пределами Европы. Книга предлагает усовершенствовать нормативную базу, чтобы, среди прочего, обеспечить соблюдение принципа справедливости и предотвратить чрезмерную концентрацию на рынке. Документ предусматривает различные нормативные меры, в том числе правила, ориентированные на цифровые сервисы и онлайн-платформы, чтобы дать пользователям больший контроль над данными, а также меры, обеспечивающие правовую защиту работников цифровых платформ, и правила, направленные на содействие прозрачности в демократическом процессе (например, реклама в контексте политических выборов).

Хотя Белая книга изначально направлена на создание универсальных правил регулирования ИИ в Европейском Союзе, деятельность по их разработке активизируется именно в условиях пандемии. По мере развития эпидемиологической обстановки возникает необходимость скорейшего внедрения новых нормативных моделей, основанных на разработках а области «мягкого права». Пандемия позволит рекомендательным актам, содержащим преимущественно стратегические и декларативные положения, трансформироваться в подлинную нормативную регламентацию общественных отношений, возникающих в связи с использованием систем ИИ в условиях новой эпидемии.

Австралия. Еще в 2018 году опрос, проведенный в рамках одного издания, продемонстрировал, что 9 из 10 глав крупнейших австралийских компаний в той или иной степени используют технологии искусственного интеллекта в организациях. В то же время пятьдесят один процент австралийских компаний использует системы ИИ в контексте машинного обучения⁸⁶. Технологии ИИ активно используются и в государственном секторе. Так, в 2018 году правительство Австралии подписало с компанией IBM соглашение о трансфере технологий на сумму порядка 1 миллиарда долларов для активизации внедрения технологий блокчейна, искусственного интеллекта и квантовых вычислений⁸⁷. Государственный сектор был представлен Австралийским Агентством по цифровой трансформации, в обязанности которого входит осуществление руководства, надзора и управления правительственными программами в области цифровых и информационно-коммуникационных технологий.

Австралийское правительство готово щедро финансировать проекты, связанные с внедрением систем ИИ. Федеральное правительство Австралии в 2018–2019 гг. приняло обязательство выделять 29,9 миллиона австралийских долларов (около 21,7 миллиона долларов США) в течение четырех лет «в целях развития возможностей искусственного интеллекта и машинного обучения австралийских предприятий». Проекты предполагают четыре основных направления:

а) в области образовательных услуг: разработка онлайн-ресурсов для привлечения студентов и поддержки преподавателей для предоставления контента ИИ в австралийской учебной программе;

б) разработка технологической дорожной карты для «привлечения государственных инвестиций в развитие технологий искусственного интеллекта»⁸⁸;

в) разработка национальных этических стандартов использования технологий ИИ;

г) развитие Программы совместных исследовательских центров, которые специализируются на разработке технологий ИИ.

Важное значение в нормативном правовом регулировании искусственного интеллекта в Австралии имеют ведомственные акты. В частности, в области разработки этических норм и стандартов использования технологий ИИ Управление австралийского комиссара по информатизации опубликовало документ под названием «Руководство по осуществлению анализа данных и национальным принципам обеспечения конфиденциальности»⁸⁹. Особое значение в данном контексте приобретает деятельность Австралийской комиссии по правам человека, которая издала документ, ключевым вопросом которого стала возможность австралийского законодательства защищать права человека при разработке и использовании новых технологий⁹⁰.

Безусловный интерес вызывают предложенные в 2019 году Научно-технической исследовательской организацией Содружества этические принципы использования технологий ИИ⁹¹. Среди них стоит обозначить такие принципы, как:

— принцип генерации преимуществ. Система ИИ должна генерировать преимущества для людей и не должна создавать неоправданные расходы;

— принцип отсутствия вреда. Системы ИИ не должны быть направлены на причинение вреда или введение в заблуждение людей и должны функционировать таким образом, чтобы свести к минимуму возможные негативные последствия;

— принцип нормативного соответствия. Система искусственного интеллекта должна соответствовать всем необходимым международным, а также национальным австралийским стандартам;

— принцип защиты конфиденциальности. Любая система, включая системы искусственного интеллекта, должна обеспечивать защиту персональных данных людей, а также предотвращать утечку данных, которая могла бы привести к негативным репутационным и психологическим последствиям, причинению материального, морального или иного вреда человеку;

— принцип справедливости. Разработка или использование системы искусственного интеллекта не должны приводить к несправедливой дискриминации в отношении отдельных лиц, сообществ или групп;

— принцип транспарентности. Люди должны быть проинформированы об использовании машинного алгоритма при принятии решений, а также о том, какая информация используется алгоритмом для принятия решений;

— принцип состязательности. Данный принцип предполагает возможность физического лица оспорить решение системы ИИ;

— принцип подотчетности. Люди и организации, ответственные за создание и внедрение искусственного интеллекта, должны обеспечить идентифицируемость алгоритма и должны нести ответственность за действие этого алгоритма.

В эпоху пандемии власти Австралии не подвергли сомнению предложенные в обозначенных документах меры и принципы применения технологий искусственного интеллекта. Как и в случае с Европейским Союзом, предполагается, что данные декларативные положения приобретут «нормативное» звучание.

Сингапур. Государственное регулирование ИИ в Сингапуре берет свое начало в 2017 году с учреждением национальной программы по развитию искусственного интеллекта «AI Singapore»⁹², целью проведения которой стало объединение усилий по совершенствованию технологий ИИ. Данная программа объединяет все сингапурские научно-исследовательские институты и динамичную систему стартапов и компаний, разрабатывающих продукты ИИ, чтобы развивать знания, создавать инструменты и продвигать таланты для поддержки усилий государства в области ИИ.

Управление Программой осуществляется общегосударственным партнерством, включающим Национальный исследовательский фонд (NRF), Совет по экономическому развитию, Управление по развитию средств массовой информации Infocomm, SGInnovate и интегрированные информационные системы здравоохранения⁹³.

В 2018 году Комиссия по защите персональных данных опубликовала Дискуссионный документ по искусственному интеллекту (ИИ) и персональным данным — содействие ответственному развитию и внедрению ИИ. Документ содержит предварительный анализ отдельных вопросов, имеющих отношение к коммерческой разработке и принятию решений в области ИИ. Цель документа — создать почву для обсуждения вопросов этики, управления и защиты прав потребителей, в том числе вопросов, связанных с коммерческим внедрением ИИ на систематической и структурированной основе⁹⁴.

Дискуссионный документ содержит два основополагающих принципа ответственного ИИ:

А) решения, принимаемые системами ИИ, должны быть основаны на соблюдении требований объяснимости, транспарентности и справедливости, с тем чтобы любое лицо могло доверять этим решениям и быть уверенным в их правильности;

Б) человекоориентированность систем ИИ⁹⁵.

Данный документ направлен на обеспечение ответственной разработки и принятия решений в области искусственного интеллекта, а также о смягчении потенциальных рисков и негативных последствий. Сингапурским организациям было предложено адаптировать этот документ для их внутреннего использования⁹⁶.

Сингапур смог создать соответствующую институциональную основу для разработки этических правил использования технологий ИИ. В 2018 году был учрежден Консультативный совет по этическому использованию ИИ и данных для консультирования и работы с соответствующим органом государственной власти по вопросам ответственной разработки и внедрения ИИ⁹⁷.

Главное предназначение данного Совета — оказание содействия Управлению по развитию средств массовой информации Infocomm (IMDA) в привлечении заинтересованных сторон по вопросам, которые поддерживают развитие потенциала и структур управления ИИ. Такими заинтересованными сторонами могут выступать советы по этике коммерческих предприятий по этическим и смежным вопросам, возникающим в связи с использованием частным сектором искусственного интеллекта и данных, представители потребителей, а также представители коммерческих организаций.

Республика Корея (Южная Корея). В Южной Корее развита индустрия робототехники. В 2008 году Национальное Собрание приняло Закон о разработке и продвижении интеллектуальных роботов для разработки и продвижения политики устойчивого развития индустрии интеллектуальных роботов⁹⁸. Таким образом, Республика Корея оказалась в числе сравнительно немногих государств за десятилетие до «бума» Стратегий по развитию ИИ, смогла принять полноценный нормативный акт по вопросам внедрения новых технологий в жизнь человека. В соответствии с указанным выше законом «интеллектуальный робот» представляет собой «механическое устройство, которое воспринимает внешнюю среду для себя, распознает обстоятельства и движется самостоятельно». На основе законодательного акта корейское Правительство сформулировало национальные планы развития и распространения интеллектуальных роботов в 2009 и 2014 годах⁹⁹.

Закон предусматривает возможность разработки и принятия на правительственном уровне Хартии по этике интеллектуальных роботов¹⁰⁰. Что же должна представлять собой такая Хартия? Согласно корейским законодателям, Хартия представляет собой «кодекс поведения, установленный для лиц, участвующих в разработке, производстве и использовании интеллектуальных роботов, с целью предотвращения различного рода вредных или неблагоприятных последствий, таких как нарушение общественного порядка, которые могут возникнуть в результате развития функций и интеллекта роботов, а также для обеспечения того, чтобы интеллектуальные роботы способствовали повышению качества жизни людей»¹⁰¹.

Роботы и технологии ИИ, по мнению представителей корейского правительства, должны были разрабатываться, в первую очередь, в области автономных транспортных средств и здравоохранения. Во всяком случае, так было предусмотрено соответствующей программой 2016 года¹⁰². В 2018 году была издана новая Стратегия развития индустрии интеллектуальных роботов вместе с четырьмя планами действий¹⁰³. Планы содержат призыв к ускорению расширения рынка с помощью сервисных роботов при одновременном расширении возможностей спроса и предложения в отрасли. Здесь огромная роль должна быть отведена образовательной системе, в рамках которой осуществляются программы подготовки специалистов в области искусственного интеллекта¹⁰⁴.

Австралия, Сингапур и Южная Корея как государства, входящие в Ассоциацию государств Юго-Восточной Азии, содержат близкие подходы к правовому регулированию искусственного интеллекта. Любопытно, что одной из передовых стран в области нормативной регламентации сферы ИИ стала Республика Корея, которая уже с 2008 года начала создавать продвинутую нормативно-правовую базу ИИ. Другие государства в основном сконцентрировались на разработке программных документов, в том числе вполне конкретных программ финансирования разработки технологий ИИ. Безусловно, такие разработки смогут сыграть позитивную роль в деле минимизации последствий мировой эпидемии COVID-19, а также, возможно, предотвратить возникновение новых пандемий в будущем.

Соединенные Штаты Америки. Хотя пандемия COVID-19 явилась бедствием для всего человечества, страна, которая лидирует по количеству жертв болезни и по количеству ее летальных исходов, это США. На момент написания этой монографии количество американцев, заразившихся коронавирусом, составило около одного миллиона двухсот тысяч человек, а количество летальных исходов — порядка семидесяти тысяч. Пандемия опасна и в экономическом отношении. Люди теряют работу, промышленность и бизнес не могут нормально функционировать. Поэтому американский законодатель проявляет особую активность, пытаясь внести свою лепту в борьбу с пандемией. В качестве примера можно привести некоторые совсем новые законы и законопроекты:

1) Закон о дополнительных ассигнованиях и мерах готовности противостоять коронавирусу¹⁰⁵, представленный Конгрессом 4 марта 2020 г. и подписанный Президентом США уже 6 марта 2020 г. Закон предоставил федеральным агентствам дополнительное финансирование в размере 8,3 млрд долларов США для противодействия вспышке коронавируса. Эта сумма должна быть потрачена на разработку вакцин, медикаментов, грантов учреждениям общественного здравоохранения, на дотации малому бизнесу и помощь системам здравоохранения других стран.

2) Закон о первостепенных мерах защиты семей от коронавируса, представленный Конгрессом 11 марта 2020 г.¹⁰⁶ и подписанный Президентом США уже 18 марта 2020 г. Этот законопроект гарантирует бесплатное тестирование на коронавирус, устанавливает оплачиваемый отпуск, повышает уровень страхования на случай безработицы, расширяет инициативы в области продовольственной безопасности и увеличивает федеральное финансирование Medicaid (государственная программа медицинской помощи нуждающимся).

3) Закон о помощи в условиях эпидемии коронавируса, минимизации ущерба и экономической безопасности¹⁰⁷, после представления Конгрессом подписанный Президентом 27 марта 2020 г. Этот закон предписывает выделение дотаций на борьбу с коронавирусом на сумму в два триллиона долларов. Закон устанавливает выделение американцам, которые зарабатывают 75 тысяч долларов в год или меньше, суммы в 1200 долларов; увеличение пособия по безработице на 600 долларов в неделю на протяжении четырех месяцев; выделение 100 миллиардов долларов больницам и поставщикам медицинских услуг, а также на увеличение возмещения услуг Medicare (национальная программа медицинского страхования в США для лиц от 65-летнего возраста и старше) за лечение коронавируса; предоставление 750 миллионов долларов продовольственным банкам, государству Пуэрто-Рико и другим странам, ассоциированным с США для оказания продовольственной помощи и осуществления программ по распределению продуктов питания в резервациях американских индейцев; выдачу 500 миллиардов долларов федеральными государственными кредитами или путем государственных инвестиций предприятиям, штатам и муниципалитетам, а также выделение 32 миллиардов долларов авиационной отрасли; снижение ставки для тех, у кого есть ипотека с федеральной поддержкой; отсрочку платежей по студенческим кредитам.

На основании вышеперечисленных актов легко заметить, что правительство США выделяет огромные средства на борьбу с коронавирусом, часть из которых предназначена для медицинского сектора. Разработка вакцин, лекарств и иных средств для борьбы с коронавирусом потребует задействовать множество специалистов, лабораторий и самых современных технологий и оборудования. Но для того, что бы ускорить разработку «панацеи» от COVID, недостаточно будет финансовых дотаций и человеческих усилий. В борьбу с пандемией должен быть привлечен Искусственный Интеллект. В США прекрасно осознают этот факт и, вероятно, в скором времени законодательство в области ИИ получит мощный импульс развития в медицинской сфере.

Технологические и медицинские компании в США растут и модернизируются, чтобы справиться с проблемами, созданными пандемией COVID-19, во многих случаях обращаясь к искусственному интеллекту и суперкомпьютерам в своих усилиях по разработке жизненно важных методов лечения этого заболевания. В конце марта 2020 года Белый дом объявил о создании консорциума высокопроизводительных вычислений COVID-19 (COVID-19 High Performance Computing Consortium )¹⁰⁸, объединившего лидеров отрасли в области искусственного интеллекта с национальными лабораториями и учеными, чтобы «значительно ускорить темпы развития инноваций и научных открытий, служащих борьбе против коронавируса». В частности, член консорциума компания Google поделилась структурами вирусных белков, сгенерированных созданной ей платформой ИИ, в базах данных открытого доступа, чтобы ускорить процесс идентификации вакцины. Другой член Консорциума, медицинская компания ImmunoPrecise объявила об использовании ею ИИ для разработки иммунотерапии для тех, кто заражен коронавирусом.

Рассмотрим пример типичной задачи исследований в борьбе с коронавирусом, решение которой, по мнению Консорциума, невозможно без применения ИИ.

В ответ на вспышку COVID-19 Консорциум применяет метод для изучения последней мутации белка шипа коронавируса человека (SARS-CoV-2), белка-хозяина, с которым он связывается (рецептор ACE2), и фермента-хозяина, используемого для сравнения (клеточная сериновая протеаза TMPRSS2). Сравнивая эти структуры с аналогичными механизмами, использовавшимися в предыдущих разновидностях коронавируса человека (например, MERS-CoV, SARS-CoV), идентифицируются конкретные области белка SARS-CoV-2, рецептора ACE2 и TMPRSS2, которые потенциально могут служить в качестве «мишени» для воздействия медикамента. Этот исследовательский процесс осуществляется и анализируется ИИ¹⁰⁹.

Без помощи искусственного интеллекта человеку придется тяжело в борьбе с пандемией. Анализ гигантских объемов данных, моделирование вакцины и медикаментов, предсказание мутаций вируса в будущем и многое другое невозможно осуществить в сжатые сроки без использования ИИ.

Мощный импульс развитию и внедрению ИИ, в том числе и в области медицины, дал Исполнительный Указ Президента США № 13859, анонсирующий инициативу США в области ИИ, американскую национальную стратегию по ИИ. В исполнительном указе говорится, что одна из задач ИИ — это защита от угроз национальной безопасности. Безусловно, пандемия коронавируса, повлекшая большое количество жертв и огромный ущерб американской экономике, такой угрозой является. Поэтому концепция использования ИИ в борьбе против пандемии идеально вписывается в американскую национальную стратегию по ИИ.

Центры Medicare & Medicaid Services (CMS) Центр инноваций Medicare и Medicaid (Инновационный центр) объявил о начале конкурса «Результаты в области здравоохранения для искусственного интеллекта» в сотрудничестве с Американской академией семейных врачей и Фондом Лоры и Джона Арнольдов. В рамках конкурса CMS AI Health Outcomes Challenge будет выделено до 1,65 млн долларов США для стимулирования дальнейшего прогресса в области ИИ для здравоохранения ускорения разработки реальных приложений для этой технологии. Участники будут анализировать большие базы данных о здравоохранении и разрабатывать предложения, модели, основанные на ИИ, структуры, которые точно прогнозируют незапланированные госпитализации, а также побочные эффекты.

В целях устранения барьеров для инноваций в области ИИ в 2018 году Управление по санитарному надзору за качеством пищевых продуктов и медикаментов (FDA) впервые разрешило маркетинг технологии ИИ, которая может обнаруживать проблемы со зрением, вызванные диабетом. В том же году FDA также разрешила продавать программное обеспечение на основе искусственного интеллекта, которое может помочь медицинским работникам быстрее обнаруживать переломы запястья. Кроме того, FDA вместе с Центрами по контролю и профилактике заболеваний (CDC) в партнерстве продвигали исследования в области машинного обучения и обработки естественного языка, создавая бесплатные инструменты, которые улучшат сбор клинических данных. В 2019 году FDA начало разработку адаптивной среды на основе жизненного цикла продукта для интеллектуального программного обеспечения в медицинских устройствах.

Национальный институт здоровья (NIH) изучает множество возможностей для ИИ ускорить медицинские достижения в области биомедицинских исследований. NIH располагает большими наборами данных, полученными в результате таких проектов, как Проект по микробиому человека NIH и Программа исследований «Все мы». Эти наборы данных предоставляют ИИ прекрасную возможность способствовать новым открытиям. NIH недавно создала рабочую группу по ИИ для изучения способов наилучшего использования существующих данных и использования потенциала ИИ для развития биомедицинских исследований и медицинской практики».

Из вышеизложенного следует, что ориентация использования ИИ в борьбе с коронавирусом имеет мощную политическую и правовую базу.

В США патентное право, к сожалению, порою тормозит развитие технологий и инноваций. Но всестороннему внедрению ИИ в сферу борьбы с коронавирусом поспособствует реформа патентного права, вызванная принятием закона Лехи-Смита от 2011 года¹¹⁰. В марте 2013 года США стали практиковать принципиально новую систему регистрации патентов. Алгоритм «если первым изобрел, то патент твой» («first-to-invent»), поменялся на алгоритм «если первым подал заявку, то патент твой» («first-to-file»). Безусловно, новая система патентования ускорит процессы изобретения производства и внедрения новых систем ИИ, направленных на борьбу с пандемией коронавируса, как в самих США, так и в других странах.

Как же развивается законодательство США об ИИ в условиях пандемии? Члены комитета Палаты представителей по науке, космосу и технологиям представили Закон о национальной инициативе в области искусственного интеллекта (далее — NAIIA) 12 марта 2020 года¹¹¹. Законопроект должен заинтересовать растущее число компаний, занимающихся цифровым здравоохранением, и других организаций, стремящихся извлечь выгоду из преимуществ ИИ. В NAIIA подчеркивалось следующее:

1. ИИ — это инструмент, который имеет возможности изменить и, возможно, трансформировать каждый сектор экономики США и общества.

2. Федеральное правительство должно продолжать играть важную роль в продвижении исследований, разработок, стандартов и образовательных мероприятий в области ИИ через координацию и сотрудничество между правительством, научными кругами и частным сектором для использования интеллектуальных, физических и цифровых ресурсов каждого участника.

3. Федеральное правительство испытывает недостаток в законодательстве о возможностях ИИ и его потенциала влиять на различные социальные и номинальные секторы, включая этические проблемы, национальные вопросы, вопросы национальной безопасности и изменения на рынке труда.

4. Исследователи из академических, федеральных лабораторий и большая часть частного сектора ограничены в доступе ко многим высококачественным базам данных, вычислительным источникам или к реальным тестовым средам для проектирования ИИ, и тем самым лишены возможности создавать и внедрять безопасный и надежный ИИ.

5. Негативное влияние отсутствия стандартов и тестов для систем искусственного интеллекта, которые представители научных кругов, а также государственный и частный секторы могли бы использовать, чтобы оценить производительность этих систем перед и после их внедрения.

6. ИИ становится все более междисциплинарной областью, где применяется опыт научных и других дисциплин, которые традиционно действуют разобщенно и продолжают сталкиваться с культурными и национальными барьерами, препятствующими крупномасштабному сотрудничеству.

7. Текущих федеральных инвестиций и финансирования в значительной степени недостаточно для стимулирования и поддержки крупномасштабного междисциплинарного и государственно-частного сотрудничества, которое необходимо для создания передовых надежных систем ИИ в США.

8. Образовательные возможности США в области передовых областей исследований сталкиваются с серьезными проблемами. Сюда относится не только область исследований ИИ. В американской научной среде не хватает полового и расового разнообразия, что порою вызывает конфликты среди преподавателей, и может негативно сказаться на качестве образования будущих поколений студентов, изучающих искусственный интеллект.

9. Чтобы поддержать создание надежных систем искусственного интеллекта во всех областях и на благо всех американцев, Федеральное Правительство должно предоставить достаточные ресурсы и использовать свою «объединяющую» силу для содействия росту «человеческого капитала», исследований и инновационного потенциала в научных кругах, некоммерческих научно-исследовательских организациях, компаниях всех масштабов и во всех секторах Федерального правительства.

NAIIA — это новая попытка улучшить координацию между федеральными агентствами США с целью поддержки инноваций в области ИИ. Именно поэтому в Законопроекте были перечислены недостатки существующей системы. Законопроект устанавливает дерегулирующий подход к ИИ, например, поощряя разработку добровольных стандартов его надежности и оценки рисков. Такой подход к регулированию согласуется с буквой и духом Исполнительного Указа Президента США «Поддержание американского лидерства в области искусственного интеллекта»¹¹². Он также гармонизируется с одним из ключевых проектов администрации Президента «Регулирование применения искусственного интеллекта» (проект руководства ИИ), в котором излагаются 10 принципов высшего уровня, которые федеральные агентства должны учитывать при предложении новых регулирующих или не регулирующих подходов к использованию частного сектора в области ИИ технологий. Это:

1. Общественное доверие к ИИ. Ожидается, что ИИ окажет положительное влияние на все секторы социальной и экономической жизни, включая занятость, транспорт, образование, финансы, здравоохранение, личную безопасность и производство. В то же время, приложения ИИ могут создавать риски нарушения конфиденциальности, индивидуальных прав, автономии и гражданских свобод, которые должны быть тщательно оценены и должным образом учтены. Дальнейшее восприятие ИИ обществом будет в значительной степени зависеть от общественного доверия к нему и от его признания. Поэтому важно, чтобы нормативные и ненормативные подходы правительства к ИИ были надежны и достоверны, что и будет способствовать доверию общества к искусственному интеллекту. Соответствующий нормативный или ненормативный ответ на угрозу конфиденциальности и другие риски должен обязательно зависеть от характера представленного риска и соответствующих мер по его снижению.

2. Участие общественности. Участие общественности, особенно в тех случаях, когда AI использует информацию о лицах, улучшит подотчетность соответствующего агентства и результаты регулирования, а также повысит доверие общественности. Агентства должны предоставлять широкие возможности для общественности доносить свое мнение и принимать участие во всех этапах процесса нормотворчества, насколько это возможно в соответствии с требованиями законодательства (включая юридические ограничения на участие в определенных ситуациях, например, национальная безопасность, предотвращающая неизбежную угрозу или реагирование на чрезвычайные ситуации). Агентствам также рекомендуется, насколько это законно, информировать общественность и содействовать информированности и широкому распространению стандартов, равно как и созданию других информативных документов.

3. Научная целостность и качество информации. Правительственные нормативные и ненормативные подходы к применению ИИ должны использовать научно-техническую информацию и процессы. Агентства должны тщательно хранить информацию, независимо от того, произведена ли она правительством или приобретена правительством у третьей стороны, так как эта информация, вероятно, окажет существенное влияние на важные решения государственной политики или частного сектора (в том числе решения, принимаемые потребителями). В соответствии с принципами научной добросовестности в процессах нормотворчества и руководства, агентства должны разрабатывать регулирующие подходы к ИИ таким образом, чтобы поддерживать баланс между принятием верных политических решений и поддержанием общественного доверия к ИИ. Лучшие способы должны включать в себя прозрачное изложение сильных и слабых сторон применения ИИ, предполагаемых оптимизаций или надлежащих результатов. Агентства также должны помнить, что для того, чтобы ИИ давал предсказуемые, надежные и оптимизированные результаты, данные, используемые для обучения его системы, должны быть достаточного качества для предполагаемого использования.

4. Оценка и управление рисками. Нормативные и ненормативные подходы к ИИ должны основываться на последовательном применении оценки рисков и управления рисками в различных учреждениях и с помощью различных технологий. Нет необходимости снижать все возможные риски; фактически основополагающий принцип регуляторной политики заключается в том, что все виды деятельности связаны с компромиссами. Вместо этого следует использовать подход, основанный на оценке риска, для определения того, какие риски являются приемлемыми, а какие представляют опасность неприемлемого вреда или вреда, убытки от которого будут больше, чем ожидаемые выгоды. Агентства должны быть «прозрачными» в своих оценках риска и пересматривать свои предположения и выводы через соответствующие промежутки времени, чтобы быть полностью подотчетными обществу и государству в целом. Соответственно, масштабы и характер последствий в случае отказа ИИ или его инструментов, послужили бы во благо, сигнализируя об уровне и типе регулирующих усилий, которые подходят для выявления и снижения рисков. В частности, агентства должны следовать указаниям Исполнительного Указа 12866 «Нормативное планирование и анализ»¹¹³, чтобы учитывать степень и характер рисков, связанных с различными видами деятельности в пределах их юрисдикции. Такой подход, при необходимости, позволит избежать основанных на боязни рисков и неоправданно осторожных подходов к регулированию ИИ, которые могут неоправданно препятствовать инновациям.

5. Преимущества и затраты. При разработке нормативных и ненормативных подходов агентства часто рассматривают применение и развертывание ИИ в уже регулируемых отраслях. Предположительно, таких значительных инвестиций не произойдет, если они не предложат значительный экономический потенциал. Как и во всех технологических переходах такого рода, внедрение ИИ также может породить уникальные проблемы, к которым нужно быть готовыми. В некоторых случаях мотивации ИИ могут быть неясными, что приводит к тому, что учреждения должны в соответствии со своими полномочиями оценивать выгоды, издержки и эффекты распределения, связанные с любым выявленным или ожидаемым методом подотчетности. Исполнительный указ 12866 призывает агентства «выбирать те подходы, которые максимизируют чистую выгоду (включая потенциальные экономические, экологические преимущества, общественное здравоохранение, безопасность и другую пользу; распределительное воздействие; и справедливость)». Агентствам следует, в соответствии с законодательством, тщательно учитывать все социальные издержки, выгоды и эффекты распределения, прежде чем рассматривать правила, связанные с разработкой и развертыванием инструментов для искусственного интеллекта. Такое рассмотрение будет включать потенциальные выгоды и издержки использования ИИ, который обучается и меняет сам себя. Агентства также должны учитывать критические зависимости при оценке затрат и выгод от ИИ, поскольку технологические факторы (такие как качество данных) и изменения в общественных процессах, связанные с внедрением ИИ, могут изменять характер и величину рисков и выгод. В тех случаях, когда сравнение с существующей системой или процессом недоступно, следует также оценить риски и затраты, связанные со сбоями системы.

6. Гибкость. При разработке нормативных и ненормативных подходов агентствам следует использовать основанные на характеристиках ИИ гибкие подходы, которые могут адаптироваться к быстрым изменениям и обновлениям приложений ИИ. Жесткие, основанные на дизайне правила, которые пытаются предписать «априори» технические спецификации приложений ИИ, будут в большинстве случаев нецелесообразными и неэффективными, учитывая ожидаемые темпы развития ИИ и возникающую в результате потребность агентств реагировать на новую информацию и доказательства. Целевые схемы оценки соответствия агентств по защите здоровья и безопасности, конфиденциальности и других ценностей будут иметь большое значение для успешного и гибкого подхода, основанного на результатах. Чтобы продвигать американские инновации, агентства должны учитывать международное использование ИИ, с тем чтобы американские компании не были ущемлены режимом регулирования США.

7. Справедливость и недискриминация. Агентства должны открыто рассмотреть влияние, которое инструменты ИИ могут оказать на возникновение дискриминации. Инструменты искусственного интеллекта имеют потенциал снижения современной дискриминации, вызванной субъективностью человека. В то же время, приложения могут, в некоторых случаях, совершать действия, которые приводят к дискриминационным результатам или решениям, которые подрывают доверие общественности к ИИ. При рассмотрении нормативных или ненормативных подходов, связанных с ИИ, агентства должны в соответствии с законом рассматривать вопросы справедливости и запрета дискриминации в отношении результатов и решений, принимаемых рассматриваемым инструментом ИИ. Это может снизить уровень незаконной, несправедливой или иной непреднамеренной дискриминации по сравнению с существующими процессами.

8. Раскрытие информации и прозрачность. Помимо улучшения процесса нормотворчества, прозрачность и раскрытие информации могут повысить доверие общественности к инструментам ИИ. Иногда такие раскрытия могут включать в себя определение, когда ИИ используется, например, если это необходимо, для решения вопросов о том, как приложение влияет на конечных пользователей. Агентства должны знать, что некоторые применения ИИ могут повысить автономность человека. Агентства должны тщательно рассмотреть вопрос о достаточности существующих или развивающихся правовых, политических и нормативных условий, прежде чем рассматривать дополнительные меры по раскрытию информации и прозрачности. То, что представляет собой надлежащее раскрытие и прозрачность, зависит от контекста, в зависимости от оценки потенциального вреда, масштаба этого вреда, технического уровня техники и потенциальных преимуществ применения ИИ.

9. Безопасность и защита. Агентства должны содействовать разработке систем ИИ, которые являются безопасными, надежными и работают по назначению, и поощрять рассмотрение вопросов безопасности и защиты на протяжении всего процесса проектирования, разработки, развертывания и эксплуатации ИИ. Агентства должны уделять особое внимание действующим мерам контроля, чтобы обеспечить конфиденциальность, целостность и доступность информации, обрабатываемой, хранящейся и передаваемой системами ИИ. Агентства должны уделять дополнительное внимание методам обеспечения системной устойчивости и недопущению использования системы искусственного интеллекта злоумышленниками, что может вызвать риски для кибербезопасности, возникающие в результате работы ИИ, равно как и неправомерное использование ИИ в отношении технологии ИИ регулируемого субъекта. При оценке или внедрении ИИ агентства должны учитывать любые потенциальные риски для безопасности и защиты, а также риск возможного злонамеренного развертывания и использования инструментов ИИ.

10. Межведомственная координация.

Согласованный и общегосударственный подход к надзору за ИИ требует межведомственной координации. Агентства должны координировать свои действия друг с другом, чтобы делиться опытом и обеспечивать последовательность и предсказуемость политики, связанной с искусственным интеллектом, которая продвигает американские инновации и рост в области искусственного интеллекта, одновременно обеспечивая надлежащую защиту конфиденциальности, гражданских свобод и американских ценностей. Когда Управление по информации и регулированию (OIRA) определит проект регулирующего действия, относящегося к ИИ, как «значительный» для целей межведомственного анализа, в соответствии с Распоряжением 12866, OIRA обеспечит, чтобы все агентства, потенциально затронутые или заинтересованные в конкретном действии, имели возможность внести свой вклад.

Восемьдесят один человек и ряд юридических лиц представили комментарии к проекту «Регулирование применения искусственного интеллекта». Недавно выпущенный годовой отчет администрации Президента США дает исчерпывающий обзор того, как проект по AI вписываются в более широкую национальную стратегию ИИ.

Хотя в NAIIA предусматривался и администрация Президента США применила не слишком жесткий подход к регулированию ИИ, другие законодательные предложения как на уровне штатов, так и на федеральном уровне, такие как Калифорнийский закон об ответственности за автоматизированные системы принятия решений от 2020 года¹¹⁴, предусматривают более жесткие требования к регулированию ИИ. Кроме того, недавно Федеральная торговая комиссия (FTC) опубликовала сообщение в своем блоге «Использование искусственного интеллекта и алгоритмов», в котором, среди прочего, содержатся методы руководства FTC, в настоящее время применимые к ИИ и его алгоритмам. Эти методы значительно более жесткие, чем те, которые излагаются в проекте Д. Трампа.

США далеко не единственная страна, уделяющая достаточно большое внимание ИИ. Например, Европейская комиссия недавно выпустила «Белую книгу», в которой изложены предлагаемые рамки для регулирования ИИ. Белая книга отражает приверженность президента Европейской комиссии выработать законодательное предложение о «скоординированном европейском подходе к человеческим и этическим последствиям применения ИИ».

Анализ NAIIA свидетельствует, что законопроект будет поддерживать инновации в области искусственного интеллекта в США различными способами, включая федеральное финансирование.

Введение NAIIA последует за введением других федеральных и штатных законодательных предложений и постановлений, касающихся ИИ. Некоторые из этих предложений основаны на «мягком» подходе к регулированию искусственного интеллекта, аналогичном NAIIA, в то время как другие предлагают более императивный подход. Законодательство об ИИ в условиях пандемии не является для Конгресса США приоритетным, однако такие законопроекты, как NAIIA, дают представление о том, какие дебаты могут сложиться после кризиса.

Следует иметь в виду, что вопросы, связанные с ИИ, имеют самое прямое отношение к борьбе с коронавирусной пандемией, когда время дорого как никогда, когда каждый день уносит тысячи человеческих жизней. Без помощи ИИ борьба человека с эпидемией может сильно замедлиться или быть проигранной. Мы верим, что это одна из причин, почему NAIIA «установит скоординированную федеральную инициативу по ускорению исследований и разработок ИИ». На основе законопроекта также планируется создать «Центр передового опыта в области искусственного интеллекта», который будет консультировать и «содействовать усилиям федерального правительства по развитию инновационного использования искусственного интеллекта», а также Директор Управления по вопросам бюджета и управления Канцелярии Президента США издаст руководящие указания для федеральных агентств по разработке планов управления ИИ.

Кроме NAIIA в США активно разрабатываются и уже приняты на федеральном уровне и на уровне штатов и иные акты, влияющие на развитие и предоставляющие возможность использования ИИ в условиях пандемии. Так, Закон о правах на неприкосновенность частной жизни в режиме онлайн¹¹⁵ требует от IT телекоммуникационных компаний проводить ежегодные тесты «воздействия ИИ» на граждан, с целью установить, не нарушается ли их приватность онлайн инструментами ИИ.

На основании Закона о защите данных 2020 года¹¹⁶ планируется создать новое федеральное агентство, которому будет поручено проведение оценки воздействия «методов обработки данных с высокой степенью риска» в отношении граждан, включая «систематическую всестороннюю оценку персональных данных, основанную на их автоматизированной обработке». Новое агентство также будет регулировать «оценку прав потребителей» в отношении их рабочей занятости.

США — федеративное государство, где каждый штат имеет свои собственные полномочия, подчиняясь не только федеральному законодательству. Например, калифорнийский законопроект, упомянутый выше, потребует, чтобы Секретарь Агентства правительственных операций назначил рабочую группу по ИИ, которая будет отчитываться перед законодательным органом об «использовании, рисках, преимуществах и правовых последствиях, связанных с разработкой и внедрением ИИ в калифорнийских компаниях». Законопроект штата Вашингтон предписывает руководителю отдела по обеспечению конфиденциальности государственного учреждения «принять правила... в отношении разработки, закупок и использования автоматизированных систем принятия решений государственным учреждением»¹¹⁷.

В штате Вашингтон недавно был принят законопроект Сената 6280, который создает правовую основу, с помощью которой агентства могут использовать технологии распознавания лиц на благо общества, например, путем оказания помощи полиции в поиске пропавших или умерших людей. Впрочем, этот законопроект, с другой стороны, запрещает использование таких технологий, которое «угрожает демократическим свободам и подвергает риску гражданские свободы граждан».

В Калифорнии был принят законопроект 1215 Ассамблеи, который устанавливает трехлетний мораторий на использование правоохранительными органами любой биометрической системы наблюдения¹¹⁸.

Законодательный орган штата Мэриленд недавно принял законопроект 1202 Палаты представителей, который запрещает использование технологий распознавания лиц во время собеседования без согласия заявителя¹¹⁹.

Муниципалитеты городов особенно активно занимаются технологиями распознавания лиц путем введения или принятия законов или постановлений, направленных на регулирование использования таких технологий, что порою вступает в противоречие с федеральным законодательством и служит основанием для судебных тяжб.

Таким образом, анализ законодательных инициатив США, как и Российской Федерации, и ряда других государств и интегративных объединений в мире, свидетельствует об их заинтересованности в скорейшем законодательном закреплении, регулировании и внедрении систем ИИ.

Важным механизмом регулирования отношений в сфере использования искусственного интеллекта является этическое регулирование. Представляется, что разработка этических правил взаимодействия человека с искусственным интеллектом должна осуществляться на уровне Правительства Российской Федерации с активным привлечением Российской академии наук, профессиональных объединений и союзов, иных субъектов гражданского общества. Этическое регулирование в данной сфере не может ограничиваться только лишь рекомендациями по разработке этических стандартов субъектами, использующими искусственный интеллект. Необходима разработка единых централизованных этических правил, которые могли бы дополняться в рамках конкретных направлений использования тех или иных технологий искусственного интеллекта¹²⁰.

Анализ правового регулирования использования ИИ за рубежом свидетельствует, что принятые за несколько лет до начала пандемии акты в рассмотренных государствах становятся основой для легализации применения технологий ИИ в условиях пандемии. Можно выделить следующие направления такой легализации с учетом специфики мер, предпринимаемых странами в связи с борьбой с пандемией:

— использование систем ИИ для контроля за перемещением людей как внутри страны, так и с учетом трансграничных перемещений;

— контроль за соблюдением карантинных мер;

— контроль за соблюдением режима самоизоляции;

— контроль за соблюдением социального дистанцирования в общественных местах;

— использование систем ИИ для оказания образовательных услуг и осуществления управленческого функционала в государственном и коммерческом секторах;

— применение систем ИИ для оценки необходимости оказания финансовой поддержки физическим и юридическим лицам.

1.5. Правовое обеспечение и проблемы использования искусственного интеллекта в противодействии пандемии

Искусственный интеллект активно используется сегодня в борьбе с пандемией, вызванной коронавирусом COVID-19. Технология не только помогает поддерживать повседневную жизнь миллионов людей в изоляции, но и помогает бороться с эпидемией. В связи с продолжающимся его распространением для борьбы с эпидемией используются все новые формы использования ИИ.

Развитие пандемии способствовало и повышению активности национальных правительств в части регулирования комплекса общественных отношений. В Российской Федерации за последние месяцы приняты свыше 110 нормативных правовых и иных правовых актов¹²¹. Так, в США за март — апрель 2020 г. было предложено порядка 180 законопроектов по развитию законодательства в связи с пандемией COVID-19¹²².

На международном и национальном уровнях сегодня принимаются заявления, декларации и иные документы, призывающие общество к реализации ряда мер, направленных на противодействие пандемии COVID-19. Одним из ведущих направлений в данной сфере является развитие внедрения и использования инноваций, в том числе ИИ, робототехники и иных цифровых технологий. Национальные правительства активно сообщают об успехах в использовании технологий как в организации жизни в условиях пандемии, так и в помощи заболевшим и оказавшимся в тяжелой ситуации. Так, Федеральное агентство по управлению в чрезвычайных ситуациях США (FEMA) выпускает еженедельные сообщения об использовании инноваций в условиях пандемии COVID-19¹²³.

Важным направлением регулирования использования ИИ в условиях пандемии является сфера здравоохранения. В этом направлении ИИ активно используется в выявлении, разработке и внедрении новых методов лечения и вакцинации. Ключом к разработке вакцины является способность быстро и эффективно воссоздавать последовательность генома вируса и создавать его копию. Всего за один месяц ученые из Китая воссоздали последовательность генома вируса. Исследователи в Австралии создали выращенную в лаборатории копию вируса от инфицированного пациента. Одна из портфельных компаний Фонда Longevity Vision — компания Insilico Medicine — использовала систему ИИ в целях идентификации тысяч молекул потенциальных лекарств всего за четыре дня. Затем Insilico Medicine инициировала открытую политику и опубликовала обновленные результаты на своем веб-сайте, чтобы все исследователи могли бесплатно загрузить данные, что в конечном итоге будет способствовать глобальным усилиям по борьбе с эпидемией¹²⁴. ИИ сегодня активно используется для ускорения секвенирования геномов, более быстрой постановки диагноза, проведения анализов с помощью сканеров¹²⁵.

Представляется, что на государственном уровне сегодня важно разрабатывать