Реализация конституционных социальных прав и свобод с использованием искусственного интеллекта: проблемы правового регулирования, пределы и ответственность

В исследовании Е. Добролюбовой, О. Александрова, А. Ефимова[110], посвященном перспективам цифровой трансформации, подчеркивается необходимость устранения правовых и организационных барьеров как фактора успешности цифровой трансформации в отдельных отраслях, в том числе, и в образовании.

Проблемам рисков внедрения цифровых технологий в образование посвящено исследование Н. Б. Стрекаловой[111], в котором наряду с положительными сторонами цифровизации образования анализируются возможные негативные изменения в данной сфере (потеря базовых когнитивных компетенций, снижение общего уровня подготовки, сокращение потребности в «интеллектуальном» специалисте, уход от фундаментальности, перераспределение функций администрации вузов и преподавателей, высокие требования к психологическим качествам преподавателя, сокращение личных контактов, рост конфликтов, «утечка» талантливой молодежи и преподавателей за границу, сокращение контингента высшего образования, потеря статуса отечественного высшего образования, снижение контингента обучающихся).

Несмотря на активное развитие систем и технологий искусственного интеллекта, влияние цифровизации на реализацию прав человека, в настоящее время в Российской Федерации отсутствует специальное законодательное регулирование, учитывающее специфику применения технологий искусственного интеллекта в сфере образования.

В данной ситуации возникает концептуальная дилемма: уместно ли опережающее законодательное регулирование императивного использования технологий искусственного интеллекта в образовательном процессе или постепенное применение современных информационных технологий должно происходить гибко в зависимости от экономических, ресурсных, национальных и иных особенностей и возможностей образовательной организации и других субъектов образовательного процесса?

Стоит обратить внимание, что в Концепции развития регулирования отношений в сфере технологий искусственного интеллекта и робототехники до 2024 года первой задачей заявлено создание основ правового регулирования новых общественных отношений, формирующихся в связи с применением систем искусственного интеллекта и робототехники, имеющих преимущественно стимулирующий характер. Исходя из этого можно сделать вывод, что российское государство ориентировано на создание правовых регуляторов «мягкого императивного» характера, которые создают условия и мотивируют субъектов правоотношений к использованию технологий искусственного интеллекта.

Вместе с тем, определяя в Концепции первоочередные отраслевые направления регулирования использования искусственного интеллекта, необоснованно игнорируется сфера образования. В перечень основных отраслевых направлений, нуждающихся в правовой регламентации внедрения систем ИИ, отнесено законодательство Российской Федерации в сфере охраны здоровья граждан; государственного и муниципального управления; правовое регулирование ИИ в сфере транспорта, градостроительной деятельности, включая реализацию концепции «умного города» и в сфере промышленности. Это исчерпывающий перечень. Рассуждения позволяют предположить, как минимум, два варианта в обоснование такой ситуации. Во-первых, принятая до 2024 года Концепция на самом деле не предполагает развитие образовательного законодательства с учетом технологий искусственного интеллекта в этой сфере в ближайшие несколько лет (что сомнительно). Во-вторых, именно в сфере образования предполагается применять гибкий пошаговый вариант внедрения ИИ по усмотрению самой образовательной организации, используя риск-ориентированный подход, основанный на оценке размера потенциального вреда и необходимости принятия мер по минимизации соответствующих рисков.

Не акцентируя внимание на анализе имеющихся технологий и инновационных систем искусственного интеллекта, используемых в настоящее время в образовании. Их достаточно много и количество перманентно увеличивается. Выскажем свои суждения относительно отношений, возникающих при реализации гарантированного Конституцией РФ права на образование с использованием технологий искусственного интеллекта. Разумеется, в данном контексте речь идет об ИИ не как о субъекте конституционного права на образование, предлагается рассматривать ИИ в следующих двух аспектах.

1. Искусственный интеллект как технологии, позволяющие совершенствовать процесс обучения.

2. Искусственный интеллект как объект изучения в рамках образовательного процесса.

Нормативным правовым актом, конкретизирующим реализацию конституционного права на образование, является Федеральный закон от 29.12.2012 № 273-ФЗ «Об образовании в Российской Федерации»[112]. Текстуальный и содержательный анализ указанного закона показал, что до настоящего времени в нем не используются термины «технологии искусственного интеллекта», «системы искусственного интеллекта» и иные словосочетания, образованные с конструкцией «искусственный интеллект». Содержится статья, устанавливающая понятия и порядок реализации образовательных программ с применением электронного обучения и дистанционных образовательных технологий.

При этом под электронным обучением понимается организация образовательной деятельности с применением содержащейся в базах данных и используемой при реализации образовательных программ информации, всевозможных информационно-телекоммуникационных сетей, обеспечивающих передачу по линиям связи информации, взаимодействие обучающихся и педагогических работников. Под дистанционными образовательными технологиями понимаются образовательные технологии, реализуемые в основном с применением информационно-телекоммуникационных сетей при опосредованном (на расстоянии) взаимодействии обучающихся и педагогических работников.

Таким образом, государственная политика в сфере образования допускает возможность использования таких инновационных форм образовательной деятельности, как электронное обучение и дистанционные технологии[113]. Одновременно с использованием электронного обучения и дистанционных технологий образовательная организация обязуется создать электронную информационно-образовательную среду, обеспечивающую определенные условия для качественного и без барьерного освоения образовательной программы обучающимися[114].

Первые практики внедрения электронного обучения в Российской Федерации уже имеются. Например, в Москве активно используется МЭШ – Московская Электронная Школа[115]. Большинство образовательных организаций в условиях ограничений, вызванных пандемией в 2020 году, были вынуждены в оперативном темпе внедрять электронное и дистанционное обучение. Однако важно понимать, что это еще не ИИ, но уже первая попытка автоматизировать образовательный процесс. Сначала необходимо обеспечить каждого обучающегося персональным цифровым устройством, и только после этого «возможно получить цифровой образовательный след и базовый технологический фундамент для построения индивидуальных образовательных траекторий с использованием искусственного интеллекта»[116].

Легко обратить внимание, что ни при электронном обучении, ни при дистанционных технологиях не задействованы системы ИИ в широком смысле. Полагаем, что электронные технологии, дистанционные образовательные технологии и технологии искусственного интеллекта близкие, но не тождественные понятия. Определение первых двух содержится, как было указано, в федеральном законе «Об образовании в Российской Федерации», а юридическое понятие искусственного интеллекта впервые в нашем государстве было сформулировано в подзаконном акте – Указе Президента РФ от 10.10.2019 № 490 «О развитии искусственного интеллекта в Российской Федерации»[117], впоследствии оно перекочевало в Федеральный закон № 123-ФЗ[118].

В соответствии с указанными актами под искусственным интеллектом понимают комплекс технологических решений, который позволяет имитировать когнитивные функции человека и получать результаты, сопоставимые, как минимум, с результатами интеллектуальной деятельности человека. При этом отдельно отмечается, что имитация включает самообучение и поиск решений без заранее заданного алгоритма. Важно обратить внимание на то, что определение в полной мере охватывает доступные на данный момент виды искусственного интеллекта. В широком понимании: искусственный интеллект, работающий на основе заранее определенных задач (имеющихся знаний), и искусственный интеллект, работающий автономно, то есть технология, которая для выполнения задач может потенциально полностью заменить человека[119].

Определение отражает принципиальные характеристики искусственного интеллекта, которые выявляются из его определения:

• это комплекс технологий, а не одна технология;

• искусственный интеллект может самообучаться и искать решения без заранее заданных алгоритмов – это принципиальное его отличие от других технологий;

• искусственный интеллект может получать результаты, сопоставимые, как минимум, с результатами интеллектуальной деятельности человека – то есть в определении заложено, что потенциально искусственный интеллект может получать более совершенные результаты, чем получаемые человеком.

С принятием в 2019 году Национальной стратегии развития искусственного интеллекта на период до 2030 года Россия вошла в число стран, имеющих документы стратегического планирования в сфере искусственного интеллекта.

В упомянутой Национальной стратегией развития искусственного интеллекта на период до 2030 года указывается, что использование технологий искусственного интеллекта в социальной сфере способствует созданию условий для улучшения уровня жизни населения, в том числе за счет повышения качества услуг в сфере образования. При этом в Национальной стратегии конкретизируется, что понимается под повышением качества услуг в образовательной среде. А именно: адаптация образовательного процесса к потребностям обучающихся и потребностям рынка труда, системный анализ показателей эффективности обучения для оптимизации профессиональной ориентации и раннего выявления детей с выдающимися способностями, автоматизация оценки качества знаний и анализа информации о результатах обучения. Указанные процессы в перспективе будут реализовываться системами искусственного интеллекта.

Условно к правовым инструментам стимулирования внедрения технологий искусственного интеллекта в сферу образования можно отнести экспериментальную и инновационную деятельность, определение и содержание которых закреплено в ст. 20 федерального закона об образовании. Безусловно, цель указанных видов деятельности ориентирована на модернизацию и развитие системы образования. Гипотетически предполагая, что модернизация и развитие в настоящее время не мыслятся без включения в образовательный процесс технологий искусственного интеллекта, можно говорить о «скрытом содержании» перечисленных видов деятельности в сфере образования. Как указывается в коллективном Комментарии к Федеральному закону «Об образовании в Российской Федерации» «инновационная деятельность определяется как деятельность (включая научную, технологическую, организационную, финансовую и коммерческую), направленная на реализацию инновационных проектов, а также на создание инновационной инфраструктуры и обеспечение ее деятельности»[120].

В Государственной программе развития образования до 2025 года, утвержденной постановлением Правительства от 26.12.2017 № 1642, инновационная и экспериментальная составляющие выражены несколько по-иному, нежели в предыдущей аналогичной программе[121]. В рамках данной госпрограммы предусмотрена ведомственная целевая программа «Поддержка инноваций в области развития и мониторинга системы образования, обеспечение эффективности конкурсных механизмов реализации программных мероприятий в сфере образования». В ее цели входит обеспечение ежегодной поддержки не менее 20 стратегических инициатив и инновационных разработок, направленных на развитие региональных и муниципальных систем по вопросам развития и мониторинга системы образования.

Серьезным развитием в реализации конституционного права на образование в современных условиях может стать новый проект Правительства Российской Федерации по формированию цифровой образовательной среды. Основной его целью декларируется предоставление свободного доступа по принципу «одного окна» для всех категорий граждан, в том числе обучающихся по образовательным программам высшего образования и образовательным программам дополнительного профессионального образования, к онлайн-курсам, реализуемым различными организациями, осуществляющими образовательную деятельность, и образовательными платформами.

Заслуживает внимания не только стимулируемое Правительством Российской Федерации образование единой общедоступной цифровой образовательной среды, но и впервые введении в нормативное поле России таких терминов, как образовательные платформы, онлайн-курсы, паспорт и экспертиза онлайн-курса, персональная образовательная траектория, портал и другие, отражающие трансформацию права на образование в условиях информационно-цифровой реальности. Тем не менее, это только первые шаги в правовом регулировании использования технологий искусственного интеллекта при реализации права на образование.

Одним из субъектов образовательных отношений является обучающийся. В отношении него ИИ призван обеспечить доступность и качество образовательных услуг, системное и полное освоение компетенций по конкретной образовательной программе. Применение искусственного интеллекта действительно может на новом качественном уровне решить задачу сопровождения по индивидуальной образовательной траектории, которая должна динамически перестраивается по мере приобретения обучающимся компетенций. Роль живого педагога должна трансформироваться: от передатчика знаний в носителя философии изучаемого предмета. К сожалению, в настоящее время индивидуальная траектория обучения понимается узко и «технически примитивно»: в некоторых вузах обучающиеся могут выбирать самостоятельно предметы для изучения внутри своей образовательной организации, в других – могут обучаться на любых выбранных онлайн-курсах, которые им засчитывают по направлению обучения в вузе.

Важным направлением влияния ИИ на реализацию права на образование является изменение программ обучения и включение в перечень обязательно изучаемых дисциплин, предметов, связанных с ИИ как на школьном уровне, так на уровне высшего образования.

В конце января 2021 года Министерство просвещения Российской Федерации анонсировало введение в российской начальной школе обучения основам искусственного интеллекта. Новая дисциплина в рамках уроков информатика появится 1 сентября, а первые учебные материалы планируется подготовить к концу мая[122]. Об этом говорится в проекте дорожной карты развития искусственного интеллекта (ИИ) в России. Кроме того, уже с 2021 года во всех регионах будет проводиться всероссийская олимпиада по ИИ. Инициатива заслуживает одобрения и поддержки, однако ставит многочисленные вопросы: необходимость модернизации всей образовательной программы, начиная с начальных классов, подготовка кадров и методических разработок, по которым школьников будут учить основам искусственного интеллекта.

Процессы цифровой трансформации рассматриваются сегодня уже не как что-то фантастическое и неосуществимое, а становятся частью реальности, современным трендом и охватывают практически все социально-экономические отношения. Не случайно, что одним из приоритетов в развитии образования в Указе Президента РФ от 07.05.2018 № 204 «О национальных целях и стратегических задачах развития Российской Федерации на период до 2024 года»[123] называется «создание современной и безопасной цифровой образовательной среды».

Трудно оспаривать тот факт, что сегодня цифровые технологии создают и обеспечивают комплекс возможностей для улучшения качества образования. Однако интегрировать их в учебный процесс далеко не простая задача. Только лишь путем обеспечения образовательных организаций новыми цифровыми технологиями невозможно добиться высоких образовательных результатов. Цифровая трансформация образования возможна при условии решения проблемы преодоления цифрового разрыва. Цифровая трансформация отрасли образования – это качественное изменение как самого образовательного процесса, так и образовательной деятельности на основе освоения прорывных информационных технологий. С помощью цифровых технологий упрощается использование новых моделей организации и проведения учебной работы, которые ранее не использовались в силу сложности или невозможности их осуществления путем традиционных технологий взаимодействия и работы с информацией.

При этом, создание современной и безопасной цифровой образовательной среды сопряжено не только с внедрением, использованием и развитием в рамках образовательного процесса современных цифровых информационных технологий, но и предполагает необходимость исследования возникающих правовых и организационных барьеров для внедрения и использования таких технологий, а также сопряжено с определенного рода рисками.

Одним из таких серьезных барьеров цифровой трансформации образования является цифровой разрыв, который появляется во всех сферах, где внедряются цифровые технологии. Не составляют исключение и школы и университеты. При этом возникающий цифровой разрыв обостряет «традиционное» образовательное неравенство, связанное с разными культурными и социальными возможностями детей, принадлежащих к разным социальным группам. В настоящее время образовательные организации России в той или иной степени оснащены цифровым оборудованием. Однако все еще сохраняется неравенство в доступе к нему. При этом наличие оборудования еще не означает, что оно будет активно и эффективно используется в образовательном процессе.

Другим, не менее серьезным барьером для внедрения цифровых технологий является доступ учащихся к сети Интернет. В настоящее время образовательный процесс уже немыслим без доступа в глобальную информационную сеть. Однако его наличие зачастую существенно различается в зависимости от региона страны, а также от типов населенных пунктов. Жители средних и крупных городов как правило не испытывают проблем с доступом в Интернет, чего нельзя сказать о сельской местности. Доступ к Интернету для образовательных организаций также обязателен, как и наличие телефонной связи. Но, несмотря на определенную положительную динамику, наметившуюся в работе по подключению школ к Интернету, неравенство по-прежнему сохраняется. Сегодня в российских регионах все еще остается немало образовательных учреждений, которые не имеют доступа к сети Интернет. Таким образом, мероприятия по созданию материальных условий для цифровой трансформации образования должны продолжаться. Говоря о проблеме доступа в глобальную информационную систему учебных заведений, нельзя не коснуться также качества такого доступа. Высокоскоростной Интернет доступен сегодня далеко не всем образовательным организациям, особенно на уровне общеобразовательных школ. Высокая скорость доступа к Интернету – необходимое условие не только для того, чтобы иметь возможность получать дополнительные образовательные ресурсы из сети Интернет, но и для того, чтобы предоставлять образовательные услуги, отвечающие запросам современного информационного общества.

Не менее серьезными представляются и риски, с которыми сопряжена цифровая трансформация образования.

В своей резолюции 55/63 Генеральная Ассамблея ООН выразила обеспокоенность в связи с тем, что технический прогресс создал новые возможности для преступной деятельности, и в частности для преступного использования информационных технологий. В докладе по вопросу о праве на образование, подготовленному во исполнение резолюции 26/17 Совета по правам человека ГА ООН достаточно подробно освещаются проблемы и вызовы в области права на образование в эпоху цифровых технологий. В частности, в докладе отмечается, что использование цифровых технологий заключает в себе риск принижения значимости общечеловеческих ценностей в образовании и подрыва качества образования. Цифровые технологии отрицательно сказываются на функции образования, понижая способность учащихся логически и критически мыслить, принижая значимость общечеловеческих ценностей и прокладывая путь к меркантилизации образования. Злоупотребление технологиями может приводить к издевательствам в киберпространстве, криминальной деятельности и даже к терроризму. Самым серьезным риском в докладе названы сексуальные надругательства или сексуальная эксплуатация несовершеннолетних. Менее серьезными, но при этом не рассматриваемыми как положительные, являются риски, связанные с рекламными объявлениями, спамами, спонсорством, раскрытием персональных данных и контентом, который носит агрессивный, пронизанный насилием, предвзятый, расистский, порнографический, нежелательный и вводящий в заблуждение характер.

В исследованиях, посвященных перспективам цифровой трансформации образования в Российской Федерации, также содержится критический анализ рисков использование цифровых технологий в обучении. В частности, называются такие негативные изменения в развитии мозга и сознания, как «цифровое слабоумие» или «цифровая деменция», когда нарушаются когнитивные функции мозга и поражаются его отдельные участки. Более того, именно с компьютерным обучением эксперты связывают и мировой рост аутизма. Например, по мнению директора Центра геополитики Института фундаментальных и прикладных исследований О. Н. Четвериковой, сегодня отсутствуют независимые исследования, бесспорно доказывающие, что обучение стало более эффективным благодаря внедрению в школах компьютеров и смартбродов, но при этом замена физического мира виртуальной цифровой средой ведет к атрофии определенных участков мозга, потере когнитивных функций, утрате навыков мышлении и неспособности концентрировать внимание и не только запоминать, но и даже понимать прочитанное[124].

Н. И. Касперская – известный эксперт в области ИТ-безопасности в своем выступлении на Парламентских слушаниях в Государственной думе РФ, также обозначила основные риски «цифровой колонизации» и широкого внедрения во все сферы жизнедеятельности таких технологий, как уберизация, «большие данные», блокчейн, виртуальная реальность[125]. Прорыв в искусственном интеллекте, анализ «больших данных» сопряжен, по ее мнению, с навязыванием западных технологий, деградации собственных компетенций, потерей базовых когнитивных компетенций, снижением качества обучения, снижением личных контактов, ростом конфликтов, «утечкой» талантливой молодежи и преподавателей за границу, снижение общего уровня подготовки и др.

Вот далеко не полный перечень барьеров и рисков цифровизации образования. Цифровая трансформация образовательной сферы в Российской Федерации обусловлена преимущественно внешними факторами. Основным из них (факторов) является необходимость осуществления цифровизации экономики, которая выдвигает требования к цифровым навыкам и универсальным компетентностям современных работников.

Цифровые трансформации системы современного российского образования представляют собой своего рода ядро, вокруг которого должны формироваться новые педагогические инновационные и методики и происходить качественное улучшение результативности образовательного процесса. Однако в настоящее время основная проблема заключается в отсутствии четкого понимания путей реформирования российской системы образования. Использование цифровых технологий в все еще продолжает рассматриваться в отрыве от трансформации целей, организационных форм и методов учебной работы, что порождает их неэффективность., а, соответственно, не способствует повышению качества образования.

Таким образом, важнейшим условием эффективного внедрения цифровых технологий в образовательный процесс является осмысление возможного места этих технологий в системе российского образования и результативности их использования.

Исследование правовых проблем использования технологий искусственного интеллекта в реализации права на образование позволяет сделать следующие выводы.

1. Искусственный интеллект является неотъемлемым условием развития образовательных стандартов будущего. При этом говорить об искусственном интеллекте как о субъекте образовательных правоотношений достаточно рано, хотя алгоритмы создания чат-ботов по формированию и корректировки индивидуальной траектории обучения, создания искусственным интеллектом учебников и учебных пособий активно обсуждаются. В настоящее время в сфере образования искусственный интеллект проявляется в двух аспектах: как технологии устойчивого развития образования и как объект изучения в рамках образовательного процесса.

2. Проведенный анализ программных и стратегических документов Российской Федерации по развитию искусственного интеллекта в образовании показал, что, во-первых, в Концепции развития регулирования отношений в сфере технологий искусственного интеллекта и робототехники до 2024 года, необоснованно игнорируется сфера образования, которая не указана в числе первоочередных отраслевых направлений регулирования использования искусственного интеллекта. Такая ситуация не способствует устойчивому развитию образования в условиях информационно-цифровой реальности.