А. А. Шутова

Уголовно-правовая охрана создания и применения технологий искусственного интеллекта в здравоохранении

Монография

ebooks@prospekt.org

Информация о книге

УДК 343.3/.7:004.8:614.2

ББК 67.408:32.813:51.1

Ш97

Изображения на обложке с ресурса Shutterstock.com

Автор:

Шутова А. А., кандидат юридических наук, старший научный сотрудник Научно-исследовательского института цифровых технологий и права, доцент кафедры уголовного права и процесса Казанского инновационного университета имени В. Г. Тимирясова.

Рецензенты:

Бегишев И. Р., доктор юридических наук, доцент, заслуженный юрист Республики Татарстан, главный научный сотрудник Научно-исследовательского института цифровых технологий и права, профессор кафедры уголовного права и процесса Казанского инновационного университета имени В. Г. Тимирясова;

Майоров А. В., доктор юридических наук, доцент, заведующий кафедрой прокурорского надзора и организации правоохранительной деятельности Челябинского государственного университета.

В монографии исследуются теоретико-правовые основы и этические принципы создания и применения технологий искусственного интеллекта в здравоохранении, выявляются соответствующие криминальные риски. Формируются предложения по совершенствованию уголовного законодательства, применяемого для охраны общественных отношений в сферах разработки и использования медицинских изделий на основе технологий искусственного интеллекта. Особое внимание уделяется выработке моделей уголовной ответственности за вред, причиненный в процессе применения здравоохранительных технологий на основе искусственного интеллекта медицинскими работниками в отношении пациентов, а также за преступления, совершенные субъектами на этапе создания подобных технологий. Рассматриваются проблемы квалификации преступлений, совершаемых лицами, вовлеченными в процесс оборота (на всех этапах жизненного цикла) медицинских изделий на основе цифровой технологии.

Законодательство приведено по состоянию на 1 октября 2024 г.

Предназначена для юристов, медицинских работников, членов комитетов по клинической этике, специалистов по медицинской этике, представителей правотворческих органов, государственных ведомств, бизнес-сообществ и общественных организаций, пациентов, а также для широкого круга читателей, интересующихся вопросами цифровой трансформации системы здравоохранения.

УДК 343.3/.7:004.8:614.2

ББК 67.408:32.813:51.1

© Шутова А. А., 2024

© ООО «Проспект», 2024

Искусственный интеллект — это будущее не только России, но и всего человечества. Он несет в себе огромные возможности, но также и угрозы, которые трудно предсказать. Кто станет лидером в этой сфере, тот станет правителем мира.

Президент Российской Федерации
В. В. Путин

БЛАГОДАРНОСТЬ

Работа выполнена за счет гранта Академии наук Республики Татарстан, предоставленного молодым кандидатам наук (постдокторантам) с целью защиты докторской диссертации, выполнения научно-исследовательских работ, а также выполнения трудовых функций в научных и образовательных организациях Республики Татарстан в рамках Государственной программы Республики Татарстан «Научно-технологическое развитие Республики Татарстан».

ВВЕДЕНИЕ

Система здравоохранения подвержена кардинальным изменения вследствие процессов форсированной цифровизации в обществе. Цифровое здравоохранение в целом направлено на укрепление здоровья населения посредством использования инноваций, нацеленные на предоставление эффективных моделей оказания медицинской помощи населению.

В представленном исследовании поднимаются вопросы, связанные с выбором наиболее эффективной модели уголовно-правовой охраны общественных отношений, сопряженных с применением технологий искусственного интеллекта в сфере здравоохранения, а также осуществляется критический анализ выработанных и имеющихся в правовой науке подходов.

С учетом особой значимости сферы здравоохранения, в первую очередь направленной на охрану жизни и здоровья граждан, режим уголовно-правовой охраны на данный момент требует своевременной трансформации и выработки наиболее эффективной модели. Полагаем, что цифровые технологии и инновации должны не только способствовать позитивному развитию сферы здравоохранения, но и вызывать доверие у пациентов и медицинских работников, а также не создавать опасения по поводу их создания и применения.

На данный момент сложившийся правовой механизм может привести к тому, что медицинские организации могут отказаться от внедрения технологий искусственного интеллекта в клиническую практику под страхом привлечения их к административной ответственности, а их сотрудников — к уголовной. На основе изложенного предлагается выбрать оптимальную модель уголовно-правовой охраны здравоохранительных общественных отношений, осложненных применением технологии искусственного интеллекта.

Исключительный и совершенно новый характер технико-биологического (и иного) сосуществования искусственного интеллекта и его носителя вскрывает недостаточность уголовно-правовой охраны и необходимость ее оптимизации. В отличие от многих традиционных преступлений, преступления в цифровой сфере можно легко распространять и повторять.

Возможности искусственного интеллекта быстро развиваются и затрагивают практически все сферы жизнедеятельности. Технологии искусственного интеллекта все чаще интегрируется в преступную и вредоносную деятельность, расширяя существующие уязвимости и создавая при этом новые угрозы. Полагаем необходимым рассмотреть достаточно ли существующих положений отечественного уголовного закона для противодействия этим преступлениям или же необходима их трансформация.

Соответственно, должны быть предприняты законодательные шаги для борьбы с такими преступлениями путем обеспечения соблюдения правовых положений, направленных на криминализацию вновь введенных преступных деяний. По мере того, как технологии все больше внедряются в здравоохранение, данной сфере будет необходимо учитывать юридические последствия, поскольку взаимодействие искусственного интеллекта и человека содержит в себе угрозы безопасности человека, общества и государства.

Глава 1. ТЕОРЕТИКО-ПРАВОВЫЕ ОСНОВЫ И ЭТИЧЕСКИЕ ПРИНЦИПЫ СОЗДАНИЯ И ПРИМЕНЕНИЯ ТЕХНОЛОГИЙ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА В ЗДРАВООХРАНЕНИИ

§ 1.1. Понятие и система правового регулирования создания и применения технологий искусственного интеллекта в здравоохранении

Технологии искусственного интеллекта могут кардинальным образом изменить систему здравоохранение, производя новые и важные идеи из огромного количества цифровых данных, созданных во время оказания медицинской помощи. Сейчас активно внедряются медицинские роботы и иные автономные системы, оснащенные технологиями искусственного интеллекта, призванные изменить здравоохранение, подняв его на новый уровень¹. Применяются новые интеллектуальные технологии для диагностики некоторых видов рака², различных заболеваний глаз³, для определения нарушений сердечного ритма⁴, идентификации эмбрионов⁵, инсультов и кровоизлияний в мозг, обнаружения аритмии и интерпретации магнитно-резонансной томографии головного мозга; больницы используют другие существующие системы искусственного интеллекта для оценки риска повторной госпитализации пациентов и принятия соответствующих мер⁶. В свою очередь в нашей стране Федеральной службой по надзору в сфере здравоохранения (далее — Росздравнадзор) зарегистрированы следующие медицинские изделия, использующие технологию искусственного интеллекта:

– программное обеспечение Webiomed предназначено для автоматического анализа обезличенных медицинских данных с целью прогнозирования возможного развития заболеваний и их осложнений⁷;

– программное обеспечение Care Mentor AI помогает врачам-рентгенологам определять наличие у пациентов признаков злокачественных новообразований, туберкулеза пневмонии и других социально-значимых патологий⁸.

Подобные инновационные решения стали разрабатываться и применяться во многих государствах, в том числе опережающими темпами развиваются и в России, что свидетельствует о высоком потенциале подобной сквозной цифровой технологии.

Технологии искусственного интеллекта в здравоохранении реализуются несколькими способами:

– оценка риска возникновения заболевания у пациента;

– оценка эффективности лечения;

– помощь в уходе за больными пациентами;

– клинические исследования и разработка лекарственных средств;

– автоматизация учреждений системы здравоохранения.

Остановимся более подробно на основных направлениях применения технологий искусственного интеллекта в российской клинической практике:

1. Использование медицинских роботов, оснащенных технологиями искусственного интеллекта, в целях, связанных с оказанием медицинской помощи. Уже сейчас огромное количество медицинских роботов используются в системе здравоохранения. Например, сервисный робот HelpMate применяется в больницах США для транспортировки различных предметов, начиная от постельного белья, заканчивая медикаментами⁹. В свою очередь хирургические роботы представляют собой еще один способ использования робототехнические устройства в здравоохранении. Указанные роботизированные изделия используются в хирургии, но не работают автономно, так как для выполнения каждой задачи им требуется непосредственное участие хирурга-человека. Так, робот «DaVinci» позволяет выполнять операции и связанные с ними процедуры более точно и быстро, чем если бы они выполнялись одним хирургом-человеком, используя только один разрез¹⁰.

Полагаем то, что постепенно будет появляться все больше медицинских роботов по уходу, выполняющих такие задачи, как купание, подъем и кормление пациентов. Несомненно, существует ряд этических проблем использования подобных сервисных медицинских роботизированных изделий, оснащенных технологиями искусственного интеллекта, по уходу за пациентами¹¹, связанных со снижением морального качества ухода за ними со стороны медицинского сообщества. Люди, нуждающиеся в уходе, остаются людьми с определенным набором качеств, разным эмоциональным состоянием, на которое в том числе значительное влияние оказывает болезнь, и также нуждаются в особое отношении и уходе со стороны медицинских работников. Несомненно, перспектива использования медицинских роботов по уходу за пациентами огромна, но их использование, по нашему мнению, следует ограничить и распространить режим их применения на техническую помощь при уходе (в качестве помощников). Уход за пожилыми людьми, детьми или больными пациентами должен включать в себя выполнение не только физических задач, к примеру, таких как подъем или купание, но и задач, направленных на улучшение эмоционального благополучия пациента и снижения у него чувства одиночества и тревоги, поскольку общепризнано, что эмоциональное состояние оказывает положительное влияние на выздоровление. Следовательно, возникает одна из этических проблемы — наделение медицинских роботов эмпатией, необходимой для качественного ухода и оказания медицинской помощи. С другой стороны, некоторым пациентам больше подойдет помощь именно роботизированных изделий, поскольку чувство собственной беспомощности и связанные с этим обременения медицинских работников по уходу за собой, вызывают чувство неловкости и стыда.

Поэтому полагаем необходимо законодательное решение следующих вопросов:

– определить какие виды медицинской помощи разрешается выполнять медицинским роботам, оснащенным технологиями искусственного интеллекта;

– уточнить какие виды медицинской помощи могут осуществляться медицинскими роботами, оснащенным технологиями искусственного интеллекта, только с согласия пациента;

– установить какие задачи должны выполнять непосредственно медицинские работники, осуществляющие уход за пациентами.

2. Использование медицинских роботов, оснащенных технологиями искусственного интеллекта, в диагностических целях.

Специалисты полагают то, что искусственный интеллект в сфере здравоохранения обладает большим потенциалом для достижения даже лучших результатов, чем люди. Например, искусственный интеллект может успешно обнаруживать рак кожи с таким же успехом, как опытные врачи¹². Медицинского робота можно обучить распознавать различные типы поражений кожи, загрузив большое количество входных изображений (обучающих данных) с сопутствующей информацией от медицинских работников. Впоследствии система может определять вид кожного заболевания у отдельных пациентов.

Радиология также считается областью, особенно подходящей для внедрения технологии искусственного интеллекта¹³.

Во-первых, анализ компьютерной томографии и других изображений врачами-рентгенологами отнимает у них достаточно много времени, что может оказать негативное влияние на дальнейшие манипуляции медицинского работника, вызовет у него утомляемость и в целом снизит концентрацию внимания и повлечет возникновение возможность постановки ошибочного диагноза, некоторые медицинские работники не доверяют заключению, проводящего томографию, а требуют принести им именно файл КТ для самостоятельного анализа.

Во-вторых, оценка изображений с помощью цифровых технологий более точна в связи с тем, что технологии искусственного интеллекта могут обнаружить связь, которую врач-человек может и не осознавать.

Системы искусственного интеллекта могут управлять данными, полученными в результате клинической деятельности, такой как скрининг, диагностика и назначение лечения. Указанные цифровые технологии могут анализировать необработанные данные и предоставлять важную и полезную информацию, которую можно использовать при лечении пациентов или в качестве дополнительного источника информации. Цифровые системы могут помочь врачам для реализации высокоскоростного сканирования тела, позволяющего проще делать изображение общего состояния пациента; при этом технология может воссоздать трехмерное изображение тела пациента.

3. Технологии искусственного интеллекта разрабатываются в виде медицинского изделия (программное обеспечение), содержащего в себе системы поддержки принятия клинических решений. Полагаем, что на данный момент во всех случаях концепция использования технологий искусственного интеллекта в медицине должна представлять собой систему поддержки принятия решений, в которой окончательные действия должны выполняться медицинскими работниками.

Приложения искусственного интеллекта могут помочь врачам и исследователям в процессе принятия клинических решений, в том числе выбирать более эффективные клинические решения или дополнить человеческое суждение в некоторых областях здравоохранения. Тем самым значительно ускорится процесс и объем предоставляемой медицинской помощи, что скорее всего положительно повлияет на стоимость медицинских услуг и их последующее снижение. Таким образом, технологии искусственного интеллекта могут поддержать медицинских работников в их деятельности и в целом упростить им работу.

Технологии искусственного интеллекта применяются в разработке лекарственных средств и могут превратить поиск нужных лекарств из трудоемкого в достаточно простой процесс, используя робототехнику и модели генетических лекарств, органов, заболеваний и их развития, безопасности и эффективности. Системы искусственного интеллекта можно использовать в процессе открытия и последующей разработки лекарств. Так, система AlphaFold за 30 дней разработал потенциально эффективное лекарство от рака печени¹⁴.

Телемедицина имеет ряд преимуществ перед традиционной медициной, включая комфорт во время виртуальных встреч (телеконсультаций) и возможность продолжить работу или досуг во время получения медицинской помощи¹⁵. Дистанционный мониторинг сердца позволяет обмениваться с медицинскими работниками цифровыми данными, полученными с имплантированных или носимых устройств, особенно в области сердечной недостаточности, мерцательной аритмии и ишемической болезни сердца¹⁶. Повсеместная доступность смартфонов и носимых устройств в сочетании с возможностями подключения к информационно-телекоммуникационной сети «Интернет» и достижениями в области сенсорных технологий дает возможность изменить амбулаторное консультирование и лечение, ориентированное на пациента. Полагаем, что цифровые технологии должны способствовать участию пациентов и активному вовлечению их в процесс диагностики и лечения. В обозримом будущем высокоинтеллектуальные устройства и наукоемкие технологии прямого доступа к пациенту облегчат им путь к их собственным медицинским данным, которые ранее находились в хранилищах данных и передавались им лишь в ограниченном объеме. Они позволяют потребителю не только осуществлять непрерывный мониторинг и получать данные о состоянии здоровья пациента, но и разрабатывать новые диагностические процедуры и методы лечения за пределами лечебно-профилактического учреждения. Кроме того, телемедицина расширяет доступ к медицинскому обслуживанию, особенно для людей, проживающих на удаленных расстояниях, к примеру, в сельской местности.

Приложения с искусственным интеллектом, позволяющие упростить работу врачам, медицинским сестрам и администраторам в их служебной деятельности:

– система искусственного интеллекта может предоставлять медицинским работникам постоянные, возможно, в режиме реального времени, обновления медицинской информации из различных источников, включая журналы, учебники и клинические практики¹⁷. Эффективность этих приложений была доказана во время COVID-19, в течение которого обмен информацией был постоянно необходим для надлежащего информирования, разработками и тенденциями в медицине во всем мире;

– другие приложения включают координацию информационных инструментов для пациентов и возможность делать соответствующие выводы для оповещений о рисках и прогнозирования последствий для здоровья;

– приложения искусственного интеллекта позволяют больницам и всем учреждениям системы здравоохранения работать более эффективно и предоставят возможность медицинским работникам получать доступ к данным немедленно, когда они им понадобятся;

– приложения также могут способствовать обучению и повышению квалификации медицинских работников;

– системы искусственного интеллекта могут помочь заметить странное поведение сотрудников и порекомендовать его руководителю направить их на обучение работе с системой, так как возникли подозрения в его невысоком профессионализме или медленной реакции, болезненном состоянии, выгорании и т. д.¹⁸

4. Приложения на основе искусственного интеллекта могут активно использоваться для прогнозирования заболеваний. Поскольку искусственный интеллект может выявлять значимые взаимосвязи в необработанных данных, он может поддерживать результаты диагностики, лечения и прогнозирования во многих медицинских ситуациях, что позволит медицинским работникам активно принимать меры по предотвращению возникновения заболевания. Кроме того, возможны прогнозы для определения факторов риска и движущих сил для каждого пациента, чтобы помочь направить медицинские вмешательства для достижения лучших результатов.

5. Технологии искусственного интеллекта, применяемые не только для облегчения работы медицинских организаций и в качестве своеобразных помощников врачей, а также и для поддержки пациентов и оказанию им медицинской помощи. Мобильное приложение компании Your.MD, использующему технологии искусственного интеллекта, машинного обучения и обработки естественного языка, позволяет получать рекомендации по последующим действиям и экспертный совет при различных болях, например, при боли в голове. Для этого система искусственного интеллекта Your.MD подключена к самой большой в мире карте симптомов, созданной Your.MD: в ней учтено 1,4 млн симптомов, на идентификацию которых потребовалось более 350 тыс. часов. Каждый симптом был проверен специалистом британской системы здравоохранения. Искусственный интеллект выбирает наиболее подходящий симптом, основываясь на уникальном профиле владельца смартфона, тем самым помогая пациенту быстро узнать приблизительный диагноз и выбор метода лечения до посещения медицинского работника или вызова скорой помощи¹⁹.

Учитывая достаточно новый характер названной цифровой инновации, среди специалистов в указанной области единого мнения относительно положительного или отрицательного влияния искусственного интеллекта на систему здравоохранения не сложилось.

Так, среди специалистов существуют следующие точки зрения относительно внедрения технологий искусственного интеллекта в медицину:

1) по мнению первой группы исследователей, искусственный интеллект может трансформировать систему здравоохранения и в целом окажет положительное влияние на нее, повысив точность постановки диагнозов пациентам и эффективность оказания медицинской помощи²⁰. Учеными установлено то, что во многих задачах искусственный интеллект превосходит людей²¹. В некоторых областях медицинской диагностики, разработки лекарств и проведения лечения, в том числе хирургии представляется, что искусственный интеллект будет лучше, чем обученные медицинские работники²²;

2) имеется и крайне противоположная (вторая) точка зрения, согласно которой системы искусственного интеллекта негативным образом окажут влияние на отношения между пациентом и медицинским работником, будут способствовать снижению квалификации последних, поставят неправильный диагноз или из-за ошибок в процессе принятия решений ненадлежащим образом вылечат пациентов²³. Некоторые эксперты прогнозируют негативные последствия применения систем искусственного интеллекта, начиная от социальных проблем, таких как безработица, заканчивая такими угрозами правам человека, как лишение неприкосновенности частной жизни, усиление предвзятости и вытекающее из этого неравенство, а также доминирование цифровой технологии над людьми, в конечном счете ведущее к вымиранию человечества²⁴;

3) третья позиция авторов сводится к одновременному признанию перспектив технологий искусственного интеллекта и сохранению опасений по поводу их использования. Указанные соображения подчеркивают необходимость в нормативных правовых актах использовать потенциальные преимущества технологий искусственного интеллекта при минимизации любых сопутствующих рисков. Подобные инновации необходимы, если общество хочет реализовать результаты медицинских инноваций и избежать их негативного влияния. По мере того, как технологии искусственного интеллекта развиваются быстрыми темпами, специалисты из разных дисциплин формулируют опасения в отношении их использования, связанные с возможным причинением вреда здоровью пациентов, которые потребуют надлежащих правовых мер. Инновации в медицине дают огромные надежды, но для ее реализации в здравоохранении необходимы соответствующие правила, сводящие к минимуму сопутствующие риски.

Многие специалисты отмечают, что понятие «искусственный интеллект» началось с исследования понятия «робот»²⁵. Интерес и достижения в области медицинских приложений искусственного интеллекта в последние годы резко возросли из-за существенного увеличения вычислительной мощности современных компьютеров и огромного количества цифровых данных, доступных для сбора и использования²⁶. Технологии искусственного интеллекта стали активно трансформировать традиционную медицинскую практику.

Отметим то, что понятие искусственного интеллекта представлено в подзаконном правовом акте — в подпункте «а» пункта 5 Указа Президента Российской Федерации от 10 октября 2019 г. № 490 «О развитии искусственного интеллекта в Российской Федерации»²⁷ (вместе с Национальной стратегией развития искусственного интеллекта на период до 2030 года), в соответствии с которым «искусственный интеллект — комплекс технологических решений, позволяющий имитировать когнитивные функции человека (включая самообучение и поиск решений без заранее заданного алгоритма) и получать при выполнении конкретных задач результаты, сопоставимые, как минимум, с результатами интеллектуальной деятельности человека. Комплекс технологических решений включает в себя информационно-коммуникационную инфраструктуру, программное обеспечение (в том числе в котором используются методы машинного обучения), процессы и сервисы по обработке данных и поиску решений».

Указанное определение понятия продублировано в пункте 2 части 1 статьи 2 Федерального закона от 24 апреля 2020 г. № 123-ФЗ «О проведении эксперимента по установлению специального регулирования в целях создания необходимых условий для разработки и внедрения технологий искусственного интеллекта в субъекте Российской Федерации — городе федерального значения Москве и внесении изменений в статьи 6 и 10 Федерального закона «О персональных данных»²⁸.

Исходя из представленного определения стоит констатировать то, что искусственный интеллект предназначен для выполнения определенных задач, поставленных уже в алгоритм технологических решений. В представленной дефиниции используется словосочетание «самообучение», законодательно не закрепленное, поэтому возникает вопрос о реализации умственных способностей алгоритма, что приводит нас к обсуждению вопроса о правосубъектности искусственного интеллекта.

В целом следует утверждать то, что искусственный интеллект — это термин, используемый для описания способности компьютерной программы выполнять задачи, связанные с человеческим интеллектом, такие как рассуждение и обучение. Он включает такие процессы, как адаптация, сенсорное восприятие и взаимодействие.

Искусственный интеллект — это не отдельная технология, но это скорее общий термин для области компьютерных наук. Эта область посвящена сложным алгоритмам и программному обеспечению, способным выполнять человеческие задачи: распознавание языка и текста, анализ данных, обучение, решение проблем²⁹.

Искусственный интеллект относится к системам, которые демонстрируют интеллектуальное поведение, анализируя свое окружение и предпринимая действия (с некоторой степенью автономии) для достижения конкретных целей.

Стоит констатировать то, что в настоящее время в Российской Федерации закон, направленный на регулирование отношений, возникающих в процессе выработки и внедрения технологий искусственного интеллекта, не разработан. Полагаем, что данный закон должен иметь комплексный характер и быть направленным на формирование правовой основы и принципов правового регулирования отношений в сфере выработки и внедрения технологии искусственного интеллекта, описаны его типы, зафиксированы необходимые ограничения, определены требования, предъявляемые к подобным системам, и другие вопросы, требующие нормативной регламентации, которые в своей совокупности позволят создать благоприятный правовой режим для развития в Российской Федерации указанной цифровой технологии. Нам представляется то, что специальный федеральный закон, направленный на формирование комплексной системы регулирования общественных отношений, возникающих в связи с развитием и использованием технологий искусственного интеллекта, скорее всего будет принят по результатам экспериментального правового режима, установленного Федеральным законом от 24 апреля 2020 г. № 123-ФЗ «О проведении эксперимента по установлению специального регулирования в целях создания необходимых условий для разработки и внедрения технологий искусственного интеллекта в субъекте Российской Федерации — городе федерального значения Москве и внесении изменений в статьи 6 и 10 Федерального закона «О персональных данных»³⁰. С учетом того, что подобный режим был установлен с 1 июля 2020 г., то результаты его применения будут уже известны к 1 июля 2025 г. Однако периодически в средствах массовой информации появляются сведения о том, что уже активно ведутся разработки закона об искусственном интеллекте. Так, о создании системы правового регулирования искусственного интеллекта сообщил заместитель главы Минцифры России³¹.

В связи с отсутствием общего нормативного правового акта, посвященного регулированию отношений, возникающих в связи с созданием и внедрением искусственного интеллекта, правовое регулирование в каждой конкретной отрасли активно формируется и не стоит на месте. Подобная особенность наблюдается и в сфере здравоохранения, подверженной процессам цифровизации. Создание и использование технологий искусственного интеллекта в здравоохранении регулируется значительным количеством законных и подзаконных правовых актов, что свидетельствует о стремлении законодателя, с одной стороны, упорядочить складывающиеся общественные отношения, с другой — немного хаотичном характере подобного процесса, вызванного стремлением к развитию данной технологии и отсутствием комплексного подхода к подобному правотворческому процессу.

Предлагаем закрепить законодательное определение понятия «искусственный интеллект» в специальном отраслевом федеральном законе, направленном на формирование комплексной системы регулирования общественных отношений, возникающих в связи с развитием и использованием технологий искусственного интеллекта. Полагаем, что представленное определение понятия «искусственный интеллект» будет соответствовать требованиям юридической техники, не будет содержать в себе чрезмерной абстракции, бланкетности или оценочности:

«Искусственный интеллект — система алгоритмических технологических решений, способная предсказывать результаты, принимать решения и выявлять закономерности на основе обработки больших объемов данных».

Рассмотрев законодательное определение понятия «искусственный интеллект», перейдем к правовому регулированию этой сквозной технологии в системе здравоохранения, которое на данный момент в России сложилось и продолжает активно формироваться. Кроме того, рассмотрим акты технического регулирования и национальные проекты в представленной области.

Федеральные законы

Федеральный закон от 21 ноября 2011 г. № 323-ФЗ «Об основах охраны здоровья граждан в Российской Федерации»³² (далее — Закон № 323-ФЗ) содержит определение термина «медицинское изделие» (статья 38). Так, к медицинским изделиям относятся «любые инструменты, аппараты, приборы, оборудование, материалы и прочие изделия, применяемые в медицинских целях отдельно или в сочетании между собой, а также вместе с другими принадлежностями, необходимыми для применения указанных изделий по назначению, включая специальное программное обеспечение, и предназначенные производителем для профилактики, диагностики, лечения и медицинской реабилитации заболеваний, мониторинга состояния организма человека, проведения медицинских исследований, восстановления, замещения, изменения анатомической структуры или физиологических функций организма, предотвращения или прерывания беременности, функциональное назначение которых не реализуется путем фармакологического, иммунологического, генетического или метаболического воздействия на организм человека. Медицинские изделия могут признаваться взаимозаменяемыми, если они сравнимы по функциональному назначению, качественным и техническим характеристикам и способны заменить друг друга». Указанное законодательное определения понятия «медицинское изделие» является довольно абстрактным в связи с тем, что представляет под собой широкий пласт «прочих изделий», функционально разных по своему предназначению³³.

Исходя из легального определения, к медицинским изделиям относятся как вещи материального мира физического характера (оборудование, аппараты, инструменты, приборы и материалы), так и программное обеспечение. На данный момент стоит констатировать то, что системы искусственного интеллекта (интеллектуальные медицинские технологии, то есть основанные на искусственном интеллекте) в здравоохранении в Российской Федерации применяются:

1. Как программное обеспечение (далее — ПО) с применением систем искусственного интеллекта, в этом случае ПО регистрируется как медицинское изделие;

2. Искусственный интеллект может быть составной частью и (или) принадлежностью медицинского робота, в этом случае роботизированное изделие признается медицинским изделием. При этом ПО уже не регистрируется, а является составной частью медицинского изделия.

В случае, если системы искусственного интеллекта являются программным обеспечением, то выступают медицинским изделием. Вышесказанное подтверждается законодательным определением термина «медицинское изделие», содержащимся в Законе № 323-ФЗ, в котором к разновидности медицинских изделий относится специальное программное обеспечение.

Медицинские роботы, основанные на искусственном интеллекте, являются техническими устройствами, включающими электрические элементы, электронные блоки, а также механические, гидравлические или пневматические рабочие органы. Они выполнены из пластмасс, металлов и могут быть источниками вредных и/или опасных факторов, особенно при поломках или авариях³⁴.

Приказом Минздрава России от 6 июня 2012 г. № 4н «Об утверждении номенклатурной классификации медицинских изделий»³⁵ утверждена классификацию программного обеспечения, которое является медицинским изделием, по классам в зависимости от потенциального риска их применения. Каждое медицинское изделие может быть отнесено только к одному классу:

класс 1 — медицинские изделия с низкой степенью риска;

класс 2а — медицинские изделия со средней степенью риска;

класс 2б — медицинские изделия с повышенной степенью риска;

класс 3 — медицинские изделия с высокой степенью риска.

Все российское ПО, созданное с применением технологий искусственного интеллекта, относится к классу 3 потенциального риска.

Искусственный интеллект обычно реализуется как система, состоящая как из программного, так и из аппаратного обеспечения. С точки зрения программного обеспечения искусственный интеллект в основном связан с алгоритмами.

Таким образом, технологии искусственный интеллекта в медицине могут быть применены:

– в качестве физических объектов реализуется в роботизированной хирургии, в которой медицинский робот оснащен технологиями искусственного интеллекта, являющиеся его неотъемлемой частью;

– виртуальным (в качестве ПО), существующим отдельно от робота в виде киберфизической и иных «искусственных» систем³⁶.

Виртуальная форма реализации технологий искусственного интеллекта представлена машинным обучением (также называемым глубоким обучением), представленного математическими алгоритмами, которые улучшают обучение на основе имеющегося опыта.

Изменения, внесенные Закон № 323-ФЗ, позволяют внедрять медицинские изделия, созданных с использованием технологии искусственного интеллекта, в медицинскую организацию без заключений этического комитета и этического совета уполномоченного федерального органа исполнительной власти (пункт 8 статьи 36¹).

В связи с тем, что применение технологии искусственного интеллекта в здравоохранении находится на стадии активного развития и проводится большое число клинических испытаний, законодатель устанавливает экспериментальные правовые режимы для работы с цифровыми инновациями (пункт 1 части 2 статьи 1 Федерального закона от 31 июля 2020 г. № 258-ФЗ «Об экспериментальных правовых режимах в сфере цифровых инноваций в Российской Федерации»³⁷). В рамках данного режима применяются нейротехнологии и технологии искусственного интеллекта, в том числе в области компьютерного зрения.

Подзаконные правовые акты

Указы Президента Российской Федерации

Вектор развития технологий искусственного интеллекта в системе здравоохранения заложен Стратегией научно-технологического развития Российской Федерации, утвержденной Указом Президента Российской Федерации от 1 декабря 2016 г. № 642³⁸, в пункте «в» статьи 20 которой указывается то, что «в ближайшие 10–15 лет приоритетами научно-технологического развития Российской Федерации следует считать те направления, которые позволят получить научные и научно-технические результаты и создать технологии, являющиеся основой инновационного развития внутреннего рынка продуктов и услуг, устойчивого положения России на внешнем рынке, и обеспечат переход к передовым цифровым, интеллектуальным производственным технологиям, роботизированным системам, новым материалам и способам конструирования, создание систем обработки больших объемов данных, машинного обучения и искусственного интеллекта; персонализированной медицине, высокотехнологичному здравоохранению и технологиям здоровьесбережения, в том числе за счет рационального применения лекарственных препаратов (прежде всего антибактериальных)».

В свою очередь Указом Президента Российской Федерации от 10 октября 2019 г. № 490 «О развитии искусственного интеллекта в Российской Федерации»³⁹ определено то, что использование технологии искусственного интеллекта способствует повышению качества здравоохранения и в целом приведет к улучшению уровня жизни населения.

Постановления и распоряжения Правительства Российской Федерации

В 2020 г. в постановление Правительства Российской Федерации от 27 декабря 2012 г. № 1416 «Об утверждении Правил государственной регистрации медицинских изделий»⁴⁰ внесены значительные изменения относительно правил государственной регистрации программного обеспечения, являющегося медицинским изделием, в том числе с применением технологий искусственного интеллекта. Согласно постановлению Правительства Российской Федерации от 24 ноября 2020 г. № 1906 «О внесении изменений в Правила государственной регистрации медицинских изделий»⁴¹ государство вводит ускоренную одноэтапную процедуру государственной регистрации медицинского изделия, использующего технологию искусственного интеллекта. В ходе регистрации требуется подтверждение его клинической эффективности и безопасности.

Постановлением Правительства Российской Федерации от 9 февраля 2022 г. № 140 «О единой государственной информационной системе в сфере здравоохранения»⁴² установлены требования к федеральной интегрированной электронной медицинской карте, которая направлена на обеспечение поддержки разработки технологический решений на основе искусственного интеллекта, доступ медицинских организаций к подобным решениям.

Оценивая существующие риски при применении технологии искусственного интеллекта, в статье 41 постановления Правительства Российской Федерации от 9 декабря 2022 г. № 2276⁴³ названы основные причины рисков причинения вреда жизни и здоровью пациента:

а) назначение неправильного лечения лечащим врачом вследствие низкой диагностической ценности данных, полученных из устройства по причине некорректной работы устройства;

б) непоступление сигнальной информации по причине сбоя в работе информационной платформы;

в) сбой в работе информационной платформы, который может привести к приостановке оборота данных устройств;

г) поломка мобильного устройства пациента, на котором было установлено сопряженное с информационной платформой мобильное приложение, позволяющее осуществлять передачу данных в автоматическом и ручном режимах.

Также в представленном документе обращается внимание на то, что в ходе реализации экспериментального правового режима могут возникать риски утечки персональных данных пациентов и информации ограниченного доступа. Потенциально ставит под угрозу сохранность персональных данных пациентов и врачебную тайну использование десятка тысяч рентгенологических исследований для обучения технологий искусственного интеллекта.

Концепция развития регулирования отношений в сфере технологий искусственного интеллекта и робототехники на период до 2024 года, утвержденной распоряжением Правительства от 19 августа 2020 г. № 2129-р⁴⁴, устанавливает основные подходы к изменениям правового пространства России, которые позволят создавать и применять технологии искусственного интеллекта и робототехнику в различных сферах, включая непосредственно здравоохранение.

Приказы Министерства здравоохранения Российской Федерации

Согласно приказу Минздрава России от 7 июля 2020 г. № 686н «О внесении изменений в приложения № 1 и № 2 к приказу Министерства здравоохранения Российской Федерации от 6 июня 2012 г. № 4н «Об утверждении номенклатурной классификации медицинских изделий»⁴⁵ медицинские сервисы на основе искусственного интеллекта должны относиться к 3-му классу медицинских изделий (то есть с высокой степенью риска), обуславливая то, что сведения о наличии (отсутствии) в программном обеспечении, являющемся медицинским изделием, технологий искусственного интеллекта и их описания подлежат обязательному указанию в технической документации в составе регистрационного досье (пункт 5.1 приказа Минздрава России от 19 января 2017 г. № 11н «Об утверждении требований к содержанию технической и эксплуатационной документации производителя (изготовителя) медицинского изделия»⁴⁶).

Приказом Минздрава России от 14 июня 2018 г. № 341н «Об утверждении Порядка обезличивания сведений о лицах, которым оказывается медицинская помощь, а также о лицах, в отношении которых проводятся медицинские экспертизы, медицинские осмотры и медицинские освидетельствования»⁴⁷ установлен порядок обезличивания сведений, обрабатываемых сервисом федеральной интегрированной электронной медицинской картой единой государственной информационной системы в сфере здравоохранения, с целью защиты сведений от несанкционированного использования с одновременным сохранением возможности их дальнейшей обработки. Может быть использован разработчиками технологий искусственного интеллекта для реализации обезличивания данных в продуктах.

С положительной стороны можно оценить то, что применение технологии искусственного интеллекта уже интегрируется в нормативную базу сферы здравоохранения, а именно — в стандарты оказания медицинской помощи. Так, в пункте 9 Правил проведения рентгенологических исследований, утвержденных приказом Минздрава России от 9 июня 2020 г. № 560н⁴⁸, указано то, что при проведении рентгенологических исследований рекомендуется применение систем поддержки принятия врачебных решений. Принятие решение о применении подобных систем остается за медицинской организацией и медицинским работником, является необязательным.

Постановления Правительства Москвы

Технологии искусственного интеллекта продолжают активно внедряться в отечественное здравоохранение. Так, повторимся, что в Москве в целях внедрения и развития технологий искусственного интеллекта введен экспериментальный правовой режим в сфере здравоохранения. В 2019 г. в целях исследования возможности использования в системе здравоохранения г. Москвы методов поддержки принятия решений на основе результатов анализа данных с применением передовых инновационных технологий было принято постановление Правительства Москвы от 21 ноября 2019 г. № 1543-ПП «О проведении эксперимента по использованию инновационных технологий в области компьютерного зрения для анализа медицинских изображений и дальнейшего применения в системе здравоохранения города Москвы»⁴⁹. В рамках этого постановления в 2019–2021 гг. был реализован эксперимент по использованию инновационных технологий в области компьютерного зрения для анализа медицинских изображений и дальнейшего применения в системе столичного здравоохранения. Можно сделать вывод о том, что эксперимент дал положительный результат, потому что в 2023 г. Москва первой в стране ввела специальный тариф в рамках обязательного медицинского осмотра на анализ результатов профилактических маммографических исследований с помощью систем искусственного интеллекта⁵⁰. В феврале 2023 года Минздрав России объявил о принятии мер по ускорению внедрения технологий искусственного интеллекта в здравоохранение на территории государства. Для стимулирования включения готовых решений с искусственным интеллектом в клиническую практику в рамках федерального проекта по созданию единого цифрового контура в здравоохранении регионам поставлена задача уже в 2023 году ввести не менее одного решения на основе искусственного интеллекта в государственных медицинских организациях⁵¹.

В связи с новым инновационным характером регулированием в Российской Федерации занимаются сразу Президент Российской Федерации, Правительство Российской Федерации, Государственная Дума, Министерство здравоохранения Российской Федерации и Росздравнадзор, Федеральное агентство по техническому регулированию и метрологии, Правительство Москвы.

Приоритетные национальные проекты

Согласно своему паспорту национальный проект «Здравоохранение» (утв. президиумом Совета при Президенте Российской Федерации по стратегическому развитию и национальным проектам, протокол от 24 декабря 2018 г. № 16⁵²) направлен на снижение смертности, ликвидации кадрового дефицита в медицинских организациях, обеспечение оптимальной доступности населения; включает программу Создание единого цифрового контура в сфере здравоохранения на основе Единой государственной информационной системе здравоохранения.

Данное требование предусмотрено дополнительным соглашением о реализации проекта Создание единого цифрового контура в здравоохранении на основе единой государственной информационной системы здравоохранения (ЕГИСЗ), подписанного в конце декабря 2022 г. между первым заместителем Министра здравоохранения Российской Федерации и руководителями региональных проектов создания ЕЦКЗ со стороны субъектов Российской Федерации. Согласно этому документу, все субъекты Российской Федерации должны выполнить следующее требований: «В 2023 году не менее чем в одной централизованной подсистеме ГИС субъекта Российской Федерации применяются медицинские изделия с технологией искусственного интеллекта».

Акты технического регулирования

В 2022 г. врачи г. Москвы разработали 10 ГОСТов, связанных с системами искусственного интеллекта в клинической медицине, в частности включающие в себя вопросы методов их испытания, которые в свою очередь были успешно приняты Росстандартом в соответствии с приказом Росстандарта от 14 октября 2021 г. № 1144-ст «Об утверждении национального стандарта Российской Федерации»⁵³. Подобное решение означает регламентацию внедрения практически всего цикла создания (разработки) технологии искусственного интеллекта в медицину едиными стандартами, тем самым представляя собой первый в мире опыт стандартизации подобной деятельности. На данный момент принято более 18 стандартов⁵⁴. Однако все представленные национальные стандарты посвящены принципам создания и требованиям, предъявляемым при разработке систем искусственного интеллекта в здравоохранении. Указанные документы описывают основные требования к организации и проведению клинических испытаний систем искусственного интеллекта, устанавливают общие принципы проведения технических испытаний медицинских систем на основе технологий искусственного интеллекта, корректного составления технической и эксплуатационной документации, требования к оценке и контролю эксплуатационных параметров систем искусственного интеллекта, требования к наборам данных, используемых для обучения и тестирования систем искусственного интеллекта.

Несмотря на то, что искусственный интеллект получает свое активное развитие в нашей стране и во многих государствах всего мира, в Москве в целях внедрения и развития технологий искусственного интеллекта вводятся экспериментальные правовые режимы, конкретное правовое регулирование ответственности за причинение вреда технологией искусственного интеллекта действующим отечественным законодательством не предусмотрено. Отсутствие надлежащего правового регулирования технологий искусственного интеллекта и робототехники отмечается и в распоряжении Правительства Российской Федерации от 19 августа 2020 г. № 2129-р «Об утверждении Концепции развития регулирования отношений в сфере технологий искусственного интеллекта и робототехники до 2024 года»⁵⁵, в котором одной из проблем назван вопрос ответственности за причинение вреда с использованием систем искусственного интеллекта и робототехники. При этом учитывая особую ценность жизни и здоровья граждан, мерам уголовной ответственности, призванной охранять наиболее важные общественные отношения, будет отдаваться, по нашему мнению, превалирующее значение.

Быстрое внедрение искусственного интеллекта в медицине создает ситуацию, онтологически отличную от предшествующих традиционных моделей лечения (оказания медицинской помощи). У такой технологии есть как потенциальные преимущества, так и недостатки в продвижении интересов пациентов, что приводит к опасениям для врачей и пациентов.

Учитывая быстрый рост разнообразных возможностей технологии искусственного интеллекта, внимание законодателей, по нашему мнению, должно быть сосредоточено на разработке доступной (понятной) и перспективной нормативной правовой базы, которая может быстро и эффективно реагировать на возможные риски внедрения технологий искусственного интеллекта в систему здравоохранения.

На данный момент следует констатировать то, что системы искусственного интеллекта в здравоохранении будут развиваться и продолжат активно применяться. Можно сделать вывод о том, что ближайшей целью, поставленной государственным здравоохранением, является внедрение и расширенное развитие системы поддержки принятия клинических решений, персонализированной медицины, телемедицины, планирования ресурсов с использованием технологий искусственного интеллекта. Опять же концептуально государство закрепляет результаты, которых оно хочет достичь в процессе внедрения искусственного интеллекта в системе здравоохранения, но соответствующие акты не предусматривают необходимости создания нормативной базы для указанных общественных отношений. Отсутствие работы по совершенствованию законодательства, направленного на эффективное регулирование общественных отношений в сфере создания и внедрения технологий искусственного интеллекта, может привести к законодательным пробелам, которые могут нивелировать все положительные аспекты внедрения технологии искусственного интеллекта в систему здравоохранения.

На данный момент регулирование технологии искусственного интеллекта в системе здравоохранения осуществляется с нескольких позиций: этики, самой цифровой технологии и права. И если правовое регулирование только закладывается, то этические принципы могут оказать серьезную помощь и быть использованы при создании наиболее эффективной модели правового регулирования указанных общественных отношений.

Также хотелось бы остановиться на законе Европейского Парламента и Совета, регулирующего применение искусственного интеллекта, принятого в 2024 году. Регламент (ЕС) 2024/1689 Европейского Парламента и Совета от 13 июня 2024 г., устанавливающие гармонизированные правила в отношении искусственного интеллекта и вносящие поправки в Регламенты (ЕС) № 300/2008, (ЕС) № 167/2013, (ЕС) № 168/2013, (ЕС) 2018/858, (ЕС) 2018/1139 и (ЕС) 2019/2144 и Директивы 2014/90/ЕС, (ЕС) 2016/797 и (ЕС) 2020/1828 (Закон об искусственном интеллекте) запрещает определенные приложения искусственного интеллекта, которые угрожают правам граждан, в том числе системы биометрической категоризации, основанные на чувствительных характеристиках, а также нецелевое извлечение изображений лиц из интернета или записей с камер видеонаблюдения для создания баз данных распознавания лиц.

Итак, сделаем следующие выводы:

Во-первых, разработка и принятие специального федерального закона, направленного на формирование комплексной системы регулирования общественных отношений, возникающих в связи с развитием, внедрением и использованием технологий искусственного интеллекта, несомненно, необходимо, если государство хочет реализовать результаты медицинских инноваций и избежать их негативного воздействия.

По мере того, как инновации в области искусственного интеллекта развиваются быстрыми темпами, специалисты из разных дисциплин формулируют опасения в отношении искусственного интеллекта, связанного со здоровьем пациентов, которые потребуют правовых мер для обеспечения необходимого баланса.

Нормативное закрепление понятия «искусственный интеллект» необходимо в правовом акте вышестоящей юридической силы, а не в подзаконном акте, как это выработано на данный момент. Данный закон должен иметь комплексный характер и быть направленным на формирование правовой основы и принципов правового регулирования отношений в сфере выработки и внедрения технологии искусственного интеллекта, описаны его типы, зафиксированы необходимые ограничения, определены требования, предъявляемые к подобным системам, и другие вопросы, требующие нормативной регламентации, которые в своей совокупности позволят создать благоприятный правовой режим для развития в Российской Федерации указанной цифровой технологии. Нам представляется, что это должен быть специальный федеральный закон, направленный на формирование комплексной системы регулирования общественных отношений, возникающих в связи с развитием и использованием технологий искусственного интеллекта.

Предлагаем закрепить следующее законодательное определение понятия «искусственный интеллект»:

«Искусственный интеллект — система алгоритмических технологических решений, способная предсказывать результаты, принимать решения и выявлять закономерности на основе обработки больших объемов данных».

Во-вторых, с положительной стороны следует оценить то, что вооруженные инновационными технологиями искусственного интеллекта, медицинские работники могут ставить более точные диагнозы, назначать наиболее эффективное лечение и в целом улучшат систему здравоохранения с различных ее направлений. Системы искусственного интеллекта все чаще используются при разработке лекарств, в мониторинге за здоровьем пациентов и уходе за ними.

Однако наряду с объективным улучшением качества медицинской помощи (медицинских услуг), вызванного использованием искусственного интеллекта, необходимо решать те проблемы, которые связаны с его спецификой. Поэтому представляется весьма актуальным определить риски правового, этического и социального характера, которые несет в себе внедрение технологий искусственного интеллекта в медицину, и разработать предложения по их нивелированию.

§ 1.2. Этические принципы создания и применения технологий искусственного интеллекта в здравоохранении

Прежде чем технологии искусственного интеллекта можно будет использовать в здравоохранении, мы должны убедиться, что разработчики технологий и медицинские организации соблюдают соответствующие этические нормы и правила при создании (разработке) и использовании в клинической практике указанных технологий.

Этических вопросов применения медицинских изделий на основе искусственного интеллекта становится все больше, поэтому необходимо исключить или максимально снизить возможность возникновения ошибок, связанных с применением персональных данных пациентов, используемых для разработки и тестирования в области технологий искусственного интеллекта.

В последние годы зарубежными специалистами было предложено большое количество этических принципов искусственного интеллекта в здравоохранении⁵⁶. Однако эти рамки имеют тенденцию быть абстрактными и не объясняют, что обосновывает и оправдывает их рекомендации и как следует использовать эти рекомендации на практике.

Многие специалисты выделяют четыре принципа биомедицинской этики применительно к разработке и применению систем искусственного интеллекта в медицине⁵⁷:

– принцип автономии;

– принцип благодеяния;

– принцип запрета на причинение вреда пациенту;

– принцип справедливости.

Раскроем их более подробно.

Принцип автономии. Данный принцип означает, что пациентам должно быть позволено принимать решения о лечении, основываясь на их собственных предпочтениях и сведениях, предоставленных ему медицинским работником. Полагаем, что пациент должен быть в состоянии принять обоснованное решение после консультации с медицинским работником. Поэтому крайне важно, чтобы медицинский работник в понятной форме информировал пациента о вариантах лечения, их преимуществах и недостатках⁵⁸.

На данный момент растет внимание к автономии пациентов с одновременным развитием систем поддержки принятия клинических решений на базе искусственного интеллекта. Некоторые из этих систем могут помочь клиницистам в постановке диагноза, в то время как другие разработаны для рекомендации вариантов лечения. Для достижения наилучших результатов полученные результаты затем должны быть объединены с экспертными знаниями клинициста-человека.

Помимо прочего, автономия направлена на то, чтобы пациенты были полностью информированы и понимали риски и преимущества конкретной технологии искусственного интеллекта для здоровья и добровольно соглашались на нее.

Врачи не должны безоговорочно принимать или необоснованно сопротивляться разработкам в области искусственного интеллекта, но должны активно участвовать и вносить свой вклад в развитие, тестирование систем, поскольку искусственный интеллект, несомненно, повлияет в скором будущем на характер их работы.

Принцип благодеяния подразумевает под собой стремление гарантировать то, что медицинские изделия, оснащенные технологией искусственного интеллекта, в целом применяются для оказания медицинской помощи, способствуют благополучию пациентов и общества в целом, стимулируя его устойчивое развитие.

Принцип запрета на причинение вреда пациенту направлен на то, чтобы медицинские изделия на основе технологий искусственного интеллекта не использовались для причинения вреда жизни и здоровью пациентам, а также иным охраняемым благам и интересам. В этих целях необходимым является проведение всех видов доклинических и клинических испытаний.

Принцип справедливости подразумевает под собой стремление способствовать справедливому и равноправному распределению преимуществ технологий искусственного интеллекта в сфере здравоохранения между людьми и обществом.

Полагаем, что в качестве важных принципов, на которых должно базироваться правовое регулирование создания (разработки) и использования технологий искусственного интеллекта в здравоохранении, стоит отметить:

Принцип законности подразумевает под собой то, что системы искусственного интеллекта в сфере здравоохранения должны быть созданы (разработаны) таким образом, чтобы уважать верховенство закона, права человека и демократические ценности.

Принцип доступности технологии искусственного интеллекта. На первоначальных этапах развития цифровой технологии скорее всего разработка систем искусственного интеллекта в системе здравоохранения будет обходиться чрезвычайно дорого. Однако полагаем, что как только инструмент искусственного интеллекта будет разработан и внедрен в практическую деятельность врачей, то стоимость предоставления услуги пациентам должна будет снижаться по сравнению с услугой, предоставляемой врачом-человеком.

Принцип добровольного информированного согласия пациента. В целях защиты прав и законных интересов пациентов при оказании им медицинской помощи следует информировать о применении в их отношении систем искусственного интеллекта. Необходимо включать в информированное добровольное согласие пациента информацию о медицинском вмешательстве технологии искусственного интеллекта.

Пациенты имеют право на получение объяснений по поводу лечения, которое они получают, что является следствием фундаментального биоэтического принципа автономии, чтобы они не подвергались лечению против своей воли. Использование технологии искусственного интеллекта должно быть добровольным, ни в коем случае нельзя принуждать пациента к ее применению.

Принцип информирования пациентов о возможных кибератаках. Полагаем, что врач должен сообщать своим пациентам, что системы искусственного интеллекта, применяемые в целях оказания медицинской помощи, сопряжены с риском кибератак, систематической предвзятостью и определенным типом несоответствия. Подобные риски необходимо сообщать пациенту, в противном случае врач либо нарушает информированное согласие пациента, либо нарушает более общее обязательство предупредить его о потенциально возможных вредных последствиях⁵⁹.

Принцип запрета на дискриминацию. Разработчики технологии и лица, их применяющие, должны стремиться обеспечивать равенство — равного использования и доступа к медицинским изделиям, основанным на искусственном интеллекте, независимо от принадлежности к социальным группам.

Разработчики и производители медицинских изделий на основе технологий искусственного интеллекта должны учитывать принцип равенства и запрета дискриминации и стремиться к тому, чтобы алгоритмы были полностью непредвзятыми и основывались на полных и репрезентативных данных.

Разработчики и производители медицинских изделий на основе технологий искусственного интеллекта во избежание возможной дискриминации на основе социальных, сексуальных, этнических, религиозных и иных признаков, должны убедиться, что набор данных, используемых для предварительного обучения алгоритмов, является репрезентативным и соответствует разнообразию населения. Добавление дополнительных параметров, позволяющих уточнить соответствующие факторы, также может быть полезным для избежания предвзятости.

Разработчики и производители медицинских изделий на основе технологий искусственного интеллекта должны проводить рандомизированные клинические испытания в целях установления правильности и эффективности используемых алгоритмов искусственного интеллекта.

Разработчики и производители медицинских изделий на основе технологий искусственного интеллекта должны поощрять использование открытых алгоритмов и свободных данных, поскольку они могут дать возможность всем, независимо от их социального статуса или национальности, иметь доступ к надежным и проверенным алгоритмам искусственного интеллекта, способствовать повышению равенства.

Принцип стабильности означает то, что системы искусственного интеллекта в сфере здравоохранения должны функционировать надежно и безопасно на протяжении всего жизненного цикла, а потенциальные риски должны постоянно оцениваться и устраняться.

Принцип безопасности. Разработка и производство медицинских изделий на основе технологий искусственного интеллекта должны быть направлены на благо пациентов и общества, а не только интересов бизнеса.

Разработчики и производители медицинских изделий на основе технологий искусственного интеллекта должны проводить тщательное тестирование и верификацию всех алгоритмов и моделей искусственного интеллекта, использующихся в медицинском изделии.

Разработчики и производители медицинских изделий на основе технологий искусственного интеллекта должны убедиться, что их продукты работают корректно и не могут нанести вреда пациентам и обществу.

Принцип алгоритмической прозрачности. Должна обеспечиваться прозрачность при раскрытии информации о системах искусственного интеллекта в здравоохранении таким образом, чтобы граждане имели доступ к информации о результатах работы их алгоритмов и могли отказаться от применения технологий при отсутствии у них желания или наличия сомнений.

Принцип ответственности. Субъекты, вовлекаемые в процесс создания (разработки) и использования технологий искусственного интеллекта, должны нести ответственность за свои незаконные действия. Подобные механизмы должны быть отражены в правовых актах.

Принцип открытости. Разработчики систем искусственного интеллекта должны публиковать достаточно информации, содержащей достоверную и полную информацию о технологии, о ее рисках и возможностях. Подобные сведения должны быть предоставлены субъектам, применяющим подобные технологические инновации в своей клинической практике.

Принцип прозрачности и объяснимости. Медицинские изделия на основе технологий искусственного интеллекта должны быть прозрачными и объяснимыми в своих решениях и выводах. Медицинские работники и пациенты должны понимать, как медицинское изделие на основе технологий искусственного интеллекта пришло к определенному диагнозу, основание принятия определенного решения или как оно формирует рекомендацию для лечения пациента.

Медицинские изделия на основе технологий искусственного интеллекта должны быть разработаны с учетом соблюдения принципов прозрачности и объяснимости, так как именно эти принципы облегчают процесс оценки и подтверждения правильности диагноза, лечения или прогноза заболевания. При этом необходимо убедиться, что медицинский работник владеет достаточными навыками работы с такими изделиями, чтобы быть способным интерпретировать результаты и принимать клинические решения.

Медицинские работники должны быть готовы к анализу алгоритмической предвзятости, которая может влиять на результаты, полученные системами искусственного интеллекта. Указанный анализ может помочь увидеть ошибки в результатах, провести дополнительные исследования и не допустить ненужных медицинских вмешательств.

Принцип стимулирования развития цифровых технологий. Принцип стимулирования развития цифровых технологий является крайне важным для медицинских организаций и их руководителей. Развитие технологий в медицине является ключевым фактором для обеспечения безопасности и качества оказания медицинской помощи, а также для улучшения результатов лечения пациентов.

Для стимулирования развития цифровых технологий медицинские организации и их руководители могут использовать различные инструменты и механизмы. Например, они могут предоставлять финансовую поддержку для исследований и разработок в области искусственного интеллекта в медицине, а также для внедрения новых технологий и инноваций в клиническую практику.

Медицинские организации могут организовать специальные программы обучения и курсы для медицинских работников, чтобы повысить их знания и навыки в области искусственного интеллекта в медицине. Медицинские организации могут также создавать специальные отделы или центры по разработке и внедрению технологий в медицину, которые будут заниматься исследованиями и разработками в этой области.

Медицинские организации и их руководители могут предоставлять поощрения и награды для медицинских работников, которые активно участвуют в разработке и внедрении новых технологий в медицинскую практику. Такие поощрения могут включать финансовые бонусы, повышение квалификационного уровня или награды за выдающиеся достижения в развитии технологий.

Принцип взаимодействия предполагает под собой вовлеченность заинтересованных сторон и совместному созданию на протяжении всего жизненного цикла медицинских алгоритмов искусственного интеллекта (разработчики искусственного интеллекта, клиницисты, пациенты, социологи, работники здравоохранения менеджеры и государственные органы).

Алгоритмы искусственного интеллекта должны разрабатываться производителями искусственного интеллекта на основе совместного творчества, то есть посредством тесного и непрерывного сотрудничества между разработчиками искусственного интеллекта и конечными пользователями в клинических условиях, а также с другими соответствующими экспертами, такими как специалисты по биомедицинской этике.

Принцип запрета на полную автономию. При внедрении систем искусственного интеллекта в медицину необходимо гарантировать, чтобы медицинские работники всегда имели контроль над ними. Возможность для врачей разумно доверять имеющимся в их распоряжении цифровым инструментам и замечать признаки ошибки подобных систем и, следовательно, принимать новый курс действий — должно быть отражено в стандартах оказания медицинской помощи, оснащенной технологиями искусственного интеллекта как обязанность медицинского работника.

Однако перспектива того, что системы искусственного интеллекта в сфере здравоохранения будут сами принимать решения (без вмешательства человека), несомненно, есть. В связи с этим подобная ситуация создаст еще больше этико-правовых проблем в складывающихся общественных отношениях. В сфере здравоохранения существует спектр, в котором могут быть развернуты алгоритмы искусственного интеллекта, начиная от организма человека и заканчивая его пределами:

первый может включать в себя «умную таблетку», употребляемую в организм человека для мониторинга показателей его жизнедеятельности;

второй может включать обработку значительного количества данных с устройства обработки изображений, которое, к примеру, позволяет обнаружить рак кожи.

Тот факт, что конкретный алгоритм технологии будет помещен внутрь человеческого организма, может вызвать определенные этические вопросы, связанные с оказанием негативного влияния на жизнь и здоровье пациента, в частности повлиять на жизненно важные процессы. Действительно, подобная умная таблетка внутри тела человека, которая использует алгоритмы искусственного интеллекта для определения того, какие лекарства и когда вводить, может доставлять не те лекарства или доставлять нужные лекарства, но в неподходящее время, тем самым нарушая и, возможно, повреждая различные жизненные процессы организма.

Кроме того, для того, чтобы заставить алгоритмы искусственного интеллекта работать в организме человека, необходимо поместить их внутрь тела. Однако каждый человек имеет право на охрану своего здоровья и на телесную неприкосновенность, который является фундаментальным условием и одним из конституционных прав человека, потому что без контроля над своим телом человек не может чувствовать себя свободным и полноценным. Следовательно, при развертывании алгоритмов в системе здравоохранения внутри тела человека существует риск нарушить право человека на его физическую неприкосновенность.

Полагаем необходимым выделить существующие и перспективные типы алгоритмов искусственного интеллекта в сфере здравоохранения, исходя из их функционального назначения:

Существующие типы алгоритмов искусственного интеллекта в сфере здравоохранения:

Алгоритмы I типа действуют внутри организма человека и служат входными данными для принятия человеком решений. Примером подобного типа являются биосенсоры in vivo с искусственным интеллектом, которые могут непрерывно отслеживать биологические процессы внутри человеческого организма и предоставлять эту информацию медицинским работникам для дальнейшего анализа⁶⁰.

Алгоритмы II типа действуют вне организма человека и служат входными данными для принятия человеком решений. Примером подобного типа алгоритмов могут быть системы поддержки принятия решений, помощники рентгенолога с поддержкой искусственным интеллектом, которые могут повысить точность диагностики.

Перспективные типы алгоритмов искусственного интеллекта в сфере здравоохранения:

Алгоритмы III типа действуют внутри организма человека и принимают собственные решения (без вмешательства человека). Это могут быть интерфейсы мозг-компьютер следующего поколения (BCI) или умные таблетки, которые будут работать внутри человеческого организма и смогут принимать независимые решения без участия человека.

Алгоритмы IV типа действуют вне организма человека и принимают собственные решения. Некоторые примеры подобного типа могут включать роботов-хирургов следующего поколения или иных интеллектуальных роботов, которые будут действовать вне организма человека, но могут принимать решения самостоятельно без участия человека.

Однако полагаем то, что алгоритмы III и IV типов и их использование приведет к необходимости внесения кардинальных изменений в действующем законодательстве, в том числе в сфере здравоохранения, и потребует более длительных испытаний (исследований) для оценки безопасности их применения.

Принцип эмпатии. Каждый пациент представляет собой индивидуальный набор качеств, свойств и физиологических особенностей. В связи с этим пациент требует к себе особого внимания и заботы со стороны медицинского работника, поддержки и сочувствия — когда это будет необходимо. Однако системы искусственного интеллекта подобными качествами не наделены, что может привести к разрыву и потери эмоциональной составляющей между ними, а в целом — снижения авторитета системы здравоохранения и потере доверия к ней. Случай, произошедший в США, наглядным образом демонстрирует то, что общество не готово к полной автоматизации в системе здравоохранения, к замене врачей на системы искусственного интеллекта. Так, к тяжелобольному пациенту в палату въехал больничный дрон, на экране которого появилось изображение врача (который использовал видеочат). Без всяких эмоций специалист сообщил о неблагоприятном прогнозе. Для облегчения страданий предложил морфин, однако предупредил, что это еще сильнее затруднит дыхание. Кроме этого, предложил обеспечить пациенту паллиативную помощь в домашних условиях. Родственники пациента были крайне озадачены даже не фактом постановки ему смертельного диагноза, а формой, которую выбрал врач для сообщения диагноза⁶¹.

Принцип квалификации медицинских работников. Необходимо внедрить образовательные программы по повышению квалификации медицинских работников и грамотности широкой общественности в области медицинского искусственного интеллекта. Для ускорения процесса внедрения цифровой технологии в клиническую практику и сведению к минимуму ошибок, будущие медицинские работники должны быть надлежащим образом обучены работе с медицинскими изделиями на основе технологий искусственного интеллекта, включая их преимущества с точки зрения улучшения качества медицинской помощи и доступа к ней, а также ограничения и риски.

Принцип повышения доверия к технологии. Существует настоятельная необходимость повысить грамотность населения в сфере искусственного интеллекта, чтобы граждане и пациенты могли расширить свои возможности и, таким образом, лучше использовать преимущества новых технологий. Повышение грамотности в сфере искусственного интеллекта также поможет свести к минимуму потенциальный риск неправильного использования инструментов искусственного интеллекта, особенно при дистанционном мониторинге.

Итак, сделаем следующие выводы:

Во-первых, медицинская деятельность с использованием технологий искусственного интеллекта не только подлежит правовому регулированию, но и поднимает этические и моральные вопросы, связанные с лечением пациентов.

Во-вторых, применение соответствующих этических принципов создания (разработки)