- -
- 100%
- +
Приведенное выше обсуждение указывает на то, что интерпретируемые алгоритмы – это алгоритмы, которые контекстуализируют данные, помещая их в контекст структурированных фоновых знаний, представляя их в простой форме, которая фиксирует существенные, проницательные различия, а затем обосновывает соответствующий вывод относительно значений, полученных от пользователей-людей. Такие представления контекстуализируют выходные данные модели и придают смысл пользователю в терминах значений, хранящихся в долговременной памяти. Как правило, эти ценности (или подобные конструкции, генерирующие предпочтения, такие как цели) не могут быть получены непосредственно из данных, основанных на механических, хрупких, дословных ассоциациях. Таким образом, методы упрощения сложных моделей, вероятно, будут иметь ту же хрупкость. В отличие от них, представления сути просты, но в то же время гибки и проницательны; они задействуют контекстуальные элементы, такие как цели и ценности, которые явно не представлены в данных. Таким образом, будущая работа может быть продуктивно сосредоточена на выявлении этих основных представлений от экспертов в форме сопоставлений структурированных фоновых знаний со значимыми, но простыми категориями, связанными с целями, ценностями, принципами или другими предпочтениями. Предыдущие «экспертные системы» не имели возможности масштабирования именно из-за трудностей с выявлением этих существенных различий. Чтобы выйти из этого тупика, обсуждение в этой статье подчеркивает необходимость учета нескольких уровней ментальной репрезентации при создании интерпретируемых выходных данных ИИ. Короче говоря, вместо того, чтобы ассимилировать человеческое познание с машинным обучением, мы могли бы извлечь выгоду из разработки моделей машинного обучения, которые лучше отражают эмпирические представления о человеческом познании. Между дословным подходом, основанным на данных, и негибким нисходящим схематическим подходом находится подход, в котором пользователи-люди участвуют в процессе контекстуализации выходных данных модели, которые затем используются для выбора между существующими структурами фоновых знаний и их уточнения. Есть некоторые предварительные свидетельства того, что эти «коммуникативные» подходы, в которых пользователи взаимодействуют с системами ИИ и курируют их результаты, могут оказаться многообещающими. Кроме того, потребности пользователей варьируются в зависимости от индивидуальных различий, например, в метапознании и обучении. Поэтому будущая работа должна быть сосредоточена на характеристике этих факторов в сообществах пользователей. Данный обзор обеспечивает теоретическую основу для такого подхода и дает четкие указания для будущей работы: такие подходы должны доводить суть данных до пользователя.
Этическая составляющая искусственного интеллекта
Начнем с предостережения Бреннана о важнейшем характере процедур установления фактов: для опытных юристов общеизвестно, что исход судебного разбирательства и, следовательно, защита законных прав чаще зависят от того, как устанавливающий факты оценивает факты, чем от спорного толкования закона или толкования ряда прецедентов. Таким образом, процедуры, с помощью которых устанавливаются обстоятельства дела, приобретают столь же важное значение, как и действительность применяемой материальной нормы права. И чем важнее поставлены на карту права, тем важнее должны быть процессуальные гарантии, связанные с этими правами. «Вопрос о том, какая степень доказательства требуется… Это тот вопрос, который традиционно оставлялся на усмотрение судебной системы…»
В общих чертах, стандарт доказывания отражает риск выигрыша или проигрыша в данном разбирательстве против противника или, иными словами, уверенность, с которой сторона, несущая бремя доказывания, должна убедить лицо, устанавливающее факты.
Как пояснил Харлан в своем согласии по делу Уиншипа, выбор надлежащего бремени доказывания в значительной степени зависит от оценки обществом ставок, связанных с судебным разбирательством.
В судебном разбирательстве, в котором идет спор о фактах какого-то более раннего события, лицо, устанавливающее факты, не может получить неопровержимо точное знание о том, что произошло. Вместо этого все, что может приобрести специалист по установлению фактов, – это вера в то, что, вероятно, произошло. Интенсивность этого убеждения – степень, в которой человек, устанавливающий факты, убежден в том, что данное действие действительно имело место, – конечно, может варьироваться. В этом отношении стандарт доказывания представляет собой попытку проинструктировать лицо, устанавливающее факты, о той степени доверия, которое, по мнению нашего общества, он должен иметь в правильности фактических выводов для определенного типа судебного разбирательства. Несмотря на то, что фразы «преобладание доказательств» и «доказательство вне разумного сомнения» являются количественно неточными, они сообщают лицу, ищущему факты, различные представления о степени уверенности, которую он должен иметь в правильности своих фактических выводов.
Таким образом, бремя доказывания в любом конкретном классе случаев лежит в континууме от низкой вероятности до очень высокой вероятности.
Преобладающие доказательства:
Как правило, «перевес доказательств» [или] более вероятный, чем нестандартный, полагается в гражданских исках, где закон безразличен в отношениях между истцами и ответчиками, но стремится свести к минимуму вероятность ошибки.
Например, в гражданском иске между двумя частными лицами о возмещении денежного ущерба мы считаем не более серьезным в целом ошибочный вердикт в пользу ответчика, чем ошибочный вердикт в пользу истца. Таким образом, преобладание стандарта доказательств представляется особенно уместным; как объясняется наиболее разумно, он просто требует, чтобы лицо, оценивающее факт, «верило в то, что существование факта более вероятно, чем его отсутствие, прежде чем (он) сможет вынести решение в пользу стороны, на которую возложена обязанность убедить (судью) в существовании факта».
При количественном определении стандарт преобладания будет равен 50+% вероятности.
Четкие и убедительные доказательства:
В некоторых гражданских процессах, где подразумевается моральная распущенность, суды используют стандарт «ясных и убедительных доказательств», тест несколько более строгий, чем преобладание доказательств.
В тех случаях, когда доказательство другого преступления используется в качестве соответствующего доказательства в соответствии с Правилами 401-404 Федеральных правил доказывания, наиболее распространенным критерием является некая форма стандарта «ясности и убедительности».
При количественной оценке вероятности могут составлять порядка 70% при наличии ясных и убедительных доказательств.
Четкие, недвусмысленные и убедительные доказательства:
«В ситуациях, когда различные интересы общества противостоят ограничениям свободы личности, часто навязываются более жесткие стандарты, такие как доказательство четкими, недвусмысленными и убедительными доказательствами». Верховный суд применил этот более строгий стандарт к процедурам депортации, делам о денатурализации и делах об экспатриации. Конечно, процедура депортации не является уголовным преследованием. Но из этого из силлогически не следует, что лицо может быть выслано из этой страны только на основании доказательств более высокой степени, чем та, которая применяется в случае небрежности. Настоящий Суд не закрывает глаза на те серьезные лишения, которые могут последовать, когда наше правительство вынуждает жителя этой страны отказаться от всех уз, заключенных здесь, и уехать в чужую страну, где у него часто нет современного удостоверения личности.
В процентном соотношении вероятность получения четких, недвусмысленных и убедительных доказательств может составлять порядка 80% в соответствии с этим стандартом.
Доказательства, не вызывающие разумных сомнений:
Стандарт «доказательства вне разумных сомнений» конституционно закреплен в отношении элементов уголовного преступления. Выступая от имени большинства Бреннан перечислил «убедительные причины», по которым «стандарт «обоснованного сомнения» играет жизненно важную роль в американской системе уголовного судопроизводства» и «является основным инструментом для снижения риска вынесения обвинительных приговоров на основании фактической ошибки».
Обвиняемый во время уголовного преследования имеет огромное значение как из-за возможности того, что он может потерять свою свободу в случае осуждения, так и из-за уверенности в том, что он будет стигматизирован в результате осуждения. Соответственно, общество, которое дорожит добрым именем и свободой каждого человека, не должно осуждать человека за совершение преступления, когда есть обоснованные сомнения в его виновности. «В судебном разбирательстве всегда существует предел погрешности, представляющий собой ошибку в установлении фактов, которую обе стороны должны учитывать. В тех случаях, когда на карту поставлен интерес, выходящий за рамки ценности обвиняемого по уголовному делу, – его свобода, – эта погрешность в отношении нее уменьшается в результате возложения на другую сторону бремени… убеждение лица, устанавливающего факты, в конце судебного разбирательства в его виновности вне всяких разумных сомнений. Надлежащая правовая процедура предписывает, что никто не может потерять свою свободу, если правительство не взяло на себя бремя… убедив следователя в своей вине».
Более того, использование стандарта обоснованного сомнения необходимо для того, чтобы вызвать уважение и доверие общества к применению уголовного права. Крайне важно, чтобы моральная сила уголовного права не была разбавлена стандартом доказывания, который оставляет людей в сомнениях в том, что невиновные люди были осуждены.
В делах, караемых смертной казнью, стандарт отсутствия разумных сомнений использовался для установления фактов, необходимых для вынесения смертного приговора после установления вины.
Многие суды штатов, толкуя законы штатов о рецидиве, постановили, что доказательства прошлых преступлений должны быть установлены вне разумных сомнений.
В делах о гражданских обязательствах, где ставки больше всего напоминают ставки риска в уголовном процессе, некоторые суды постановили, что требуется стандарт отсутствия разумных сомнений.
При количественной оценке стандарт вне разумных сомнений может находиться в диапазоне 95+% вероятности.
Руководство по определению вероятности причинно-следственной связи и методы реконструкции дозы облучения в соответствии с Законом 2000 года о Программе компенсации работникам в связи с профессиональными заболеваниями реализует отдельные положения Закона о Программе компенсации профессиональным заболеваниям работников энергетики от 2000 года «EEOICPA». Закон требует обнародования руководящих принципов в форме нормативных актов для определения того, может ли лицо, больное раком, быть признано, «по крайней мере, с такой же вероятностью, как и нет», иметь этот рак в результате воздействия ионизирующего излучения при выполнении обязанностей по программам производства ядерного оружия Министерства энергетики и его предшественников. Руководящие принципы будут применяться Министерством труда США, которое отвечает за определение того, следует ли присуждать компенсацию лицам, желающим получить федеральную компенсацию в соответствии с Законом.
В соответствии с EEOICPA, работник, на которого распространяется действие страховки, претендующий на компенсацию в связи с раком, не являющийся членом общества специального воздействия, требующей компенсации в связи с конкретным видом рака, имеет право на компенсацию только в том случае, если Министерство труда определит, что рак был «по меньшей мере столь же вероятным, как и нет» (50% или более вероятности) вызван дозами облучения, полученными при исполнении служебных обязанностей во время работы в Министерстве энергетики и/или на объекте работодателя по производству атомного оружия . Эти руководящие принципы предоставляют Министерству труда процедуру для принятия таких определений, а также указывают информацию, которую Министерство труда будет использовать.
Вероятность причинно-следственной связи – это технический термин, обычно означающий оценку процента случаев заболевания, вызванного опасностью для здоровья, среди группы лиц, подвергшихся опасности. Эта оценка используется в компенсационных программах в качестве оценки вероятности или вероятности того, что болезнь отдельного члена этой группы была вызвана воздействием опасности для здоровья. Другие термины для этого понятия включают «присвоенную акцию» и «процент относящегося риска».
Согласно этому правилу, потенциальную опасность представляет ионизирующее излучение, воздействию которого подвергались американские ядерщики при исполнении служебных обязанностей; заболевания представляют собой специфические виды рака. Вероятность причинно-следственной связи рассчитывается как риск развития рака, связанный с облучением, деленный на сумму исходного риска развития рака для населения в целом плюс риск, связанный с облучением, а затем умножается на 100 процентов. Этот расчет дает процентную оценку в диапазоне от 0 до 100 процентов, где 0 означает 0 вероятности того, что радиация вызвала рак, а 100 означает 100-процентную уверенность в том, что радиация вызвала рак.
Ученые оценивают вероятность того, что радиация вызывает рак у работника, используя медицинские и научные знания о взаимосвязи между конкретными типами и уровнями дозы облучения и частотой раковых заболеваний в популяциях, подвергшихся облучению. Проще говоря, если исследования определяют, что определенный тип рака встречается чаще среди населения, подвергающегося более высокому уровню радиации, чем сопоставимая популяция (население с меньшим облучением, но схожее по возрасту, полу и другим факторам, которые играют роль в здоровье), и если уровни радиационного облучения известны в этих двух популяциях, Затем можно оценить долю раковых заболеваний в популяции, подвергшейся облучению, которые могли быть вызваны данным уровнем радиации.
Если ученые сочтут это исследование достаточным и приемлемого качества, они могут затем перевести его в серию математических уравнений, которые оценивают, насколько риск развития рака в популяции будет увеличиваться по мере увеличения дозы радиации, получаемой этой популяцией. Серия уравнений, известная как модель «доза-реакция» или модель количественной оценки риска, может также учитывать другие факторы здоровья, потенциально связанные с риском развития рака, такие как пол, история курения, возраст на момент облучения (облучения) и время, прошедшее с момента облучения. Модели риска могут быть затем применены в качестве несовершенного, но разумного подхода к определению вероятности того, что рак у отдельного работника был вызван его или ее дозой облучения.
В 1985 году, в ответ на очевидную брешь в Законе об орфанных препаратах, комиссия, созданная Национальными институтами здравоохранения, разработала набор радиоэпидемиологических таблиц. Таблицы служат справочным инструментом, обеспечивающим оценку вероятности причинно-следственной связи для лиц с онкологическими заболеваниями, подвергшихся воздействию ионизирующего излучения. Использование таблиц требует информации о дозе заболевания, поле, возрасте на момент заражения, дате постановки диагноза рака и других соответствующих факторах. Эти таблицы используются Департаментом по делам ветеранов для принятия решений о компенсации ветеранам, больным раком, которые при исполнении служебных обязанностей подверглись воздействию радиации от взрывов атомного оружия.
Основным источником данных для таблиц 1985 года являются исследования смертей от рака, произошедших среди выживших после японской атомной бомбардировки во время Второй мировой войны.
Таблицы 1985 года в настоящее время обновляются Национальным институтом рака и Центрами по контролю и профилактике заболеваний, чтобы учесть прогресс в исследованиях взаимосвязи между радиацией и риском рака. Проект обновления был рассмотрен Национальным исследовательским советом и будет использовать обновленную версию таблиц с изменениями, важными для претензий в соответствии с EEOICPA, в качестве основы для определения вероятности причинно-следственной связи для работников, подпадающих под EEOICPA.
Основным научным изменением, достигнутым благодаря этому обновлению, является использование моделей риска, разработанных на основе данных о заболеваемости раком (случаях заболевания), а не на частоте смертей от рака среди выживших после японской атомной бомбардировки. Модели рисков еще больше совершенствуются за счет того, что они основаны на более актуальных данных. В пересмотренном отчете было смоделировано гораздо больше видов рака. Новые модели риска также учитывают факторы, которые изменяют воздействие радиации на рак, связанные с типом дозы облучения, величиной дозы и временем ее приема.
Основным технологическим изменением, сопровождающим это обновление, которое представляет собой научное усовершенствование, является создание компьютерной программы для вычисления вероятности причинно-следственной связи. Эта программа, получившая название IREP, позволяет пользователю применять модели риска онкологических заболеваний непосредственно к данным об отдельном сотруднике. Это позволяет оценить вероятность причинно-следственной связи с использованием более совершенных количественных методов, чем те, которые могли бы быть включены в печатные таблицы. В частности, IREP позволяет пользователю учитывать неопределенность в отношении используемой информации для оценки вероятности причинно-следственной связи. Как правило, существует неопределенность в отношении уровней дозы облучения, воздействию которых подвергался человек, а также неопределенность в отношении уровней получаемой дозы с уровнями риска развития рака, наблюдаемыми в исследуемых популяциях.
Учет неопределенности важен, поскольку он может оказать большое влияние на вероятность оценок причинно-следственной связи. Используя радиоэпидемиологические таблицы 1985 года, использует оценки вероятности причинно-следственных связей, найденные в таблицах, на верхнем 99-процентном пределе достоверности. Это означает, что, когда эксперт определяет, был ли рак у ветерана с большей вероятностью вызван радиацией, они используют оценку, которая на 99% больше вероятности, которая была бы рассчитана, если бы информация о дозе и модель риска были абсолютно точными. Аналогичным образом, в этих рекомендациях в соответствии с требованиями EEOICPA, будет использоваться верхний 99-процентный предел доверия для определения того, являются ли раковые заболевания сотрудников по крайней мере столь же вероятными, как и не вызваны их профессиональными дозами облучения. Это поможет свести к минимуму возможность отказа в компенсации заявителям в соответствии с EEOICPA для тех сотрудников, у которых рак, вероятно, был вызван профессиональным радиационным облучением.
Модели риска, разработанные для IREP, обеспечивают основную основу для разработки рекомендаций по оценке вероятности причинно-следственной связи в соответствии с EEOICPA. Они непосредственно направлены на борьбу с 33 видами рака и большинством видов радиационного облучения, имеющих отношение к сотрудникам, на которых распространяется EEOICPA. Эти модели учитывают тип рака сотрудника, год рождения, год постановки диагноза рака и информацию о воздействии, такую как годы облучения, а также дозу, полученную от гамма-излучения, рентгеновского излучения, альфа-излучения, бета-излучения и нейтронов в течение каждого года. Кроме того, модель риска рака легких учитывает историю курения, а модель риска рака кожи учитывает расовую/этническую принадлежность. Ни одна из моделей риска не учитывает воздействие других канцерогенов, вызывающих профессиональную, экологическую или пищевую деятельность. Модели, учитывающие эти факторы, не были разработаны и, возможно, не могут быть разработаны на основе существующих исследований. Более того, эксперт не может последовательно и эффективно получать новые данные, необходимые для использования таких моделей.
Модели IREP не включают рак в том виде, в каком он определен на ранних стадиях. Эти поражения становятся все более диагностируемыми, поскольку использование инструментов скрининга рака, таких как маммография, увеличилось среди населения в целом. Факторы риска и методы лечения часто аналогичны таковым для злокачественных новообразований, и, несмотря на противоречивость, появляется все больше доказательств того, что КИС представляет собой самую раннюю обнаруживаемую фазу злокачественных новообразований.
Раковые опухоли, идентифицированные по их вторичным локализациям (участкам, на которые распространился злокачественный рак), когда первичный очаг неизвестен, поднимают еще одну проблему для применения IREP. Такая ситуация чаще всего возникает, когда информация о свидетельстве о смерти является основным источником диагноза рака. В медицине принято считать, что канцерогенные агенты, такие как ионизирующее излучение, вызывают первичный рак. Это означает, что в случае, когда первичный очаг рака неизвестен, первичный очаг должен быть установлен путем умозаключения для оценки вероятности причинно-следственной связи.
Сотрудники, у которых диагностировано два или более первичных онкологических заболевания, также поднимают специальный вопрос для определения вероятности причинно-следственной связи. Даже если предположить, что биологические механизмы, вызывающие каждый вид рака, не связаны между собой, оценки неопределенности уровня радиации, доставляемой в каждую раковую зону, будут связаны. Хотя полное понимание этой ситуации требует статистической подготовки, последствия этого имеют простые, но важные последствия. Этот подход важен для заявителя, потому что он определит более высокую вероятность причинно-следственной связи, чем та, которая была бы определена для каждого вида рака в отдельности.
При принятии медицинских решений, будь то для себя или в соответствии с рекомендуемой практикой в целом, всегда существует компромисс между пользой и риском. Хотя обычно это не поддается определению в контексте случайных переменных, где выбор может быть сделан на основе того, была ли игра честной или нечестной в нашу пользу, некоторый тип взвешивания возможных исходов все же необходим. Принимая лекарство, например, мы можем рассмотреть исход «улучшения состояния» по сравнению с «побочным эффектом». Как мы все с болью осознаем, в средствах массовой информации постоянно (24 часа в сутки 7 дней в неделю) освещаются такого рода вопросы.
Помимо вопросов личного медицинского риска, мы регулярно сталкиваемся с различными ситуациями, связанными со ставками и азартными играми. Некоторые из них включают в себя покупку страховки, финансовые вложения и ценность информации в целом для принятия обоснованных решений.
Показательным в некотором смысле являлся выносимый в судебном порядке вердикт о продолжении деятельности Американской психиатрической ассоциации. Вопросы, поставленные в данном деле, являются логическим следствием двух предыдущих решений этого суда. В первом, суд рассматривал ту же процедуру вынесения приговора, о которой идет речь в данном случае. Суд отклонил конституционное возражение по вопросу о «будущей опасности», постановив, что установленный законом стандарт не является непозволительно расплывчатым. Признавая трудность, связанную с прогнозированием будущего поведения, Суд постановил, что «задача, которую присяжные должны выполнить… в принципе ничем не отличается от задачи, выполняемой бесчисленное количество раз каждый день во всей системе уголовного правосудия». Таким образом, суд поддержал использование статутного вопроса, но не рассмотрел виды доказательств, которые могут быть представлены присяжным для целей настоящего определения. Впоследствии суд снова рассмотрел схему вынесения приговора – на этот раз в контексте психиатрической экспертизы для определения дееспособности обвиняемого предстать перед судом. Суд постановил, что предусмотренная привилегия против самооговора применима к таким психиатрическим обследованиям, по крайней мере, в той мере, в какой психиатр обвинения впоследствии дает показания относительно будущей опасности для обвиняемого. Суд рассудил, что, хотя обвиняемый не имеет общего конституционного права хранить молчание во время психиатрической экспертизы, должным образом ограниченной вопросами вменяемости или дееспособности, в отношении показаний о будущей опасности должны быть вынесены полные предупреждения по делу из-за «серьезности решения, которое должно быть принято на этапе наказания… Таким образом, решение позволяет обвиняемому, запретить проведение государственной психиатрической экспертизы по вопросу о будущей опасности. Дело поднимает два вопроса, которые остались нерешенными. Во-первых, можно ли когда-либо разрешить психиатру, дающему показания в качестве эксперта-медицинского свидетеля, делать прогноз относительно долгосрочной опасности для обвиняемого, приговоренного в будущем. Второй вопрос заключается в том, могут ли такие показания быть получены на основе гипотетических вопросов, даже если не существует общего запрета на использование экспертных психиатрических заключений по вопросу долгосрочной опасности в будущем. Возможно, на оба этих вопроса следует ответить отрицательно.