WikiDer > Право на объяснение - Википедия

Right to explanation - Wikipedia

в регулирование из алгоритмы, особенно искусственный интеллект и его подполе машинное обучение, а право на объяснение (или же прямо к ан объяснение) это верно получить объяснение для вывода алгоритма. Такие права в первую очередь относятся к личные права получить объяснение решений, которые существенно влияют на человека, особенно в юридическом или финансовом плане. Например, человек, который подает заявку на получение ссуды и получает отказ, может попросить объяснения, которое может быть следующим:Кредитное бюро X сообщает, что вы объявили о банкротстве в прошлом году; это главный фактор, влияющий на вероятность того, что вы неплатежеспособны, и поэтому мы не предоставим вам ссуду, на которую вы подали заявку ".

Некоторые такие законные права уже существуют, в то время как объем общего «права на объяснение» является предметом постоянных дебатов.

Примеры

Кредитный рейтинг в США

Дальнейшая информация: Кредитный рейтинг в США

Кредитный рейтинг в США - в более общем плане, кредитные иски - имеют устоявшееся право на объяснение. Под Закон о равных возможностях кредита (Правило B Свод федеральных правил), Титул 12, Глава X, Часть 1002, §1002.9кредиторы обязаны уведомлять заявителей о действиях, предпринятых при определенных обстоятельствах, и в таких уведомлениях должны быть указаны конкретные причины, как описано в §1002.9 (b) (2):[1]

(2) Указание конкретных причин. Изложение причин неблагоприятного действия, требуемого параграфом (a) (2) (i) данного раздела, должно быть конкретным и указывать основную причину (-ы) для неблагоприятного действия. Утверждения о том, что неблагоприятное действие было основано на внутренних стандартах или политике кредитора или что заявитель, совместный заявитель или аналогичная сторона не набрали квалификационный балл в системе кредитного рейтинга кредитора, являются недостаточными.

В официальная интерпретация в этом разделе подробно описаны допустимые типы утверждений.

Кредитные агентства и фирмы по анализу данных, такие как FICO соблюдать это постановление, предоставив список причин (обычно не более 4 в соответствии с интерпретацией нормативных требований), состоящий из числовых код причины (в качестве идентификатора) и соответствующее объяснение, определяющее основные факторы, влияющие на кредитный рейтинг.[2] Примером может быть:[3]

32: остатки на банковской карте или возобновляемых счетах слишком высоки по сравнению с кредитными лимитами

Евросоюз

Европейский Союз Общие правила защиты данных (введено в действие в 2016 г., вступает в силу в 2018 г.) расширяет права на автоматизированное принятие решений в 1995 г. Директива о защите данных предоставить юридически оспариваемую форму права на объяснение, указанную как таковую в Сольный концерт 71: «[субъект данных должен иметь] право ... получить объяснение принятого решения». В полном объеме:

Субъект данных должен иметь право не подчиняться решению, которое может включать в себя меру, оценивающую личные аспекты, относящиеся к нему или ей, которые основаны исключительно на автоматизированной обработке и которые имеют правовые последствия в отношении него или ее или аналогичным образом существенно влияют на него. или ее, например, автоматический отказ в онлайн-заявке на кредит или методы электронного набора персонала без какого-либо вмешательства человека.

...

В любом случае, такая обработка должна быть предметом соответствующих гарантий, которые должны включать конкретную информацию для субъекта данных и право на вмешательство человека, на выражение его или ее точки зрения, на получение объяснения решения, принятого после такой оценки. и оспорить решение.

Однако степень, в которой сами правила предоставляют «право на объяснение», активно обсуждается.[4][5][6] Есть два основных направления критики. Существуют значительные юридические проблемы с правом, изложенным в статье 22, поскольку изложение не является обязательным, а право на объяснение не упоминается в обязательных статьях текста, поскольку оно было удалено в ходе законодательного процесса.[5] Кроме того, существуют значительные ограничения на типы охватываемых автоматизированных решений - которые должны быть "исключительно" основаны на автоматизированной обработке и иметь юридические или аналогичные значимые последствия, - что значительно ограничивает диапазон автоматизированных систем и решений, в отношении которых право будет применяться.[5] В частности, это право вряд ли будет применяться во многих случаях алгоритмических разногласий, которые возникают в СМИ.[7]

Второй потенциальный источник такого права был указан в статье 15, «право доступа субъекта данных». Это повторяет аналогичное положение из Директивы о защите данных 1995 года, позволяющее субъекту данных получить доступ к «значимой информации о логике, задействованной» в таком же значимом, полностью автоматизированном процессе принятия решений, как в статье 22. Тем не менее, это также страдает от предполагаемых проблем, которые связаны со сроками, когда это право может быть использовано, а также с практическими проблемами, которые означают, что оно может не иметь обязательной силы во многих случаях, вызывающих озабоченность общественности.[5]

Франция

В Франция 2016 год Loi pour une République numérique (Закон о цифровой республике или Loi numérique) вносит поправки в административный кодекс страны, вводя новое положение для разъяснения решений, принимаемых органами государственного сектора в отношении физических лиц.[8] Он отмечает, что там, где есть «решение, принятое на основе алгоритмического лечения», правила, которые определяют это обращение и его «основные характеристики», должны быть сообщены гражданину по запросу, если нет исключения (например, для национального безопасность или оборона). Они должны включать следующее:

  1. степень и способ участия алгоритмической обработки в принятии решений;
  2. обрабатываемые данные и их источник;
  3. параметры лечения и, где это уместно, их весовые коэффициенты применительно к ситуации соответствующего лица;
  4. операции, проводимые лечением.

Ученые отметили, что это право, хотя и ограничивается административными решениями, выходит за рамки права GDPR и прямо применяется к поддержке принятия решений, а не к решениям, «исключительно» основанным на автоматизированной обработке, а также обеспечивает основу для объяснения конкретных решений.[8] Действительно, права на автоматизированное принятие решений GDPR в Европейском союзе, одном из мест, где искали «право на объяснение», берут свое начало во французском законодательстве конца 1970-х годов.[9]

Критика

Некоторые утверждают, что «право на объяснение» в лучшем случае ненужно, в худшем - вредно и грозит задушить инновации. Конкретная критика включает: предпочтение человеческих решений над машинными решениями; противоречит существующим законам; и сосредоточение внимания на процессе, а не на результате.[10]

Более того, многие алгоритмы, используемые в машинном обучении, нелегко объяснить. Например, вывод глубокая нейронная сеть зависит от многих уровней вычислений, связанных сложным образом, и ни один ввод или вычисление не могут быть доминирующим фактором. Поле Объяснимый ИИ стремится предоставить лучшие объяснения на основе существующих алгоритмов и алгоритмов, которые легче объяснить, но это молодая и активная область.[11][12]

Точно так же человеческие решения часто нелегко объяснить: они могут быть основаны на интуиции или "внутреннее чувство"это трудно описать словами. Некоторые утверждают, что не следует требовать, чтобы машины соответствовали более высоким стандартам, чем люди.

Смотрите также

Рекомендации

  1. ^ Бюро финансовой защиты потребителей, §1002.9 (б) (2)
  2. ^ Коды причин оценки кредитного риска FICO США: основной документ от FICO, в котором перечислены все причины кредитного рейтинга FICO, по которым оценка не выше., 31 марта 2010 г., Грег Фишер
  3. ^ "ReasonCode.org | Решения VantageScore". www.reasoncode.org.
  4. ^ Гудман, Брайс; Флаксман, Сет (2017). «Правила Европейского Союза об алгоритмическом принятии решений и праве на объяснение'". Журнал AI. 38 (3): 50–57. arXiv:1606.08813. Дои:10.1609 / aimag.v38i3.2741. S2CID 7373959.
  5. ^ а б c d Вахтер, Сандра; Миттельштадт, Брент; Флориди, Лучано (28 декабря 2016 г.). «Почему право на разъяснение автоматизированного принятия решений не существует в Общем регламенте защиты данных». Международный закон о конфиденциальности данных. SSRN 2903469.
  6. ^ Есть ли в GDPR «право на объяснение» машинного обучения?, 1 июня 2017 г., Эндрю Берт
  7. ^ Эдвардс, Лилиан; Вил, Майкл (2017). «Подчинение алгоритму? Почему« право на объяснение », вероятно, не то средство, которое вы ищете». Duke Law and Technology Review. SSRN 2972855.
  8. ^ а б Эдвардс, Лилиан; Вил, Майкл (2018). «Порабощение алгоритма: от« права на объяснение »к« праву на лучшие решения »?» (PDF). Безопасность и конфиденциальность IEEE. 16 (3): 46–54. Дои:10.1109 / MSP.2018.2701152. S2CID 4049746. SSRN 3052831.
  9. ^ Бигрейв, Л. А. (2001). «Внимание к машине: статья 15 Директивы ЕС о защите данных и автоматизированном профилировании» (PDF). Обзор компьютерного права и безопасности. 17 (1). Дои:10.1016 / S0267-3649 (01) 00104-2.
  10. ^ Право ЕС на объяснения: вредное ограничение искусственного интеллекта, Ник Уоллес, Центр инноваций в области данных, 25 января 2017 г.
  11. ^ Миллер, Тим (2017-06-22). «Объяснение в искусственном интеллекте: выводы из социальных наук». arXiv:1706.07269 [cs.AI].
  12. ^ Миттельштадт, Брент; Рассел, Крис; Вахтер, Сандра (2019). «Объяснение объяснений в AI» (PDF). Материалы конференции по справедливости, подотчетности и прозрачности - FAT * '19. Нью-Йорк, Нью-Йорк, США: ACM Press: 279–288. Дои:10.1145/3287560.3287574. ISBN 978-1-4503-6125-5. S2CID 53214940.

внешняя ссылка