Тюрк обратился к Евросоюзу по поводу Закона о ИИ

Дамы и господа,

Я хотел бы внести вклад в обсуждение предлагаемого закона Европейского союза, регулирующего применение ИИ («Закона об ИИ»). Я высоко оцениваю те цели, которые ставит Европейский союз, принимая этот закон, а именно, возможность дальнейшего усиления защиты прав человека. Это одна из первых масштабных попыток регулирования ИИ, которая повлияет не только на Европейский союз и его членов, но и на другие нормативные рамки в этой области в мире.

Организацию Объединенных Наций и Европейский союз объединяет приверженность уважению, защите и продвижению прав человека. Международное право в области прав человека должно быть ориентиром в то время, когда программы на базе ИИ становятся все более совершенными и применяются в разных отраслях, затрагивая жизнь каждого из нас. Если новые правила использования ИИ будут прочно основаны на правах человека, Европейский союз обеспечит укрепление защиты прав человека в условиях растущего использования программ ИИ в повседневной жизни. Понимая значение этой возможности и в ответ на предложения, возникшие в ходе законодательных дебатов, я хотел бы представить анализ на основе прав человека и рекомендации моего Управления относительно Закона об ИИ в приложении к этому письму.

Мое Управление готово оказать поддержку институтам Европейского союза и государств-членов в процессе усовершенствования Закона об ИИ и работать над тем, чтобы новый закон смог выполнить свои задачи и защитить права человека всех людей.

Дамы и господа, прошу вас принять заверения в моем высоком почтении.

Фолькер Тюрк

Европейская комиссия
Европейский парламент
Совет ЕС

ПРИЛОЖЕНИЕ

Управление Верховного комиссара ООН по правам человека (УВКПЧ) представляет анализ и рекомендации, касающиеся рассматриваемого в настоящее время Закона Европейского союза об искусственном интеллекте («Закон об ИИ») и его возможных последствий с точки зрения прав человека. Данный список не следует рассматривать как исчерпывающий. Представленные вопросы в области прав человека УВКПЧ считает наиболее актуальными на текущем этапе рассмотрения закона.

Классификация ИИ высокого риска

В Законе об ИИ предусмотрены несколько классов риска, которые влияют на обязательства разработчиков, поставщиков и пользователей ИИ. Действительно, необходимо обеспечить более мощную защиту от программ ИИ, которые потенциально могут нанести ущерб правам человека. В этой связи УВКПЧ подчеркивает, что определение степени риска должно быть основано на прогнозируемых негативных последствиях программ ИИ для прав человека, а не только на технических сторонах и вопросах безопасности: системы ИИ, которые несут значительные риски для осуществления прав человека должны быть отнесены к категории высокого риска со всеми вытекающими обязательствами для провайдеров и пользователей.

УВКПЧ выражает беспокойство в связи с предложением разрешить компаниям самостоятельно решать, что их система ИИ не относится к категории высокого риска, и, соответственно, избегать более строгих требований, предъявляемых к таким системам. Такая модель самостоятельной оценки рисков вызовет существенную правовую неопределенность, приведет к ограниченному исполнению и снижению подотчетности, таким образом снизив положительный эффект от принятия закона.

Кроме того, в соответствии с международным законодательством в области прав человека, в том числе с Руководящими принципами в области предпринимательской деятельности и прав человека ООН, государства должны обеспечить, чтобы их законодательная база, регулирующая продукты и сервисы ИИ, предусматривала надлежащие механизмы надзора, которые могли бы устранять текущие или прогнозируемые последствия для прав человека. Участие технологических компаний в обеспечении общественных благ является весьма серьезным вопросом в области прав человека для многих заинтересованных сторон, в том числе самих технологических компаний.

Строгие ограничения использования биометрического распознавания и выявления потенциальных преступников

Расширение разработки и использования все более мощных систем ИИ в целях наблюдения является одной из наиболее серьезных проблем в области прав человека в мире. УВКПЧ всецело поддерживает соответствующие усилия по ограничению или запрету, в соответствии с применимыми положениями международного права, практики наблюдения с максимальным вмешательством, которая в противном случае может поставить под угрозу саму суть человеческого достоинства, неприкосновенности частной жизни и демократии.

В частности, серьезные вопросы вызывает пропорциональность использования дистанционных систем биометрического наблюдения с учетом их высокой степени вмешательства и широкого воздействия на большое число людей. Например, применение систем распознавания лиц правоохранительными органами в толпе людей или участников протестов является неизбирательным и несет в себе неприемлемые риски с точки зрения прав человека. В этой связи УВКПЧ приветствует твердую позицию парламента по этому вопросу. Более того, УВКПЧ поддерживает запрет на применение инструментов биометрического распознавания и других систем, которые обрабатывают биометрические данные людей с целью их категоризации на основе цвета кожи, гендера или других защищенных характеристик. УВКПЧ поддерживает запрет систем ИИ, которые распознают эмоции людей, инструменты прогнозирования преступлений, а также нецелевые инструменты скрейпинга данных для создания или расширения баз данных распознавания лиц. Использование таких инструментов приводит к серьезным проблемам с точки зрения точности и надежности, зачастую из-за отсутствия научной основы, и является крайне навязчивым. Они угрожают систематическим подрывом прав человека, в частности права на обеспечение надлежащей процедуры и правовых гарантий.

Оценка влияния на основные права человека

УВКПЧ полностью поддерживает предложения Европейского парламента о проведении всесторонней оценки воздействия на права человека. Надежная и обоснованная оценка внедрения ИИ как государственными, так и частными субъектами является неотъемлемой частью обеспечения того, чтобы регулирование ИИ было основано на правах человека. С учетом серьезных рисков, которым системы искусственного интеллекта могут подвергнуть осуществление прав человека, а также необходимости принятия значимых мер по снижению таких последствий, предложения, направленные на смягчение или отмену требований по оценке рисков с точки зрения воздействия на права человека, вызывают серьезную обеспокоенность. Конструктивный процесс оценки должен охватывать весь жизненный цикл ИИ, опираться на четкие параметры оценки воздействия ИИ на основные права, обеспечивать прозрачность результатов, участие людей, чьи интересы затронуты, и привлечение независимых органов.

Анализ негативных последствий с точки зрения прав человека является основным компонентом процедуры должной осмотрительности в области прав человека при использовании ИИ в частном или государственном секторе и опирается на международное право в области прав человека и Руководящие принципы в области предпринимательской деятельности и прав человека ООН.¹ Работа УВКПЧ с ведущими компаниями в сфере искусственного интеллекта в рамках проекта «Би-Тех» демонстрирует, что оценка негативного воздействия ИИ на человека — это «искусство возможного». Тот факт, что некоторые ведущие компании в области разработки ИИ поддерживают и внедряют подход к управлению рисками, основанный на правах человека, говорит о том, что основные права могут стать перспективной основой для практик ИИ, обеспечивающих соблюдение прав человека, в том числе в контексте Закона ЕС об ИИ.

Технические стандарты

УВКПЧ обращает внимание на сложные задачи организаций, устанавливающих стандарты, в соответствии с проектом Закона об ИИ. Законопроект предполагает, что с помощью стандартов провайдеры продемонстрируют соблюдение требований Закона об ИИ. Иными словами, организации по установлению стандартов будут выполнять ключевую функцию, которая может оказать существенное влияние на осуществление прав человека. В связи с этим особенно важно обеспечить максимальную прозрачность, в том числе свободный доступ общественности к документации и принятым стандартам, соответствующий доступ для всех заинтересованных сторон к процессам установления стандартов в соответствии с Законом об ИИ, а также действенные механизмы подотчетности, такие как судебный надзор и доступ к эффективным средствам правовой защиты. Как показывает последний отчет УВКПЧ, необходимо срочно предпринять усилия по более эффективной интеграции экспертизы в области прав человека в процессы установления технических стандартов.² На фоне общей нехватки ресурсов для привлечения заинтересованных сторон из гражданского общества к участию в процессах установления стандартов на устойчивой основе ЕС рекомендуется создать механизмы, обеспечивающие материальную и иную поддержку заинтересованных сторон, не обладающих достаточными ресурсами.

Комплексный подход к ущербу от ИИ во всех сферах

Гарантии в области прав человека распространяются на всех людей на территории и в юрисдикции соответствующих государств. В связи с этим УВКПЧ выражает беспокойство по поводу предложения совета о полном исключении из Закона об ИИ систем искусственного интеллекта, которые разрабатываются или используются в целях национальной безопасности, а также об исключениях для правоохранительной деятельности и пограничного контроля. Таким образом, из закона будут исключены области, где широко используется ИИ и действительно необходимы меры защиты, а также существуют свидетельства того, что использование систем ИИ непропорционально направлено на людей из маргинализированных сообществ. Правоохранительная деятельность, национальная безопасность и миграционный контроль зачастую связаны с интрузивными мерами и инструментами, которые потребуют усиления защиты и гарантий надлежащей правовой процедуры, а не ее снижения.³ Изъятие и исключение этих областей приведут к возникновению существенного и крайне опасного пробела в защите прав человека в соответствии с Законом об ИИ.

УВКПЧ выражает готовность работать со всеми институтами Европейского союза, чтобы обеспечить учет вопросов, касающихся основных прав человека, при разработке и реализации Закона об ИИ и широкого законодательства, регулирующего цифровую сферу Европейского союза.