Права человека в цифровой век

Какую роль играют права человека в цифровой век?

Основное выступление Верховного комиссара ООН по правам человека Мишель Бачелет

Японское общество, Нью-Йорк, 17 октября 2019 г.

Многоуважаемые участники дискуссии,
Коллеги, друзья,

Я признательна Центру по вопросам прав человека и мирового правосудия при Университете Нью-Йорка, организации "Международная амнистия" и газете "Гардиан" за то, что пригласили меня на это крайне важное и яркое мероприятие.

Внимание к правам человека в цифровой век крайне важно. Сбор данных происходит уже в промышленных масштабах. Государства, политические партии, различные организации и, в частности, коммерческие предприятия располагают в высшей степени подробной информацией, которая дает им возможность оказывать на нас влияние. Все больше и больше аспектов нашей жизни становятся объектом отслеживания, сбора данных и их ненадлежащего использования с помощью цифровых средств. Только задумайтесь: все присутствующие здесь, кто имеет смартфоны, оставили цифровой след, который ведет прямо в этот зал.

Цифровые технологии уже принесли немало пользы. Их ценность для прав человека и развития огромна. Мы можем устанавливать связи и общаться с людьми по всему миру, как никогда прежде. Мы можем расширять права и возможности, передавать информацию и проводить расследования. Мы можем использовать шифрование сообщений, снимки со спутника и потоковые данные, чтобы напрямую защищать и поощрять права человека. Мы даже можем использовать искусственный интеллект, чтобы предвидеть и предотвращать нарушения прав человека.

Но мы не можем закрывать глаза и на их темную сторону. Я скажу прямо: цифровая революция - это серьезная глобальная проблема в области прав человека. Ее бесспорная польза не отменяет ее очевидных рисков.

Мы не можем рассматривать киберпространство и искусственный интеллект как никем неуправляемые области, которые не поддаются контролю - как "черную дыру" в области прав человека. Одни и те же права существуют как в виртуальном, так и в реальном мире. Генеральная Ассамблея ООН и Совет по правам человека подтвердили это.

Друзья и коллеги,

Нас не должны ошеломлять масштабы и скорость цифрового развития, но мы должны понимать специфические риски в этом отношении.

Мы по праву уделяем существенное внимание угрозам, связанным со свободой выражения мнений в сети и с подстрекательством к ненависти и насилию. Притеснения в Интернете, провокации и запугивания заполонили некоторые пространства Интернета и представляют собой угрозу в реальной жизни, делая несоразмерно уязвимыми женщин. Одним из худших примеров стали нападки в социальных СМИ на сообщество рохинджа в Мьянме, которые предшествовали массовым убийствам и изнасилованиям в 2017 году. Расследования в области прав человека установили, что Фейсбук и его новостная лента, формирующаяся на основе алгоритмов, способствовали распространению языка ненависти и подстрекательствам к ненависти.

Эти серьезные нарушения прав человека не оставляют места для сомнений. Угрозы, запугивания и травля в Интернете приводят к нападениям, притеснениям, насилию, убийствам и даже к предполагаемому геноциду и этническим чисткам в реальном мире. Отсутствие мер приведет к еще большему сокращению гражданского пространства, снижению участия, усилению дискриминации и сохранению риска смертельных последствий, в частности, для женщин, меньшинств и мигрантов, для всех, кого воспринимают "другими".

Однако чрезмерная реакция контролирующих органов по ограничению свободы слова и использования онлайн-пространства также является серьезной проблемой прав человека. Десятки стран ограничивают свободу выражения мнений и политическую активность часто под предлогом борьбы с ненавистью и экстремизмом. Блокировка Интернета, похоже, стала распространенным средством для подавления правомерных дебатов, несогласия и протестов. Неправительственная организация "Access Now" подсчитала 196 случаев блокировки Интернета в 25 странах в 2018 году, что почти в три раза выше числа (75), зарегистрированного в 2016 году.

Некоторые государства умышленно очерняют репутацию правозащитников и групп гражданского общества, публикуя ложную информацию о них и организуя кампании с целью притеснения. Другие используют цифровую слежку, чтобы находить правозащитников и других людей, которых считают критиками, и совершать на них нападения.

Друзья и коллеги,

Помимо этих вполне реальных опасностей - недостаточного регулирования, чрезмерного регулирования и умышленного ненадлежащего использования цифровых технологий, - мы также стали свидетелями беспрецедентного риска для права на неприкосновенность частной жизни. Гарантии неприкосновенности частной жизни слишком часто терпят крах. Многие могут быть совершенно не осведомлены о том, кто хранит их данные, и как эти данные используются.

И поскольку данные собирают в огромных масштабах, риск и последствия их ненадлежащего использования также имеют серьезные масштабы. Темный аспект цифрового мира угрожает не только неприкосновенности частной жизни и безопасности, но также подрывает свободные и честные выборы, ставит под угрозу свободу выражения мнений, свободу получения информации, свободу мысли и убеждений, а также скрывает правду за сфабрикованными новостями. Ставки высоки как никогда: курс, которым идут страны и целые континенты.

Это важно не только как вопрос в области неприкосновенности частной жизни, но также в связи с масштабным сбором данных, их ненадлежащим использованием и воздействием на мнение избирателей. Мы получали сообщения о подобном явлении в рамках президентских выборов в США, референдума в связи с Брекситом и опросами в Бразилии и Кении. Газеты, включая "Гардиан", вместе с верными своему делу государственными должностными лицами помогли пролить свет на некоторые из этих нарушений.

Пока цифровая революция продолжает двигаться вперед, использование технологий как для законных, так и незаконных целей продолжает возрастать. Государства и коммерческие предприятия уже используют технологии на основе данных, которые могут выявлять лиц, представляющих потенциальную угрозу, в том числе на границах и в системах уголовного правосудия. Системы на основе искусственного интеллекта оценивают и делят людей по категориям; делают выводы об их физических и психологических характеристиках; и предсказывают их будущие проблемы со здоровьем, их пригодность для конкретной работы и даже вероятность совершения ими правонарушений. Составление профиля, "баллы" и "рейтинг" могут использоваться для оценки того, имеют ли люди право на услуги в области здравоохранения, страхования и финансов.

Таким образом, наряду с нарушениями прав человека, которые я уже описала, мы видим новую категорию нарушений, на этот раз не обязательно умышленных, не являющиеся следствием желания контролировать или манипулировать, но ставшие побочным продуктом правомерного стремления к эффективности и прогрессу.

Неравенство в реальном мире находит отражение в алгоритмах и посредством алгоритмов возвращается в реальный мир. Системы искусственного интеллекта не могут учесть всю сложность человеческого опыта и потребностей. Цифровые системы и искусственный интеллект создают сосредоточение сил, и отсутствие регулирования такой силы влечет за собой риски, в том числе и для прав человека.

Мы уже знаем, как некоторые из этих рисков выглядят на практике. Программы по найму персонала, которые систематически понижают ценность женщин. Системы, которые рассматривают темнокожих подозреваемых как лиц, которые с высокой вероятностью совершат новое преступление. Программы, анализирующие потребности в охране порядка, приводят к избыточному полицейскому контролю в бедных районах и в местах, где проживают представители меньшинств. Люди, которые подвергаются наибольшему воздействию, с большой вероятностью являются жертвами маргинализации. Помочь решить эти трудности надлежащим образом может только правозащитный подход, который рассматривает людей как обладателей прав, расширяет их права и возможности и создает правовую и институциональную среду, содействующую соблюдению прав и направленную на возмещение ущерба в случае любых нарушений и злоупотреблений.

Друзья и коллеги,

Цифровые технологии используются не только для мониторинга и категоризации, но и для того, чтобы оказывать влияние. Наши данные не просто преобразуют в цифровую форму, но также используют для извлечения прибыли и в политических целях. Цифровые процессы оказывают на нас воздействие и одновременно служат нам. Мы правомерно испытываем серьезную обеспокоенность тем, как большие данные, искусственный интеллект и другие цифровые технологии воздействуют на нашу жизнь и общество.

Мы также по праву обращаем внимание на положение людей, которые работают в цифровой индустрии, часто в условиях нестабильной занятости и экономики свободного заработка, которые теряют все преимущества, связанные со стабильной работой. Необходимо, чтобы они могли пользоваться всеми правами человека, включая право вступать в объединения и объявлять забастовку. В некоторых случаях это может помочь справиться с перегибами коммерческих предприятий.

Эти трудности возвращают нас к никогда не устаревающим принципам Всеобщей декларации прав человека. Каждый человек равен, имеет неотъемлемые права и присущее ему достоинство. Каждый человек имеет право жить в условиях свободы от дискриминации, право на участие в политической жизни, неприкосновенность частной жизни, на здоровье, свободу и справедливое судебное разбирательство. Каждый человек имеет право на жизнь.

Чтобы соблюдать эти права в нашем быстро меняющемся мире, мы должны обеспечить, чтобы цифровая революция служила народу, а не наоборот. Мы должны обеспечить, чтобы каждый машинный процесс или система на основе искусственного интеллекта удовлетворяли таким основным принципам, как прозрачность, справедливость, подотчетность, контроль и возмещение ущерба.

Но кто несет ответственность за устранение этих многочисленных комплексных рисков, которые выходят за рамки культур, национальных границ и правовых юрисдикций? Государства, которые несут основную обязанность защищать права человека и обеспечивать средства правовой защиты? Коммерческие предприятия, которые могут изменить то, как мы работаем? Международные организации, которые могут попытаться найти транснациональные решения? Ученые? Журналисты? Парламентарии? Правозащитники? НПО и группы гражданского общества?

Я считаю, что ответственность несут все выше названные деятели, в сотрудничестве и с чувством общей ответственности и сопричастности. Нам нужен универсальный ответ человечества для защиты универсальных прав человека.

Отвечаем ли мы на эти трудности, обращаясь к этике и правам человека? Очень отрадно, что некоторые государства, региональные объединения, коммерческие предприятия, научные круги и другие полные энтузиазма и дальновидные люди продемонстрировали прекрасное лидерство в разработке этических руководящих принципов, призванных помочь преодолеть несправедливость и дискриминацию. Но я также считаю, что принятие руководящих положений, кодексов поведения и их добровольное соблюдение сами по себе не являются достаточным ответом на масштабные трудности, стоящие перед нами.

Данные - это сила, большие данные - большая сила, и любую силу можно использовать ненадлежащим образом. Это справедливо в любом контексте, и в этом отношении цифровой мир не отличается от реального. Международные нормы прав человека позволяют нам эффективнее, чем одна только этика, устанавливать необходимые сдержки и противовесы этой силы. Они дают конкретную правовую основу, которую государства и компании могут использовать для определения собственных мер реагирования в цифровой век. Они дают очень четкое руководство в отношении приемлемого поведения и, что в равной степени, уже приняты и согласованы государствами. Наряду с Всеобщей декларацией у нас есть многочисленные конвенции, договоры, суды, комиссии и другие учреждения, которые могут привлечь государства и компании к ответу.

Правозащитный и этический подход не противоречат друг другу. В недавней публикации Всемирного экономического форума об ответственном использовании технологий прямо сказано, что они могут работать рука об руку и создавать мощную комбинацию, в которой права человека усиливают этику, а этика усиливает права человека.

В действительности, если мы хотим взять все самое лучшее от цифровой революции, нам нужно подобное всеобъемлющее мышление в рамках любых мер с использованием правозащитных рамок как компаса. Правозащитные рамки и этические нормы. Обязательства и обязанности. Государства и коммерческие предприятия. Искусственный интеллект и человеческое достоинство. Гарантии свободы выражения мнений и полная защита от языка ненависти.

Это подразумевает решительный ответ государств наряду с политикой, которая включает обязанность защищать полный спектр прав с должным вниманием к социальным, культурным и экономическим правам, когда принимаются законы, руководящие положения и регулирующие нормы. Это значит, что гиганты в области технологий становятся лидерами в продвижении надлежащих видов коммерческой практики. Это значит расширение прав и возможностей людей так, чтобы они могли контролировать решения об использовании их личных данных. Это значит обеспечение того, чтобы беднейшие группы населения, больше других подверженные маргинализации, имели доступ к средствам правовой защиты, когда их данные используются ненадлежащим образом, или когда они подвергаются дискриминационным решениям, принятым в результате автоматизированных процессов. Это значит проведение оценки воздействия на осуществление прав человека на каждом этапе разработки и использования системы искусственного интеллекта. Это очень важная сфера, в которой компании и исследователи могут проявить ответственность и взять на себя роль лидеров.

Однако правительства и компании не должны начинать с нуля. Наряду с Руководящими принципами предпринимательской деятельности в аспекте прав человека ООН у нас есть прекрасные примеры руководств в конкретных секторах, такие как Руководство Евросоюза для сектора ИКТ по вопросу о применении Руководящих принципов, Диалог телекоммуникационной индустрии и Принципы и руководящие положения Глобальной сетевой инициативы.

Друзья и коллеги,

Ни один аспект цифровой революции не может и не должен рассматриваться без учета правозащитной проблематики. Мы должны постоянно искать и оценивать пробелы в защите. Это означает не только принятие новых законов, учитывающих изменения в цифровом мире, но также адаптацию учреждений и процессов. Нам нужны учреждения, которые сдерживают власть государств и компаний, использующих данные. Мы можем эффективно защитить права, только если будем постоянно настраивать процессы в поисках правильной комбинации мер.

Регулирование онлайн-пространства государством, конечно, может вызывать собственные трудности, в частности, если не соблюдаются основополагающие гарантии верховенства права: равенство перед законом, справедливость и подотчетность.

Давайте не забывать: когда мы регулируем социальные СМИ, мы определяем, что люди могут сказать, и что они могут увидеть и услышать в мире, который все больше становится главным местом ведения общественных дебатов и общественной жизни. Поэтому наши меры должны быть тщательно продуманы, и мы должны постараться ни в коем случае не переусердствовать. Если необходимо регулирование, мы должны сосредоточить внимание на поведении в рамках платформ, а не на принятии норм регулирования, основанных на конкретной точке зрения. Лучшие решения можно найти посредством сотрудничества, обмена передовой практикой и тщательного изучения результатов работы национальных систем регулирования, включая любые непреднамеренные последствия.

Друзья и коллеги,

Уже существует насущная потребность для правительств, платформ в социальных СМИ и других коммерческих предприятий защищать основополагающие компоненты демократического общества, верховенства права и полного спектра наших прав в Интернете: потребность в надзоре, подотчетности и ответственности. По мере расширения границ цифрового пространства одной из главных трудностей для правозащитного сообщества является оказание помощи компаниям и обществу в осуществлении международных правозащитных норм в сфере, которая нами еще не освоена. Такая помощь включает четкое руководство относительно обязанностей компаний, а также обязательств государств.

В своих лучших проявлениях цифровая революция расширит права и возможности, поможет установить контакты, распространять и находить информацию и спасать жизни. В худших проявлениях она будет лишать людей прав, разобщать, распространять ложную информацию и стоить людям жизни.

В этом уравнении права человека будут иметь решающее значение.

Благодарю за внимание.