Права человека в новую эпоху

Выступление Верховного комиссара ООН по правам человека Мишель Бачелет в Женевском университете

14 ноября 2018 г.

Добрый вечер.

Я рада принять участие в чудесных мероприятиях этой недели, в поиске ответов на вопросы, которые будут определяющими для нашей эпохи.

Программа данной Недели прав человека содержит ряд тем, с которыми придется иметь дело всему правозащитному сообществу, поскольку новый цифровой ландшафт вокруг нас все чаще находится в центре нашего внимания.

Может ли свобода выражения мнений, получения и распространения информации и убеждений выжить в эпоху, когда корпорациям и государствам доступна слежка "на 360 градусов"? Нужны ли нам новые средства обеспечения того, чтобы управляемые машинами процессы поддерживали человеческое равенство и достоинство?

Дают ли цифровые технологии нам новую надежду на осуществление прав человека - или это "Game Over"?

Я не буду делать вид, что есть простые ответы на эти вопросы.

Я уверена, что каждый из присутствующих знает об огромной пользе, которую приносит цифровая эпоха в каждой сфере жизни.

И работа по защите прав человека - не исключение. Социальные СМИ и такие средства, как система шифрования коммуникаций, помогают объединению и росту движений правозащитников. Сотрудники по правам человека могут собирать информацию в социальных СМИ, помимо того, что расследования в области прав человека улучшаются и дополняются благодаря снимкам со спутников, а система шифрования сообщений обеспечивает более эффективные мониторинг, расследование и анализ.

Разработан широкий спектр приложений, призванных помочь тем, кто проводит расследование, проверять информацию на предмет подлинности и точности. Многие из этих средств помогают хранить в неизменном виде ключевые материалы и передавать их в защищенные хранилища данных для возможного использования в рамках расследований и судебного разбирательства в отношении лиц, совершивших нарушения прав человека.  Другие цифровые средства помогают устанавливать закономерности в данных, которые затем могут быть сопоставлены с другими наборами данных из открытых источников.

Такая работа помогает установить, что случилось с пропавшими без вести людьми: установить личность жертв массовых убийств и тех, кто был найден в массовых захоронениях; а также дает информацию о повторяющихся случаях пыток и других нарушениях в конкретных местах, вмененных в вину конкретному военному подразделению и даже конкретным людям.

Так, например, в Косово и в Боснии и Герцеговине Международная комиссия по без вести пропавшим лицам собирала данные судебно-медицинской экспертизы человеческих останков и передавала соответствующую информацию семьям пропавших без вести лиц, чтобы помочь установить личность пропавших и восстановить обстоятельства преступлений и их время.[1]

В отношении Сирии в настоящее время идет несколько процессов, направленных на то, чтобы установление фактов в связи с нарушениями прав человека, в конце концов, привело к отправлению уголовного правосудия, за счет сбора и перекрестной проверки данных об исчезновениях и других нарушениях.

Их результаты будут ценны для семей без вести пропавших лиц; в некоторых случаях для самих пострадавших, а также для будущей работы лиц, проводящих расследования, комиссий по установлению истины и других типов механизмов обеспечения подотчетности.

Мое Управление работает с такими группами, как Исследовательская лаборатория по правам человека Калифорнийского университета в Беркли, которая помогает анализировать большой объем материалов из открытых источников о ситуации в Мьянме и Сирии. Лаборатория также начала процесс составления руководящих принципов для изучения данных из открытых источников с целью повышения качества сбора доказательств в Интернете, чтобы они были полезными не только для расследований в области прав человека, но и для уголовного преследования, включая расследования Международного уголовного суда.

Цифровые средства также могут помочь нам в вопросах раннего предупреждения. Рост случаев языка ненависти и других показателей роста напряженности в Интернете могут служить важным сигналом о надвигающемся насилии. Осуществляя мониторинг этих явлений и быстро принимая меры, мы можем надеяться на предупреждение насилия.

И вклад цифровых систем в нашу работу этим не ограничивается. Новые потоки данных используются для отслеживания и прекращения торговли людьми и эксплуатации, а также указывают на элементы, которые могут свидетельствовать о современных формах рабства в коммерческих цепочках поставок.

Кроме того, правозащитники используют цифровые средства не только для того, чтобы выявлять нарушения: мы также применяем эти знания для предотвращения будущих нарушений.

Таким образом, в этом смысле и во многих других отношениях цифровые средства являются нашими друзьями и союзниками в поддержке прав человека.

Однако также становится все более очевидным то, что цифровой ландшафт имеет негативные аспекты.

Интернет все больше становится пространством, угрожающим правозащитникам. Люди все чаще подвергаются нападениям и злоупотреблениям со стороны частных субъектов лишь по причине их деятельности в Интернете в поддержку прав человека. Это особенно касается женщин, которые несоразмерно страдают от агрессивных провокационных кампаний, которые также подвергают их физическим нападениям в реальном мире. По данным исследования Межпарламентского союза 45 европейских стран, 47 процентов женщин-членов парламента - членов парламента! - заявили, что в социальных СМИ они становятся объектами угроз расправы, изнасилования или насилия.

Правительства в каждом регионе также используют средства цифровой слежки для нахождения правозащитников и нападений на них, а также на лиц, которых считают критиками, включая юристов, журналистов, борцов за соблюдение земельных прав и защиту окружающей среды, а также людей, которые поддерживают равенство членов сообщества ЛГБТИ.

Во многих случаях использование цифровых технологий для массовой и обширной слежки носят масштабы и характер, которые явно нарушают право на неприкосновенность частной жизни, а также другие права. Специальный докладчик по вопросу о поощрении и защите права на свободу мнений и их свободное выражение регулярно сообщал о том, что цифровые технологии, включая вредоносные и шпионские программы, также "дают правительствам беспрецедентные возможности для вмешательства в права на свободу мнений и их свободное выражение".

Различные типы слежения, мониторинг в Интернете и меры для сбора данных, такие как история просмотров в браузере; история покупок; история поиска; местоположение; финансовые данные; данные о состоянии здоровья и другие данные каждой женщины, мужчины и ребенка поступают в массовые банки данных. И я имею в виду не каждого, кого считают критиком, активистом или даже пользователем Интернета, но просто каждого человека.

Эти банки данных могут включать подробное описание наших мнений, характера и наших отношений, нашего социального происхождения, медицинской информации, финансового положения и так далее. Они могут быть отфильтрованы, обработаны и оценены с помощью цифровых процессов для целого спектра задач без какой-либо подотчетности; без надлежащего контроля за результатами; и даже без нашей осведомленности о том, что происходит, и что такие банки данных существуют.

Уже сегодня в самых разных сферах - от работы полиции по так называемому "прогнозированию" до приговоров по уголовным делам, медицины, финансов и ключевых аспектов социальных гарантий - машинные процессы прогнозируют поведение людей и служат основой решений, оказывающих огромное влияние на нашу жизнь.

Насколько безопасны такие результаты? Не очень безопасны. Качество данных систем определяется поступающей в них информацией, и эта информация часто сама по себе является некорректной. Во многих случаях прогнозирование искусственного интеллекта на основе данных оказывается произвольным и несправедливым помимо того, что оно усугубляет системную дискриминацию, существующую в обществе. Такие результаты не являются неизбежными, но они уже имеют место, и их частотность и тяжесть буду расти, если мы не будем действовать.

Существует ли надлежащий контроль за использованием "больших данных" и в достаточной ли степени они прозрачны? Нет.

Использование искусственного интеллекта и "больших данных" также поднимают новые и насущные вопросы об ответственности. Хотя государство всегда является основным субъектом в поддержании прав человека, в данном случае частные компании несут ответственность за разработку и создание средств сбора данных и слежения, а также за техническое обслуживание и владение серверами, где хранится информация. Я еще вернусь к вопросу ключевой роли частного сектора, но стоило отметить это в данном контексте.

Кроме того, по своей сути, являются ли цели этих систем положительными?

В некоторых странах большой объем данных собирается за счет слежения, и они используются для определения личных заслуг, которые затем влияют на решение о предоставлении лицу доступа или отказе в доступе к возможностям и услугам. Такой процесс напоминает использование кредитной истории в других ситуациях. Но остановится ли он на этом? Мы видим, как во всем мире собранная информация обретает почти собственную жизнь: она может использоваться для самых разных целей, которые выходят далеко за рамки первоначальной или заявленной цели.

И такое взаимодействие искусственного интеллекта и сосредоточения данных о наших личностях и решениях идет еще дальше, когда используется частными или государственными компаниями для того, чтобы манипулировать нашими мыслями и менять наш выбор.

Это не научная фантастика.  Будь то на президентских выборах в США, на референдуме по вопросу Брексита в Великобритании или на недавних выборах в Бразилии и Кении, где много говорилось о фальшивых голосах и другой дезинформации, мы все чаще слышим сообщения о применении ботов и кампаний для дезинформации в социальных СМИ с целью повлиять на мнение и выбор отдельных избирателей.

Возможно, вы считаете, что нас это не касается: мы слишком умны, чтобы на нас могла повлиять кучка ботов. Но я не уверена в этом. Кажется, Интернет все больше становится ареной иногда очень продвинутой пропаганды, используемой будь то движениями за насильственный экстремизм, частными субъектами или даже государственными властями для политических целей.

В таком контексте могут ли быть какие-то сомнения в том, что под угрозой находится наша свобода мыслить, иметь собственное мнение, выражать идеи, делать собственный выбор и жить, как мы хотим?

Если наши мысли, идеи и отношения могут быть предсказаны силами цифровых средств и даже изменены действием цифровых программ, это ставит очень трудные и основополагающие вопросы о нашем будущем.

Говоря более точно, это вопросы о вашем будущем.

Вы - самое большое поколение молодежи, которое когда-либо видел мир, - достигаете совершеннолетия в важнейший поворотный момент для человечества.

В течение следующих 12 лет международное сообщество имеет возможность положить конец крайней нищете и голоду, обеспечить куда более широкое и более инклюзивное развитие, а также добиться того, чтобы наша планета двигалась в сторону большего мира, большей справедливости и куда меньшего вреда.

Но если мы хотим выполнить подробный план, изложенный в Повестке дня в области устойчивого развития на период до 2030 года, и создать более безопасный, устойчивый, справедливый и процветающий мир для всех, нам нужно поддерживать права человека во всех сферах, включая и цифровую.

Существует ли карта, которая может вести нас в исследовании границ этого нового пространства и помочь оценить непредвиденные последствия цифровых систем почти в каждой другой области человеческой деятельности?

Она существует.

Есть компас, который помогает в ситуации неопределенности. Глубоко укоренившиеся принципы могут служить нам руководством в оценке, смягчении и, возможно, управлении влиянием данных неизвестных.

В глобальном мире нам нужны глобальные решения. С момента принятия Всеобщей декларации прав человека 70 лет назад, было создано большое число норм международного права в области прав человека и правозащитных учреждений, призванных обеспечить уважение достоинства и соблюдение прав для всех.

Международные и региональные учреждения, поддерживаемые обязательными договорами, тщательно изучают правозащитную деятельность государств и других ключевых субъектов. Они используют, по сути, трансграничный подход и создают и осуществляют широко принятые процессы, которые служат направляющими в политике и законодательстве.

Правозащитный подход ставит в центр внимания аспекты, которые в противном случае остались бы незаметными, включая несоразмерное воздействие политики на конкретные группы лиц, например, с точки зрения усугубления дискриминации и неравенства или с точки зрения права на неприкосновенность частной жизни и права на свободу выражения мнений.

Имеющие практическое значение для сегодняшних вопросов цифровой сферы, правозащитные учреждения накопили большой объем опыта, который может помочь правительствам обеспечить, чтобы частный сектор действовал ответственно в вопросах поддержания прав и в возмещении ущерба за нарушения, вызванные их продуктами или услугами.

Руководящие принципы предпринимательской деятельности в аспекте прав человека, принятые ООН, содержат авторитетные глобальные стандарты в вопросах воздействия предпринимательской деятельности на осуществление прав человека, и они должны решительно применяться в разработке, использовании и функционировании цифровых систем. Они ясно дают понять, что правительства должны принять надлежащие меры для предупреждения, расследования, наказания и возмещения ущерба в случае нарушений прав человека, совершенных частными субъектами.

Отличные примеры руководства уже разработаны отдельными секторами, такие как Принципы и руководящие положения Глобальной сетевой инициативы, Диалог телекоммуникационной индустрии и руководство Евросоюза по информационным и коммуникационным технологиям. Они потребуют дальнейших уточнений, и понадобятся новые руководящие средства в других областях: от здравоохранения до финансов, производства роботов, автономных автомобилей и других сфер применения искусственного интеллекта.

Проект в области ответственности и правовой защиты, разработанный нашим Управлением, является ключевым инструментом, который облегчает осуществление Руководящих принципов.

Рабатский план действий, который рассматривает различия между свободой выражения мнений и подстрекательском к ненависти, также содержит пороговые критерии и рекомендации, которые крайне актуальны для социальных СМИ и многих других аспектов цифрового пространства.

Я считаю, что такая точность, экспертные знания, транснациональные масштабы и прочная правовая основа являются ключевыми элементами, которые нам нужно будет учитывать по мере углубления в цифровую среду.

Иными словами, одной из важных задач правозащитного сообщества в следующие несколько лет будет обеспечение непрерывного применения прав человека в том, как государства действуют в цифровой век, и как они регулируют деятельность компаний в цифровом пространстве.

Закон - это четкий и точный инструмент. И когда мы сталкиваемся с неопределенностью и потенциальными угрозами, нам нужна ясность, основанная на универсально принятых принципах.

Рамки международного права в области прав человека определяют функции и обязанности и могут вносить вклад в надежное и значимое руководство, которое будет дополнять то, что считается субъективными этическими соображениями.

Они также дают хорошо развитую архитектуру процессов для сбора, обсуждения, составления и даже обеспечения осуществления норм.

Поэтому нам нужно работать совместно - юристам в области прав человека, специалистам по вычислительной технике и инженерам, представителям коммерческих предприятий и правительственным и межправительственным органам - в целях разработки методов оценки воздействия на осуществление прав человека и других систем анализа и руководства, которые могут учитывать специфические требования цифровых систем.

Сегодня эти группы сильно разобщены. Мы должны наладить коммуникацию и дать понять всем сторонам, что право в области прав человека имеет большое значение для цифрового мира, в то время как эволюция цифрового мира крайне важна для прав человека.

Прежде всего, обязанность защищать права человека должна быть явным приоритетом всех заинтересованных сторон: государств, разработчиков, ученых, инвесторов, коммерческих предприятий и гражданского общества.

И она должна быть явным приоритетом для вас. Нам нужно иметь возможность рассчитывать на инновационную и объединяющую силу молодежи.

Мы можем сделать эту насущную и явную потребность в более принципиальных нормах для цифрового ландшафта возможностью для расширения прав и возможностей молодых людей вносить вклад в поиск реальных решений.

Слишком часто молодежь исключают из процессов принятия решений: их даже не приглашают за стол переговоров. В темах, которые мы обсуждаем здесь, явно нужно ваше мнение и помощь.

Поэтому я призываю вас бороться за права человека и участвовать в поощрении ответственных, основанных на правах решений для трудностей, возникающих в новую эпоху.

И теперь я с нетерпением ожидаю вашего мнения и ваших идей.

Благодарю за внимание.

________________

[1] Согласно резолюции 1244 Совета Безопасности ООН