Добро пожаловать в ООН! 
OHCHR 
Искусственный интеллект - это сила добра?
23 февраля 2024
Скотт Кэмпбелл - ведущий эксперт по правам человека, работающий в Управлении ООН по правам человека над вопросами цифровых технологий. Не так давно Кэмпбелл сопровождал главу Управления ООН по правам человека Фолькера Тюрка в его поездке в Силиконовую долину. В ходе этого визита Тюрк призвал представителей крупных технологических компаний, научных кругов и государств к тому, чтобы центральное место во всех разработках цифровых технологий, требующих больших объемов данных, «вновь заняли представления о свободе воли и человеческом достоинстве». Кэмпбелл делится своими соображениям о сложных, тектонических сдвигах, вызванных новыми технологиями, и о том, как права человека могут стать основой для распространения практики ответственного предпринимательства и защиты прав пользователей и о том, как важно чтобы компании и государства несли ответственность за их соблюдение.
В вопросе цифровых технологий, требующих больших объемов данных, опасения широкой общественности, по-видимому, уже вызывают не столько соображения конфиденциальности, сколько такие проблемы, как дезинформация, разжигание ненависти, дискриминация, исчезновение определенных профессий или даже полное порабощение человека искусственным интеллектом. Должны ли мы беспокоиться, и если да, то о чем нам действительно следует беспокоиться?
Есть очень веские основания для беспокойства, в то же время я не думаю, что нам следует впадать в панику. Наши ответы на многочисленные возможные негативные последствия развития искусственного интеллекта должны быть взвешенными и продуманными. Мы действительно часто видим, как средства массовой информации иногда используют «политику отвлечения», переключая наше внимание с одного потенциально опасного аспекта искусственного интеллекта на другой. Некоторые рисуют картины антиутопий, другие, на фоне проходящих в этом году выборов во многих странах мира, прежде всего говорят о дезинформации и искусственном интеллекте. Для всех нас: УВКПЧ и других субъектов, занимающихся вопросами цифровых технологий, в первую очередь важны риски для широкого спектра прав человека. Нам важно не переключать внимание, а помнить, что, например, возможности слежки, которые открывают технологии ИИ, представляют реальную, постоянную и растущую угрозу. Так, под угрозой оказывается наше право на неприкосновенность частной жизни или конфиденциальность наших данных, когда мы пользуемся социальными сетями или другими цифровыми инструментами.
Мы должны в первую очередь помнить о том, какую угрозу цифровые технологии представляют для наших прав человека, в частности, как во многих сферах деятельности ИИ может усугубить уже существующую маргинализацию и дискриминацию по гендерному, расовому или другим признакам. И то, как модерируется онлайн-контент, тоже находится в центре нашего внимания - как компании-владельцы социальных сетей руководствуются или не руководствуются принципами прав человека при разработке своей политики в отношении онлайн-контента.
Как сделать так, чтобы технологии стали силой добра? Можно ли полагаться на то, что технологические компании всегда поступят правильно?
Мы видим огромный потенциал использования искусственного интеллекта и цифровых технологий для улучшения результатов в сельском хозяйстве, для расширения доступа к образованию, в частности, для людей с инвалидностью, для доступности медицинской информации и улучшения результатов лечения, для повышения эффективности труда... Потенциал огромен. И все же, на вопрос, можно ли полагаться на то, что компании всегда поступят правильно, ответ ясен: абсолютно точно нет. Нам нужны как регулирование, так и жесткие законы, чтобы тщательным образом контролировать деятельность технологических компаний, чтобы технологии действительно использовались во благо и защищали нас от потенциального негативного воздействия на права человека.
В то же время технологические компании уже сегодня могут и должны сделать многое, опираясь в своей работе на Руководящие принципы предпринимательской деятельности в аспекте прав человека, в том числе проводя проверку соответствия принципам прав человека и оценку воздействия на права человека конкретных продуктов и политики на этапах проектирования, разработки и внедрения.
Как права человека могут служить нравственным ориентиром для технологических компаний?
Права человека могут быть больше, чем просто нравственным ориентиром. Международное право в области прав человека является обязательным для правительств и налагает на них четкие обязательства, которые должны быть воплощены в нормативные акты и законы, гарантирующие, что технологические компании, предлагающие свои услуги и продукты, соблюдают права человека.
Руководящие принципы предпринимательской деятельности в аспекте прав человека, принятые ООН, не имеют обязательной силы, однако их все чаще включают в законодательство и нормативные акты. Растет ожидание, что компании будут руководствоваться этими принципами в своей деятельности. В случае с технологическими компаниями это означает, что они разрабатывают свой продукт, внедряют его и следят за тем, наносит ли он ущерб правам человека. Если это происходит, они должным образом реагируют и предоставляют доступ к средствам правовой защиты.
Фолькер Тюрк выступает на панельном мероприятии с участием многих заинтересованных сторон, посвященном честности выборов и правам человека, организованном совместно Генеральным консульством Норвегии в Сан-Франциско и Европейским союзом, февраль 2024 года, Сан-Франциско, США. © УВКПЧ
Не так давно Верховный комиссар побывал в Силиконовой долине, где он встречался с представителями государств, научных кругов, а также с исследователями и руководителями технологических компаний. Каковы были основные результаты этой поездки?
Главным выводом из этого визита стало понимание необходимости дальнейших шагов Управления ООН по правам человека. Этот визит показал, что нам удалось установить хорошие партнерские отношения с гражданским обществом, научными институтами и, конечно же, с государствами-членами ООН и представителями правительств, с которыми мы встречались, а также, что немаловажно, с технологическими компаниями. Однако и нам, и компаниям предстоит еще много работы, и это очень важно осознавать. Компаниям следует активнее применять Руководящие принципы предпринимательской деятельности в аспекте прав человека, принятые ООН, а нам нужно иметь возможность более тесно взаимодействовать с все большим числом компаний со всего мира.
И нельзя забывать про государства. У них есть определенные обязательства, они должны проследить за тем, чтобы все участники, в данном случае технологические компании, соблюдали права человека.
Наведение мостов и партнерских отношений с учеными и университетами по всему миру будет иметь решающее значение для нашей успешной работы.
И последнее, но немаловажное - развитие наших партнерских отношений с гражданским обществом. В ходе встреч с представителями гражданского общества наши партнеры продемонстрировали невероятный опыт и знания и дали нам очень полезные советы относительно взаимодействия с Кремниевой долиной. Нельзя недооценивать ценность мнения гражданского общества в сфере технологий и прав человека.
Каким образом Управление ООН по правам человека работает с технологическими компаниями и государствами, чтобы обеспечить соблюдение прав человека в цифровой сфере?
В некоторых регионах мира наше непосредственное взаимодействие с компаниями достаточно обширно. У нас есть крупный Проект «Би-Тех», призванный способствовать реализации Руководящих принципов предпринимательской деятельности в аспекте прав человека. Мы напрямую взаимодействуем с компаниями в закрытом сообществе доверительного обмена практическим опытом. Работа в рамках этого проекта ведется в основном в Европе и Северной Америке, но крайне важно, чтобы его действие расширялось, и мы сотрудничали с компаниями, расположенными во всех регионах мира.
Мы также взаимодействуем с государствами-членами ООН, наиболее активно через Совет по правам человека. УВКПЧ, наряду со специальными процедурами и другими правозащитными механизмами, готовит доклады по широкому кругу ключевых вопросов, включая такие, как право на неприкосновенность частной жизни в эпоху цифровых технологий, отключения Интернета, важнейшие аспекты сквозного шифрования, слежка (массовая слежка и наблюдение за отдельными лицами), а также использование шпионских программ и хакерство. В этих докладах содержатся важные рекомендации для государств-членов ООН и компаний. Мы видим, что эти рекомендации всерьез воспринимаются государствами-членами ООН, а также наблюдаем, что на них все чаще ссылаются в местных судебных системах по всему миру. Например, не так давно наша работа была процитирована в решении Европейского суда по правам человека о сквозном шифровании.
