El panorama digital de los derechos

Discurso pronunciado en la Universidad de Ginebra por la Alta Comisionada de las Naciones Unidas para los Derechos Humanos, Michelle Bachelet

14 de noviembre de 2018

Buenas tardes.

Me complace sobremanera participar en esta magnífica semana de eventos, en la que se buscan respuestas para algunos de los interrogantes que van a definir nuestra época.

En el programa de esta Semana de los Derechos Humanos figuran algunos temas que toda la comunidad de derechos humanos tendrá que abordar, a medida que el nuevo panorama digital se va precisando en nuestro entorno.

¿Es posible que las libertades de expresión, información, pensamiento y creencia sobrevivan en una época en que las empresas y los Estados pueden ejercer una vigilancia de 360 grados? ¿Necesitamos nuevas herramientas que nos garanticen que la robótica reforzará la igualdad y la dignidad humanas? 

¿La tecnología digital nos brinda nuevas esperanzas de hacer realidad los derechos humanos o sólo marca el fin de la partida?

No voy a fingir que hay respuestas sencillas para estos interrogantes.

Estoy segura de que todos los aquí presentes están conscientes de los inmensos beneficios que la era digital aporta en casi todos los ámbitos de la vida.

La labor en pro de los derechos humanos no es una excepción al respecto. Las redes sociales y las herramientas informáticas, tales como las comunicaciones cifradas, contribuyen al aumento y la interconexión de los defensores de derechos humanos. Los oficiales de derechos humanos pueden recopilar información a través de las redes sociales, además de realzar o complementar las investigaciones en la materia mediante el uso de imágenes obtenidas por satélite y de comunicaciones cifradas, para garantizar la óptima calidad del seguimiento, la investigación y el análisis. 

Se ha elaborado una amplia gama de instrumentos informáticos para ayudar a los investigadores en la tarea de verificar que la información que acopian es genuina y exacta. Muchos de esos instrumentos contribuyen a preservar, archivar y transmitir materiales esenciales hacia ficheros de seguridad con miras a su posible uso en la investigación y el encausamiento de los responsables de violaciones de derechos humanos. Otras herramientas digitales ayudan a los investigadores a definir, en el conjunto de datos, esquemas susceptibles de comparación con los contenidos de otras fuentes de información de código abierto.

Este tipo de trabajo ha contribuido a averiguar qué les pasó a personas desaparecidas; ha ayudado a identificar a víctimas de masacres o a restos encontrados en fosas comunes; y ha proporcionado información sobre los métodos de tortura y de otras vulneraciones ocurridas en lugares específicos, atribuibles a determinadas unidades militares o incluso a algunos individuos en concreto. 

Así, por ejemplo, en Kosovo¹ y en Bosnia y Herzegovina la Comisión Internacional sobre Personas Desaparecidas ha acumulado datos forenses procedentes de restos humanos y los ha comparado con los de familiares de los desaparecidos, a fin de contribuir a identificarlos y reconstruir los escenarios y la secuencia de los crímenes.

Con respecto a Siria, en la actualidad se llevan a cabo diversos procesos para salvar la brecha entre la determinación de los hechos en materia de derechos humanos y los eventuales procedimientos penales, mediante la compilación y comprobación de los datos existentes acerca de desapariciones y otras violaciones. 

Los resultados serán útiles para los familiares de los desaparecidos y, en algunos casos, para las propias víctimas, así como para la labor futura de fiscales, comisiones de verdad y otros mecanismos de rendición de cuentas.

Mi Oficina colabora con grupos como el Laboratorio de Investigaciones del Centro de Derechos Humanos de la Universidad de California, Berkeley, que ayuda a analizar un gran volumen de material procedente de fuentes de código abierto relativo a Myanmar y Siria. El Laboratorio también ha emprendido la elaboración de directrices para las investigaciones con fuentes de código abierto, con miras a fortalecer la calidad de las pruebas obtenidas por conducto de Internet, de modo que puedan usarse no sólo en investigaciones de derechos humanos, sino también en procesos penales, incluso en la Corte Penal Internacional.

Las herramientas digitales también pueden ayudarnos en materia de alerta temprana. Los puntos de máxima emisión de mensajes que incitan al odio y otros indicadores de aumento de tensiones, pueden ser una alerta importante sobre la violencia inminente. Mediante el seguimiento de estos fenómenos y la reacción rápida, esperamos que pueda prevenirse la violencia.

Pero la contribución que los sistemas digitales realizan a nuestro trabajo no se limita a estos aspectos. Los nuevos flujos de datos se han usado para detectar e interrumpir el tráfico y la explotación de seres humanos, y han señalado a elementos que apuntan a casos de esclavitud moderna en las cadenas de oferta comercial. 

Insisto: quienes trabajamos en el ámbito de los derechos humanos no sólo usamos las herramientas digitales para detectar vulneraciones, sino que también empleamos los conocimientos obtenidos para evitar nuevas violaciones.

De modo que, en este sentido y en muchos otros, las herramientas digitales son nuestras amigas y aliadas en la defensa de los derechos de las personas. 

Pero cada vez resulta más evidente que el panorama digital presenta también un lado sombrío.

Internet es un ámbito de creciente peligro para los defensores de derechos humanos. Los activistas reciben cada vez más agresiones de agentes privados, simplemente en represalia por las actividades que realizan en línea para apoyar los derechos humanos. Esto ocurre sobre todo con las mujeres, que sufren desproporcionadamente por las abusivas campañas de troleo, que también las exponen a agresiones físicas en el mundo real. En un estudio realizado por la Unión Interparlamentaria en 45 países europeos, el 47 por ciento de las diputadas al Parlamento -¡de mujeres parlamentarias!- declararon que habían sido objeto de ataques en las redes sociales mediante amenazas de muerte, violaciones o agresiones físicas.

Los Gobiernos de todas las regiones también utilizan herramientas digitales de vigilancia para rastrear y atacar a los defensores de derechos humanos y a las personas que consideran como críticos –entre otros abogados, periodistas, activistas de derechos agrarios o medioambientales, y a quienes apoyan la igualdad de los miembros del colectivo LGBTI-.

En muchos casos, este empleo de las tecnologías digitales para operaciones de vigilancia masiva y de amplio espectro es de una escala y naturaleza que contraviene claramente el derecho a la intimidad, así como otros derechos. Tal como ha expresado reiteradamente en sus informes el Relator Especial sobre libertad de expresión, las tecnologías digitales, incluidos los programas nocivos o de malware y los de espionaje, proporcionan también a los Gobiernos “una capacidad sin precedentes para interferir en los derechos a la  libertad de opinión y expresión”. 

Una amplia gama de medidas de vigilancia, monitoreo por Internet y acopio de datos –tales como el registro de las búsquedas realizadas por el usuario, sus compras, su ubicación física, sus finanzas, su salud, y otros,--van a parar a nutridos bancos de datos sobre cada mujer, hombre o niño. Y no me refiero a personas consideradas críticas o activistas, y ni siquiera a cada usuario de Internet, sino simplemente a todos y cada uno de nosotros.

Estos bancos de datos pueden incluir descripciones minuciosas de nuestras opiniones, relaciones personales, extracción social, información médica, situación financiera, etc. Esos datos son susceptibles de refinamiento, elaboración y evaluación mediante procesos digitales, por muy diversas razones, sin que exista rendición de cuentas, ni supervisión adecuada de los resultados e incluso sin que nosotros estemos al corriente de lo que ocurre ni de la existencia misma de esos archivos.

Ya en el día de hoy, desde la labor policial que se denomina “predictiva” hasta las sentencias penales, la medicina, las finanzas y algunos aspectos esenciales de la protección social, los procesos automáticos elaboran pronósticos relativos a la conducta de las personas y generan decisiones de gran repercusión sobre sus vidas.

¿Qué grado de seguridad ofrecen estos resultados? No muy alto. La calidad de los sistemas es equivalente a la calidad de los datos que los alimentan y esos datos suelen ser deficientes. En muchos casos, las predicciones basadas en la inteligencia artificial parecen arbitrarias e injustas, además de que agravan la discriminación sistémica vigente en la sociedad. Estas consecuencias no son inevitables, pero ya se manifiestan y su incidencia y severidad irá en aumento, si no tomamos medidas al respecto.

¿Existen la supervisión y la transparencia adecuadas en lo relativo al uso de estos metadatos? La respuesta es: no.

El uso de la inteligencia artificial y los metadatos plantea también nuevos y fundamentales interrogantes en materia de responsabilidad. Aunque el Estado es siempre el agente primario en la defensa de los derechos humanos, en este caso las empresas privadas son responsables del diseño y la manufactura de herramientas que compilan estadísticas y ejercen labores de vigilancia, así como del mantenimiento y la propiedad de los servidores donde esta información se almacena. Sobre este asunto de la función esencial que desempeña el sector privado volveré dentro de unos instantes, pero me pareció que era procedente mencionarla en este punto.

Y algo aún más fundamental, ¿son inocuos los propósitos de este sistema? 

En algunos países, se recopila un enorme volumen de datos mediante la vigilancia y luego esa información se utiliza para establecer una puntuación personal que a su vez se usa para otorgar o denegar el acceso de la persona a oportunidades y servicios. Este método es similar al uso del historial de crédito, pero aplicado en otros contextos. La pregunta es: ¿se limitará a esta función? A escala mundial hemos visto que los datos, una vez acopiados, casi adquieren vida propia y pueden usarse para muy diversos fines, que trascienden el propósito original o explícito por el que fueron recopilados.

Y esta interacción entre la inteligencia artificial y la acumulación de estadísticas sobre nuestra personalidad y nuestras opciones avanza un paso más cuando los agentes, tanto públicos como privados, la emplean para manipular nuestras ideas y cambiar nuestras preferencias.

No se trata de ciencia ficción. Lo mismo en las elecciones presidenciales de Estados Unidos que en el referendo sobre el Brexit en el Reino Unido o en los recientes comicios de Brasil y Kenya, donde se difundieron ampliamente encuestas falsas y otros elementos de desinformación, vemos por doquier un aumento de noticias acerca del uso de dispositivos de navegación automática (“bots”) y campañas de desinformación en las redes sociales, con el fin de influir en las opiniones y decisiones de los votantes.

Quizá ustedes crean que eso no nos concierne: Nosotros somos demasiado inteligentes para dejarnos influir por un montón de datos robotizados. Pero yo no estoy tan segura. Al parecer, Internet se convierte cada vez más en campo de actuación de iniciativas propagandísticas muy refinadas, ya sea al servicio de movimientos extremistas que practican la violencia, de agentes privados o incluso de autoridades estatales que procuran fines políticos.

En ese contexto, ¿cabe dudar de la amenaza que pesa sobre nuestras libertades de pensar, creer, expresar ideas, tomar decisiones autónomas y vivir como queramos? 

Si los pensamientos, las ideas y los vínculos que nos definen pueden predecirse mediante el uso de herramientas digitales e incluso pueden modificarse a través de programas informáticos, esa situación plantea algunos interrogantes arduos y fundamentales acerca de nuestro futuro. 

Dicho con más precisión: son interrogantes acerca del futuro de cada uno de ustedes.

Ustedes, que componen la generación joven más numerosa que el mundo haya conocido jamás, llegan a la edad adulta en un momento decisivo para la humanidad.

Durante los próximos 12 años, la comunidad internacional dispondrá de la capacidad de erradicar el hambre y la pobreza extrema, garantizar un desarrollo más amplio e integrador, y orientar el planeta hacia una trayectoria que podría incrementar la paz y la justicia y, al mismo tiempo, reducir considerablemente los perjuicios.

Pero si realmente queremos cumplir con el plan pormenorizado que figura en la Agenda 2030 para el Desarrollo Sostenible, --y crear un mundo más pacífico, sostenible, justo y próspero para todos—debemos defender los derechos humanos de manera general, incluso en el ámbito digital.

¿Existe un mapa que pueda guiarnos en la exploración de las fronteras de este nuevo territorio y la evaluación de las consecuencias imprevistas de los sistemas digitales en casi todos los órdenes de la actividad humana?

Sí, existe.

Tenemos una brújula que puede guiarnos en medio de la incertidumbre. Hay principios muy arraigados que pueden orientarnos mientras evaluamos y tratamos de atenuar, y quizá dominar, las consecuencias de esos factores desconocidos.

En un mundo globalizado, necesitamos soluciones de ámbito planetario. Desde que hace 70 años se aprobó la Declaración Universal de Derechos Humanos, se ha construido un sólido marco de normas e instituciones internacionales para garantizar la dignidad y los derechos de todas las personas. 

Las instituciones internacionales y regionales, con el respaldo de tratados vinculantes, examinan las prácticas de derechos humanos de los Estados y otros agentes principales. El enfoque aplicado en este escrutinio es transfronterizo y se lleva a cabo mediante procesos ampliamente consensuados que permiten orientar las políticas y las leyes 

La estrategia basada en los derechos humanos pone de relieve aspectos que de otro modo podrían quedar ocultos, incluida la repercusión desproporcionada de las políticas sobre determinados grupos de población, por ejemplo, en lo relativo al aumento de la discriminación y la desigualdad, o en términos de los derechos a la intimidad y la libertad de expresión.

De especial pertinencia para las cuestiones digitales de la actualidad es el hecho de que las instituciones de derechos humanos han acumulado un gran volumen de experiencia que ayuda a los Gobiernos a velar por que el sector privado se comporte responsablemente en defensa de los derechos y en la prestación de reparaciones jurídicas por los perjuicios que hayan causado sus productos y servicios.

Los Principios Rectores de las Naciones Unidas sobre las Empresas y los Derechos Humanos proporcionan un criterio universal de referencia para abordar los efectos de la actividad empresarial sobre los derechos humanos y esos principios deberían aplicarse decididamente a la concepción, instalación y funcionamiento de los sistemas digitales. Esas normas dejan bien en claro que los Gobiernos deben tomar las medidas adecuadas para prevenir, investigar, castigar y compensar las vulneraciones de derechos humanos causadas por agentes privados.

Se han elaborado excelentes compendios de directrices para sectores específicos, tales como los Principios de la Iniciativa de Red Global, el Diálogo de la industria de las telecomunicaciones y las Directrices de la Unión Europea para el sector de las tecnologías de la información y la comunicación. Estas normativas aún deben perfeccionarse y será necesario que dispongamos de nuevos instrumentos de orientación para otros sectores, desde la salud hasta las finanzas, la manufactura de robots, los coches sin conductor y otras industrias que emplean la inteligencia artificial.

El Proyecto sobre rendición de cuentas y reparación del ACNUDH es una herramienta decisiva para mejorar la eficacia de los Principios Rectores.

El Plan de Acción de Rabat –que tiene en cuenta la distinción entre libertad de expresión e incitación al odio- también contiene pruebas de umbral y recomendaciones sumamente pertinentes para las redes sociales y muchos otros aspectos del universo digital.

Creo que estas cualidades de precisión, competencia, alcance transnacional y sólido fundamento jurídico son elementos decisivos con los que tendremos que contar a medida que nos internemos más y más en el paisaje digital.

Dicho de otro modo, una de las grandes tareas que afrontará en los próximos años la comunidad internacional de derechos humanos será la de velar por la aplicación permanente de los derechos humanos a la forma en que los Estados operan en la era digital y a la manera en que regulan las actividades empresariales en el ámbito cibernético.

La ley es un instrumento claro y exacto. Y cuando nos enfrentamos a la incertidumbre y las posibles amenazas, lo que necesitamos es precisamente claridad, basada en principios que han sido universalmente aceptados. 

El marco de las instituciones y el derecho internacional de los derechos humanos define los deberes y las responsabilidades, y puede proporcionar directrices sólidas y significativas que complementen lo que podría considerarse criterios éticos subjetivos.

Ese marco también ofrece una estructura bien desarrollada, con procesos que permiten congregar, deliberar, elaborar e incluso hacer cumplir las normas.

Por eso es preciso que colaboremos –abogados de derechos humanos, expertos en informática e ingenieros, representantes del mundo empresarial y organismos gubernamentales e intergubernamentales- a fin de crear metodologías y otros sistemas de análisis y orientación que permitan evaluar la repercusión de los sistemas digitales sobre los derechos humanos y que se ajusten a sus exigencias específicas.

Hoy en día, hay una brecha enorme entre estas comunidades. Tenemos que despejar nuestras vías de comunicación y dejar bien claro a todas las partes que el derecho de los derechos humanos es sumamente pertinente para el mundo digital y que, al mismo tiempo, la evolución del mundo digital es muy importante para los derechos humanos.

Sobre todo, el deber de proteger los derechos humanos debe ser una prioridad explícita de todos los interesados –Estados, promotores, científicos, inversores, empresarios y miembros de la sociedad civil.

Y también debería ser una prioridad explícita para ustedes. Necesitamos el apoyo de la capacidad de innovación y conexión de los jóvenes.

Podemos transformar esta necesidad evidente y perentoria de disponer de normas más éticas en el ámbito digital, en una oportunidad para empoderar a los jóvenes, a fin de que contribuyan a forjar soluciones reales.

Muy a menudo los jóvenes se ven marginados de la toma de decisiones: ni siquiera se les invita a la mesa de negociación. Los temas que aquí debatimos necesitan sin duda de vuestras opiniones y vuestra ayuda.

Por tanto, les insto a que defiendan los derechos humanos, a que participen en la promoción de soluciones responsables, basadas en los derechos humanos, para los desafíos de esta nueva era.

Y ahora, espero con interés el momento de escuchar vuestras opiniones y vuestras ideas.

Muchas gracias.

________________