Bienvenidos a las Naciones Unidas 
OHCHR 
¿Es la IA un arma positiva?
23 febrero 2024
Scott Campbell es un oficial superior de derechos humanos que trabaja en tecnología digital en Derechos Humanos de las Naciones Unidas. Campbell acompañó recientemente al Jefe de Derechos Humanos de las Naciones Unidas, Volker Türk, en una misión a Silicon Valley en la cual Türk apeló a las grandes compañías tecnológicas, académicos y académicas y a representantes del Estado a «volver a situar la mediación humana y la dignidad humana en el centro» de la tecnología digital basada en el uso intensivo de datos. Campbell comparte su opinión sobre los complejos cambios radicales que traen consigo las nuevas tecnologías, y sobre cómo los derechos humanos pueden suponer un marco para fomentar conductas empresariales responsables, proteger los derechos de usuarios y usuarias y para exigir responsabilidades a empresas y Estados.
El foco de atención del público general sobre la tecnología digital basada en el uso intensivo de datos parece estar desviándose desde los problemas sobre la privacidad a los de la información errónea y la desinformación, el discurso de odio, la discriminación, el hecho de que algunas profesiones se estén quedando obsoletas o incluso la servidumbre absoluta al predominio de la IA. ¿Deberíamos preocuparnos? y, en ese caso, ¿qué debería preocuparnos realmente?
Existen razones muy poderosas para estar preocupados, pero al mismo tiempo, yo no creo que debamos entrar en pánico. Debemos dar una respuesta equilibrada y reflexiva a los numerosos riesgos que plantea la IA. Es verdad que en los medios de comunicación vemos a menudo cómo cambia la atención prestada además de algunas “políticas de distracción” centrándose en un riesgo potencial que conlleva la IA a otro distinto. A veces el foco se centra en imaginar futuros distópicos, y en otras ocasiones, al estar en un año donde se prevén celebrar muchas elecciones por todo el planeta, se fija en el posible impacto de la desinformación y la IA. Es importante que nosotros, como Derechos Humanos de las Naciones Unidas, así como otros actores implicados en la tecnología digital, sigamos concentrados en los riesgos que la tecnología representa para una amplia gama de derechos humanos y que no nos distraigamos, sino que seamos conscientes de que la capacidad de vigilancia aumentada por la IA es un riesgo real, continuo y en aumento, por ejemplo. Nuestro derecho a la privacidad sufre un riesgo constante, la privacidad de nuestros datos, por ejemplo, está bajo amenaza continua por el uso que hacemos de las redes sociales y otra tecnología digital.
Tenemos que analizar los riesgos que conllevan la tecnología digital y la IA para nuestros derechos humanos, y en concreto los resultados potencialmente discriminatorios que la IA puede arrojar en muchos campos y de forma especial para aquellas personas que ya son marginadas, además de otras discriminaciones de tipo racial o de género, por ejemplo. Y también cómo los contenidos en línea son moderados, cómo las compañías de redes sociales usan o no los derechos humanos como guía para elaborar sus políticas sobre contenidos en línea, son todos ellos aspectos en los que se centra nuestra labor continua.
¿Cómo puede la tecnología convertirse en un arma positiva? ¿Podemos fiarnos de que las empresas tecnológicas van a hacer lo correcto?
Podemos ver el enorme potencial que conlleva el uso de la IA y la tecnología: a la hora de mejorar los resultados de las cosechas agrícolas, a la hora de mejorar el acceso a la educación, de manera especial para las personas que viven con discapacidades, el acceso a información sobre salud o para lograr mejores resultados desde el punto de vista médico, para una mayor eficiencia en el empleo… Existe un enorme potencial a la vista. Y a pesar de esto, respondiendo a tu pregunta, sobre si deberíamos fiarnos de que las empresas tecnológicas van a hacer lo correcto, la respuesta es clara: por supuesto que no. Necesitamos tanto de una regulación estricta como de leyes severas que gobiernen al detalle las empresas tecnológicas para que de ese modo la tecnología tenga un uso verdaderamente positivo y para que nos proteja ante los riesgos potenciales de daños para los derechos humanos.
Al mismo tiempo, hay mucho más que las empresas tecnológicas deben y pueden ya hacer en la actualidad aplicando los Principios Rectores sobre las Empresas y los Derechos Humanos como añadido a la labor que ya llevan a cabo, y que incluye aplicar debida diligencia en derechos humanos y evaluaciones específicas sobre el impacto para los derechos humanos de políticas o productos concretos al tiempo que estas empresas diseñan, desarrollan o ponen en práctica estas medidas.
¿Cómo pueden los derechos humanos servir como brújula moral para las empresas tecnológicas?
Los derechos humanos pueden tener una función más destacada que ser una brújula moral. La normativa internacional de derechos humanos es vinculante para los gobiernos, y les marca obligaciones claras, las cuales deben concretarse en regulaciones y normas que aseguren que las empresas tecnológicas respetan los derechos humanos con sus servicios y productos.
Los Principios Rectores sobre las Empresas y los Derechos Humanos de las Naciones Unidas son principios no vinculantes, pero a pesar de esto son principios que se integran cada vez más en la legislación y normativas, y cada vez se espera con mayor ímpetu que las empresas pongan en práctica estos principios a la hora de llevar a cabo sus actividades empresariales. Para las empresas tecnológicas, esto significa aplicarlos a su proceso de diseño de nuevos productos, en el despliegue de los mismos, y a la hora de dar una respuesta cuando sus productos ocasionen daños para los derechos humanos, ofreciendo siempre un remedio para los mismos.
Volker Türk habla en una mesa redonda con múltiples interesados sobre Integridad Electoral y Derechos Humanos, copatrocinada por el Consulado General de Noruega de San Francisco y la Unión Europea, febrero de 2024, San Francisco, EE.UU. © OHCHR
El Alto Comisionado visitó recientemente Silicon Valley, donde se reunió con representantes de Estados, académicos y académicas, investigadores y líderes de compañías tecnológicas. ¿Cuáles fueron las conclusiones más relevantes que se extrajeron de esa misión?
Una conclusión fundamental a la que se llegó en esa visita fue lo crucial que resulta que Derechos Humanos de las Naciones Unidas se involucre más en este campo. La misión vino a demostrar que hemos consolidado asociaciones sólidas con la sociedad civil, instituciones académicas, por supuesto con Estados Miembros y con representantes gubernamentales con los que nos reunimos y, de manera destacada, con las empresas tecnológicas. No obstante, es vital que profundicemos mucho más allá a este respecto y que las empresas tecnológicas den un paso más hacia adelante. Estas empresas deben aplicar los Principios Rectores sobre las Empresas y los Derechos Humanos con mayor rotundidad, y nosotros hemos de contar con la capacidad para colaborar con ellas más a fondo, y con más empresas de todo el planeta.
No se puede dejar a los Estados fuera del debate. Ellos tienen obligaciones y han de garantizar que todos los actores, en este caso las empresas tecnológicas, cumplen con sus responsabilidades a la hora de respetar los derechos humanos.
Construir puentes y asociaciones con académicos, académicas y universidades de todo el mundo será un elemento fundamental que nos permitirá seguir avanzando.
Y por último, pero no por ello menos importante: para que nos permita seguir avanzando también en nuestras asociaciones con la sociedad civil. Nuestros socios de la sociedad civil demostraron una enorme capacidad de experiencia y conocimiento durante nuestras interacciones con ellos, y nos ofrecieron asesoramiento muy útil para nuestros diálogos en Silicon Valley. No debemos subestimar las voces de la sociedad civil en el espacio de la tecnología y los derechos humanos.
¿Cómo trabaja Derechos Humanos de las Naciones Unidas con las empresas tecnológicas y los Estados a la hora de asegurar que los derechos humanos quedan protegidos en la esfera digital?
Nuestra colaboración directa con las empresas es muy destacada en algunas partes del mundo. Nosotros tenemos un programa de gran envergadura llamado B-Tech, el cual aspira a mejorar la implementación de los Principios Rectores de las Naciones Unidas sobre las Empresas y los Derechos Humanos por parte del sector tecnológico. Colaboramos de forma directa con las empresas en una comunidad de prácticas basada en la confianza y que funciona de manera sigilosa. Nuestro nivel de colaboraciones es muy extenso en Europa y Norteamérica, pero reviste una gran importancia que podamos ampliar este proyecto y podamos colaborar con empresas ubicadas en todas las regiones del planeta.
También colaboramos con Estados Miembros, de forma más activa sobre todo a través del Consejo de Derechos Humanos. Nuestra oficina, conjuntamente con los procedimientos especiales y otros mecanismos de derechos humanos, elabora informes sobre un vasto número de cuestiones de primer orden, que incluyen el derecho a la privacidad en la era digital, los cortes de internet, aspectos cruciales que rodean el cifrado de extremo a extremo, la vigilancia (la vigilancia masiva y la vigilancia de personas individuales), así como el uso de spyware y la piratería informática. Estos informes incluyen importantes recomendaciones para los Estados Miembros y las empresas. Estamos viendo cómo los Estados Miembros se están tomando este trabajo muy en serio a la vez que su contenido es citado cada vez más en tribunales regionales de todo el mundo. Nuestra labor fue citada recientemente en una decisión sobre el cifrado de extremo a extremo por parte del Tribunal Europeo de Derechos Humanos, por poner un ejemplo reciente.
