Bienvenue aux Nations Unies 
OHCHR 
L’IA, une force positive ?
23 février 2024
Scott Campbell est un spécialiste hors classe des droits humains qui travaille dans le domaine des technologies numériques au sein du HCDH. Il a récemment rejoint le Haut-Commissaire des Nations Unies aux droits de l’homme Volker Türk lors d’une mission dans la Silicon Valley, au cours de laquelle M. Türk a exhorté les grandes entreprises technologiques, les universités et les représentants des États à « replacer l’action et la dignité humaines au cœur » des technologies numériques à grand volume de données. Il nous fait part de ses réflexions sur les changements complexes et majeurs provoqués par les nouvelles technologies et sur la manière dont les droits humains peuvent servir de cadre pour promouvoir une conduite responsable de la part des entreprises, protéger les droits des utilisateurs et obliger les entreprises et les États à assumer leurs responsabilités.
L’intérêt du grand public pour les technologies numériques à grand volume de données semble passer des questions de protection de la vie privée à celles de la mésinformation et de la désinformation, de l’incitation à la haine, de la discrimination, de l’obsolescence de certaines professions, voire de la servitude pure et simple sous la domination de l’IA. Devons-nous nous inquiéter et si oui, de quoi ?
Il y a de très bonnes raisons de s’inquiéter, mais en même temps, je ne pense pas qu’il faille paniquer. Nous devons réagir de manière pondérée et réfléchie aux nombreux risques liés à l’IA. Nous constatons que les médias détournent souvent l’attention d’un risque de l’IA vers un autre, et qu’ils se livrent à une sorte de « politique de distraction ». Certains se concentrent sur des avenirs dystopiques ; d’autres, étant donné les nombreuses élections prévues cette année dans le monde, se concentrent sur les effets de la désinformation et de l’IA. Il est important pour nous, au HCDH, et pour les autres acteurs engagés dans les technologies numériques, de rester concentrés sur les risques que ces technologies posent pour de nombreux droits humains et de ne pas se laisser distraire, mais de prendre conscience par exemple que les moyens de surveillance améliorés par l’IA constituent un risque réel, continu et croissant. Notre droit à la vie privée est constamment menacé : la confidentialité de nos données, par exemple, est constamment menacée par notre utilisation des médias sociaux et d’autres technologies numériques.
Nous devons examiner les risques que les technologies numériques et l’IA font peser sur nos droits humains, en particulier les effets discriminatoires possibles de l’IA dans de nombreux secteurs et pour les personnes déjà marginalisées en raison de leur sexe, de leur race ou d’autres critères. La façon dont le contenu en ligne est modéré, la manière dont les entreprises de médias sociaux utilisent ou non les droits humains pour orienter leur politique de contenu en ligne est au cœur de notre travail actuel.
Comment les technologies peuvent-elles être une force positive ? Peut-on compter sur les entreprises technologiques pour faire les bons choix ?
L’utilisation de l’IA et des technologies présente un grand potentiel : la hausse de la production agricole, l’amélioration de l’accès à l’éducation, en particulier pour les personnes handicapées, l’accès à l’information sur la santé ou de meilleurs résultats médicaux, une plus grande efficacité dans le secteur de l’emploi... Le potentiel est énorme. Et pourtant, à la question de savoir si nous devrions compter sur les entreprises technologiques pour faire ce qu’il faut, la réponse est claire : absolument pas. Nous avons besoin à la fois de réglementations et de lois strictes pour contrôler soigneusement les entreprises technologiques afin que les technologies soient effectivement utilisées à bon escient et pour nous protéger contre des atteintes potentielles aux droits humains.
De plus, les entreprises technologiques devraient et peuvent déjà faire beaucoup en appliquant les Principes directeurs des Nations Unies relatifs aux entreprises et aux droits de l’homme dans leurs activités, notamment en faisant preuve de diligence raisonnable en matière de droits humains et en procédant à des études d’impact sur les droits humains concernant certaines politiques ou certains produits lors de leur conception, de leur développement et de leur mise en œuvre.
Comment les droits humains peuvent-ils servir de conscience morale pour les entreprises technologiques ?
Les droits humains peuvent faire plus que servir de conscience morale. Le droit international des droits de l’homme est contraignant pour les gouvernements et leur impose des obligations claires, qui devraient se traduire par des réglementations et des lois garantissant que les services et produits des entreprises technologiques respectent les droits humains.
Les Principes directeurs des Nations Unies relatifs aux entreprises et aux droits de l’homme sont des principes non contraignants, mais ils sont de plus en plus intégrés dans la législation et la réglementation et les entreprises sont de plus en plus incitées à les intégrer dans leurs pratiques. Pour les entreprises technologiques, cela signifie qu’elles doivent concevoir de nouveaux produits, les déployer et réagir lorsque leurs produits portent atteinte aux droits humains, en donnant accès à des recours.
Volker Türk s’exprimant lors d’une table ronde multipartite sur l’intégrité électorale et les droits humains, organisée conjointement par le consulat général norvégien de San Francisco et l’Union européenne, février 2024, San Francisco, États-Unis. © HCDH
Le Haut-Commissaire s’est récemment rendu dans la Silicon Valley, où il a rencontré des représentants de l’État, des universitaires, des chercheurs et des dirigeants d’entreprises technologiques. Quels ont été les principaux points à retenir de cette mission ?
L’un des principaux points à retenir de cette visite est qu’il est crucial que le HCDH s’engage davantage dans ce domaine. Cette mission a démontré que nous avons établi de bons partenariats avec la société civile, les établissements universitaires, les États Membres et les représentants des gouvernements que nous avons rencontrés et, surtout, avec les entreprises technologiques. Toutefois, il est essentiel d’aller beaucoup plus loin et que les entreprises technologiques en fassent plus. Elles doivent appliquer beaucoup plus rigoureusement les Principes directeurs des Nations Unies relatifs aux entreprises et aux droits de l’homme, et nous devons être capables de collaborer plus activement avec davantage d’entreprises du monde entier.
Les États ne peuvent pas être négligés. Ils ont des obligations et doivent s’assurer que tous les acteurs, en l’occurrence les entreprises technologiques, s’acquittent de leurs responsabilités en matière de respect des droits humains.
Il sera crucial pour nous de créer des passerelles et des partenariats avec des universitaires et universités du monde entier à l’avenir.
Enfin et surtout, nos partenariats avec la société civile seront cruciaux. Nos partenaires de la société civile ont fait preuve d’une expertise et de connaissances considérables lors de nos échanges avec eux. Ils nous ont aussi donné des conseils très utiles pour notre travail dans la Silicon Valley. La contribution de la société civile dans le domaine des technologies et des droits humains ne peut être sous-estimée.
Comment le HCDH collabore-t-il avec les entreprises technologiques et les États pour garantir la protection des droits humains dans la sphère numérique ?
Nous collaborons de manière relativement étroite avec les entreprises dans plusieurs régions du monde. Nous disposons d’un important programme, appelé projet B-Tech, qui vise à améliorer l’application des Principes directeurs relatifs aux entreprises et aux droits de l’homme dans le secteur des technologies. Nous coopérons directement avec les entreprises dans le cadre d’une communauté de pratique privée de confiance. Nous sommes très actifs en Europe et en Amérique du Nord, mais il est crucial que nous élargissions ce projet et que nous collaborions avec des entreprises de toutes les régions du monde.
Nous coopérons également avec les États Membres, en particulier à travers le Conseil des droits de l’homme. Le HCDH, ainsi que les procédures spéciales et d’autres mécanismes des droits humains, produisent des rapports sur de nombreuses questions importantes, notamment le droit à la vie privée à l’ère numérique, les coupures de l’accès à Internet, ainsi que les questions cruciales relatives au chiffrement de bout en bout, à la surveillance (surveillance de masse et surveillance des individus) et à l’utilisation de logiciels espions et de piratage informatique. Ces rapports contiennent des recommandations importantes pour les États Membres et les entreprises. Nous constatons que les États Membres prennent ce projet au sérieux et qu’il est de plus en plus souvent cité dans les tribunaux régionaux du monde entier. Nos travaux ont récemment été cités dans une décision de la Cour européenne des droits de l’homme sur le chiffrement de bout en bout, pour ne citer qu’un exemple récent.
