Volker Türk appelle à une gouvernance attentive aux risques liés à l’intelligence artificielle et mettant l’accent sur les droits humains

Chers collègues et amis,

Nous sommes à un moment charnière de l’histoire. Le 75^e anniversaire de la Déclaration universelle des droits de l’homme coïncide avec une période de changements rapides et transformateurs dans le domaine de l’intelligence artificielle, en particulier l’IA générative.

L’émergence de l’IA générative représente un paradoxe du progrès. D’une part, elle pourrait révolutionner notre façon de vivre, de travailler et de résoudre certains de nos problèmes les plus complexes. D’autre part, elle accroît les risques profonds susceptibles de porter atteinte à la dignité et aux droits humains. Il est donc essentiel de veiller à ce que les droits humains soient intégrés au cœur du cycle de vie des technologies de l’IA, grâce à un effort concerté des gouvernements et des entreprises pour établir des cadres de gestion des risques et des garde-fous opérationnels efficaces.

Je suis de plus en plus alarmé par la capacité des technologies numériques à remodeler les sociétés et à influencer la politique mondiale. Environ 70 élections sont prévues en 2024, dans des pays où vivent 4 milliards de personnes, et les contrefaçons numériques et les campagnes de désinformation pourraient y jouer un rôle. Il est essentiel que nous soyons un pilier inattaquable contre la désinformation et la manipulation.

Il faut procéder à une évaluation complète des multiples domaines dans lesquels l’IA pourrait avoir un effet transformateur, notamment sur les risques concernant la non-discrimination, la participation politique, l’accès aux services publics et l’érosion des libertés civiles. C’est pourquoi je me réjouis de la publication aujourd’hui du document du projet B-Tech sur la taxonomie des préjudices causés par l’IA générative en matière de droits humains, qui peut contribuer à une meilleure compréhension des risques actuels et émergents.

L’IA générative nécessite principalement une gouvernance. Et cette gouvernance doit reposer sur les droits humains. Elle doit également être en mesure de promouvoir une conduite responsable des entreprises et de garantir le principe de responsabilité pour les préjudices causés par ces dernières.

Les Principes directeurs des Nations Unies relatifs aux entreprises et aux droits de l’homme et les Principes directeurs de l’OCDE sur la conduite responsable des entreprises, qui sont deux publications largement utilisées, constituent de solides garde-fous pour les États et les entreprises et définissent les bases d’un développement responsable de l’IA. Cependant, ces Principes directeurs de l’ONU et de l’OCDE ne suffiront pas à eux seuls à relever les défis posés par l’IA. L’utilisation potentiellement abusive des technologies de l’IA par les États ou par des groupes criminels nécessite un éventail de cadres juridiques, réglementaires et multilatéraux. Tous ces aspects doivent être ancrés dans les normes internationales relatives aux droits humains, y compris les normes qui ont déjà établi la responsabilité des entreprises et des investisseurs en matière de droits humains.

À l’heure actuelle, la nécessité d’une gouvernance de l’IA est largement reconnue, mais les multiples initiatives politiques en cours sont pour la plupart incohérentes et n’accordent souvent pas aux droits de l’homme l’importance qu’ils méritent. Cela risque d’aboutir à un paysage réglementaire fragmenté, avec des définitions variables de la conduite éthique et du risque acceptable.

Une initiative structurée telle que celle de l’IA générative du projet B-Tech permet de mieux comprendre l’impact potentiel de l’IA sur les droits de l’homme et de préciser les mesures à prendre par les États et les entreprises, ouvrant ainsi la voie à une gouvernance plus cohérente.

Tous les États doivent protéger les individus contre les violations des droits humains induites par l’IA. Cela signifie que tous les États doivent aligner leurs cadres réglementaires sur les obligations qui leur incombent en vertu du droit international des droits de l’homme.

Les entreprises doivent s’assurer que leurs algorithmes d’IA, leurs processus opérationnels et leurs modèles d’activité garantissent le respect des droits humains. Il faut faire preuve d’une diligence raisonnable active, examiner les populations les plus à risque et placer la prévention des violations des droits humains au centre des décisions commerciales et de celles prises au stade de leur conception.

Le HCDH continuera à attirer l’attention sur la nécessité d’un recours effectif pour les victimes de violations des droits humains induites par l’IA. Les entreprises technologiques doivent reconnaître leur responsabilité et les avantages sociaux liés à l’adoption de systèmes de réparation qui fonctionnent. Enfin, les États ont le devoir fondamental d’assurer la réparation des préjudices causés aux droits humains, notamment en obligeant les entreprises à prendre les mesures qui s’imposent.

L’IA générative n’est pas un phénomène local ou national. Elle aura des conséquences sur tout le monde et exige une approche internationale et collaborative. Nous devons veiller à ce que la protection des droits des personnes soit au cœur de cette approche. Cela nécessite non seulement un dialogue, mais aussi une action : une action qui s’appuie sur la sagesse collective et l’orientation fournie par des cadres établis. Notre collaboration devrait unir les États, les entreprises, la société civile et les individus dans une mission commune : veiller à ce que l’IA serve au mieux les intérêts de l’humanité, en créant ensemble un monde dans lequel la technologie ne sert pas uniquement les intérêts des riches et des puissants, mais permet aussi de faire progresser la dignité et des droits humains pour tous.

Merci.