Haut-Commissaire : l’intelligence artificielle doit être ancrée dans les droits de l’homme

« Quelles devraient-être les limites ? L’avenir de l’intelligence artificielle et des technologies nouvelles et émergentes sous l’angle des droits de l’homme »

Je me réjouis de notre discussion sur le thème des droits de l’homme et de l’intelligence artificielle.

Nous savons tous à quel point notre monde, et la situation des droits de l’homme, sont actuellement mis à l’épreuve. La triple crise planétaire menace notre existence. De vieux conflits font rage depuis des années et rien ne laisse présager leur fin. De nouveaux conflits continuent d’éclater, dont beaucoup ont des conséquences mondiales considérables. Nous sommes encore sous le choc des effets de la pandémie de COVID-19, qui a révélé et aggravé de nombreuses inégalités dans le monde entier.

Toutefois, la question que nous soulevons aujourd’hui concernant les limites de l’intelligence artificielle et des technologies émergentes est l’une des plus urgentes auxquelles sont confrontés la société, les gouvernements et le secteur privé.

Ces derniers mois, nous avons tous vu et suivi les développements remarquables de l’intelligence artificielle générative, avec ChatGPT et d’autres programmes désormais facilement accessibles au grand public.

Nous savons que l’IA peut être extrêmement bénéfique pour l’humanité. Elle pourrait améliorer les analyses prévisionnelles stratégiques, démocratiser l’accès aux connaissances, accélérer les progrès scientifiques et accroître la capacité de traitement de grandes quantités d’informations.

Pour exploiter ce potentiel, nous devons cependant nous assurer que les avantages l’emportent sur les risques, et nous avons besoin de limites.

Lorsque nous parlons de limites, nous parlons en fait de réglementations.

Pour être efficace, pour être humaine, pour mettre l’homme au cœur du développement des nouvelles technologies, toute solution, toute réglementation, doit être fondée sur le respect des droits humains.

Deux écoles de pensée façonnent le développement actuel de la réglementation de l’IA.

La première repose uniquement sur les risques et se concentre en grande partie sur l’autorégulation et l’autoévaluation par les développeurs d’IA. Au lieu de s’appuyer sur des règles détaillées, la réglementation fondée sur le risque met l’accent sur l’identification et l’atténuation des risques afin d’obtenir des résultats.

Cette approche transfère une grande partie des responsabilités au secteur privé, une trop grande partie pour certains ; c’est ce que nous dit le secteur privé lui-même.

Il en résulte également des manques évidents dans la réglementation.

L’autre approche consiste à intégrer les droits de l’homme dans l’ensemble du cycle de vie de l’IA. Du début à la fin, les principes des droits de l’homme sont inclus dans la collecte et la sélection des données, ainsi que dans la conception, le développement, le déploiement et l’utilisation des modèles, outils et services qui en résultent.

Il ne s’agit pas d’un avertissement pour l’avenir, car nous constatons déjà les effets néfastes de l’IA, et non pas uniquement de l’IA générative.

L’intelligence artificielle peut renforcer la gouvernance autoritaire.

Elle peut contrôler des armes létales autonomes.

Elle peut aider à obtenir des outils plus puissants servant à contrôler, surveiller et censurer la société.

Les systèmes de reconnaissance faciale peuvent par exemple se transformer en une surveillance de masse de nos espaces publics, détruisant tout concept de vie privée.

Il a déjà été démontré que les systèmes d’IA utilisés dans le système de justice pénale pour prédire les comportements criminels futurs renforcent la discrimination et portent atteinte aux droits, notamment à la présomption d’innocence.

Des victimes et des experts, dont beaucoup d’entre vous dans cette salle, tirent la sonnette d’alarme depuis un certain temps, mais les décideurs politiques et les développeurs de l’intelligence artificielle n’agissent pas suffisamment (ou pas assez vite) pour répondre à ces préoccupations.

Les gouvernements et les entreprises doivent agir d’urgence. Au niveau international, les Nations Unies peuvent jouer un rôle central en réunissant les principales parties prenantes et en les conseillant sur les progrès à accomplir.

Il n’y a pas de temps à perdre.

Le monde a attendu trop longtemps en ce qui concerne les changements climatiques. Nous ne pouvons pas nous permettre de faire la même erreur.

À quoi pourraient ressembler ces réglementations ?

Nous devons utiliser comme point de départ les préjudices que la population subit et risque de subir.

Pour cela, nous devons écouter les personnes concernées, ainsi que celles qui ont déjà passé de nombreuses années à identifier ces préjudices et à y répondre. Les femmes, les groupes minoritaires et les personnes marginalisées, en particulier, sont affectés de manière disproportionnée par les préjugés dans le domaine de l’intelligence artificielle. Nous devons multiplier les efforts pour les inclure dans les discussions sur la gouvernance.

Nous devons également prêter attention à l’utilisation de l’IA dans les services publics et privés présentant un risque accru d’abus de pouvoir ou d’intrusion dans la vie privée : la justice, l’application de la loi, la migration, la protection sociale ou encore les services financiers.

Deuxièmement, les réglementations doivent exiger l’évaluation des risques et de l’impact des systèmes d’IA sur les droits humains avant, pendant et après leur utilisation. Des garanties de transparence, un contrôle indépendant et l’accès à des voies de recours efficaces sont nécessaires, en particulier lorsque l’État lui-même utilise des technologies d’IA.

Les technologies d’IA qui ne peuvent être utilisées dans le respect du droit international des droits de l’homme doivent être interdites ou suspendues jusqu’à ce que des garanties adéquates soient mises en place.

Troisièmement, les réglementations et garanties existantes doivent être mises en œuvre : par exemple, les cadres sur la protection des données, le droit de la concurrence et les réglementations sectorielles, notamment pour la santé, les technologies ou les marchés financiers. La prise en compte des droits de l’homme dans le développement et l’utilisation de l’IA n’aura qu’un impact limité si le respect des droits de l’homme est insuffisant dans le paysage réglementaire et institutionnel global.

Quatrièmement, nous devons résister à la tentation de laisser l’industrie de l’IA elle-même affirmer que l’autorégulation est suffisante, ou de prétendre que c’est à elle de définir le cadre juridique applicable. Je pense que nous avons retenu la leçon des réseaux sociaux à cet égard. Bien que leur contribution soit importante, il est essentiel que l’ensemble du processus démocratique, constitué de lois élaborées par toutes les parties prenantes, soit appliqué à cette question qui affectera tous les citoyens, partout dans le monde, dans un avenir lointain.

Dans le même temps, les entreprises doivent assumer leurs responsabilités quant au respect des droits de l’homme, conformément aux Principes directeurs des Nations Unies relatifs aux entreprises et aux droits de l’homme. Les entreprises sont responsables des produits qu’elles s’empressent de mettre sur le marché. Le HCDH collabore avec plusieurs entreprises, organisations de la société civile et experts en IA pour élaborer des orientations sur l’IA générative. Il reste cependant encore beaucoup à faire dans ce domaine.

Enfin, même s’il ne s’agit pas d’une solution miracle, il pourrait être utile d’envisager la création d’un organe consultatif international pour les technologies à risque particulièrement élevé, qui pourrait proposer des perspectives sur l’alignement des normes réglementaires sur les droits humains universels et les cadres fondés sur l’état de droit. Cet organe pourrait partager publiquement ses conclusions et proposer des recommandations sur la gouvernance de l’IA. Le Secrétaire général des Nations Unies a proposé d’inclure cette question dans le pacte numérique mondial pour le Sommet de l’avenir qui se tiendra l’année prochaine.

Le cadre des droits de l’homme constitue un fondement essentiel qui peut servir de garde-fou aux efforts visant à exploiter l’énorme potentiel de l’intelligence artificielle, tout en prévenant et en atténuant les risques considérables qu’elle comporte.

Je me réjouis de discuter de ces questions avec vous.