Expert de l’ONU sur les droits des personnes handicapées : l’humanité devrait obtenir le meilleur de l’intelligence artificielle et non le pire

L’intelligence artificielle a fondamentalement changé la condition humaine, a déclaré Gerard Quinn, Rapporteur spécial des Nations Unies sur les droits des personnes handicapées.

« Les nouvelles technologies peuvent présenter d’énormes atouts pour les personnes handicapées et faire avancer la recherche d’une égalité inclusive dans des domaines aussi divers que l’emploi, l’éducation et l’autonomie de vie », a-t-il expliqué. « Cependant, leurs effets discriminants sont nombreux et notoires. »

M. Quinn s’est exprimé sur ce sujet alors qu’il présentait son rapport au Conseil des droits de l’homme. Dans ce dernier, l’intelligence artificielle repose sur l’idée que les machines peuvent fonctionner « d’une manière identique ou comparable à celle des êtres humains, mais plus rapide, plus efficace et plus fiable, et sans préjugés ».

Selon lui, si l’on s’aperçoit de plus en plus des problèmes que peuvent poser ces nouvelles technologies du point de vue des droits de l’homme, le débat doit porter plus spécifiquement sur leurs conséquences sur les droits des personnes handicapées tels qu’établis dans la Convention relative aux droits des personnes handicapées, notamment les droits à la vie privée, à l’autonomie, à l’éducation, à l’emploi, à la santé, à l’autonomie de vie et à la participation.

Les systèmes d’intelligence artificielle ont eu des effets positifs sur la vie des personnes handicapées. M. Quinn a souligné que « les obstacles que nous pensions autrefois insurmontables sont soudainement mesurables. »

Nous pouvons notamment citer les technologies d’assistance qui améliorent la mobilité des aveugles. Les plateformes d’apprentissage adaptatif permettent également de répondre aux besoins particuliers des élèves handicapés. Par ailleurs, les robots et autres outils dotés de l’intelligence artificielle fournissent des soins à domicile et d’autres formes d’assistance, grâce auxquelles les personnes handicapées peuvent vivre de manière autonome.

Toutefois, les systèmes d’intelligence artificielle tirent leur intelligence d’un processus d’apprentissage automatique, qui repose sur un ensemble de données fournies à des fins d’apprentissage ou d’« algorithmes » qui comprennent souvent « des données issues de décisions et de jugements de valeur formulés par le passé par des êtres humains – décisions et jugements qui peuvent être faillibles à plusieurs égards », selon M. Quinn.

Le rapport indique que ces outils peuvent encore véhiculer des préjugés humains et, de ce fait, exclure les personnes handicapées. Nous pouvons citer comme exemple le secteur de l’emploi, où les processus de recrutement font de plus en plus appel à des algorithmes pour filtrer les candidats.

« Les données qui sous-tendent les algorithmes de l’intelligence artificielle peuvent refléter et intégrer des préjugés capacitistes (et des préjugés âgistes). Le handicap peut être “perçu” par la technologie comme déviant et donc indésirable », a expliqué M. Quinn. « [Les personnes handicapées] risquent de ne pas être prises en considération pour un poste sans même qu’il soit tenu compte de leurs mérites et de la possibilité de procéder à des « aménagements raisonnables » leur permettant d’accomplir les fonctions essentielles associées à ce poste. »

Dans son rapport, M. Quinn propose une solution pour concrétiser les bénéfices tangibles de l’intelligence artificielle pour les personnes handicapées en plaçant leurs droits humains au cœur du débat sur les nouvelles technologies.

Il recommande également aux États d’inclure le handicap dans leurs stratégies relatives à l’intelligence artificielle et de continuer de mettre l’accent sur l’obligation de procéder à des « aménagements raisonnables », ainsi qu’à prendre explicitement en compte le handicap lors de l’achat de produits et de services fondés sur l’intelligence artificielle.

« Plus important encore, nous appelons à la création d’un nouvel espace – un espace de collaboration – entre le secteur des entreprises, le gouvernement et la société civile, afin d’examiner et de concrétiser les avantages de ces technologies et de prendre des mesures concrètes pour inverser certains de ses effets négatifs connus et éviter de tels effets à l’avenir », a-t-il ajouté.

« Sinon, les personnes les plus exclues n’auront aucune chance de s’en sortir. Étant donné les possibilités qu’offre cette technologie, ce serait une tragédie pour l’humanité. »