Notre accord mondial sur l’IA pourrait réduire les biais et

Par Gabriela Ramos

Intelligence artificielle est plus présent que jamais dans nos vies : il prédit ce que nous voulons dire dans les emails, nous aide à naviguer de A à B et améliore nos bulletins météo. La vitesse sans précédent avec laquelle les vaccins contre le covid-19 ont été développés peut également être attribuée en partie à l’utilisation d’algorithmes d’IA qui ont rapidement analysé les données de nombreux essais cliniques, permettant aux chercheurs du monde entier de comparer leurs notes en temps réel.

Mais la technologie n’est pas toujours bénéfique. Les ensembles de données utilisés pour construire l’IA ne sont souvent pas représentatifs de la diversité de la population, ils peuvent donc produire des pratiques discriminatoires ou des préjugés. Un exemple est la technologie de reconnaissance faciale. Ceci est utilisé pour accéder à nos téléphones portables, comptes bancaires et immeubles d’habitation, et est de plus en plus utilisé par les forces de police. Mais il peut avoir des problèmes identifier avec précision les femmes et les Noirs. Pour trois de ces programmes publiés par de grandes entreprises technologiques, le taux d’erreur n’était que de 1 % pour les hommes à la peau claire, mais de 19 % pour les hommes à la peau foncée et jusqu’à 35 % pour les femmes à la peau foncée. Les biais dans les technologies de reconnaissance faciale ont conduit à des arrestations injustifiées.

Ce n’est pas surprenant quand on regarde comment l’IA est développée. Seul 1 développeur de logiciels sur 10 dans le monde est une femme et seulement 3 pour cent des employés des 75 plus grandes entreprises technologiques aux États-Unis s’identifient comme noirs. Mais maintenant, il y a de l’espoir que le monde est sur le point de basculer vers une bien meilleure approche.

Hier à l’UNESCO, 193 pays sont parvenus à un accord révolutionnaire sur la façon dont l’IA devrait être conçue et utilisée par les gouvernements et les entreprises technologiques. Recommandation de l’UNESCO sur l’éthique de l’intelligence artificielle a pris deux ans à mettre en place et a impliqué des milliers de consultations en ligne avec des personnes issues d’un large éventail de groupes sociaux. Il vise à modifier fondamentalement l’équilibre des pouvoirs entre les personnes et les entreprises et les gouvernements qui développent l’IA.

Les pays membres de l’UNESCO – et c’est presque tous les pays du monde – ont accepté de mettre en œuvre cette recommandation en promulguant une législation pour réglementer la conception et le déploiement de l’IA.

Cela signifie qu’ils doivent utiliser l’action positive pour s’assurer que les femmes et les groupes minoritaires sont équitablement représentés dans les équipes de conception de l’IA. Une telle action pourrait prendre la forme de systèmes de quotas garantissant la diversité de ces équipes.

Un autre principe important que les pays viennent d’accepter est l’interdiction de la surveillance de masse et d’autres technologies invasives qui violent les libertés fondamentales. Bien sûr, nous ne nous attendons pas à un retrait complet de la vidéosurveillance partout, mais nous nous attendons à ce qu’une telle surveillance de masse se limite à des utilisations conformes aux droits de l’homme. L’UNESCO utilisera la « pression des pairs » et d’autres outils multilatéraux que les agences des Nations Unies utilisent pour faire respecter les normes mondiales.

Au cours des prochains mois, les experts de l’UNESCO travailleront à la création d’un ensemble d’outils de suivi, garantissant que le développement et le déploiement de l’IA respectent les droits de l’homme, mais n’étouffent pas l’innovation. Cet équilibre sera difficile à atteindre et nécessitera le plein engagement de la communauté scientifique.

Le nouvel accord est large et ambitieux. Il s’attaque au harcèlement en ligne et aux discours de haine et oblige les pays à réduire leur empreinte carbone grâce à la technologie – la quantité d’énergie utilisée pour stocker nos données a considérablement augmenté depuis que l’innovation en matière d’IA a commencé à se développer.

Tous les acteurs du monde de l’IA sont conscients qu’ils ne peuvent pas continuer à fonctionner sans livre de règles.

L’UNESCO s’attend maintenant à ce que deux choses se produisent. Premièrement, les gouvernements et les entreprises commenceront volontairement à mettre leurs systèmes d’IA en conformité avec les principes énoncés dans la recommandation – des mesures similaires se sont produites après Déclaration de l’UNESCO sur le génome humain établir des normes pour la recherche génétique. Deuxièmement, les gouvernements commenceront à légiférer en utilisant la recommandation comme un manuel. L’UNESCO surveillera les progrès de la législation et les pays seront obligés de rendre compte de leurs progrès.

Avec cet accord, nous sommes confiants de mettre l’IA au travail là où elle peut avoir le plus d’impact sur les plus grands défis mondiaux : la faim, les crises environnementales, les inégalités et les pandémies. Nous sommes optimistes, nous avons créé l’élan pour un changement réel.

Gabriela Ramos est sous-directrice générale des sciences sociales et humaines de l’UNESCO