Facebook s’excuse pour un incident au cours duquel son IA a mal étiqueté une vidéo d’hommes noirs avec une étiquette de « primates », la qualifiant d’« erreur inacceptable » qu’elle examinait pour éviter que cela ne se reproduise. Tel que rapporté par le New York Times, les utilisateurs qui ont regardé une vidéo du 27 juin publiée par le tabloïd britannique Courrier quotidien ont reçu une invite automatique leur demandant s’ils voulaient « continuer à voir des vidéos sur les primates ».
Facebook a désactivé toute la fonction de recommandation de sujet dès qu’il a réalisé ce qui se passait, a déclaré un porte-parole dans un e-mail à Le bord Samedi.
« C’était clairement une erreur inacceptable », a déclaré le porte-parole. La société enquête sur la cause pour éviter que le comportement ne se reproduise, a ajouté le porte-parole. « Comme nous l’avons dit, bien que nous ayons apporté des améliorations à notre IA, nous savons qu’elle n’est pas parfaite et nous avons encore des progrès à faire. Nous nous excusons auprès de tous ceux qui ont pu voir ces recommandations offensantes. »
L’incident n’est que le dernier exemple d’outils d’intelligence artificielle montrant des préjugés sexistes ou raciaux, les outils de reconnaissance faciale ayant un problème particulier d’identification erronée des personnes de couleur. En 2015, Google s’est excusé après que son application Photos ait étiqueté des photos de Noirs comme des « gorilles ». L’année dernière, Facebook a dit qu’il étudiait si ses algorithmes formés à l’aide de l’IA, y compris ceux d’Instagram, propriété de Facebook, étaient racistes.
En avril, les États-Unis La Commission fédérale du commerce a mis en garde que les outils d’IA qui ont démontré des préjugés raciaux et sexistes « troublants » peuvent être en violation des lois sur la protection des consommateurs s’ils sont utilisés pour prendre des décisions en matière de crédit, de logement ou d’emploi. « Tenez-vous responsable – ou soyez prêt à ce que la FTC le fasse pour vous », a écrit l’avocate de la FTC, Elisa Jillson, dans un article publié sur le site Web de l’agence.
Source link
