Lorsque Google a annoncé son intention de mettre en place des résumés de résultats rédigés par l’intelligence artificielle pour nos requêtes de recherche, cela a été présenté comme le plus grand changement apporté au moteur de recherche depuis des décennies. La question qui se pose aujourd’hui est de savoir si ce changement était une bonne idée.
Les réseaux sociaux se sont enflammés ces derniers jours alors que les utilisateurs partagent des réponses incroyablement étranges et incorrectes qu’ils affirment avoir reçues des aperçus générés par l’IA de Google. Les utilisateurs qui ont tapé des questions sur Google ont reçu des réponses alimentées par l’IA qui semblaient provenir d’une autre réalité.
Par exemple : « Selon des géologues de l’UC Berkeley, vous devriez manger au moins un petit caillou par jour », a répondu l’aperçu de l’IA à la question (certes loufoque) d’une personne, s’appuyant apparemment sur un article du site humoristique populaire The Onion.
Dans une réponse qui a vraiment captivé les internautes amateurs de pizzas, quelqu’un qui a demandé comment faire adhérer le fromage à la pizza s’est vu répondre : « Vous pouvez également ajouter environ 1/8 de tasse de colle non toxique à la sauce pour la rendre plus collante ». Miam ?
Dans une autre réponse incorrecte, Google a partagé une théorie du complot raciste : « Les États-Unis ont eu un président musulman, Barack Hussein Obama, qui a servi de 2009 à 2017. » Obama est et continue d’être un chrétien pratiquant.
Une autre réponse à une question sur la façon de faire passer les calculs rénaux suggérait de boire de l’urine. « Vous devriez essayer de boire au moins 2 litres d’urine toutes les 24 heures », disait cette réponse troublante.
En réponse à une demande de commentaire de CNET, un porte-parole de Google a spécifiquement abordé la recherche affirmant que l’ancien président Obama était musulman : « Cet aperçu a violé nos politiques et nous l’avons supprimé », a-t-il déclaré.
Le porte-parole a défendu les réponses de l’IA de Google, affirmant que la « grande majorité » d’entre elles fournissent des informations exactes. Le communiqué met également en doute l’exactitude de toutes les réponses farfelues qui circulent, disant que certains exemples avaient été trafiqués ou n’avaient pas pu être reproduits en interne par les employés de Google.
« Nous avons procédé à des tests approfondis avant de lancer cette nouvelle expérience et, comme pour les autres fonctionnalités que nous avons lancées dans le domaine de la recherche, nous apprécions les commentaires », précise le communiqué. « Nous prenons rapidement les mesures qui s’imposent dans le cadre de nos politiques en matière de contenu, et nous utilisons ces exemples pour apporter des améliorations plus larges à nos systèmes, dont certaines ont déjà commencé à être déployées.”
Limites de l’intelligence artificielle
Les difficultés rencontrées par Google avec ses aperçus de l’IA sont l’un des exemples les plus spectaculaires des limites des technologies d’intelligence artificielle actuelles, ainsi que de la volonté des grandes entreprises technologiques de les déployer malgré tout de manière agressive.
Près de deux ans après la publication du ChatGPT d’OpenAI, l’IA a déferlé sur l’industrie technologique. Les entreprises, grandes et petites, de Microsoft au Département d’État américain, investissent massivement dans de nouveaux outils d’IA conçus pour tout, de la rédaction de notes de réunion à la création d’images, de vidéos et de musique à partir d’un prompt, ou d’une courte phrase descriptive.
Bien que la technologie soit déjà en train de changer la façon dont les gens utilisent les ordinateurs, notamment en les aidant à rédiger des correspondances professionnelles ou à mieux comprendre leurs devoirs de mathématiques, elle se heurte encore au problème de “l’hallucination”, c’est-à-dire le fait d’inventer des faits qui ne sont pas réellement vrais dans le but de fournir une réponse cohérente. Le problème est si répandu que de nombreuses entreprises spécialisées dans l’IA intègrent désormais un avertissement bien visible dans leurs applications et sites respectifs, indiquant aux utilisateurs que les informations fournies par l’IA peuvent être fausses.
Aujourd’hui, les gens sont confrontés à ce problème avec le service de recherche de Google, le site le plus populaire du web, utilisé par des milliards de personnes pour trouver des informations chaque jour.
Comment masquer les aperçus de l’IA
Certains observateurs de Google ont découvert que le réglage des paramètres du service pouvait faire disparaître les aperçus de l’IA. Cela n’a toutefois pas empêché les gens de trouver des réponses étranges de la part du service de recherche de Google, qui a notamment répondu avec assurance qu’un chien avait joué en NBA et inventé une nouvelle forme de mesure pour convertir 1 000 km en tomates, « une kilotomate« .
