« Halluciner » est l’un des premiers mots de vocabulaire liés à l’IA générative que tout le monde devrait connaître. En termes simples, cela signifie que les moteurs d’IA, comme ChatGPT d’OpenAI, ont tendance à inventer des choses qui ne sont pas vraies mais qui semblent vraies. D’ailleurs, la Commission fédérale du commerce des États-Unis (FTC) a commencé ce mois-ci à enquêter sur OpenAI au sujet de son chatbot qui pourrait faire de fausses déclarations sur les gens.
D’où vient le terme « halluciner » dans le contexte de l’IA ? Les chercheurs de Google DeepMind ont inventé ce terme pittoresque en 2018, expliquant qu’ils avaient découvert que les systèmes de traduction automatique neuronale (ou NMT) « sont susceptibles de produire des traductions hautement pathologiques qui ne sont absolument pas liées au matériel source ».
Qu’est-ce qu’une « hallucination » dans le domaine de l’IA ?
La plupart des glossaires proposent une explication plus directe de ce qu’est une « hallucination » de l’IA. Cette définition provient de NBC News :
« Hallucination : les hallucinations sont des réponses inattendues et incorrectes de la part des programmes d’IA, qui peuvent survenir pour des raisons qui ne sont pas encore totalement connues. Un modèle de langage peut soudainement proposer des recettes de salade de fruits alors que vous lui demandez de planter des arbres fruitiers. Il peut également inventer des citations savantes, mentir sur les données que vous lui demandez d’analyser ou inventer des faits sur des événements qui ne figurent pas dans ses données d’apprentissage. On ne sait pas exactement pourquoi cela se produit, mais cela peut être dû à la rareté des données, aux lacunes en matière d’information et à une classification erronée. »
Dans un souci d’équité, nous avons demandé à ChatGPT de nous dire ce que signifiait le terme « halluciner » dans le contexte de l’IA. Voici sa réponse :
« Dans le contexte de l’IA, le terme « halluciner » est utilisé métaphoriquement pour décrire la génération de contenu ou d’information qui n’est pas basée sur l’observation directe ou les données du monde réel. Lorsqu’un système d’IA « hallucine », cela signifie qu’il produit des résultats qui peuvent ressembler ou imiter certains modèles ou caractéristiques trouvés dans les données d’apprentissage, mais qui ne sont pas réellement fondés sur la réalité.
Le terme « halluciner » n’est pas spécifique à l’IA et a été emprunté à son utilisation dans le domaine de la psychologie. En psychologie, l’hallucination fait référence à des perceptions ou à des expériences sensorielles qui se produisent en l’absence de tout stimulus externe. Ces perceptions ne sont pas basées sur la réalité, mais sont perçues comme réelles par l’individu qui en fait l’expérience.
Dans le contexte de l’IA, le terme est utilisé métaphoriquement pour décrire des situations dans lesquelles les résultats générés s’écartent de la réalité ou introduisent des éléments qui ne sont pas présents dans les données d’origine. Par exemple, dans le domaine de la génération d’images, un système d’IA peut produire des images contenant des éléments surréalistes ou fantastiques, qui ne sont pas basés sur des objets ou des scènes réels observés dans les données d’apprentissage.
Le terme « halluciner » est utilisé pour souligner le potentiel des systèmes d’IA à générer des résultats qui vont au-delà de ce qui est directement observé ou explicitement demandé. Il reflète la capacité des algorithmes d’IA à extrapoler, à combiner ou à créer de nouveaux modèles, aboutissant parfois à des résultats inattendus ou imaginatifs. »
À notre avis, c’est une façon un peu longue et alambiquée pour une IA conversationnelle de dire qu’elle invente des choses.
Voici d’autres faits dans le domaine de l’IA qui méritent votre attention.
Les travailleurs américains n’ont pas peur de l’IA, mais l’érosion de l’emploi est à venir
Le Pew Research Center et McKinsey ont tous deux publié cette semaine des rapports sur la manière dont l’IA pourrait affecter les travailleurs et les emplois. Même si de nombreuses questions restent en suspens, les deux rapports méritent d’être lus.
Selon l’étude de Pew, les travailleurs américains « semblent plus optimistes que préoccupés par l’impact de l’IA sur leur emploi. »
L’étude visait en partie à quantifier les secteurs et les travailleurs les plus exposés à l’IA. Pew a qualifié les emplois de « plus exposés à l’intelligence artificielle si l’IA peut soit réaliser entièrement leurs activités les plus importantes, soit les aider à les réaliser. »
« De nombreux travailleurs américains dans les secteurs les plus exposés ne pensent pas que leur emploi est menacé – ils sont plus susceptibles de dire que l’IA les aidera plus qu’elle ne leur nuira personnellement. Par exemple, 32 % des travailleurs du secteur de l’information et de la technologie affirment que l’IA les aidera plus qu’elle ne leur nuira personnellement, contre 11 % qui disent qu’elle leur nuira plus qu’elle ne les aidera », indique l’étude.
Quant à savoir si l’IA entraînera des pertes d’emplois, Pew a déclaré que la réponse à cette question reste incertaine « parce que l’IA pourrait être utilisée soit pour remplacer, soit pour compléter ce que font les travailleurs ». Et cette décision, comme nous le savons tous, sera prise par des humains – les dirigeants de ces entreprises qui décident si, comment et quand les outils d’IA sont utilisés.
« Prenons l’exemple des agents de service clientèle », note Pew. « Les faits montrent que l’IA pourrait soit les remplacer par des chatbot plus puissants, soit améliorer leur productivité. L’IA pourrait également créer de nouveaux types d’emplois pour des travailleurs plus qualifiés – tout comme l’ère de l’internet a généré de nouvelles catégories d’emplois tels que les développeurs web. Une autre façon dont les développements liés à l’IA pourraient augmenter les niveaux d’emploi est de donner un coup de fouet à l’économie en augmentant la productivité et en créant plus d’emplois dans l’ensemble. »
En ce qui concerne les emplois les plus exposés à l’IA, la répartition n’est pas si surprenante étant donné que certains emplois – comme les pompiers – sont littéralement plus pratiques que d’autres. Ce qui est surprenant, c’est que plus de femmes que d’hommes sont susceptibles d’être exposées à l’IA dans leur travail, en fonction du type de travail qu’elles effectuent.
L’impact de l’IA sur le travail
Dans le même temps, McKinsey a présenté son rapport intitulé « Generative AI and the future of work in America » (L’IA générative et l’avenir du travail en Amérique). Le cabinet de conseil a évalué sans détour l’impact de l’IA sur le travail, affirmant que « d’ici 2030, les activités qui représentent jusqu’à 30 % des heures actuellement travaillées dans l’économie américaine pourraient être automatisées – une tendance accélérée par l’IA générative. »
Mais il y a une lueur d’espoir. « 12 millions de transitions professionnelles supplémentaires pourraient être nécessaires d’ici à 2030. À mesure que les gens quittent des professions en perte de vitesse, l’économie pourrait se réorienter vers des emplois mieux rémunérés. Les travailleurs occupant des emplois moins bien rémunérés sont jusqu’à 14 fois plus susceptibles de devoir changer de profession que ceux qui occupent les postes les mieux rémunérés, et la plupart d’entre eux auront besoin de compétences supplémentaires pour y parvenir. Les femmes sont 1,5 fois plus susceptibles de devoir changer de profession que les hommes. »
Tout cela dépend, ajoute McKinsey, de la capacité des employeurs américains à former des travailleurs pour répondre à l’évolution de leurs besoins et à se tourner vers des groupes négligés, tels que les travailleurs ruraux et les personnes handicapées, pour trouver de nouveaux talents.
Qu’est-ce que tout cela signifie pour vous aujourd’hui ? Ce qui est sûr, c’est que les employeurs utilisent l’intelligence artificielle pour les aider dans leur processus de recrutement. Si vous cherchez des conseils sur la manière de rechercher un emploi dans un monde où l’on se sert d’outils de recrutement par l’IA, consultez ce guide utile sur la nouvelle ère de l’embauche.
Les grandes entreprises technologiques parlent de l’IA lors de la publication de leurs résultats
Google/Alphabet, Microsoft et Meta (anciennement Facebook) ont annoncé leurs résultats trimestriels cette semaine. Ce qui est intéressant (mais pas surprenant), c’est la fréquence à laquelle l’IA a été mentionnée dans les discours préliminaires des PDG et autres cadres, ainsi que dans les questions posées par les analystes de Wall Street.
Le PDG de Microsoft Satya Nadella, dont la firme propose une version améliorée de son moteur de recherche Bing ainsi que des outils d’IA pour les entreprises, a mentionné l’intelligence artificielle 27 fois dans son discours d’ouverture. Le PDG de Google Sundar Pichai, qui a parlé de la puissance de Bard et d’autres outils d’IA, a mentionné l’IA 35 fois. Quant à Mark Zuckerberg, PDG de Meta, il a mentionné l’IA à 17 reprises.
Mark Zuckerberg a déclaré que « les contenus recommandés par l’IA et provenant de comptes que vous ne suivez pas constituent désormais la catégorie de contenu qui connaît la plus forte croissance sur le fil d’actualité de Facebook ». Il a également déclaré : « Vous pouvez imaginer de nombreuses façons dont l’IA pourrait aider les gens à se connecter et à s’exprimer dans nos applications : des outils créatifs qui rendent le partage de contenu plus facile et plus amusant, des agents qui agissent comme des assistants, des coachs, ou qui peuvent vous aider à interagir avec des entreprises et des créateurs, et bien plus encore. Ces nouveaux produits amélioreront tout ce que nous faisons à travers les applications mobiles et le métaverse – en aidant les gens à créer des mondes, ainsi que les avatars et les objets qui les habitent ».
En parlant de Bing, Satya Nadella a déclaré qu’il s’agissait de « l’expérience de recherche par défaut pour ChatGPT d’OpenAI, offrant aux utilisateurs de ChatGPT des réponses plus rapides avec des liens vers nos sources réputées. À ce jour, les utilisateurs de Bing ont participé à plus d’un milliard de chats et créé plus de 750 millions d’images avec Bing Image Creator. »
Sundar Pichai a également évoqué la façon dont la technologie de l’IA transforme la recherche sur Google. « Les réactions des utilisateurs ont été très positives jusqu’à présent », a-t-il déclaré. « L’IA permet de mieux répondre aux requêtes que les internautes nous adressent aujourd’hui, tout en ouvrant la voie à de nouveaux types de questions auxquelles la recherche peut répondre. Par exemple, nous avons constaté que l’IA générative peut aider les utilisateurs à faire le lien entre les différents points lorsqu’ils explorent un sujet ou un projet, en les aidant à prendre en compte plusieurs facteurs et leurs préférences personnelles avant de faire un achat ou de réserver un voyage. Nous considérons cette nouvelle expérience comme un autre point de départ pour l’exploration du web, permettant aux utilisateurs d’approfondir un sujet ».
Un nouvel accroc dans la détection de l’IA
Il y a quelques semaines, nous avons partagé un article qui expliquait comment un groupe de chercheurs de l’université de Stanford avait testé des « détecteurs » d’IA générative pour voir s’ils pouvaient faire la différence entre un texte écrit par une IA et un texte écrit par un être humain. Les détecteurs n’ont pas fait un bon travail. Les chercheurs ont noté que le logiciel est biaisé et facile à tromper.
C’est pourquoi les éducateurs et d’autres personnes ont été encouragés par l’annonce en janvier qu’Open AI, le créateur de ChatGPT, travaillait sur un outil permettant de détecter les contenus générés par l’IA. Il s’avère que ce projet était ambitieux, car OpenAI a « discrètement débranché » son outil de détection de l’IA, selon un rapport de Decrypt.
OpenAI a déclaré qu’à partir du 20 juillet, elle ne mettait plus AI Classifier à disposition en raison de son « faible taux de précision ». L’entreprise a fait part de cette nouvelle dans une note annexée au billet de blog qui annonçait l’outil pour la première fois, en ajoutant : « Nous travaillons à intégrer les commentaires et recherchons actuellement des techniques de provenance plus efficaces pour le texte, et nous nous sommes engagés à développer et déployer des mécanismes qui permettent aux utilisateurs de savoir si le contenu audio ou visuel est généré par l’IA. »
Le gouvernement américain poursuit ses discussions sur la réglementation de l’IA
Chuck Schumer, le chef de la majorité au Sénat, a continué à organiser des séances d’information sur les opportunités et les risques liés à l’IA. Il a déclaré cette semaine qu’il y avait un « réel intérêt bipartisan » à élaborer une législation sur l’IA qui « encourage l’innovation tout en prévoyant des garanties pour éviter les risques que l’IA pourrait présenter. »
Le Sénat prévoit de faire témoigner d’autres experts dans les mois à venir, selon Reuters qui note qu’en début de semaine, des sénateurs des deux camps ont exprimé leur inquiétude quant à l’utilisation de l’IA pour créer une « attaque biologique ».
L’intégralité des propos de Chuck Schumer est disponible ici.
L’intérêt d’Hollywood pour les talents de l’IA s’accroît alors que les grèves des acteurs et des scénaristes se poursuivent
Alors que les grèves des acteurs et des scénaristes se poursuivent, les sociétés de divertissement – peu intéressées par les relations publiques – ont publié des offres d’emploi pour des spécialistes de l’IA. De leur côté, les créateurs ont planté le piquet de grève, craignant que les studios « prennent leur image ou leur voix et les réutilisent à l’infini pour un salaire minime ou nul, et avec peu de préavis », selon The Hollywood Reporter.
« Presque tous les propriétaires de studios semblent penser à l’IA, que ce soit pour le contenu, le service à la clientèle, l’analyse de données ou d’autres utilisations », a déclaré The Hollywood Reporter, notant que Disney offre un salaire de base de 180 000 dollars avec des primes et d’autres compensations pour quelqu’un qui a « l’ambition de repousser les limites de ce que les outils d’IA peuvent créer et de comprendre la différence entre la voix des données et la voix d’un concepteur, d’un écrivain ou d’un artiste ».
Selon The Intercept, Netflix recherche un chef de produit IA à 900 000 dollars par an, tandis que The Hollywood Reporter rapporte qu’Amazon recherche un cadre supérieur pour Prime Video, avec un salaire de base pouvant aller jusqu’à 300 000 dollars. Cette personne « aidera à définir la prochaine grande avancée en matière de localisation du contenu, d’amélioration du contenu ou son accessibilité, en utilisant une technologie d’IA générative et de vision par ordinateur de pointe ».
Comme nous le savons tous, l’IA est là pour rester et les emplois seront affectés. Mais les questions concernant le comment, le quand et le pourquoi dépendront des décisions prises par les humains.
L’acteur Joseph-Gordon Levitt, qui a également créé la plateforme collaborative en ligne HitRecord et trouvé un moyen de rémunérer les créateurs pour leurs contributions, a écrit un article d’opinion intéressant pour rappeler à tous que les IA sont formées à quelque chose – et que ce quelque chose est généralement le travail d’autres personnes qui devraient être reconnues et rémunérées pour leurs contributions.
