Hier, Google a consacré près de trois quart du temps de sa keynote d’ouverture de Google I/O à l’intelligence artificielle (IA). La firme de Mountain View a notamment présenté PaLM 2, une mise à jour majeure de son système de traitement du langage le plus puissant. Cette technologie d’intelligence artificielle est déjà intégrée dans 25 produits Google, ce qui souligne son importance à l’heure où l’entreprise s’efforce de tirer parti de cette révolution en marche.
« PaLM 2 est un modèle linguistique de pointe. Il est bon en mathématiques, en codage, en raisonnement, en traduction multilingue et en génération de langage naturel », a déclaré Zoubin Ghahramani, vice-président de la division DeepMind de Google, qui supervise les travaux de l’entreprise en matière d’IA.
PaLM 2 est notamment utilisé par le chatbot Bard, Gmail, Google Docs, Google Sheets et YouTube. Cela signifie que la plateforme s’exécutera principalement dans les datacenters de Google. Mais le modèle de langage peut être suffisamment réduit pour fonctionner sur un smartphone.
L’IA est utilisée depuis des années, principalement en coulisses pour des tâches telles que le filtrage des spams, l’amélioration des fonctions photo ou encore la traduction des commandes vocales en actions. Google a été le pionnier d’une grande partie de cette technologie. Mais un nouveau chapitre vient de s’ouvrir avec les IA génératives.
PaLM 2 est amené à être dépassé. Sundar Pichai, patron d’Alphabet, a révélé que Google travaille déjà sur son successeur appelé Gemini, fruit de la combinaison des équipes DeepMind et Brain de Google. Gemini a été pensé pour être multimodal, ce qui signifie qu’il peut traiter du texte et des photos pour être « très efficace ».
Même si Google a joué un rôle déterminant dans bon nombre des développements en matière d’IA, c’est ChatGPT d’OpenAI qui suscite l’engouement du grand public depuis quelques mois. Lors de sa keynote, Google a tenu à souligner que ses travaux en matière d’IA sont prêts pour le grand public et qu’il ne s’agit pas seulement de services expérimentaux.
Comme OpenAI et d’autres grands partisans de l’IA, Google assure qu’il adopte l’IA avec prudence, en mettant en place des mécanismes pour éviter les abus et en gardant un œil attentif sur la technologie. Mais toutes les IA ne sont pas encadrées de la sorte, et les risques à court terme de désinformation, falsification, tricherie, attaques automatisées et la destruction des emplois humains sont bien réels.
Geoffrey Hinton, l’un des pères de l’IA moderne, a démissionné de Google en mai afin de pouvoir exprimer librement ses inquiétudes à ce sujet. « Il est difficile de voir comment on peut empêcher les acteurs malveillants de l’utiliser (l’IA, ndlr) pour faire de mauvaises choses », a-t-il déclaré au New York Times.
Google insiste sur le fait qu’il est tout à fait conscient des problèmes et des avantages de l’IA. « Nous avons adopté une approche audacieuse et responsable pour déployer un grand nombre de ces technologies basées sur l’IA », a déclaré Zoubin Ghahramani. « Nous essayons de les mettre entre les mains des usagers d’une manière qui soit utile et qui minimise les risques pour les utilisateurs. »
PaLM 2 fonctionne sur un smartphone
À l’instar du LLaMA de Meta, PaLM 2 se décline en plusieurs versions, une approche qui offre plus d’intelligence dans certaines circonstances et des performances plus rapides dans d’autres, a expliqué Zoubin Ghahramani. Ainsi, une version réduite au maximum de PaLM 2 appelée Gecko peut tourner sur des smartphones.
Sur les derniers modèles de smartphones, PaLM 2 peut traiter 20 tokens par seconde. Les tokens sont des mots, des fragments de mots, des nombres ou d’autres éléments de base que les modèles de langage ingèrent lorsqu’ils sont entraînés à reconnaître des schémas dans de vastes étendues de texte sur Internet.
Les capacités de raisonnement de PaLM 2
Le nouveau modèle est plus performant en matière de raisonnement et de recours au bon sens, un problème majeur pour les modèles de langage qui produisent souvent des réponses plausibles mais pas forcément justes. Selon Zoubin Ghahramani, l’une des raisons de cette amélioration est l’augmentation massive des données d’entraînement mathématiques et scientifiques.
Cependant, il reconnaît qu’il est difficile de dire si PaLM 2 est réellement un outil de raisonnement, un point essentiel dans l’évolution à long terme de l’IA vers ce que l’on appelle l’intelligence générale artificielle (AGI). Google entraîne ses grands modèles de langage à partir d’un grand nombre de textes reflétant les interactions humaines, a-t-il expliqué, et ces données façonnent l’IA. « On peut se demander s’il s’agit d’un véritable raisonnement ou d’une simple imitation du raisonnement humain, mais ce qu’il faut retenir, c’est l’utilité pour l’utilisateur », estime l’expert.
PaLM 2 formé à davantage de langues
Google a entraîné PaLM 2 sur des documents web, des livres, du code de programmation, des mathématiques et des données « conversationnelles », en supprimant les informations d’identification personnelle. Par ailleurs, l’entreprise dit avoir augmenté la proportion de données d’entraînement autres qu’en anglais. Ainsi, PaLM 2 travaille avec des données dans plus de 100 langues pour une meilleure compréhension des nuances et des idiomes.
L’IA comprend également mieux les codes de programmation, notamment les anciens langages comme le Fortran. La programmation est l’un des principaux usages des grands modèles linguistiques. « Si vous cherchez de l’aide pour corriger un morceau de code, PaLM 2 peut non seulement corriger ce code, mais aussi fournir la documentation dont vous avez besoin, dans n’importe quelle langue », souligne Zoubin Ghahramani.
Adapter PaLM 2 à différentes tâches
PaLM 2 est plus flexible que son prédécesseur. Par exemple, Med-PaLM 2 a été conçu pour des applications médicales telles que l’examen d’une radiographie et la rédaction d’un compte rendu de mammographie. Google permettra à ses partenaires de tester cette technologie cet été. Zoubin Ghahramani affirme que « Med-PaLM 2 a été le premier grand modèle de langage à obtenir un niveau expert lors de l’examen d’aptitude médicale aux États-Unis ».
Une autre variante, Sec-PaLM, a été entraînée à analyser les logiciels potentiellement malveillants. Elle sera intégrée aux services Google Cloud.
Une IA plus efficace
L’IA consomme des quantités astronomiques d’énergie. L’entraînement de modèles d’IA avancés nécessite des centres de données remplis de puces telles que les H100 de Nvidia ou les Tensor Processing Units de Google. Certaines formes d’IA peuvent fonctionner sur du matériel de moindre qualité, mais les modèles de langage et l’IA générative actuels exigent des machines haut de gamme voraces en énergie.
Zoubin Ghahramani assure que PaLM 2 est également meilleur dans ce domaine. Une efficacité essentielle dans la mesure où Google s’efforce d’utiliser des énergies renouvelables 24 heures sur 24 et s’appuiera de plus en plus sur l’IA dans les années à venir.
A lire aussi
Article de CNET.com adapté par CNETFrance
Image Une : Google
Source link
