Le créateur de ChatGPT,
OpenAI, n’a pas encore commencé à travailler sur GPT-5 et n’a pas l’intention de
le faire dans l’immédiat. C’est ce qu’a déclaré le PDG de
l’entreprise Sam Altman lors d’une conférence vidéo. Il a fait référence à
la lettre ouverte signée par
Elon Musk, le cofondateur d’Apple Steve Wozniak et d’autres personnalités pour
appeler à un moratoire sur le développement des IA génératives. «
Une version antérieure de la lettre affirmait qu’OpenAI développait
GPT-5. Ce n’est pas le cas et nous ne le ferons pas avant un certain
temps
», a tenu à préciser Sam Altam.
La lettre ouverte réclamait une pause d’au moins six mois dans le
développement de l’intelligence artificielle en raison de « risques profonds » pour la société. Sam Altman s’est dit d’accord
avec certaines parties de la lettre et a ajouté qu’OpenAI «
a passé plus de six mois après avoir terminé l’entraînement de
GPT-4
avant de le publier
».
OpenAI prône la prudence
«
Je pense qu’il est très important d’agir avec prudence et d’accroître
la rigueur pour les questions de sécurité.
Mais nous faisons d’autres choses en plus du GPT-4 qui, selon moi,
posent toutes sortes de problèmes de sécurité qu’il est important
d’aborder et qui ont été totalement oubliées dans la lettre
», a-t-il ajouté, sans toutefois s’étendre sur ce point.
La lettre ouverte, publiée par l’organisation à but non lucratif Future of
Life Institute, fait état de préoccupations concernant les effets imprévus
de l’intelligence artificielle. «
Les systèmes d’IA dotés d’une intelligence compétitive avec celle des
humains peuvent présenter des risques profonds pour la société et
l’humanité, comme le montrent des recherches approfondies et comme le
reconnaissent les principaux laboratoires d’IA
», peut-on lire. «
Devrions-nous laisser les machines inonder nos canaux d’information de
propagande et de mensonges ? Devrions-nous automatiser tous les
emplois, y compris ceux qui sont gratifiants ? Devons-nous prendre le
risque de perdre le contrôle de notre civilisation ?
»
Cette lettre fait suite à la présentation publique, à la mi-mars, de
GPT-4. Selon OpenAI, GPT-4 présente moins de défauts, produit des résultats plus
équilibrés et gère des tâches plus complexes que les versions précédentes.
«
À un moment donné, il peut être important d’obtenir une évaluation
indépendante avant de commencer à former les futurs systèmes
», déclare OpenAI sur son propre site web.
Article de CNET.com adapté par CNETFrance
Image : Stephen Shankland/CNET
Source link
