Dans le secteur de la technologie, chaque invention s’appuie sur les succès et les échecs qui l’ont précédée.
Début août, la start-up d’IA Cerebras Systems a été récompensée pour avoir perpétué cette tradition lors d’une cérémonie au Computer History Museum de Mountain View, en Californie.
Le musée a installé une exposition présentant le « Wafer-Scale Engine 2 », ou WSE-2, la deuxième version de la puce d’IA de la société, qui est la plus grande puce informatique jamais fabriquée. Cette puce a été introduite l’année dernière pour faire fonctionner les nouvelles versions du superordinateur de Cerebras, le CS-2.
Etre humain dans un monde d’informatique
« C’est l’honneur d’une vie d’être intronisé dans la collection de renommée mondiale du Computer History Museum », a déclaré Andrew Feldman, cofondateur et PDG de Cerebras, dans une interview accordée à ZDNet.
« L’ampleur de ce que vous avez fait est très puissante », souligne Dan’l Lewin, PDG du Computer History Museum, dans la même interview. « C’est une étape importante dans un voyage vers l’avant », ajoute-t-il, car « les implications sont stupéfiantes ».
L’arrivée de Cerebras est importante, note Dan’l Lewin, non seulement pour ses réalisations techniques, mais aussi pour ses implications pour les humains, un aspect sur lequel il met l’accent dans sa gestion du musée. « La question que je pose est la suivante : qu’est-ce que cela signifie d’être humain dans un monde qui n’existe pas sans l’informatique ? »
La technologie peut aider ou aggraver les choses
Selon Dan’l Lewin, l’humanité est à un tournant où la technologie informatique peut soit aider à résoudre de grands problèmes, comme le dérèglement climatique, soit conduire à une forme d’asservissement.
« L’objectif global, d’après l’expérience que j’ai accumulée dans ce secteur – si vous revenez à Douglas Engelbart [l’inventeur de la souris informatique] et à la justification de la « mère de toutes les démos » – eh bien, l’espèce humaine a créé des problèmes qui ont un impact exponentiel sur elle-même. Nous avons effectivement un tas de problèmes réels à l’échelle mondiale », souligne le PDG.
« Le fait de pouvoir optimiser le calcul de cette manière », indique-t-il à propos de la puce de Cerebras, « nous enseignera, espérons-le, qu’il existe plus d’utilisations positives potentielles de ces technologies que les choses malheureuses qui se sont produites à la suite de certains modèles commerciaux qui ont fait surface et qui, en fait, programment la population sans qu’elle en soit vraiment consciente ».
Une étape décisive
La puce WSE-2 et son prédécesseur, introduit il y a trois ans, marquent une étape décisive dans l’histoire de la fabrication de transistors, l’élément constitutif de toute l’électronique, sous forme de pièce intégrée. Les premiers circuits intégrés « planaires », des transistors fabriqués ensemble comme un seul objet manufacturé, une percée réalisée simultanément au début des années 1960 par Jack Kilby, ingénieur de Texas Instruments, et Bob Noyce, fondateur d’Intel, ne combinaient qu’une poignée de transistors.
Puis, en 1965, un autre fondateur d’Intel, Gordon Moore, a émis l’hypothèse que des méthodes de fabrication perfectionnées conduiraient à une augmentation exponentielle du nombre de transistors intégrés sur une seule puce de silicium. Son hypothèse s’est avérée juste, et elle est devenue connue sous le nom de « loi de Moore ». Le phénomène de croissance des transistors a rendu possible l’ère numérique, des mini-ordinateurs aux ordinateurs personnels, en passant par les smartphones, les réseaux de données, l’électronique embarquée dans les véhicules et l’internet des objets (IoT).
La puce WSE-2 utilise 2,6 trillions de transistors, soit près de 50 fois plus que la plus grande puce GPU actuelle de Nvidia, dans un substrat de silicium de 46 millimètres carrés, soit la quasi-totalité d’une tranche de semi-conducteurs de 12 pouces dans laquelle sont généralement découpées de nombreuses puces.
La puce contient 850 000 cœurs individuels pour traiter les instructions d’intelligence artificielle en parallèle.
De l’échec au succès
La technologie WSE a concrétisé une quête qui durait depuis des décennies dans le monde des puces, à savoir la fabrication d’une puce unique qui utiliserait une tranche entière.
Le succès de Cerebras est en partie dû au fait qu’elle est revenue sur ses échecs passés pour trouver une nouvelle façon d’aborder le problème. « Cela signifie beaucoup pour nous que cette institution ait reconnu l’ampleur de l’effort qui a échoué et brûlé dans d’autres incarnations », fait valoir Andrew Feldman de Cerebras, « même par certains des pères fondateurs de notre industrie – même Gene Amdahl n’a pas réussi à le faire fonctionner ».
Gene Amdahl, le pionnier des ordinateurs centraux, avait essayé et échoué à la fin des années 1980 à fabriquer une telle pièce monolithique. L’impression très générale qui s’était dégagée de sa tentative dans l’industrie des puces était que la fabrication d’une puce unique de la taille d’une tranche était si difficile qu’elle était pratiquement impossible.
« Lorsque nous sommes revenus en arrière et que nous avons réexaminé la situation, c’est en partie grâce à la discipline qui nous a permis de ne pas nous fier aux idées reçues selon lesquelles c’était impossible, et d’examiner en fait ce qui n’avait pas pu être fait et à quel moment, ainsi que les progrès réalisés », explique Andrew Feldman à propos de l’approche de Cerebras.
Source d’inspiration
Les progrès réalisés depuis lors dans les processus de fabrication du silicium et les outils logiciels de conception de puces ont rendu la tentative à l’échelle de la tranche plus réalisable lorsque Cerebras s’est attaqué au problème 30 ans plus tard. « Le nombre d’éléments que nous utilisons et que d’autres ont inventés pour faire un grand pas en avant est énorme », indique le PDG de Cerebras.
Quant aux implications, Andrew Feldman, entrepreneur en série dans les domaines des réseaux et de l’informatique, est également conscient que les ramifications de leurs réalisations échappent souvent aux inventeurs et aux entrepreneurs. « Au début de ma carrière, nous avons construit les premiers commutateurs et routeurs qui ont rendu la commutation IP à peu près gratuite, et nous tous – Cisco, et Juniper et 3Com – nous n’avons jamais pensé une seule fois que quelque chose comme WhatsApp changerait le monde », faisant référence à l’application de messagerie gratuite de Meta.
« Nous savions que de bonnes choses se produiraient en rendant la communication presque gratuite », raconte-t-il. « Lorsque vous vous engagez sur cette trajectoire, toutes sortes d’autres choses se mettent en place et se construisent au-dessus de vous, et d’autres font des choses que vous ne pouviez pas imaginer. »
La naissance d’applications horizontales
Selon Dan’l Lewin, la percée de Cerebras a, dans un sens, pour but d’élargir l’accès aux outils numériques qui étaient auparavant le domaine captif des spécialistes.
« Les industries passent par des transitions de la verticale à l’horizontale », considère-t-il. « Il y avait autrefois d’énormes industries très verticales qui visaient à automatiser des tâches rationnelles, comme l’industrie du traitement de texte, et la CAO/FAO en tant qu’industrie », ajoute-t-il, en référence à la conception assistée par ordinateur. Les progrès des microprocesseurs ont donné naissance à des applications horizontales telles que Microsoft Office, qui ont rendu ces industries auparavant verticales « accessibles à un très grand nombre de personnes ».
Le prix du musée est un regard sur l’avenir autant qu’une rumination sur le passé, soutient Dan’l Lewin. « L’histoire ne concerne pas le passé, elle concerne le présent qui a une conversation avec le passé », estime ce dernier, qui cite en exemple la dialectique créative entre le matériel et le logiciel.
Une technologie « révolutionnaire », selon Andrew Feldman
Il y a quelques années, lors d’une cérémonie de remise de prix, le pionnier de la programmation Grady Booch a été honoré pour ses nombreuses inventions, et notamment le langage de modélisation unifié. « C’est du logiciel, du logiciel, du logiciel », avait alors déclaré Grady Booch à l’assistance, se souvient Dan’l Lewin. Gordon Moore s’était alors levé, avant de dire : « Les logiciels sont intéressants, mais ils doivent fonctionner sur quelque chose », rappelle le PDG. « Et donc, cette poignée de main et cette opportunité accélérée, en prenant cette immense capacité et en l’optimisant de cette manière, aidera à conduire ces changements, ces passages de l’horizontal au vertical – ils sont comprimés dans le temps. »
Selon Andrew Feldman, la technologie WSE-2, qui constitue une étape importante de ce voyage, devrait être bonne pour un certain temps : « Je pense que c’est ce que nous avons de mieux jusqu’à l’arrivée de l’informatique quantique, et je suis convaincu que cela prendra un certain temps. »
Tout comme le fait de recevoir un prix pour l’ensemble de sa carrière, l’honneur de figurer dans un musée pourrait presque ressembler à une ligne d’arrivée. Or, Andrew Feldman se dit convaincu que la reconnaissance du musée marque un commencement, et non une fin : « Les musées sont souvent des entrepôts du passé », observe Andrew Feldman. « Nous sommes en train de construire une grande entreprise sur la base d’une technologie révolutionnaire, et nous ne l’oublions pas : les deux sont difficiles. »
Source : ZDNet.com
