OpenAI dévoile « Jalapeño », sa première puce IA : une avancée majeure pour accélérer les LLMs

Comme toute puce custom qui se respecte, « Jalapeño » a été conçue à partir de zéro par les ingénieurs d’Open AI, avec le soutien de ceux de Broadcom mais aussi de Celestica, le tout en une période de neuf mois seulement, en comptant de la phase de conception initiale jusqu’à la sortie de la version finale de cette nouvelle puce, destinée à la fabrication.

Cette puce est conçue pour être le premier accélérateur d’IA d’OpenAI au sein d’une plateforme de calcul multigénérationnelle, rapporte WCCFTech. Une plateforme que les trois entreprises développent conjointement avec l’objectif revendiqué de rendre l’IA plus rapide, plus fiable mais aussi plus accessible. Ce processeur représente donc une fenêtre ouverte sur l’avenir d’Open AI et sur sa vision pour l’avenir de l’inférence LLM.

Open AI promet que sa puce s’appuiera sur un écosystème solide développé par ses deux partenaires. Il est notamment question de les laisser gérer l’industrialisation de la plateforme, l’intégration de puces « Jalapeño » à des rack, leur mise en réseau, ainsi que la mise en place de systèmes de production évolutifs.