Parcourez les modèles et les styles derrière des histoires comme celle-ci — compte gratuit, galerie immédiate.
OpenAI et Broadcom ont conjointement dévoilé Jalapeño, le premier silicium personnalisé d'OpenAI — un ASIC conçu spécifiquement pour l'inférence IA — marquant la première véritable tentative de l'entreprise de s'affranchir de sa dépendance aux GPU Nvidia pour servir ses modèles.
La plupart des actualités sur les puces dans l'IA portent sur l'entraînement — ces immenses clusters de GPU qui enseignent à un modèle ses poids. L'inférence, c'est l'autre moitié : chaque fois que vous envoyez une invite et obtenez une réponse, c'est de l'inférence. C'est aussi la partie de l'infrastructure qui fonctionne en continu, à très grande échelle, et qui détermine directement combien il coûte à OpenAI de répondre à une requête.
Jalapeño est un ASIC, ce qui signifie que chaque transistor est optimisé pour une seule chose. Contrairement à un Nvidia H100 — un accélérateur flexible à usage général capable d'entraîner des modèles, d'exécuter des simulations ou de faire du rendu graphique — un ASIC échange la flexibilité contre l'efficacité. Les TPU de Google et les puces Inferentia d'Amazon suivent la même logique. Pour l'inférence en particulier, ce compromis est généralement gagnant : consommation électrique réduite, coût par token plus faible, et souvent une latence moindre.
Pour les créateurs qui utilisent l'API d'OpenAI ou GPT-4o via ChatGPT, l'effet pratique en amont est simple : une inférence moins coûteuse pour OpenAI devrait à terme se traduire par des limites de débit plus généreuses, des tarifs API plus bas ou des temps de réponse plus rapides — même si aucun de ces résultats n'est garanti ni assorti d'un calendrier annoncé.
Broadcom est l'un des principaux partenaires de fonderie pour les ASIC IA personnalisés — il fabrique déjà la gamme TPU de Google. Son implication dans le projet Jalapeño d'OpenAI suggère que la puce est un composant silicium sérieux, de qualité production, plutôt qu'un prototype de recherche. Selon les reportages de The Verge et TechCrunch, la puce est explicitement destinée au déploiement dans l'infrastructure d'inférence d'OpenAI, et pas seulement à des tests en laboratoire.
Le nom Jalapeño tranche avec la nomenclature alphannumérique austère de la plupart des siliciums pour centres de données — c'est soit un signal de marque, soit simplement un nom de code interne qui a persisté ; OpenAI n'a pas précisé.
OpenAI a dépensé des milliards en GPU Nvidia et reste l'un des plus grands clients de l'entreprise. Jalapeño ne change pas cela du jour au lendemain. L'entraînement des modèles frontier nécessite toujours le matériel le plus récent de Nvidia — les clusters H100 et B200 qu'OpenAI, Microsoft Azure et d'autres se sont empressés d'acquérir. Ce que Jalapeño peut faire, c'est réduire le nombre de puces Nvidia dont OpenAI a besoin pour gérer la charge d'inférence qui augmente avec chaque nouvel utilisateur.
Comme le rapporte Ars Technica, la puce s'inscrit dans la stratégie plus large d'OpenAI pour faire face à une demande en forte hausse — un problème qui a provoqué des limitations de débit et des ralentissements visibles pour les utilisateurs de l'API lors des périodes de pointe. Un ASIC d'inférence dédié fonctionnant en parallèle avec des clusters GPU est le schéma classique : Google a mené cette transition sur plusieurs générations de TPU avant que ses coûts d'inférence ne baissent de manière significative.
Rien ne change aujourd'hui. Jalapeño est annoncé, mais pas encore déployé à grande échelle. Cependant, la trajectoire importe pour quiconque construit des pipelines de génération d'images, des flux de travail d'invites ou des outils de personnages sur l'API d'OpenAI. Si OpenAI peut servir l'inférence à moindre coût sur son propre silicium, la courbe des coûts pour GPT-4o et les modèles futurs s'infléchit à la baisse — et c'est le coût d'entrée pour chaque outil de l'écosystème qui appelle les points de terminaison d'OpenAI.
Les créateurs qui comparent déjà les coûts des modèles entre fournisseurs avant de s'engager dans un flux de travail devraient surveiller si les tarifs de l'API d'OpenAI évoluent au cours des deux à trois prochains trimestres. C'est la fenêtre réaliste pour qu'un ASIC nouvellement annoncé atteigne une échelle de déploiement significative. En attendant, l'annonce confirme qu'OpenAI considère la capacité d'inférence — et pas seulement la performance des modèles — comme une variable concurrentielle essentielle pour la suite, quelle qu'elle soit, après GPT-4o.
