Jalapeño : la puce d'OpenAI bat Nvidia Blackwell à Hot Chips

Hot Chips 2026 : OpenAI présente des chiffres qui bousculent Nvidia

Le 25 août 2026, lors de la conférence Hot Chips à Stanford — rendez-vous annuel des architectes de processeurs les plus influents de l'industrie — OpenAI a levé le voile sur les premières mesures publiques de Jalapeño, sa puce d'inférence sur mesure co-développée avec Broadcom. Le résultat a créé une onde de choc dans l'industrie des semiconducteurs : sur trois modèles de langage publics et à travers plusieurs métriques de performance, Jalapeño devance les GPU H200 et B200 (architecture Blackwell) de Nvidia, qui représentent aujourd'hui le standard de facto de l'inférence IA en datacenter.

Les chiffres présentés par OpenAI sont précis et méthodologiquement vérifiables. Pour établir une comparaison équitable, la société a utilisé l'InferenceX benchmark de SemiAnalysis, une suite de tests publique et reconnue qui mesure l'ensemble du pipeline de traitement des requêtes — ingestion des tokens d'entrée (prefill), génération des tokens de sortie (decode) et débit total — tout en quantifiant simultanément la consommation électrique. Trois modèles ont servi de banc d'essai représentatif : GPT-OSS 120B (la version open-source du modèle phare d'OpenAI), DeepSeek R1 670B (le modèle de raisonnement qui avait secoué les marchés début 2025) et Kimi K2.5 1T (le modèle de Moonshot AI à un trillion de paramètres, particulièrement exigeant en mémoire).

Sur la métrique d'efficacité énergétique — travail IA accompli par watt de puissance consommée — Jalapeño affiche 1,5 à 1,9 fois les performances des systèmes Nvidia Blackwell testés dans des conditions équivalentes. Pour les workloads interactifs, où la latence est critique (chatbot en temps réel, génération de code assistée, agents IA à faible temps de réponse), la puce d'OpenAI montre une latence 1,7 à 3,6 fois inférieure et un débit 2,1 à 4,1 fois plus élevé. Ces écarts ne sont pas marginaux — ils représentent une rupture de performance qui pourrait, à terme, modifier l'économie de l'inférence IA à l'échelle du datacenter.

Techniquement, Jalapeño est un ASIC (Application-Specific Integrated Circuit) optimisé exclusivement pour l'inférence, contrairement aux GPU Nvidia qui sont conçus pour être polyvalents — entraînement de modèles, simulation scientifique, rendu graphique, calcul haute performance. Cette spécialisation permet à OpenAI et Broadcom de concevoir chaque bloc de silicium autour des opérations les plus fréquentes en inférence : les multiplications matricielles de grande taille (GEMM), la gestion du cache KV (clés-valeurs du mécanisme d'attention des transformers) et le transfert mémoire haute bande passante vers la HBM (High Bandwidth Memory). En éliminant les transistors dédiés aux cas d'usage que l'inférence n'utilise jamais, Jalapeño gagne en densité de calcul utile et en efficacité thermique.

Le partenariat avec Broadcom n'est pas anodin. Broadcom est le leader mondial des ASIC de datacenter personnalisés (custom silicon), ayant conçu les TPU de Google, les MTIA de Meta et des puces pour plusieurs grands hyperscalers. Son expertise en packaging avancé (CoWoS, intégration HBM) et en interconnexion ultra-rapide (PCIe 6.0, UCIe) est directement embarquée dans l'architecture de Jalapeño. Ce choix positionne OpenAI dans la même stratégie que Google — qui a réduit sa dépendance à Nvidia grâce à des générations successives de TPU — ou Amazon avec ses puces Trainium et Inferentia.

OpenAI a tenu à nuancer le message commercial. Dans sa communication officielle, la société a explicitement déclaré qu'elle ne s'éloigne pas de Nvidia : répondre à la demande croissante d'IA nécessitera davantage de calcul provenant de toutes les sources disponibles, et OpenAI continuera à déployer largement des accélérateurs Nvidia et d'autres partenaires pour les workloads d'entraînement et d'inférence. Cette posture est cohérente avec la réalité industrielle : les GPU Nvidia restent indispensables pour l'entraînement des grands modèles, où leur flexibilité et leur écosystème logiciel (CUDA, cuDNN, NCCL) n'ont pas d'équivalent crédible à court terme.

Le calendrier de déploiement est prudent et progressif. OpenAI prévoit de commencer à utiliser Jalapeño en très petits volumes avant la fin de 2026, avec une montée en puissance significative planifiée pour 2027. Cette progression graduelle permettra de valider la fiabilité en conditions réelles de production, de construire la chaîne d'approvisionnement — notamment pour les tranches de silicium auprès de TSMC, fondeur quasi-certain — et de porter les frameworks de déploiement clés sur cette nouvelle architecture. La codification de l'infrastructure logicielle autour d'un nouvel ASIC représente un investissement considérable en ingénierie système.

L'impact boursier a été immédiat mais limité : le titre Nvidia a temporairement reculé de 3,2 % dans les heures suivant l'annonce, avant de se stabiliser. Plusieurs analystes ont qualifié Jalapeño de signal sur les marges d'inférence de Nvidia, tout en soulignant que l'hégémonie de l'entreprise de Santa Clara dans l'entraînement reste intacte à moyen terme. La présentation intervient par ailleurs à quelques jours des résultats trimestriels de Nvidia, ajoutant une pression symbolique dans un contexte où les investisseurs scrutent attentivement les signaux de concurrence sur le marché de l'accélération IA.

La course au silicium personnalisé recompose le marché IA

L'émergence de Jalapeño s'inscrit dans une tendance structurelle qui voit les grands consommateurs d'IA — hyperscalers, laboratoires de recherche, opérateurs télécom — investir massivement dans leurs propres puces pour s'affranchir partiellement de la dépendance à Nvidia. Cette stratégie, appelée custom silicon ou ASIC de datacenter, procure trois avantages décisifs : une efficacité énergétique supérieure pour les workloads spécifiques, une réduction du coût par token généré, et une indépendance stratégique vis-à-vis d'un fournisseur unique dont les carnets de commandes saturés entraînent des délais de livraison de 6 à 18 mois.

Google a ouvert la voie avec ses TPU (Tensor Processing Units) dès 2016. La sixième génération de TPU (Trillium), lancée en 2024, alimente aujourd'hui une part significative des workloads Gemini. Amazon a suivi avec Trainium (entraînement) et Inferentia (inférence), utilisés pour ses propres modèles Titan et proposés aux clients AWS via Amazon Bedrock. Meta développe le MTIA (Meta Training and Inference Accelerator). Microsoft investit dans des puces Maia pour Azure. La liste continue de s'allonger — et la présentation de Jalapeño à Hot Chips 2026 marque l'entrée d'OpenAI dans ce club restreint.

Pour les entreprises clientes qui déploient des agents IA ou des copilots en production, cette évolution est à double tranchant. D'un côté, la concurrence accrue entre fournisseurs de silicium devrait faire baisser les coûts d'inférence à moyen terme — une bonne nouvelle pour les DSI qui cherchent à justifier les budgets IA face à leurs directions financières. De l'autre, la fragmentation de l'écosystème silicium complique les décisions d'infrastructure : les frameworks de déploiement (vLLM, TensorRT-LLM, TGI) doivent être portés sur chaque nouvelle architecture, et les équipes MLOps doivent maîtriser des outils différents selon les clouds. La promesse d'une abstraction unifiée reste pour l'instant partielle.

Pour Nvidia, la situation reste favorable à court terme. L'entreprise contrôle environ 80 % du marché de l'accélération IA datacenter, et son avance dans l'entraînement des grands modèles garantit des revenus solides pour les deux à trois prochaines années. Mais la présentation de Jalapeño confirme que le segment de l'inférence — en forte croissance avec la multiplication des agents IA et des applications génératives en production — est en train de devenir contesté. L'enjeu financier est considérable : selon les estimations de SemiAnalysis, l'inférence devrait représenter plus de 60 % des dépenses en accélérateurs IA d'ici fin 2027. C'est précisément ce segment que ciblent Jalapeño, les TPU de Google et les puces Inferentia d'Amazon.

Ce qu'il faut retenir

• Jalapeño, la puce d'inférence personnalisée d'OpenAI co-développée avec Broadcom, surpasse les GPU Nvidia Blackwell avec 1,5 à 1,9 fois plus d'efficacité énergétique et jusqu'à 4 fois moins de latence selon les premiers benchmarks publics présentés à Hot Chips le 25 août 2026.
• Le déploiement débutera en petits volumes fin 2026, sans remplacer les achats Nvidia qui restent nécessaires pour l'entraînement des modèles.
• Cette évolution s'inscrit dans une recomposition du marché IA où Google, Amazon, Meta et OpenAI développent leur propre silicium pour réduire les coûts d'inférence et leur dépendance stratégique à un fournisseur unique.