La puce Jalapeño bat les serveurs Nvidia sur l’énergie

La puce Jalapeño fait basculer une balance géante face à trois racks de serveurs

OpenAI a publié les premiers résultats de mesure de la puce Jalapeño, le processeur d’inférence qu’elle développe avec Broadcom. Sur le banc InferenceX de SemiAnalysis, elle délivre jusqu’à 1,9 fois plus de travail par kilowatt que les racks Nvidia GB200 et GB300, avec une latence bout en bout jusqu’à 3,6 fois inférieure. Le déploiement, lui, restera symbolique jusqu’en 2027.

Pour résumer

  • Jalapeño tire 700 watts, face à des racks Nvidia annoncés à 1 200 et 1 400 watts.
  • Le gain va de 1,5 à 1,9 fois sur le débit par kilowatt, et grimpe à 4,1 fois sur les charges interactives.
  • OpenAI annonce de très petits volumes fin 2026, avec une montée en charge attendue en 2027.

Faire résumer cet article par une IA

ChatGPT

Le détail des mesures publiées à Hot Chips

La puce était connue depuis octobre 2025, quand OpenAI avait annoncé travailler avec Broadcom sur un silicium taillé pour ses propres charges. Ce qui manquait, c’étaient les chiffres. Ils sont tombés mardi, à la conférence Hot Chips, et ils ne portent pas sur l’entraînement mais uniquement sur l’inférence, la phase où le modèle répond à un utilisateur.

Le banc retenu est InferenceX, une suite publiée par le cabinet d’analyse SemiAnalysis. Sa particularité est de mesurer la chaîne complète de service d’une requête plutôt que la puissance de calcul brute, ce qui rapproche le résultat de ce qu’un utilisateur ressent réellement.

Trois modèles à poids ouverts ont servi de charge de travail. GPT-OSS 120B, DeepSeek R1 670B et Kimi K2.5 1T couvrent trois tailles très différentes, ce qui évite de faire reposer un verdict sur un seul profil de mémoire.

Le résultat tient en deux séries. La puce Jalapeño délivre 1,5 à 1,9 fois plus de débit par kilowatt que les racks Nvidia GB200 et GB300, et retourne les réponses avec une latence bout en bout 1,7 à 3,6 fois plus basse, comme le détaille la publication officielle d’OpenAI sur les premiers résultats de la puce.

L’écart d’enveloppe électrique donne la mesure de l’exercice. La pièce testée est annoncée à 700 watts, en face d’accélérateurs notés 1 200 et 1 400 watts. Sur les charges interactives, celles où l’utilisateur attend devant son écran, l’avantage revendiqué monte à 4,1 fois.

Richard Ho, qui dirige le matériel chez OpenAI, résume l’objectif sans détour. La puce sert plus de travail IA par unité d’énergie consommée, et elle rend la réponse plus vite. Les deux propriétés sont rarement obtenues ensemble, puisque l’une se paie en général par l’autre.

Un détail de la fabrication mérite d’être noté. OpenAI indique que ses propres modèles ont participé à la conception de la puce, boucle que l’entreprise met en avant depuis un an et qui reste difficile à quantifier de l’extérieur. Elle présente la puce Jalapeño non comme un composant isolé mais comme la première pierre d’une plateforme censée aligner produits, modèles, silicium et mémoire sur plusieurs générations.

Le choix d’architecture explique une partie du gain. La puce Jalapeño limite les déplacements de données, garde l’état du modèle et le cache d’attention en local, et ajuste la combinaison calcul, mémoire et réseau selon la phase d’inférence en cours. La phase de préremplissage et les échanges entre puces sont les deux endroits où le temps se perd, et ce sont eux qui ont été visés.


puce Jalapeño

Un gain qui n’entrera pas dans les budgets 2026

Le calendrier tempère immédiatement l’annonce. OpenAI parle de très petits volumes d’ici la fin de l’année, et d’un déploiement réellement significatif en 2027. Aucune équipe ne peut donc bâtir un plan de capacité sur cette puce cette année.

Le contexte, lui, rend le sujet urgent. La consommation d’inférence a changé d’échelle en quelques mois, au point que les agents consomment désormais plus de jetons que les humains sur les plateformes de routage. Un parc qui répond à des agents tourne en continu, alors qu’un parc qui répond à des humains respire la nuit.

C’est cette bascule qui donne son sens au chiffre du watt. Quand la charge devient permanente, l’énergie cesse d’être une ligne de coût parmi d’autres et devient la limite physique du service. Une puce qui rend deux fois plus de travail pour la même électricité repousse cette limite sans construire un bâtiment de plus.

Or les bâtiments, OpenAI en construit quand même. L’entreprise vient de boucler un financement de 105 milliards de dollars pour son datacenter de l’Ohio, ce qui montre que la puce maison n’est pas pensée comme une alternative à l’immobilier mais comme un moyen d’en tirer davantage.

La contrainte se lit aussi dans les arbitrages internes. L’entreprise a récemment gelé son plus gros entraînement en cours, décision qui rappelle que la capacité disponible se partage entre ce qui apprend et ce qui répond. Chaque watt rendu à l’inférence est un watt qui n’est pas arbitré contre la recherche.

Une réserve s’impose malgré tout. Le banc est public, mais l’exécution des tests et la publication des résultats viennent du fabricant lui même. Tant qu’un tiers n’a pas rejoué la mesure sur son propre parc, les ratios annoncés restent une revendication documentée, pas une vérification indépendante.

Reste à savoir ce que fera OpenAI de l’économie réalisée. Elle peut la garder pour absorber la croissance de ses agents, ou la répercuter sur ses tarifs pour serrer les laboratoires qui louent leur capacité. Le premier choix protège les marges, le second attaque le marché, et rien dans la publication de mardi ne tranche entre les deux.


D’autres articles sur Horizon


Nvidia perd un argument, pas encore un client

La position de Nvidia ne se joue pas uniquement sur le rendement énergétique. L’entreprise vend un environnement logiciel que des milliers d’équipes maîtrisent déjà, et cet actif ne se réplique pas en une génération de silicium. Jalapeño ne sera d’ailleurs pas vendue à des tiers, ce qui la sort du marché où Nvidia se bat.

Ce qui change, en revanche, c’est le discours. Jusqu’ici, la réponse standard aux puces maison consistait à pointer leur retard de performance. Le chiffre du kilowatt retire cet argument sur le segment précis de l’inférence, celui qui pèse le plus lourd dans la facture d’exploitation d’un service grand public.

Le vrai gagnant intermédiaire s’appelle Broadcom. Chaque laboratoire qui veut réduire sa dépendance à un fournisseur unique passe par un partenaire capable de concevoir et d’industrialiser un accélérateur sur mesure, et cette compétence se compte sur les doigts d’une main.

Pour les autres laboratoires, la pression est double. Ceux qui achètent leur capacité au prix du marché affrontent un concurrent dont le coût marginal par requête va baisser, et ceux qui préparent leur propre silicium doivent maintenant publier des mesures comparables ou passer pour des suiveurs.

Le prochain signal à surveiller est simple. Si les premières unités entrent en service fin 2026 sur des charges réelles, et si la grille tarifaire d’OpenAI bouge dans la foulée, alors la puce aura fait son travail. Si le calendrier glisse d’un trimestre, la démonstration restera un très bon papier de conférence.

Affaire à suivre sur Horizon.

Comments

No comments yet. Why don’t you start the discussion?

    Laisser un commentaire

    Votre adresse e-mail ne sera pas publiée. Les champs obligatoires sont indiqués avec *