DiffusionGemma génère du texte quatre fois plus vite

Google a publié DiffusionGemma, un modèle qui abandonne la génération mot après mot pour produire des blocs de 256 tokens d’un seul coup. Le gain de vitesse est réel, la baisse de qualité aussi, et le groupe l’écrit lui-même dans sa documentation.

Pour résumer

• DiffusionGemma compte 26 milliards de paramètres dont 4 actifs, et se distribue sous licence Apache 2.0.
• La version quantifiée tient dans 18 Go de mémoire vidéo sur une carte grand public.
• Google le classe sous Gemma 4 sur les tests de connaissances et de code, et recommande l’ancien pour la production.

Écrire 256 tokens d’un coup au lieu d’un par un

Un modèle de langage classique produit son texte de gauche à droite, un token après l’autre, chaque nouveau mot dépendant de tous les précédents. DiffusionGemma casse cette contrainte en partant d’un bloc de 256 tokens vides qu’il raffine par passes successives jusqu’à ce qu’un texte lisible apparaisse.

Le principe vient de la génération d’images, où il est établi depuis des années. Son application au texte restait expérimentale, notamment parce que les tentatives précédentes demandaient de réentraîner un modèle depuis zéro. Google annonce avoir converti Gemma 4 pour moins de 10 % du budget d’entraînement d’origine.

L’architecture retenue est hybride. La fiche technique mise en ligne par Google décrit un encodeur autorégressif associé à un mécanisme de débruitage, avec un échantillonnage par blocs et un plafond recommandé de 48 étapes de raffinement par bloc.

Le dimensionnement suit la logique du modèle parent. Vingt-six milliards de paramètres au total, quatre milliards seulement actifs à chaque passe grâce à une architecture à experts. La version quantifiée tient dans 18 Go de mémoire vidéo, ce qui la rend installable sur une carte grand public récente.

Le nombre d’étapes de raffinement devient au passage un réglage utilisateur. Moins de passes signifie un texte plus rapide et plus approximatif, davantage de passes un texte plus propre et plus lent. Le curseur qualité contre vitesse, longtemps figé côté éditeur, se retrouve entre les mains de celui qui exécute le modèle.

Le modèle accepte du texte, des images à résolutions variables et de la vidéo en entrée, mais ne produit que du texte en sortie. L’audio reste hors périmètre. Un mode de raisonnement pas à pas est intégré, avec des canaux configurables.

Le compromis que Google écrit noir sur blanc

La singularité de cette sortie tient dans son honnêteté affichée. DiffusionGemma obtient des scores inférieurs à Gemma 4 sur les tests de connaissances générales comme sur les évaluations de code, et Google recommande explicitement l’ancien modèle pour tout usage de production où la qualité prime sur la vitesse.

Le groupe positionne d’ailleurs la sortie comme expérimentale. Ce n’est pas un remplaçant, c’est une démonstration que la conversion est possible et abordable, publiée pour que la communauté s’en empare.

La cible d’usage est explicite elle aussi : machines personnelles à faible nombre de requêtes simultanées, pas serveurs cloud à fort débit. La diffusion par blocs sature le matériel local d’un coup, ce qui la rend efficace sur une seule carte et inadaptée à un service partagé.

Les poids sont accessibles sur la page publique du modèle avec sa carte détaillée, ainsi que sur Kaggle et sur la plateforme cloud du groupe. La licence Apache 2.0 autorise l’usage commercial sans contrepartie.

Cette sortie tranche avec la trajectoire récente du groupe sur ses modèles phares, où une version majeure a été repoussée pour être reconstruite. Publier un modèle assumé comme imparfait est une manière de garder le rythme sans engager la gamme principale.

D’autres articles sur Horizon

• Meta ouvre Muse Glimmer, son agent qui tourne en local
• Claude Code passe en mode auto par défaut le 14 août
• Taskade construit vos apps, nous l’avons testé

Ce que la diffusion ouvre pour les machines personnelles

Pour un utilisateur qui fait tourner un modèle chez lui, la vitesse de génération est le premier frein ressenti, avant même la qualité des réponses. Un facteur quatre sur ce terrain change davantage l’expérience quotidienne qu’un gain de quelques points sur un test académique.

L’effet le plus intéressant se situe côté agents. Un agent qui enchaîne des dizaines d’appels dans une même session paie la latence à chaque étape, et une génération par blocs ramène ce coût cumulé à un niveau supportable sur du matériel modeste.

Il faut toutefois tempérer l’enthousiasme sur un point pratique. Une génération par blocs produit son texte d’un seul coup plutôt que mot après mot, ce qui supprime l’affichage progressif auquel les interfaces de chat ont habitué les utilisateurs. L’attente devient plus courte et plus silencieuse, ce qui n’est pas exactement la même sensation.

Côté concurrence, la démonstration compte plus que le modèle. En montrant qu’un modèle existant se convertit pour une fraction de son budget d’entraînement, Google ouvre la porte à des conversions rapides chez tous les éditeurs qui publient déjà des poids ouverts, à commencer par ceux qui occupent déjà le terrain du modèle ouvert performant.

Cette sortie prolonge par ailleurs la série de publications du laboratoire de recherche du groupe, déjà à l’origine cette année de travaux comme le modèle qui fait collaborer plusieurs robots. La cadence tient, y compris pendant une période de départs marqués vers les laboratoires concurrents.

Reste à voir si l’écart de qualité se réduit. Si une deuxième génération de modèles de diffusion textuelle rattrape les scores des modèles autorégressifs à budget égal, le compromis actuel disparaît et la question de la vitesse cesse d’être un arbitrage.

Affaire à suivre sur Horizon.