Sakana Fugu domine les benchmarks mais reste lent

Sakana Fugu en koï rouge dirigeant un banc de poissons au ralenti dans un sablier

Sakana AI a lancé Fugu, un modèle qui ne répond pas seul mais orchestre d’autres modèles pour traiter chaque requête. Sa version Ultra égale Fable 5 sur plusieurs benchmarks, avec un 73,7 sur SWE Bench Pro contre 69,2 pour Opus 4.8. Le hic, c’est l’usage réel, où le chercheur Ethan Mollick le juge extrêmement lent, autour de trente minutes par test de code.

Pour résumer

  • Fugu est un modèle entraîné à appeler d’autres modèles, avec sélection, délégation et synthèse en interne.
  • Fugu Ultra égale Fable 5 et Mythos Preview sur le code, les sciences et le raisonnement.
  • À l’usage, Fugu Ultra rend des réponses correctes mais très lentes, un écart entre le classement et la pratique.

Faire résumer cet article par une IA

ChatGPT

Un modèle qui appelle d’autres modèles pour répondre

L’idée est inhabituelle. Fugu est lui-même un modèle de langage, mais entraîné à convoquer d’autres modèles depuis un vivier interchangeable, copies de lui-même comprises. Il décide seul de traiter une tâche ou de la déléguer, puis gère la sélection, la vérification et la synthèse sans que l’utilisateur voie la mécanique.

Le tout passe par une seule API compatible OpenAI. Deux déclinaisons existent, un Fugu taillé pour la faible latence sur le code courant et le chatbot, et un Fugu Ultra pensé pour la qualité maximale sur les problèmes complexes en plusieurs étapes. C’est ce dernier qui porte les promesses de benchmark.

La maison inspire le respect. Sakana AI est fondée par Llion Jones, coauteur de l’article de 2017 qui a lancé l’architecture transformer, et par David Ha, tous deux passés par Google. Nous avions déjà mis le laboratoire à l’épreuve dans notre test de l’IA japonaise dont tout le monde parlait, et l’approche orchestrateur prolonge cette signature de recherche.

Le pari technique est clair. Plutôt qu’un modèle unique toujours plus gros, Fugu mise sur la coordination d’un ensemble, une voie que d’autres explorent aussi côté agents, comme le montrait l’étude Tencent où les agents finissaient 14 % des tâches réelles. L’orchestration promet le meilleur de chaque modèle, à condition de tenir la charge.


Sakana Fugu

73,7 sur SWE Bench Pro, mais 30 minutes par test

Les scores publiés placent Fugu Ultra au niveau des ténors. Sur SWE Bench Pro, il obtient 73,7 contre 69,2 pour Opus 4.8. Sur GPQA-D, un test de raisonnement scientifique, il marque 95,5 contre 92,0, et il pousse Humanity’s Last Exam à 50,0 là où GPT-5.5 reste à 41,4.

Sakana AI revendique l’égalité avec Fable 5 et Mythos Preview sur cette batterie de tests, et le laboratoire a détaillé ses relevés sur son site officiel. Sur le papier, c’est un orchestrateur qui rivalise avec les meilleurs modèles monolithiques du marché, sans en être un lui-même.

L’épreuve du terrain refroidit l’enthousiasme. Le chercheur Ethan Mollick a jugé Fugu Ultra extrêmement lent lors de ses tests de code habituels, autour de trente minutes par tâche, pour un résultat qu’il qualifie de correct mais en deçà de Fable dans la pratique. Le classement dit une chose, la session de travail en dit une autre.

L’écart s’explique par l’architecture. Chaque requête déclenche une chaîne interne d’appels, de vérifications et de synthèse, et cette coordination coûte du temps de calcul. La qualité vient d’un processus, pas d’une réponse immédiate, et ce processus se paie en latence.


D’autres articles sur Horizon


Le benchmark ne dit pas tout de l’usage réel

Pour une équipe qui évalue Fugu, la leçon est simple. Un score de tête de classement ne garantit pas une bonne expérience dans une boucle d’agent où la latence s’accumule à chaque tour. Trente minutes par tâche disqualifient l’outil pour du travail interactif, même si la réponse finale tient la route.

Le cas d’usage réaliste se resserre. Fugu Ultra vise le traitement asynchrone de problèmes lourds, là où l’on tolère l’attente contre une qualité élevée, tandis que le Fugu standard couvre le quotidien rapide. Positionné ainsi, l’orchestrateur trouve une place, mais pas celle d’un remplaçant direct des modèles rapides.

Côté concurrence, l’épisode pèse sur la lecture des classements. Il rappelle que la vitesse est une dimension de qualité à part entière, un angle que la guerre des prix a déjà imposé chez les rivaux. Les acheteurs regardent désormais le couple qualité-latence, pas le seul score, et un modèle qui gagne un benchmark en trente minutes ne rassure pas un chef de produit pressé.

La méthode Sakana garde de la valeur. Si le laboratoire réduit la latence sans perdre en qualité, l’orchestration devient une vraie troisième voie face aux modèles uniques, un débat que nous suivons de près depuis notre comparatif Claude, ChatGPT et Gemini pour un usage pro. Le prochain jalon sera une version Ultra assez rapide pour tenir dans une session de travail.

Affaire à suivre sur Horizon.

Comments

No comments yet. Why don’t you start the discussion?

    Laisser un commentaire

    Votre adresse e-mail ne sera pas publiée. Les champs obligatoires sont indiqués avec *