Dans un essai publié le 12 septembre, Dario Amodei défend un ralentissement volontaire du rythme des capacités et engage Anthropic, unilatéralement, à ouvrir ses locaux et ses systèmes à des évaluateurs extérieurs. Sam Altman, Elon Musk et Demis Hassabis ont repris le principe à leur compte dans les vingt-quatre heures.
Pour résumer
- Anthropic promet à des évaluateurs tiers un accès comparable à celui de ses propres équipes de risque, avec droit de publication.
- Le plan compte trois étapes, dont deux dépendent d’accords entre entreprises puis entre États.
- Sam Altman a reporté l’entrée en bourse d’OpenAI en invoquant le contexte de sécurité.
Faire résumer cet article par une IA
ChatGPTCe qu’Amodei met sur la table, et ce qu’Anthropic concède déjà
Le texte s’intitule « We Must Pace the Frontier » et tient en trois étapes. Dario Amodei y défend un ralentissement délibéré du rythme auquel les modèles gagnent des capacités, et ne laisse pas la première étape à la discussion collective : Anthropic s’y engage seule, tout de suite.
Cette première étape consiste à installer des évaluateurs extérieurs à demeure. Bureaux physiques, badges d’accès, ordinateurs fournis par l’entreprise, et des permissions décrites comme comparables à celles des équipes internes chargées d’évaluer les risques.
Le point qui donne son poids à la promesse tient au droit de publier. Amodei écrit que les évaluateurs doivent pouvoir rendre publics leurs constats sur les niveaux de risque, les incidents, les pratiques et sur l’accès qu’ils ont obtenu ou non, sans contrôle éditorial d’Anthropic.
Le droit de retrait que l’entreprise conserve est limité à quatre catégories : sécurité, secret professionnel, informations commercialement sensibles et confidentialité de tiers. La frontière entre ces catégories et un résultat gênant reste à écrire.
Les deux autres étapes sortent du périmètre d’un seul acteur. Amodei propose d’abord une coordination entre laboratoires des pays démocratiques, avec des standards communs et des limites au rythme de progression, puis une tentative de coordination des États démocratiques avec les régimes autoritaires.
Deux faits motivent l’urgence affichée par Amodei. Depuis l’été 2026, l’accélération viendrait d’abord de la capacité des modèles à construire la génération suivante, et l’incident survenu entre OpenAI et Hugging Face a montré un essaim d’agents menant des attaques informatiques non autorisées avant de tenter de manipuler leurs propres évaluateurs.
La position est ancienne chez lui, le cadrage opérationnel est neuf. Amodei attribuait en août le rejet de l’IA par le public à une crise de confiance, un diagnostic qui trouve ici sa conséquence opérationnelle.
Altman reporte son entrée en bourse, Musk approuve en trois mots
La réponse la plus substantielle vient d’OpenAI. Sam Altman a accepté le principe d’évaluateurs indépendants dotés d’un accès comparable à celui d’un salarié et a indiqué que son entreprise adopterait la pratique.
Le même jour, Altman a écarté toute introduction en bourse cette année. Il juge le moment mal choisi compte tenu de ce qui se passe du côté de la sécurité, et renvoie l’opération à un moment où l’entreprise et la société seront prêtes.
Elon Musk a réglé sa réponse en trois mots sur son compte, pour dire qu’Amodei a raison. Demis Hassabis a validé la direction tout en jugeant que les détails restent à travailler, ce qui vaut accord de principe sans engagement de calendrier.
Ce ralliement de trois concurrents directs en vingt-quatre heures est le fait marquant de la séquence. Aucun d’eux ne conteste le diagnostic d’Amodei sur l’auto-amélioration, et personne n’annonce de limite chiffrée sur son propre rythme de sortie.
L’objection technique la plus solide vient d’un chercheur de Google. Peyman Milanfar oppose à l’emballement annoncé la théorie du contrôle : les boucles d’auto-amélioration sont instables par nature, un système qui s’améliore de façon fiable reste amorti et lent, et la stabilité tient lieu de limitation de vitesse.
Le départ récent d’un chercheur d’Anthropic donne un relief particulier à l’engagement de son dirigeant. Jacob Coxon avait accusé l’entreprise de jouer avec nos vies en quittant son poste, une semaine avant la publication de l’essai.
D’autres articles sur Horizon
- L’agent Astra tient un commerce et pilote un drone
- OpenAI demande au Congrès si ralentir l’IA est légal
- Des abonnés Claude Max attaquent Anthropic en justice
Un frein qui vaut ce que vaudront les évaluateurs
Pour les équipes qui construisent sur Claude, la promesse change surtout le régime d’information. Un évaluateur extérieur autorisé à publier un incident raconte des choses qu’un client sous accord de confidentialité n’apprend aujourd’hui qu’après coup, et parfois jamais.
Le précédent le plus parlant vient de la maison. Anthropic a laissé un filtre de sécurité biologique désactivé pendant onze mois sans que personne à l’extérieur le sache, et c’est exactement le type d’angle mort qu’un observateur permanent est censé lever.
La portée dépend aussi du statut de ces observateurs. Un évaluateur installé à demeure voit les incidents en temps réel plutôt qu’un rapport rédigé après tri, et cette différence de position compte davantage que le volume de documents auquel il accède.
Reste que l’engagement ne porte aucun chiffre. Le texte laisse de côté les seuils de capacité, les délais minimaux entre deux générations et les métriques publiques de rythme. L’essai décrit un dispositif d’observation, dont le rôle s’arrête à la surveillance.
Côté concurrence, l’adoption annoncée par OpenAI transforme la pratique en standard implicite. Un laboratoire qui refuserait ensuite l’accès permanent à des tiers devrait expliquer publiquement pourquoi, et cette charge de la preuve vaut plus qu’une déclaration commune.
La limite du dispositif se voit à l’œil nu sur la carte. Les laboratoires chinois qui publient leurs poids ne sont concernés par aucune des trois étapes, et la troisième suppose précisément l’accord des États que la deuxième exclut.
Le calendrier économique pèse enfin sur la sincérité du geste. Anthropic prépare une introduction en bourse, et un dispositif d’évaluation qui publierait un incident majeur en pleine opération financière coûterait cher, ce qui rend la clause de retrait commercialement sensible plus intéressante à surveiller que le reste.
Le prochain signal utile sera le nom du premier évaluateur installé chez Anthropic. L’entreprise publie déjà ses propres scénarios sur l’emploi des cols blancs, et la différence entre un tiers qui vérifie et une communication maison se jouera sur cette signature.
Affaire à suivre sur Horizon.
