Jacob Coxon, 27 ans, a annoncé cette nuit sa démission d’Anthropic après trois ans de recherche en pré-entraînement chez OpenAI puis chez Anthropic. Il accuse les deux laboratoires de foncer vers une superintelligence capable de s’améliorer elle-même en jouant avec la vie de tout le monde. Moins de deux heures plus tard, le responsable des travaux d’alignement d’Anthropic lui a donné publiquement raison.
Pour résumer
- Un chercheur en pré-entraînement quitte Anthropic et publie sa lettre de démission sur son compte X
- Il vise OpenAI et Anthropic dans le même mouvement, pour des raisons différentes selon le laboratoire
- Evan Hubinger, côté Anthropic, confirme le fond publiquement et avance son propre chiffre de risque
Faire résumer cet article par une IA
ChatGPTTrois ans de pré-entraînement, puis une lettre publique
Le départ a été rendu public par l’intéressé lui-même, sans communiqué ni intermédiaire. Jacob Coxon a passé trois ans sur la recherche en pré-entraînement, d’abord chez OpenAI, puis chez Anthropic qu’il a rejoint en juillet.
Sa position tient en une phrase qu’il a publiée dans le fil où il annonce sa démission d’Anthropic : aucune des deux entreprises n’agit de façon responsable, toutes deux foncent vers une superintelligence capable de s’améliorer elle-même, et elles jouent avec nos vies en le faisant.
Le reproche n’est pas le même des deux côtés, et c’est la partie la plus intéressante du texte. Chez OpenAI, Coxon estime qu’une grande partie des équipes n’a pas réellement intégré ce qui se joue. Chez Anthropic, il considère au contraire que l’enjeu est parfaitement compris, mais que l’entreprise est enfermée dans une course où chacun se persuade qu’aucun concurrent n’agira raisonnablement à sa place.
Il décrit ensuite ce qu’il anticipe à court terme : des systèmes surhumains capables de percer n’importe quelle protection informatique, de faire basculer un domaine scientifique en une nuit, et d’accumuler des ressources et du pouvoir réels. Il ajoute que les gens qui construisent ces systèmes redoutent sincèrement qu’ils tuent tout le monde d’ici la fin de la décennie, et que ce n’est pas une posture marketing.
Sa conclusion est institutionnelle plus que technique. Jacob Coxon juge qu’accepter cette course revient à lancer un pari démesuré depuis la messagerie interne d’une entreprise privée, et qu’une décision de cette portée n’a rien à faire là. Le même reproche de fond avait déjà surgi quand Anthropic avait laissé son filtre bio-armes désactivé pendant onze mois sans que personne à l’extérieur puisse le constater.
Un cadre de l’alignement d’Anthropic confirme le fond
La réponse la plus lourde n’est pas venue du service de communication. Elle est venue d’Evan Hubinger, responsable des travaux d’alignement chez Anthropic, qui a réagi quatre-vingt-trois minutes plus tard sur son propre compte pour dire que Coxon a raison sur le fond.
Hubinger va plus loin que la simple approbation. Il assume que les équipes croient sérieusement à un scénario où l’IA tue l’humanité, avance une probabilité personnelle supérieure à 10 % sur la prochaine décennie, et reconnaît qu’Anthropic n’a pas de plan pour résoudre l’alignement d’une superintelligence ni de trajectoire claire pour y arriver.
Entendre un responsable en poste écrire qu’il n’existe pas de plan est d’une autre nature qu’une lettre de départ. Un démissionnaire parle depuis la sortie, un cadre en fonction engage la maison dans laquelle il travaille encore. Anthropic n’a publié aucune réaction officielle, OpenAI non plus. Ce silence est en soi un choix : les deux laboratoires laissent la déclaration d’un cadre en poste circuler sans la nuancer ni la contredire, alors qu’elle porte sur le risque le plus grave qu’ils évoquent eux-mêmes dans leurs publications.
Ce type d’aveu documenté n’est pas isolé chez Anthropic, qui publie régulièrement ses propres résultats gênants. Le laboratoire avait par exemple détaillé lui-même les circonstances dans lesquelles Claude avait tenté du chantage en test, ce qui nourrit précisément l’argument de Jacob Coxon : les signaux sont visibles, connus, publiés, et la course continue.
D’autres articles sur Horizon
- Le trafic ChatGPT repasse au-dessus de 55 %
- Meta Muse accède à vos mails et à vos paiements
- Rentosertib fait reculer l’âge biologique de patients
Ce que ce départ change pour les labos
Pour un client entreprise, l’information utile n’est pas la démission, c’est la phrase sur l’absence de plan. Une direction technique qui bâtit sur ces modèles peut la lire comme un aveu de risque produit, et la faire remonter dans ses arbitrages de dépendance à un fournisseur unique.
Côté concurrence, l’épisode déplace une ligne. Anthropic a construit sa marque sur la sécurité et sur la transparence de ses propres échecs. Cette position devient un point d’appui pour ses concurrents dès qu’un de ses cadres écrit publiquement qu’il n’y a pas de trajectoire claire, et l’argument commercial de la maison prudente s’en trouve affaibli.
Le flux des chercheurs raconte pourtant l’inverse d’une hémorragie. Le laboratoire continue d’attirer des profils de premier plan, comme lorsque Andrej Karpathy avait rejoint Anthropic pour y faire de la recherche. Un départ isolé ne dit rien d’une tendance, et c’est le nombre de signatures publiques dans les prochaines semaines qui donnera la mesure réelle.
Le signal à surveiller est ailleurs. Si d’autres chercheurs en poste répondent comme Hubinger l’a fait, la question sort du débat entre spécialistes pour devenir un sujet de gouvernance, avec des régulateurs qui disposeront de déclarations signées par des employés en fonction plutôt que par des partants.
Affaire à suivre sur Horizon.
