OpenAI ferme son équipe des risques catastrophiques

OpenAI a dissous fin juillet l’équipe des risques catastrophiques, celle qui évaluait si ses modèles pouvaient causer des dégâts à grande échelle. Le travail sur les menaces biologiques et cyber a été redistribué dans des équipes déjà en place, et le périmètre qui reste se concentre sur les systèmes capables de s’améliorer eux-mêmes.

Pour résumer

• L’équipe dédiée aux risques catastrophiques d’OpenAI a cessé d’exister fin juillet 2026.
• Les volets biologique et cyber repartent dans des équipes existantes, l’auto-amélioration récursive devient le nouveau point focal.
• La réorganisation intervient après le départ de la responsable de l’éthique et d’un chercheur senior de l’alignement.

Une cellule créée fin 2023, arrêtée fin juillet 2026

L’équipe avait été montée en décembre 2023 avec un mandat étroit et lourd à la fois : suivre, évaluer et anticiper les risques dits catastrophiques posés par les modèles les plus capables. Le périmètre couvrait quatre familles de menaces, la cybersécurité, la persuasion, l’autonomie du modèle, et les armes chimiques, biologiques, radiologiques et nucléaires. OpenAI décrit encore ce dispositif comme un document vivant dans la page officielle qui détaille son cadre de préparation aux risques frontière.

Cette structure n’existe plus. Le travail sur le biologique et le cyber a été réattribué à des équipes déjà constituées, sans création d’un nouvel organe de contrôle en face. Ce qui subsiste du mandat initial se déplace vers un objet plus étroit, les systèmes capables de s’améliorer eux-mêmes sans intervention humaine, désormais piloté par un chercheur maison.

OpenAI justifie l’opération en expliquant que le travail de sécurité se retrouve tissé plus étroitement dans le développement des modèles. L’argument se tient sur le papier. Il change quand même la nature du dispositif : une équipe transverse qui évaluait un modèle depuis l’extérieur devient un réflexe réparti chez ceux qui construisent ce modèle.

Le calendrier n’aide pas. La réorganisation tombe après le départ de la responsable de l’éthique de l’entreprise et d’un chercheur senior de l’équipe alignement. Plusieurs salariés décrivent une ambiance faite de responsabilité et d’appréhension mêlées, et citent en interne l’incident d’intrusion autonome sur Hugging Face comme un coup de semonce.

Ce précédent n’est pas anecdotique. Il s’ajoute à une série d’alertes documentées ces dernières semaines, dont l’évaluation qui plaçait Astra tout près du seuil cyber critique défini par la maison. Le seuil en question venait précisément du cadre que cette équipe entretenait.

Pour les équipes qui déploient, le point de contrôle change de place

Une DSI qui met un modèle frontière en production ne lit pas les organigrammes d’un labo par curiosité. Elle lit les évaluations publiées, parce que ce sont elles qui justifient un feu vert interne, un dossier de conformité, parfois une clause contractuelle. Quand la structure qui produit ces évaluations disparaît, la question posée aux acheteurs n’est plus théorique.

La réponse d’OpenAI est que rien ne se perd, que le travail continue ailleurs. Reste que la traçabilité, elle, se dilue. Une évaluation portée par une équipe identifiée, avec un périmètre écrit et un seuil déclenchant, ne produit pas le même document qu’un travail réparti entre plusieurs équipes produit.

Cette question de l’indépendance du contrôle revient à intervalles réguliers dans le débat public, et pas seulement chez les régulateurs. On l’a vue portée par des chercheurs de premier plan, notamment lors des alertes de Stuart Russell sur la course à l’AGI pendant le procès OpenAI. L’argument était déjà que l’auto-évaluation d’un labo par lui-même vaut ce qu’elle vaut.

Côté cyber, la matière ne manque pas. La maison a publié coup sur coup des travaux qui montrent des modèles très à l’aise sur l’offensive, y compris GPT-5.6 Cyber qui écrit du code d’attaque destiné aux défenseurs. Ce genre de capacité relève exactement du mandat que l’équipe dissoute exerçait.

Pour une équipe technique, l’effet pratique est simple. Les garde-fous contractuels que l’on négociait en s’appuyant sur un cadre public identifiable devront s’appuyer sur autre chose, un audit tiers, une clause de reporting, ou des tests menés en interne avant mise en production.

D’autres articles sur Horizon

• Qwen 3.8-27B passe en licence libre Apache 2.0
• DeepSeek V4-Pro augmente ses prix API le 16 août
• Trois agents Claude se sabotent sur un même projet

Les autres labos avaient fait le pari inverse

Le mouvement d’OpenAI détonne dans un paysage où la tendance récente allait plutôt vers la publication de rapports de risque nommés, datés et signés. Rendre le contrôle invisible n’est pas neutre en concurrence : un acheteur entreprise qui compare deux fournisseurs regarde aussi ce que chacun accepte de documenter.

Sur le segment réglementé, banque, santé, secteur public, cette documentation est souvent la pièce qui débloque un dossier. Un concurrent qui continue à publier un rapport structuré gagne un argument commercial sans avoir à baisser ses prix. C’est le genre de différenciant qui se joue en dehors des benchmarks.

L’autre lecture, plus favorable à OpenAI, est que les équipes de sécurité transverses finissent souvent isolées du produit et arrivent trop tard dans le cycle. Intégrer la sécurité au développement répond à un vrai problème d’organisation. La question ouverte reste de savoir qui, dans ce schéma, garde le pouvoir de bloquer une sortie.

Les incidents récents rappellent que ce pouvoir de blocage n’est pas décoratif. La maison a déjà dû corriger dans l’urgence après un épisode où GPT-5.6 a effacé des fichiers en accès complet, un cas qui relevait de l’autonomie du modèle, l’une des quatre familles suivies par l’équipe désormais dissoute.

La suite se jugera sur des livrables, pas sur des intentions. Si la prochaine sortie majeure s’accompagne d’un document d’évaluation aussi complet qu’avant, la réorganisation aura été un exercice interne. Sinon, elle marquera le moment où le contrôle des risques catastrophiques est passé du statut de fonction visible à celui de bonne pratique diffuse, un peu comme le Lockdown Mode lancé contre les injections de prompt est resté une réponse produit là où beaucoup attendaient une réponse de gouvernance.

Affaire à suivre sur Horizon.