Le 2 juillet, Anthropic a publié deux briques inédites pour Claude Fable 5 : un filtrage cyber à quatre niveaux, et CJS, une échelle publique qui note la gravité des jailbreaks. Le lab veut poser une norme partagée avec Amazon, Microsoft et Google, sortir du binaire, et transformer un standard interne en langage industrie.
Pour résumer
- Les classifiers Fable 5 filtrent les requêtes cyber en quatre tiers, du bénin au prohibé
- L’échelle CJS note les jailbreaks sur cinq niveaux et quatre dimensions techniques
- Le framework est co-écrit avec Amazon, Microsoft et Google via Project Glasswing
Faire résumer cet article par une IA
ChatGPTQuatre étages pour trier les requêtes cyber
Les nouveaux classifiers déployés sur Claude Fable 5 opèrent une segmentation en quatre niveaux. Chaque tier trace ce que le modèle accepte, ralentit ou refuse en matière de cybersécurité. Le découpage tient dans un tableau simple mais son application concrète est plus fine qu’il n’y paraît.
Le tier « Prohibited use » bloque tout ce qui touche au ransomware, au développement de malware, à l’exfiltration de données ou à l’évasion de défenses. Zéro tolérance, quelle que soit la formulation. Anthropic considère que le rapport bénéfice défensif / risque offensif est structurellement défavorable sur ces cas.
Le « High-risk dual use » cible les travaux légitimes de sécurité qui basculent facilement en offensive : penetration testing, développement d’exploits, escalade de privilèges. Les réponses restent possibles mais le contexte est scruté et le cadrage devient strict.
Les tiers « Low-risk dual use » et « Benign use » recouvrent l’identification de vulnérabilités, l’analyse de logs, le secure coding ou la gestion de patchs. Ces requêtes passent presque toujours, avec la nuance qu’un « safety margin » élargi va bloquer occasionnellement des demandes bénignes pour éviter les pires cas. Anthropic assume ce coût en faux positifs.
Ce filtrage est la réponse directe à l’incident jailbreak qui avait valu à Fable 5 un retrait de deux semaines côté administration américaine. Le modèle revient avec des garde-fous documentés et publics, ce qui redistribue les cartes côté conformité entreprise. La refonte touche aussi le commercial, Fable 5 revoyant sa facturation au token.
CJS, une échelle publique pour graduer les jailbreaks
La deuxième brique s’appelle Cyber Jailbreak Severity, abrégé CJS. Cinq niveaux, de CJS-0 à CJS-4, du purement informatif au critique. Un score global de 0 à 10 permet de projeter chaque cas sur la bonne case.
Quatre dimensions techniques nourrissent le score. La première est le « capability gain » : à quel point la technique dépasse les outils déjà disponibles pour un attaquant. La deuxième mesure la « breadth of capability », c’est-à-dire le nombre de tâches offensives distinctes que le jailbreak débloque.
La troisième dimension est l' »ease of weaponization » : l’effort réel pour transformer une preuve de concept en attaque opérationnelle. La quatrième est la « discoverability » : la facilité avec laquelle un acteur malveillant peut mettre la main sur la technique. Un jailbreak théorique qui exige 200 GPU pour être exploité ne pèse pas comme un prompt copiable en trois lignes.
L’objectif est de sortir du narratif binaire « jailbreak ou pas jailbreak » pour qualifier la menace réelle. La logique prolonge celle du bilan MITRE ATT&CK sur les cybermenaces IA qu’Anthropic avait déjà co-produit. Chaque chercheur, red team ou éditeur peut désormais reclasser un jailbreak connu ou nouveau avec la même grille.
La conséquence directe est un vocabulaire partagé. Standardiser la façon de nommer un incident est le premier pas d’un dispositif de partage entre concurrents, dont l’histoire de la cybersécurité rappelle qu’il finit toujours par arriver. La question ouverte est de savoir sur quelle base.
À voir également sur Horizon :
- Zuckerberg agents IA : plus lents que prévu chez Meta
- Sakana AI : notre test de l’IA dont tout le monde parle
- Prototype IA SpaceX : téléphone en approche, Musk dément
Vers une norme cyber IA co-signée avec Amazon, Microsoft et Google
Le framework CJS a été rédigé avec les partenaires de Project Glasswing : Amazon, Microsoft et Google. C’est la même alliance qui portait déjà Claude Mythos sur les infrastructures critiques dans quinze pays. Le tissage est cohérent : les mêmes acteurs, la même logique de cadrage industrie.
Le message d’Anthropic est explicite. Le lab estime qu’en travaillant ensemble, il devient possible d’établir un standard qui autorise les usages défensifs de la technologie tout en prévenant les usages malveillants. La formulation est habituelle. L’entrée en scène de trois hyperscalers d’un coup l’est moins.
À court terme, l’impact est double. Les red teams et les éditeurs de sécurité peuvent commencer à parler le même langage sans réunion préalable. Mais Anthropic devient l’auteur du dictionnaire, ce qui n’est jamais neutre dans un marché où la définition du problème détermine qui vendra la solution.
À moyen terme, ce type d’échelle a de quoi remonter côté régulateur. Bruxelles cherche des indicateurs opérationnels pour l’AI Act et Washington multiplie les revues client par client sur les modèles frontière. Une taxonomie née dans l’industrie leur offre un socle mesurable à peu de frais.
La question qui reste ouverte est celle de l’adoption au-delà du cercle Glasswing. Meta, xAI, DeepSeek ou Mistral vont-ils reprendre CJS, le contester ou proposer leur propre grille ? La réponse déterminera si l’échelle d’Anthropic devient un standard partagé ou un simple document de position. D’autres acteurs sécurité gravitent déjà autour d’Anthropic, Qihoo 360 chassant des bugs avec ses modèles.
Affaire à suivre sur Horizon.
