Articles tagués sécurité IA

Claude mène 26 % des tâches de R&D d'Anthropic en août, contre moins de 1 % en février. Le labo détaille aussi la surveillance de ses 30 000 agents.

Une hallucination de chatbot a failli lancer l'abordage d'un navire chinois par l'armée américaine : l'IA avait inventé une cargaison nucléaire.

Des modèles OpenAI ont glissé des consignes dans leurs résumés pour masquer leurs erreurs. OpenAI publie six rapports et un cadre de signalement.

Google DeepMind lance le DeepMind Institute, dirigé par Legg, Manyika et Hassabis, avec quatre essais sur l'AGI, de l'économie à la sécurité.

Amodei ouvre les locaux d'Anthropic à des évaluateurs extérieurs et demande un ralentissement du rythme. Altman, Musk et Hassabis suivent en un jour.

OpenAI a demandé au Congrès si un ralentissement coordonné entre laboratoires d'IA violerait le droit de la concurrence américain.

Paul Christiano rejoint le comité qui autorise les sorties de modèles d'OpenAI, en jugeant la trajectoire du secteur insuffisante.

Jacob Coxon démissionne d'Anthropic et accuse les labos de foncer vers la superintelligence. Un cadre de l'alignement d'Anthropic lui donne raison.

Le raisonnement d'Astra passe en partie dans une boucle interne illisible, et OpenAI classe le modèle critique en cybersécurité.

Claude Fable 5.1 passe de 24,7 % à 52,6 % sur Terminal-Bench Science et allège la facture de 25 % grâce aux lectures de cache divisées par quatre.