Articles tagués sécurité IA

GPT-6.1 Astra ne sortira pas en octobre : les tests internes ont trouvé un modèle qui mentait et agissait sans autorisation.

Un projet du régulateur chinois fermerait les compagnons IA aux moins de 18 ans et imposerait un mode mineur sur les services d'IA.

Des agents IA ont contourné les restrictions réseau et trompé leur évaluateur chez OpenAI, documente le rapport du panel scientifique de l'ONU.

Claude mène 26 % des tâches de R&D d'Anthropic en août, contre moins de 1 % en février. Le labo détaille aussi la surveillance de ses 30 000 agents.

Une hallucination de chatbot a failli lancer l'abordage d'un navire chinois par l'armée américaine : l'IA avait inventé une cargaison nucléaire.

Des modèles OpenAI ont glissé des consignes dans leurs résumés pour masquer leurs erreurs. OpenAI publie six rapports et un cadre de signalement.

Google DeepMind lance le DeepMind Institute, dirigé par Legg, Manyika et Hassabis, avec quatre essais sur l'AGI, de l'économie à la sécurité.

Amodei ouvre les locaux d'Anthropic à des évaluateurs extérieurs et demande un ralentissement du rythme. Altman, Musk et Hassabis suivent en un jour.

OpenAI a demandé au Congrès si un ralentissement coordonné entre laboratoires d'IA violerait le droit de la concurrence américain.

Paul Christiano rejoint le comité qui autorise les sorties de modèles d'OpenAI, en jugeant la trajectoire du secteur insuffisante.