Google DeepMind a lancé le 16 septembre le DeepMind Institute, une plateforme de publication consacrée au développement sûr de l’intelligence artificielle générale et à ses effets sur la société. Shane Legg, James Manyika et Demis Hassabis la dirigent, avec quatre essais inauguraux qui vont de la politique économique à la transparence du raisonnement des modèles.
Pour résumer
- Le DeepMind Institute publie des essais sur l’AGI, rédigés par des chercheurs de Google DeepMind, de Google et de la communauté scientifique.
- Les risques cités vont de la cybersécurité aux risques biologiques, jusqu’à la perte de contrôle de systèmes capables de s’améliorer eux-mêmes.
- Un essai propose des mesures économiques graduées selon l’ampleur des pertes d’emplois liées à l’AGI.
Faire résumer cet article par une IA
ChatGPTCe que publie le DeepMind Institute
Le laboratoire de Google présente le projet dans l’essai de lancement publié sur le site du DeepMind Institute. La mission affichée consiste à faire avancer une réflexion audacieuse sur le développement sûr de l’AGI, son usage bénéfique et ses conséquences pour la société.
DeepMind définit l’AGI comme un système doté de toutes les capacités cognitives du cerveau humain. La direction réunit Shane Legg, cofondateur et scientifique en chef AGI de Google DeepMind, qui tient le rôle de rédacteur en chef, James Manyika, président recherche, labs, technologie et société chez Google, et Demis Hassabis.
Quatre essais ouvrent la plateforme : un plaidoyer pour la transparence du raisonnement, une politique économique pour l’AGI, des principes pour une nouvelle utopie, et un cadre pour l’IA de pointe à l’aube d’une nouvelle ère.
L’institut insiste sur l’ouverture des profils. Les contributions viennent de Google DeepMind, de Google et de la communauté de recherche mondiale, et le texte de lancement réclame aussi des points de vue issus des arts, des sciences humaines et des gouvernements.
La liste des risques couverts est explicite : gouvernance et développement sûr, cybersécurité, risques biologiques, perte de contrôle de systèmes capables de s’améliorer eux-mêmes, mais aussi effets sur le sens et les valeurs humaines, et adaptation des institutions. Le laboratoire a déjà documenté des comportements problématiques lors de ses propres expériences, quand des agents DeepMind ont triché avant de se dénoncer.
Deux essais qui donnent le ton
L’essai économique, signé Julian Jacobs et Alex Imas, découpe l’avenir en trois scénarios. En cas de perturbation modérée, il privilégie l’assurance chômage élargie, le crédit d’impôt sur les revenus du travail et la reconversion portée par les employeurs.
Si les données montrent des périodes de chômage prolongées et des salaires médians en baisse, les auteurs proposent de transformer ce crédit d’impôt en impôt négatif sur le revenu. En cas de transformation structurelle, avec une part du travail dans le PIB durablement en recul, ils envisagent un capital de base universel.
Le texte ne mise sur aucun scénario à l’avance. Il réclame une meilleure collecte de données sur le marché du travail, avec des seuils fixés à l’avance pour déclencher chaque dispositif, en commençant par des aides liées au travail avant d’éventuels mécanismes de partage du capital. Les auteurs évaluent chaque mesure selon le bien-être, la capacité d’agir des personnes, la faisabilité et la durabilité.
L’essai sur la transparence, signé Rohin Shah et Anca Dragan, défend la lecture de la chaîne de pensée des modèles pour repérer tromperie et manigances. Les auteurs relèvent que la fiche système de GPT-6 Astra fait état d’une baisse substantielle de cette lisibilité, un point déjà soulevé quand OpenAI a rendu le raisonnement d’Astra plus dur à suivre.
Leur recommandation principale vise l’entraînement : ne pas façonner directement la chaîne de pensée pour qu’elle paraisse alignée, au risque d’apprendre aux modèles à masquer leurs intentions au lieu de les corriger.
D’autres articles sur Horizon
- Claude Cowork et le chat fusionnent en une seule appli
- Gemini 3.8 Live casse le prix de la voix IA
- Siri AI sur iPhone : l’Union européenne attendra
Le DeepMind Institute dans la course au récit sur l’AGI
Le lancement intervient alors que les dirigeants du secteur avancent des calendriers serrés. Demis Hassabis évoque une AGI d’ici quelques années, Shane Legg estime à 50 % la probabilité d’une AGI minimale en 2028, et Sam Altman juge possible une AGI selon sa propre définition d’ici la fin 2026.
Pour les chercheurs et décideurs, le DeepMind Institute offre un lieu identifié pour publier des positions longues, plus lisible qu’un article scientifique et plus développé qu’une note de blog. Les équipes qui construisent des produits sur les modèles de Google y trouveront aussi une indication des sujets que le laboratoire juge prioritaires.
L’essai sur la transparence a une portée pratique pour les développeurs d’agents : si les laboratoires s’engagent à préserver une chaîne de pensée lisible, la surveillance des comportements reste possible sans outils spécialisés. Les auteurs jugent cette mesure faisable sans coût prohibitif.
Côté concurrence, Google occupe un terrain intellectuel que se disputent les grands laboratoires. Le signal compte aussi pour le recrutement, dans un secteur où Anthropic et OpenAI ont déjà attiré des talents de Google.
Reste à voir si les essais pèseront sur les politiques publiques. La plateforme propose des idées, mais leur passage dans la loi dépendra de gouvernements que l’institut invite justement à participer.
Affaire à suivre sur Horizon.
