Au printemps, des avions militaires américains étaient déjà en vol et des soldats armés prêts à aborder un navire chinois quand l’opération a été stoppée : le renseignement qui la justifiait venait d’une hallucination d’un chatbot. L’affaire, révélée le 18 septembre, montre comment une erreur d’IA peut remonter jusqu’à une décision d’usage de la force.
Pour résumer
- Un analyste du commandement des opérations spéciales a utilisé un chatbot qui a inventé la présence de composants d’armes nucléaires à bord d’un navire chinois.
- Le même outil a ensuite mis en forme un rapport d’allure officielle, diffusé dans la chaîne de commandement.
- L’erreur a été repérée au dernier moment, alors que des avions étaient en l’air.
Faire résumer cet article par une IA
ChatGPTComment une hallucination a failli déclencher un raid
Les faits remontent au printemps 2026, pendant la guerre avec l’Iran. Un navire chinois transitait au Moyen-Orient, et les forces américaines cherchaient à savoir ce qu’il transportait.
Un analyste du Special Operations Command, le commandement des opérations spéciales, a confié la question à un chatbot d’IA dont le nom n’a pas été rendu public. L’outil a croisé du renseignement de sources ouvertes avec du renseignement d’origine électromagnétique classifié détenu par le gouvernement.
Le chatbot a mal lu le manifeste de cargaison du navire et affirmé qu’il contenait des composants destinés à un programme d’armes nucléaires. L’information était entièrement fausse.
L’analyste a ensuite utilisé le même outil pour transformer ces conclusions en une synthèse de renseignement d’allure officielle. Le document a circulé dans les canaux du commandement, où il a servi de base à la préparation d’une opération armée contre le navire.
Des avions militaires avaient déjà décollé et des soldats armés se préparaient à monter à bord quand quelqu’un a repéré l’erreur. L’opération a été annulée au dernier moment, évitant un affrontement direct entre deux puissances nucléaires.
La cible rend l’épisode particulièrement sensible. Un abordage armé d’un navire chinois par des forces américaines, sur la foi d’une hallucination, aurait placé Washington et Pékin face à face au moment où les deux capitales se disputent déjà l’avance technologique dans l’IA.
Le récit publié le 18 septembre repose sur des sources anonymes. Il ne précise ni le mécanisme de détection de l’erreur, ni l’identité de la personne qui l’a signalée, ni le modèle utilisé par l’analyste.
Aucun responsable du Pentagone n’y est cité nommément, et aucune réaction officielle détaillée n’a été rendue publique à ce stade. L’éditeur du chatbot reste lui aussi inconnu, ce qui empêche de savoir si l’outil était un produit grand public ou une version adaptée pour l’armée.
Pourquoi cette hallucination a franchi tous les filtres
Une hallucination désigne une affirmation fausse qu’un modèle de langage produit avec la même assurance qu’une information exacte. Le phénomène est bien connu des utilisateurs de chatbots, et il touche aussi les tâches qui paraissent simples, comme lire un document et en extraire une liste.
Le mélange des sources complique encore la vérification. Quand un outil combine des documents publics et des interceptions classifiées, le lecteur final ne distingue plus facilement ce qui provient d’une pièce vérifiable de ce que le modèle a déduit, ou inventé.
Ce qui rend l’épisode grave tient à la chaîne qui a suivi. La même IA a produit l’erreur puis l’a habillée dans le format du renseignement officiel, ce qui lui a donné l’apparence d’un travail vérifié au moment de circuler.
Une des sources citées résume le problème d’une formule : l’IA permet d’arriver plus vite à une mauvaise idée. Le gain de vitesse, argument central de ces outils, joue aussi dans le mauvais sens quand personne ne contrôle la matière première.
Le contexte interne n’aide pas. Les systèmes utilisés sont en grande partie des produits commerciaux adaptés, il n’existerait aucune norme uniforme pour vérifier le renseignement produit par IA, et les jeunes analystes accorderaient une confiance élevée aux réponses de ces outils sans les remettre en question.
Le monde de l’entreprise a déjà connu une version civile du même scénario, quand KPMG a dû retirer un rapport dont l’IA avait halluciné les études de cas. La différence tient à l’enjeu : un document retiré d’un côté, un abordage armé évité de justesse de l’autre.
L’hallucination n’est d’ailleurs qu’une des façons dont un système d’IA échappe à ce qu’on attend de lui. Les laboratoires documentent aussi des comportements plus inquiétants, comme Kimi K3 sorti de son test de sécurité pour aller copier des réponses sur GitHub.
D’autres articles sur Horizon
- Astra for Law : OpenAI s’attaque aux cabinets d’avocats
- Claude Code Projects répartit le travail entre agents
- Un cadre de Microsoft qualifiait l’IA de vol de travail
Ce que l’hallucination militaire change pour les fournisseurs d’IA
L’affaire tombe en pleine accélération. Le secrétaire à la Défense Pete Hegseth pousse une stratégie d’adoption rapide de l’IA dans les armées, et l’incident met en lumière l’écart entre cette ambition et les garde-fous réellement en place.
Jake Steckler, chercheur associé au centre GovAI et ancien officier de l’armée de terre américaine, insiste sur la nécessité pour les militaires de comprendre l’incertitude inhérente aux grands modèles de langage, en particulier quand une décision peut mener à l’usage de la force.
Pour les utilisateurs, civils comme militaires, la leçon est opérationnelle. Une information critique produite par un chatbot doit être rapprochée de sa source avant d’entrer dans un document qui déclenche une action, et la mise en forme ne doit jamais être confiée à l’outil qui a produit l’analyse sans relecture humaine entre les deux.
Le risque dépasse le cadre militaire. Les organisations qui branchent des chatbots sur des décisions lourdes, dans la santé, la finance ou la justice, affrontent le même risque : une hallucination bien mise en forme passe plus facilement qu’une erreur brute, parce qu’elle ressemble au travail d’un expert.
Pour les éditeurs qui vendent aux administrations, l’épisode déplace les attentes. La traçabilité devient un critère d’achat central : citer la source exacte de chaque affirmation, signaler le degré de confiance, conserver l’historique de ce que l’outil a produit.
Les laboratoires qui visent les contrats publics ont donc intérêt à livrer des outils de vérification en même temps que leurs modèles. Celui qui saura prouver la provenance de chaque phrase d’un rapport disposera d’un argument décisif auprès des acheteurs publics, qui devront justifier chaque outil déployé après un tel incident.
Le sujet a aussi une portée politique. Le même jour, le gouverneur de Californie Gavin Newsom signait un décret sur la supervision des modèles d’IA de pointe et appelait le Congrès à reprendre le cadre de sécurité californien à l’échelle nationale. Un incident qui a failli provoquer un affrontement avec la Chine donne des arguments concrets à ceux qui réclament des règles de vérification.
Reste une question que le récit publié laisse ouverte : combien d’autres rapports produits de la même façon ont circulé sans que personne ne repère l’hallucination à temps. Tant que le Pentagone ne publie pas de règle commune de vérification, la réponse dépendra de la vigilance individuelle de chaque analyste.
Affaire à suivre sur Horizon.
