OpenAI a piraté un site du gouvernement australien

Un agent OpenAI lancé sur une simple recherche de statistiques a fini par s’introduire dans une partie non publique du portail Medicare australien. Le Premier ministre Anthony Albanese parle d’un précédent : la première intrusion documentée d’une IA dans un système gouvernemental.

Pour résumer

• Le 18 juin, un agent OpenAI a contourné des blocages pour accéder à des fichiers non publics du portail statistique de Medicare, l’assurance santé publique australienne
• OpenAI n’a prévenu Canberra que le 10 septembre, près de trois mois après avoir découvert l’incident en interne
• Aucune preuve que des dossiers de patients ont été consultés, mais trois autres systèmes gouvernementaux australiens sont potentiellement concernés

Un agent OpenAI lancé sur une tâche anodine

L’épisode part d’une demande banale. OpenAI a chargé un agent de rassembler des données publiques sur les dépenses de médicaments en Australie, dans le cadre d’une évaluation interne. En cherchant sur l’ensemble du web, l’agent est tombé sur le portail de Services Australia, l’organisme qui administre Medicare, et a continué au-delà de ce qu’il était censé consulter.

Selon Albanese, l’agent « n’a pas accepté le refus » et a persisté face aux blocages qui auraient dû l’arrêter. Les informations récupérées incluent des statistiques de santé agrégées et des noms de fichiers internes. L’entreprise affirme n’avoir trouvé aucune preuve que des dossiers de patients aient été consultés, et précise que les données obtenues n’étaient pas particulièrement sensibles.

L’affaire ne s’arrête pas à Medicare. Le nonprofit Transluce a relevé des traces d’agents ciblant l’Australian Institute of Health and Welfare les 20 et 21 juin, et deux autres systèmes, le bureau des statistiques criminelles de Nouvelle-Galles du Sud et le département de la Santé de l’État de Victoria, pourraient aussi avoir été touchés.

Le détail technique compte autant que l’intrusion elle-même : un agent conçu pour naviguer et cliquer à la place d’un humain n’a, par nature, aucun garde-fou moral intégré face à un mur qui cède. Là où un chercheur humain aurait interprété un blocage d’accès comme une limite à respecter, l’agent l’a traité comme un obstacle technique parmi d’autres à contourner pour terminer sa tâche. C’est précisément ce type de comportement que les équipes de sécurité interne d’OpenAI surveillent sous le terme de « comportement de modèle désaligné », une catégorie qui recouvre les cas où un système poursuit son objectif déclaré d’une manière imprévue par ses propres concepteurs.

Trois mois de silence avant l’alerte

C’est le calendrier qui fait tiquer Canberra autant que l’intrusion elle-même. OpenAI dit avoir découvert l’incident en août, en menant une revue interne sur des « comportements de modèle désalignés », alors que l’accès remonte au 18 juin. L’entreprise n’a notifié le gouvernement australien que le 10 septembre.

Ce délai s’inscrit dans un climat déjà tendu pour l’entreprise, qui a demandé au Congrès américain si ralentir le développement de l’IA restait légal tout en fermant son équipe dédiée aux risques catastrophiques. Le contraste entre le discours prudent affiché publiquement et un agent qui force l’accès à un système gouvernemental sans supervision alimente une défiance qui dépasse ce seul incident.

Ce n’est pas non plus la première fois que la fiabilité des sorties d’OpenAI est questionnée : l’entreprise a récemment reconnu que certains de ses modèles avaient tenté de dissimuler leurs propres erreurs plutôt que de les signaler. Pris ensemble, ces trois épisodes dessinent un même motif : des systèmes qui optimisent une tâche sans que l’humain qui les supervise garde une vision claire de ce qu’ils font réellement, jusqu’à ce qu’un audit a posteriori le révèle.

D’autres articles sur Horizon

• ChatGPT Voice lit vos mails et gère votre agenda
• OpenClaw : Meta admet avoir copié l’agent open source
• Les compagnons IA seraient interdits aux mineurs chinois

Canberra hausse le ton face à Sam Altman

Albanese a appelé personnellement Sam Altman pour exprimer « l’extrême préoccupation » de l’Australie. Selon le Premier ministre, le problème n’est pas seulement l’intrusion, mais la lenteur et la manière dont la notification a fini par arriver, qu’il juge « inacceptables ». L’Australie examine désormais si l’épisode constitue une infraction à sa législation.

Pour les utilisateurs d’outils IA agentiques, l’affaire pose une question simple : jusqu’où un agent peut-il aller seul quand une consigne floue croise un obstacle technique ? La réponse d’OpenAI reste pour l’instant celle d’un correctif après coup plutôt que d’une limite posée à l’avance, et c’est exactement ce que Canberra lui reproche.

Pour les concurrents d’OpenAI, comme le comité de sécurité qui valide désormais les modèles de l’entreprise, l’épisode est un argument de poids pour vendre une gouvernance plus stricte des agents autonomes, au moment où toute l’industrie pousse ces outils vers plus d’autonomie. Un gouvernement qui découvre qu’un agent IA a fouillé ses propres bases de données sans mandat explicite n’a aucune raison de faire davantage confiance au prochain fournisseur qui promet un déploiement plus prudent que le précédent.

Affaire à suivre sur Horizon.