OpenAI surveille les abus sans garder vos données

OpenAI surveille les usages abusifs de ses modèles avec un dispositif qui n’a besoin de conserver aucune donnée client. Le système remonte un signal étroit à l’entreprise, sans exposer ni les requêtes ni les réponses qui l’ont déclenché. L’annonce tombe pendant qu’Anthropic défend une rétention pouvant aller jusqu’à trente jours sur ses modèles les plus sensibles.

Pour résumer

• Le dispositif analyse les échanges à travers plusieurs conversations, là où la modération classique ne regarde qu’une session isolée.
• Les données peuvent rester chez le client, ou être chiffrées avec des clés que le client contrôle.
• Un déploiement plus large et un livre blanc technique sont annoncés pour septembre.

Un signal d’alerte plutôt que la conversation entière

OpenAI surveille désormais les usages problématiques par un mécanisme qu’il présente en aperçu à une poignée de clients. Le principe consiste à faire tourner la détection sans que l’entreprise ait à conserver le contenu inspecté. Le lab a décrit le dispositif dans son annonce sur la rétention de données nulle pour les modèles frontière.

La nouveauté technique tient au périmètre d’analyse. Une modération classique juge une conversation à la fois, ce qui laisse passer les contournements découpés en plusieurs sessions. Le nouveau dispositif lit les entrées et les sorties sur plusieurs échanges liés, précisément pour rattraper ce mode opératoire.

Quand quelque chose se déclenche, ce qui remonte n’est pas la conversation. C’est un signal décrit comme étroitement défini, qui indique un type d’activité sans livrer les requêtes ni les réponses associées. OpenAI décide ensuite s’il y a lieu d’agir, et le client garde la main pour transmettre volontairement des éléments de contexte supplémentaires.

Le tri est fait par des agents, pas par des relecteurs humains. Ce choix règle en apparence le problème qui inquiète le plus les directions juridiques, celui du salarié d’un fournisseur qui lit un dossier confidentiel. Il déplace la question vers la fiabilité de la détection automatique, terrain sur lequel le lab n’a pas publié de taux.

Le stockage suit la même logique. Les données peuvent rester sur une infrastructure contrôlée par le client, ou être hébergées par OpenAI mais chiffrées avec des clés que le client détient. L’entreprise a résumé la démarche sur son compte officiel, en la présentant comme une extension de la rétention nulle aux travaux longs et autonomes.

Le socle sur lequel tout cela repose existait déjà. La rétention nulle est proposée depuis longtemps sur les modèles frontière du lab, et les deux maisons s’y conforment largement pour leurs clients professionnels. Ce qui change ici tient à l’élargissement de ce régime à la détection d’abus répartis sur plusieurs sessions, un cas que la rétention nulle classique ne couvrait pas.

La justification avancée est l’autonomie croissante des systèmes vendus. Un agent qui travaille des heures sur une tâche produit une chaîne d’actions qu’aucune inspection ponctuelle ne couvre, et la surveillance doit donc suivre la durée du travail plutôt que la longueur d’un message.

Les clients qui refusaient les trente jours d’Anthropic

Le calendrier ne doit rien au hasard. Anthropic a annoncé en juillet une politique de rétention qui autorise la conservation des sessions et des conversations jusqu’à trente jours sur ses modèles dits couverts, la classe Mythos et les systèmes futurs de capacité comparable. Plusieurs grands comptes manipulant des données sensibles ont mal pris la nouvelle.

Anthropic encadre pourtant cette rétention. La revue humaine passe par un chemin d’accès contrôlé, un petit groupe de relecteurs approuvés, et chaque session de consultation est inscrite dans un journal que ces relecteurs ne peuvent ni effacer ni modifier. Le dispositif est sérieux, mais il repose sur une promesse de gouvernance plutôt que sur l’absence de données, et la maison a déjà laissé un garde-fou hors service sans s’en apercevoir quand son filtre dédié aux risques biologiques est resté inactif onze mois.

Pour un acheteur, l’arbitrage devient lisible. D’un côté une donnée qui existe pendant trente jours avec des garde-fous documentés, de l’autre une donnée qui n’existe pas chez le fournisseur mais une détection dont personne n’a encore vu les chiffres de performance. Les deux positions se défendent, et elles ne s’adressent pas aux mêmes directions.

Ce terrain est celui où OpenAI perd du terrain depuis des mois. L’adoption en entreprise penche du côté d’Anthropic, comme nous l’avions relevé quand un indice d’usage professionnel a placé Anthropic devant OpenAI. Reprendre l’avantage sur le seul critère de la confidentialité est une manière de contourner la bataille sur la qualité des modèles.

Les équipes concernées sont celles qui achètent déjà des sièges. Le lab a construit son offre professionnelle par étages, et nous avions détaillé le dernier en date quand ChatGPT Business a lancé un siège Premium à 125 dollars. La confidentialité vient s’ajouter à ce catalogue comme une option de conformité, pas comme une fonctionnalité produit.

La toile de fond financière rend la manœuvre plus lisible encore. Anthropic tourne à un rythme de 65 milliards de dollars de revenus annualisés, sa croissance trimestrielle dépasse celle d’OpenAI sur la période récente, et les deux entreprises préparent leur arrivée en Bourse. Dans ce contexte, un différenciant de conformité vaut autant qu’un point de benchmark.

Le secteur public suit la même pente. Nous avions mesuré la dépendance installée quand ChatGPT a capté 88 % des achats d’IA du Congrès américain, un type de client pour qui la question du stockage des échanges se règle avant celle des performances.

D’autres articles sur Horizon

• Claude conçoit des protéines qui fonctionnent en labo
• Cursor Origin défie GitHub pendant six heures de panne
• OpenAI gèle son plus gros entraînement d’IA

Un argument commercial avant le livre blanc de septembre

Ce qui est annoncé aujourd’hui reste un aperçu réservé à des clients sélectionnés. Le déploiement plus large et le document technique détaillé sont attendus en septembre, ce qui laisse un mois pendant lequel l’argument circule sans que personne ne puisse en vérifier le fonctionnement.

Les concurrents sont désormais tenus de se positionner. Un lab vient d’affirmer qu’il est possible de surveiller les abus sans garder la donnée, ce qui transforme toute rétention en choix à justifier plutôt qu’en contrainte technique. Anthropic, Google et Mistral vendent aux mêmes directions informatiques, avec les mêmes exigences de conformité.

Une réserve mérite d’être posée sur la capacité d’OpenAI à tenir sa propre gouvernance. Le lab a supprimé une structure interne dédiée aux risques les plus graves, dossier que nous avons traité quand l’équipe des risques catastrophiques a été fermée et son travail redistribué. Promettre une détection fine suppose des équipes pour la faire vivre.

Le précédent d’en face invite à la même prudence, puisque le filtre biologique resté inactif chez Anthropic n’a été détecté par personne pendant presque un an. Un dispositif de sécurité vaut par son exploitation dans la durée, pas par son annonce.

Le point à surveiller tient en une question simple. Le livre blanc de septembre dira si le signal remonté suffit à qualifier un abus sans jamais rouvrir la conversation, ou si l’entreprise devra demander au client de partager le contexte à chaque cas sérieux. Dans le second cas, la promesse de rétention nulle tiendra sur le papier tout en déplaçant la charge de preuve vers l’acheteur.

Affaire à suivre sur Horizon.