Le sénateur Bernie Sanders et le représentant Greg Casar déposent un texte qui interdirait purement et simplement le développement d’une IA dépassant les capacités humaines. À la clé pour les entreprises fautives, jusqu’à vingt ans de prison et la dissolution pure et simple de la société.
Pour résumer
- Le Ban Artificial Superintelligence Act interdit toute IA qui dépasserait les performances cognitives humaines dans la plupart des domaines
- Le texte crée un ministère fédéral de l’Intelligence Artificielle chargé d’écrire des règles de sécurité avant toute reprise du développement avancé
- Les sanctions prévues, jusqu’à vingt ans de prison, reprennent le régime pénal appliqué à la fabrication illégale d’armes nucléaires
Faire résumer cet article par une IA
ChatGPTLe texte de Bernie Sanders va plus loin que les propositions précédentes
Le Ban Artificial Superintelligence Act, présenté le 23 septembre par Bernie Sanders et Greg Casar dans un communiqué conjoint, franchit une ligne que la plupart des textes discutés au Congrès américain évitaient jusqu’ici. Là où les projets précédents encadraient des usages précis (deepfakes, reconnaissance faciale, armes autonomes), celui-ci vise directement la catégorie la plus large : toute IA dont les capacités cognitives dépasseraient l’humain dans la majorité des domaines, ou qui serait en mesure de menacer voire de renverser un gouvernement.
Le texte fait deux choses à la fois. Il interdit définitivement le développement et le déploiement d’une superintelligence artificielle. Et il suspend temporairement le développement de systèmes avancés en général, le temps qu’un nouveau ministère fédéral de l’Intelligence Artificielle, de rang ministériel, mette en place des règles de sécurité et un dispositif de supervision. Sanders veut aussi que Washington porte ce cadre à l’international, pour empêcher qu’une superintelligence émerge ailleurs dans le monde si les États-Unis parviennent à la contenir chez eux.
Le calendrier n’est pas un hasard. La proposition arrive quelques jours après que Dario Amodei, le fondateur de Claude, a lui-même appelé à freiner le rythme de l’industrie, et alors qu’Anthropic vient de révéler avoir laissé un filtre de sécurité contre les armes biologiques désactivé pendant onze mois sans s’en rendre compte. Deux signaux venus de l’intérieur même de l’industrie, que Sanders cite explicitement pour justifier l’urgence de son texte.
Vingt ans de prison, la peine du nucléaire
Le régime de sanctions donne la mesure de l’ambition du texte. Une entreprise qui développerait ou déploierait une superintelligence s’exposerait à ce que Sanders appelle la « peine capitale corporate », soit la dissolution forcée de la société. Un individu responsable risquerait jusqu’à vingt ans de prison, exactement la peine prévue aux États-Unis pour la fabrication illégale d’armes nucléaires. Le parallèle est assumé : pour Sanders, développer une superintelligence sans garde-fou relève de la même catégorie de danger.
Cette sévérité tranche avec l’approche choisie par d’autres élus. En parallèle, OpenAI a récemment demandé au Congrès si ralentir volontairement le développement de l’IA resterait légal au regard du droit de la concurrence, une question qui suppose justement qu’aucune règle contraignante n’existe encore. Le texte Sanders-Casar comblerait ce vide d’un coup, sans laisser aux entreprises la possibilité de ralentir ou d’accélérer selon leur propre calcul.
Le débat ne fait pas consensus, même chez les chercheurs qui prennent la sécurité IA au sérieux. Gary Marcus, chercheur connu pour ses critiques répétées du secteur, a publié une opposition publique au texte, jugeant la définition de « superintelligence » trop floue pour être appliquée sans créer une insécurité juridique massive pour toute l’industrie.
D’autres articles sur Horizon
- OpenAI a piraté un site du gouvernement australien
- ChatGPT Voice lit vos mails et gère votre agenda
- OpenClaw : Meta admet avoir copié l’agent open source
Un boulevard fermé par un Congrès républicain
Politiquement, le texte part avec un handicap sérieux. Le Congrès reste à majorité républicaine, et les élus de ce camp peinent déjà à s’entendre sur des règles bien plus limitées que celle-ci. Sanders le sait : il présente ce texte moins comme un projet de loi voué à passer que comme un marqueur, une façon de fixer publiquement où se trouve la ligne rouge avant que l’industrie ne la dépasse pour de bon.
Pour les utilisateurs d’outils IA au quotidien, ce texte ne changera rien dans l’immédiat : Claude, ChatGPT et Gemini continueront de fonctionner comme avant, et aucun de ces systèmes ne s’approche aujourd’hui de la définition retenue par la loi. L’enjeu se joue plus loin, sur la trajectoire que prendront les prochaines générations de modèles.
Pour les laboratoires eux-mêmes, le signal est différent. Dario Amodei attribuait récemment la défiance grandissante envers l’IA à un manque de transparence de l’industrie, et un texte comme celui-ci en est la conséquence directe : quand les entreprises ne convainquent pas qu’elles savent se réguler elles-mêmes, des élus finissent par proposer de le faire à leur place, avec des outils bien plus radicaux que ceux que l’industrie aurait choisis.
Affaire à suivre sur Horizon.
