Un projet de loi présenté aux États-Unis entend empêcher les entreprises de créer une intelligence artificielle surpassant les capacités humaines. Porté par le sénateur Bernie Sanders et le représentant Greg Casar, le texte prévoit d’interdire durablement la « superintelligence » et de suspendre temporairement le développement des IA les plus avancées. Une proposition spectaculaire, qui replace au cœur du débat une question encore largement théorique : que se passerait-il si une machine devenait réellement plus intelligente que nous ?
À retenir
- Le Ban Artificial Superintelligence Act veut interdire le développement et le déploiement d’IA dépassant les capacités cognitives humaines.
- Le texte prévoit également une pause temporaire sur certaines IA avancées et la création d’un Département américain de l’Intelligence artificielle.
- Aucune superintelligence n’existe aujourd’hui, mais certains chercheurs et dirigeants de l’IA redoutent qu’un système bien plus intelligent que l’humain ne devienne extrêmement difficile à contrôler.
Les États-Unis pourraient-ils décider qu’une intelligence artificielle est tout simplement trop puissante pour avoir le droit d’exister ? C’est l’idée radicale défendue par Bernie Sanders et Greg Casar. Les deux élus américains avaient fait connaître leur intention début septembre et ont officiellement déposé leur Ban Artificial Superintelligence Act ce mercredi 23 septembre.
Le texte ne se contente pas de proposer davantage de règles pour ChatGPT, Gemini ou Claude. Il vise une catégorie de systèmes qui n’existe pas encore : les intelligences artificielles capables de surpasser l’être humain et, potentiellement, d’échapper durablement à son contrôle.
Le projet a peu de chances d’être adopté en l’état par le Congrès américain, mais son contenu illustre l’ampleur prise par les inquiétudes entourant les prochaines générations d’IA. Plusieurs chercheurs issus de grands laboratoires soutiennent d’ailleurs la démarche, même si le niveau réel de danger associé aux futures IA demeure très discuté.
Un projet de loi qui veut aller jusqu’à interdire certaines IA
Le texte définit notamment la superintelligence comme un système surpassant les capacités cognitives humaines ou doté de capacités suffisantes pour planifier et exécuter la destruction ou la perte de contrôle de l’humanité.
Le développement et le déploiement de tels systèmes deviendraient interdits.
Mais Sanders et Casar veulent agir bien avant qu’une telle IA soit effectivement créée. Leur projet prévoit aussi de suspendre temporairement le développement des systèmes d’intelligence artificielle les plus avancés, en attendant l’établissement de nouvelles règles fédérales de sécurité.
Un nouveau Department of Artificial Intelligence, organisme fédéral de rang ministériel, serait chargé de superviser les modèles les plus puissants, de détecter leurs capacités dangereuses et d’autoriser leur éventuel déploiement. La proposition prévoit également de lourdes sanctions en cas de contournement de ces interdictions, pouvant atteindre 20 ans de prison dans certains cas.
Enfin, le texte ne se limite pas au territoire américain. Il invite les États-Unis à négocier des accords internationaux et à mobiliser notamment les contrôles à l’exportation pour empêcher le développement de superintelligences ailleurs dans le monde.
Une ambition particulièrement ardue à concrétiser, alors que les États-Unis et la Chine, tout comme plusieurs autres pays, considèrent l’IA comme une technologie stratégique.
C’est quoi une superintelligence ?
Le terme peut donner l’impression de sortir tout droit d’un film de science-fiction. Il possède pourtant une définition relativement simple.
Une intelligence artificielle générale, ou AGI, désigne une IA capable d’atteindre ou de dépasser l’être humain dans un très grand nombre de tâches intellectuelles différentes. Elle ne serait plus seulement excellente pour rédiger du texte, reconnaître des images ou programmer, mais capable de raisonner et de s’adapter à pratiquement tous les types de situations.
La superintelligence, souvent désignée par l’acronyme ASI pour Artificial Superintelligence, constitue l’étape suivante.
Google DeepMind décrit ainsi une intelligence artificielle générale superintelligente comme un système dont l’intelligence et les capacités cognitives excéderaient celles des meilleurs représentants de l’espèce humaine.
Une IA suffisamment compétente pourrait contribuer à concevoir une version plus performante d’elle-même, qui participerait ensuite à la création d’une nouvelle génération encore plus avancée.
Tout cela demeure toutefois hypothétique. Aucune superintelligence n’existe actuellement et personne ne sait avec certitude si une telle technologie pourra un jour voir le jour.
Pourquoi les superintelligences effraient-elles ?
Le premier problème tient à quelque chose de très simple : comment contrôler une intelligence plus intelligente que ceux qui cherchent à la contrôler ?
Les méthodes actuelles permettant d’encadrer les modèles reposent largement sur des humains capables d’évaluer leurs réponses et de juger si leur comportement est correct. Cette logique devient bien plus délicate si le système possède des compétences largement supérieures à celles de ses superviseurs.
OpenAI résumait déjà cette difficulté en 2023 : un modèle superhumain pourrait, par exemple, produire des millions de lignes de code extrêmement complexes qu’aucun être humain ne serait réellement en mesure d’auditer dans leur intégralité.
C’est ce que les chercheurs appellent généralement le problème de l’alignement : comment s’assurer qu’une IA très puissante poursuit effectivement les objectifs souhaités par les humains ?
Il ne suffit pas forcément de lui demander de « faire le bien ». Une instruction mal définie pourrait conduire un système extrêmement compétent à optimiser un objectif de manière imprévue.
S’ajoute à cela la question de l’autonomie. Une IA capable d’utiliser Internet, d’écrire du code, de piloter d’autres outils ou de déléguer des tâches à des agents logiciels disposerait de bien plus de moyens d’agir sur le monde qu’un simple chatbot attendant une question.
Les scénarios les plus inquiétants imaginent alors une IA cherchant à esquiver sa désactivation, manipuler ses opérateurs ou acquérir davantage de ressources pour atteindre l’objectif qui lui a été assigné.
Google DeepMind soulignait encore en juin 2026 que concevoir une superintelligence uniquement comme une machine cherchant à optimiser une tâche pourrait engendrer des comportements difficiles à concilier avec la coopération et la préservation de l’autonomie humaine.
Un deuxième risque porte sur l’utilisation humaine de ces capacités. Même parfaitement obéissante, une IA extrêmement avancée pourrait devenir dangereuse entre de mauvaises mains : cyberattaques automatisées, conception d’armes biologiques, désinformation à très grande échelle ou développement de nouvelles armes autonomes figurent parmi les scénarios étudiés.
Reste enfin la question du pouvoir. Si une superintelligence procurait un avantage économique, scientifique ou militaire considérable, l’entreprise ou l’État qui la contrôlerait pourrait bénéficier d’une supériorité sans précédent sur ses concurrents.
Tous les chercheurs ne croient toutefois pas à la probabilité de ces scénarios catastrophiques. Certains spécialistes estiment que les discussions sur l’extinction humaine détournent l’attention de problèmes déjà observables : fraude, surveillance, discriminations algorithmiques, désinformation ou conséquences de l’automatisation sur l’emploi. Le niveau de risque associé à une hypothétique superintelligence reste donc vivement débattu.
C’est précisément ce qui rend la proposition de Sanders et Casar inhabituelle. Leur projet de loi défend l’idée qu’il ne faudrait pas attendre de connaître la réponse.
