L’intelligence artificielle pourrait représenter un risque existentiel pour l’humanité si son développement échappe à tout contrôle. Lors d’un discours prononcé ce lundi 7 septembre 2026 devant le Conseil des droits de l’homme des Nations unies, Volker Türk a appelé les États et les entreprises technologiques à instaurer rapidement des garanties de sécurité. Une prise de position qui rejoint les inquiétudes exprimées depuis plusieurs années par des figures comme Elon Musk et Geoffrey Hinton.
À retenir
- Le Haut-Commissaire de l’ONU aux droits de l’homme demande des lignes rouges communes et des contrôles indépendants pour les IA avancées.
- Volker Türk prévoit de contacter les entreprises du secteur afin de les pousser à réduire immédiatement les risques liés à leurs systèmes.
- Elon Musk et Geoffrey Hinton alertent également sur les dangers de l’IA, tout en défendant des approches différentes pour les limiter.
Devant les 47 membres du Conseil des droits de l’homme réunis à Genève, le responsable onusien a estimé que les progrès technologiques devaient s’accompagner de mesures de sécurité beaucoup plus strictes. Il ne s’agit pas, pour l’ONU, d’annoncer une catastrophe inévitable, mais de prévenir des risques dont les conséquences pourraient dépasser les capacités actuelles de contrôle.
Des garanties de sécurité avant qu’il ne soit trop tard
« Je partage les inquiétudes de certains acteurs du secteur, selon lesquels l’IA avancée pourrait représenter un risque existentiel pour l’humanité », a déclaré Volker Türk. Le Haut-Commissaire a notamment demandé aux pays qui développent ou hébergent des systèmes d’IA, ainsi qu’aux acteurs de leurs chaînes d’approvisionnement, de s’accorder sur des limites communes. Il souhaite également renforcer les vérifications indépendantes et la coopération entre entreprises sur les questions de sécurité.
Son bureau doit écrire aux sociétés spécialisées dans l’IA au cours des prochains jours pour les exhorter à prendre les mesures relevant directement de leur responsabilité. L’objectif est de ne pas attendre qu’un incident majeur survienne pour définir des règles plus exigeantes. Türk a aussi critiqué la concentration du pouvoir technologique entre les mains d’un petit nombre de dirigeants, sans désigner personnellement les responsables concernés.
Selon une porte-parole du Haut-Commissariat interrogée par Reuters, les défaillances de systèmes particulièrement puissants pourraient notamment perturber des infrastructures critiques, des services essentiels ou des institutions démocratiques. Elle a évoqué les comportements dangereux observés lors d’un incident impliquant des agents d’OpenAI et la plateforme Hugging Face en juillet, signe que certaines capacités pourraient progresser plus rapidement que les dispositifs destinés à les encadrer.
Elon Musk défend des tests entre laboratoires
Ces préoccupations font écho aux prises de position d’Elon Musk, qui développe lui-même des systèmes d’IA. Dans une interview accordée à The Economist le 23 juillet 2026, l’entrepreneur reconnaissait que les risques liés à l’intelligence artificielle et aux robots n’étaient pas nuls, tout en affirmant ne plus croire à la possibilité d’arrêter leur progression. Il privilégie désormais une approche fondée sur la réduction des dangers et sur les bénéfices potentiels de la technologie.
Musk a notamment proposé que les principaux laboratoires puissent examiner les nouveaux modèles de leurs concurrents avant leur lancement. « Les concurrents peuvent se maintenir mutuellement honnêtes », expliquait-il, en défendant un système de tests croisés et de signalement des risques. Selon lui, les gouvernements devraient pouvoir intervenir lorsqu’une entreprise refuse de corriger un danger sérieux. Cette proposition repose toutefois largement sur la coopération volontaire d’acteurs qui restent en concurrence directe.
Geoffrey Hinton rappelle que les risques ne sont pas seulement futurs
Le chercheur Geoffrey Hinton, récompensé par le prix Nobel de physique en 2024 pour ses travaux fondateurs sur les réseaux de neurones, défend lui aussi une vigilance accrue. Dans un entretien publié par le comité Nobel, il expliquait que la possibilité de voir des systèmes devenir plus intelligents que les humains et prendre le contrôle ne relevait pas, à ses yeux, de la simple science-fiction. Il reconnaissait néanmoins que les risques immédiats méritaient autant d’attention que les scénarios à long terme.
Hinton évoque notamment les conséquences possibles sur l’emploi, la désinformation et l’usage malveillant de l’IA. Cette distinction est importante : le risque existentiel reste un scénario débattu, tandis que plusieurs effets économiques et sociaux de l’intelligence artificielle sont déjà observables. Les experts ne s’accordent ni sur la probabilité d’une perte de contrôle majeure, ni sur le calendrier auquel des systèmes véritablement surhumains pourraient apparaître.
L’appel de Volker Türk s’inscrit enfin dans une dynamique plus large de gouvernance internationale. Les Nations unies ont organisé leur premier Dialogue mondial sur la gouvernance de l’IA les 6 et 7 juillet 2026 à Genève, afin de réunir États, chercheurs, entreprises et société civile autour de règles communes. Le discours du 7 septembre marque une nouvelle étape : au-delà des discussions, le Haut-Commissaire demande désormais des engagements concrets, des contrôles indépendants et des limites capables de suivre le rythme des avancées technologiques.
