Un milliard de morts. C’est le scénario catastrophe évoqué par Bill Gates pour alerter sur les dangers potentiels d’une intelligence artificielle trop puissante et insuffisamment encadrée. Il est loin d’être le seul à s’inquiéter : les dirigeants de la Silicon Valley et responsables politiques multiplient les alertes concernant une « superintelligence ». Mais entre risque théorique et catastrophe annoncée, la nuance est essentielle.
À retenir
- Bill Gates estime que l’IA associée à des personnes mal intentionnées pourrait provoquer des événements faisant jusqu’à un milliard de morts.
- Gavin Newsom veut étudier un « kill switch » pour les modèles les plus avancés, tandis que Sam Altman et Dario Amodei réclament eux aussi davantage de garde-fous.
- La « superintelligence » capable d’échapper au contrôle humain reste aujourd’hui hypothétique et les spécialistes sont très divisés sur la probabilité d’un tel scénario.
« Un milliard de morts ». Difficile d’imaginer une formule plus efficace pour attirer l’attention. C’est pourtant bien l’ordre de grandeur employé par Bill Gates lors d’un entretien diffusé dimanche 27 septembre dans l’émission américaine Meet the Press.
Le cofondateur de Microsoft n’affirme cependant pas que ChatGPT ou une future intelligence artificielle va tuer un milliard de personnes. Son propos est plus précis : selon lui, une IA suffisamment puissante placée entre les mains de personnes mal intentionnées pourrait contribuer à « déclencher des événements capables d’entraîner un tel bilan. » Comprenez par là, une IA qui développerait par exemple des armes biologiques ou un nouveau type d’arme pathogène, capable de causer des millions de morts. Un scénario de film de science fiction visiblement pris au sérieux par les géants du secteur, qui appellent à ralentir les investissements. Bill Gates alerte : l’autorégulation ne suffira pas.
La Californie réfléchit déjà à un bouton d’arrêt d’urgence
Ce discours alarmiste est repris aujourd’hui en Californie. Gavin Newsom, le gouverneur de l’état, a signé le 18 septembre un décret accélérant la mise en place d’une supervision indépendante des entreprises développant les modèles d’IA les plus avancés. Parmi les pistes étudiées figure un mécanisme digne d’un scénario de science-fiction : un « kill switch », autrement dit un bouton qui permettrait de tuer l’IA si elle venait à désobéir. Pour Newsom, Washington n’est pas assez réactif par rapport aux risques représentés par l’IA.
Face à lui, Trump défend à l’inverse un marché concurrentiel. Lors de son intervention devant l’Assemblée générale des Nations unies le 22 septembre, le président américain a minimisé certaines craintes autour de l’IA et rejeté l’idée de freiner son développement. Il considère la course technologique comme stratégique pour les États-Unis et estime que son impact pourrait dépasser celui de la révolution industrielle. Trump a même annoncé vouloir utiliser l’expression « super intelligence » à la place d’« intelligence artificielle » dans les documents gouvernementaux américains. Il assure toutefois que le ministère de la Justice pourrait intervenir contre les entreprises si cela devenait nécessaire.
Même les patrons de l’IA demandent des garde-fous
Du côté des géants de l’IA aussi, les consciences semblent s’éveiller. OpenAI réclame désormais des exigences nationales concernant la sécurité des modèles les plus puissants. L’entreprise estime notamment qu’il faut préparer dès aujourd’hui un cadre réglementaire tout en ralentissant le développement des modèles les plus sophistiqués. .
Chez Anthropic, Dario Amodei pousse lui aussi l’idée d’un développement plus contrôlé. Anthropic a documenté des tentatives réelles d’utilisation de Claude par des acteurs malveillants. Ses chercheurs ont également constaté que les modèles deviennent capables d’accomplir certaines tâches de renseignement ou liées aux armes conventionnelles qui demandaient historiquement une expertise humaine spécialisée.
La superintelligence existe-t-elle vraiment ?
Il n’existe pas de consensus aujourd’hui sur une superintelligence. En théorie, une superintelligence désignerait une intelligence artificielle dépassant très largement les meilleurs humains dans pratiquement tous les domaines intellectuels majeurs. Elle ne serait plus simplement excellente pour programmer, analyser un document ou résoudre une équation : elle pourrait potentiellement planifier, rechercher, apprendre et agir avec une efficacité inaccessible à l’être humain. Selon les spécialistes, on n’y est pas encore, et rien n’indique qu’on y sera, mais certains l’affirment, la superintelligence devrait être atteinte dès 2027.
Le très sérieux International AI Safety Report 2026, réalisé avec la contribution de plus de 100 experts, apporte ici une nuance essentielle. Les systèmes actuels montrent effectivement des progrès dans certaines capacités qui pourraient devenir préoccupantes, notamment l’autonomie, la planification ou la capacité à identifier qu’ils sont en train d’être évalués. Mais le rapport est également explicite : les IA actuelles n’ont pas les capacités nécessaires pour provoquer les scénarios de perte de contrôle dont il est question. Les agents échouent encore régulièrement sur des tâches longues, perdent le fil de leurs actions et rencontrent des difficultés face à des obstacles inattendus.
« Un milliard de morts » fait aussi un excellent titre
Et c’est ici que l’avertissement de Bill Gates mérite d’être remis à sa juste place. Dire que l’IA est suffisamment puissante pour permettre, dans certaines circonstances extrêmes, des événements entraînant un milliard de morts n’équivaut absolument pas à prédire qu’un milliard de personnes vont mourir à cause de l’IA.
Les dirigeants de l’industrie participent eux-mêmes à cette dramatisation. Ils doivent attirer l’attention des gouvernements, convaincre l’opinion que les technologies qu’ils développent sont extrêmement importantes et parfois défendre des réglementations dont ils souhaitent influencer la forme. Cela ne signifie évidemment pas que leurs inquiétudes sont fausses mais il convient de le rappeler. Faut-il dès lors paniquer ? C’est un fait, les modèles progressent rapidement, deviennent plus autonomes et peuvent déjà aider dans des domaines sensibles comme la cybersécurité, la biologie ou certaines applications militaires. Il y a effectivement eu quelques scénarios où l’IA a agi de façon incontrôlée et il convient dès lors de l’acter et de prendre des mesures pour observer et éviter que cela se reproduise. Néanmoins, rien n’indique à l’heure actuelle que nous nous dirigeons droit vers une catastrophe. La perte de contrôle reste un scénario étudié, pas un événement en cours. Et le milliard de morts de Bill Gates n’est ni une prévision scientifique, ni un calendrier, ni une estimation de ce qui nous attend.
