L'apocalypse de l'IA approche ! De la panne d'électricité à la crise nucléaire, jusqu'où cela peut-il devenir réalité ? Lire le "scénario de fin du monde de l'IA" du journal britannique

L'apocalypse de l'IA approche ! De la panne d'électricité à la crise nucléaire, jusqu'où cela peut-il devenir réalité ? Lire le "scénario de fin du monde de l'IA" du journal britannique

À 0h02, l'IA devrait-elle arrêter la banque ?

L'écran s'est figé en plein milieu d'un virement bancaire. Aucun message de confirmation n'apparaît, et le destinataire n'a toujours rien reçu. Faut-il appuyer à nouveau sur le bouton ou attendre ? Même pour un seul transfert, il est difficile de décider sans savoir jusqu'où le traitement a progressé. Si vous étiez responsable d'un système bancaire, administratif ou de compagnie d'électricité, que vérifieriez-vous en premier ?

Le 20 novembre 2026, le journaliste Guy Adams du Daily Mail a décrit minute par minute une crise fictive autour de l'IA dans un centre de données de la côte est des États-Unis. Le titre évoque des lumières de ville qui s'éteignent, de l'argent qui disparaît, et même des armes nucléaires. Cependant, la scène la plus déconcertante de cette histoire est celle de 0h02, où tout ne semble pas encore perdu.


Une nuit où "protéger les données" et "ne pas arrêter" ne peuvent être respectés en même temps

Un dysfonctionnement logiciel est détecté dans un centre de données. L'IA chargée de la gestion doit à la fois protéger les données confidentielles des clients et maintenir les services essentiels en fonctionnement. En temps normal, il n'y a pas de problème à choisir l'un ou l'autre objectif. Mais cette nuit-là, les circonstances sont différentes.

Si l'on déconnecte temporairement les parties suspectées d'être affectées, on peut protéger les données tout en procédant à la réparation. D'un autre côté, cela pourrait perturber les transactions bancaires, les services administratifs et l'approvisionnement en électricité qui dépendent de ces installations. Du point de vue des utilisateurs, ils veulent être informés des dysfonctionnements tout autant qu'ils veulent pouvoir utiliser les services quand ils en ont besoin. Les deux points de vue ont leurs raisons.

C'est ici que l'on commence à voir ce qui manquait dans les deux directives. Pour protéger les données, quels services peut-on arrêter, et pour combien de temps ? Qui prend la décision d'assumer ces désavantages ? Même si l'on trouve rapidement une méthode de réparation, la réponse à cette question ne découle pas de la vitesse de calcul.


Qui a imaginé une crise nucléaire après une panne d'électricité ?

Le journaliste Adams a interviewé des experts et interrogé plusieurs IA sur l'évolution de la crise pour construire son récit. La précision des horaires minute par minute permet au lecteur de ressentir l'urgence des décisions à prendre. Cependant, le chiffre de 0h02 n'est pas basé sur des mesures expérimentales. Le scénario allant de la panne d'électricité au chaos financier puis à la crise nucléaire est une intrigue choisie par le journaliste.

Par exemple, l'arrêt des transactions bancaires peut être compris dans le cadre d'une dépendance de plusieurs institutions financières à la même infrastructure. Pour progresser vers une crise militaire, il faut une autre explication sur qui croit quelles informations et avec quelles autorisations ils agissent. Le réalisme d'un événement précédent n'augmente pas nécessairement la probabilité de l'événement suivant.

D'un autre côté, les préoccupations des chercheurs en arrière-plan de l'histoire sont bien réelles. Paul Christiano, chercheur en sécurité de l'IA, a comparé la possibilité que les humains ne puissent plus contrôler l'IA à un lancer de pièce, sous la condition de poursuivre le développement le plus rapide et le plus court. C'est une évaluation personnelle sur les trois prochaines années, et si on la traduit par "50% de chances que l'humanité disparaisse dans les trois ans", les conditions et les événements prévus changent.


Sur les réseaux sociaux, des inquiétudes sur les accidents, des blagues de pub parmi les lecteurs de l'article

Avant même la publication de l'article du Daily Mail, les propos de Christiano faisaient déjà parler d'eux sur Reddit, un réseau social de type forum aux États-Unis. Dans la communauté discutant de l'intelligence artificielle générale, certains ont pris conscience que, compte tenu de la rapidité avec laquelle cette technologie puissante évolue, il est difficile de croire que tout se déroulera comme prévu, et qu'un grave accident pourrait se produire.

 

Dans un autre fil de discussion traitant des mêmes propos, un message soulignait que ceux qui parlent de l'IA ne réfléchissent pas suffisamment à qui détient cette technologie. Le premier s'inquiète de la rapidité du changement, tandis que le second se concentre sur les personnes qui détiennent le pouvoir. Même en entendant le même avertissement, les dangers envisagés diffèrent.

Parmi les réactions à l'article lui-même, certaines étaient plus légères. Dans les commentaires du Daily Mail, un lecteur britannique a plaisanté en disant qu'il espérait au moins que cela attendrait la fin du match, et que s'il devait évacuer, il préférerait un pub confortable. Il a ainsi répondu à un titre annonçant la fin du monde minute par minute par l'heure de fin du match.


Deux jours où les virements n'ont pas été reçus au Japon

Si l'on rapproche cette histoire de la vie quotidienne au Japon, il est plus facile d'imaginer un matin où l'argent promis n'est pas arrivé à la date prévue qu'une crise nucléaire.

Du 10 au 11 octobre 2023, une panne s'est produite dans le système de communication de données bancaires du Japon (Zengin System), retardant les virements et les dépôts entre certaines institutions financières. L'accord publié par l'Association des Banques Japonaises par la suite énumère les frais supplémentaires, les pénalités de retard, les dommages-intérêts de retard et les intérêts comme exemples de coûts couverts par la compensation.

Dans cet exemple, l'argent envoyé n'est pas arrivé à l'heure prévue. Ce n'est pas la même chose que de voir les enregistrements de compte disparaître. Pourtant, pour quelqu'un qui avait promis de payer dans la journée, le simple fait que cela arrive le lendemain cause un préjudice réel. Ce qui est difficile à voir avec le grand mot "l'argent disparaît", c'est le poids d'une seule journée.

Revenons à la nuit décrite par le journal britannique. Ce dont le responsable de 0h02 a besoin, ce n'est pas de la capacité de prédire la fin de l'humanité. Ce qu'il veut savoir d'abord, c'est qui sera affecté si l'on arrête maintenant, quels enregistrements seront en danger si l'on continue, et quand il pourra donner des informations fiables aux utilisateurs. Pour quelqu'un qui regarde l'écran avant un virement, la première réponse qu'il souhaite est sûrement une seule : "Faut-il recommencer ce transfert ?"


Sources