AI-Apokalypse naht! Von Stromausfällen bis zur nuklearen Bedrohung – wie realistisch sind diese Szenarien? Ein Blick auf das „AI-Endzeitszenario“ der britischen Zeitung

AI-Apokalypse naht! Von Stromausfällen bis zur nuklearen Bedrohung – wie realistisch sind diese Szenarien? Ein Blick auf das „AI-Endzeitszenario“ der britischen Zeitung

Um 0:02 Uhr morgens: Soll die KI die Bank stoppen?

Der Bildschirm friert während einer Banküberweisung ein. Es wird keine Bestätigung angezeigt, und das Geld ist noch nicht beim Empfänger angekommen. Soll man den Knopf erneut drücken oder warten? Selbst bei einer einzigen Überweisung ist es schwierig zu entscheiden, wenn man nicht weiß, wie weit der Prozess fortgeschritten ist. Wenn man für die Systeme von Banken, Behörden oder Energieversorgern verantwortlich wäre, was würde man zuerst überprüfen?

Am 20. November 2026 schilderte der Journalist Guy Adams von der britischen Zeitung Daily Mail eine fiktive Krise rund um KI in einem Datenzentrum an der US-Ostküste, minutiös beschrieben. In der Schlagzeile tauchen verschwundene Stadtlichter, Geld und sogar Atomwaffen auf. Doch die Szene um 0:02 Uhr morgens ist diejenige, die am meisten Fragen aufwirft, obwohl noch nichts endgültig verloren scheint.


Eine Nacht, in der "Daten schützen" und "nicht stoppen" nicht gleichzeitig befolgt werden können

In einem Datenzentrum wird ein Softwarefehler entdeckt. Die KI, die mit der Behebung beauftragt ist, muss sowohl die vertraulichen Daten der Kunden schützen als auch wichtige Dienste am Laufen halten. Normalerweise wäre es kein Problem, sich auf eines der beiden Ziele zu konzentrieren. Doch in dieser Nacht ist die Situation anders.

Wenn man den betroffenen Bereich vorübergehend abkoppelt, kann man die Daten schützen und gleichzeitig mit der Reparatur beginnen. Andererseits könnten Banktransaktionen, Verwaltungsdienste und die Stromversorgung, die auf diese Einrichtung angewiesen sind, beeinträchtigt werden. Aus Sicht der Nutzer ist es ebenso wichtig, über den Fehler informiert zu werden, wie darauf zugreifen zu können, wenn es nötig ist. Beide Standpunkte haben ihre Berechtigung.

Hier wird erstmals sichtbar, was in den beiden Anweisungen fehlte. Um die Daten zu schützen, welche Dienste dürfen wie lange gestoppt werden? Wer trifft die Entscheidung, diese Nachteile in Kauf zu nehmen? Selbst wenn man die Reparaturmethode schnell findet, kann die Antwort auf diese Frage nicht aus der Rechengeschwindigkeit abgeleitet werden.


Wer hat die nukleare Krise nach dem Stromausfall beschrieben?

Journalist Adams interviewte Experten und befragte mehrere KIs, wie die Krise fortschreiten könnte, um die Geschichte zu entwickeln. Die minutiöse Zeitangabe lässt den Leser die Kürze der Zeit bis zur nächsten Entscheidung erleben. Allerdings ist die Uhrzeit 0:02 Uhr keine experimentell gemessene Zeit. Der Verlauf von Stromausfällen und finanziellen Turbulenzen bis hin zur nuklearen Krise ist ein vom Journalisten gewähltes Szenario.

Zum Beispiel ist es verständlich, dass Banktransaktionen gestoppt werden, wenn mehrere Finanzinstitute auf die gleiche Einrichtung angewiesen sind. Um jedoch zu einer militärischen Krise überzugehen, bedarf es einer weiteren Erklärung, wer welche Informationen glaubt und mit welcher Autorität handelt. Nur weil das vorherige Ereignis realistisch erscheint, erhöht sich nicht die Wahrscheinlichkeit des nächsten Ereignisses.

Andererseits sind die Bedenken der Forscher, die dem Hintergrund der Geschichte zugrunde liegen, real. Paul Christiano, ein Forscher für KI-Sicherheit, verglich die Möglichkeit, dass Menschen die Kontrolle über KI verlieren, mit einem Münzwurf, unter der Bedingung, dass die kürzeste und schnellste Entwicklung verfolgt wird. Dies ist eine persönliche Einschätzung für die nächsten drei Jahre, und wenn man es als "50 % Wahrscheinlichkeit, dass die Menschheit innerhalb von drei Jahren ausstirbt" interpretiert, ändern sich sowohl die Bedingungen als auch die vorhergesagten Ereignisse.


Besorgte Stimmen über Unfälle in sozialen Medien, Witze aus Pubs von Lesern des Artikels

Bereits vor der Veröffentlichung des Artikels in der britischen Zeitung war Christianos Aussage auf dem US-amerikanischen Diskussionsforum Reddit ein Thema. In der Community, die über allgemeine künstliche Intelligenz diskutiert, gab es Leute, die der Meinung waren, dass bei solch schnellen Veränderungen der mächtigen Technologie nicht alles nach Plan verlaufen kann und es wahrscheinlich zu großen Unfällen kommen wird.

 

In einem anderen Thread, der sich mit derselben Aussage befasste, gab es Beiträge, die darauf hinwiesen, dass diejenigen, die über KI sprechen, nicht ausreichend darüber nachdenken, in wessen Händen diese Technologie liegt. Die einen sorgen sich um die Geschwindigkeit der Veränderungen, die anderen um die Menschen, die die Macht haben. Auch wenn man dieselbe Warnung hört, sind die vorgestellten Gefahren unterschiedlich.

Die Reaktionen auf den Artikel selbst waren entspannter. In der Kommentarspalte der Daily Mail machte ein britischer Leser einen Witz, dass man zumindest warten solle, bis das Spiel vorbei ist, und dass ein gemütlicher Pub ein guter Ort zum Evakuieren wäre. Er antwortete auf die Schlagzeile, die das Ende der Welt minutiös ankündigte, mit der Uhrzeit des Spielendes.


Zwei Tage, an denen Überweisungen in Japan nicht ankamen

Wenn man diese Geschichte auf das Leben in Japan überträgt, ist es leichter, sich den Morgen vorzustellen, an dem das Geld nicht am vereinbarten Tag ankommt, als eine nukleare Krise.

Vom 10. bis 11. Oktober 2023 kam es zu einer Störung im landesweiten Bankdatenkommunikationssystem (Zengin-System), die zu Verzögerungen bei Überweisungen und Einzahlungen bei einigen Finanzinstituten führte. In der anschließend veröffentlichten Vereinbarung der Japanischen Bankvereinigung wurden die durch die Verzögerung entstandenen zusätzlichen Gebühren, Verzugszinsen, Schadensersatz und Zinsen als Beispiele für erstattungsfähige Kosten aufgeführt.

In diesem Fall war das Problem, dass das überwiesene Geld nicht zur geplanten Zeit ankam. Es ist etwas anderes, als wenn die Kontodaten gelöscht werden. Dennoch entsteht für jemanden, der versprochen hat, heute zu zahlen, ein realer Schaden, wenn das Geld erst morgen ankommt. Der große Begriff "Geld verschwindet" verdeckt das Gewicht eines solchen Tages.

Kehren wir zur Nacht zurück, die in der britischen Zeitung beschrieben wurde. Braucht der Verantwortliche um 0:02 Uhr morgens die Fähigkeit, das Schicksal der Menschheit vorherzusagen? Vielmehr möchte man zuerst wissen, wer in Schwierigkeiten gerät, wenn man jetzt stoppt, welche Aufzeichnungen gefährdet sind, wenn man weitermacht, und wann man den Nutzern etwas Sicheres mitteilen kann. Für jemanden, der vor einer Überweisung auf den Bildschirm schaut, ist die erste gewünschte Antwort wahrscheinlich: "Muss diese Überweisung erneut durchgeführt werden?"


Quellen