Das Geheimnis der fraktalen Muster, das die Grenzen der KI aufdeckt: Eine neue Entdeckung, die der Unvorhersehbarkeit auf den Grund geht

Wenn man mit denselben Lehrmaterialien, in derselben Reihenfolge und auf dieselbe Weise unterrichtet, bedeutet das nicht unbedingt, dass das resultierende KI-System sich identisch verhält.

Bei menschlichem Lernen mag das nicht überraschend sein. Aber was wäre, wenn bei einem Computer, dessen Berechnungsabläufe festgelegt sind, schon kleinste Unterschiede im Ausgangspunkt das Endergebnis beeinflussen könnten?

Ein Forscherteam der Universität Sydney hat neue Hinweise zur Lösung dieses Problems geliefert. Der Schlüssel liegt in Fraktalen, die auch bei Vergrößerung weiterhin komplexe Muster zeigen.

Laut einer am 5. November 2026 auf Phys.org vorgestellten Studie lässt sich die Varianz in den Lernergebnissen von KI nicht nur durch Unterschiede in der Hardware oder durch externe Zufallszahlen erklären. Es besteht die Möglichkeit, dass die Art und Weise, wie neuronale Netzwerke lernen, eine mathematische Struktur verbirgt, die die Vorhersage der Ergebnisse erschwert.

Nicht nur Computerfehler waren die Ursache

Die Forschung wurde von Professor Pulin Gong und Doktorand Andrew Ly von der Fakultät für Physik der Universität Sydney durchgeführt. Die Ergebnisse wurden in der Fachzeitschrift „Nature Machine Intelligence“ veröffentlicht.

Neuronale Netzwerke lernen, indem sie viele interne Zahlen, also Parameter, anpassen. Wenn es darum geht, Bilder zu erkennen, werden die Zahlen schrittweise anhand der Abweichung zwischen Vorhersage und Realität aktualisiert, um eine bessere Entscheidungsfähigkeit zu erreichen.

Bei diesem Lernprozess beeinflussen die Reihenfolge der Datenpräsentation und kleine Unterschiede in den Berechnungen das Ergebnis. Daher ist es natürlich, zunächst Zufallszahlen oder die Rechenumgebung zu überprüfen, wenn die Ergebnisse nicht übereinstimmen.

Die aktuelle Forschung hat jedoch ein tieferliegendes Problem untersucht.

Selbst in einer „deterministischen“ Umgebung, in der Daten und Lernverfahren identisch sind und dieselben Eingaben und Zustände zu denselben Berechnungsergebnissen führen sollten, kann eine minimale Änderung der Anfangsparameter dazu führen, dass das Lernen in eine andere Richtung verläuft.

Hier muss zwischen „vollständig identischen Bedingungen“ und „fast identischen Bedingungen“ unterschieden werden.

Diese Forschung behauptet nicht, dass sich die Ergebnisse ohne Grund ändern, selbst wenn der Ausgangszustand und die deterministischen Verfahren vollständig identisch sind. Das Problem besteht darin, dass selbst wenn man die kleinen Unterschiede im Ausgangspunkt minimiert, die Unterschiede in den Ergebnissen nicht wie erwartet abnehmen.

Das Lernen von KI anhand einer „farblich gekennzeichneten Karte“ verstehen

Um die Forschung zu verstehen, kann man das Lernen von KI mit einer Karte vergleichen.

Jeder Punkt auf der Karte repräsentiert eine Kombination von Parametern zu Beginn des Lernens. Wenn das Lernen zu einem bestimmten Ergebnis führt, wird der Ort blau gefärbt, und wenn es zu einem anderen Ergebnis führt, wird er orange gefärbt.

Die Sammlung von Ausgangspunkten, die zu demselben Ergebnis führen, wird in der Mathematik als „Attraktionsbecken“ bezeichnet.

Wenn die blauen und orangen Bereiche sauber getrennt sind, ist die Situation relativ einfach. Wenn der Ausgangspunkt weit genug vom Rand eines blauen Bereichs entfernt ist, kann man erwarten, dass man auch bei kleinen Abweichungen zum blauen Ergebnis gelangt.

Das Forschungsteam konzentrierte sich jedoch auf eine Struktur, bei der orangefarbene Punkte in blaue Bereiche eindringen und umgekehrt.

Selbst wenn ein Bereich auf den ersten Blick einheitlich gefärbt erscheint, können bei Vergrößerung andere Farben sichtbar werden. Auch bei weiterer Vergrößerung mischen sich die Punkte, die zu unterschiedlichen Endergebnissen führen, komplex miteinander.

Solche Strukturen werden als „riddled basins“ bezeichnet. Auf Japanisch könnte man es sich als Attraktionsbecken vorstellen, in das überall Löcher zu anderen Ergebnissen führen.

Obwohl man sich sicher fühlen könnte, wenn man den Ausgangspunkt genau untersucht, gibt es auch danach noch feine Vermischungen. Hier liegt der Grund, warum es schwierig ist, die Lernergebnisse vorherzusagen.

Was bedeutet „selbst bei 10 Milliarden Mal höherer Präzision keine Verbesserung“?

Das Forschungsteam untersuchte etwa 500.000 Lernprozesse, einschließlich Netzwerken für Bilderkennung und Textverarbeitung.

Laut dem Artikel zeigte ein relativ großes Bilderkennungsnetzwerk keine messbare Verbesserung der Reproduzierbarkeit, selbst wenn die Ausgangseinstellungen 10 Milliarden Mal präziser gemacht wurden.

Normalerweise möchte man glauben, dass das Ergebnis stabiler wird, wenn man die Fehler reduziert. Denn wenn man die Position genau misst, erreicht man leichter das Ziel, und wenn man die Zutaten genau abmisst, kann man das gleiche Gericht leichter reproduzieren.

Wenn jedoch Ausgangspunkte zu unterschiedlichen Zielen bis in sehr feine Maßstäbe vermischt sind, bedeutet eine Verringerung der Unterschiede in den Anfangswerten nicht unbedingt, dass die Ergebnisse übereinstimmen.

Allerdings bedeutet dieses „10 Milliarden Mal“ nicht, dass der Computer 10 Milliarden Mal leistungsfähiger gemacht wurde. Es handelt sich auch nicht um ein Experiment, bei dem die Lerndaten um das 10 Milliardenfache erhöht wurden.

Es geht um die Präzision der Einstellungen zu Beginn des Lernens. Aus diesem Ergebnis kann man nicht sofort schließen, dass es sinnlos ist, KI mehr Rechenressourcen hinzuzufügen.

„Etwa 48 %“ ist nicht die Fehlerquote der KI

Es gibt noch eine weitere auffällige Zahl.

Laut dem Artikel führte eine winzige Änderung von nur einem Bit in den Anfangseinstellungen des Netzwerks dazu, dass das Lernen in etwa 48 % der Fälle zu einer anderen internen Struktur führte.

Diese Zahl ist eindrucksvoll, sollte aber nicht missverstanden werden.

Es bedeutet nicht, dass die KI in etwa 48 % der Fälle falsch liegt, noch dass sich etwa 48 % der Antworten ändern. Es bezieht sich auf den Anteil der Lernprozesse, die aufgrund einer minimalen Änderung zu einem anderen internen Ziel führten.

Unterschiedliche interne Werte bedeuten nicht zwangsläufig, dass die Antworten, die der Nutzer erhält, unterschiedlich sind. Denn es ist möglich, dass unterschiedliche Parameterkombinationen dieselbe Ein- und Ausgabe-Beziehung realisieren.

Deshalb untersuchte die Forschung nicht nur die interne Struktur, sondern auch die Unterschiede in den Vorhersagen nach dem Lernen. In einem repräsentativen Experiment der veröffentlichten Preprint-Version blieb der Anteil der Eingaben, bei denen die Vorhersagen zweier Modelle auseinander gingen, bei durchschnittlich etwa 2,9 % konstant. Auch dies ist eine Zahl, die sich auf bestimmte experimentelle Bedingungen bezieht und nicht auf alle KI anwendbar ist.

Wichtig ist, nicht nur eine auffällige Zahl herauszugreifen, sondern zu überprüfen, was verglichen wurde und was sich unterschied.

Ist es möglich, Lernfähigkeit und Reproduzierbarkeit zu vereinen?

Die Forschung zeigte auch die Schwierigkeiten zwischen Leistung und Reproduzierbarkeit auf.

Die Einstellung, wie stark die Parameter während des Lernens aktualisiert werden, wird als „Lernrate“ bezeichnet. Grob gesagt, bestimmt sie, wie weit man bei einer Korrektur geht.

In den berichteten Experimenten wurde festgestellt, dass bei gut lernenden Einstellungen die Vorhersage und Reproduktion der Ergebnisse schwieriger wird, während bei einer Senkung der Lernrate die Reproduzierbarkeit zunimmt, aber die Effektivität des Lernens abnimmt.

Es ist verfrüht, zu verallgemeinern, dass „hochleistungsfähige KI immer instabil ist“. Wenn man jedoch die Einstellungen nur ändert, um die Zahlenstreuung zu reduzieren, könnte man andere wünschenswerte Eigenschaften verlieren.

Für Entwickler ist es notwendig, nicht einfach zu denken, dass „eine Senkung der Lernrate das Problem löst“. Vielmehr sollte man festlegen, welches Leistungsniveau erforderlich ist und was in welchem Umfang reproduziert werden soll, je nach Verwendungszweck.

Auf sozialen Medien und in Leserkommentaren steht die Frage im Fokus, ob „Präzision das Problem löst“

In den auf sozialen Medien überprüften Beiträgen zu dieser Forschung hebt der offizielle LinkedIn-Post von Phys.org den Punkt hervor, dass selbst bei 10 Milliarden Mal präziseren Anfangseinstellungen keine Verbesserung der Reproduzierbarkeit erzielt wurde.

Der Schwerpunkt des Beitrags liegt darauf, dass allein durch die Erhöhung der numerischen Präzision die Lernergebnisse nicht unbedingt übereinstimmen und dass neben der externen Zufälligkeit auch die mathematische Struktur des Lernens berücksichtigt werden muss.

Dies ist jedoch eine Einführung durch die Medien selbst und sollte von den Reaktionen der allgemeinen Nutzer unterschieden werden.

Unabhängig von sozialen Medien konnte in den öffentlich zugänglichen Suchergebnissen der Nachrichtenplattform „Cuppa“ ein Leserkommentar überprüft werden. Der Leser zeigte sich überrascht darüber, dass selbst bei einer erheblichen Erhöhung der Präzision keine Verbesserung festgestellt wurde und stellte in Frage, ob das Problem allein durch die Verbesserung der Rechenleistung oder der Hardware gelöst werden kann.

Dies ist ein Beispiel dafür, wie die Forschung von Lesern wahrgenommen wird. Andererseits ist die Interpretation „die Erhöhung der Rechenleistung löst das Problem nicht“ breiter als der direkt im Experiment bestätigte Bereich. Die Präzision der Anfangswerte und die allgemeine Wirkung von Rechenressourcen können nicht zusammen behandelt werden.

Zum Stand vom 6. November 2026 konnten aus den öffentlich zugänglichen Informationen keine Vielzahl von sozialen Medienbeiträgen oder die Verteilung von Zustimmung und Ablehnung ermittelt werden. Es gibt keine Grundlage, um zu behaupten, dass „auf sozialen Medien eine Flut von Überraschungen ausgebrochen ist“.

Dennoch zeigen die überprüften Beiträge und Kommentare eine klare Frage auf: Wenn KI feiner und genauer berechnet wird, entwickelt sie sich dann zwangsläufig gleich? Diese Forschung regt dazu an, diese Intuition zu überdenken.

Was bedeutet dies für die Einführung von KI in Japan?

Wenn man überlegt, welche Hinweise diese Forschung für die Einführung von KI in Japan geben könnte, sollte man den Unterschied zwischen „einmal gut funktionierend“ und „stabil nach dem Wiederaufbau“ beachten.

Stellen Sie sich zum Beispiel eine KI vor, die in einer Fabrik Produktfehler erkennt.

Auch wenn die Gesamtgenauigkeit zweier Modelle ähnlich ist, bedeutet das nicht unbedingt, dass sie dieselben Produkte übersehen. Wenn man nur den Durchschnittswert vergleicht, könnten wichtige Unterschiede vor Ort übersehen werden.

Dies ist kein Ergebnis, das in einer japanischen Fabrik durch diese Forschung bewiesen wurde, sondern ein Beispiel dafür, wie das Bewusstsein für das Problem in die Praxis umgesetzt werden kann.

Darüber hinaus könnten bei der Entwicklung und Bewertung folgende Perspektiven berücksichtigt werden:

• Nicht nur das beste Ergebnis eines einzelnen Lernprozesses, sondern auch die Streuung der Ergebnisse mehrerer Lernprozesse überprüfen.
• Nicht nur die Genauigkeit, sondern auch untersuchen, bei welchen Eingaben sich die Entscheidungen ändern.
• Überprüfen, ob das Modell nach dem erneuten Lernen bei wichtigen Fällen andere Entscheidungen trifft als zuvor.
• Anfangswerte, Einstellungen und Rechenumgebung aufzeichnen, um die Ergebnisse vergleichen zu können.

Auch wenn die Forschung mathematische Schwierigkeiten aufzeigt, bedeutet das nicht, dass Aufzeichnungen und Überprüfungen wertlos werden. Vielmehr wird es wichtig, die Bedingungen, die kontrolliert werden können, zu vereinheitlichen und die verbleibenden Schwankungen zu messen.

Unterscheidung von „jedes Mal unterschiedliche Antworten“ bei Chat-KI

Bei generativen KI-Systemen im Alltag kann es vorkommen, dass sich die Antworten auf dieselbe Frage ändern. Man könnte versucht sein, diese Erfahrung mit der aktuellen Forschung zu verbinden.

Das Hauptthema dieser Forschung ist jedoch, wie Unterschiede in den Anfangsbedingungen die Lernphase beim Modellaufbau beeinflussen.

Die Varianz bei der Textgenerierung aus einem bereits trainierten Modell betrifft eine andere Phase. Daher kann diese Studie allein nicht alle Veränderungen oder Fehlinformationen bei Chat-KI erklären.

Es wäre auch übertrieben zu lesen, dass „für alle neuronalen Netzwerke die Reproduzierbarkeit mathematisch unmöglich bewiesen wurde“.

Die Forschung analysiert die Mechanismen mit vereinfachten Modellen und untersucht Merkmale, die mit diesen Mechanismen in komplexeren Netzwerken übereinstimmen. Beweise, die in komplexen Modellen gewonnen wurden, müssen von allgemeinen Beweisen für alle KI unterschieden werden.

Der Wert dieser Entdeckung liegt nicht darin, der gesamten KI das Etikett „unvorhersehbar“ aufzudrücken. Vielmehr zeigt sie einen Weg auf, um mathematisch und experimentell zu untersuchen, unter welchen Bedingungen welche Art von Reproduzierbarkeit beeinträchtigt wird.

Für vertrauenswürdige KI ist eine Bewertung „über die Genauigkeit hinaus“ erforderlich

Bei der Bewertung von KI liegt der Fokus oft auf hoher Genauigkeit oder auffälligen Benchmark-Ergebnissen.

In einem System, das tatsächlich langfristig genutzt wird, stellt sich jedoch die Frage, ob die erforderliche Qualität auch dann aufrechterhalten werden kann, wenn Daten aktualisiert und neu gelernt, Einstellungen angepasst oder das System in einer anderen Umgebung neu erstellt wird.

Diese Forschung zeigt, dass ein Teil dieser Schwierigkeit möglicherweise nicht nur auf einfache Einstellungsfehler oder Maschinengewohnheiten zurückzuführen ist, sondern auf die Struktur des Lernens selbst.

Die Forscher haben auch Richtungen für zukünftige Verbesserungen aufgezeigt, wie Methoden zur Messung der Empfindlichkeit oder das Design von Netzwerken, die Bedingungen reduzieren, die Instabilität verursachen. Die Untersuchung der Grenzen der Vorhersage bedeutet nicht, dass man Verbesserungen aufgibt. Es ist ein Ausgangspunkt, um zu bestimmen, was geändert werden sollte.

Das schöne Fraktalmuster, in dem sich Blau und Orange vermischen, verbirgt die praktische Frage, wie man eine „gut funktionierende KI“ und eine „wiederholt überprüfbare KI“ vereinen kann.

Quellen und Referenzen

1. ##HTML_TAG_