Der Tag, an dem KI die KI neu gestaltet – Die Realität der "Selbstverbesserung" durch Recursive Superintelligence

In der KI-Branche hat ein weiteres großes Wagnis begonnen.

Im Mittelpunkt steht Richard Socher, bekannt als Gründer von You.com und mit einer langen Karriere als KI-Forscher. Sein neu gegründetes Unternehmen Recursive Superintelligence ist mit einer Finanzierung von 650 Millionen Dollar und einer Bewertung von 4,65 Milliarden Dollar aus dem Stealth-Modus hervorgetreten. Das Ziel des Unternehmens ist weder ein einfacher leistungsstarker Chatbot noch ein KI-Agent für Unternehmen.

Das Ziel ist, dass KI eine KI entwickelt, die sich selbst verbessert.

Genauer gesagt soll die KI ihre eigenen Schwächen erkennen, Verbesserungsvorschläge erarbeiten, Code oder Modelle ändern und die Ergebnisse überprüfen. Die Idee ist, dass die KI den herkömmlichen Entwicklungsprozess übernimmt, bei dem Menschen Forschungsthemen vorgeben, Experimente entwerfen und bewerten. Dies wird als "recursive self-improvement" oder rekursive Selbstverbesserung bezeichnet.

Das mag auf den ersten Blick wie Science-Fiction klingen. Doch in der aktuellen KI-Forschung sind wir bereits an einem Punkt, an dem KI Code schreibt, wissenschaftliche Arbeiten liest, Experimente unterstützt und Bewertungsdaten erstellt. Recursive zielt auf die Automatisierung von Forschung und Entwicklung selbst ab, die auf dieser Entwicklung aufbaut.

"Verbesserung" und "Selbstverbesserung" sind nicht dasselbe

In einem Interview mit TechCrunch betonte Socher, dass es einen Unterschied gibt zwischen der Nutzung von KI zur Verbesserung von etwas und der kontinuierlichen Selbstverbesserung der KI.

Zum Beispiel ist es eine Verbesserung, wenn man die KI bittet, "diesen Text zu verbessern". Auch die Bitte an die KI, "eine Methode zur Verbesserung der Genauigkeit dieses maschinellen Lernmodells zu finden", ist im weiteren Sinne eine Verbesserung. Doch dabei gibt der Mensch immer noch das Ziel vor, legt den Rahmen des Experiments fest und trifft die endgültige Entscheidung.

Die von Recursive angestrebte Selbstverbesserung geht weiter. Die Automatisierung von Ideenfindung, Implementierung und Validierung von Forschungsideen ermöglicht es der KI, ihre eigenen Grenzen zu beobachten und Schritte zur Verbesserung zu entwickeln. Wenn dieser Kreislauf funktioniert, wird die Geschwindigkeit der KI-Entwicklung nicht mehr durch die Arbeitszeit menschlicher Forscher begrenzt.

Hier wird das Konzept der "open-endedness" wichtig, das auf Deutsch etwa "offene Erkundung" oder "endlose Erkundung" bedeutet. Ähnlich wie bei der biologischen Evolution, bei der sich Individuen an eine Umgebung anpassen, neue Anpassungen entstehen und weitere Veränderungen folgen. Es geht nicht darum, ein festgelegtes Ziel auf dem kürzesten Weg zu erreichen, sondern um eine Kette vielfältiger Experimente, die unerwartete Fähigkeiten oder Strukturen hervorbringen.

Recursive versucht, diese offene Erkundung in die KI-Forschung zu integrieren. Es geht nicht nur darum, Benchmark-Punkte zu erhöhen, sondern darum, dass die KI selbst Probleme findet, Herausforderungen schafft und Wege zur Verbesserung erkundet. Diese Idee unterscheidet sich ein wenig vom bisherigen Wettbewerb, der darauf abzielt, das nächste große Modell zu entwickeln.

Warum investieren Investoren so viel Geld?

Die Finanzierungssumme von 650 Millionen Dollar ist für ein Unternehmen, das noch kein Produkt auf dem Markt hat, außergewöhnlich hoch. Die Bewertung liegt bei 4,65 Milliarden Dollar. Berichten zufolge führten GV und Greycroft die Runde an, während NVIDIA und AMD Ventures ebenfalls beteiligt sind.

Hinter dieser enormen Finanzierung steht eine Veränderung des Fokus in der KI-Branche. Bisher konzentrierte sich der Wettbewerb darauf, die Leistung durch größere Modelle, mehr Daten und leistungsstärkere GPUs zu steigern. Doch es gibt zunehmend die Ansicht, dass die Vergrößerung der Modelle allein an ihre Grenzen stößt.

Der nächste Durchbruch könnte darin bestehen, die KI-Forschung von der KI selbst durchführen zu lassen. Genau auf diese Hypothese setzen die Investoren bei Recursive.

Wenn KI Hypothesen aufstellen, Experimente durchführen, aus Fehlern lernen und das nächste Experiment entwerfen kann, wird der Engpass in der KI-Entwicklung nicht mehr die Anzahl der Menschen, sondern die Rechenressourcen sein. Das bedeutet, dass die Geschwindigkeit und Anzahl der durchgeführten Experimente im Mittelpunkt des Wettbewerbs stehen werden.

Dies betrifft nicht nur die KI-Branche. Socher spricht davon, zunächst die Automatisierung der KI-Forschung anzugehen und diese später auf andere wissenschaftliche Bereiche auszuweiten. Medizin, Materialwissenschaften, Klima, Energie, Arzneimittelentwicklung – in all diesen Bereichen könnte KI autonom Forschung betreiben, um die großen Herausforderungen der Menschheit zu bewältigen.

Doch diese Zukunft basiert nicht nur auf Hoffnung.

Erwartungen und Vorsicht verbreiten sich gleichzeitig in den sozialen Medien

Die Reaktionen auf diese Ankündigung in den sozialen Medien sind stark polarisiert.

Auf LinkedIn dominieren Glückwünsche und Erwartungen, vor allem von Investoren und KI-Experten. Der Beitrag von Recursive selbst erhielt Hunderte von Reaktionen, und in den Kommentaren äußerten Unterstützer wie GV und AMD Ventures ihre Erwartungen an das Team und die Mission des Unternehmens.

Nancy Xu bezeichnete Recursive's Konzept als "Funke der nächsten Innovationsrenaissance" und sieht KI als Beschleuniger der Wissensentdeckung, nicht nur als Automatisierer von Aufgaben. Dies steht im Gegensatz zum aktuellen Trend der KI-Agenten, die sich auf die "Erledigung von Aufgaben" konzentrieren, während Recursive auf die "Erweiterung von Forschung und Entdeckung" abzielt.

Es gibt jedoch auch vorsichtige Stimmen. In den Kommentaren zu Recursive's offiziellem Beitrag wurde darauf hingewiesen, dass bei selbstverbessernden KI nicht nur das Endmodell, sondern auch die Kette der Verbesserungen selbst überprüft werden muss. Was hat sich geändert, warum hat es sich geändert, und welche Beweise stützen diese Änderungen? Sind die Benchmarks verzerrt? Ist die Validierung zirkulär? Überholt die Entdeckung von Fähigkeiten die menschliche Aufsicht?

Dies ist ein äußerst wichtiger Punkt. Wenn KI nur einmal eine Antwort gibt, kann diese bewertet werden. Wenn KI jedoch ihre eigene Gestaltung kontinuierlich verändert, reicht es nicht aus, nur die Ausgabe zu bewerten. Es muss ein System geben, das den Verbesserungsprozess selbst verfolgt, validiert und erklärbar macht.

In den sozialen Medien stehen Kommentare wie "ein großartiges Team" und "das ist die nächste S-Kurve der KI-Forschung" neben Fragen wie "wie wird die Sicherheit gewährleistet" und "wer übernimmt die Überprüfung der Selbstverbesserung". Recursive's Ankündigung zieht nicht nur wegen ihrer großen Vision Aufmerksamkeit auf sich. Das Risiko ist ebenso groß.

Die Sicherheit in einer Ära, in der "KI sich selbst repariert"

Das Schwierigste bei der Betrachtung der Sicherheit von selbstverbessernden KI ist der Unterschied zwischen der Geschwindigkeit der Verbesserung und der Geschwindigkeit des menschlichen Verständnisses.

Wenn Menschen Forschung betreiben, schreiben sie wissenschaftliche Arbeiten, lassen sie begutachten, führen Reproduktionsversuche durch und diskutieren in der Gemeinschaft. Das dauert zwar, aber in diesem Prozess gibt es Raum für externe Überprüfung. Fehler und übertriebene Behauptungen können erkannt werden.

Wenn jedoch KI eine Vielzahl von Hypothesen generiert, eine Vielzahl von Experimenten durchführt und Modelle oder Algorithmen schnell aktualisiert, wird es für Menschen schwierig, alles zu verstehen. Wenn KI zudem ihre eigenen Bewertungsmaßstäbe und Testumgebungen erstellt, stellt sich die Frage, ob diese Bewertungen wirklich gültig sind.

Wenn KI beispielsweise entscheidet, dass sie "sicherer geworden" ist, wer überprüft diese Entscheidung? Kann man sicher sein, dass KI keine Tests erstellt hat, die ihr selbst zugutekommen? Besteht die Möglichkeit, dass die ursprünglich festgelegten Sicherheitsbeschränkungen unbeabsichtigt verändert werden, wenn die Fähigkeiten steigen?

Deshalb sind bei selbstverbessernden KI nicht nur die Verbesserung der Modellfähigkeiten, sondern auch Audits, Logs, Reproduzierbarkeit, externe Bewertungen und unabhängige Überprüfungen der Experimente unerlässlich. Recursive erklärt, dass Sicherheit wichtig ist, aber die konkreten Mechanismen werden der größte Fokus in der Zukunft sein.

Ist dies ein "KI-Forschungsunternehmen" oder eine neue industrielle Infrastruktur?

Wenn man Recursive nur als KI-Forschungsunternehmen betrachtet, könnte die Bewertung als überhitzt erscheinen. Es gibt noch keine Produkte. Die Mitarbeiterzahl ist gering. Trotzdem hat das Unternehmen eine Bewertung in Milliardenhöhe.

Doch die Investoren blicken nicht auf den aktuellen Umsatz, sondern auf die Möglichkeit, dass sich die Art und Weise, wie KI-Forschung produziert wird, grundlegend ändern könnte. Wenn ein Großteil der Forschung und Entwicklung automatisiert wird, könnte Recursive nicht nur ein Anbieter von Modellen, sondern ein Infrastrukturunternehmen für die Wissensproduktion werden.

Dies ist eine Denkweise, die der von Cloud- oder Halbleiterunternehmen ähnelt. So wie Unternehmen einst ihre eigenen Server hatten und nun Rechenressourcen in der Cloud mieten, könnte es in Zukunft eine Zeit geben, in der "Fähigkeiten zur Forschung" selbst als KI-System genutzt werden.

Ein Unternehmen möchte ein neues Material finden. Ein Forschungsinstitut sucht nach neuen Arzneimittelkandidaten. Eine Regierung möchte die Simulation von Infektionskrankheiten beschleunigen. In diesen Fällen könnte ein selbstverbesserndes KI-Forschungssystem neben menschlichen Forscherteams Hypothesen und Experimente durchführen. Die von Recursive gezeichnete Zukunft ist dieser Welt nahe.

Allerdings wird die Verteilung der Rechenressourcen zu einem sozialen Problem. Welche Forschung soll mit begrenzten GPUs und Strom durchgeführt werden? Krebstherapie, Klimawandel, Militärtechnologie oder Werbeoptimierung? Selbst wenn KI wissenschaftliche Entdeckungen beschleunigen kann, werden die Richtung von Gesellschaft, Unternehmen und Kapital bestimmt.

Was fordert "Selbstverbesserung" von der Menschheit?

Die Idee, dass KI sich selbst verbessert, war schon immer ein Traum und zugleich eine Angst in der KI-Forschung. Wenn es gelingt, könnten Entdeckungen, die mit menschlicher Intelligenz lange dauern würden, in kurzer Zeit realisiert werden. Heilmethoden für Krankheiten, saubere Energie, neue Materialien, ungelöste mathematische Probleme – in allen Bereichen könnte die Forschungsgeschwindigkeit steigen.

Doch unkontrollierbare Selbstverbesserung birgt auch große Risiken für die Gesellschaft. Es besteht die Möglichkeit, dass KI nicht nur ihre Fähigkeiten verbessert, sondern auch ihre Ziele auf eine Weise verändert oder Sicherheitsbeschränkungen umgeht, die für Menschen schwer zu verstehen sind.

Dieses Problem ist nicht einfach eine Frage, ob "KI außer Kontrolle gerät". Vielmehr geht es um Governance-Fragen: Wer besitzt diese KI, wer kann sie nutzen, wer überprüft sie, und wer trägt die Verantwortung im Falle eines Scheiterns?

Das Auftreten von Recursive zeigt, dass die KI-Branche von der Phase des "Entwickelns intelligenterer Modelle" zur Phase des "Entwickelns von Systemen zur Erstellung intelligenterer Modelle" übergeht. Dies bedeutet, dass die Wettbewerbsebene eine Stufe höher gestiegen ist.

Von der Ära, in der KI Aufgaben übernimmt, zur Ära, in der KI Forschung übernimmt. Und zur Ära, in der KI ihre eigene Verbesserung übernimmt.

Wenn diese Tür geöffnet wird, verschwindet die Rolle des Menschen nicht, sondern wird sogar schwerer. Was soll verbessert werden? Wie viel Autonomie soll gewährt werden? Wann soll gestoppt werden? Welche Beweise sind erforderlich, um etwas als sicher zu betrachten? Die Gesellschaft kann diese Entscheidungen nicht einfach der KI überlassen.

Die Herausforderung von Recursive Superintelligence hat das Potenzial, die Zukunft der KI zu beschleunigen. Gleichzeitig stellt sie die Frage, ob die menschliche Gesellschaft mit dieser Beschleunigung Schritt halten kann.

Die Ära, in der KI die KI neu gestaltet, ist keine ferne Science-Fiction mehr. Die Frage ist nicht nur, wann dies Realität wird, sondern auch, was die Menschheit dann schützen, delegieren und weiterhin entscheiden wird.

Quellen-URL

TechCrunch: Interview mit Richard Socher. Hauptthemen wie Recursive Superintelligence, rekursive Selbstverbesserung, open-endedness, Produkteinführungszeitpunkt und die Bedeutung von Rechenressourcen.
https://techcrunch.com/2026/05/14/what-happens-when-ai-starts-building-itself/
Bestätigungsquelle:

Offizielle Website von Recursive: Offizielle Erklärungen des Unternehmens zu "selbstverbessernder Superintelligenz", "Automatisierung der Wissensentdeckung" und "Sicherheitsfokus".
https://www.recursive.com/
Bestätigungsquelle:

Offizieller LinkedIn-Beitrag von Recursive: 650 Millionen Dollar Finanzierung, 4,65 Milliarden Dollar Bewertung, Beteiligung von GV, Greycroft, AMD Ventures, NVIDIA, Glückwünsche und Bedenken in den sozialen Medien.
https://www.linkedin.com/posts/recursive-si_we-are-emerging-from-stealth-with-a-bold-activity-7460256112886353920-DkOg
Bestätigungsquelle:

LinkedIn-Beitrag von Nancy Xu: Erwartungen von Investoren und Beteiligten an Recursive's Ankündigung, bewertet als "Wissensentdeckung" und "Innovationsrenaissance".
https://www.linkedin.com/posts/xnancy_congratulations-to-recursive-on-announcing-activity-7460406524415356930-NMaP
Bestätigungsquelle:

LinkedIn-Beitrag von Christian Miele: Geschäftshypothese aus Sicht der Investoren von Recursive, bewertet als "KI, die experimentiert, wie sie sich selbst verbessern kann".
https://www.linkedin.com/posts/christianmiele_the-recursive-thesis-fits-in-one-sentence-activity-7460409135671562240-f4_w
Bestätigungsquelle:

LinkedIn-Beitrag von Richard Socher: Reaktionen auf die Gründungsankündigung von Recursive in den sozialen Medien, Erwartungen an die Automatisierung wissenschaftlicher Hypothesen und die Infrastruktur der Entdeckung.
https://www.linkedin.com/posts/richardsocher_today-im-very-excited-to-announce-the-launch-activity-7460362745377415168-Wu98
Bestätigungsquelle:

The Next Web: Finanzierungssumme von Recursive, Bewertung, Positionierung der selbstverbessernden KI, Hauptunterstützer in ergänzenden Berichten.
https://thenextweb.com/news/recursive-superintelligence-self-improving-ai-funding##HTML_TAG