Wellen in der KI-Branche! Der CEO von Anthropic spricht über die dunkle Seite der künstlichen Intelligenz

Warum ein Unternehmen, das sich der "sicheren KI" verschrieben hat, Feinde gemacht hat

"KI kann gefährlich werden. Deshalb sollte sie mit Vorsicht entwickelt werden."

Allein mit diesen Worten würden viele Menschen zustimmen. Doch was, wenn diese Worte von einem der weltweit führenden Unternehmen stammen, das hochentwickelte KI entwickelt und ein rasantes Wachstum verzeichnet?

Während einige dies als verantwortungsvolle Warnung ansehen, gibt es auch diejenigen, die vermuten, dass es darum geht, das Wachstum der Konkurrenz zu bremsen.

Der Konflikt um Anthropic, das Unternehmen hinter der generativen KI "Claude", und CEO Dario Amodei ist von dieser Komplexität geprägt.

Ein Artikel der New York Times vom 13. November 2026 berichtet, dass Amodeis Warnungen von der Frustration der Mitbewerber zu starkem Widerstand geführt haben. Der Hintergrund ist nicht nur ein Unterschied in den Meinungen zur Sicherheit von KI, sondern auch der Wettbewerb um Technologie, Beziehungen zu Kunden und die Kontrolle über einen riesigen Markt.

Auch für japanische Nutzer ist dies kein entfernter Streit zwischen Managern in einem anderen Land. Es betrifft die Preise, Auswahlmöglichkeiten und Bedingungen für die Nutzung von KI in ihrem Arbeitsumfeld.

Anthropic unterzeichnete den Brief zur Unterstützung der Veröffentlichung nicht

Laut dem NYT-Bericht war einer der Schauplätze des Konflikts die politische Debatte über die Veröffentlichung von KI-Modellen.

Die Zeitung berichtete, dass Anthropic und OpenAI das Weiße Haus dazu drängten, die Entwicklung und weitreichende Verbreitung einiger KI-Modelle zu verhindern, da diese zu gefährlich seien.

Microsofts Satya Nadella und der damalige NVIDIA-CEO Jensen Huang hingegen bereiteten einen Brief vor, der die Veröffentlichung von Modellen unterstützte. Viele Unternehmen stimmten zu, und auch OpenAI unterzeichnete, doch Amodei nahm nicht teil.

Es ist wichtig, zwischen den in den Berichten beschriebenen politischen Einflussnahmen und der Position, die Anthropic selbst erklärt, zu unterscheiden.

In einer offiziellen Erklärung vom 27. Juli erklärte das Unternehmen, dass es nie ein Verbot von Open-Weight-Modellen vorgeschlagen habe. Es erkannte auch den Wert von veröffentlichten Modellen ohne gefährliche Fähigkeiten an, die Unternehmen, Entwicklern und Forschern zugutekommen.

Was sie fordern, ist ein Sicherheitstest für ausreichend leistungsfähige Modelle. Dies betrifft sowohl veröffentlichte als auch nicht veröffentlichte Modelle.

Wenn man den Streit als "Unternehmen, die die Veröffentlichung befürworten, gegen Anthropic, das ein vollständiges Verbot fordert" darstellt, verpasst man den eigentlichen Streitpunkt.

Was bedeutet "Open Weight"?

Open Weight bezieht sich auf eine Methode, bei der die "Gewichte", die die Verhaltensweisen eines trainierten KI-Modells bestimmen, veröffentlicht werden. Nutzer können das Modell erwerben und es gemäß den Bedingungen in ihrer eigenen Umgebung betreiben oder anpassen.

Allerdings bedeutet die Veröffentlichung der Gewichte nicht, dass alle Trainingsdaten oder der gesamte Entwicklungsprozess offengelegt werden. Es ist voreilig zu denken, dass mit dem Wort "offen" alles frei nutzbar und vollständig nachvollziehbar ist.

Der Brief der Unternehmen, die die Veröffentlichung unterstützen, betont, dass Nutzer nicht von einem einzigen Unternehmen abhängig sind und die KI an ihre eigenen Bedürfnisse anpassen können.

Betrachten wir zum Beispiel ein System, das japanische interne Dokumente verarbeitet.

Die Nutzung externer KI-Dienste kann die Einführung und den Betrieb erleichtern. Wenn man das Modell jedoch in der eigenen Umgebung betreiben kann, wird es einfacher, den Speicherort der Daten und den Zeitpunkt der Aktualisierung zu verwalten. Allerdings übernimmt man damit auch die Verantwortung für die Ausrüstung und Wartung.

Es geht nicht darum, dass eine Option immer besser ist. Der Wert von veröffentlichten Modellen liegt darin, dass Nutzer je nach Bedarf und Budget wählen können.

Obwohl beide Seiten von "Sicherheit" sprechen, unterscheiden sich die wahrgenommenen Gefahren

Interessant ist, dass die Unterstützer der Veröffentlichung nicht erklären, dass sie die Sicherheit vernachlässigen.

Der Brief der Unternehmensallianz argumentiert, dass durch die breite Überprüfung von veröffentlichten Modellen Probleme leichter erkannt werden können und starke Werkzeuge auch denen zur Verfügung stehen, die sich mit der Verteidigung befassen. Die Konzentration von Fähigkeiten auf wenige nicht veröffentlichte Modelle könnte selbst eine Schwachstelle darstellen.

Anthropic hingegen sieht Probleme in der Schwierigkeit, veröffentlichte Gewichte zurückzuholen und die Nutzung zu überwachen, um Missbrauch zu verhindern.

Wenn man die von beiden Seiten betonten Gefahren nebeneinanderstellt, wird die Diskrepanz deutlich.

Die Befürworter der Veröffentlichung sehen die Gefahr, dass sich die Technologie auf wenige Unternehmen konzentriert und von außen nicht überprüfbar wird. Diejenigen, die eine vorsichtige Veröffentlichung fordern, sehen die Gefahr, dass mächtige Fähigkeiten, einmal verbreitet, selbst von den Entwicklern schwer zu kontrollieren sind.

Es geht also nicht darum, dass das, was geschützt werden soll, völlig gegensätzlich ist. Es geht darum, wie Sicherheit erreicht werden kann und welche Gefahren prioritär behandelt werden.

Warum Sicherheitswarnungen geschäftliche Zweifel hervorrufen

Die NYT erklärt den Widerstand gegen Anthropic nicht nur mit den Äußerungen zur Sicherheit.

Der veröffentlichte Teil des Artikels berichtet, dass das Unternehmen trotz seines schnellen Wachstums einige Kunden- und Wettbewerbsdienste eingestellt hat und sich gegen kostenlose Alternativen anderer Unternehmen ausgesprochen hat.

Die genauen Umstände und die individuelle Rechtfertigung dieser Handlungen können anhand der verfügbaren Auszüge nicht beurteilt werden. Der Artikel zeigt jedoch, dass es eine Diskrepanz zwischen dem Image eines "richtigen" Unternehmens und dem harten Auftreten im Wettbewerb gibt.

Dies ist ein Problem, das nicht nur KI-Unternehmen betrifft.

Strenge Sicherheitsstandards könnten notwendig sein, um die Nutzer zu schützen. Gleichzeitig könnten Unternehmen mit mehr Ressourcen und Personal im Vorteil sein, wenn die Umsetzung hohe Kosten verursacht.

Es wäre jedoch unangemessen, allein daraus zu schließen, dass alle Sicherheitsbedenken nur vorgeschoben sind. Echte Bedenken und kommerzielle Interessen eines Unternehmens können nebeneinander bestehen.

Der gleiche Blickwinkel sollte auch auf Unternehmen angewendet werden, die die Veröffentlichung unterstützen. Wenn der Markt für KI wächst, könnte dies die Nachfrage nach Halbleitern und Cloud-Diensten erhöhen. Die Prinzipien der Veröffentlichung und geschäftliche Interessen können gleichzeitig existieren.

Beim Lesen der Unternehmenspositionen ist es nützlicher, zu betrachten, welche Belastungen und Vorteile die vorgeschlagenen Regeln für wen bringen, anstatt über gute oder böse Absichten zu spekulieren.

Auf sozialen Medien Stimmen für den Wert der Veröffentlichung – jedoch von Brancheninsidern

Diese Debatte hat sich auch auf sozialen Medien verbreitet, wo Führungskräfte selbst ihre Positionen darlegten.

Im Folgenden sind die wesentlichen Punkte von X-Posts im Zusammenhang mit dem offenen Brief vom Juli aufgeführt, basierend auf Berichten über die Inhalte der Posts. Sie stellen keine direkte Reaktion auf den NYT-Artikel vom 13. November dar und spiegeln nicht die Meinung der Allgemeinheit wider.

Jensen Huang – Sowohl offene als auch geschlossene Modelle sind notwendig

Huang postete, dass offene Modelle Sicherheit, Cybersicherheit, Technologieverbreitung und eigenverantwortlichen Betrieb unterstützen.

Bemerkenswert ist, dass er geschlossene Modelle nicht als unnötig ansieht. Er befürwortet sowohl fortschrittliche offene als auch geschlossene Modelle und vermeidet eine einfache Entweder-oder-Entscheidung.

Sam Altman – Unterstützung für den Erfolg der USA mit beiden Ansätzen

Auch Sam Altman von OpenAI äußerte seine Unterstützung für den Brief und wünschte sich, dass die USA sowohl mit offenen als auch mit proprietären geschlossenen Modellen erfolgreich sind.

Diese Aussage zeigt, dass die Positionen der Modellanbieter nicht einfach in "offene" und "geschlossene" Unternehmen unterteilt werden können. Unternehmen bewerten veröffentlichte Modelle sowohl aus geschäftlicher als auch aus politischer Sicht.

Brian Armstrong – Der Wert der Anpassung an Unternehmensbedürfnisse

Brian Armstrong von Coinbase unterstützte starke offene Modelle in den USA und erwähnte die Bemühungen, die eigenen Prozesse auf solche Modelle umzustellen.

Der Grund dafür war, dass Modelle an die Geschäftsanforderungen angepasst werden können.

Dies ist ein Punkt, den auch japanische Unternehmen leicht nachvollziehen können. Ein KI-Modell, das bei allgemeinen Leistungstests die höchste Punktzahl erreicht, ist nicht unbedingt das kosteneffektivste für die eigenen Geschäftsanforderungen.

Allerdings sind dies allesamt Äußerungen von Stakeholdern im KI-Markt. Die auf sozialen Medien hervorgehobenen Stimmen von Führungskräften können nicht als allgemeiner Konsens der Gesellschaft betrachtet werden.

Das Problem "Wer entscheidet?" aus der Perspektive japanischer Nutzer

Für Nutzer in Japan wird dieser Konflikt konkret, wenn es um die Auswahl und den Betrieb von Diensten geht.

Was passiert zum Beispiel, wenn ein Unternehmen tief in einen KI-Dienst integriert ist und sich dann die Preise oder Nutzungsbedingungen ändern? Wie viel Aufwand ist nötig, um auf ein anderes Modell umzusteigen?

Andererseits, wenn ein Unternehmen ein offenes Modell selbst betreibt, wer ist dann für die Aktualisierungen und die Behebung von Schwachstellen verantwortlich? Der Zugang zu einem Modell und dessen sichere Nutzung sind unterschiedliche Herausforderungen.

Daher geht es nicht nur darum, "welches Unternehmen richtig liegt".

Es ist notwendig, Gebühren, Leistung, Datenmanagementmethoden, Reaktionsfähigkeit auf Änderungen und die Möglichkeit, zu anderen Diensten zu wechseln, zu berücksichtigen.

Das Gleiche gilt für die Politik. Wenn Sicherheitstests gefordert werden, ist es wichtig, was gemessen wird, wer die Bewertung vornimmt und wie weit die Ergebnisse veröffentlicht werden. Wenn die Veröffentlichung gefördert wird, muss die Verantwortung für Missbrauch oder Unfälle geklärt werden.

Erklärungen wie "Es ist sicher, also vertrauen Sie uns" oder "Es ist offen, also ist es sicher" reichen nicht aus, damit Nutzer fundierte Entscheidungen treffen können.

Um die Zukunft der KI nicht nur durch die Selbsteinschätzung von Unternehmen zu bestimmen

Der Widerstand gegen Anthropic umfasst sowohl ernsthafte Meinungsverschiedenheiten über die Sicherheit als auch die Vorsicht gegenüber einem schnell wachsenden Konkurrenten. Doch sollte man keine nicht überprüfbaren Motive als gegeben ansehen.

Wichtig ist nicht, ob Amodei beliebt ist oder wie viele Unternehmen unterzeichnet haben.

Es geht darum, ob Sicherheitsansprüche zu unabhängigen Überprüfungen führen können, ob die Vorteile der Veröffentlichung nicht nur den Interessen einiger Unternehmen, sondern auch den Wahlmöglichkeiten der Nutzer zugutekommen, und wer die Verantwortung für Erklärungen und Maßnahmen übernimmt, wenn ernsthafte Probleme auftreten.

Die Mauern um die KI haben die Aufgabe, Gefahren zu mindern. Gleichzeitig könnten diese Mauern die Wahlmöglichkeiten der Nutzer und die externe Überprüfung einschränken.

Es geht nicht nur darum, die Mauern höher zu machen oder abzureißen. Es bedarf konkreter Diskussionen darüber, wo und zu welchem Zweck sie errichtet werden und wer ihre Angemessenheit überprüft.

Quellen und Referenzen

1. The New York Times: Über den Widerstand in der Branche gegen Anthropic, den Konflikt zwischen Unternehmen über veröffentlichte Modelle und Kritik an Geschäftspraktiken.
   https://www.nytimes.com/2026/11/13/technology/anthropic-dario-amodei-ai-openai.html

2. Offizielle Erklärung von Anthropic: Die Ablehnung eines vollständigen Verbots von veröffentlichten Modellen und der Vorschlag von Sicherheitstests für leistungsstarke veröffentlichte und nicht veröffentlichte Modelle, Standpunkt vom 27. Juli 2026.
   https://www.anthropic.com/news/position-open-weights-modelsanthropic.com

3. "Open Weights and American AI Leadership": Ein offener Brief von Unternehmensallianzen, der die Vorteile von veröffentlichten Modellen für Wettbewerb, Nutzerkontrolle und Sicherheit diskutiert.
   https://images.nvidia.com/pdf/Open-Weights-and-American-AI-Leadership.pdfimages.nvidia.com

4. AI Frontier: Über die Unterzeichnungsprozesse des offenen Briefs und die X-Posts von Huang, Altman und Armstrong. Die wesentlichen Punkte der SNS-Posts wurden durch diesen Artikel bestätigt. Der direkte Zugriff auf die Originalposts war nicht möglich.
   https://aifrontier.kr/en/articles/open-weights-letter-2026/