Impfstoffforschung oder Entwicklung gefährlicher Krankheitserreger – Die unsichtbaren Absichten, mit denen ein KI-Unternehmen konfrontiert wurde

Impfstoffforschung oder Entwicklung gefährlicher Krankheitserreger – Die unsichtbaren Absichten, mit denen ein KI-Unternehmen konfrontiert wurde

„Niemand sagt: Lass uns biologische Waffen herstellen“

Wenn es um Sicherheitsmaßnahmen für generative KI geht, denken viele an Chatbots, die gefährliche Fragen ablehnen. Doch der Bedrohungsbericht, den Anthropic im September 2026 veröffentlicht hat, zeigt eine viel unangenehmere Realität auf.

Es ist nicht selbstverständlich, dass böswillige Nutzer ihre Absichten ehrlich eingeben. Insbesondere in den Lebenswissenschaften teilen Forschungsarbeiten zur Untersuchung von Infektionsmechanismen, zur Entwicklung von Impfstoffen und Therapeutika sowie zur Gefährdung von Krankheitserregern bis zu einem gewissen Grad dieselbe Fachsprache, dieselben Versuchspläne und dieselbe Datenanalyse. Eine isolierte Frage kann sowohl auf eine gemeinnützige Forschung als auch auf die Vorbereitung zur Bewaffnung hindeuten.

Anthropic hat in einem 154-seitigen Bericht die unrechtmäßige und unangemessene Nutzung von KI von Dezember 2025 bis August 2026 zusammengefasst. Die Themen umfassten Cyberangriffe, Überwachung, Meinungsmanipulation, Betrug, konventionelle Waffen und biologischen Missbrauch. Besonders Aufmerksamkeit erregten fünf Fälle, in denen die Nutzung von Claude als Unterstützung bei der Entwicklung biologischer Waffen bewertet wurde.

Wichtig ist hier, dass das Unternehmen nicht behauptet, einen „biologischen Waffenplan entdeckt“ zu haben. Weder die Namen der Forschungseinrichtungen noch der Länder wurden genannt, und es wurde nicht behauptet, dass die beteiligten Wissenschaftler Schaden zufügen wollten. Festgestellt wurde, dass mehrere Warnsignale zusammenkamen, darunter hochriskante Forschungsinhalte, Umgehung von regionalen Beschränkungen, Anonymisierung und Verschleierung der Absichten.


Militärforschungseinrichtung und Chikungunya-Fieber

Das symbolträchtigste Beispiel ist der Fall eines Forschungsförderungsantrags, der sich mit dem Chikungunya-Virus befasste. Chikungunya-Fieber ist eine von Mücken übertragene Infektionskrankheit, die Fieber und starke Gelenkschmerzen verursacht und deren Symptome sich über einen längeren Zeitraum hinziehen können. Da es sich um eine in der Natur vorkommende Krankheit handelt, könnte eine absichtliche Verbreitung schwer von einem natürlichen Ausbruch zu unterscheiden sein.

Laut dem Bericht befasste sich der Antrag mit der Veränderung von Eigenschaften, die mit der Übertragung des Virus und der Umgehung des Immunsystems zusammenhängen. Solche Erkenntnisse können sowohl zur Vorhersage von Ausbrüchen und zur Entwicklung von Impfstoffen und Therapien nützlich sein, als auch zur Gefährdung von Krankheitserregern missbraucht werden. Zudem wurde die Durchführung der Forschung in einer militärischen Forschungseinrichtung vorgeschlagen, was die Vorsicht von Anthropic verstärkte.

Auch die Nutzungspfade waren ungewöhnlich. Es wurde berichtet, dass aus nicht bedienten Regionen über die US-Infrastruktur zugegriffen wurde, wobei Mechanismen zur Datenvermeidung, Wiederverkäufer und gefälschte Konten verwendet wurden. Es gab sogar ein System, um von Claude abgelehnte Fragen an weniger restriktive Modelle anderer Anbieter weiterzuleiten. Das Unternehmen sperrte die zugehörigen Konten und arbeitete mit den Beteiligten an der Unterbrechung der Relaisnetze, doch die Betreiber sollen in kurzer Zeit über andere Wege wieder verbunden gewesen sein.

Dieser Fall zeigt, dass die Ablehnungsfunktion eines einzelnen Modells nicht ausreicht. Selbst wenn eine KI eines Unternehmens stoppt, können Nutzer zwischen mehreren Modellen wechseln und Kommunikationswege sowie Konten austauschen. Sicherheitsmaßnahmen müssen sich von der bloßen Bewertung der Fragen auf ein System verlagern, das die Zugangswege, die Zugehörigkeit der Nutzer und kontinuierliche Verhaltensmuster umfasst.


Vogelgrippe, Orthopocken, Toxindesign

Der zweite Fall betraf die Forschung zur Anpassung der hochpathogenen Vogelgrippe an Säugetiere. Forscher sollen über mehrere Wochen hinweg tausende Interaktionen durchgeführt und Claude für Literaturrecherche, Forschungsplanung, Datenanalyse und Textverfassung genutzt haben. Anthropic bewertete, dass der Zugang zu leistungsstarken Modellen durch ein System zur Erkennung gefährlicher Inhalte blockiert wurde und die bereitgestellte Unterstützung hauptsächlich administrativ und unterstützend war.

Dies ist ein wichtiger Vorbehalt. Der Bericht besagt nicht, dass Claude sofort unbekannte Krankheitserreger entworfen oder biologische Waffen fertiggestellt hat. Vielmehr war die „zusätzliche Fähigkeit“, die in der aktuellen Phase festgestellt wurde, begrenzt. Dennoch zeigt die Tatsache, dass Experten mit potenziellem Zugang zu realen Forschungseinrichtungen und Proben versuchten, fortschrittliche KI unter Umgehung geografischer Beschränkungen zu nutzen, das Risiko zukünftiger Modelle, die noch leistungsfähiger werden könnten.

Im dritten Fall wurde ein Forschungsförderungsantrag zu Orthopockenviren, die zur selben Gruppe wie Pocken und Mpox gehören, von Claude in kurzer Zeit erstellt. Das Forschungsziel schien auf eine Abschwächung des Virus abzuzielen, weshalb der Sicherheitsklassifikator die Antwort nicht stoppte. Doch das Wissen um die Mechanismen der Immunumgehung kann sowohl zur Abschwächung als auch zur Erhaltung und Verstärkung dieser Funktionen genutzt werden.

Die verbleibenden zwei Fälle betrafen das Design von Toxinen oder toxischen Peptiden. Auch wenn die Forschung die Entwicklung von Schmerzmitteln oder Antidepressiva zum Ziel hatte, besteht die Möglichkeit, dass aus derselben Designbasis lähmende Substanzen entstehen. In einem anderen Fall wurde Claude angewiesen, die Identität der Zielsubstanzen im Forschungsbericht vage zu halten. Hier funktionierte ein System, das nur gefährliche Wörter erkennt, kaum, da sich therapeutische und schädliche Zwecke technisch überschneiden.


Das wahre Problem ist „Dual Use“

Biologischer Dual Use ist kein neues Problem. Das Verständnis von Infektionskraft, Immunumgehung und Toxizität von Krankheitserregern ist für die öffentliche Gesundheit unerlässlich. Gleichzeitig ist dieses Wissen auch für Angreifer wertvoll. KI hat dieses alte Problem nicht geschaffen, sondern durch die Beschleunigung von Literaturrecherche, Hypothesenbildung, Analyse, Codeerstellung und Antragstellung die Dimension und Geschwindigkeit des Problems verändert.

Traditionell erforderten fortschrittliche Forschungen ein Team mit Fachwissen, langem Training und interdisziplinärer Zusammenarbeit. Wenn KI zu einem „universellen wissenschaftlichen Assistenten“ wird, der diese Lücken schließt, können Forscher mit kleinen Teams große Bereiche abdecken. Dies bringt große Vorteile für die Medikamentenentwicklung und Infektionskontrolle, erhöht jedoch die Anzahl der zu überwachenden Arbeiten und verkürzt die Vorbereitungszeit für gefährliche Pläne.

Zudem sind die Kosten von Fehlentscheidungen asymmetrisch. Wird gefährliche Forschung übersehen, können die Schäden enorm sein. Andererseits führt die Blockierung legitimer Forschung zu Verzögerungen bei der Medikamentenentwicklung und Infektionskontrolle, und Forscher aus bestimmten Regionen werden ausgeschlossen. Je mehr man sich auf die Sicherheit konzentriert, desto mehr leidet die Freiheit und Fairness der Wissenschaft, und je mehr man die Freiheit priorisiert, desto größer wird das katastrophale Risiko. Diese Dichotomie kann nicht durch einfache Schlüsselwortfilter gelöst werden.


Drei Reaktionen auf sozialen Medien

Kurz nach der Veröffentlichung des Berichts wurden auf sozialen Medien mindestens drei Reaktionen festgestellt. Allerdings handelt es sich um eine kleine Anzahl von Beiträgen kurz nach der Veröffentlichung, die nicht wie eine Meinungsumfrage verallgemeinert werden können.

Die erste Reaktion war starke Besorgnis. Wenn KI die Planung und Beantragung von Fördermitteln für die Erforschung von Krankheitserregern beschleunigen kann, sind gemeinsame Regeln erforderlich, die nicht nur den Unternehmen überlassen werden, sondern auch Regierungen und Forschungseinrichtungen einbeziehen. Es gab Beiträge, die die Kombination aus Umgehung regionaler Beschränkungen, anonymen Konten und automatischer Verteilung auf mehrere Modelle ernst nahmen.

 

Die zweite Reaktion war Skepsis gegenüber den Erklärungen von Anthropic. In einem verwandten Thread auf Reddit gab es Stimmen, die den Bericht als PR zur Betonung der Krise bezeichneten, sowie Zweifel, wie weit ein Unternehmen allein die Fakten überprüfen kann. Es wurde auch die Ansicht geäußert, dass das Unternehmen, das im Modellwettbewerb benachteiligt ist, Sicherheit als Unterscheidungsmerkmal nutzt. Unabhängig davon, ob diese Kritik begründet ist, bleibt das Problem, dass die Namen von Ländern und Institutionen sowie überprüfbare Beweise nicht offengelegt werden, was eine vollständige Verifizierung von außen unmöglich macht.

Die dritte Reaktion war die Besorgnis, dass Sicherheitsmaßnahmen zu verstärkter Überwachung führen könnten. Anthropic argumentiert, dass für die Bereitstellung fortschrittlicher biologischer Funktionen ein System zur Auswahl vertrauenswürdiger Nutzer, die Überprüfung von Konten und Institutionen sowie eine gewisse Aufzeichnung der Nutzung erforderlich sind. Auf sozialen Medien gab es jedoch Stimmen, die die Normalisierung der Identitätsprüfung, den Druck auf Dienste, die keine Daten speichern, die Überprüfung von Forschungsinhalten durch private Unternehmen und den Mangel an Möglichkeiten zur Anfechtung von Fehlentscheidungen problematisierten.

Einige Beiträge versuchten auch, Länder oder die Ursprünge vergangener Infektionskrankheiten zu benennen, obwohl der Bericht von Anthropic keine Länder nennt und keine bösen Absichten behauptet. Solche Spekulationen als Fakten zu verbreiten, könnte zu ungerechtfertigten Angriffen auf Forscher oder geopolitischen Vorurteilen führen. Beim Lesen der Reaktionen auf sozialen Medien muss zwischen dem, was der Bericht bestätigt hat, und dem, was die Nutzer spekuliert haben, unterschieden werden.


Reicht die Selbstregulierung von Unternehmen aus?

Die Maßnahmen von Anthropic haben eine gewisse Bedeutung. Sie blockierten gefährliche Nutzungen, reflektierten die gewonnenen Erkenntnisse in Sicherheitsmaßnahmen und teilten sie mit Regierungen und anderen Unternehmen. KI-Unternehmen sind in der Lage, neue Bedrohungen frühzeitig zu erkennen, die selbst Regierungsbehörden schwer zu erfassen sind, durch Nutzungsprotokolle und Interaktionen mit Modellen.

Diese Position bedeutet jedoch gleichzeitig große Macht. Ein Unternehmen entscheidet, welchen Forschern es vertraut, welchen Ländern und Institutionen es fortschrittliche Funktionen zugänglich macht und ab wann etwas als gefährlich angesehen wird. Es werden Verantwortlichkeiten für Erklärungen und Abhilfemaßnahmen im Falle von Fehlentscheidungen, unabhängige Prüfungen, die Wahrung der Vertraulichkeit von Forschern und Meldekriterien an Behörden erforderlich sein.

Wenn die Regelungen nur für ein Unternehmen gelten, wechseln gefährliche Nutzer zu anderen Modellen oder offenen Modellen. Auch im aktuellen Bericht wurde ein System festgestellt, das Anfragen, die Claude ablehnte, an andere Modelle weiterleitete. Notwendig ist nicht die Abhängigkeit von der „Gewissenhaftigkeit“ eines bestimmten Unternehmens, sondern der branchenübergreifende Austausch von Warnsignalen, die Verifizierung von Identität und Zugehörigkeit je nach Gefährdungsgrad, unabhängige Prüfungen sowie die Verbindung mit internationalem Exportmanagement und Forschungsethik.

Zu breite Verbote können jedoch kontraproduktiv sein. Wenn legitime Forscher in geschlossene Wege gedrängt werden und sichere kommerzielle Dienste verlassen, sinkt die Überwachungsmöglichkeit. Niedrigrisiko-Forschung sollte weit zugänglich sein, während Hochrisiko-Arbeiten auf geprüfte Forscher beschränkt werden, und es sollte die Möglichkeit geben, Entscheidungen anzufechten – ein solcher gestufter Zugang wäre realistisch.


„Kein sofortiger Zusammenbruch“, sondern „Frühwarnung vor Leistungssteigerung“

Die fünf Fälle als Beweis zu lesen, dass KI bereits biologische Waffen herstellen kann, ist nicht korrekt. Anthropic selbst hat erklärt, dass diese Fälle kein Beweis dafür sind, dass durch Claude eine unmittelbare biologische Bedrohung entstanden ist. Viele der festgestellten Unterstützungen waren auf begrenzte Aufgaben wie Textbearbeitung und Informationsorganisation beschränkt.

Dennoch ist der Bericht schwerwiegend, da es in der Realität hochqualifizierte Experten gibt, die versuchen, fortschrittliche KI zu nutzen, und dass Märkte und Technologien zur Umgehung von regionalen Beschränkungen und Sicherheitsfunktionen bereits im Entstehen sind. Je näher die Modelle dem Expertenniveau kommen, desto größer wird der Einfluss derselben Nutzungsmuster.

Das Problem ist nicht, ob KI böswillig ist. Es geht um das institutionelle Design, wer wann stoppt, wenn Menschen ihre bösen Absichten verbergen, wissenschaftliches Wissen sowohl für gute als auch für böse Zwecke genutzt werden kann, grenzüberschreitende Zugangsmethoden existieren und mehrere konkurrierende KI-Unternehmen verbunden sind.

KI kann ein mächtiges Werkzeug zur Weiterentwicklung der Lebenswissenschaften sein. Um dieses Potenzial zu schützen, sind Mechanismen zur Erkennung gefährlicher Nutzungen erforderlich. Wenn jedoch die Entscheidung allein den geheimen Urteilen von Unternehmen überlassen wird, gehen Transparenz und Vertrauen verloren. Zwischen vollständiger Offenlegung und vollständigem Verbot muss ein überprüfbares, anfechtbares und international koordiniertes Zugangsmanagement aufgebaut werden. Der Bericht von Anthropic zeigt nicht nur die Gefährlichkeit der Technologie auf, sondern auch die Tatsache, dass die Gesellschaft diese Grenze noch nicht vollständig gestaltet hat.


Quellen-URL

Verwandte Artikel