Kalifornische AI-Regelsetzung: Ist SB 53 das Ziel der Regulierung oder nur der Anfang?

Einführung——“Zeige es, bevor du es machst”

Kalifornien, das Epizentrum der KI in den USA, hat sich schließlich für ein Staatsgesetz entschieden, das die "Transparenz" als Banner trägt. Gouverneur Gavin Newsom unterzeichnete das Gesetz SB 53, das die schnell fortschreitenden Frontier-KI-Modelle (wie LLMs) dazu verpflichtet, "Sicherheitsmaßnahmen kontinuierlich nach außen zu zeigen". Im vergangenen Jahr wurde das strengere Gesetz SB 1047 mit dem Argument abgelehnt, es würde "Innovation behindern". Diesmal liegt der Schwerpunkt auf der "Sichtbarkeit", was das herausragendste Merkmal ist.The Verge

Was ändert sich mit SB 53?

Es gibt fünf Hauptpunkte.

1. Verpflichtung zur Veröffentlichung des Frameworks: Große KI-Entwickler müssen das "Sicherheits-Framework für Frontier-KI", das nationale und internationale Standards sowie Best Practices der Branche integriert, im Internet veröffentlichen und bei Aktualisierungen innerhalb von 30 Tagen die Gründe dafür bekannt geben.The Verge

2. Meldewege für Vorfälle: Ein Schema wird eingerichtet, das es KI-Unternehmen und Bürgern ermöglicht, schwerwiegende Sicherheitsvorfälle an die staatliche Krisenmanagementbehörde zu melden.Governor of California

3. Schutz und Durchsetzung für Whistleblower: Whistleblower, die schwerwiegende Gesundheits- und Sicherheitsrisiken durch Frontier-Modelle aufdecken, werden geschützt. Verstöße ziehen zivilrechtliche Strafen nach sich.Governor of California

4. CalCompute-Initiative: Ein Konsortium wird gegründet, um die Einrichtung eines öffentlichen Computing-Clusters im Bundesstaat zu prüfen und sichere, faire und nachhaltige KI-Forschung zu fördern.Governor of California

5. Jährliche Überprüfung: Die IT-Abteilung des Staates empfiehlt Anpassungen entsprechend dem technologischen Fortschritt und internationalen Standards.Governor of California

Laut Berichten richtet sich das Gesetz an große KI-Unternehmen, und es werden praktische Einschränkungen wie die Frist für die Meldung schwerwiegender Risiken (z. B. innerhalb von 15 Tagen) und Geldstrafen von bis zu 1 Million Dollar pro Vorfall festgelegt. Es wird darauf hingewiesen, dass als Anwendungsmaßstab Unternehmen mit einem Umsatz von über 500 Millionen Dollar vorgesehen sind.Reuters

Warum der Kurswechsel zur “Transparenz”?——Lehren aus SB 1047

Das SB 1047 von 2024 umfasste strengere Tests und Verantwortungsregelungen, einschließlich Modelle mit Trainingskosten von über 100 Millionen Dollar, was zu Widerstand aus der Industrie führte und vom Gouverneur abgelehnt wurde. Daraufhin bat Gouverneur Newsom Forscher, alternative Vorschläge zu entwickeln, und SB 53 wurde auf dieser Grundlage überarbeitet. SB 53 priorisiert also "Offenlegung vor Überwachung" und strebt eine Konsensbildung auf einer minimalen gemeinsamen Basis an, was als “zweite Runde” bezeichnet werden kann.The Verge

Was ist nicht enthalten?

Während Befürworter dies als Erfolg sehen, wurde auf die Verpflichtung zur Drittbewertung und die direkte Haftung der Entwickler verzichtet. Infolgedessen könnte das von Unternehmen bereitgestellte Framework eine Sammlung von "freiwilligen Best Practices" bleiben, und es wird darauf hingewiesen, dass die Sanktionen begrenzt und möglicherweise ineffektiv sind.The Verge

Spaltung in der Industrie——Wer unterstützte und wer widersetzte sich?

Symbolisch ist die klare Unterstützung vonAnthropic. Nach Verhandlungen wurde die "Veröffentlichung des Sicherheits-Frameworks und der Schutz von Whistleblowern" als Fortschritt gewertet. Auf der anderen Seite gründeteMeta ein Super-PAC, um sich gegen die Gesetzgebung auf staatlicher Ebene zu wehren, undOpenAI argumentierte in einem Schreiben an den Gouverneur, dass Unternehmen, die an der EU-Verhaltenskodex (CoP) oder Sicherheitsvereinbarungen mit US-Bundesbehörden teilnehmen, als alternative Erfüllung der staatlichen Anforderungen betrachtet werden sollten. Sie fordern einen "Pfad", um Diskrepanzen zwischen den Staaten zu vermeiden und mit föderalen und internationalen Rahmenwerken in Einklang zu bringen.The Verge

Auch Branchenverbände äußerten sich kritisch. **CTA (Consumer Technology Association)** reichte bereits im parlamentarischen Stadium ein Protestschreiben ein, und dieChamber of Progress kritisierte, dass "vage Verpflichtungen Innovationen schädigen". Die Besorgnis über eine Zersplitterung der Staaten bleibt stark.cta.tech

Praktische Auswirkungen——“Sichtbarkeit der Gesetzeskonformität” wird zum KPI

SB 53 ist kein Gesetz, das die inhärente Gefährlichkeit von Modellen direkt kontrolliert. Es macht jedoch die Rechenschaftspflicht der Anbieter sichtbar und erhöht die Prüfungsfähigkeit erheblich. Aus Sicht von CIOs und Beschaffungsabteilungen kann

• der Inhalt und die Aktualisierungshistorie des Sicherheits-Frameworks der Anbieter in die Einkaufsbedingungen integriert werden

• Der Zeitrahmen für die Meldung schwerwiegender Vorfälle wird vergleichbar, und es gibt mehr Material für Risikovergleiche

• Der Schutz von Whistleblowern fördert die Einrichtung von Ethik-Hotlines, was neue "Anwendungsmöglichkeiten" schafft. Andererseits könnten
  die Fixkosten für Start-ups erheblich sein. Die Erstellung und Überarbeitung von Veröffentlichungen, die Zuordnung zu Standards, die Definition von Risikokategorien und die rechtliche Überprüfung könnten zu vierteljährlichen Ritualen werden.ciodive.com

Wie weit werden Risiken erfasst?

Analysen von Vox und anderen berichten über die Betriebsweise von SB 53, einschließlich der Schwellenwerte für "katastrophale Risiken" (z. B. viele Todesfälle oder erhebliche Verluste) und Meldungen innerhalb von 15 Tagen. Kritiker bemängeln jedoch, dass alltägliche Schäden wie Vorurteile oder psychische Gesundheit oft nicht erfasst werden. SB 53 ist also ein Gesetz, das sich auf **“Risiken mit dicken Schwänzen”** konzentriert, während alltägliche Schadensprävention auf einem anderen Weg ergänzt werden muss.Vox

Reaktionen in sozialen Medien——Erwartungen und Ängste auf X

• Unterstützung (Sicherheitsbefürworter): Jack Clark, Mitbegründer vonAnthropic, machte auf X seine Unterstützung für SB 53 deutlich und begrüßte die "Zunahme von Daten, um das Verhalten von Frontier-KI zu verstehen".X (formerly Twitter)

• Bedenken zur Ausgestaltung:OpenAI schlug in dem oben genannten Schreiben eine gegenseitige Anerkennung mit dem EU-Verhaltenskodex und den Rahmenwerken der US-Bundesbehörden vor und deutete damit eine Position an, die auf Konsistenz über Staatsgrenzen hinweg abzielt.OpenAI CDN

• Kritik an der Zersplitterung der Staaten:CTA postete auf X, dass ein einheitlicher Rahmen für die gesamte USA notwendig sei und argumentierte, dass staatliche Regelungen Spaltung und höhere Kosten verursachen würden.X (formerly Twitter)

• Politische Auseinandersetzungen: Der Vorschlagsinitiator, Senator Scott Wiener, erklärte auf X, dass SB 53 Innovation und Sicherheit vereinen soll. Der Kampf um die Botschaft geht weiter.X (formerly Twitter)

• Kritik an der mangelnden Stärke

  : Einige Sicherheitskonten und Kommentatoren bewerten SB 53 als "schwächer als SB 1047" und als "Bürokratie".X (formerly Twitter)##HTML_TAG_