Regulación de la IA desde California: ¿Es SB 53 el objetivo final o solo el comienzo?

Introducción——“Muestra antes de hacer”

El epicentro de la IA en Estados Unidos, California, finalmente ha optado por una ley estatal que enarbola la bandera de la "transparencia". El gobernador del estado, Gavin Newsom, firmó la SB 53, que convierte en obligación para la IA de frontera en rápida evolución (modelos de base a gran escala como LLM) "mostrar continuamente las medidas de seguridad al exterior". Basándose en la reflexión de que la SB 1047 del año pasado, que proponía regulaciones más estrictas, fue rechazada por "obstaculizar la innovación", esta vez se ha centrado en la "visibilidad", lo que constituye su característica más destacada.The Verge

¿Qué cambia con la SB 53?

Hay cinco puntos clave.

1. Obligación de publicar el marco: Los grandes desarrolladores de IA deben publicar en la web un "marco de seguridad de la IA de frontera" que incorpore estándares nacionales e internacionales y mejores prácticas de la industria, y notificar las actualizaciones con razones dentro de 30 días.The Verge

2. Canal de reporte de incidentes: Se establece un esquema para que las empresas de IA y los ciudadanos informen sobre incidentes de seguridad graves a la agencia de gestión de crisis del estado.Governor of California

3. Protección y ejecución para denunciantes: Protección para los denunciantes de riesgos graves para la salud y seguridad por modelos de frontera. Sanciones civiles por violaciones.Governor of California

4. Iniciativa CalCompute: Creación de un consorcio para establecer un clúster de computación pública en el estado, promoviendo la investigación de IA segura, equitativa y sostenible.Governor of California

5. Revisión anual: El departamento de TI del estado recomendará enmiendas según el avance tecnológico y los estándares internacionales.Governor of California

Según informes adicionales, el objetivo son las grandes empresas de IA, y se especifican restricciones prácticas como el plazo de reporte de riesgos graves (por ejemplo, dentro de 15 días) y multas de hasta un millón de dólares por incidente. Se ha explicado que el criterio de aplicación se basa en empresas con ingresos superiores a 500 millones de dólares, lo cual es un punto de atención.Reuters

¿Por qué se optó por la "transparencia"?——Reflexiones desde la SB 1047

La SB 1047 de 2024 incluía pruebas más profundas y regulaciones de responsabilidad, incluso para modelos con costos de entrenamiento superiores a 100 millones de dólares, lo que provocó la oposición de la industria y el rechazo del gobernador. Ante esto, el gobernador Newsom solicitó a los investigadores formular una alternativa, y la SB 53 fue reelaborada sobre la base de ese informe. En otras palabras, la SB 53 prioriza "la divulgación antes que la supervisión", buscando formar un consenso en un mínimo común denominador, lo que puede considerarse una "segunda ronda".The Verge

¿Qué "no está incluido"?

Mientras los partidarios lo consideran un logro, la obligación de evaluación por terceros y la responsabilidad directa para los desarrolladores fueron omitidas. Como resultado, se señala que el marco que las empresas presenten podría quedarse en una colección de "mejores prácticas opcionales", y que las sanciones limitadas podrían hacer que carezca de efectividad.The Verge

División en la industria——¿Quién apoyó y quién se opuso?

Un ejemplo simbólico es el apoyo claro de Anthropic. Después de negociaciones, evaluaron positivamente la "publicación del marco de seguridad y la protección de denunciantes" como un avance. Por otro lado, Meta estableció un super PAC para oponerse a la legislación a nivel estatal, y OpenAI argumentó en una carta al gobernador que "las empresas que participan en el Código de Conducta de la UE (CoP) y acuerdos de seguridad con agencias federales de EE.UU. deberían ser tratadas como cumplimiento alternativo a los requisitos estatales". Buscan evitar desacuerdos entre estados y alinearse con marcos federales e internacionales.The Verge

Las asociaciones industriales también levantaron sus voces en contra. **CTA (Asociación de Tecnología de Consumo de EE.UU.)** presentó una carta de oposición desde la etapa legislativa, y Chamber of Progress criticó que "las obligaciones ambiguas perjudican la innovación". La preocupación por la fragmentación estatal sigue siendo fuerte.cta.tech

Impacto práctico——“La visibilidad del cumplimiento legal” se convierte en un KPI

La SB 53 no es una ley que controle directamente la naturaleza peligrosa de los modelos. Sin embargo, tiene un gran efecto secundario al visualizar la responsabilidad de explicación del lado del proveedor y aumentar la auditoría posible. Desde la perspectiva de los CIO y los departamentos de adquisiciones,

• pueden incorporar el contenido y el historial de actualizaciones del marco de seguridad del proveedor en las condiciones de compra.

• La línea de tiempo de reporte de incidentes graves se vuelve comparable, aumentando los materiales para la comparación de riesgos.

• La protección de denunciantes fomenta el establecimiento de canales de reporte ético, creando así "usos" como estos. Por otro lado, las costes fijos pueden pesar sobre las startups. La creación y revisión de documentos públicos, el mapeo con estándares, la definición de clasificaciones de riesgo y la revisión legal pueden convertirse en un ritual trimestral.ciodive.com

¿Hasta qué punto se capturan los riesgos?

Análisis de Vox y otros medios transmiten la imagen operativa de umbrales de "riesgos catastróficos" previstos por la SB 53 (por ejemplo, múltiples muertes o pérdidas enormes) y reportes dentro de 15 días. Sin embargo, se critica que daños más cercanos como sesgos o salud mental tienden a quedar fuera de su alcance. En otras palabras, la SB 53 es una ley que se enfoca en **"riesgos de cola gruesa"**, y las medidas para daños cotidianos deben complementarse en otra vía.Vox

Reacciones en redes sociales——Desentrañando "expectativas y preocupaciones" en X

• Apoyo (pro-seguridad): Jack Clark, cofundador de Anthropic, aclaró su apoyo a la SB 53 en X, dando la bienvenida al aumento de datos para comprender el comportamiento de la IA de frontera.X (formerly Twitter)

• Preocupaciones sobre el diseño del sistema: OpenAI propuso en la carta mencionada anteriormente el reconocimiento mutuo con el Código de Conducta de la UE y los marcos de agencias federales de EE.UU., insinuando una posición que busca coherencia entre estados.OpenAI CDN

• Críticas a la fragmentación estatal: CTA publicó en X que "se necesita un marco unificado a nivel nacional", argumentando que las regulaciones estatales provocan división y aumento de costos.X (formerly Twitter)

• Intercambios políticos: El senador Scott Wiener, proponente de la iniciativa, declaró en X que la SB 53 busca lograr un equilibrio entre innovación y seguridad. La batalla de mensajes continúa.X (formerly Twitter)

• Críticas por falta de fuerza: Algunas cuentas de seguridad y comentaristas han evaluado duramente que es "más débil que la SB 1047" y que se ha convertido en "trabajo de oficina".X (formerly Twitter)