California da el primer paso en la regulación de la IA “de frontera”

El 29 de septiembre de 2025, el gobernador de California, Gavin Newsom, ha firmado la ley SB 53, Transparency in Frontier Artificial Intelligence Act, convirtiendo al estado en la primera jurisdicción de EE. UU. en imponer obligaciones de transparencia a los grandes desarrolladores de modelos de IA avanzada.

Con esta medida, California busca establecer un marco de confianza y responsabilidad en el desarrollo de los llamados “frontier models”: sistemas de IA con un potencial disruptivo tan elevado que pueden implicar riesgos globales, desde ciberataques autónomos hasta aplicaciones en biotecnología o desinformación masiva.

Puntos clave de la SB 53

Obligatoriedad de publicar marcos de seguridad: Las compañías con ingresos superiores a 500 millones de dólares deberán detallar sus políticas de seguridad, explicando cómo evalúan y mitigan riesgos catastróficos.

Reporte de incidentes críticos: Cualquier evento que comprometa la seguridad o integridad de un modelo debe notificarse en un plazo máximo de 15 días.

Protección a denunciantes: La ley incluye salvaguardas legales para empleados que revelen malas prácticas relacionadas con la IA.

Multas importantes: Hasta 1 millón de dólares por violación en caso de incumplimiento. Acceso democrático a la infraestructura: Se anuncia la creación de CalCompute, un clúster de cómputo público para apoyar la investigación en IA bajo criterios de seguridad y transparencia.

Impacto en la industria

El sector tecnológico ha reaccionado con una mezcla de apoyo y cautela.

Anthropic y otros laboratorios especializados en seguridad de IA han respaldado la medida, considerándola un paso necesario para evitar escenarios de riesgo extremo. Sin embargo, otras empresas temen que esta ley inaugure un “mosaico regulatorio” a nivel estatal en EE. UU., generando complejidad para compañías que operan en múltiples jurisdicciones.

El debate trasciende las fronteras californianas: la SB 53 puede convertirse en modelo legislativo internacional, inspirando a otros gobiernos a exigir transparencia en el desarrollo de sistemas de IA avanzados.

Un nuevo paradigma regulatorio

Hasta ahora, la discusión sobre gobernanza de IA en EE. UU. se había limitado a iniciativas federales aún en proceso. Con esta ley, California adelanta el paso y lanza un mensaje claro: el desarrollo de modelos de IA de frontera no puede quedar al margen de la rendición de cuentas.

El enfoque de SB 53 va más allá del control de daños: establece la obligación de visibilizar cómo las empresas previenen riesgos antes de que estos se materialicen. Se trata de un cambio cultural en la relación entre innovación y responsabilidad.

La SB 53 marca el inicio de una nueva era en la regulación de la inteligencia artificial. Aunque su alcance está limitado a grandes compañías, el precedente que establece es de enorme relevancia: convierte a California en pionero mundial en transparencia de IA, eleva la presión sobre Washington para acelerar la legislación federal, y envía un mensaje a nivel global: los modelos de frontera no solo deben ser poderosos, sino también seguros y comprensibles para la sociedad.

El reloj regulatorio ya ha empezado a correr. El reto, a partir de ahora, será asegurar que la innovación y la seguridad puedan avanzar en equilibrio.