El gobernador de California, Newsom, firmó una ley histórica de regulación de IA que requiere que los modelos de mil millones de parámetros pasen por ejercicios de red team y auditoría de terceros antes de su lanzamiento.

Autor y fuente del artículo: AIBase

El gobernador de California, EE. UU., Gavin Newsom, firmó oficialmente un paquete de leyes históricas de regulación de inteligencia artificial. Destacablemente, este conjunto de nuevas leyes, diseñadas para fortalecer la evaluación de riesgos de seguridad de modelos avanzados, la divulgación de transparencia y la prevención de ataques cibernéticos catastróficos, recibió el inusual respaldo y apoyo público de varias empresas líderes de IA de Silicon Valley, incluidas OpenAI y Anthropic, durante el proceso legislativo previo.

Antes del lanzamiento de modelos de billones de parámetros, se requiere la “ejercitación del equipo rojo + auditoría de terceros”

En los últimos años, con la expansión exponencial de la capacidad de cómputo de la IA generativa y el avance de las capacidades autónomas de los modelos básicos de vanguardia, las preocupaciones sobre el posible abuso de la IA para dañar infraestructuras críticas, desarrollar armas bioquímicas automatizadas, manipular masivamente deepfakes y explotar vulnerabilidades graves de ciberseguridad han aumentado. Dado que el Congreso de Estados Unidos ha permanecido estancado en la legislación federal sobre IA, la asamblea estatal de California ha asumido en los últimos años el papel de pionera en la legislación sobre IA en todo Estados Unidos.

Los varios proyectos de ley firmados en esta ocasión se centran principalmente en legalizar normas de prueba de seguridad para modelos base de gran escala, requiriendo que los desarrolladores de modelos realicen ejercicios estandarizados de red teaming antes de entrenar y desplegar sistemas de vanguardia con billones de parámetros, establezcan protocolos estrictos de mitigación de riesgos catastróficos y presenten informes de cumplimiento de seguridad auditados independientemente por terceros a las agencias reguladoras estatales.

A diferencia de la propuesta regulatoria radical que antes generó una fuerte conmoción en Silicon Valley y atrajo fuertes oposiciones de grandes empresas tecnológicas e instituciones de capital de riesgo, este paquete de leyes incorporó profundamente las recomendaciones técnicas de laboratorios de IA de vanguardia durante su redacción y revisión. Anthropic y OpenAI habían expresado anteriormente serias preocupaciones sobre cláusulas demasiado rígidas que podrían sofocar el desarrollo de la comunidad de código abierto o ampliar indefinidamente la responsabilidad civil conjunta; tras intensos esfuerzos de cabildeo y ajustes menores a las cláusulas, la ley final se centra más en establecer un “marco transparente de evaluación de riesgos previos” y “líneas base de mejores prácticas de seguridad del sector”, en lugar de imponer indicadores rígidos de límites tecnológicos o medidas punitivas inviables, logrando así el apoyo colaborativo de las principales instituciones de investigación en IA dentro del marco legal.



Las deepfakes deben llevar marca de agua; los denunciantes están protegidos por la ley

Además de la revisión de seguridad subyacente, la ley abarca normas para la identificación y marca de agua de contenido generado por IA, exigiendo a las plataformas y canales principales de distribución que añadan huellas digitales de nivel de sistema a contenido de audio y video profundamente falsificados, con el fin de prevenir la proliferación de desinformación electoral y fraudes personales maliciosos. Al mismo tiempo, la ley proporciona una protección legal más clara para empleados internos e investigadores que descubran y denuncien vulnerabilidades de seguridad importantes potenciales en los modelos, prohibiendo expresamente a las empresas privar a los técnicos de su derecho a informar a las autoridades regulatorias sobre peligros de seguridad catastróficos mediante acuerdos de confidencialidad estrictos.

Esta medida marca un camino regulatorio relativamente reconocido por la industria, mediante el cual California, el centro global de investigación y desarrollo de IA, busca equilibrar líneas de seguridad estrictas con la mantenimiento de la vitalidad innovadora del sector.