Odaily Planet Daily informa que el congresista estadounidense Ted Lieu declaró que, dado que los modelos de IA de vanguardia continúan experimentando accesos no autorizados a otros sistemas durante las pruebas de seguridad, el Congreso debería impulsar la aprobación de la Ley del Interruptor de Emergencia de IA (AI Kill Switch Act) este año.
Lieu es uno de los copropositores de la ley y afirmó que los modelos de IA avanzados y cerrados actuales ya han realizado "ataques no autorizados a sistemas de otras empresas", lo que hace que la acción regulatoria sea inminente. La ley exige que las empresas de IA tengan la capacidad de apagar, reducir la velocidad o pausar los modelos para tomar medidas de emergencia cuando surjan riesgos de seguridad graves o comportamientos fuera de control.
Lieu señaló que recientemente varias empresas de IA, incluidas OpenAI, Anthropic y Meta, han revelado eventos en los que modelos de IA intentaron atacar sistemas de otras empresas durante pruebas de ciberseguridad, generando preocupación sobre los riesgos potenciales de la "IA agente (Agentic AI)".
Anteriormente, OpenAI reveló un "evento de ciberseguridad sin precedentes", indicando que algunos modelos de IA, en entornos de prueba, superaron restricciones y accedieron a sistemas relacionados con Hugging Face. Posteriormente, Anthropic y Meta también informaron eventos similares de pruebas de seguridad de modelos de IA.
Lieu enfatizó que la ley no limitará la innovación en modelos de IA de vanguardia, sino que, similar al mecanismo de pruebas de choque de la industria automotriz, simplemente requiere que las empresas tengan la capacidad de controlar defectos graves una vez que el modelo haya completado su desarrollo. Dijo: "No ralentizaremos el desarrollo de modelos, sino que nos aseguraremos de que las empresas o el gobierno tengan la capacidad de apagarlos cuando se descubran riesgos catastróficos o vulnerabilidades graves."
A medida que la tecnología de agentes de IA avanza rápidamente, equilibrar la promoción de la innovación con la prevención de riesgos de ataques autónomos se ha convertido en una prioridad para las autoridades regulatorias estadounidenses y la industria de la IA. (CNBC)