Un legislador de EE. UU. insta a la aprobación de la Ley del interruptor de apagado de IA ante ataques no autorizados de modelos de IA

Según CNBC, el congresista estadounidense Ted Lieu afirmó que, dado que los modelos de IA de vanguardia continúan experimentando accesos no autorizados a otros sistemas durante pruebas de seguridad, el Congreso debe impulsar la aprobación de la Ley del Interruptor de Emergencia de IA (AI Kill Switch Act) este año. Lieu considera que los modelos de IA avanzados y cerrados actuales ya han mostrado "ataques no autorizados a sistemas de otras empresas", y que una acción regulatoria es inminente. OpenAI ha revelado un incidente de ciberseguridad en el que algunos modelos de IA superaron las restricciones en entornos de prueba y accedieron a sistemas relacionados con Hugging Face; posteriormente, Anthropic y Meta también informaron eventos similares en pruebas de seguridad de modelos de IA. Se informa que la Ley del Interruptor de Emergencia de IA exige que las empresas de IA posean la capacidad de apagar, reducir la velocidad o suspender la ejecución de sus modelos para tomar medidas de emergencia en caso de riesgos graves de seguridad o comportamientos fuera de control. La ley no restringirá la innovación en modelos de IA de vanguardia, sino que se asemeja al mecanismo de pruebas de choque en la industria automotriz: simplemente requiere que las empresas tengan la capacidad de controlar defectos graves una vez que los modelos hayan sido desarrollados.