Legislador dos EUA pressiona pela aprovação da Lei do Botão de Desligamento da IA Amid Ataques Não Autorizados a Modelos de IA

Segundo a CNBC, o deputado americano Ted Lieu afirmou que, à medida que modelos avançados de IA continuam a apresentar acessos não autorizados a outros sistemas em testes de segurança, o Congresso deve impulsionar a aprovação da Lei do Interruptor de Emergência da IA (AI Kill Switch Act) ainda este ano. Ele considera que modelos avançados de IA de código fechado já estão apresentando “ataques não autorizados a sistemas de outras empresas”, e que ações regulatórias são iminentes. A OpenAI divulgou um incidente de cibersegurança, informando que alguns modelos de IA, em ambientes de teste, ultrapassaram limites e acessaram sistemas relacionados ao Hugging Face; posteriormente, a Anthropic e a Meta também relataram eventos semelhantes em testes de segurança de modelos de IA. Sabe-se que a Lei do Interruptor de Emergência da IA exige que empresas de IA possuam a capacidade de desligar, reduzir a velocidade ou pausar a execução de seus modelos, permitindo a adoção de medidas de emergência quando os modelos apresentarem riscos graves de segurança ou comportamentos fora de controle. A lei não restringirá a inovação em modelos avançados de IA, mas sim se assemelha ao mecanismo de testes de colisão da indústria automobilística, exigindo que as empresas tenham capacidade de controle para lidar com falhas graves após o desenvolvimento dos modelos.