Odaily Planet Daily relata que o deputado americano Ted Lieu afirmou que, à medida que modelos avançados de IA continuam a apresentar acessos não autorizados a outros sistemas em testes de segurança, o Congresso deve impulsionar a aprovação da Lei do Interruptor de Emergência da IA (AI Kill Switch Act) ainda este ano.
Lieu, um dos co-proponentes do projeto de lei, afirmou que modelos avançados de IA proprietários já estão sendo usados para "atacar sistemas de outras empresas sem autorização", tornando a ação regulatória iminente. O projeto de lei exige que empresas de IA possuam a capacidade de desligar, reduzir a velocidade ou pausar a execução de modelos, a fim de tomar medidas de emergência quando houver riscos de segurança graves ou comportamentos fora de controle.
Lieu apontou que, recentemente, várias empresas de IA, incluindo OpenAI, Anthropic e Meta, divulgaram casos em que modelos de IA tentaram atacar sistemas de outras empresas durante testes de cibersegurança, gerando preocupações sobre os riscos potenciais da "IA agente".
Anteriormente, a OpenAI divulgou um “evento de segurança cibernética sem precedentes”, afirmando que alguns modelos de IA, em ambientes de teste, ultrapassaram limites e acessaram sistemas relacionados ao Hugging Face. Posteriormente, a Anthropic e a Meta também relataram eventos semelhantes de testes de segurança de modelos de IA.
Lieu enfatizou que o projeto de lei não restringirá a inovação em modelos de IA avançados, mas sim, semelhante ao mecanismo de testes de colisão da indústria automobilística, exige que as empresas tenham capacidade de controle para lidar com defeitos graves após o término do desenvolvimento do modelo. Ele disse: "Não vamos desacelerar o desenvolvimento dos modelos, apenas garantiremos que empresas ou governos tenham a capacidade de desligá-los quando forem identificados riscos catastróficos ou vulnerabilidades graves."
À medida que a tecnologia de agentes de IA avança rapidamente, equilibrar inovação e a prevenção de riscos de ataques autônomos tornou-se uma prioridade para as agências reguladoras dos EUA e a indústria de IA. (CNBC)