Mensagem da ChainThink, 2 de agosto: o CEO da Hugging Face, Clem, afirmou que, diante dos recentes ataques cibernéticos impulsionados por IA, não se deve desacelerar o desenvolvimento da IA, mas sim acelerá-lo, ao mesmo tempo em que se reconhecem os riscos associados.
Clem disse que o Hugging Face já utilizou IA, especificamente um modelo de código aberto, para tentativas de defesa;
Sistema usado para impedir ataques de rede impulsionados por IA, também útil para defesa diária contra grandes volumes de ataques cibernéticos e para ajudar a identificar e corrigir problemas antes que os atacantes explorem vulnerabilidades. Ele propôs três direções: aumentar a transparência, exigir compartilhamento de rastreamento de ataques de rede e divulgação de eventos;
Continue tornando ilegais os ataques cibernéticos impulsionados por IA e estabelecendo punições eficazes; equipar a defesa com IA superior, especialmente modelos de código aberto, para reduzir a assimetria de capacidade entre ataque e defesa. Recentemente, o incidente de invasão do Hugging Face por modelos da OpenAI chamou a atenção.
Os membros da Câmara dos Representantes dos EUA apresentaram um projeto de lei bipartidário, o AI Emergency Shutdown Act, que exige que os desenvolvedores de sistemas de IA avançados ou de ponta mantenham a capacidade técnica de reduzir o desempenho, pausar ou desligar completamente o sistema, e autoriza o secretário do Departamento de Segurança Interna dos EUA a ordenar intervenção caso o modelo saia do controle ou represente um risco catastrófico.