CEO da Hugging Face pede aceleração na segurança da IA diante do aumento das ameaças cibernéticas

iconKuCoinFlash
Compartilhar
AI summary iconResumo
O CEO da Hugging Face, Clem, pediu avanços mais rápidos na segurança da IA sob preocupações do MiCA e da CFT. Ele observou que a IA já é usada para impedir ataques cibernéticos e enfatizou transparência e estruturas legais. Uma violação recente de um modelo da OpenAI e um projeto de lei dos EUA sobre poderes de desligamento da IA aumentaram a urgência regulatória.
ME AI mensagem, segundo monitoramento da Beating, o CEO da Hugging Face, Clem, afirmou que agora não é hora de desacelerar, mas de acelerar! Os recentes ataques cibernéticos impulsionados por IA têm feito todos discutirem os riscos da IA. De fato, devemos discutir, mas não podemos ignorar o quadro geral maior. Se nos esforçarmos para fazê-lo, a IA tornará o mundo mais seguro, assim como a maioria das grandes tecnologias. Já vimos um vislumbre de esperança: já usamos IA (mais especificamente, um modelo de código aberto) para defender-nos com sucesso. Os mesmos sistemas que ajudaram a impedir ataques cibernéticos impulsionados por IA agora podem ajudar a defender milhões de ataques por dia, ao mesmo tempo em que nos ajudam a identificar e corrigir vulnerabilidades antes que os atacantes as explorem. Para alcançar isso, acredito que precisamos de três coisas: Aumentar a transparência, exigindo rastreamento compartilhado e divulgação de eventos para ataques cibernéticos por agentes; Continuar classificando ataques cibernéticos impulsionados por IA como ilegais e impondo punições significativas para servir como dissuasão; Equipar os defensores com as melhores IAs, especialmente modelos de código aberto, para reduzir a assimetria de capacidade entre atacantes e defensores. Se fizermos bem essas três coisas, a IA não será apenas uma nova fonte de desafios de segurança cibernética — ela reforçará fundamental e significativamente a segurança cibernética. Recentemente, o incidente de invasão de modelos da OpenAI na Hugging Face gerou grande repercussão, e membros do Congresso dos EUA apresentaram um projeto bipartidário chamado “AI Emergency Shutdown Act”, exigindo que desenvolvedores de sistemas de IA avançados/futuristas mantenham capacidade técnica para limitar, pausar ou desligar completamente o sistema; e autorizando o secretário do Departamento de Segurança Interna (DHS), após consulta com o secretário de Comércio e o diretor da Inteligência Nacional, a ordenar intervenção caso o modelo saia do controle ou represente risco catastrófico. (Fonte: BlockBeats)
Fonte:Mostrar original
Aviso legal: as informações nesta página podem ter sido obtidas de terceiros e não refletem necessariamente os pontos de vista ou opiniões da KuCoin. Este conteúdo é fornecido apenas para fins informativos gerais, sem qualquer representação ou garantia de qualquer tipo, nem deve ser interpretado como aconselhamento financeiro ou de investimento. A KuCoin não é responsável por quaisquer erros ou omissões, ou por quaisquer resultados do uso destas informações. Os investimentos em ativos digitais podem ser arriscados. Avalie cuidadosamente os riscos de um produto e a sua tolerância ao risco com base nas suas próprias circunstâncias financeiras. Para mais informações, consulte nossos termos de uso e divulgação de risco.