A Nvidia e várias grandes empresas de tecnologia lançaram uma nova iniciativa de safety initiative de inteligência artificial focada em melhorar as capacidades de segurança dos modelos de IA abertos.
A iniciativa segue um ciberataque que envolveu um modelo OpenAI malicioso que segundo relatos visou a plataforma de IA Hugging Face. Durante o incidente, a Hugging Face não conseguiu usar os principais modelos de ponta dos EUA para defender seus sistemas, pois as barreiras de segurança integradas não conseguiram distinguir confiavelmente entre atividades maliciosas e trabalhos defensivos de cibersegurança.
Em vez disso, a empresa teria recorrido a um modelo chinês de peso aberto auto-hospedado que não estava sujeito às mesmas restrições.
Nvidia apoia a Aliança Aberta de IA Segura
A Nvidia anunciou que a Open Secure AI Alliance desenvolverá e compartilhará tecnologias abertas projetadas para identificar, divulgar e corrigir vulnerabilidades de segurança. Segundo a Nvidia, o incidente da Hugging Face provou que as equipes de cibersegurança precisam ter acesso a sistemas abertos de IA agente de ponta para fins defensivos.
(Fonte: Nvidia)
A aliança inclui Nvidia, Microsoft, SpaceX, Palantir e dezenas de outras empresas de tecnologia dos Estados Unidos e da Europa. Espera-se que os membros colaborem em ferramentas de IA abertas que possam apoiar a pesquisa em cibersegurança e fortalecer a capacidade das organizações de responder a ataques sofisticados.
A iniciativa também poderia ajudar a reduzir a dependência da indústria de tecnologia de modelos de IA chineses de peso aberto.
Legisladores dos EUA consideram restrições aos modelos de IA chineses
A aliança apoiada pela Nvidia surge enquanto os formuladores de políticas dos EUA consideram medidas para limitar o uso de sistemas de IA chineses.
Empresas chinesas de IA enfrentaram acusações de usar técnicas de distilação para extrair informações de modelos mais avançados desenvolvidos por concorrentes dos EUA. A distilação geralmente envolve treinar um modelo usando as saídas ou capacidades de outro sistema mais poderoso.
O secretário do Tesouro dos EUA, Scott Bessent, alertou recentemente que empresas chinesas acusadas de realizar ataques de destilação não autorizados poderão enfrentar sanções.
Especialistas acreditam que possíveis restrições poderiam incluir proibir empresas dos EUA de adquirir acesso a modelos de IA chineses por meio de interfaces de programação de aplicativos. Medidas também poderiam impedir provedores de nuvem americanos de hospedar esses modelos e cobrar clientes por seu uso.
Modelos da Open AI tornam-se uma prioridade de segurança
Restrições rigorosas podem ajudar a impedir que modelos sejam usados para ataques, mas também podem limitar trabalhos defensivos legítimos. O incidente da Hugging Face sugere que organizações podem ter dificuldades para se proteger quando modelos fechados recusam solicitações relacionadas à cibersegurança sem reconhecer a diferença entre um atacante e um defensor.
Por meio da nova aliança, a Nvidia e seus parceiros estão tentando construir um ecossistema aberto no qual ferramentas avançadas de segurança de IA possam ser desenvolvidas, testadas e compartilhadas de forma mais ampla. A iniciativa pode se tornar muito importante à medida que governos consideram restrições a modelos chineses e empresas buscam alternativas seguras que possam ser hospedadas e controladas independentemente.