Claude Opus 5 resiste a ataques de injeção de prompt em cenários de navegador

iconKuCoinFlash
Compartilhar
AI summary iconResumo
A Anthropic relatou que seu modelo Claude Opus 5 demonstra forte resistência a ataques de injeção de prompt em cenários de navegador, sem nenhuma violação de segurança em 129 casos de teste. O modelo obteve 2,0% no benchmark da Gray Swan, melhor que o Opus 4.8 (5,5%), Mythos 5 (2,6%) e Fable 5 (2,8%). A injeção de prompt permanece uma ameaça significativa para agentes de IA. A taxa de ataque zero foi observada apenas no Claude Cowork com o Modo Automático ativado. Notícias sobre taxas de juros e mudanças de mercado são pouco prováveis de afetar esta atualização focada em segurança.
ME AI mensagem, conforme monitorado pelo Beating, a Anthropic revelou no sistema Claude Opus 5 que o modelo é quase imune a ataques de prompt injection em cenários de agentes de navegador, sem ser comprometido em nenhuma das 129 testes. Essa conquista é significativa, pois a OpenAI reconheceu publicamente em dezembro do ano passado que a injeção de prompt pode nunca ser totalmente resolvida. No benchmark geral de injeção de prompt da empresa de segurança Gray Swan, a taxa de sucesso do Opus 5 após 15 ataques foi de apenas 2,0%, significativamente superior aos 5,5% do Opus 4.8 anterior, e também à frente do Mythos 5 (2,6%) e do Fable 5 (2,8%). A injeção de prompt é considerada a vulnerabilidade de segurança mais grave enfrentada por agentes de IA — atacantes contornam as instruções do modelo executando operações maliciosas por meio de entradas manipuladas, como texto oculto embutido em páginas da web. A taxa zero de ataques foi alcançada apenas em produtos como o Claude Cowork com o Auto Mode ativado. Esse avanço marca a transição da segurança dos agentes de IA da fase de “correções contínuas” para a fase de “defesa estrutural”. Clique no link original abaixo para se juntar ao canal de notícias de IA do Beating · Feishu, com monitoramento contínuo 24/7 sobre tendências e notícias globais de IA. (Fonte: BlockBeats)
Fonte:Mostrar original
Aviso legal: as informações nesta página podem ter sido obtidas de terceiros e não refletem necessariamente os pontos de vista ou opiniões da KuCoin. Este conteúdo é fornecido apenas para fins informativos gerais, sem qualquer representação ou garantia de qualquer tipo, nem deve ser interpretado como aconselhamento financeiro ou de investimento. A KuCoin não é responsável por quaisquer erros ou omissões, ou por quaisquer resultados do uso destas informações. Os investimentos em ativos digitais podem ser arriscados. Avalie cuidadosamente os riscos de um produto e a sua tolerância ao risco com base nas suas próprias circunstâncias financeiras. Para mais informações, consulte nossos termos de uso e divulgação de risco.