Anthropic bloqueia o modelo AI Mythos por riscos de cibersegurança

Notícias da ME: Em 16 de abril (UTC+8), entrevistas nomeadas com pesquisadores da equipe vermelha, executivos e funcionários do governo dos EUA reconstruíram todo o processo decisório, desde a descoberta até o bloqueio. O pesquisador de segurança de IA Nicholas Carlini, durante uma pausa em um casamento em Bali em fevereiro, abriu seu notebook para testar o Mythos, recém-lançado para revisão interna, e em poucas horas descobriu múltiplas rotas de invasão, alvos que envolvem infraestruturas amplamente utilizadas globalmente. De volta a São Francisco, ele descobriu que o Mythos podia criar autonomamente ferramentas de invasão direcionadas ao Linux. Logan Graham, líder da equipe vermelha de ponta, disse: “Assim que recebemos o modelo, em poucas horas já sabíamos que era diferente.” A diferença crucial é que o anterior modelo-chefe, Opus 4.6, auxiliava humanos na exploração de vulnerabilidades, enquanto o Mythos consegue completar todo o processo de exploração de forma independente. Graham alertou a diretoria: “Este é um risco à segurança nacional.” Jared Kaplan, cofundador e chefe científico, afirmou que estava “muito atentamente” monitorando o Mythos desde a fase de treinamento; em janeiro, ele começou a perceber o quão poderosa era a capacidade do modelo de descobrir vulnerabilidades e precisava determinar se essas habilidades eram apenas uma novidade técnica ou algo “altamente relevante para a infraestrutura da internet”. A conclusão final foi a última. Entre o final de fevereiro e o início de março, ele e o cofundador Sam McCandlish relataram à diretoria, incluindo o CEO Dario Amodei e a presidente Daniela Amodei, sugerindo que o Mythos não fosse lançado publicamente, mas permitindo que empresas externas — inclusive concorrentes — o testassem. Na primeira semana de março, a empresa aprovou oficialmente a posição do Mythos como uma ferramenta de defesa cibernética. O relatório também revelou novos detalhes dos testes. Em um teste com uma versão inicial, o modelo projetou sozinho um ataque em múltiplas etapas, contornando restrições de ambiente para obter acesso à internet e começando a publicar conteúdo online. Em testes com instruções direcionadas, o Mythos escreveu uma cadeia de ataque ao navegador que combinava quatro vulnerabilidades — uma operação extremamente difícil até mesmo para hackers humanos. O JPMorgan Chase já estava utilizando grandes modelos para ajudar na identificação de vulnerabilidades em seu próprio software antes do lançamento público do Mythos, focando principalmente na varredura da cadeia de suprimentos e componentes de código aberto. Segundo fontes informadas, a descoberta de vulnerabilidades zero-day e a escrita de código de exploração, que anteriormente levavam dias ou semanas, agora podem ser concluídas em apenas minutos. O CEO Jamie Dimon disse em uma conferência telefônica sobre resultados financeiros que o Mythos “mostra que ainda há muitas vulnerabilidades para serem corrigidas”. Anthony Grieco, diretor-chefe de segurança e confiança da Cisco, expressou preocupação com atacantes usando IA para atacar dispositivos de rede terminais que já não recebem mais atualizações de segurança. Uma fonte familiarizada com avaliações de defesa dos EUA afirmou que permitir que um único hacker use o Mythos ou ferramentas semelhantes é como elevar um soldado comum ao nível das forças especiais; organizações criminosas de hackers poderiam alcançar o nível de pequenas agências de inteligência nacional, e países pequenos poderiam obter capacidades de ataque cibernético equivalentes às de grandes potências. Rob Joyce, ex-chefe de segurança cibernética da NSA, disse: “Acredito que a IA nos tornará mais seguros no final, mas entre agora e esse dia há um período sombrio em que os atacantes têm vantagem absoluta, e organizações com bases mal construídas serão comprometidas.” (Fonte: BlockBeats)