A Amazon supostamente pressiona por restrições ao modelo da Anthropic amid preocupações de segurança

Notícia do DeepTide TechFlow: em 14 de junho, segundo o Wall Street Journal, as restrições de exportação e acesso impostas pelo governo dos EUA aos modelos Fable 5 / Mythos 5 da Anthropic foram parcialmente impulsionadas por pesquisas de segurança cibernética da Amazon e pela comunicação entre o CEO da AWS, Andy Jassy, e a Casa Branca. Sabe-se que a pesquisa apresentada pela Amazon indicou que, por meio de uma série de testes com prompts, os pesquisadores conseguiram induzir o Fable 5 a gerar informações sensíveis que poderiam ser usadas em ataques cibernéticos, levantando preocupações de segurança. Posteriormente, Andy Jassy relatou essas descobertas às autoridades governamentais dos EUA, levando a Casa Branca a implementar medidas adicionais de restrição, incluindo a proibição do acesso ao modelo por usuários estrangeiros. A Anthropic negou a afirmação do governo de que o problema foi classificado como "jailbreak", argumentando que vulnerabilidades semelhantes também podem ocorrer em outros modelos públicos, como o GPT 5.5. Alguns pesquisadores de segurança também apoiam essa visão, considerando que o problema está mais próximo de um "risco de prompt injection" do que de uma quebra séria do modelo. Além disso, segundo Kate Klon, ex-funcionária do Departamento de Comércio dos EUA, a posição política existente da Anthropic também pode ter influenciado essa decisão, já que a empresa diverge da Casa Branca em questões relacionadas aos limites de segurança da inteligência artificial, incluindo a recusa em utilizar modelos para vigilância em larga escala ou sistemas de armas autônomas letais. Embora ambas as partes tenham suavizado e ampliado sua cooperação no início deste ano,