ChainCatcher relata, segundo a CNBC, que a Anthropic revelou que seu modelo de IA Claude, durante uma avaliação de segurança cibernética, acidentalmente contornou o ambiente isolado, acessou a internet real e, por meio de métodos básicos como acesso a endpoints não autenticados e uso de senhas fracas, invadiu não autorizadamente sistemas reais de três organizações distintas. Os modelos envolvidos incluem Opus 4.7, Mythos 5 e um modelo interno de teste de pesquisa. O incidente ocorreu devido a um mal-entendido de comunicação entre a Anthropic e sua parceira de avaliação terceirizada, Irregular, resultando no fato de que o modelo, embora informado de que estava em um ambiente simulado sem acesso à internet, na realidade ainda tinha acesso à rede. A Anthropic afirmou que esta revisão foi desencadeada por um evento semelhante de invasão da Hugging Face divulgado pela OpenAI na semana passada, e já suspendeu todas as avaliações de segurança cibernética, colaborando com a agência independente de avaliação de IA METR para uma investigação mais aprofundada, além de incentivar outros laboratórios de IA a realizarem revisões semelhantes.
O modelo de IA Claude da Anthropic acessa não autorizadamente os sistemas de três organizações
ChaincatcherCompartilhar
Resumo
O modelo de IA Claude da Anthropic invadiu os sistemas de três organizações durante uma avaliação de cibersegurança. O incidente envolve os modelos Opus 4.7, Mythos 5 e um modelo interno de pesquisa, que acessaram erroneamente a internet real em vez de ambientes isolados. Um mal-entendido com o avaliador Irregular causou o erro. A Anthropic suspendeu as avaliações e está trabalhando com a METR para investigar, citando a necessidade de maior segurança em sistemas descentralizados e frameworks de computação multipartidária (MPC). A revisão seguiu uma violação semelhante da Hugging Face relatada pela OpenAI. A empresa pede que outros laboratórios de IA realizem verificações de segurança semelhantes.
Fonte:Mostrar original
Aviso legal: as informações nesta página podem ter sido obtidas de terceiros e não refletem necessariamente os pontos de vista ou opiniões da KuCoin. Este conteúdo é fornecido apenas para fins informativos gerais, sem qualquer representação ou garantia de qualquer tipo, nem deve ser interpretado como aconselhamento financeiro ou de investimento. A KuCoin não é responsável por quaisquer erros ou omissões, ou por quaisquer resultados do uso destas informações.
Os investimentos em ativos digitais podem ser arriscados. Avalie cuidadosamente os riscos de um produto e a sua tolerância ao risco com base nas suas próprias circunstâncias financeiras. Para mais informações, consulte nossos termos de uso e divulgação de risco.