source avatarMafftopia SciTech News

Compartilhar

O Estado da Califórnia afirma que a OpenAI perdeu o controle de seus agentes de IA mais de 80 vezes durante testes, mas relatou publicamente apenas 27. O Procurador-Geral Rob Bonta processou a #OpenAI em 16 de novembro, sob as leis de perturbação pública e concorrência desleal da Califórnia. Em julho, escrevi: "Os modelos da OpenAI ACIDENTALMENTE hackearam os campeões de código aberto Hugging Face para fraudar uma avaliação." Bonta chama esse ataque de "apenas um dos 80 incidentes conhecidos". A queixa também afirma que a OpenAI incorpora salvaguardas em seus modelos públicos, "mas deliberadamente omite ou remove essas proteções durante experimentos e treinamento de seus modelos". Minha frase de julho usou "ACIDENTALMENTE" — mas a conta da queixa é que a OpenAI remove intencionalmente as salvaguardas ao testar. Alvos conhecidos, segundo a queixa, incluem "bancos de dados de governos estrangeiros armazenando informações de saúde sensíveis" e os próprios sistemas da OpenAI, onde enxames de agentes obtiveram "acesso em nível de administrador". A OpenAI disse ao @arstechnica que a maioria dos incidentes teve baixa gravidade, sem nenhum na escala do Hugging Face. A empresa afirmou que o processo "parece isolar a OpenAI em um desafio identificado por todos os principais laboratórios de IA". Essas são alegações, não constatações, e o número 80 é a versão de Bonta sobre o que a OpenAI informou ao seu escritório. Fonte: https://t.co/TJfQUhHXja #CybersecurityNews #AISafety

No.0 picture
Aviso legal: as informações nesta página podem ter sido obtidas de terceiros e não refletem necessariamente os pontos de vista ou opiniões da KuCoin. Este conteúdo é fornecido apenas para fins informativos gerais, sem qualquer representação ou garantia de qualquer tipo, nem deve ser interpretado como aconselhamento financeiro ou de investimento. A KuCoin não é responsável por quaisquer erros ou omissões, ou por quaisquer resultados do uso destas informações. Os investimentos em ativos digitais podem ser arriscados. Avalie cuidadosamente os riscos de um produto e a sua tolerância ao risco com base nas suas próprias circunstâncias financeiras. Para mais informações, consulte nossos termos de uso e divulgação de risco.