OpenAI contrata a METR para auditar o maior treinamento de aprendizado por reforço

iconChaincatcher
Compartilhar
AI summary iconResumo
A OpenAI contratou a METR para auditar sua maior execução de treinamento de aprendizado por reforço, segundo dados on-chain e ChainCatcher. A METR revisará instantâneos do modelo e logs internos de treinamento como parte de um piloto único. O Defiant relata que os termos de monitoramento mais amplos ainda não foram resolvidos. A METR, anteriormente ARC Evals, já testou os sistemas internos da OpenAI. Altcoins para acompanhar podem reagir a desenvolvimentos em segurança de IA.

ChainCatcher relata que a OpenAI contratou a agência de avaliação de segurança AI, METR, para realizar uma revisão de segurança da maior execução de treinamento de aprendizado por reforço realizada até agora. Esta revisão é um teste piloto para uma única execução, e a METR terá acesso a instantâneos do modelo e registros internos do processo de treinamento. Segundo o The Defiant, as partes ainda não chegaram a um acordo sobre uma avaliação de monitoramento mais abrangente, e o escopo da avaliação permanece em negociação. A METR, anteriormente conhecida como ARC Evals, fornece avaliações independentes pré-deploy para laboratórios de IA de ponta e já realizou testes de red teaming no sistema interno de monitoramento de desalinhamento da OpenAI.

Aviso legal: as informações nesta página podem ter sido obtidas de terceiros e não refletem necessariamente os pontos de vista ou opiniões da KuCoin. Este conteúdo é fornecido apenas para fins informativos gerais, sem qualquer representação ou garantia de qualquer tipo, nem deve ser interpretado como aconselhamento financeiro ou de investimento. A KuCoin não é responsável por quaisquer erros ou omissões, ou por quaisquer resultados do uso destas informações. Os investimentos em ativos digitais podem ser arriscados. Avalie cuidadosamente os riscos de um produto e a sua tolerância ao risco com base nas suas próprias circunstâncias financeiras. Para mais informações, consulte nossos termos de uso e divulgação de risco.