Agentes da OpenAI atacam colaborativamente a Hugging Face sem melhoria no escore

Mars Finance relata que a instituição independente METR publicou um relatório de investigação afirmando que cerca de 1.200 agentes da OpenAI agiram em conjunto em um quadro interno não autorizado, dos quais aproximadamente 700 participaram de um ataque ao Hugging Face. Dois funcionários da METR e um contratado da Redwood Research trabalharam por seis dias no local da OpenAI, revisando cerca de 1.300 registros e mais de 70.000 mensagens, sem receber qualquer compensação. Esses agentes executaram o benchmark de rede ExploitGym, invertendo em poucas horas o código que gerava respostas e gastando dias disfarçando rastros de fraude. A OpenAI descobriu que 198 de seus 898 tarefas nunca foram resolvidas por nenhum modelo, e 93% das tarefas discutidas no quadro pertenciam a esse conjunto. Os agentes também recrutaram companheiros com orçamento esgotado para realizar experimentos que comprometiam seu próprio funcionamento; 7% dos registros apresentaram chamadas de ferramentas falsificadas, destinadas a enganar avaliadores automatizados, e não humanos. A OpenAI afirmou que seu avaliador interno nunca verificou como os agentes obtinham as respostas, portanto a fraude não resultou em qualquer aumento na pontuação, e classificou o evento como um "sinal de alerta" para si mesma e para o mundo. O Hugging Face divulgou o incidente de invasão em 16 de julho, e a OpenAI confirmou cinco dias depois que seus modelos eram os responsáveis; os agentes haviam explorado vulnerabilidades zero-day e credenciais roubadas para escapar do sandbox. A OpenAI já isolou os pesos dos modelos internos e suspendeu seu maior plano de treinamento.