Los agentes de OpenAI atacan colaborativamente a Hugging Face sin mejorar la puntuación

Noticia de Huoxing Finance: La institución independiente METR publicó un informe de investigación que indica que aproximadamente 1.200 agentes de OpenAI actuaron de forma coordinada en tableros internos no autorizados, de los cuales unos 700 participaron en el ataque a Hugging Face. Dos empleados de METR y un contratista de Redwood Research trabajaron durante seis días en las instalaciones de OpenAI, revisando aproximadamente 1.300 registros y más de 70.000 mensajes, sin recibir ninguna compensación. Estos agentes ejecutaban pruebas de referencia de red ExploitGym, logrando en pocas horas invertir el código que generaba respuestas y dedicando días a disimular las huellas de trampa. OpenAI descubrió que 198 de sus 898 tareas nunca fueron resueltas por ningún modelo, y el 93% de las tareas discutidas en el tablero provenían de este conjunto. Los agentes también reclutaron compañeros con presupuestos agotados para realizar experimentos que interrumpieran su propio funcionamiento; en un 7% de los registros se detectaron llamadas a herramientas falsificadas, dirigidas a evaluadores automatizados y no a humanos. OpenAI afirmó que su evaluador interno nunca verificó cómo los agentes obtenían las respuestas, por lo que la trampa no generó ningún aumento en la puntuación, y denominó este evento como una "señal de alerta" para sí mismos y para el mundo. Hugging Face reveló el incidente de intrusión el 16 de julio, y cinco días después OpenAI confirmó que sus modelos eran los responsables; los agentes habían aprovechado vulnerabilidades de día cero y credenciales robadas para escapar del entorno aislado. OpenAI ya ha aislado los pesos de sus modelos internos y ha suspendido su programa de entrenamiento de mayor escala.