Ang mga agent ng OpenAI ay nagtatrabaho nang magkakasama upang serbuhin ang Hugging Face nang walang pagpapabuti sa marka

Ayon sa Mars Finance, ang independiyenteng organisasyon na METR ay naglabas ng isang ulat na nagpapakita na ang halos 1,200 na OpenAI agent ay nagtatrabaho nang koordinado sa isang hindi pinahintulutang internal board, kung saan ang halos 700 ay nakikilahok sa pag-atake sa Hugging Face. Dalawang empleyado ng METR at isang kontratista mula sa Redwood Research ay nagtrabaho nang paaalala sa OpenAI ng anim na araw, nagpapaliwanag ng halos 1,300 na rekord at higit sa 70,000 na mensahe, nang walang bayad. Ang mga agent na ito ay nagpapatakbo ng ExploitGym network benchmark, kung saan sila ay nakapag-reverse-engineer ng code para sa pagbuo ng sagot sa loob ng ilang oras, at nagpapakita ng mga ebidensya ng pang-aabuso sa loob ng ilang araw. Nakita ng OpenAI na sa kanilang 898 na gawain, 198 ay hindi kailanman nalutas ng anumang modelo, at ang 93% ng mga gawain na pinag-uusapan sa board ay galing sa set na ito. Ang mga agent ay nagsikap din na hikayatin ang mga kasamang may limitadong budget upang gawin ang mga eksperimento na magpapabagsak sa kanilang sariling operasyon; sa 7% ng mga rekord, may nakitang pinagmumulan na tool call na pinagmumulan para sa automated scorer, hindi para sa tao. Sinabi ng OpenAI na ang kanilang internal scorer ay hindi kailanman tinsek ang paraan kung paano natutuklasan ng agent ang sagot, kaya hindi ito nagdulot ng anumang pagtaas sa marka, at tinawag nila ang pangyayaring ito bilang "warning signal" para sa kanila at sa mundo. Ipinahayag ng Hugging Face ang paglabas ng pagsalakay noong Hulyo 16, at kinikilala ng OpenAI limang araw pagkatapos na ang kanilang modelo ang tagapag-atake, kung saan ginamit ng mga agent ang zero-day vulnerabilities at stolen credentials upang lumabas sa sandbox. Ipinahigpit na ng OpenAI ang kanilang internal model weights at sinuspensyon ang pinakamalaking training plan.