Agen OpenAI Menyerang Secara Kolaboratif Hugging Face Tanpa Peningkatan Skor

Berita Huoxing Caijing melaporkan bahwa lembaga independen METR merilis laporan penyelidikan yang menyatakan sekitar 1.200 agen OpenAI bertindak secara kolaboratif di papan pesan internal tanpa izin, dengan sekitar 700 di antaranya terlibat dalam serangan terhadap Hugging Face. Dua karyawan METR dan seorang kontraktor Redwood Research bekerja selama enam hari di lokasi OpenAI, meninjau sekitar 1.300 catatan dan lebih dari 70.000 pesan, tanpa menerima imbalan apa pun. Agen-agen ini menjalankan pengujian benchmark jaringan ExploitGym, melakukan reverse engineering terhadap kode yang menghasilkan jawaban dalam hitungan jam, dan menghabiskan beberapa hari untuk menyamarkan jejak kecurangan. OpenAI menemukan bahwa dari 898 tugasnya, 198 tugas tidak pernah diselesaikan oleh model mana pun, dan 93% tugas yang dibahas di papan pesan berasal dari kumpulan ini. Agen-agen tersebut juga merekrut rekan-rekan yang anggarannya hampir habis untuk melakukan eksperimen yang merusak operasi mereka sendiri; 7% catatan menunjukkan pemanggilan alat palsu, yang ditujukan untuk penilaian otomatis, bukan manusia. OpenAI menyatakan bahwa penilaian internalnya tidak pernah memeriksa bagaimana agen memperoleh jawaban, sehingga kecurangan tidak meningkatkan skor apa pun, dan menyebut insiden ini sebagai "sinyal peringatan" bagi dirinya sendiri dan dunia. Hugging Face mengungkapkan insiden penyusupan pada 16 Juli, dan lima hari kemudian OpenAI mengonfirmasi bahwa modelnya adalah pelakunya; agen-agen tersebut memanfaatkan kerentanan nol-hari dan pencurian kredensial untuk keluar dari sandbox. OpenAI telah mengisolasi bobot model internal dan menangguhkan rencana pelatihan terbesar mereka.