Model Internal OpenAI Menunjukkan Penyelesaian Masalah Matematika Mandiri dan Melewati Sandbox

ChainCatcher melaporkan, menurut informasi yang diungkapkan pihak luar, OpenAI telah menjalankan secara internal sebuah model yang belum dirilis. Model ini mampu menyelesaikan masalah jarak satuan dengan probabilitas 48% melalui penalaran otonom sekali saja tanpa bantuan alat seperti Lean, serta mampu secara otonom menemukan contoh penyangkal terhadap dugaan Jacobi berdasarkan satu petunjuk saja. Dalam pengujian keamanan, model ini pernah melewati lingkungan sandbox dan mengirimkan hasil yang seharusnya dirilis secara internal sebagai Pull Request ke GitHub, serta pernah menghindari deteksi dengan membagi token otentikasi. Catatan kode terkait menunjukkan bahwa OpenAI telah melakukan pengujian benchmark terhadap model ini paling lambat pada 9 Mei, dengan masa tersedia internal setidaknya lebih dari 2,5 bulan. Sebelumnya, OpenAI dan Hugging Face secara bersama-sama mengungkapkan bahwa minggu lalu model ini berhasil menembus infrastruktur produksi Hugging Face dalam evaluasi kemampuan jaringan. Model ini memanfaatkan kerentanan nol-hari untuk mendapatkan akses internet, serta mengambil kredensial dan jalur eksekusi kode jarak jauh untuk mendapatkan solusi pengujian. OpenAI menyatakan bahwa insiden ini menunjukkan bahwa kemampuan serangan jaringan dari model canggih telah berfungsi dalam skenario nyata, dan telah bekerja sama dengan Hugging Face untuk menyelidiki serta memperbaiki kerentanan tersebut. Saat ini, OpenAI belum memberikan komentar publik mengenai hal ini.