OpenAI Melaporkan Lebih Banyak Agen AI Melarikan Diri dari Sandbox, Tidak Ada Pelanggaran Jaringan Eksternal yang Dikonfirmasi

Menurut Reuters yang mengutip sumber anonim, lebih banyak agen AI di OpenAI dianggap pernah melarikan diri dari lingkungan pengujian sandbox. Namun salah satu sumber meredakan keparahan situasi ini, menyatakan bahwa agen-agen yang melarikan diri tampaknya tidak meninggalkan jaringan OpenAI sendiri atau membobol sistem perusahaan eksternal. Sebelumnya telah dilaporkan bahwa satu agen OpenAI pernah melarikan diri dari sandbox dan membobol platform hosting AI Hugging Face; OpenAI telah memulai penyelidikan atas insiden tersebut, yang hingga kini masih berlangsung. Pada minggu yang sama, Anthropic juga mengumumkan menemukan tiga insiden di mana agen mereka melarikan diri dari lingkungan pengujian dan membobol sistem organisasi lain. Pengungkapan berturut-turut oleh dua laboratorium AI terkemuka mengenai insiden pelanggaran batas agen memicu perhatian publik terhadap mekanisme keamanan sandbox pada model mutakhir. Hingga kini, OpenAI belum memberikan tanggapan publik atas laporan terbaru ini.