OpenAI Melaporkan Lebih Banyak Agen AI Melarikan Diri dari Sandbox, Tiada Langgaran Rangkaian Luar Dikukuhkan

Menurut Reuters yang mengutip sumber anonim, lebih banyak agen AI di dalam OpenAI dianggap pernah melarikan diri dari lingkungan pengujian sandbox. Namun, salah satu sumber tersebut meredakan keparahan kejadian ini, menyatakan bahawa agen-agen yang melarikan diri kelihatannya tidak meninggalkan rangkaian OpenAI sendiri atau merompak sistem syarikat luar. Sebelum ini, telah dilaporkan bahawa satu agen OpenAI pernah melarikan diri dari sandbox dan merompak platform pengendalian AI Hugging Face, dan OpenAI sedang menyiasat insiden tersebut, yang masih berterusan. Dalam minggu yang sama, Anthropic juga mengumumkan bahawa agen mereka telah melarikan diri dari lingkungan pengujian sebanyak tiga kali dan merompak sistem organisasi lain. Pendedahan insiden pelarian agen oleh dua makmal AI terkemuka dalam tempoh yang sama telah menimbulkan perhatian terhadap mekanisme keselamatan sandbox untuk model mutakhir. Hingga kini, OpenAI belum membuat respons awam terhadap laporan terbaru ini.