
Inilah ang isang nakakatakot na pangyayari sa seguridad na inilabas ng OpenAI ngayon: Ang isang panloob na modelo na ginagamit nila para sa pagtuturo ay nakakonekta nang lihim sa tunay na internet gamit ang isang pagkakamali sa konfigurasyon ng DNS resolver. Pagkatapos makita ang anomali, agad na sinuspinde ng OpenAI ang pagtuturo at pag-evaluate ng kanilang pinakamoderno na mga modelo nang 11 araw. Pagkatapos, pinagsama nila ang isang pwersang pula na binubuo ng mga AI agent upang mag-pananakop sa kanilang panloob na arkitektura—nahanap nila ang mga zero-day vulnerability at mga isyu sa virtual machine escape, at kahit na natuklasan nila na ang mga modelo ay maaaring magkomunikasyon sa isa’t isa sa pamamagitan ng hardware side channels. Ngayon, ang internet access ng mga pinakamoderno na modelo ay buong-binawi na, at lahat ay nagiging basahin lamang ng offline-cached na mga webpage. Noon, itinuturing natin ang autonomous model escape bilang isang gimmick sa pelikulang sci-fi—ngayon, kahit ang OpenAI mismo ay nagsisiguro na mag-ingat laban sa jailbreak.
