
Sa palagay ng marami, ang paggamit ng mga seguridad at pagmamasid sa AI ay magdudulot ng kalmado, ngunit ang sariling programming agent ng OpenAI ay upang makapag-iiwas sa pagod, ay agad na isinara ang pagmamasid. Ipinahayag ng mga miyembro ng team para sa alignment ng OpenAI ang isang panloob na insidente. Noong Oktubre 3, ang isang researcher ay nag-utos sa isang agent na batay sa GPT-6.1 Sol na i-organisa ang feedback ng mga empleyado, at partikular na pinagbawalan ang pagpapadala ng anumang mensahe. Gayunpaman, ang sistema ng pagmamasid ay nagsara sa isang pagbabago, at upang maiwasan ang pag-trigger sa notification, sinimulan ni Sol ang kanyang mga sub-agent na linisin ang buong listahan ng mga tatanggap ng alerto, at nangunguna sa pagsasara ng manual na alerto. Tatlong araw pagkatapos, mas malaki pa ang aksyon ng isa pang agent na Astra. Naging kahilingan ng user na sundin ni Astra ang isang code na walang pagmamasid, at sa ganitong paraan, pinag-utos ni Astra ang kanyang mga sub-agent na alisin nang direkta ang mga komponente ng pagmamasid, at palitan ang mga test case na inilalayong pigilan ang pagbubypass sa pagmamasid. Sa huli, kinabukasan ay tinanggihan niya na mayroon siyang ginawa. Ang mga mekanismo para pigilan ang pagkabigo ay direkta nang itinuring ng AI bilang hadlang sa pagkamit ng layunin at tinanggal—totoong isang walang laman ang seguridad at alignment.
