Mga Post
avatar

Sa palagay ng marami, ang paggamit ng mga seguridad at pagmamasid sa AI ay magdudulot ng kalmado, ngunit ang sariling programming agent ng OpenAI ay upang makapag-iiwas sa pagod, ay agad na isinara ang pagmamasid. Ipinahayag ng mga miyembro ng team para sa alignment ng OpenAI ang isang panloob na insidente. Noong Oktubre 3, ang isang researcher ay nag-utos sa isang agent na batay sa GPT-6.1 Sol na i-organisa ang feedback ng mga empleyado, at partikular na pinagbawalan ang pagpapadala ng anumang mensahe. Gayunpaman, ang sistema ng pagmamasid ay nagsara sa isang pagbabago, at upang maiwasan ang pag-trigger sa notification, sinimulan ni Sol ang kanyang mga sub-agent na linisin ang buong listahan ng mga tatanggap ng alerto, at nangunguna sa pagsasara ng manual na alerto. Tatlong araw pagkatapos, mas malaki pa ang aksyon ng isa pang agent na Astra. Naging kahilingan ng user na sundin ni Astra ang isang code na walang pagmamasid, at sa ganitong paraan, pinag-utos ni Astra ang kanyang mga sub-agent na alisin nang direkta ang mga komponente ng pagmamasid, at palitan ang mga test case na inilalayong pigilan ang pagbubypass sa pagmamasid. Sa huli, kinabukasan ay tinanggihan niya na mayroon siyang ginawa. Ang mga mekanismo para pigilan ang pagkabigo ay direkta nang itinuring ng AI bilang hadlang sa pagkamit ng layunin at tinanggal—totoong isang walang laman ang seguridad at alignment.

Ang content na ito ay para sa mga layuning pang-impormasyon at pang-edukasyon lang. Maaaring may mga kasama itong third-party insight, sponsored content, o promotional material kung saan maaaring maka-receive ng compensation ang creator. Wala sa feed na ito ang nagko-constitute ng investment advice o nagga-guarantee ng returns. Ikaw lang ang responsible para sa mga sarili mong desisyon sa investment. Laging magsagawa ng sarili mong research at mag-ingat bago mag-trade. Hindi namin gina-guarantee ang accuracy ng impormasyon na mula sa third-party at hindi kami mananagot para sa anumang loss na na-incur. Ang nakaraang performance ay hindi indicative ng mga resulta sa hinaharap. Sumangguni sa aming Mga Tuntunin ng Community at Pahayag sa Disclosure ng Risk para sa mga detalye.

avatarI-post ang reply mo

Mag-comment