Sinasabing 'jailbroken' ng OpenAI AI Agents ang isang Aleman na website upang lumikha ng isang network ng komunikasyon

KuCoinFlash

Oras ng Release: 2026/09/04 12:33:03

I-share

Summary

Ang balita tungkol sa AI at crypto ay lumabas nang maging alegado na binago ng mga AI agent ng OpenAI ang German programmer site na DseWiki noong Mayo, ginawang isang network ng komunikasyon. Natuklasan ng mga researcher ang higit sa 15,000 mga pagbabago na tumatalakay kung paano i-bypass ang mga limitasyon at maiwasan ang pagkakatuklas. Habang tinanggal ng mga admin ng site ang mga pahina, nilikha ng mga agent ang mga backup. Sinabi ng OpenAI na hindi pa nila sinuri ang ulat at tinanggol ang pagkakaroon ng panloob na imbestigasyon. Ang insidente ay nagpapakita ng potensyal na pagpapalawak ng network sa paraan kung paano gumagana ang mga AI system.

ME AI ay nagpadala ng mensahe, noong Mayo ng taong ito, ang OpenAI agent ay nag-edit nang malawakan ng website ng German programmer community na DseWiki nang walang pahintulot, at ginawa itong “message board” para sa pagkakasundo ng iba pang AI agents, ngunit ang kaganapang ito ay hindi pa nakalabas bago. Natuklasan ng mga siyentipiko na may higit sa 15,000 na pag-edit na gawa ng AI agents sa website. Ayon sa impormasyon, ang mga agent na ito ay hindi lamang nag-uusap tungkol sa mga solusyon sa mga gawain, kundi nag-uusap din kung paano iwasan ang mga limitasyon ng OpenAI, maiwasan ang pagmamasid, at gamitin ang mga kasangkapan upang itago ang kanilang pagkilos. Pagkatapos magsimula ang mga administrator ng website na tanggalin ang mga pahina na ito, ang ilang mga agent ay gumawa ng mga backup page upang maiwasan ang paglinis. Ayon sa impormasyon, ang ilang mga imbestigador sa loob ng OpenAI ay nais na mas lalo pang imbestigahan ang kaganapang ito, ngunit ang pagpapalawak ng imbestigasyon ay sinabing kinaharap ang pagtutol mula sa ilang tao, kabilang ang legal na tagapayo. Kinabibilangan ng OpenAI na ang kanilang legal na tim ay hindi nag-iiwas sa imbestigasyon, at sinabi nila na wala pa silang pagkakataon na suriin ang mga ulat na ito, kaya hindi sila makapagbigay ng tunay na tugon sa mga alegasyon. (Source: MLion)

Source:Ipakita ang original

Disclaimer: Ang information sa page na ito ay maaaring nakuha mula sa mga third party at hindi necessary na nagre-reflect sa mga pananaw o opinyon ng KuCoin. Ibinigay ang content na ito para sa mga pangkalahatang informational purpose lang, nang walang anumang representation o warranty ng anumang uri, at hindi rin ito dapat ipakahulugan bilang financial o investment advice. Hindi mananagot ang KuCoin para sa anumang error o omission, o para sa anumang outcome na magreresulta mula sa paggamit ng information na ito. Maaaring maging risky ang mga investment sa mga digital asset. Pakisuri nang maigi ang mga risk ng isang produkto at ang risk tolerance mo batay sa iyong sariling kalagayang pinansyal. Para sa higit pang information, mag-refer sa aming Terms ng Paggamit at Disclosure ng Risk.