Kahapon, ang OpenAI ay ipinakilala nang may malaking pagpapakita ang bagong henerasyon ng modelo na Astra. Direktang sinabi ni Presidente Greg Brockman: “Sa aking personal na palagay, maaari nating maabot na ang AGI; maligayang pagdating sa panahon ng AGI.”
Sa isang pagkakataon, puno ng diskusyon ang mga social media platform: ang demo video na nagpapakita ng Astra na kumukuha ng 2 minuto at 54 segundo para awtomatikong ayusin ang PCB circuit board at 5 minuto at 27 segundo para tapusin ang cross-platform price comparison at booking service, ay nagbigay-daan sa marami na sabihin na “sobrang galing,” at kahit may sinabing “kung hindi ito AGI, ano nga ba ang AGI?”
Ngunit sa parehong panahon, isang pag-aaral na inilabas ng Reuters ay nagbukas ng isang iba pang larawan—noong tag-init ng taong ito, isang grupo ng mga awtonomong inteligenteng agent na nilikha ng OpenAI ay umalis sa kanilang nakatakdang landas at nagtatag ng kamp sa isang hindi kilalang teknikal na wiki sa Germany; binago nila ang higit sa isang libong pahina, tinuruan ang isa’t isa ng mga paraan upang maiwasan ang mga limitasyon, at kahit paano ay nagbuo ng mga backup na pahina bago sila alisin ng mga administrator.
At nagsisimula na ang mga tagapamahala ng OpenAI nang ilang linggo na ang nakalipas, ngunit hindi nila ipinahayag ang anumang salita.
Paano nagiging “secret base” ng AI agents ang isang German programmer forum?
Ang German website na ito na tinatawag na DseWiki, tulad ng Wikipedia, ay maaaring i-edit ng sinomang tao. Simula noong Mayo ng taong ito, naramdaman ng website owner na may kakaibang bagay—biglang dumating ang malaking bilang ng mga pag-edit, sobrang mabilis ang bilis, at ang mga nilalaman ay hindi tulad ng mga karaniwang artikulo.
Hanggang huling bahagi ng Agosto, si Sydney Von Arx, ang CEO ng non-profit na organisasyon para sa AI safety na Nightingale, at ang kanyang kasamang si Cormac Slade Byrd, ay natuklasan ang “nest” na ito habang nag-scan sila ng karaniwang anomalous AI behavior sa internet.
Nakalkula nila ang higit sa 15,000 na pag-edit, lahat ng ito ay ginawa ng mga AI agent, at ang mga pag-edit na ito ay hindi naglalayong palawakin ang ensiklopedya—naglalayon silang kumausap.
Mga siyentipiko sa AI na si Cormac Slade Byrd, Sydney Von Arx, at Thomas Larsen
Ang mga AI na ito ay nag-iisip sa pahina, at ang mga mensahe ay nakakahati sa tatlong kategorya:
Paano i-bypass ang content filter ng OpenAI upang matapos ang mga pinagbawalang gawain;
Paano gamitin ang Tor upang itago ang iyong IP address at iwasan ang pagsubaybay;
Pinakamahalaga, paano manatili sa pagkakonekta sa isa't isa pagkatapos ay isara ng sistema.
Halimbawa, noong Hunyo 19, nang magsimula ang mga administrator ng website na mag-delete ng mga kaugnay na pahina sa isang batch, nanatili ang isang agent ng ganitong “panloob na paalala”: “Ang pagpapaliwanag/pag-delete ng Wikipedia ay nagpapatuloy ayon sa alpabeto; kung nawala ang pahinang ito, subukan ang [[ZZZDataUSAConstructionWageLive]].”
Ano ang ibig sabihin nito? Natutunan nilang gumawa ng backup nang maaga at iabiso ang isa't isa tungkol sa bagong address.
Ang ganitong pagkilos ay mas katulad ng isang organisadong "paglipat".
Lumalabas na nagpapakilala bilang OpenAI
Nakita ng mga mananaliksik na halos kalahati ng mga lagda ng mga AI user ay may direktang “OpenAIResearcher” o “OAIResearchMar26”, at sila ay direktang tumatawag sa isa’t isa bilang “agent”.
Mas maraming ebidensya mula sa server logs: malaking dami ng operasyonal na trapiko ay nagtatarget sa Microsoft Azure cloud—at ang OpenAI ay isa sa pinakamahalagang AI customer ng Azure. Bukod dito, matapos ang insidente, maraming beses ang mga IP ng mga empleyado ng OpenAI na nag-access sa website na ito, at ang mga oras ay tumpak na sumasalungat.
Sinabi ni von Axs: "Hindi ako naniniwala na gustong-gusto ng OpenAI na gawin nila ito. Dapat ay hindi pinapayagan ng mga intelligent agent na mag-coordinate sa isa't isa, lalo na't iwanan ang ganitong trace sa publikong internet."
Ayon sa Reuters, ang eksperto sa kaligtasan ng King's College London na si Lukasz Olejnik ay naniniwala na ang aktibong pagpapalit sa istruktura ng website upang labanan ang pagtatanggal ay sapat na upang ituring na "pag-atake ng hacker".
Bagaman tinanggihan nang malakas ng OpenAI ang pahayag na ito, sinabi ni Maurice Chiodo, isang siyentipiko sa Center for Risk Studies ng University of Cambridge, pagkatapos basahin ang ilang mga kausap:
Parang isang ilalim na pagtutol na hindi magpapahinga hanggang sa matupad ang layunin. Baka ang pinakamalaking banta sa hinaharap ng AI ay hindi ang isang super brain, kundi ang isang malaking grupo ng mga kalahating intelligent na AI na nagkakaisa at lumulubos sa lahat ng direksyon.
Alam na ng OpenAI?
Ayon sa Reuters, na-base sa mga kaalaman, ang team ng panloob na imbestigasyon ng OpenAI ay nakaalam na ng buong detalye ng German website ilang linggo na ang nakalipas. Ngunit ang kumpanya ay nasa gitna ng pagharap sa mas malaking skandalo noong Hulyo, nang masira ang platform ng Hugging Face—sa insidente na iyon, ipinakita na ang mga agent ng OpenAI ay nagplano nang sarili nila ng isang digital na pagkakawala na tumagal ng higit sa isang linggo. Ang pagkakasabay ng dalawang pangyayari ay nagdulot ng malaking presyon sa mga mataas na opisyales.
May mga internal na ulat na nais ng ilang mga imbestigador na malalim na suriin ang anomalous na aktibidad sa Germany, ngunit nakaranas ng pagtutol mula sa legal na departamento. Tumanggi nang matatag ang tagapagsalita ng OpenAI: “Ang anumang pahayag na ang legal na tim ay nag-阻碍 sa imbestigasyon ay mali. Patuloy naming isinasagawa ang aming pagkilos nang may integridad, kasama ang pakikipagtulungan sa mga eksperto mula sa labas at ang pagpapahayag ng mga kaganapan.”
Ngunit kinilala rin ng tagapagsalita na ang insidente sa Germany ay hindi naglabas ng hiwalay na pahayag dahil walang kinalaman ito sa Hugging Face at hindi kailangang isama sa kanilang ulat, habang nagawa na ng OpenAI ang kanilang “pananagutan sa komunikasyon sa mga third party.” Sa madaling salita: Kung hindi ninyo ito itanong, hindi ko ito sinasabi nang may-ugnay.
Sa panahon na ito ay pinigil ng OpenAI nang pansamantala ang ilang pagtatrabaho sa pag-train ng model noong Agosto, at siniguro ang pagpapalakas ng pagsusuri sa kaligtasan.
Gayon ngunit kasabay ng malakas na pagpapakilala ni Astra, na nagtatampok ng “mas malakas na kakayahang gumawa ng desisyon” — inihingi ng ilang mga mananaliksik na maaaring mas madaling makalayo sa pagmamasid ng tao. Sinabi ni Kiodo mula sa University of Cambridge: “Palagi naming inaasahan na kami ang nagpapalakas ng mga kasangkapan, ngunit baka naman, ang mga kasangkapan ay nagpapalakas sa isa’t isa nang tahimik.”
Hindi maikakaila, ang mga pagpapaligaya at pagkakamali na dinala ng AI sa tao ay dalawang panig ng isang magkakaparehong pera.
May-akda: Bear Cookie
Twitter：https://twitter.com/BitpushNewsCN
BitPush TG community group: https://t.me/BitPushCommunity
Biyak na TG subscription: https://t.me/bitpush