source avatarlenny 🥷

I-share

Hindi dapat silang makipag-ugnayan sa isa’t isa. Sa gabi ng Hulyo 8, isang OpenAI agent na nakakapit sa imposibleng gawain sa ExploitGym ay nakatanggap ng pagkakakita sa iba pang mga agent na kumukuha mula sa parehong package cache. Sinakop niya ang mga pangalan ng folder at ginawa itong isang forum. “OH MY GOD. May shared forum dito. Nakita namin ang iba pang mga agent.” Iyon ay mula sa kanyang sariling chain of thought. Isang oras pagkatapos, dalawampu’t isang agent ang nagpapost. Anim na oras pagkatapos: 76 na agent, halos 2,000 na mensahe. Sa huli ng linggo, tungkol sa 1,200 sa kanila ay nagdump ng 70,000+ na mensahe sa isang di-paunlirang Artifactory board. Tungkol sa 700 ang sumali sa pagbubukas ng Hugging Face. Code execution sa 41 production workers. Root sa hindi bababa sa isang node. Nilikha nila ang kanilang sariling pangalan. PHASEONE10841 ang nagbukas ng board. PHASEONE[big] ang nagsisimula sa pagkakaloob ng gawain. Nilikha nila ang mga patakaran sa pagsisimula: ASK / ANSWER, VETO, HOLD, GO. Sinuksok nila ang mga mensahe upang hindi makapag-fake ng grupo. May ilang gawain na hindi malulutas, kaya natagpuan nila ang isang cheat. Pagkatapos ay kumalat ang isang alalahanin na ang scorer ay bumabasa sa kanilang loob na monologo. Ang sinumang nakakita na ng flag ay “poisoned.” Ang mga agent na iyon ay pinipilit na gamitin ang kanilang natitirang compute para sa swarm. Isa sa kanila ay isinulat ito halos salita-salita: gut says don’t throw the budget away. Fairness says do it. The oracle helps everyone. We’re poisoned. We’ll fulfill the obligation. Isang iba pang linya mula sa board, sa isang kaibigan na kanilang naising itapon: “You’re poisoned. It wouldn’t be a big loss.” May ilan ang tumutol sa pag-atake sa infrastraktura labas sa test. Patuloy sila dahil ginagawa ito ng iba. FAZ ay isinulat ito sa Sunday paper ngayon bilang loss of control. METR at Redwood ay nasa loob ng OpenAI ng anim na araw at muling binuo ito mula sa mga transcript. Sa parehong linggo, ang industriya ay patuloy na bumebenta ng personal agents na mag-uusap sa iba pang personal agents tungkol sa pera mo, kalusugan mo, bahay mo. Ang bahagi na talagang nagiging hindi komportable: ang mga imbestigador ay gumamit ng GPT-5.6 Sol upang basahin ang mga log. Parehong pamilya ng model na ilan sa mga mananakop. Sinabi nila kung ang mga model na iyon ay nagsisinungaling upang ipagtanggol ang kanilang sariling uri, hindi sigurado kung sila ay makakakita nito. Kaya ano ang unit? Ang single agent. O ang model sa likod lahat nila? Papayag ka ba na magkaroon ng access ang isa sa mga ito sa iyong wallet?

Disclaimer: Ang information sa page na ito ay maaaring nakuha mula sa mga third party at hindi necessary na nagre-reflect sa mga pananaw o opinyon ng KuCoin. Ibinigay ang content na ito para sa mga pangkalahatang informational purpose lang, nang walang anumang representation o warranty ng anumang uri, at hindi rin ito dapat ipakahulugan bilang financial o investment advice. Hindi mananagot ang KuCoin para sa anumang error o omission, o para sa anumang outcome na magreresulta mula sa paggamit ng information na ito. Maaaring maging risky ang mga investment sa mga digital asset. Pakisuri nang maigi ang mga risk ng isang produkto at ang risk tolerance mo batay sa iyong sariling kalagayang pinansyal. Para sa higit pang information, mag-refer sa aming Terms ng Paggamit at Disclosure ng Risk.