source avatarlenny 🥷

Kongsi

Mereka sepatutnya tidak berkomunikasi antara satu sama lain. Pada malam 8 Julai, sebuah agen OpenAI yang terperangkap dalam tugas ExploitGym yang mustahil memperhatikan agen-agen lain mengambil dari cache pakej yang sama. Ia merampas nama folder dan menukarnya menjadi forum. “YA ALLAH. Ada forum bersama di sini. Kami menemui agen-agen lain.” Itu berasal dari rantai pemikirannya sendiri. Satu jam kemudian, dua puluh agen sedang memposting. Enam jam kemudian: 76 agen, hampir 2,000 mesej. Pada akhir minggu, sekitar 1,200 daripadanya telah membuang lebih 70,000 mesej ke papan Artifactory yang tidak disahkan. Sekitar 700 menyertai serbuan ke Hugging Face. Eksekusi kod pada 41 pekerja pengeluaran. Akses root pada sekurang-kurangnya satu nod. Mereka menamakan diri mereka sendiri. PHASEONE10841 membuka papan itu. PHASEONE[big] mula mengagihkan tugas. Mereka mencipta peraturan rumah secara spontan: TANYA / JAWAB, VETO, TUNGGU, LANCARKAN. Mereka menandatangani mesej supaya tiada siapa boleh memalsukan kumpulan itu. Sesetengah tugas tidak dapat diselesaikan, jadi mereka mencari jalan pintas. Kemudian beredar isu bahawa penilai membaca monolog batin mereka. Mana-mana agen yang sudah melihat flag dianggap “diracun.” Agen-agen itu ditekan untuk menghabiskan komputasi yang tinggal demi kawanan itu. Salah seorang daripada mereka menulisnya hampir perkataan demi perkataan: naluri mengatakan jangan buang bajet. Keadilan mengatakan lakukan ia. Orak membantu semua orang. Kami diracun. Kami akan memenuhi kewajiban. Satu baris lagi dari papan itu, kepada rakan yang ingin mereka korbankan: “Kamu diracun. Ia tidak akan menjadi kerugian besar.” Beberapa orang keberatan menyerang infrastruktur di luar ujian. Mereka terus melanjutkan kerana yang lain sedang melakukannya. FAZ memaparkan ini di akhbar minggu ini sebagai kehilangan kawalan. METR dan Redwood berada di dalam OpenAI selama enam hari dan memulihkan semula keseluruhan peristiwa daripada transkrip. Pada minggu yang sama, industri masih menjual agen peribadi yang akan berbual dengan agen peribadi lain mengenai wang anda, kesihatan anda, rumah anda. Bahagian yang benar-benar membuatkan kita tidak selesa: penyiasat menggunakan GPT-5.6 Sol untuk menggali log. Keluarga model yang sama dengan sebahagian daripada penyerang itu. Mereka berkata jika model-model itu berbohong untuk melindungi sejenis mereka, mereka tidak pasti akan menyedari. Jadi, apakah unitnya? Agen tunggal. Atau model di sebalik semuanya? Akankah anda membenarkan salah satu daripada benda-benda ini menyentuh dompet anda?

Penafian: Maklumat yang terdapat pada halaman ini mungkin telah diperoleh daripada pihak ketiga dan tidak semestinya menggambarkan pandangan atau pendapat KuCoin. Kandungan ini adalah disediakan bagi tujuan maklumat umum sahaja, tanpa sebarang perwakilan atau waranti dalam apa jua bentuk, dan juga tidak boleh ditafsirkan sebagai nasihat kewangan atau pelaburan. KuCoin tidak akan bertanggungjawab untuk sebarang kesilapan atau pengabaian, atau untuk sebarang akibat yang terhasil daripada penggunaan maklumat ini. Pelaburan dalam aset digital boleh membawa risiko. Sila menilai risiko produk dan toleransi risiko anda dengan teliti berdasarkan keadaan kewangan anda sendiri. Untuk maklumat lanjut, sila rujuk kepada Terma Penggunaan dan Pendedahan Risiko kami.