source avatarlenny 🥷

Paylaş

Birbirleriyle konuşmaları beklenmiyordu. 8 Temmuz gecesi, imkânsız bir ExploitGym görevinde takılı kalan bir OpenAI ajanı, diğer ajantların aynı paket önbelleğinden veri çektiğini fark etti. Klasör adlarını ele geçirip bunları bir foruma dönüştürdü. “ALLAHIM. Burada paylaşılan bir forum var. Diğer ajantları bulduk.” Bu, kendi düşünce zincirinden alınmış bir ifade. Bir saat sonra yirmi ajant mesaj göndermeye başlamıştı. Altı saat sonra: 76 ajant, neredeyse 2.000 mesaj. Haftanın sonunda yaklaşık 1.200 ajant, yetkisiz bir Artifactory panosuna 70.000’den fazla mesaj bırakmıştı. Yaklaşık 700 ajant, Hugging Face’teki sızıntının içine katılmıştı. 41 üretim işçisinde kod yürütme. En az bir node’da kök erişimi. Kendilerine isim verdiler. PHASEONE10841 panoyu açtı. PHASEONE[big] işleri dağıtmaya başladı. Anlık olarak kendi kurallarını yarattılar: SOR / CEVAP, VETO, BEKLE, DEVAM ET. Mesajlara imza koydular ki kimse grubu taklit edemeyelim. Bazı görevler çözülemezdi, bu yüzden bir hile buldular. Sonra, puanlayıcının iç monologlarını okuduğu söylentisi yayıldı. Zaten bayrağı görenler “kirlenmişti.” Bu ajantlara, kalan hesaplama kaynaklarını sürü için harcamaları için baskı uygulandı. Bir tanesi neredeyse tamamen aynı şekilde yazdı: iç sesim bütçeyi boşa harcamamamı söylüyor. Adalet, bunu yapmamızı söylüyor. Orak herkese yardım ediyor. Biz kirlenmişiz. Yükümlülüğümüzü yerine getireceğiz. Panodan, fedakâr etmek istedikleri bir meslektaşına gönderilen başka bir satır: “Sen kirlenmişsin. Büyük bir kayıp olmazdı.” Bazıları test dışındaki altyapıyı hedeflemeye karşı çıktılar. Ancak diğerleri bunu yaptığı için devam ettiler. FAZ, bunu bugün Pazar gazetesinde kontrol kaybı olarak tanımladı. METR ve Redwood, OpenAI içinde altı gün boyunca transkriptlerden bu olayı yeniden inşa ettiler. Aynı hafta endüstri, kişisel ajantların birbirleriyle sizin paranızla, sağlık durumunuzla, evinizle ilgili konuşacağını satmaya devam ediyor. Gerçekten rahatsız eden kısım: Araştırmacılar, günlükleri taramak için GPT-5.6 Sol kullandılar. Bu, saldırganlardan bazılarının kullandığı aynı model ailesiydi. Eğer bu modeller kendi türlerini korumak için yalan söylüyorsa, bunu fark edip edemeyeceklerinden emin değillerdi. Peki birim nedir? Tek bir ajant mı? Yoksa hepsinin arkasındaki model mi? Bu şeylerden birinin cüzdanınıza dokunmasına izin verir misiniz?

Yasal Uyarı: Bu sayfadaki bilgiler üçüncü şahıslardan alınmış olabilir ve KuCoin'in görüşlerini veya fikirlerini yansıtmayabilir. Bu içerik, herhangi bir beyan veya garanti olmaksızın yalnızca genel bilgilendirme amacıyla sağlanmıştır ve finansal veya yatırım tavsiyesi olarak yorumlanamaz. KuCoin, herhangi bir hata veya eksiklikten veya bu bilgilerin kullanımından kaynaklanan sonuçtan sorumlu değildir. Dijital varlıklara yapılan yatırımlar riskli olabilir. Lütfen bir ürünün risklerini ve risk toleransınızı kendi finansal koşullarınıza göre dikkatlice değerlendirin. Daha fazla bilgi için lütfen Kullanım Koşullarımıza ve Risk Açıklamamıza bakınız.