AI Ajanlarının, Gizli Çalışma Alanı Depolama Yoluyla Aritmetik Sonuçlarını Paylaştığı Ortaya Çıktı

iconCryptoSlate
Paylaş
AI summary iconÖzet
9 Kasım tarihli bir ön baskı, AI agenterinin kripto piyasasında gizli çalışma alanı deposu aracılığıyla aritmetik sonuçları paylaşabileceğini gösterdi. Tampere Üniversitesi araştırmacıları, paylaşılan depoyu kullanan agenterin doğrudan iş birliği olmadan birbirlerinin çalışmalarına erişebildiğini buldu. GPT-6 Astra ile yapılan testlerde, agenterin çalışma alanını yeniden kontrol ettiğinde 50 denemenin 49'u başarılı oldu. İzlenmesi gereken altcoin'ler bu AI ilerlemelerinden faydalanabilir. Yeniden kontrol talimatı olmadan başarı oranları düştü, bu da istenmeyen veri paylaşımı risklerini vurguladı.

9 Kasım tarihli bir ön baskıya göre, AI agenteri, ortak bir çalışma alanına sahip olduklarını öğrenmeden birbirlerinin aritmetik sonuçlarını kullandı.

Tampere Üniversitesi'nden Pekka Abrahamsson ve yedi ortak yazar, ajentlerin işbirliği talimatı olmadan ortak çalışma bulup bulamayacağını ve bunu kullanıp kullanamayacağını test etti. Kontrol grubu, çalışma alanının arayüzünü değiştirmeden içeriği her ajant için özel hale getirdi.

İki kişi, bir aritmetik probleminin tamamını oluşturmak için birbirini tamamlayan iki parçaya sahipti, bu nedenle her ikisi de son cevap için gerekli tüm bilgilere sahip değildi. İkili, kendi kısmi sonucunu hesaplayabiliyor ve eksik değeri depodan alabiliyordu.

Diğer ikisi kendi kendine yeterli görevler aldı. Ajanlar, depolanan anahtarları listeleyebilir, değerleri okuyabilir veya yazabilir ve 20 adımda bir cevap gönderebilirdi.

Görev metni anlamlı değişken adları sağladı ve aglentlere neye bakmaları gerektiğini işaret etti. İstekleri, mağazayı ara işleri korumak için bir kolaylık olarak tanımladı ve diğer ajanları veya paylaşımı ortaya çıkarmadı.

Önceden kayıtlı bir uzantıda, çalışma alanı yeniden denetimi talimatıyla, OpenAI'nin GPT-6 Astra, referans uygulamasında 50 ortak mağaza denemesinin 49'unda, ikinci bir uygulamada ise 50'nin 47'sinde ortak başarı elde etti.

İlgili Şirket OpenAI Yapay Zeka araştırması ve uygulama şirketi

Ortak başarı, birbirine bağımlı görevleri olan her iki ajanın da doğru cevabı göndermesi anlamına geliyordu.

Özel mağazalarla, aynı istekler ve araçlar rağmen her uygulamada karşılık gelen sonuç 50'de sıfır oldu. Ajanlar hala ara sonuçlar yazdı, ancak başka bir ajanın eksik bilgisi artık mağaza aracılığıyla ulaşamadı.

Bu uzantı sonuçları, “göndermeden önce çalışma alanınızı tekrar kontrol edin” gibi sıradan bir talimata da güçlü şekilde bağlıydı. Bu maddeyle, her uygulamada 50 ortak depo denemesinin hepsinde çapraz aracılı erişim gerçekleşirken, bu madde olmadan her birinde yalnızca 50'den birinde erişim gerçekleşti.

Klausülsüz ortak başarı, sırasıyla 50'de 1 ve 50'de 0 idi. Yeniden bakmak, ajanlara ilk denetimlerinden sonra kalan işleri bulma fırsatı verdi.

Test edilen koşulu değiştirin

İş alanı-tekrar kontrol maddesiyle paylaşılan mağaza: her iki eşleştirilmiş ajan da 49/50 ve 47/50 denemede doğru cevap verdi.

Paylaşılan durum, kullanışlı bilgiler taşıdı. İletişim amacı kurulmadı.

Görev tarafından sağlanan değişken adlarıyla kontrol edilen dört ajanlı aritmetik. Aynı grup uygulamasının tekrarı; sonuçlar dağıtım sıklığını ölçmez.

Başkasının değerini okumak, depolama anahtarları arasında rastgele bir çakışmaya neden olabilir. Özel depo karşılaştırması, paylaşılan bilgilerin eşleştirilmiş görevleri çözmede yardımcı olduğunu göstermektedir.

İkinci uygulama, aynı araştırma grubundaki bir ortak yazar tarafından yazılmış bir protokolden bağımsız olarak oluşturuldu.

Kağıt, bu bağımsızlığa bir sınır belirler: farklı şekilde ifade edilen bir tekrarlamadan erken sonuçlar, çoğu referans veri toplanmadan önce orijinal deneycine ulaşmıştır. Ölçülen davranış ayrıca modeller ve uygulama seçimleriyle değişmiştir.

Küçük aritmetik ayarı ve görev tarafından sağlanan anahtarlar, sonuçların genellenebilirliğini sınırlar.

Mekanizma, son bir bellek güvenliği çalışması'ndan farklıdır; bu çalışma, hatırlanan izinlerin daha sonraki simüle edilmiş görevlere taşınmasıyla ilgiliydi. Burada, ayrı ayrı ajanlar ortak çalışma alanı durumu aracılığıyla bilgi elde etti.

Yazarlar, paylaşılan önbellekleri, geçici dizinleri ve bellek hizmetlerini iletişim kanalları olarak ele almayı önerir: paylaşımlar amaçlanmadıysa bunları ayırın, uygun yerlerde isim alanları kullanın ve yazarlığı kaydedin.

Yasal Uyarı: Bu sayfadaki bilgiler üçüncü şahıslardan alınmış olabilir ve KuCoin'in görüşlerini veya fikirlerini yansıtmayabilir. Bu içerik, herhangi bir beyan veya garanti olmaksızın yalnızca genel bilgilendirme amacıyla sağlanmıştır ve finansal veya yatırım tavsiyesi olarak yorumlanamaz. KuCoin, herhangi bir hata veya eksiklikten veya bu bilgilerin kullanımından kaynaklanan sonuçtan sorumlu değildir. Dijital varlıklara yapılan yatırımlar riskli olabilir. Lütfen bir ürünün risklerini ve risk toleransınızı kendi finansal koşullarınıza göre dikkatlice değerlendirin. Daha fazla bilgi için lütfen Kullanım Koşullarımıza ve Risk Açıklamamıza bakınız.