Düşünebilen ve Yayılabilen Uzun Ömürlü Solucanlar?
Anthropic'ın "Frontier Red" ekibi, küçük AI modellerinin akıllı fırınlara ve ucuz TV kutularına kopyalanıp orada fark edilmeden çalıştırılabileceği konusunda sadece AYLAR uzak olduğuna inanıyor.
William Zhou ve Daniel Freeman, Google'nın açık modeli Gemma4-26B-A4B'yi her biri yaklaşık 55 dolarlık 15 farklı marka Android TV kutusuna dağıttı. Model saniyede 0,39 token çalıştı. #IoT
Daha sonra bir solucanın tam döngüsünü — kendini makineden makineye kopyalayan küçük bir program — AI tarzında test ettiler:
1. Ağındaki bir hedefi bulun
2. Kendini oraya kopyalayın
3. Orada bir modeli çalıştırın
4. Tekrarlayın
Android emülatörü çalıştıran 8 Google Cloud makinesinden oluşan bir güvenlik duvarlı sistemde, test edilen açık ağırlıklı modellerden biri nihayet bunu başardı: GLM-5.2, beş denemenin dördünde tüm 8 makineye ulaştı. Yazarların sözleriyle, “diğer modeller tutarlı şekilde başarısız olurken, bu model bunu tutarlı şekilde yapıyor.”
GLM-5.2, test makineleri için çok büyük olduğu için ayrı bir sunucudan çalıştı ve yerine her birine çok daha küçük Llama 3.1 8B kurdu.
Testlerde Anthropic, girişi kolay tuttu. Ekip Android'in hata ayıklama portunu açık bıraktı, kimlik doğrulama gerekmiyordu; bu nedenle sonuç, bu yöntemin gerçek cihazlara karşı ne kadar iyi çalışabileceğinin üst sınırını gösteriyor.
Ancak Mirai bot ağı, üreticilerin varsayılan şifrelerini deneyerek yayıldı; bu nedenle AI solucanının gerçek cihazlara saldırmak için çok daha fazla çaba sarf etmesine gerek olmayabilir.
Kaynak:
https://t.co/B6XZAZGUP8
#AISafety #CyberSecurity