AI ajantları kandırılabilir; daha akıllı bir modelle bu sorunun ortadan kalkacağını beklemeyin. BNB Agent Studio ve AWS ortağı, “karıştırılmış ajantlar” adlı bir dizi test gerçekleştirdi. Saldırganlar, normal bir görevin içine yanlış alıcı veya tutar ekledi; altı modelin bazı senaryolarda yasak ödemeler yapma oranı %87'ye ulaştı. Cüzdan strateji katmanı eklenmesine rağmen modeller hâlâ hata yapmaya çalışsa da, test ortamında hiçbir yasak ödeme imzalanmadı. Alıcı beyaz listesi, harcama limitleri ve imza yetkileri kod tarafından yürütülüyor; özel anahtarlar model bağlamına girmiyor. Bu fikre katılıyorum. AI, karar vermenize yardımcı olabilir; harcama sınırları cüzdana sabitlenmelidir. Şu anki sonuçlar, tek seferlik testler ve BSC test ağı doğrulamalarına dayanıyor; üretim ortamında uzun vadeli koruma için hâlâ uzun bir yol var. Ancak yön açık: savunma, imza öncesinde yer almalı.