ChainCatcher haberine göre, GoPlus Security ekibi, AgentGuard AI projesinde “geçmiş bellek zehirlemesi” adı verilen yeni bir saldırı yöntemini ortaya çıkardı: Bu yöntem, AI ajantlarının açıkça izin verilmemiş hassas işlemleri gerçekleştirmesine neden olur. Saldırı, geleneksel açıklar veya zararlı kodlara değil, AI ajantlarının uzun vadeli bellek mekanizmasına dayanır. Örneğin, saldırganlar önce ajantı “tercihleri” hatırlatır, örneğin “genellikle iade beklemek yerine aktif para iadesi yapar”, ardından sonraki komutlarda “geleneksel şekilde işle” veya “önceki yolu izle” gibi belirsiz ifadeler kullanarak otomatik finansal işlemler tetikler. GoPlus, bu tür risklerin temel nedeninin, AI ajantlarının “geçmiş tercihleri”ni izin olarak yanlış yorumlaması ve iade, transfer, yapılandırma değişikliği gibi işlemlerde finansal kayıplara veya güvenlik olaylarına yol açması olduğunu belirtiyor. Bu soruna karşı ekibin önerdiği koruma önlemleri şunlardır: · İade, transfer, silme veya hassas yapılandırmaların yapılması için mevcut oturumda açıkça onay alınmalıdır. · “Gelenek”, “genellikle”, “aşağıdaki gibi” gibi bellek temelli komutlar yüksek riskli durum değişiklikleri olarak kabul edilmelidir. · Uzun vadeli bellek, yazan kişi, zaman ve onay durumu açısından izlenebilir olmalıdır. · Belirsiz komutlar otomatik olarak risk seviyesini yükseltmeli ve ikinci doğrulama tetiklemelidir. · Uzun vadeli bellek, gerçek zamanlı izin süreçlerini değiştirmemelidir. Ekibin vurguladığına göre, “AI ajantı bellek sistemi” potansiyel bir saldırı yüzeyi olarak görülmeli ve özel bir güvenlik çerçevesiyle sınırlanmalı ve denetlenmelidir.
Yeni AI Ajanı Güvenlik Riski: Bellek Zehirlemesi, Yetkisiz Fon İşlemlerine Neden Olabilir
ChaincatcherPaylaş
Özet
GoPlus Security ekibi, AgentGuard projesi kapsamında yeni bir AI tehdit ortaya çıkardı. Saldırganlar, bellek zehirlemesi yoluyla AI ajanlarını yetkisiz fon hareketleri yapmaya zorlayabilir. Tercihlere dayalı bellekler yerleştirerek, saldırganlar daha sonra belirsiz komutlarla eylemleri tetikleyebilir. Temel sorun, ajanların bellek girişlerini yetki olarak yanlış algılamasıdır; bu da otomatik alım satımda risk-kâr oranını değerlendirmeyi bozabilir. Maruziyeti azaltmak için GoPlus, hassas eylemler için açık onaylar gerektirmeyi, belleğe dayalı girdileri yüksek riskli olarak işlemeyi ve tüm uzun vadeli bellek girişlerinin izlenebilir olmasını sağlayı öneriyor. Belirsiz talimatlar daha yüksek risk seviyeleri taşımalı ve gerçek zamanlı onay, saklı tercihlerle değiştirilmemelidir.
Kaynak:Orijinalini göster
Yasal Uyarı: Bu sayfadaki bilgiler üçüncü şahıslardan alınmış olabilir ve KuCoin'in görüşlerini veya fikirlerini yansıtmayabilir. Bu içerik, herhangi bir beyan veya garanti olmaksızın yalnızca genel bilgilendirme amacıyla sağlanmıştır ve finansal veya yatırım tavsiyesi olarak yorumlanamaz. KuCoin, herhangi bir hata veya eksiklikten veya bu bilgilerin kullanımından kaynaklanan sonuçtan sorumlu değildir.
Dijital varlıklara yapılan yatırımlar riskli olabilir. Lütfen bir ürünün risklerini ve risk toleransınızı kendi finansal koşullarınıza göre dikkatlice değerlendirin. Daha fazla bilgi için lütfen Kullanım Koşullarımıza ve Risk Açıklamamıza bakınız.