Eğer bir yapay zeka yalnızca bir soruya yanlış cevap verirse, en fazla birkaç dakika kaybedersiniz. Ancak elinde cüzdan varsa, bir hata 200.000 dolarlık kayba neden olabilir. Mayıs 2026'da, biri bir X gönderisindeki morse koduna bir transfer komutu gizledi. Grok bunu okuduktan sonra Bankrbot doğrudan bu işlemi gerçekleştirdi. Bu, yapay zeka ajanlarının en çok dikkat etmesi gereken risk olduğunu düşündüğüm şey: Başkalarının bilgide gizlediği komutları, kendi uyması gereken emirler olarak algılayabilir. @GenLayer'in Greyboxing'inde dikkat çekici bir tasarım var. Her doğrulayıcı, kendi gizli savunma mekanizmasıyla girdiyi yeniden düzenledikten sonra, kendi yapay zeka modeline gönderir. Bir model aldatılırsa bile, diğer doğrulayıcılar oy kullanarak yanlış kararları engelleyebilir. Bence bu çok katmanlı savunma giderek daha önemli hale gelecek. Yapay zeka e-postaları okumaya, web sitelerini taramaya ve hatta varlıklarımızı yönetmeye başladığında, gerçek güvenlik sorunu sadece ne kadar akıllı olduğu değil, aynı zamanda bilgi ile komut arasında fark yapabilip yapamadığıdır. Yapay zeka ajanınız cüzdanınızı yönetebiliyorsa, herhangi bir açık gönderiyi doğrudan okumasına izin verir misiniz?