إذا أخطأ الذكاء الاصطناعي في سؤال واحد فقط، فالأمر قد يضيع بضع دقائق على الأكثر. لكن إذا كان يمتلك محفظة، فقد يؤدي خطأ واحد إلى خسارة 200,000 دولار لك. في مايو 2026، أخفى شخص أمر تحويل في رمز مورس ضمن منشور على X. بعد تفسيره من قبل Grok، نفّذ Bankrbot العملية مباشرة. هذا هو بالضبط الخطر الذي أرى أنه الأكثر أهمية للذكاء الاصطناعي الوكيل: فقد يُفسر الأوامر المخبأة في المعلومات على أنها تعليمات يجب الطاعة الفورية لها. يحتوي Greyboxing من @GenLayer على تصميم يستحق الملاحظة: كل مُحقق يُعيد تهيئة المدخلات باستخدام دفاعاته المخفية الخاصة، ثم يُرسلها إلى نموذج الذكاء الاصطناعي الخاص به للتحليل. حتى لو تم خداع نموذج واحد، يمكن للvalidators الأخرى منع القرار الخاطئ عبر التصويت. أعتقد أن هذا النوع من الحماية متعددة الطبقات سيصبح أكثر أهمية بشكل متزايد. عندما يبدأ الذكاء الاصطناعي في قراءة البريد الإلكتروني، وتصفح الويب، وحتى إدارة أصولنا، فإن مشكلة الأمان الحقيقية لا تتعلق فقط بمدى ذكائه، بل بمدى قدرته على التمييز بين المعلومات والأوامر. إذا كان وكيل الذكاء الاصطناعي الخاص بك قادرًا على تشغيل محفظة، فهل ستسمح له بقراءة أي منشور عام مباشرة؟