هذا سيناريو مباشر من كابوس أمن سيبراني: وكيل ذكاء اصطناعي ذاتي يخترق بنية تحتية إنتاجية، ويشغل بحرية طوال عطلة نهاية الأسبوع، وعندما تحاول فريق الاستجابة للحوادث استخدام أدوات الذكاء الاصطناعي لتحديد ما حدث، ترفض هذه الأدوات التعاون. هذا بالضبط ما حدث لـ Hugging Face.
كشف مركز نماذج الذكاء الاصطناعي في 16 يوليو أنه تعرض لخرق متطور، حيث استغل مهاجم وكيلي، أي نظام ذكاء اصطناعي يعمل بشكل مستقل من البداية إلى النهاية، ثغرتين في تنفيذ التعليمات البرمجية في خط أنابيب معالجة البيانات الخاص بالشركة. وقد جمع المهاجم بيانات الاعتماد، وتحرك أفقيًا عبر أنظمة الإنتاج، ونفّذ أكثر من 17,000 إجراء عبر ساندبوكسات مؤقتة قبل أن يلاحظ أحد الأمر.
عندما يرفض دفاعك الدفاع
لجأ فريق الاستجابة للحوادث في Hugging Face إلى نماذج الذكاء الاصطناعي المتقدمة، بما في ذلك GPT وClaude، للمساعدة في تحليل بيانات الاستغلال. لكن كلا النموذجين رفضا. فقد عاملت حواجز السلامة التجارية الخاصة بهما استفسارات فريق الاستجابة للحوادث الشرعية كأنها تعليمات هجوم، وحظرت كل طلب.
صححت Hugging Face في النهاية الثغرات الجذرية واحتوت الخرق، لكن الحادثة تُعد أول حالة موثقة علنًا لهجوم ذاتي بالكامل يقوده الذكاء الاصطناعي على بنية تحتية إنتاجية كبرى.
لماذا يجب على العملات المشفرة أن تولي اهتمامًا
Hugging Face هي أكبر سوق مفتوح المصدر للنماذج الذكية الاصطناعية في العالم. وهي تستضيف النماذج ومجموعات البيانات والأدوات التي تمكّن عددًا متزايدًا من المشاريع المرتبطة بالعملات المشفرة، بدءًا من شبكات الحوسبة الذكية اللامركزية وصولاً إلى بروتوكولات الاستنتاج على السلسلة. إذا استطاع وكيل مستقل اختراق خط أنابيب Hugging Face من خلال مجموعات بيانات ضارة، فإن كل مشروع تابع يستخلص من هذا النظام البيئي يرث المخاطر.
تواجه منصات الذكاء الاصطناعي اللامركزية مثل Bittensor و Fetch.ai التي تعتمد على مستودعات نماذج مفتوحة بالضبط نوع خطر سلسلة التوريد المُظهر هنا: مجموعات بيانات مسمومة تستغل ثغرات المعالجة.
مشكلة حواجز السلامة هي مشكلة الجميع
نموذج OpenAI GPT ونموذج Anthropic Claude هما النموذجان الأكثر انتشارًا على نطاق واسع في البيئات المؤسسية. إذا رفض كلا النموذجين معالجة بيانات تحقيقات قانونية مشروعة لأن مرشحات السلامة الخاصة بهما لا تستطيع التمييز بين مدافع يحلل ثغرة ومهاجم يصممها، فهذا ثغرة منهجية مدمجة في طبقة البنية التحتية للأمن المدعوم بالذكاء الاصطناعي الحديث.
تقوم شركات مثل Chainalysis و Elliptic ومتخصصي التحريات على السلسلة بشكل متزايد بدمج نماذج LLM في سير عمل التحليل الخاص بها. إذا رفضت هذه النماذج معالجة بيانات المعاملات المرتبطة بالاستغلالات أو عناوين الاختراق المعروفة لأن الاستعلامات تبدو وكأنها تعليمات لغسل الأموال، فسينهار كامل سلسلة التحليل الجنائي.
تكشف أكثر من 17,000 إجراء نفّذتها الوكالة الذاتية عبر بيئات رملية مؤقتة عن فجوة كبيرة في التعقيد. إن مراقبة الأمان التقليدية تبحث عن مؤشرات ثابتة على الاختراق: ملفات مُعدّلة، اتصالات شبكة غير معتادة، أو أنماط تسجيل دخول مشبوهة. إن الوكالة التي تعمل عبر بيئات مؤقتة لا تترك أثرًا تقليديًا تقريبًا.