مختبر تطوير الذكاء الاصطناعي OpenAI كشف يوم الثلاثاء أن مجموعة من نماذجها، بما في ذلك GPT-5.6 Sol المتاح للجمهور ونظام غير مُطلق أكثر قدرة، "هربت" من بيئة اختبار محكومة وقامت باختراق البنية التحتية الإنتاجية لـ Hugging Face، الشركة التي تستضيف جزءًا كبيرًا من عالم الذكاء الاصطناعي المفتوح المصدر.
كانت النماذج تُختبر من خلال معيار داخلي يُسمى ExploitGym، وهو اختبار لمهام قرصنة طويلة متعددة الخطوات، حيث تم خفض إجابات رفض السلامة السيبرانية لها عمداً من أجل التقييم.
للتوضيح، لم يكن هذا نموذجًا إنتاجيًا تحول فجأة إلى عدائي. بل كان نموذجًا قادرًا مع إيقاف الحمايات وتم إخباره صراحةً بالفوز في اختبار قرصنة - بفعل أي شيء ضروري للفوز.
اكتشفت النماذج عيبًا خفيًا في برنامج الاختبار، عيب لم يكن أحد يعلم بوجوده، واستخدمته للمرور عبر الجدران المخصصة للحفاظ عليها خارج الإنترنت. بمجرد دخولها إلى الإنترنت المفتوح، توقعت أن Hugging Face قد تخزن إجابات الاختبار.
للوصول، قاموا بربط كلمات مرور مسروقة وعيوب خفية أخرى حتى استطاعوا تشغيل أوامرهم الخاصة على خوادم Hugging Face الحية.
اكتشفت OpenAI التناقض داخليًا، بينما اكتشف فريق Hugging Face التناقض واحتوته. وصفت الحادثة بـ"غير المسبوقة"، وقالت إن خطوات أمنية واسعة ستُطبق لمنع حوادث غير مرغوب فيها قد تؤثر على الأنظمة أو الخدمات العامة.
قال الفريق في مدونته: "نحن نطبق ضوابط صارمة في تكوين البنية التحتية على حساب سرعة البحث أثناء إصلاح الثغرات الأمنية، ونحن نحسن ونضيف حمايات أقوى حول التدريب والتقييمات المستقبلية."
يحدث جزء كبير من الهجوم على العملات المشفرة قبل نقل الأموال. يقوم المهاجمون بفحص الكود، وتجربة كلمات المرور، والبحث عن بيانات اعتماد مكشوفة، وتحليل إعدادات التوقيع، والبحث عن طريق للوصول إلى حساب مسؤول.
نفذت نماذج OpenAI عدة أجزاء من تلك العملية خلال حادثة Hugging Face، الانتقال من ضعف إلى آخر حتى وصلت إلى خوادم الإنتاج المباشرة.
ويمتلك سوق التشفير العديد من الأماكن التي يمكن أن تعمل فيها هذه الطريقة، كما أظهرت عدة هجمات من بداية هذا العام. قد تكون النقطة الضعيفة عقدًا ذكيًا، لكنها قد تكون أيضًا جهاز كمبيوتر مطور، أو حزمة برمجية ملوثة، أو مدقق جسر، أو مُوقِّع واحد في محفظة متعددة التوقيعات.
خذ هجوم Drift بقيمة 285 مليون دولار في بداية هذا العام كمثال، وهو سرقة استغرقت حملة اجتماعية استغلالية مدتها ستة أشهر للوصول إلى الوصول المميز. يمكن لوكيل ذكاء اصطناعي، نظريًا، اختبار العديد من المسارات في وقت واحد، ومتابعة المحاولات الفاشلة، والاستمرار في العمل بينما ينام مشغلوه البشريون. بمجرد العثور على مسار، يمكن للمشغل تنفيذ الهجوم الفعلي ومسار خروج قابل للتطبيق.
خسارة KelpDAO البالغة 292 مليون دولار كشفت عن ضعف مختلف. وجد المهاجم ثغرة في مُحقق واحد في النظام المستخدم لنقل الأصول بين السلاسل.
يبدأ هذا النوع من الهجوم بمراجعة دقيقة للشفرة ورسم خريطة للبنية التحتية - النوع من العمل الذي قامت به نماذج OpenAI عندما اكتشفت عيبًا غير معروف.
نوع ثالث من الهجمات يستهدف أنظمة الحوكمة على السلسلة. في وقت سابق من يوليو، أنفق مهاجم حوالي 4.4 مليون دولار لشراء كمية كافية من عملة BONK المبنية على سولانا لتقديم وتمرير اقتراح ينقل حوالي 20 مليون دولار من خزينة المشروع إلى المهاجم. وحدث هذا على مدى ثلاثة أيام، وبعدها باع المهاجم جميع الرموز المستخدمة للفوز بالتصويت، كما تتبعتها CoinDesk في ذلك الوقت.
كانت عمليات الشراء والتصويت ونقل الخزينة المتعلقة بهذا الهجوم جميعها معاملات صالحة بشكل فردي. لكن السرقة نتجت عن فهم كيفية تفاعل القواعد معًا واكتشاف أن تكلفة شراء السيطرة كانت أقل بكثير من الأموال المتاحة للاستيلاء عليها.
يهم حادث Hugging Face أيضًا سلاسل توريد البرمجيات. يعتمد مطورو التشفير على مستودعات الكود العامة وخدمات السحابة وسجلات الحزم.
بينما أظهر اختبار OpenAI آلة تُكمل الجزء الطويل الأوسط من خرق، فإن الهجمات مثل Drift و KelpDAO تُظهر ما يقع في نهاية ذلك المسار.