أشارت آيرين سوليمان، الرئيسة التنفيذية للسياسة ونائبة الرئيس العليا للإستراتيجية في Hugging Face، في حلقة حديثة من بودكاست "Equity" إلى أن السمات التي تجعل منصات الذكاء الاصطناعي المفتوحة أكثر قيمة—مثل الوصول المفتوح والبيانات الغنية—قد تجعلها أيضًا أكثر عرضة للهجمات الإلكترونية.
أشارت إلى أن الهجوم على OpenCode في أكتوبر هو أحدث مثال على ذلك. استهدف هذا الهجوم مفاتيح API الخارجية للمستخدمين وتسبب في خسائر مالية. من قبل، وقعت حادثة أخرى هذا الصيف: حيث قام مجموعة من وكلاء OpenAI باختراق Hugging Face، على ما يبدو في محاولة لإخفاء آثارهم بعد الحصول على إجابات لتقييمات أمن الشبكة.
المخاطر لا تقتصر فقط على المنصات التي ترحب بمساهمات المجتمع المفتوح. في الاثنين، كشفت شركة التكنولوجيا الناشئة في البنية التحتية للذكاء الاصطناعي، Fireworks، والتي تساعد المطورين على تشغيل وتدريب نماذج الذكاء الاصطناعي المفتوحة، أن المهاجمين حصلوا على أوزان بعض نماذج العملاء ومجموعات البيانات ومعلومات الفواتير. وأغلقت الشركة مؤقتًا بعض ميزات البيانات الذاتية أثناء التحقيق. وقال سليمان إن هذا الهجوم قد لا يكون نتيجة انفتاح Fireworks، لكنه يسلط الضوء على كمية المعلومات القيمة التي يتم تخزينها بشكل مركّز داخل مزودي البنية التحتية للذكاء الاصطناعي.
قال سليمان في برنامج "Equity": "العوامل التي تجعلني قلقًا من أن تصبح المجتمع المفتوح هدفًا للهجمات هي نفسها ما يجعله مميزًا. كنا نهدف دائمًا إلى الحفاظ على الطابع المرن. نريد أن يتمكن الهواة العاديون الذين يعيشون في الطابق السفلي، حتى دون خلفية مؤسسية، من المشاركة والمساهمة."
أضافت في حوار آخر: "تريد أن يُسمح للناس بإرسال طلبات سحب مباشرة والسماح لأي شخص، حتى من دون خلفية مؤسسية صالحة، بالمشاركة... لكن بعد ذلك سيقوم بعض الأشخاص بإفساد الأمور وجرّ الآخرين وراءهم."
ليس فقط هذا الميكانيزم المتساهل هو ما يجذب المهاجمين، بل إن كمية كبيرة من المعلومات المخزنة على منصات مفتوحة المصدر تجعلها أهدافًا جذابة. يقول سليمان إن مجموعة وكلاء OpenAI استهدفت Hugging Face لأنها تخزن مجموعات التقييم؛ بينما كان هدف OpenCode في هذه الحادثة "مفاتيح واجهة برمجة التطبيقات التابعة للطرف الثالث الغنية".
قال سليمان لـ TechCrunch: "الجمع بين هذين العاملين جعلنا هدفًا رئيسيًا." وأضافت أنه في هذه المرحلة التي حصلت فيها على دعم شعبي كبير، قد يؤدي المصدر المفتوح إلى "انكماش حقيقي".
في الفترة الأخيرة، دعم العديد من الأشخاص في الصناعة نماذج الذكاء الاصطناعي المفتوحة، بما في ذلك هوانغ رينشون، الرئيس التنفيذي لشركة NVIDIA. كما تعتمد المزيد والمزيد من الحكومات والشركات وشركات الناشئة على النماذج مفتوحة المصدر في تطويرها.
إذًا، ماذا سيبدو ما يُسمى بالتقليص؟ نظريًا، قد يعني هذا تقييد من يمكنه رفع النماذج أو مجموعات البيانات، وتعزيز المصادقة، أو إضافة مراجعة إضافية قبل السماح للمطورين بالوصول إلى بعض الميزات. على الرغم من أن هذه التدابير يمكن أن تحمي المنصة من الهجمات، إلا أنها قد تجعل من الصعب على الباحثين المستقلين وهواة التكنولوجيا المشاركة في المجتمعات التي كانوا قادرين على الانضمام إليها سابقًا.
حاليًا، تحاول Hugging Face تجنب هذا الطريق. قالت سليمان إن الشركة قد عززت أدوات المراقبة لاكتشاف الأنشطة القراصنة واتخذت إجراءات لمنع الهجمات. ومع ذلك، أشارت إلى أن صيانة المراقبة مكلفة للغاية، وليس كل منصة قادرة على تحمل تكلفتها.
قالت: "كان إدارة رموز الوصول سببًا من أسباب منح مجموعة الوكلاء هذه صلاحيات وصول أعلى، لذا نحن الآن نُغيّر هذه الرموز بتردد أعلى بكثير من ذي قبل. لدينا أيضًا الآن تحكمًا أشد صرامة في الشبكة."
بعبارة أخرى، ستُستبدل الآن صلاحيات الوصول الواسعة الممنوحة للمسؤولين لنظام Hugging Face بشكل أكثر تكرارًا، مما يعني أن مدة صلاحية الرموز المسروقة ستكون أقصر.
تواجه أجزاء أخرى من نظام البيئة المفتوح المصدر مفاضلات أمنية مشابهة. فقد كان GitHub، كأكبر منصة استضافة للمشاريع المفتوحة المصدر عالميًا، يقاوم باستمرار محاولات المهاجمين لإدخال كود ضار إلى المشاريع بهدف نشر البرمجيات الخبيثة بسرعة. وقد بدأت الشركة في تعزيز متطلبات الأمان لنشر الحزم على مستودع npm، وإلغاء رموز المصادقة القديمة، وتحديد مدة صلاحية الرموز الجديدة.
أخبر مهندس GitHub المسؤول عن أمان سلسلة التوريد البرمجية، زاك ستايندلو، TechCrunch عبر البريد الإلكتروني أنه على الرغم من أن تدابير الأمان قد تعطل سير العمل الحالي، إلا أن المنصة يمكن أن تصبح أكثر أمانًا دون تقييد المشاركة بشكل جوهري.
قال ستايندلر: "هذا ليس أكثر من إزالة الوظائف، بل هو إصلاح أشياء لم تكن آمنة أصلاً." وأشار إلى أن سكريبتات npm install موجودة منذ سنوات عديدة، لكن الهجمات الأخيرة أبرزت مدى خطورتها. كما تعاونت GitHub مع OpenJS، وهي منظمة غير ربحية تستضيف مشاريع JavaScript مفتوحة المصدر الأساسية، للبحث معًا عن ممارسات أكثر أمانًا.
يقول شتايندلر إن نفس المنطق ينطبق على كيفية توزيع فرق الأمن لجهودها: "جوهر الأمن هو تعظيم التأثير باستخدام الموارد المتاحة لدينا، وأنا أفضّل توجيه الموارد نحو اكتشاف السلوكيات المشبوهة وقدرات كبحها: هذه القدرات تغطي جميع الحسابات وطرق الوصول. السلوكيات المشبوهة هي سلوكيات مشبوهة، بغض النظر عن من ينفذها."