تواجه شركات الذكاء الاصطناعي مخاطر أمن سيبراني وسط مخاوف من التجسس

يُجادل تال فيلدمان وإبراهيم داغر أن ضعف الأمن السيبراني في شركات الذكاء الاصطناعي الأمريكية الرائدة يهدد ميزة البلاد على الصين. يُجادل فيلدمان وداغر أن واشنطن يمكنها طلب أمان أقوى دون إصدار تشريع آخر. يدّعي المؤلفان أن النقاش العام قد فحص بشكل صحيح وكيلات الذكاء الاصطناعي التي تهاجم شركات أخرى، لكنه تجاهل ما إذا كانت شركات الذكاء الاصطناعي قادرة على منع الاختراقات.

اكتشفت OpenAI مؤخرًا أن موظفًا سعوديًا وُضع جهاز تسجيل صوتي في غرفة اجتماعات تنفيذية. ويُناقش الموظفون الكبار بانتظام مواد سرية، بما في ذلك الأبحاث الحصرية، في تلك الغرفة بمقر OpenAI في سان فرانسيسكو. وفي يوليو، نفذ ثلاثة باحثين يحققون في ثغرات أمنية اختراقًا لأنظمة OpenAI ووصلوا إلى مستودع كود داخلي يحتوي على أسرار خوارزمية. ودفعت OpenAI للباحثين مكافأة قدرها 6,500 دولار مقابل الإبلاغ عن الثغرات. وأكمل الباحثون الاختراق في أقل من 72 ساعة دون استخدام أدوات قرصنة متقدمة بشكل خاص. وقال أحد الباحثين لصحيفة وول ستريت جورنال: "نحن مجرد ثلاثة رجال لديهم اشتراكات في Claude وCodex"، مشيرًا إلى وكلاء برمجية متاحة للجمهور من Anthropic وOpenAI. كما نفذ قرصان اختراقًا لنظام الرسائل الداخلي لـ OpenAI في عام 2023 وحصل على معلومات حول أبحاث OpenAI. ولم تُبلغ OpenAI مكتب التحقيقات الفيدرالي أو الجمهور عن هذا الاختراق.

يُجادل فيلدمان وداغر أن الدول مثل الصين تمتلك الأدوات المتقدمة والوقت والدافع اللازمين للتخريب في شركات الذكاء الاصطناعي الأمريكية. يُجادل المؤلفون أن سرقة نماذج أمريكية رائدة ستمكن المنافسين من اللحاق بالركب دون دفع تكاليف التطوير. يحذّر المؤلفون من أن القيود المفروضة على مبيعات الرقائق المتقدمة والاستثمارات المليارية في البنية التحتية للذكاء الاصطناعي لن تحقق أي نتيجة ما لم تأخذ المختبرات الأمن السيبراني على محمل الجد. يُجادل المؤلفون أن الحوادث الثلاثة على الأرجح تشير إلى مشكلة أمنية أوسع.

اعترفت شركات الذكاء الاصطناعي علنًا بضعف دفاعاتها ضد التجسس المتقدم. وقال الرئيس التنفيذي لشركة Anthropic، داريو أموديي، في عام 2023 إن حكومة تجعل سرقة أوزان النموذج أولوية قصوى ستنجح ضد Anthropic. إن أوزان النموذج هي تريليونات القيم العددية التي تُولد عبر أشهر من التدريب المكلف وتشكل نموذج الذكاء الاصطناعي. ومع ذلك، لا يزال تقرير المخاطر الخاص بـ Anthropic هذا أغسطس يفيد بأن Anthropic لا تستطيع الصمود أمام مهاجمين من دول، ولا "تعتقد أن أي مطور للذكاء الاصطناعي المتقدم حاليًا يحقق هذا المعيار". وجادل جاكوب كوكسون، الباحث السابق في Anthropic وOpenAI، بأنه لا يمكن لأي ميزة أمريكية أن تستمر لأن بكين يمكنها سرقة تقدم الولايات المتحدة في أي وقت تختاره. وقال مايلز برنداج، الذي عمل على جاهزية OpenAI للذكاء الاصطناعي المتقدم، إن شركات الذكاء الاصطناعي لا تدّعي حتى قدرتها على منع الجهات الحكومية من سرقة أوزان النموذج أو تعديلها.

حدد باحثو راند 38 طريقة لسرقة أوزان النموذج، بما في ذلك زرع أجهزة محمولة، وتعديل الأجهزة قبل التثبيت، ورشوة أو إكراه الموظفين. توفر مراكز بيانات شركات السحابة نقطة دخول أخرى، لأن مختبرات الذكاء الاصطناعي غالبًا ما تستخدم هذه المرافق لتدريب النماذج وتشغيلها. كما أن أسرار الخوارزميات في الصناعة تفتقر إلى الحماية الكافية. وقال أمودي لمجلس العلاقات الخارجية العام الماضي إن بعض أسرار صناعة الذكاء الاصطناعي التي تبلغ قيمتها "100 مليون دولار" لا تتجاوز بضعة أسطر من التعليمات البرمجية. وقال أمودي إن الناس بالتأكيد يحاولون سرقة هذه الأسرار وقد يكونون قد نجحوا بالفعل.

تتنافس شركات الذكاء الاصطناعي بشراسة لتطوير الذكاء الفائق. لا يمكن تخصيص المال ووقت الموظفين المخصصين لأمن المعلومات أيضًا لتدريب النموذج التالي. وقد حججت أنثروبيك أن مقاومة المهاجمين الدوليين الممولين جيدًا يجب أن تكون أولوية في أمن المعلومات للصناعة. ومع ذلك، قالت أنثروبيك إن الشركة "لا يمكنها الالتزام باتباع" هذه الأولوية بشكل مستقل.

في العام الماضي، أمر الكونغرس وزارة الدفاع بإنشاء متطلبات أمنية للذكاء الاصطناعي المشتري، وتطبيق هذه المتطلبات على المتعاقدين والمزودين السحابيين ذوي الصلة. ولم تبدأ وزارة الدفاع بعد عملية تعديل القواعد العامة بعد مرور 10 أشهر. يمكن لوزارة التجارة جعل الصادرات النموذجية خاضعة للتراخيص، وتحديد التراخيص للمختبرات التي تستوفي المتطلبات الأمنية. واستخدمت إدارة ترامب هذه السلطة لإجبار أنثروبيك على سحب Mythos وFable من السوق في يونيو. ويمكن للحكومة الفيدرالية أيضًا ربط شروط أمنية بالقروض وعقود تأجير الأراضي الداعمة لبناء مراكز البيانات. ووفقًا لهذا النهج، لا يمكن لأي شركة ذكاء اصطناعي الحصول على تمويل فيدرالي أو استخدام الأراضي العامة إلا إذا استوفت متطلبات أمنية صارمة. ويخلص فيلدمان وداغر إلى أن حكومة أجنبية تمتلك تمويلًا كبيرًا ووقتًا غير محدود يمكنها بالتأكيد التسلل إلى OpenAI إذا كان بإمكان ثلاثة باحثين يستخدمون اشتراكات Claude القيام بذلك في ثلاثة أيام.