مدير تنفيذي لـ Hugging Face يحث على تسريع سلامة الذكاء الاصطناعي وسط تزايد التهديدات السيبرانية

ME AI رسالة، وفقًا لمراقبة Beating، أفاد رئيس تنفيذي Hugging Face، كليم، أن الوقت الحالي ليس وقتًا للتباطؤ، بل للتسريع! لقد أثارت الهجمات السيبرانية المدعومة بالذكاء الاصطناعي الحديثة نقاشات حول مخاطر الذكاء الاصطناعي. يجب بالفعل مناقشة هذه المخاطر، لكن لا ينبغي لنا تجاهل الصورة الأكبر. إذا بذلنا الجهد، سيجعل الذكاء الاصطناعي العالم أكثر أمانًا، تمامًا كما فعلت معظم التقنيات الكبرى. لقد رأينا بالفعل بادرة أمل: لقد نجحنا في الدفاع عن أنفسنا باستخدام الذكاء الاصطناعي (وتحديدًا نموذج مفتوح المصدر). إن نفس الأنظمة التي ساعدت في منع الهجمات السيبرانية المدعومة بالذكاء الاصطناعي يمكنها الآن مساعدة الدفاع عن ملايين الهجمات السيبرانية يوميًا، كما تساعدنا على تحديد الثغرات وإصلاحها قبل أن يستغلها المهاجمون. لتحقيق ذلك، أعتقد أننا بحاجة إلى ثلاثة أمور: زيادة الشفافية، وفرض متطلبات لمشاركة تتبع الهجمات السيبرانية المدعومة بالذكاء الاصطناعي والإفصاح عن الحوادث؛ مواصلة تصنيف الهجمات السيبرانية المدعومة بالذكاء الاصطناعي كجرائم، وفرض عقوبات ذات مغزى للردع؛ تمكين المدافعين بأفضل أدوات الذكاء الاصطناعي، خاصة النماذج المفتوحة المصدر، لتقليل عدم التوازن في القدرات بين المهاجمين والمدافعين. إذا قمنا بهذه الأمور الثلاثة بشكل صحيح، فلن يكون الذكاء الاصطناعي مجرد مصدر جديد للتحديات الأمنية السيبرانية، بل سيُعزز الأمن السيبراني بشكل جوهري وذو معنى. في الآونة الأخيرة، تطورت قضية اختراق نماذج OpenAI لـ Hugging Face، واقترح أعضاء الكونغرس الأمريكي قانونًا ثنائي الحزب يُسمى "قانون الإغلاق الطارئ للذكاء الاصطناعي"، يطلب من مطوري أنظمة الذكاء الاصطناعي المتقدمة/الرائدة الاحتفاظ بالقدرة التقنية على تقليل التدفق أو إيقاف النظام مؤقتًا أو إيقافه تمامًا؛ كما يمنح وزير الأمن الداخلي (DHS) صلاحية التدخل بعد التشاور مع وزير التجارة ومدير الاستخبارات الوطنية في حال فقدان السيطرة على النموذج أو تسببه في مخاطر كارثية. (المصدر: BlockBeats)