وَقَّع حاكم كاليفورنيا نيوسوم على قانون رائد للتنظيم الذكي الاصطناعي، يطلب إجراء تمارين فريق أحمر ومراجعة طرف ثالث قبل إطلاق النماذج التي تمتلك تريليونات المعلمات.مؤلف المقال، المصدر: AIBase
وقد وقّع حاكم ولاية كاليفورنيا الأمريكية، غافين نيوسوم، رسميًا على حزمة من قوانين تنظيم الذكاء الاصطناعي التي تُعد محطة فارقة. وجدير بالذكر أن هذه القوانين الجديدة، التي تهدف إلى تعزيز تقييم مخاطر الأمان للنماذج الكبيرة المتقدمة، وشفافية الإفصاح، ومنع الهجمات الإلكترونية الكارثية، حصلت خلال المفاوضات التشريعية السابقة على دعم نادر وعلني من شركات رائدة في مجال الذكاء الاصطناعي في سيليكون فالي، بما في ذلك OpenAI وAnthropic.
يجب أن تمر النماذج بمستوى تريليون معامل قبل التشغيل بـ "تمرين فريق الأحمر + مراجعة طرف ثالث"
في السنوات الأخيرة، مع التوسع الأسي في قدرات الحوسبة للذكاء الاصطناعي التوليدي وزيادة قدرات النماذج الأساسية المتقدمة على التشغيل الذاتي، زاد القلق بشأن احتمال إساءة استخدام الذكاء الاصطناعي في تدمير البنية التحتية الحيوية، وتطوير أسلحة كيميائية وبيولوجية تلقائية، والتحكم الواسع النطاق عبر التزييف العميق، واستغلال ثغرات أمنية سيبرانية خطيرة. وبسبب التوقف المستمر في الكونغرس الأمريكي بشأن التشريع الفيدرالي للذكاء الاصطناعي، تولت برلمان كاليفورنيا في السنوات الأخيرة دور الرائد الوطني في تشريع الذكاء الاصطناعي.
تركّز القوانين المتعددة الموقعة في هذه الدورة على ترسيخ المعايير القانونية لاختبارات الأمان للنماذج الأساسية الضخمة جدًا، وتشترط على مطوري النماذج إجراء تدريبات محاكاة موجهة من قبل فرق حمراء معيارية، ووضع بروتوكولات صارمة للتخفيف من المخاطر الكارثية، وتقديم تقارير أمان متوافقة مُدقَّقة من قبل طرف ثالث مستقل إلى هيئات التنظيم الحكومية.
على عكس المقترح التنظيمي المتطرف الذي أثار اضطرابات كبيرة في سيليكون فالي وواجه معارضة قوية من شركات التكنولوجيا الكبرى ومؤسسات رأس المال المخاطر، فقد تم تضمين اقتراحات تقنية متقدمة من مختبرات الذكاء الاصطناعي الرائدة خلال صياغة وتعديل هذه الحزمة التشريعية. وكان قد أعربت Anthropic وOpenAI سابقًا عن قلق عميق إزاء البنود الصارمة التي قد تُقمع تطوير المجتمع المفتوح المصدر أو توسع المسؤولية المدنية المشتركة بشكل غير محدود؛ وبعد حملة ضغط مكثفة وتعديلات دقيقة على البنود، ركزت النسخة النهائية من القانون على إنشاء "إطار تقييم مسبق للمخاطر" شفاف و"معايير أفضل الممارسات الأمنية في القطاع"، بدلاً من فرض مؤشرات تقنية صارمة أو تدابير عقابية غير قابلة للتطبيق، مما مكنها من كسب دعم التعاون من المؤسسات الرئيسية لتطوير الذكاء الاصطناعي ضمن الإطار القانوني.
يجب إضافة علامة مائية على التزييف العميق، ويُحمي القانون المبلغين عن المخالفات
بالإضافة إلى المراجعة الأمنية الأساسية، يغطي القانون معايير التتبع والعلامة المائية للمحتوى المُنشأ بالذكاء الاصطناعي، ويتطلب من المنصات وقنوات التوزيع الرئيسية إضافة بصمات رقمية على مستوى النظام لمحتوى الصوت والفيديو المزيف العميق، بهدف منع انتشار المعلومات الكاذبة في الانتخابات والاحتيال الشخصي الضار. كما يوفر القانون حماية قانونية أوضح لـ"المبلغين" من الموظفين الداخليين والباحثين الذين يكتشفون ويُكشفون عن ثغرات أمنية جسيمة محتملة في النماذج، ويحظر على الشركات حرمان التقنيين من حق الإبلاغ عن مخاطر أمنية كارثية للجهات التنظيمية من خلال اتفاقيات سرية قاسية.
يُعد هذا الإجراء علامة فارقة في كاليفورنيا، كمركز عالمي لأبحاث وتطوير الذكاء الاصطناعي، في استكشافها مسارًا تنظيميًا يحظى بقبول نسبي من الصناعة، يوازن بين الخطوط الحمراء الأمنية الصارمة والحفاظ على حيوية الابتكار الصناعي.