تُناقش البيت الأبيض الأمريكي مع شركة الذكاء الاصطناعي Anthropic إطارًا لتقييم أمان النماذج، بهدف إنشاء منهجية موحدة لتصنيف عيوب الأمان في نماذج الذكاء الاصطناعي الجديدة، وتحديد ما إذا كان على الحكومة التدخل. ويأتي هذا في أعقاب فرض الولايات المتحدة قيودًا على تصدير أحدث نموذج من Anthropic بسبب مشكلة أمنية تم تصنيفها على أنها "هروب".
إنشاء معيار موحد حول ثغرة "الهروب من السجن"
وفقًا للتقارير، سيتم استخدام هذا الإطار لتقييم خطورة الأحداث المستقبلية المماثلة، مع التركيز على ثلاثة عناصر رئيسية: مدى تجاوز تدابير الحماية، وقدرات النموذج التي تم كشفها، وعواقب الثغرة في الواقع.
حاليًا، لا تزال الخلافات بين الحكومة والشركات حول هذه القضايا واضحة. سابقًا، اختلف رئيس تنفيذي شركة Anthropic، داريو أمودي، مع المسؤولين الحكوميين بشأن ما إذا كانت الثغرات ذات الصلة تمثل مشكلة أمنية كبيرة. أشار التقرير إلى أن تقدم تقنيات الذكاء الاصطناعي سريع جدًا، وأن الأنظمة الحالية للحكومة غير كافية لتقديم تقييم متسق لهذه الخلافات.
المفاوضات تستمر في التقدم بعد القيود على الصادرات
سبق للبيت الأبيض أن فرض قيود تصدير على Anthropic، وحظر على المستخدمين الخارجيين الوصول إلى أحدث نماذجها Fable 5 وMythos 5. وعلقت الشركة لاحقًا الخدمات الخارجية لهاتين الموديلين.
أشار التقرير إلى أن المفاوضات بين الطرفين اقتربت من الانهيار يوم الجمعة الماضي، بسبب رفض Anthropic إيقاف تشغيل Fable وفقًا لمتطلبات الحكومة، مشيرة إلى أن الثغرة ذات الصلة لها تأثير محدود ولا تُعتبر عيبًا أمنيًا خطيرًا. بعد ذلك، اتخذ البيت الأبيض إجراءات قيود تصدير، مما أجبر الشركة على سحب النماذج ذات الصلة من السوق.
لكن مع بدء عطلة نهاية الأسبوع، استؤنفت المحادثات بين الطرفين. وشارك وزير التجارة الأمريكي هوارد لوتنيك، والمدير الوطني للشبكة سيان كيرنكروس، والمؤسس المشارك لشركة Anthropic توم براون، في عدة مكالمات طويلة. بعد ذلك، أجرى الطرفان محادثات مباشرة في واشنطن استمرت لما يقارب أسبوعًا.
البيت الأبيض يُسرّع تطبيق قواعد أمان الذكاء الاصطناعي
أظهرت التقارير أن الأشخاص المشاركين في المفاوضات من جانب Anthropic يشملون رئيسة السياسات العامة سارة هيك والمؤسس المشارك توم براون. كما أرسلت الشركة يوم الاثنين باحثين كبار وخبراء في الحماية الأمنية إلى وزارة التجارة الأمريكية لمواصلة المشاورات مع المسؤولين الحكوميين.
كما تعكس هذه المناقشة حكمًا أكثر واقعية: لا يمكن لأي نموذج ذكاء اصطناعي أن يكون محصنًا تمامًا ضد الهجمات الإلكترونية. لذلك، ترغب الحكومة في تحديد معايير تقييم المخاطر الأمنية من قبل الشركات أولاً، قبل اتخاذ قرار بشأن الحالات التي تتطلب اتخاذ تدابير تقييدية.
يتوافق هذا الاتجاه أيضًا مع المناقشات التي جرت في مؤتمر مجموعة السبع الأخير. وأشارت عدة شركات رائدة في مجال الذكاء الاصطناعي وقادة بعض الدول إلى ضرورة وضع معايير واضحة لتقييم أمان النماذج في أسرع وقت ممكن، للتعامل مع المخاطر الاقتصادية وأمن الدولة التي قد تسببها أنظمة الذكاء الاصطناعي التي تزداد قدرتها باستمرار.