أطلقت Anthropic مجموعة من السياسات الموجهة للنماذج المتقدمة للذكاء الاصطناعي. وتشير الشركة إلى أن قواعد الشفافية الحالية لم تعد قادرة على مواكبة وتيرة تحسين قدرات النماذج، وتحتاج الحكومات إلى الحصول على صلاحيات تدخل أكثر وضوحًا لاتخاذ إجراءات قبل دخول الأنظمة عالية المخاطر إلى الأسواق العامة.
يتم تحديد الكيانات الخاضعة للتنظيم وفقًا للقوة الحسابية والإيرادات
يتكون هذا الحل من جزأين: جزء يركز على متطلبات التقنية والتنظيم لأقوى النماذج، وجزء آخر يناقش قضايا التوزيع الاقتصادي تحت تأثير الأتمتة. وفقًا للمعلومات المُعلنة حتى الآن، يبدو أن الجزء الأول أكثر اكتمالاً.
تُضيّق Anthropic نطاق التنظيم ليشمل عددًا قليلاً من المطورين الرائدين بدلاً من تغطية الصناعة بأكملها. تقترح الشركة أن تُدرج في الإطار النماذج التي تتجاوز تدريبها 10²⁵ عملية نقطة عائمة؛ كما يجب تطبيق المتطلبات ذاتها على الشركات التي تتجاوز إيراداتها السنوية المرتبطة بالذكاء الاصطناعي 500 مليون دولار أمريكي، أو إنفاقها على أبحاث الذكاء الاصطناعي 1 مليار دولار أمريكي.
تم تصميم هذا النهج لتركيز التركيز على النماذج الأكثر قوة وأكثر تجميعًا للموارد، وتجنب خضوع المطورين والمؤسسات البحثية الصغيرة والمتوسطة لنفس مستوى التنظيم الصارم.
الادعاء بأن الحكومة يمكنها منع التوقيعات عالية المخاطر
تقول الشركة إن التغيير الأكثر جوهرية هو منح الحكومة السلطة القانونية لمنع أو كبح نشر النماذج عالية المخاطر. حاليًا، لا تمتلك الولايات المتحدة آلية كاملة تمكنها من اعتراض النماذج بشكل فعّال قبل إطلاقها على الجمهور.
في المتطلبات المحددة، يجب على مطوري النماذج المتقدمة إكمال الاختبارات قبل الإطلاق، ونشر ملخص الاختبارات والإطار الأمني وبطاقة النظام، مع توضيح أداء النموذج وطرق التحكم في المخاطر. كما يجب على الشركات تقديم تقارير مخاطر دورية، وكشف الحالة العامة للمخاطر وتقدم الأعمال الأمنية.
كما تدعو Anthropic إلى إدخال هيئات تقييم مستقلة لمراجعة الاختبارات التي تُجرى من قبل الشركات، ونشر استنتاجات مخاطر النموذج بشكل منفصل. وهكذا، لن تعتمد الجهات التنظيمية والجمهور فقط على تصريحات الشركات للحصول على المعلومات.
العقوبات ومتطلبات الأمان تزداد معًا
في تصميم الإنفاذ، تقترح Anthropic ربط العقوبات المدنية بإيرادات الشركة السنوية العالمية، بدلاً من فرض غرامات ثابتة. ترى الشركة أن هذا هو الطريق الوحيد لضمان أن تكون العقوبات ملزمة فعليًا للشركات الكبرى في مجال الذكاء الاصطناعي. كما ينبغي زيادة شدة الغرامات على المخالفين المتكررين.
بالإضافة إلى الاختبار والإفصاح، فإن الخطة تتطلب من الشركات إنشاء نظام أمان أقوى لحماية أوزان النموذج وأنظمة التدريب ومنع الهجمات الخارجية والإساءة الداخلية. يمكن للشركات توضيح الهيكل العام لخطة الأمان، بينما يتم تقديم التفاصيل الأكثر دقة عند طلبها من قبل الجهات الحكومية.
اقترحت Anthropic أيضًا أن تضع الحكومة والصناعة معايير للمقيّمين المستقلين، وضمان حصول هؤلاء المقيّمين على تمويل كافٍ ووصول ضروري. نظرًا لأن النماذج المتقدمة غالبًا ما تكون أكثر الأصول حساسية للشركات، فإن من سيقوم بالتقييم وكيفية الحصول على الوصول ستكون من بين الصعوبات الرئيسية في التطبيق.
الإشارة إلى أربع فئات من المخاطر الرئيسية
يُدرج Anthropic في الملف أربع فئات من المخاطر الرئيسية: المخاطر البيولوجية، ومخاطر الأمن السيبراني، ومخاطر فقدان السيطرة، ومخاطر قيام الذكاء الاصطناعي بتسريع تطوير نفسه تلقائيًا. وتعتقد الشركة أن هذه المخاطر ليست منفصلة عن بعضها البعض، بل يمكن أن تعزز بعضها البعض.
على سبيل المثال، قد تؤثر النماذج التي تمتلك قدرة كبيرة على اكتشاف ثغرات البرمجيات مباشرة على البنية التحتية الحيوية مثل المستشفيات وشبكات الطاقة؛ وقد تتداخل هذه القدرات مع المخاطر البيولوجية في حال عدم كفاية القيود.
فيما يتعلق بالتدابير المصاحبة، تقترح Anthropic تعزيز حماية الإنترنت والبنية التحتية الحيوية، ودفع استبدال الأنظمة القديمة في الخدمات الحيوية، وإنشاء وظيفة حكومية متخصصة لمتابعة مستمرة لتغيرات القدرات السيبرانية للذكاء الاصطناعي المتقدم. أما بالنسبة لمخاطر فقدان السيطرة والتطوير الآلي، فإن الشركة تعترف بأن أدوات الحوكمة ذات الصلة لا تزال غير ناضجة، ويجب مواصلة تحسين القدرة على الكشف والعزل وإيقاف الأنظمة غير الآمنة.
معلومات إضافية: أشارت Anthropic في المستند إلى أن قواعد الشفافية الحالية في كاليفورنيا ونيويورك وغيرها لها تأثير معين، لكن الإفصاح العلني وحده لم يعد كافيًا لتغطية المخاطر الناتجة عن التحديثات السريعة للنماذج المتقدمة.