قال داريو أمودي، الرئيس التنفيذي لشركة Anthropic، إن الحكومات لم تعد تستطيع التعامل مع تنظيم الذكاء الاصطناعي كمسألة بحث طويلة الأجل. مع تطور قدرات النماذج المتقدمة بسرعة، تحتاج الولايات المتحدة إلى إنشاء متطلبات أمان ملزمة في أسرع وقت ممكن، وليس الاعتماد فقط على الإفصاح الطوعي من قبل الشركات.
اقتراح الاعتماد على نموذج تنظيم الطيران
يقول أموداي في مقاله الأخير إن نهج التنظيم الذي ركز سابقًا على الشفافية لم يعد كافيًا. وهو يدعو إلى اتباع نهج إدارة الطيران الفيدرالية الأمريكية، من خلال فرض متطلبات للاختبار قبل الإطلاق، والمراجعة الفنية، والتقارير المستمرة على أقوى نماذج الذكاء الاصطناعي.
وفقًا لفكرة، يجب أن تخضع النماذج المتقدمة لاختبارات إجبارية من طرف ثالث. إذا لم تحقق معايير الأمان، يجب أن تتمتع الحكومة بصلاحية منع النشر، أو حتى طلب السحب. كما يجب على الشركات حماية أوزان النموذج، وإجراء تقييمات أمنية منهجية، والإبلاغ عن الحوادث الجسيمة.
تم تصنيف أربع فئات من المخاطر على أنها ذات أولوية
تركز المقالة التنظيمية على أربعة اتجاهات: الأمن السيبراني، ومخاطر الأسلحة البيولوجية، وفقدان السيطرة على الذكاء الاصطناعي، وقدرات البحث والتطوير الآلي. يرى أوموداي أن هذه القدرات، إذا استمرت في التحسن، قد لا تواكبها عمليات السياسات الحالية مع تقدم التكنولوجيا.
كما اقترح أن تتخذ الحكومة تدابير استباقية لمواجهة استبدال الوظائف الذي قد تسببه الذكاء الاصطناعي، والاهتمام بقضايا الحوكمة الناتجة عن تسريع تطوير الأدوية. وفي الوقت نفسه، دعا إلى فرض قيود على استخدام الذكاء الاصطناعي في المراقبة إنفاذ القانون المحلية والأسلحة الذاتية، وتعزيز التعاون بين الديمقراطيات في تقنيات الذكاء الاصطناعي الأساسية.
إطلاق النموذج الجديد وتقدم الإدراج متزامنان
قبل وبعد نشر هذه المقالة، وسّعت Anthropic نطاق استخدام نماذجها الرائدة. أطلقت الشركة يوم الثلاثاء Mythos 5، وفتحت الوصول لها أمام مؤسسات الأمن السيبراني والشركاء الحكوميين. وقد اكتشف باحثون، مثل معهد الأمن السيبراني البريطاني للذكاء الاصطناعي، أن هذا النموذج قادر على تنفيذ هجمات سيبرانية معقدة بشكل ذاتي.
في نفس الأسبوع، أطلقت Anthropic أيضًا Claude Fable 5 للجمهور. بالنسبة للطلبات المتعلقة بالأمن السيبراني، والبيولوجيا، والكيمياء، وتطوير الذكاء الاصطناعي، يتم تحويلها إلى Claude Opus 4.8 الأقل قدرة لتقليل مخاطر الإساءة.
ومع ذلك، أثار هذا الترتيب المنتج انتقادات من المطورين والباحثين، حيث ركز الجدل على استهلاك رموز أعلى، والاحتفاظ الإجباري بالبيانات لمدة 30 يومًا، والقيود الأمنية الجزئية التي ستُضعف قدرات النموذج دون إشعار واضح للمستخدمين.
معلومات إضافية: بينما تدفع أوموداي لدفع نقاشات التنظيم، تواصل أنثروبيك التقدم نحو الاكتتاب العام. وقد قدمت الشركة وثائق الاكتتاب العام الأولى الخاصة بها إلى لجنة الأوراق المالية والبورصات الأمريكية في وقت سابق من هذا الشهر. كما أشار التقرير إلى أن سام ألتمان، الرئيس التنفيذي لشركة أوبيان، انتقد سابقًا أنثروبيك لاستخدامها مخاوف السلامة للدفع نحو تنظيمات أكثر صرامة، ولا تزال الخلافات بين الطرفين بشأن مسار التنظيم مستمرة.