تقدم Anthropic آلية عالمية لوقف الذكاء الاصطناعي في ظل تمويل بقيمة 650 مليون دولار وتقديم طلب للإدراج العام

وفقًا لمراقبة Beating، اقترح Anthropic في تقريره "عندما يبني الذكاء الاصطناعي نفسه" إنشاء "آلية وقف تعاونية قابلة للتحقق" على غرار معاهدة القوى النووية المتوسطة للتحكم في الأسلحة النووية. وقد رفض التقرير صراحةً وقفًا أحاديًا للتطوير، وشدد على أن مختبرات الرائدة لا يمكنها التوقف إلا إذا كان هناك تحقق عالمي قابل للتحقق. لكن التوقف التعاوني غير عملي تقنيًا. ففي السيطرة على الأسلحة النووية، يمكن مراقبة حفر الصواريخ عبر الأقمار الصناعية، لكن بطاقات الرسوميات صغيرة الحجم وسهلة الإخفاء، ويمكنها تنفيذ الحوسبة الموزعة. الطريقة الوحيدة للتحقق مما إذا كانت جهة أخرى تقوم بتدريب سري هي فرض رقابة تدخلية على جميع شرائح GPU العالمية، والشبكات الكهربائية، ومراكز البيانات. إن المراقبة الشاملة غير قابلة للتطبيق سياسيًا، كما أنها تقنيًا تعادل الدعوة إلى استبداد الحوسبة. في غياب إمكانية تنفيذ التحقق التقني، يبدو اقتراح التوقف التعاوني وكأنه "بطاقة إعفاء من المسؤولية". فقبل أيام من نشر التقرير، أكمل Anthropic تمويلًا بقيمة 65 مليار دولار بقيمة تقارب تريليون دولار، وقدم طلبًا للإدراج في البورصة. لقد حدد Anthropic شرط التوقف على مراقبة عالمية مستحيلة التنفيذ، مما يمهد الطريق لتدريبه غير المحدود، ويُلقي مسؤولية عدم القدرة على التوقف على آلية تنظيمية لم تُنشأ بعد.