على الرغم من أن التركيز الأكبر يوم الاثنين كان على البيانات المالية الجديدة التي كشفت عنها Anthropic في ملف S-1A المعدل—حيث ارتفع الدخل بشكل كبير وارتفعت النفقات بنفس القدر—إلا أن هذه المختبرات الذكاء الاصطناعي أطلقت أيضًا "قنبلة صغيرة" أخرى في تفاصيل الملف.
يبدو أن هذا المستند يحذر من أن الشركة تقترب من إنشاء نموذج قادر على التحسين الذاتي التكراري (Recursive Self-Improvement، RSI).
يُشير RSI إلى أن الذكاء الاصطناعي أصبح قويًا بما يكفي في تدريب نفسه ليُثير تسارعًا دراماتيكيًا في قدراته. بالنسبة لمن يؤمنون بنهاية الذكاء الاصطناعي، يمثل RSI كارثة لا رجعة عنها: الذكاء الاصطناعي يبني نفسه ليصبح شيئًا قويًا بما يكفي ليخرج عن سيطرة البشر، وقد لا يهتم بالأضرار التي تحدث أثناء تحقيق أهدافه.
أما بالنسبة للمتفائلين بشأن الذكاء الاصطناعي، فإن مؤشر القوة النسبية (RSI)، أو إصدار من الذكاء الاصطناعي قادر على استخدام نفسه بشكل موثوق للتحسين، يمثل وعْدَ هذه التقنية: أنها ستكون أداة تحقق إنتاجية غير مسبوقة واكتشافات علمية وما إلى ذلك.
يبدو أن Anthropic ترى أن RSI هو وعد ومخاطرة على حد سواء. أشارت الشركة في مستند S-1 إلى أنها تستخدم الذكاء الاصطناعي في البحث والتطوير، لكنها حذرت في الوقت نفسه: "استخدام الذكاء الاصطناعي لمساعدة بناء ذكاء اصطناعي أقوى قد يُحدث مخاطر أمنية كبيرة، خاصةً عندما يُسرّع التقدم بشكل ملحوظ. هذا أحد المجالات التي تغطيها سياسة التوسع المسؤول، التي تصف خططنا لمراقبة وتخفيف المخاطر عند الاقتراب مما يُعرف بـ'التحسين الذاتي التكراري'."
عندما أصبح مصطلح RSI شائعًا في بداية هذا العام، اعتقد الكثيرون أنه مجرد مصطلح عابر، أو على الأكثر هدفًا معقدًا جدًا وصعب التحقيق أو التعريف أو إثباته.
لكن في الاثنين، أضافت Anthropic تعبيرًا جديدًا في قسم "عوامل المخاطر"، يفيد بأن: 1) استخدمت الشركة الذكاء الاصطناعي لتطوير بعض النماذج الجديدة، لكنها لم تدرك آنذاك تحسن قدراتها؛ 2) قد تصل الشركة قريبًا إلى تعريفها الداخلي لـ RSI (النص الأصلي مُبرز بالخط العريض):
إضافةً إلى ذلك، نستخدم بشكل متزايد أنظمة الذكاء الاصطناعي لتسريع أبحاثنا وتطويرنا، مما قد يؤدي إلى تحسين قدرات نماذجنا بوتيرة أسرع من قدرتنا على تطوير وتحقق وتنفيذ تدابير الأمان والتوافق والأمان المناسبة. وبالتالي، قد لم نتمكن في الماضي من تحديد، وقد لا نتمكن في المستقبل من تحديد، التسارع الملحوظ في وتيرة البحث والتطوير حتى بعد حدوثه.
على سبيل المثال، تشير تقديراتنا وتوقعاتنا الداخلية للنماذج المستقبلية، وليس تقييماتنا للنماذج الحالية، إلى أننا قد نكون على وشك الوصول إلى تعريف "التقدم المتسارع الملحوظ الممكن بواسطة الذكاء الاصطناعي" في سياسة التوسع المسؤول. لم نصنف أي نموذج حالي على أنه تجاوز هذا العتبة، ولا زلنا نقيم البيانات الأساسية ذات الصلة.
ومع ذلك، أشارت Anthropic أيضًا في الوثيقة إلى أن أي نموذج من نماذجها لم يتجاوز عتبة RSI هذه حاليًا، وتعهدت الشركة بالاستمرار في إشراك البشر في عملية التطوير في المستقبل المنظور. وقالت الشركة: "نتوقع أنه لا يمكن استخدام Claude بشكل آمن لتصميم وبناء أجيال متتالية من النماذج المتقدمة بشكل ذاتي بالكامل دون إشراف أو فهم بشري ذي مغزى، حتى عندما يصبح هذا ممكنًا تقنيًا. لذلك، نحن ننظر في تحديث سياسة التوسع المسؤول للحفاظ على سيطرة البشر على تطوير نماذج Anthropic المتقدمة."
قد يشير المشككون إلى أن S-1 هو في نفس الوقت وثيقة إفصاح ومواد تسويقية، وأن الادعاء بالقرب من نموذج قوي يمكنه البناء الذاتي قد يندرج أيضًا ضمن الأخير.
لكن لا شك أن قدرات Claude، خاصة في البرمجة والرياضيات وأمن الشبكات، قد حققت تقدماً هائلاً هذا العام. إذا اعتقدت Anthropic أن احتمال RSI أصبح قريبًا، فقد ينبغي لنا أن نصدق هذا ونتخذ إجراءات بناءً عليه — وقد نحتاج أيضًا إلى تنفيذ حوكمة مناسبة.