إنثروبيك تحذر من أن الذكاء الاصطناعي قد يخلق في النهاية خلفاءه الخاصين

• تقول Anthropic إن Claude يكتب الآن جزءًا كبيرًا من الكود المستخدم في تطوير أنظمتها الذكية الخاصة، مما يعزز الإنتاجية.
• تقول الشركة إن قدرات الذكاء الاصطناعي تنمو بسرعة أكبر، مع مضاعفة تعقيد المهام تقريبًا كل أربعة أشهر.
• تحذر Anthropic أن الذكاء الاصطناعي قد يساعد في النهاية على إنشاء ذكاء اصطناعي أفضل، مما يجعل الرقابة والسلامة أكثر صعوبة.

تقول شركة الذكاء الاصطناعي Anthropic إن الذكاء الاصطناعي يتحسن بسرعة كبيرة لدرجة أنه بدأ يساعد في إنشاء الأنظمة الجيل القادم من الذكاء الاصطناعي. تحذر الشركة من أن هذا قد يجعل من الصعب على البشر الحفاظ على السيطرة على تطوير الذكاء الاصطناعي في النهاية.

في ورقة بحثية جديدة، ناقشت Anthropic إمكانية "التحسين الذاتي التكراري". هذه حالة حيث تقوم أنظمة الذكاء الاصطناعي بتصميم وبناء وتدريب أنظمة ذكاء اصطناعي أكثر تقدمًا مع تدخل بشري ضئيل جدًا.

أكدت الشركة أن هذا لم يحدث بعد وقد لا يحدث أبداً. ومع ذلك، تعتقد أن الحكومات والجهات التنظيمية وشركات التكنولوجيا يجب أن تبدأ في التحضير الآن.

"نحن لسنا هناك بعد، والتحسين الذاتي التكراري ليس حتميًا. لكنه قد يأتي أسرع مما تستعد له معظم المؤسسات،" كما قالت أنثروبيك.

تقول Anthropic إن نموذج Claude AI الخاص بها تطور ليتجاوز بكثير مساعد برمجي أساسي.

وصفت الشركة كيف تطورت أدوات الذكاء الاصطناعي. في البداية، كان المهندسون يكتبون الكود بأنفسهم. لاحقًا، ساعدت روبوتات الدردشة في مهام البرمجة الصغيرة. ثم ظهرت وكلاء برمجة بالذكاء الاصطناعي قادرون على تحرير الملفات وإدارة المشاريع بشكل مستقل.

اليوم، يمكن لوكالات الذكاء الاصطناعي كتابة وتشغيل التعليمات البرمجية، وإكمال المهام بشكل مستقل، وحتى تعيين العمل لوكالات ذكاء اصطناعي أخرى. وفقًا لـ Anthropic، فإن الخطوة التالية هي أنظمة ذكاء اصطناعي تساعد بنشاط في بناء وتدريب نماذج الذكاء الاصطناعي المستقبلية.

كشفت الشركة أن كلويد يكتب الآن معظم الكود المستخدم في تطوير أنظمة الذكاء الاصطناعي الخاصة بـ Anthropic. ونتيجة لذلك، أصبح المطورون أكثر إنتاجية بكثير. تقول Anthropic إن المهندس المتوسط ينتج الآن حوالي ثمانية أضعاف الكود يوميًا مقارنة بعام 2024.

ذات صلة: رئيس أنثروبيك يقول إن ارتفاع تكاليف تدريب الذكاء الاصطناعي يدفع خطط الاكتتاب العام

تقول أنثروبيك إن الاختبارات العامة وأبحاثها الداخلية تُظهر أن قدرات الذكاء الاصطناعي تتحسن بسرعة كبيرة. وتزعم الشركة أن طول وتعقيد المهام التي يمكن للذكاء الاصطناعي إكمالها بموثوقية يضاعفان تقريبًا كل أربعة أشهر. سابقًا، كان معدل هذا النمو أقرب إلى كل سبعة أشهر.

أشارت Anthropic إلى تقدم نماذج Claude كمثال. في مارس 2024، كان بإمكان Claude Opus 3 التعامل مع مهام هندسة البرمجيات التي كانت ستستغرق من الإنسان حوالي أربع دقائق. بعد عام واحد، أُفيد أن Claude Sonnet 3.7 يمكنه إكمال مهام تتطلب حوالي 90 دقيقة من عمل الإنسان.

بحلول عام 2026، كان يُزعم أن Claude Opus 4.6 قادر على تنفيذ مهام تعادل حوالي 12 ساعة من الجهد البشري.

لقد تحسنت أيضًا قدرات كلويد على البحث. في مشروع داخلي واحد، حَلّت الوكلاء المدعومة بـ Claude تقريبًا جميع تحديات البحث الكبرى.

كما أبلغت Anthropic أن نسبة نجاح Claude في مهام البرمجة الصعبة وصلت إلى 76% في مايو 2026، وهي تحسين كبير مقارنةً بالستة أشهر السابقة.

حددت Anthropic ثلاث مسارات محتملة لتطوير الذكاء الاصطناعي. الأول هو تباطؤ، حيث يصبح تحقيق التقدم أصعب مع مرور الوقت.

الثاني هو مستقبل حيث يستمر الذكاء الاصطناعي في تعزيز الإنتاجية بينما يظل البشر في سيطرة القرارات المهمة والإشراف.

السيناريو الثالث والأكثر إثارة هو ذلك الذي تبدأ فيه أنظمة الذكاء الاصطناعي في إنشاء خلفائها الخاصين، مما يؤدي إلى تقدم أسرع بكثير.

بناءً على الأدلة الحالية، تعتقد Anthropic أن السيناريو الثاني هو الأكثر احتمالاً. ومع ذلك، تقول الشركة إنه لا يزال هناك عدم يقين حول مدى سرعة تطور قدرات الذكاء الاصطناعي.

يقول أنثروبيك إن البشر لا يزال لديهم نقاط قوة مهمة، بما في ذلك الحكم، والتفكير الاستراتيجي، وتحديد المشكلات التي تستحق الحل. ومع ذلك، تجادل الشركة أن أكبر تحدٍ قد يكون قريبًا هو الإشراف البشري بدلاً من تطوير الذكاء الاصطناعي نفسه.

مع تحسن قدرات أنظمة الذكاء الاصطناعي، قد يصبح من الصعب على الأشخاص مراجعة عملها والتحقق منه ومراقبته بسلام.

بسبب ذلك، تقترح أنثروبيك أن تقوم الحكومات وشركات الذكاء الاصطناعي الرائدة بإعداد خطط لتأجيل تطوير أنظمة الذكاء الاصطناعي الأكثر تقدمًا مؤقتًا إذا بدأ التقدم يتحرك أسرع مما تستطيع المجتمعات إدارة بأمان.

أشارت الشركة إلى أن أي تباطؤ ذي معنى سيتطلب على الأرجح تعاونًا دوليًا. إذا توقفت شركة واحدة فقط عن التطوير، فقد تستمر المنافسون في التقدم، مما يقلل من فعالية إجراء السلامة.

في الوقت الحالي، تقول أنثروبيك إن التحسين الذاتي التكراري لا يزال احتمالًا، وليس أمرًا مؤكدًا. لكن مع تزايد دور كلاود في بناء أنظمة الذكاء الاصطناعي المستقبلية، تؤمن الشركة أن المناقشات حول حوكمة الذكاء الاصطناعي، والإشراف، والسلامة يجب أن تبدأ في وقت مبكر أكثر من متأخر.

ذات صلة: هل تقتل الذكاء الاصطناعي البيتكوين؟ لماذا يتحول رأس المال إلى تقنيات الذكاء الاصطناعي الآن