أنثروبيك تحذر من أن الذكاء الاصطناعي قد يدخل مرحلة التسارع الذاتي قريبًا

تحديثات Beating AI: حذرت Anthropic في وثيقة الإدراج المحدثة في 2 نوفمبر أن الذكاء الاصطناعي قد يتجاوز قريبًا عتبة حرجة مرتبطة بـ "التحسين الذاتي التكراري" (RSI)، مما سيُسرّع بشكل كبير من وتيرة تطوير الذكاء الاصطناعي. في الماضي، حدثت حالات لم تُلاحظ فيها زيادة ملحوظة في وتيرة التقدم البحثي حتى بعد حدوثها. حاليًا، يشارك Claude في كتابة الكود، وتشغيل التجارب، ومعالجة بيانات التدريب، مما يساعد على تطوير نماذج الجيل القادم الأقوى. ويمكن لهذه النماذج الجديدة بدورها تسريع التطورات البحثية اللاحقة، مما يخلق دورة مستمرة من التسارع المتزايد. وفقًا لسياسة الأمان الخاصة بـ Anthropic، هناك حالتان تشيران إلى تجاوز هذه العتبة الحرجة: 1. عندما يستطيع الذكاء الاصطناعي إنجاز عمل فريق بحث الذكاء الاصطناعي بأقل تكلفة مماثلة؛ أو 2. عندما يُضاعف على الأقل سرعة تقدم تقنيات الذكاء الاصطناعي، مختصرًا التقدم الذي كان سيستغرق عامين إلى عام واحد. مع تعمق الذكاء الاصطناعي في عملية تطويره الخاصة، قد تنمو قدرات النماذج أسرع من تحديثات تقييمات الأمان وأبحاث التوافق والتدابير الوقائية. ولم تُصنف Anthropic حاليًا أي نموذج موجود على أنه وصل إلى هذا المستوى، ويستند هذا التحذير إلى تقديرات داخلية وتوقعات حول النماذج المستقبلية. ويجري حاليًا النظر في تعديل سياسة الأمان لضمان بقاء عمليات التطوير الحرجة تحت إشراف وتحكم بشري.