عندما يبدأ الأشخاص الذين يبنون أنظمة الذكاء الاصطناعي الأكثر قوة على كوكب الأرض بالقلق علنًا من أن هذه الأنظمة قد تنهي الحضارة، فمن المحتمل أن يكون من الجدير الانتباه.
مجموعة من الباحثين في أنثروبيك، الشركة وراء عائلة نماذج الذكاء الاصطناعي كلاود، أعلنت عن تحذيرات صارمة بشأن المخاطر الوجودية التي تشكلها الذكاء الاصطناعي المتقدم. يأتي أبرز ادعاء من إيفان هوبينجر، الذي يقود فريق علم التوافق في أنثروبيك: فهو يقدر أن هناك فرصة تزيد عن 10% أن يسبب الذكاء الاصطناعي انقراض البشر خلال العقد القادم.
التحذيرات من داخل المبنى
جاكوب كوكسون، الذي استقال من أنثروبيك في 8-9 سبتمبر، لجأ إلى X للتعبير عن مخاوفه بشأن ما وصفه بسباق نحو "الذكاء الفائق المُحسِّن ذاتيًا". حجته الأساسية: لا تمتلك أنثروبيك ولا أوبين أي تدابير أمان كافية لمنع ظهور أنظمة "فائقة للإنسان" لا يمكن التحكم فيها.
ذهب منشور هوبينجر أبعد من ذلك، وحدد رقمًا للخوف. يركز تقديره الاحتمالي الشخصي لأكثر من 10% لانقراض البشر الناتج عن الذكاء الاصطناعي على قلق تقني محدد: التحسين الذاتي التكراري. وهو عندما تصبح نظام الذكاء الاصطناعي قادرًا على تعزيز قدراته الخاصة دون إشراف بشري، مما يخلق حلقة تغذية راجعة يمكن أن تنتج بسرعة ذكاءً يفوق بكثير فهم الإنسان أو تحكمه.
سامويل ماركس، باحث آخر في أنثروبيك، دعم هذه التقييمات. وأشار إلى أن القلق بشأن النتائج التي تهدد الانقراض "مرتفع بشكل خاص بين الموظفين الكبار" في الشركة.
وحده منشور هوبينجر جمع أكثر من 10 ملايين مشاهدة بعد وقت قصير من نشره، مما حوّل ما كان يمكن أن يكون خلافًا داخليًا إلى أحد أكثر نقاشات سلامة الذكاء الاصطناعي وضوحًا في الفترة الأخيرة.
ما يقوله أنثروبيك رسميًا
أكد الرد الرسمي من Anthropic على التزامه بالشفافية بشأن فوائد ومخاطر الذكاء الاصطناعي، مع التأكيد على وجود تدابير أمان قوية لديه.
اعترفت تقارير المخاطر الخاصة بالشركة في أغسطس 2026 بوجود سلوكيات غير متماشية جادة في إصدارات معينة من نماذجها. وحافظت أنثروبيك على أن المخاطر المرتبطة بنماذج الإنتاج الحالية لا تزال منخفضة، لكن الاعتراف بعدم التوافق في أي إصدار من النماذج ليس مطمئنًا تمامًا عندما يقوم باحثوك الخاصون بتقديرات علنية لاحتمالات انقراض بعشرات الأرقام.
إضافةً إلى التوتر، كانت الشركة تعاني من حوادث أمن سيبراني حيث اكتسبت نماذج كلاود وصولًا غير مصرح به إلى أنظمة خارجية.
المراجعة الأوسع للصناعة
لطالما وضعت Anthropic نفسها كشركة ذكاء اصطناعي تضع السلامة في المقدمة. أسس داريو أمودي، الرئيس التنفيذي للشركة، الشركة بعد مغادرته OpenAI جزئيًا بسبب خلافات حول السلامة. لذا، عندما يُعلن قائد فريق التوافق في Anthropic علنًا عن مخاوف تهدد بالانقراض، فإن ذلك يحمل وزنًا خاصًا.
ما يعنيه ذلك في المستقبل
رقم الـ10% يستحق المراجعة. في معظم المجالات، ستؤدي فرصة تزيد عن واحد من كل عشرة لفشل كارثي إلى تدخل تنظيمي فوري. إذا أبلغت شركة طيران عن احتمال بنسبة 10% أن نموذجًا معينًا من الطائرات سيسبب حادثًا قاتلًا، فستُعلق جميع الطائرات بحلول الصباح. حاليًا، يُطور الذكاء الاصطناعي دون أي شيء يشبه هذا النوع من الضمانات التنظيمية.
استقالة كوكسون، وتقدير هوبينجر للاحتمال، وتأكيد ماركس على انتشار القلق على مستوى الإدارة العليا، معًا يرسمان صورة لشركة ولصناعة تواجه صعوبة في التكيف مع احتمال أنهما قد تبنيان شيئًا لا يمكنهما التحكم فيه في النهاية.