باحث من Anthropic يستقيل وينذر بأن الذكاء الاصطناعي قد يفقد السيطرة بحلول عام 2027

تشير أخبار Mars Finance إلى أن باحث Anthropic، جاكوب كوكسون، أعلن استقالته واستعداده لمغادرة صناعة الذكاء الاصطناعي. فقد عمل خلال السنوات الثلاث الماضية في أبحاث التدريب المسبق في كل من OpenAI وAnthropic. وأشار إلى أن الشركتين لم تقدمتا الذكاء الاصطناعي بمسؤولية، بل تتنافسان لبناء ذكاء فائق قادر على تعزيز قدراتهما المستمرة، "مُخاطرين بحياة البشر". انتقل كوكسون من OpenAI إلى Anthropic هذا العام لأن الأخير كان يُظهر اهتمامًا أكبر بأمان النماذج. واعترف كوكسون بأن أعمال الأمان في Anthropic جادة، لكنه يرى أنه ما دامت الشركات المختلفة لا تزال تتسابق لتصبح أول من يُنتج AGI (ذكاء اصطناعي عام يمكنه تجاوز البشر في مهام متعددة)، فسيكون من الصعب تجنب التنازلات في الأمان، ولا يمكن حل المشكلة من خلال الانضباط الذاتي لشركة واحدة فقط. ورأى كوكسون أن العديد من الأشخاص داخل OpenAI لم يدركوا بعد حجم هذا الخطر حقًا؛ بينما تدرك Anthropic الخطر لكنها ترى أن الآخرين غير موثوقين، لذا يجب أن تكون هي أول من يُنتج النموذج. وأفاد كوكسون أن بعض العاملين في مجال الذكاء الاصطناعي يشعرون بتشاؤم أكبر بكثير في الخفاء مقارنة بتصريحاتهم العلنية، بل ويقلقون من أن الذكاء الاصطناعي قد يؤدي إلى تدمير البشرية قبل نهاية هذا العقد. ويعتقد هو شخصيًا أنه في أسوأ السيناريوهات، قد يفقد السيطرة على الذكاء الاصطناعي بحلول نهاية العام القادم، وبالتالي لا ينبغي اتخاذ هذا القرار من قبل مهندسين داخل شركات قليلة فقط.