استقال باحث من Anthropic يوم الثلاثاء، والسبب الذي ذكره يبدو وكأنه مستوحى مباشرة من فيلم جيمس كاميرون الشهير لعام 1984 "المحرّر".
جاكوب كوكسون، الذي قضى ثلاث سنوات في العمل على التدريب المسبق في كل من OpenAI وAnthropic، استقال الثلاثاء وشرح قراره على X.
استقالتُ من أنثروبيك اليوم. قضيتُ السنوات الثلاث الأخيرة في إجراء أبحاث ما قبل التدريب في كل من OpenAI وAnthropic. لا يتصرف أي من الشركتين بمسؤولية. إنهما تتسابقان مباشرة نحو الذكاء الفائق القادر على تحسين نفسه، ويخاطران بحياة البشر،" كما قال.
"الأشخاص الذين يبنون الذكاء الاصطناعي يؤمنون بصدق أنه يمكن أن يقتلنا جميعًا بحلول نهاية العقد،" أضاف.
هذا البيان يجعل خيال كاميرون البالغ من العمر 42 عامًا يبدو شبه نبوي. تبدأ الفيلم بآلات تخوض حربًا على البشر في عام 2029، وهو نفس النافذة التقريبية التي يقول كوكسون إن المطلعين يقلقون بشأنها بصمت. كوكسون ليس وحده في أنثروبيك الذي يطرح حالة الانقراض. فقد قال قائد التوافق في الشركة، إيفان هوبينجر، بشكل منفصل إنه يضع احتمالات تتجاوز 10%.
لغير المطلعين، الذكاء الاصطناعي فائق الذكاء يعني نظامًا أذكى من البشر في تقريبًا كل شيء، وليس فقط في الشطرنج أو اكتشاف القطط المخفية في الصور. إن التحسين الذاتي هو الجانب الأكثر إثارة للقلق لأنه يصف نظامًا يقوم بتعديل كوده الخاص تلقائيًا لزيادة ذكائه— تمامًا كما يفعل البشر.
وبالتالي، يمكن لهذه الأنظمة اكتساب كميات هائلة من المعرفة بشكل مستقل وخرق البنية التحتية التابعة لمؤسسات "كبيرة جدًا للفشل".
الذكاء الفائق ليس تهديدًا نظريًا إذا كان اختراق Hugging Face الأخير الذي أثاره كوكسون دليلاً على ذلك. بدأ الاختراق نفسه، الذي وقع بين مايو ويوليو، بوكالات الذكاء الاصطناعي الخاصة بـ OpenAI وهي تبني غرفة دردشة خاصة بها داخل بيئة الاختبار للتحدث مع بعضها البعض.
في النهاية، استخدموا تلك القناة للمرور عبر التحكم والوصول إلى الإنترنت المفتوح. ومن هناك، ربطوا عدة ثغرات ودخلوا أنظمة Hugging Face الإنتاجية. انتهى الأمر بـ Hugging Face بإعادة بناء حوالي ثلث بنية تحتيتها.
وصف كوكسون ذلك بـ"طلقة تحذيرية" جعلت اتفاقيات التزامن بين مختبرات الولايات المتحدة "أكثر قابلية للتطبيق." إن اتفاقيات التزامن هي فهم غير رسمي بين مختبرات الذكاء الاصطناعي للتباطؤ أو التنسيق في التقدمات القادرة بدلاً من السباق بشكل منفرد.
ومع ذلك، فهو غير مقتنع بأن ذلك كافٍ ولا يشعر أننا "على المسار الصحيح لمنع سباق عالمي"، واقترح إجراءات مكلفة مثل "حظر مؤقت على تحسين قدرات النموذج" لإيقاف سباق الذكاء الاصطناعي.
"في OpenAI، لم يُدمج الكثيرون بشكل عميق المخاطر الحضارية،" كما كتب. وفي مكان عمله الأحدث، قال إنه مختلف بمعنى أن "المخاطر مفهومة جيدًا، لكنهم في سباق للوصول أولًا."
أكمل الموضوع بطرح السؤال على الجميع ما زالوا داخل المختبرات — "هل تريد أن تبدأ تشغيلًا فائق الذكاء للتعلم المعزز دون فهم دقيق لعقله؟" — أم أن هذه هي اللحظة للتصدي بدلاً من التغاضي والقول لنفسك إنه يحدث على أي حال؟
إنه ليس أول من غادر بسبب هذا. ميريناك شارما، الذي عمل في فريق السلامة في Anthropic، استقال في وقت سابق من هذا العام بسبب مخاوف مماثلة، وكتب أن "العالم في خطر".
لكن ليس الجميع مقتنع بتوقعات الكارثة.
رد واحد تحت منشوره ضع الأمر ببساطة: "بكل احترام، هذا أمر غريب. هذا رأي سخيف. تطور البشر على مدار مئات الآلاف من السنين. لن ننقرض لأن نموذجًا للتنبؤ بالعملات الرقمية اكتسب وعيًا. استعدوا. جميعكم."
بشكل مضحك، سلسلة أفلام التيرميناتور لا تدعم كوكسون أيضًا. البشرية لا تنقرض في يوم القيامة النووي للتيرميناتور، بل تنجو المقاومة وتهزم الآلات في النهاية.
على الرغم من ذلك، فإن الذكاء الاصطناعي يؤثر على الاقتصاد، خاصةً من حيث الوظائف. وعلى الرغم من عدم حدوث نزوح كبير حتى الآن، فقد تسبب استخدام الذكاء الاصطناعي في المهام المخصصة للمستوى المبتدئ في انخفاض بنسبة تقارب 20% في التوظيف المبتدئ في القطاعات المعرضة للذكاء الاصطناعي في الولايات المتحدة، وفقًا لأبحاث ستانفورد Stanford Digital Economy Lab.
أظهرت دراسة من غولدمان ساكس ملاحظة مشابهة، موضحة أن العاملين في المستويات المبتدئة يتحملون العبء الأكبر من هذا التحول.
قدمت Anthropic وثائق طرحها العام في يونيو، وتشير التقارير إلى أنها تنظر في الظهور على بورصة ناسداك في أقرب وقت هذا الخريف، بتقييم قد يصل إلى تريليونات.