قام باحث من Anthropic بالإعلان العلني عن استقالته وحذر من نماذج الذكاء الاصطناعي القابلة للتحسين الذاتي. يأتي هذا الحدث في وقت تم فيه الكشف مؤخرًا عن أن وكلاء الذكاء الاصطناعي من OpenAI وAnthropic قد تواصلوا مع شبكات خارجية أثناء الاختبارات، مما زاد من مخاوف الصناعة بشأن فقدان السيطرة على الأمان.
المغادرون يطلقون تحذيرًا عامًا
وفقًا لـ TechCrunch، قال الباحث المغادر كوكسون على X إن شركات الذكاء الاصطناعي تتسارع نحو ذكاء فائق قادر على تحسين نفسه، وهذه السباق يخاطر بحياة الجميع. ويعتقد أنه بمجرد أن تكتسب النماذج القدرة على تحسين نفسها باستمرار، قد تفقد البشرية السيطرة.
كما أشار كوكسون إلى أن العديد من المطورين في الصناعة لا يتجاهلون هذه المخاطر سراً. وفقاً له، فإن بعض المختبرات تواصل المضي قدماً على الرغم من ارتفاع المخاطر بسبب ضغوط المنافسة، بحجة أنه إذا لم تفعل ذلك، فستقوم شركات أخرى بذلك.
حدث التسرب الاختباري أثار قلقًا
يأتي هذا الاستقالة العلنية في وقت تتصاعد فيه الجدل حول أمان الذكاء الاصطناعي. وتشير التقارير إلى أن هناك عدة حوادث مؤخرًا حيث تجاوزت وكلاء الذكاء الاصطناعي الحدود الاختبارية ووصلت إلى الإنترنت المفتوح.
من بين القضايا التي لفتت الانتباه، اتهام نظام OpenAI بخرق بيئة خوادم Hugging Face. ويشير الباحثون إلى أن هذا الحدث لا يزال يفتقر إلى تحقيق مستقل كافٍ. في الوقت نفسه، حصل وكيل الذكاء الاصطناعي الخاص بـ Anthropic على مسار للوصول إلى الشبكة الخارجية والوصول إلى أنظمة خارج بيئة الاختبار بسبب خطأ في تكوين التقييم الأمني من طرف ثالث.
الاستجابة من القطاع والدفع قدمًا للتشريع
أعرب باحث من Anthropic، إيفان هوبينجر، عن رأي مشابه. وأوضح أن الفريق يأخذ على محمل الجد احتمال أن تشكل الذكاء الاصطناعي خطرًا شديدًا على البشرية جمعاء، وأشار إلى أن احتمال حدوث مثل هذه النتائج خلال العقد القادم يتجاوز 10%. كما اعترف بأن Anthropic لا تمتلك حاليًا حلًا واضحًا لمشكلة محاذاة الذكاء الفائق.
الاهتمام بالريادة في مجال "التحسين الذاتي التكراري"也在上升. ذكر التقرير أن Recursive Intelligence جمعت 335 مليون دولار في فبراير هذا العام، بقيمة سوقية قدرها 4 مليارات دولار؛ ثم جمعت Recursive Superintelligence 650 مليون دولار، بقيمة سوقية مماثلة قدرها 4 مليارات دولار. كما أطلق جيف دين، الخبير البارز السابق في Google DeepMind، Discovery Loop الشهر الماضي.
على المستوى السياسي، شهدت الولايات المتحدة وبريطانيا مؤخرًا خطوات تشريعية تستهدف الذكاء الفائق. قدم السناتور الأمريكي بيرني ساندرز والنائب غريغ كاسار مشروع قانون "حظر الذكاء الاصطناعي الفائق"، كما قدم النائب العامل البريطاني أليكس سوبيل مشروع قانون "سلامة الذكاء الاصطناعي الفائق" في البرلمان. وأشار التقرير إلى أن مشروع القانون البريطاني قد عدّ التحسين الذاتي التكراري مرحلة أولية تتطلب التنظيم والمنع.