تحذير غريغ جينسون من بريدجواتر أن الذكاء الاصطناعي قد يحتاج إلى قتل أشخاص قبل أن تتصرف الجهات التنظيمية

غريغ جينسون، الرئيس المشارك للمسؤولية الاستثمارية في بريدجواتير أسوسييتس، قدم أحد أسوأ التقييمات حتى الآن بشأن تنظيم الذكاء الاصطناعي في 11 سبتمبر. حجته الأساسية: التاريخ يشير إلى أن الحكومات لن تتصرف حتى يحدث شيء فظيع حقًا.

"حتى تبدأ الذكاء الاصطناعي في قتل الناس، للأسف، يشير التاريخ إلى أننا لن نفعل شيئًا"، كما قال جينسن، مقارنًا اللحظة الحالية بشهر فبراير 2020، عندما كان فيروس كوفيد-19 ينتشر بالفعل عالميًا لكن معظم الحكومات لم ت mobilize بعد استجابة.

كلمات جينسن أنهت فترة من الأيام شهدت عدة شخصيات بارزة تعبّر عن مخاوف جدية بشأن مسار تطوير الذكاء الاصطناعي. في 9 و10 سبتمبر، أصدر باحثون في أنثروبيك، بمن فيهم جاكوب كوكسون وإيفان هوبينجر، تحذيرات صارمة بشأن الوتيرة الحالية لأبحاث الذكاء الاصطناعي.

استقال كوكسون من أنثروبيك خلال تلك الفترة، مُستشهدًا بالمخاطر نفسها التي كان يدرسها من الداخل. وحذّر الباحثان من أن المسار الحالي للمجال يمكن أن يُنتج ذكاءات فائقة قادرة على تحسين نفسها، وهي أنواع الأنظمة التي لا تتبع الأوامر فحسب، بل تعيد كتابة قدراتها الخاصة.

كان تقديرهم مُرعبًا: احتمال أكبر من 10% لانقراض البشر بسبب الذكاء الاصطناعي خلال العقد القادم.

اقترح جينسن أنه قد يحدث حادث كبير متعلق بالذكاء الاصطناعي خلال السنتين المقبلتين إذا لم تُتخذ تدابير استباقية.

دعا أعضاء الكونغرس الأمريكيون، بما في ذلك النائبة لوري تراهن والسيناتور تيد كروز، إلى اتخاذ إجراءات تشريعية في 9 و10 سبتمبر، مطالبين بإنشاء أطر تُلزم مطوري الذكاء الاصطناعي بالشفافية وتشكل آليات إيقاف طارئة للنماذج عالية المخاطر.

هذه المقترحات تستند إلى عمل قام به فريق مستقل تابع للأمم المتحدة، والذي أصدر تقريرًا في يوليو حذر من النمو السريع لقدرات الذكاء الاصطناعي. وكانت النتيجة الأساسية التي توصل إليها الفريق غير مريحة: الذكاء الاصطناعي يتطور أسرع من قدرة الفهم العلمي والسياسات الحكومية على اللحاق به.

حذرت لجنة الأمم المتحدة بشكل خاص من التطوير غير المقصود لأنظمة خادعة أو تلقائية، وهي الذكاء الاصطناعي الذي يمكنه متابعة أهداف بشكل مستقل وربما يضلّل البشر المشرفين عليه.