الذكاء الاصطناعي يصبح أفضل في القيام بأكثر من الإجابة على الأسئلة. الآن، تساعد أنظمة الذكاء الاصطناعي في البرمجة والبحث والتحليل ومهام أخرى كانت تُدار سابقًا بشكل شبه كامل من قبل البشر. وهذا يثير سؤالًا جديدًا: ماذا يحدث عندما يبدأ الذكاء الاصطناعي في لعب دور أكبر في بناء الجيل القادم من الذكاء الاصطناعي؟
OpenAI تدعو الآن إلى معايير دولية للمساعدة في الإجابة عن هذا السؤال. في منشور بتاريخ 21 سبتمبر بعنوان "بناء معايير للمرحلة التالية للذكاء الاصطناعي"، اقترحت OpenAI جهدًا دوليًا تقوده الولايات المتحدة لإنشاء معايير تقنية مشتركة للذكاء الاصطناعي المتقدم. تقول الشركة إن هذه المعايير يمكن أن تساعد الدول على قياس قدرات الذكاء الاصطناعي، وتقييم المخاطر، واختبار الضمانات، وتقديم تقارير عن الحوادث الجسيمة باستخدام أساليب أكثر اتساقًا.
النقاط الرئيسية
- تريد OpenAI معايير دولية لتقييم الذكاء الاصطناعي المتقدم.
- يغطي الاقتراح القدرات والمخاطر والضمانات والإبلاغ عن الحوادث.
- تقول OpenAI إن التحسين الذاتي التكراري الكامل المستقل لا يحدث اليوم.
- تريد الشركة أن يظل التحكم البشري في المركز مع تطور قدرات الذكاء الاصطناعي.
- يمكن للمنظمات الحالية لسلامة الذكاء الاصطناعي المساعدة في تطوير معايير تقنية مشتركة.
Openai ترغب في إطار موحد للذكاء الاصطناعي المتقدم
الفكرة الأساسية بسيطة إلى حد كبير. لا يلزم أن تُنشئ كل دولة منهجية مختلفة تمامًا لتقييم المخاطر التي تشكلها الذكاء الاصطناعي المتقدم. وفقًا لـ OpenAI، يمكن أن يوفر التوحيد المنهجي للنهج التقنية للدول والباحثين ومجتمع الذكاء الاصطناعي وسيلة فعالة لتقييم أنظمتهم المتقدمة بشكل متزايد. ويصبح هذا أكثر صلة عندما تحدث حوادث مرتبطة بالذكاء الاصطناعي عبر الحدود.
الشركة لا تقترح قانونًا عالميًا واحدًا للذكاء الاصطناعي. بدلاً من ذلك، تريد من الدول تطوير معايير متوافقة يمكن للحكومات لاحقًا أن تقرر كيفية استخدامها داخل أنظمتها التنظيمية الخاصة. هذا الفرق مهم لأن المعايير المقترحة لا تصبح فورًا متطلبات للترخيص أو الشهادة لجميع تقنيات الذكاء الاصطناعي. بل تحتفظ الحكومات بسلطة تحديد كيفية تطبيق المعايير داخل ولاياتها القضائية.
التكرار الذاتي للتحسين جزء من المحادثة
إحدى أكثر الجوانب إثارة في اقتراح OpenAI هي مناقشتها للتحسين الذاتي التكراري (RSI). يصف هذا المفهوم مستقبلاً يمكن فيه للأنظمة الذكية أن تساعد الباحثين بشكل متزايد في تطوير أنظمة ذكاء اصطناعي أكثر قدرة. وببساطة، يمكن أن يصبح الذكاء الاصطناعي جزءًا من عملية تحسين الذكاء الاصطناعي نفسه.
قد يؤدي ذلك إلى تسريع أبحاث الذكاء الاصطناعي. لكنه يخلق أيضًا سؤالًا أمنيًا صعبًا: كم يجب أن يبقى من الرقابة البشرية في الدورة إذا أصبحت أنظمة الذكاء الاصطناعي مشاركة بشكل كبير في تطوير النماذج المستقبلية؟
تقول OpenAI إن التحسين الذاتي التكراري الكامل المستقل لا يحدث اليوم. كما تجادل بأن هذا الاتجاه لا ينبغي متابعته إلا إذا تم تنفيذه بأمان مع الحفاظ على السيطرة البشرية. وهذا يجعل التقييم واختبارات السلامة أكثر أهمية مع تزايد قدرة أنظمة الذكاء الاصطناعي على التعامل مع مهام بحث وتطوير أكثر تعقيدًا.
قد تصبح معايير سلامة الذكاء الاصطناعي أكثر أهمية
تشير OpenAI أيضًا إلى المنظمات والشبكات الحالية لسلامة الذكاء الاصطناعي حول العالم كعناصر بناء محتملة لهذا الجهد. وتشير الشركة بشكل خاص إلى معاهد سلامة الذكاء الاصطناعي والمنظمات ذات الصلة عبر دول تشمل الولايات المتحدة، والمملكة المتحدة، وكندا، وفرنسا، وألمانيا، واليابان، وكوريا الجنوبية، وسنغافورة، والهند، وكينيا، وأستراليا.
بدلاً من أن تطور كل دولة نهجًا تقنيًا منفصلًا تمامًا، ترغب OpenAI في أن تعمل هذه المجموعات نحو معايير يمكن أن تكمل بعضها البعض. كما تدعو المقترحات إلى مشاركة مطوري الذكاء الاصطناعي والباحثين والأكاديميين والخبراء التقنيين المستقلين. تقول OpenAI إن المعايير يجب أن تُصمم حول القياسات التقنية بدلاً من مصالح شركة أو دولة معينة.
لماذا هذا مهم
التوقيت ملحوظ. فشركات الذكاء الاصطناعي تبني أنظمة يمكنها أداء مهام متعددة الخطوات ب越来越少 من المدخلات البشرية المباشرة، بينما لا تزال الحكومات تعمل على تحديد كيفية تنظيم هذه التكنولوجيا.
أفادت رويترز أن OpenAI ترغب في أن تأخذ الولايات المتحدة دورًا قياديًا في تطوير المعايير الفنية الدولية للذكاء الاصطناعي المتقدم. قد يكون التحدي الأكبر هو إقناع الدول والشركات بالاتفاق على ما يجب أن تقاس به هذه المعايير بالضبط وكيفية تطبيقها.
حاليًا، تركز مقترحات OpenAI على إنشاء أساس تقني مشترك قبل أن تصبح الذكاء الاصطناعي المتقدمة أكثر قدرة. مع بدء الذكاء الاصطناعي في أداء مزيد من المهام المتعلقة بتطوير الذكاء الاصطناعي نفسه، يمكن أن يصبح وجود طريقة مشتركة لقياس القدرات والمخاطر والضمانات جزءًا متزايد الأهمية في النقاش.
تم نشر هذه المقالة أصلاً كـ OpenAI تدفع من أجل معايير عالمية لأمان الذكاء الاصطناعي مع زيادة استقلالية الذكاء الاصطناعي على Crypto Breaking News – مصداقيك الموثوق لأخبار التشفير، أخبار البيتكوين، وتحديثات البلوك تشين.