سام ألتمان يحذّر من أن تطوير الذكاء الاصطناعي يجب أن يتباطأ لمعالجة المخاطر الحدودية

الرؤى الرئيسية:

• تحذير سام ألتمان يحول أخبار الذكاء الاصطناعي نحو تطوير أبطأ وأمان أقوى.
• تُعدّ OpenAI حالات السلامة قبل تشغيلات التدريب المتوقعة التي ستعزز القدرات.
• يحذر ألتمان من فقدان السيطرة البشرية والقوة المفرطة للذكاء الاصطناعي التي يمتلكها طرف واحد.

تحولت أخبار الذكاء الاصطناعي نحو السلامة المتقدمة بعد أن دعا الرئيس التنفيذي لشركة OpenAI، سام ألتمان، إلى تطوير نماذج أبطأ وأكثر مراقبة بعناية. وحذّر من أن البشرية قد تفقد السيطرة إذا تقدمت القدرات أسرع من أنظمة التوافق والمراقبة.

كما حدد ألتمن السيطرة المركزية القوية على الذكاء الاصطناعي القوي كخطر منفصل. ودعم بيانه في 14 سبتمبر الاستمرار في التقدم، على الرغم من أن المطورين يجب أن يقبلوا تكاليف سلامة إضافية وتطويرًا أبطأ.

Altman أيد اقتراح الرئيس التنفيذي لشركة Anthropic، داريو أمودي، بتباطؤ التطوير بينما يعزز الباحثون حمايات السلامة.

لكنه شرح أن التباطؤ لا يعني وقف التقدم التكنولوجي. بل يجب على المختبرات قبول تطوير أبطأ عندما تتطلب مراجعات السلامة مزيدًا من الوقت. هذه التدخلات تحمل تكاليف عالية، لكن ألتمن وصف تلك التكاليف بأنها ضرورية.

بالإضافة إلى أخبار الذكاء الاصطناعي، قال ألتمان إن الضغط التنافسي داخل الولايات المتحدة لا ينبغي أبدًا أن يبرر التطوير غير المحسوب. وأضاف أن قدرات النموذج لا يجب أن تتقدم فوق أنظمة التوافق والمراقبة.

تسارع التقدم، مما يجعل التطوير المسؤول أكثر أهمية لكل مختبر حدودي. وقال إن الشركات الأمريكية يجب أن تعطي الجمهور الثقة بأنها ستُطور أنظمة متقدمة بشكل مسؤول.

ركّزت الأطر السابقة للشركة بشكل أساسي على نماذج مكتملة قبل نشرها للجمهور. وشملت سياسات التوسع المسؤول والأسس الاستعدادية التي طورتها مختبرات الرائدة.

قال ألتمان إن ظروف التطوير الحالية تتطلب أدوات جديدة وتقييمات سلامة مبكرة. وبالتالي، نقلت OpenAI بعض أعمال السلامة إلى ما قبل زيادة القدرات الرئيسية.

تُعدّ OpenAI حالياً حالات سلامة صريحة قبل تشغيلات مختارة من التعلم المعزز المتقدم. وتُطبّق الشركة هذه الحالات عندما يتوقع الباحثون أن يؤدي تشغيل التدريب إلى مكاسب كبيرة في القدرة.

OpenAI تستمر أيضًا في إجراء أعمال السلامة قبل إصدار النماذج المكتملة. هذا النهج، وبالتالي، يضع التقييمات في مرحلتي التطوير والنشر.

قال ألتمان إن الشركات يجب أن تشارك الأساليب وتقترح إجراءات السلامة الخاصة بها. وهو يدعم المعايير المشتركة التي تغطي انحراف النموذج، والرصد، والسلامة.

يمكن لهذه المعايير أن ترشد المختبرات في تقييم الأنظمة الأكثر قدرة بشكل متزايد. كما رحب بالمدققين المستقلين كجزء من إطار عمل متسق لتحديد المخاطر الحدودية.

دعت أحدث بيان صحفي حول الذكاء الاصطناعي إلى اتخاذ إجراءات فورية من قبل الصناعة دون انتظار التشريعات. وقال ألتمان إن الشركات لا تحتاج إلى إعفاء من قوانين مكافحة الاحتكار قبل إدخال تدابير الحماية.

كما دعم إطارًا اتحاديًا يُنشئ متطلبات متسقة للمطورين المتقدمين. ومع ذلك، منح الحكومات دورًا أكبر في تنسيق قواعد السلامة الدولية.

قال ألتمان إن المختبرات ينبغي أن تبدأ أولاً بتطبيق الحمايات المتاحة داخل منظماتها الخاصة. ثم يمكن للحكومات دعم التنسيق بين الدول لتطوير نماذج متقدمة.

لم يطلب بيانه إنهاء أبحاث الذكاء الاصطناعي أو تحسينات القدرات. بل اقترح مواصلة التطوير مع رقابة أقوى وتيرة مدروسة.

وصف ألتمان طريقتين يمكن أن تؤدي بهما تطوير الذكاء الاصطناعي المتقدم إلى نتائج ضارة بشدة. أولاً، يمكن أن تفقد البشرية السيطرة إذا تجاوزت القدرات التدابير الوقائية المتاحة.

ثانيًا، يمكن لشركة واحدة، أو دولة، أو مختبر، أو فرد أن يكتسب سيطرة مفرطة على أنظمة قوية. يمكن لهذا التركز أن يسمح لطرف واحد بفرض رؤيته العالمية على الآخرين.

وضع التحذير الرقابة التقنية والرقابة المؤسسية ضمن نفس مناقشة السلامة. وقال ألتمن إن OpenAI لا تزال ملتزمة بضمان خدمة الذكاء الاصطناعي للإنسانية.

وفقًا لأحدث أخبار الذكاء الاصطناعي، شدد رئيس تنفيذي OpenAI أيضًا على أن كل مختبر حدودي يجب أن يلتزم بهذه المسؤولية. وإلا، فقد تتطور الأنظمة الأكثر قدرة دون إشراف كافٍ أو معايير مشتركة.

ظهرت المقالة أخبار الذكاء الاصطناعي: سام ألتمان يقول إن تقدم الذكاء الاصطناعي يجب أن يتباطأ مع تسارع مخاطر الحدود لأول مرة على The Coin Republic.