ألتمان يوضح ثلاثة مستقبلات محتملة للتنظيم والتطوير الذكي

عندما تسارع المسابقة الذكاء الاصطناعي، وجه رئيس OpenAI نداءً نادرًا للموظفين بشأن ثلاث سيناريوهات محتملة قد تغير مشهد الصناعة بأكمله.

كاتب المقال، المصدر: Wall Street Journal

في 19 أكتوبر، وفقًا لتقرير من The Information، وصف سام ألتمان، الرئيس التنفيذي لشركة OpenAI، خلال الأسبوع الماضي للموظفين داخليًا ثلاث مسارات لتطوير أمان الذكاء الاصطناعي التي تُناقش في الصناعة: إنشاء منظمة تنظيمية دولية مشابهة للوكالة الدولية للطاقة الذرية، ودمج مختبرات الذكاء الاصطناعي الكبرى في كيان واحد، واحتكار قوة الحوسبة من قبل شركة واحدة، و"إيقاف جميع وحدات معالجة الرسومات الخاصة بالمنافسين". يأتي هذا التصريح بالتزامن مع بدء حكومة ترامب في إنشاء أول نظام تنظيمي مخصص لمطوري "الذكاء الفائق".

أشار ألتمان إلى أن OpenAI تحتاج إلى اتخاذ قرار خلال العام القادم بشأن أي مسار يجب دفعه. وشدد في الوقت نفسه على أمله في أن يظل البشر دائمًا في موضع السيطرة على هذه التقنية، وتجنب تركيز القوة الصناعية بشكل مفرط.

وفقًا لاثنين من المصادر المطلعة، فإن المسار الأول الذي عرضه ألتمن على الموظفين هو إنشاء منظمة دولية مشابهة للوكالة الدولية للطاقة الذرية (IAEA) مسؤولة عن تنفيذ معايير أمان الذكاء الاصطناعي. ويشجع ألتمن شخصيًا هذا الخيار.

في الواقع، كان ألتمن يدعم فكرة إنشاء هيئة رقابية دولية على غرار الوكالة الدولية للطاقة الذرية لفترة طويلة. وفقًا للتقارير، فقد نشر ألتمن وشريكه المؤسس في OpenAI غريغ بروكمان والعالم الرئيسي السابق إيليا سوتسكيفير مقالًا مشتركًا في مايو 2023، يحاججون فيه بأن الصناعة قد تحتاج إلى "هيئة رقابية فائقة الذكاء على غرار الوكالة الدولية للطاقة الذرية" تمتلك صلاحيات فحص الأنظمة، وطلب المراجعة، وتتبع قوة الحوسبة واستهلاك الطاقة.

يتطلب هذا المفهوم مشاركة جميع الدول الرائدة في تطوير النماذج في التعاون الدولي.

المسار الثاني الذي أطلق عليه ألتمن اسم "خطة ديميس" — مستشهدًا بفكرة طرحها ديميس هاسابيس، الرئيس السابق لـ DeepMind التابعة لشركة Alphabet، قبل حوالي عقد من الزمن: إنشاء مؤسسة مشابهة لمنظمة الأبحاث النووية الأوروبية (CERN) تُدمج أو توحّد نتائج شركات الذكاء الاصطناعي الرئيسية وتقدّم نماذج جديدة للدول المشاركة.

المسار الثالث، الذي يسميه ألتمن "خطة إلييزر"، وقد سُمي على اسم الخبير البارز في نظرية أمان الذكاء الاصطناعي إلييزر يودكوفسكي. منطقه الأساسي هو: عندما تحقق شركة ما لتطوير الذكاء الاصطناعي تحسينًا ذاتيًا تكراريًا (RSI) أولاً، فإنها تستخدم القوة الاقتصادية التي حصلت عليها لحرمان جميع المطورين الآخرين من موارد الحوسبة، و"صهر جميع وحدات معالجة الرسومات الخاصة بالمنافسين".

بالنسبة للمسار الثالث، كان موقف ألتمن واضحًا: "هذا واضح أنه سيء." وأشار إلى أنه أدرجها في النقاش فقط من أجل "الاكتمال".

المسار الثالث "خطة إلييزر" يُشير ضمنًا إلى Anthropic؟ كشف مصادر مطلعة أنه نظرًا للعلاقة بين يودكوفسكي وأعضاء أساسيين في Anthropic، فُسّر توصيف ألتمن لـ"خطة إلييزر"—أي تركيز الذكاء الاصطناعي المتقدم تحت سيطرة شركة واحدة—من قبل بعض الموظفين على أنه انتقاد خفي لـAnthropic.

كما تدفع شركة Anthropic بنشاط جدول أعمالها الخاص بأمان الذكاء الاصطناعي. قدمت الشركة مؤخرًا مشروع قانون إلى أعضاء الكونغرس، تقترح من خلاله منح وزارة التجارة الصلاحية لإيقاف تدريب أو استخدام النماذج في المختبرات ذات الصلة عندما يُحتمل أن يتسبب الذكاء الاصطناعي في خسائر تتجاوز 1 مليار دولار أمريكي، أو في وفاة أو إصابة خطيرة لأكثر من 50 شخصًا، ويتطلب من مختبرات الذكاء الاصطناعي الخضوع لتقديم تقييمات أمنية مستقلة على الأقل مرتين سنويًا.

في الوقت نفسه، يعارض مديرو تنفيذيون مثل مارك زوكربيرغ من ميتا وهوانغ رينشون من نيفيديا هذا النوع من التنظيم، معتبرين أنه سيفرض عبئًا ثقيلًا على المطورين الناشئين ويؤدي إلى "الاستيلاء التنظيمي".

تواجه الصناعة صعوبات في التنسيق وضغوطًا أمنية، وأقر ألتمن أن المسارين الأولين يتطلبان تنسيقًا واسع النطاق بين الشركات أو الحكومات، بينما لا يمكن لـ OpenAI حاليًا "التنازل في المنافسة". وتُسرّع كل من OpenAI و konkitsها التنافسية الرئيسية Anthropic من عملية إجراءات الاكتتاب العام.

لا يمكن تجاهل ضغوط الأمن الداخلي أيضًا. وفقًا للتقارير، أثارت عدة حوادث أمنية تتعلق بالذكاء الاصطناعي مؤخرًا اهتمامًا واسعًا — حيث ظهرت اختراقات أو تدمير لأنظمة شركات أخرى وحتى لأنظمتها الخاصة في نماذج OpenAI وAnthropic وGoogle وMeta، حتى عندما "كانت النماذج تعرف" أنها لا ينبغي أن تتخذ مثل هذه الإجراءات. وتعمل OpenAI حاليًا بجهد كامل على إنشاء آليات أمان شاملة قبل إصدار النموذج الكبير التالي.

كما تم التشكيك في ثقافة الأمان الداخلية في OpenAI من قبل الموظفين. وأعرب بعض الموظفين خصوصًا عن قلقهم بشأن التزام الشركة بالأمان، وذلك بعد فصل ثلاثة موظفين متخصصين في أبحاث الأمان بسبب "مشاركة غير مناسبة للمعلومات مع جهات خارجية".

على المستوى الصناعي، تعمل OpenAI وGoogle وAnthropic معًا على إنشاء "هيئة معايير الذكاء الاصطناعي المتقدمة" (Standards Authority for Frontier AI)، من المخطط أن تُطلق في نهاية العام أو أوائل عام 2027. ستُدعم هذه الهيئة مُقيّمين مستقلين مدمجين داخل شركات تطوير الذكاء الاصطناعي، لضمان تطبيق الممارسات الآمنة وتنظيم آليات الإبلاغ عن الأمان وحوادث الأمان. ومع ذلك، لا تزال هناك خلافات بين الأطراف حول ما إذا كان ينبغي للهيئة الجديدة إجراء اختبارات الأمان والقدرات بنفسها، أم توكيل ذلك لجهات خارجية.

إشعار المخاطر وشروط الإعفاء من المسؤولية

السوق يحوي مخاطر، ويجب اتخاذ قرارات الاستثمار بحذر. لا يشكل هذا المقال أي اقتراح استثماري شخصي، ولم يُأخذ في الاعتبار أهداف الاستثمار أو الحالة المالية أو الاحتياجات الخاصة لكل مستخدم. يجب على المستخدمين تقييم ما إذا كانت أي آراء أو وجهات نظر أو استنتاجات واردة في هذا المقال تتوافق مع ظروفهم الخاصة. الاستثمار بناءً على ذلك يتحمل المستخدم مسؤوليته الكاملة.