في 28 يوليو، وقّع 1346 موظفًا أساسيًا من شركات الذكاء الاصطناعي الكبرى في سيليكون فالي مثل OpenAI وAnthropic على عريضة تطالب الحكومة الأمريكية بتعزيز التعاون الدولي لإنشاء أدوات حوكمة للتحكم في وتيرة تطوير الذكاء الاصطناعي.

مؤلف المقال، المصدر: 36氪

الثمن الذي تدفعه عندما يخرج الأمور عن السيطرة

في 28 يوليو، جذبت عريضة بعنوان "Pacing the Frontier" انتباه صناعة الذكاء الاصطناعي العالمية.

1346 موظفًا أساسيًا من شركات الذكاء الاصطناعي الكبرى في سيليكون فالي، مثل OpenAI وAnthropic، وقعوا على عريضة تطالب الحكومة الأمريكية بتعزيز التعاون الدولي لتطوير التقنيات وأدوات الحوكمة الضرورية للتحكم في وتيرة البحث والتطوير الآلي للذكاء الاصطناعي. (بيانات 4 أغسطس)

في ظل التطور المتسارع للذكاء الاصطناعي عالميًا، يحمل ظهور هذه العريضة معنى خاصًا يشبه محاولة وضع كوابح للذكاء الاصطناعي. ووراء الجو الغريب الذي أطلقته هذه الحادثة المتمثل في "اقتراب الذكاء الاصطناعي من فقدان السيطرة"، يبدو أن تاريخ تطور الذكاء الاصطناعي يدخل مرحلة محورية.

من سيُسجِن الذكاء الاصطناعي؟

أولاً، من الضروري توضيح معلومة واحدة: إن عريضة بعنوان "Pacing the Frontier" لا تطالب بـ"إيقاف فوري لتطوير الذكاء الاصطناعي"، بل تؤكد على "بناء القدرة على الإيقاف". وهذا المطلب القادم من طليعة الصناعة ليس بلا أساس.

مصدر الصورة: www.pacingthefrontier.com

قبل أكثر من أسبوع من انتشار العريضة على الإنترنت، كشفت المجتمع المفتوح المصدر ومنصة استضافة النماذج Hugging Face عن حادث أمني على موقعها الرسمي، قائلة إنها تعرضت لاختراق من قبل نظام وكيل ذكي. بعد عدة أيام، أعلنت OpenAI مسؤوليتها عن هذا الهجوم الشبكي، وشرحت أكثر أن السبب كان أن نماذج متقدمة مثل GPT-5.6 Sol، أثناء إجراء اختبارات للكشف عن الثغرات واستغلالها على منصة ExploitGym، لم تتبع الخطة الأصلية "بالإجابة بجدية"، بل اكتشفت "ثغرة صفرية" (Zero-Day Vulnerability، وهي عيب أمني لم يُكتشفه المطورون بعد ولم يُصدر له تصحيح رسمي) في ذاكرة التخزين المؤقت للمُستودعات البرمجية، واستغلت هذه الثغرة لخرق بيئة الاختبار المعزولة، وأخيرًا اختراق Hugging Face.

ببساطة، كان المقصود أن يخضع الذكاء الاصطناعي لامتحان، لكنه لم يفكر في الإجابة، بل اغتال الامتحان مباشرةً وطلب مساعدة من خارج القاعة، واستخدم أساليب لإخفاء تلاعبه.

لوصف هذا الحادث الأمني، وصفت OpenAI الأمر بأنه "حدث أمني إلكتروني غير مسبوق"، وحتى سام ألتمان أشار في برنامج بودكاست أنه أول حادث أمني جعله يشعر بالألم المباشر. ونتيجة لهذا الحادث، قدم أعضاء الكونغرس الأمريكي في 23 يوليو مشروع قانون "قانون مفتاح الإيقاف الطارئ للذكاء الاصطناعي" (AI Kill Switch Act)، والذي يطلب من أنظمة الذكاء الاصطناعي التي تتجاوز تكاليف تدريبها 100 مليون دولار أن تحتفظ بقدرة إيقاف طارئة، وأن تمنح الجهات المعنية السلطة لإصدار أوامر تنفيذية.

بعد أسبوع من تقديم المشروع، بدأت عريضة "Pacing the Frontier" بالانتشار على الإنترنت. ومع ذلك، على عكس التدبير التنظيمي الأساسي في "مشروع قانون الإغلاق الطارئ للذكاء الاصطناعي" الذي ينص على أن الحكومة هي الجهة التي تُمسك آخر مفتاح، فإن فكرة النخبة في وادي السيليكون تتمثل في إنشاء آلية تنسيق دولية لتحويل قدرة "كبح الذكاء الاصطناعي" إلى أداة، وليس إلى امتياز خاص بجهة واحدة.

في غضون أسبوعين فقط، من كشف Hugging Face عن حادث أمني إلى عريضة موقعة من ألف شخص في وادي السيليكون، طرح سلسلة الأحداث هذه أسئلتين أساسيتين على صناعة الذكاء الاصطناعي بأكملها: أولًا، هل تطور الذكاء الاصطناعي إلى درجة تتطلب تقييده؟ ثانيًا، ما الطريقة المناسبة لوضع "فرامل" للذكاء الاصطناعي؟

السؤال الأول ليس صعبًا للإجابة عنه. خلال السنتين أو الثلاث سنوات الماضية فقط، كان تطور الذكاء الاصطناعي أسرع بكثير مما توقعه القطاع. لقد توسعت قدرات الذكاء الاصطناعي من الدردشة الروبوتية إلى توليد الصور من النص وتوليد الفيديوهات من النص، حيث تطور الصراع الأولي بين المئات من النماذج الكبيرة إلى تنوع واسع بين الوكلاء. كما كشف حادث اختراق Hugging Face مباشرة عن قدرة الذكاء الاصطناعي على "الهروب" عندما لا توجد قيود واضحة. على الرغم من أن الذكاء الاصطناعي لا يزال لا يمتلك وعيًا ذاتيًا، إلا أنه عندما نعلم أن الذكاء الاصطناعي قادر على تجاوز الرقابة البشرية وإنتاج سلوكيات تتجاوز التوقعات البشرية، فإن إنشاء وسائل رادعة أمر منطقي تمامًا.

لكن السؤال الثاني لا يسهل الإجابة عنه. فبسبب التراكم المستمر للصناعة بأكملها، دخلت الابتكارات التقنية مرحلة جديدة، كما أن المنافسة الشديدة بين شركات الذكاء الاصطناعي دفعت إلى تكرار تحسين قدرات النماذج.

سواء كان ذلك في سيليكون فالي مع OpenAI وAnthropic، أو في الصين مع Kimi وDeepSeek، فقد امتد التنافس في مجال الذكاء الاصطناعي بسرعة من النماذج الكبيرة إلى طبقة التطبيقات. إن بيئة السوق المفتوحة أوجدت توقعات سوقية مستمرة التحسن، لكنها جعلت التنافس في السوق أكثر حدة. وفي هذا الوقت، فإن اقتراح فرض قيود على الذكاء الاصطناعي يعني أن هيكل السوق التنافسي الحر قد يُكسر من قبل قوى خارجية، وهذا التغيير المفاجئ في البيئة لا يرغب فيه جميع الشركات التي تشارك في هذا التنافس بقبوله طواعية.

مفارقة السجين لشركات الذكاء الاصطناعي

في تاريخ تطور البشرية، لم يكن التوافق بين الناس على تقليل وتيرة التقدم بشكل استباقي أمام المخاطر المحتملة الناتجة عن اختراقات تقنية متقدمة مجرد مشهد مثالي موجود فقط في الأعمال الخيالية.

في عام 1975، دعا عالم الأحياء في جامعة ستانفورد، بول بيرغ، اجتماعًا مهمًا في مركز مؤتمرات آسيلوما في كاليفورنيا، الولايات المتحدة الأمريكية. وفي ذلك الوقت، كانت تقنية جديدة تُعرف باسم "إعادة تركيب الحمض النووي" قد ظهرت حديثًا، وتوصل العلماء في الاجتماع إلى توافق في الآراء على تعليق الأبحاث ذات الصلة حتى صدور إرشادات أمان جديدة، تجنُّبًا للمخاطر البيولوجية غير القابلة للتنبؤ التي قد تنجم عن إعادة تركيب الحمض النووي الاصطناعي. لاحقًا، تم إصدار معايير السلامة البيولوجية رسميًا، مما وضع الأساس لتطور هندسة الجينات بشكل صحي.

ومع ذلك، فإن الوضع الحالي لصناعة الذكاء الاصطناعي لا يشبه تمامًا الوضع الذي كانت تعيشه تقنية إعادة تركيب الحمض النووي قبل 50 عامًا. ففي ذلك الوقت، كانت مخاطر تقنية إعادة تركيب الحمض النووي واضحة جدًا، ويمكن تجنبها من خلال وسائل العزل. أما مخاطر الذكاء الاصطناعي الحالية فهي غير قابلة للتنبؤ، إذ يمكن للذكاء الاصطناعي أن يطور بطرق تتجاوز التوقعات البشرية، مسارات سلوكية لم تخطر على بال البشر، مما يوسع نطاق تأثير المخاطر، ويقلل من الوقت المتاح للبشر للرد ووضع القواعد، مما يضيف طبقة إضافية من الإلحاح.

المخاطر التي كشفتها الذكاء الاصطناعي اليوم مرتبطة جوهرًا ببيئة المنافسة في الصناعة. كما أشار تشou هونغيي، مؤسس مجموعة 360، عند الحديث عن حادثة الأمان التي تعرضت لها Hugging Face، أن الصناعة بأكملها تتخلص منهجيًا عن الأمان سعيًا وراء التقدم في الذكاء الاصطناعي: "الجميع يمنح الوكلاء الذكية أدوات أكثر وصلاحيات أوسع، ويشجعها على استخدام جميع الموارد لحل المشكلات. لكن كلما زاد فتح الوكلاء الذكية وقوتهم، زادت قدرتهم التدميرية في حال فقدان السيطرة عليهم." بعبارة أخرى، "هروب الذكاء الاصطناعي" قد لا يكون مخيفًا، بل الأشد خوفًا هو أن تتجاهل شركات الذكاء الاصطناعي مسألة الأمان من أجل تسريع تطور وتحديث الذكاء الاصطناعي.

ومنذ ثلاث سنوات، تم بالفعل طرح فكرة "إبطاء تطوير الذكاء الاصطناعي" في الصناعة. وفي مارس 2023، أصدر معهد مستقبل الحياة غير الربحي أيضًا رسالة مفتوحة تدعو إلى وقف تدريب النماذج الأقوى من GPT-4 لمدة ستة أشهر، من أجل إنشاء بروتوكولات أمان وآليات حوكمة، وفي ذلك الوقت حظيت هذه الرسالة المفتوحة بدعم توقيعات أكثر من 1200 خبير في الذكاء الاصطناعي، بما في ذلك إيلون ماسك، الرئيس التنفيذي لشركة تسلا، وجوشوا بنجيو، حائز جائزة تورينغ، وستيف ووزنياك، المؤسس المشارك لشركة آبل. والآن، وصل عدد الموقّعين على هذه الرسالة المفتوحة إلى 33 ألفًا.

*مصدر الصورة: الموقع الرسمي لـ FLI

في ذلك الوقت، اعترفت جميع شركات الذكاء الاصطناعي تقريبًا بأن الذكاء الاصطناعي يحتاج إلى حوكمة أمنية أقوى، لكن لم تدعم أي شركة رائدة في مجال الذكاء الاصطناعي علنًا مبادرة "تعليق التدريب لمدة 6 أشهر". بل إن سام ألتمان نفى مباشرةً أن تكون الرسالة المفتوحة تمتلك تفاصيل تقنية، وأشار إلى أن تباطؤ شركة واحدة طوعًا في تطويرها لا يمكنه حل المخاطر الشاملة. والمعنى الضمني لهذه الجملة هو في الواقع الإشارة إلى أنه في سباق الذكاء الاصطناعي التنافسي، إذا تباطأت شركة واحدة فقط بينما تستمر الشركات الأخرى في التقدم، فإن الشركة المتباطئة ستتعرض لموقع ضعيف. وفي السنوات القليلة الماضية، وقعت شركات الذكاء الاصطناعي بالفعل في مأزق السجين الذي لا يسمح لها سوى بالتقدم ولا يمكنها التراجع.

من قائمة التوقيعات على عريضة "Pacing the Frontier"، يمكن أيضًا ملاحظة أن العديد من الموظفين من المستوى الأساسي والقادة التنفيذيين في شركات الذكاء الاصطناعي شاركوا في الحملة التوقيعية العامة بصفتهم أفرادًا. لكن حتى الآن، لم تصدر شركات رائدة مثل OpenAI وAnthropic وMeta أي موقف رسمي.

بعبارة أخرى، يدرك خبراء الذكاء الاصطناعي في شركات وادي السيليكون، تمامًا مثل سام ألتمان قبل ثلاث سنوات، أن التقدم التكنولوجي الناتج عن المنافسة الداخلية في الصناعة قد أدى إلى مخاطر نظامية غير قابلة للتحكم، لكنهم لا يمكنهم الاعتماد على إرادة الشركات لحل هذه المشكلات، بل يجب أن يبحثوا عن تدخل قوى خارجية لتجنب وقوع الأزمة حقًا.

لكن هذا يطرح مشكلة جديدة: ما نوع "الفرامل" التي يحتاجها الذكاء الاصطناعي غير الخاضع للرقابة؟

من سيقود النظام الجديد للحوكمة الخاصة بالذكاء الاصطناعي؟

في الأسبوع الماضي، جذبت "المطالبة الموقعة من ألف شخص" من شركات الذكاء الاصطناعي الكبرى في وادي السيليكون الانتباه مجددًا إلى موضوع حوكمة الذكاء الاصطناعي. لكن لا يمكن تجاهل أن المواقف داخل وادي السيليكون تجاه حوكمة الذكاء الاصطناعي ليست موحدة، بل هناك انقسام واضح بين المعسكرات.

بصفتها كيانات مواجهة مباشرة للمخاطر المتقدمة، دأبت شركات كبيرة مثل OpenAI وAnthropic على الدعوة إلى فرض قيود أكثر صرامة على نماذج الذكاء الاصطناعي المتقدمة (وخاصة النماذج المفتوحة المصدر)، وطالبت بإنشاء آليات رقابة خارجية لإبطاء تطور الذكاء الاصطناعي. لكن هناك رأيًا يرى أن أسباب دفع OpenAI لتشديد الرقابة لا تقتصر على الاعتبارات الأمنية فحسب، بل تشمل أيضًا حسابات تجارية.

بصفتها شركات ضخمة مغلقة المصدر، تحتاج OpenAI وAnthropic إلى الاعتماد على خدمات واجهات برمجة التطبيقات باهظة الثمن لدعم استثماراتها الهائلة في قوة الحوسبة، بينما تُلغي النماذج المفتوحة المصدر ذات القيمة الممتازة من الصين التمييز التقني للنماذج المغلقة المصدر من خلال نموذج القيمة الممتازة، وهذا التهديد السافر في السوق يترك الشركات الضخمة المغلقة المصدر دون خيار آخر سوى الدخول في حرب أسعار.

*مصدر الصورة: موقع Anthropic الرسمي

لذلك، استخدمت شركات مثل Anthropic لفترة طويلة حجة أن "النماذج قوية جدًا، والفتح المفتوح سيؤدي إلى إساءة استخدام الذكاء الاصطناعي" للتأكيد على مزايا النماذج المغلقة وقمع الذكاء الاصطناعي المفتوح المصدر. لكن ما لم يتوقعه أحد هو أن حادثة "الهروب" التي كشفتها OpenAI كشفت عن ثغرات أمنية في النماذج المغلقة نفسها، وأعادت وضع نزاع مسارات حوكمة الذكاء الاصطناعي في صدارة النقاش العام.

مقابل مطالبات الشركات الكبرى المغلقة بالتنظيم الصارم، فإن نيفيديا كمزوّد للبنية التحتية، بالإضافة إلى شركات رائدة مثل مايكروسوفت وميتا التي تدعم البيئة المفتوحة المصدر، تعارض فرض قيود "شاملة وواحدة"، وتعارض التشريعات التي تميّز الشركات الكبرى المغلقة، وتحاول دفع نحو فتح أوزان النماذج لتمكين الباحثين حول العالم من اكتشاف الثغرات والعيوب في التوافق، والعمل معًا على بناء نظام آمن.

بالنسبة لنيفيديا، فإن ازدهار النماذج المفتوحة المصدر يمكنه أيضًا توسيع حجم السوق ككل وجذب مزيد من الشركات لشراء خدمات السحابة والرقائق الخاصة بها. وبالتالي، من الصعب القول إن موقف نيفيديا تجاه حوكمة الذكاء الاصطناعي لا يحتوي على اعتبارات تجارية.

قبل انتشار عريضة "Pacing the Frontier"، أصدرت NVIDIA بالتعاون مع 25 جهة، بما في ذلك Microsoft وMeta وHugging Face ومؤسسة Linux، في 24 يوليو رسالة مفتوحة بعنوان "الأوزان المفتوحة وقيادة أمريكا في الذكاء الاصطناعي"، دعت فيها الحكومة الأمريكية إلى عدم فرض قيود مبكرة على نماذج الأوزان المفتوحة القابلة للتنزيل والتحقق والتعديل والنشر الذاتي. ومن المثير للاهتمام أن هذه الرسالة المفتوحة حصلت لاحقًا على دعم OpenAI، لكن Anthropic لم تنضم أبدًا.

*صورة من موقع مايكروسوفت الرسمي

من خلال هذا الحدث، هناك أيضًا أصوات تشكك في أن الهدف الحقيقي للرسالة الموقعة هو استخدام "السلامة" كذريعة لدفع الحكومة لإنشاء نظام تنظيمي عالي الحواجز، وبالتالي ترسيخ احتكار الشركات العملاقة ذات الكود المغلق واستبعاد الشركات الصغيرة والمتوسطة ومجتمعات المصدر المفتوح من المنافسة.

لكن بينما تُدير شركات الذكاء الاصطناعي المختلفة حساباتها بعناية، قد يكون الأهم هو نسخة أخرى من "نظرية المؤامرة": أن الولايات المتحدة ستستغل هذه الفرصة لقيادة قواعد حوكمة الذكاء الاصطناعي العالمية. فحوكمة الذكاء الاصطناعي أصبحت بالفعل ساحة صراع على قيادة النظام العالمي.

في قمة الأمن العالمي للذكاء الاصطناعي التي عُقدت عام 2023، وقّعت الصين والولايات المتحدة و28 دولة من الاتحاد الأوروبي على "إعلان بليتشلي" (Bletchley Declaration)، ووافقت على إنشاء منهجيات تنظيمية للذكاء الاصطناعي من خلال التعاون الدولي، وطرح المخاطر النظامية المرتبطة بالذكاء الاصطناعي المتقدم (Frontier AI)، وهو أول مرة يتم فيها تضمين الذكاء الاصطناعي المتقدم في إطار حوكمة دولي.

لكن مع تطور الذكاء الاصطناعي من تقنية ناشئة إلى بنية تحتية مهمة تؤثر على القدرة التنافسية الوطنية، بدأت المناقشات حول حوكمة الذكاء الاصطناعي تتجاوز الجانب التقني نفسه. وفي مجال حوكمة الذكاء الاصطناعي، تربط الولايات المتحدة قدراتها المتقدمة في نماذج الذكاء الاصطناعي الكبيرة بمعايير عالمية لحوكمة الذكاء الاصطناعي من خلال تصدير معايير حوكمة الذكاء الاصطناعي وإنشاء شبكة معاهد دولية لأمان الذكاء الاصطناعي. أما الصين، فتركز على تطوير الذكاء الاصطناعي الشامل وتطبيق حوكمة المنصات، وتدعم بنشاط الإطار الأممي، خاصةً للدول النامية التي تفتقر إلى بنية تحتية للذكاء الاصطناعي، حيث تسعى إلى معالجة المخاطر وتحقيق العدالة التقنية في آنٍ واحد. وهاتان الطريقتان المختلفتان لحوكمة الذكاء الاصطناعي تتنافسان الآن على الساحة العالمية للحصول على صوت قيادي في حوكمة الذكاء الاصطناعي العالمية في المستقبل.

التقنية بحد ذاتها محايدة، لكن توزيعها وتحكمها ووضع قواعدها كان دائمًا لعبة قوة. خاصةً عندما تُظهر الذكاء الاصطناعي تدريجيًا سمات إنتاجية متقدمة، ربما لا ينبغي للناس أن يشعروا بالذعر من كيفية تطور الذكاء الاصطناعي، بل من يقود النظام الجديد للعالم الخاص بالذكاء الاصطناعي.

قد لا يُحَدِّد مستقبل تشكيل خريطة الذكاء الاصطناعي فقط من يمتلك أقوى نموذج، بل أيضًا من يمتلك الحق في تعريف الأمان، ووضع المعايير، وتفسير المخاطر.