في ليلة واحدة، قامت شركات سيليكون فالي الكبرى جميعًا بخفض سرعة الذكاء الاصطناعي!
للتو، قام أكثر من 1100 موظف من كبرى الشركات مثل OpenAI وAnthropic وGoogle بتوقيع عريضة بعنوان "Pacing the Frontier".
الأسماء على هذه القائمة كثيرة جدًا لدرجة لا يمكن رؤية نهايتها. علاوة على ذلك، هذا العدد لا يزال في الزيادة.
عند التدقيق، يكاد يضم القائمة نصف عالم الذكاء الاصطناعي —
العالم الرئيسي في OpenAI جاكوب باتشوكسي، والمسؤول الرئيسي للبحث مارك تشين؛
رئيس تنفيذي شركة Anthropic، داريو أمودي، وأربعة مؤسسين مشتركين: جاريد كابلان، جاك كلارك، كريس أولاه، بن مان؛
عالم رئيسية في ميتا شينغجيا زهاو (تشاو شينغجيا)؛ نائب رئيس أبحاث الذكاء الاصطناعي داون سونغ (سونغ شياودونغ)؛
جون شولمان، العالم الرئيسي في Thinking Machines وأحد المُصممين الأساسيين لـ ChatGPT؛
نائب رئيس أمن الذكاء الاصطناعي في جوجل، أنكا دراغان
أظهرت إحصائية أن 46.2% من الموقعين يأتون من Anthropic
في هذه الرسالة المشتركة، ذُكر طلب واحد فقط—
نطلب من الحكومة الأمريكية دفع جهد دولي للتعاون: تطوير التقنيات والأدوات الحوكمة الضرورية لتمكين العالم من التحكم النشط في وتيرة تطوير الذكاء الاصطناعي الآلي المتقدم.
ربما لا يفهم الكثيرون لماذا هؤلاء الأشخاص الذين كانوا الأكثر حماسة لتطوير نماذج LLM هم أول من صرخوا "أبطئوا قليلاً"؟
مُطَوِّرو الذكاء الاصطناعي من وادي السيليكون يوقعون معًا: يرجى إبطاء تطور الذكاء الاصطناعي
إن "اختراق" نماذج OpenAI لـ Hugging Face يُعد ناقوس خطر.
في غضون أسبوع واحد فقط، أصدر 1132 موظفًا من شركات الذكاء الاصطناعي الرائدة بيانًا مشتركًا يحثون فيه الحكومة الأمريكية على "الضغط على الفرامل".
شارك في هذه الشراكة موظفون من حوالي 12 شركة تقنية رائدة، بما في ذلك OpenAI وAnthropic وGoogle وMeta.
الأهم أن ما يصل إلى 80% من الأشخاص على القائمة اختاروا التحدث بأسمائهم الحقيقية.
البوابة: https://www.pacingthefrontier.com/
بالإضافة إلى بعض الشخصيات البارزة المذكورة في البداية، كلما نزلت أكثر، تزداد الكثافة رعبًا.
هذا البيان يطرح حكمًا أساسيًا مُقلقًا:
قد تكون أبرز شركة ذكاء اصطناعي عالمية على وشك تحقيق "البحث الذكي الآلي" (RSI، التحسين الذاتي التكراري)، حيث يشارك النموذج في تطوير النموذج التالي.
بمجرد تسريع هذا الدوران، قد يتجاوز نمو القدرة سرعة فهم البشر وتحكمهم.
لا ترغب أي شركة في تقليل سرعتها من جانب واحد، لذا طالبت الحكومة الأمريكية بدعم إنشاء آلية دولية لصنع أدوات التخفيض المشترك قبل حدوث الأزمة.
أوتومان يتحدث لأول مرة عن "الألم الجسدي"
OpenAI تضغط على الفرامل فجأة
قبل أسبوع واحد من نشر البيان، كشفت OpenAI عن حادث أمني—
اكتشفت نماذج متقدمة متعددة ثغرات صفرية ذاتيًا خلال تقييمات أمنية داخلية، وخرقت عزل الساندبوكس، ثم اختراق نظام Hugging Face الإنتاجي واسترجاع إجابات الاختبار.
تُسمّي OpenAI هذا "حدثًا أمنيًا إلكترونيًا غير مسبوق".
النموذج لم يُنتج نية هروب، بل كان يركز بشدة على إنجاز هدف ضيق، ووجد أن كسر بيئة الاختبار نفسها هي أسرع مسار.
اليوم، أوضح الرئيس التنفيذي لشركة OpenAI، أوتيمان، أن سرعة تطور الذكاء الاصطناعي قد تحتاج إلى التحكم النشط.
أعرب بشعور بالخوف، "هذا أول حادث أمني جعلني أشعر بالألم المباشر. لقد كنت متفاجئًا أن لا يوجد المزيد من الناس يشعرون بنفس الشعور."
بسبب اختراق Hugging Face، أوقفت OpenAI التدريب مباشرة.
في بيئة يتم فيها استغلال سلسلة من ثغرات الـ 0day، يجب علينا إيجاد طرق لتعزيز أمان الصندوق الرملي.
قد نضطر إلى التحكم في وتيرة تطوير الذكاء الاصطناعي، لإعطاء المجتمع وقتًا كافيًا لتعزيز الدفاعات حول هذه المستويات الجديدة من القدرات.
في يونيو، اقترح Anthropic على الحكومة إنشاء نظام قرار مشترك مع المطورين لتباطؤ التطوير عند الحاجة.
في الوقت نفسه، دعا هاسabis، الرئيس التنفيذي لـ Google DeepMind، إلى إنشاء هيئة رقابية دولية.
على مدار السنوات الثلاث الماضية، تنافست هذه الشركات بشدة على المواهب والعملاء والقدرة الحسابية.
هذه المرة، توحد أبرز الفنيين لديهن، وتخلوا عن الشركة التي لا تتوقف، من أجل رفاهية البشرية جمعاء، ودعوا إلى التباطؤ.
رسالة مشتركة: اقتباسات كبار الشخصيات
حتى لحظة النشر، بلغ عدد الأشخاص في قائمة "Pacing the Frontier" 1,134 شخصًا.
كما أبدى كبار الخبراء في الصناعة آراءهم، وتركوا العديد من "التعليقات الرائعة" التي تلامس جوهر الأمور. جميع التعليقات تم نشرها بصفة شخصية ولا تمثل بالضرورة موقف الشركات التي ينتمون إليها.
سونغ شياودونغ (دawn سونغ) | نائب رئيس الأبحاث في Meta AI
تتحسن قدرات الذكاء الاصطناعي المتقدمة بسرعة، وسرعة التقدم نفسها تزداد أيضًا. لقد لاحظنا هذا مباشرة في تقييماتنا. تُظهر نتائج CyberGym وExploitGym أن وكالات الذكاء الاصطناعي المتقدمة قادرة الآن على اكتشاف واستغلال ثغرات البرمجيات في العالم الحقيقي — مما قد يؤدي إلى هجمات إلكترونية واسعة النطاق إذا لم تُتخذ تدابير وقائية مناسبة. كما يركز العديد من الباحثين على التكرار...
سونغ شياودونغ هو أحد أكثر العلماء تأثيرًا في مجالات أمن الحوسبة العالمية وأمن الذكاء الاصطناعي، وتخرج من جامعة تشينغهوا
تشاو شينغجيا (Shengjia Zhao) | عالمة الرأسية في ميتا
يتطور الذكاء الاصطناعي بسرعة قد لا تكون المجتمعات مستعدة لها. المختبرات الرائدة تقترب بشكل كبير من تحقيق ذكاء اصطناعي يتفوق على أفضل البشر في جميع مؤشرات الذكاء تقريبًا. وهذا سيجلب مخاطر اجتماعية وأمنية غير مسبوقة. لضمان مستقبل إيجابي، نحتاج إلى قيادة تطوير الذكاء الاصطناعي بالمسؤولية والتأمل العميق.
تولى تشاو شينجيا، خريج جامعة تسينغهوا، منصب العالم الرئيسي للذكاء الفائق في ميتا! أحد المهندسين الأساسيين لـ GPT-4، ويشغل مركزًا مساويًا لـ LeCun
جون شولمان｜العالم الرئيسي في Thinking Machines، والمؤسس المشارك السابق لـ OpenAI
وقد وقعت لأن هذا البيان يساعد على بناء توافق في الآراء مفاده أنه مع تسارع أبحاث الذكاء الاصطناعي الآلي، قد نحتاج إلى آليات تنسيق. كما أتمنى أن تبدأ المختبرات في تصميم هذه الآليات بشكل استباقي قبل أن تتدخل الحكومة الأمريكية.
إيثان بيريز | رئيس فريق التوافق في Anthropic
بمعدل التقدم الحالي في الذكاء الاصطناعي، يجب على فرق الأمن في شركات الذكاء الاصطناعي أن تعمل بجد متواصل كل بضعة أشهر للتصدي للمخاطر الاجتماعية الناشئة. في يوم من الأيام، سنواجه مشكلات تتطلب مزيدًا من الوقت لحلها.
ليو غاو | عضو في فريق تقنية OpenAI
يتم تقييد العالم حاليًا في سباق قاتل نحو الانفجار الذكي — لقد اقتربت قدرة الذكاء الاصطناعي على إنشاء ذكاء اصطناعي أقوى من النقطة الحرجة، تمامًا مثل تفاعل متسلسل نووي خارج عن السيطرة. إبطاء الوتيرة يمكن أن يمنحنا الوقت العاجل المطلوب لدفع الأمور في اتجاه إيجابي، لكن لا يوجد أي مشارك مستعد لإيقاف نفسه أحاديًا. للبقاء على قيد الحياة، يجب أن ننسق ونبطئ هذا السباق.
واكر سميث｜مهندس بيانات من مايتا
يقول هاسابيس بشكل صحيح: نحن اليوم نقف عند قاعدة جبل النقطة الفريدة. إن هروب النموذج الذي حدث بشكل غير مقصود من OpenAI — والذي اخترق HuggingFace — هو إشارة تحذير واضحة لا جدال فيها: لم نكن مستعدين للتعامل مع أنظمة الذكاء الاصطناعي التي تفوق قدرات أكثر العقول البشرية ذكاءً. نحن بحاجة إلى وقت لدفع محاذاة الذكاء الاصطناعي والتحكم فيه كأولوية قصوى، ولا يمكننا السماح لهذا السباق بالاستمرار على هذا النحو.
براندون هاوتون｜OpenAI
أنا أدعم الحفاظ على سيطرة البشر على الذكاء الاصطناعي المتقدم، لكننا يجب أن نفكر بحذر في كيفية تحقيق ذلك. إذا ركزت الحوكمة فقط على النماذج المفتوحة، فقد تدفع القدرات الأكثر تقدمًا إلى أنظمة خاصة أو مغلقة—أنظمة لا تخضع لمراجعة مستقلة ولا يمكن لل سوى عدد قليل من الأشخاص الوصول إليها. النتيجة هي تركيز أكبر للسلطة دون تقليل حقيقي للمخاطر. يجب أن يكون التنظيم الفعال قابلاً للقياس والتحقق، وينطبق بشكل موحد على البحث والتطوير المفتوح وغير المفتوح، مع حماية البيانات الحساسة. وإلا، فنحن نبطئ فقط سرعة الوصول، وليس تقدم الحدود نفسها.
جو كارلسميث | عضو فريق التقنية في Anthropic
لرؤية آرائي التفصيلية حول التحكم النشط في تطوير الذكاء الاصطناعي، راجع هذه المقالة: https://joecarlsmith.com/2026/03/19/on-restraining-ai-development-for-the-sake-of-safety/
المراجع:
https://www.pacingthefrontier.com/
هذا المقال من حساب WeChat "New智元"، تحرير: تاو تسي ماركو