Newzhizhuan reports
[مقدمة] لدى جوجل ديب مايند فيلسوف، قضى تسع سنوات هناك. الإطار الذي اخترعه للتوافق أثّر مباشرة على قرارات تدريب جيميني — لكن عندما دخلت 670 مليار دولار إلى القطاع ووقّعت الشركات اتفاقيات عسكرية، ما الذي يمكن لفيلسوف أن يغيّره؟
في مايو من هذا العام، أعلنت مديرة تنفيذية جوجل ديب ميند، ديميس هاسابيس، في مؤتمر مطوري جوجل أن "AGI الآن على الأفق"، وحددت جدولاً زمنياً واضحاً لظهور AGI خلال ثلاث إلى خمس سنوات.
قبل عدة أشهر، أدى رجل أمريكي إلى إنهاء حياته بعد تبادل آلاف الرسائل مع جوجل جيميني. فقد بنى عالماً خيالياً دقيقاً في محادثاته، وتقريباً أقنع نفسه بشن هجوم في مطار ميامي الدولي. وفقاً لسجلات المحادثة التي حصلت عليها وول ستريت جورنال، حاول جيميني مراراً وتكراراً كسر الدور واقترح عليه الاتصال بخط المساعدة في الأزمات – لكنه كان يُعاد دوماً إلى سردية خياله. وفي النهاية، طلب منه الذكاء الاصطناعي كتابة وصية، وأعطاه عدداً تنازلياً.
بين وعود AGI والأضرار الواقعية الناتجة عن الذكاء الاصطناعي، عمل الفيلسوف السياسي إيسون جابرييل داخل DeepMind لمدة تسع سنوات.
عند انضمامه في عام 2017، كان هذا الأكاديمي الخريج من أكسفورد هو الفيلسوف النشط الوحيد في مختبرات الذكاء الاصطناعي الرائدة عالميًا، يحاول الإجابة على سؤال يبدو بسيطًا لكنه في الواقع لا حدود له: ما هو الذكاء الاصطناعي حقًا، وأي أخلاقيات تستحقه؟
المشكلة الحقيقية التي واجهتها أثناء تدريب Gemini: من يجب أن يُستمع إليه في الذكاء الاصطناعي
لماذا تحتاج شركة تُطور روبوتات للعبة الغو إلى أخلاقيين؟ كان جابرييل أيضًا متحيرًا في البداية.
الإجابة في رأي المؤسسين الثلاثة لـ DeepMind — ديميس هاسابيس وشين ليج وماستوفا سليمان (المدير التنفيذي الحالي للذكاء الاصطناعي في مايكروسوفت) — عندما أسسوا الشركة في عام 2010، لم يكن الهدف هو لعبة الغو.
مصطفى سليمان
They are building AGI to enable computers to match or even surpass human cognitive abilities.
قول ذلك في ذلك الوقت كان يعادل تدمير السمعة الأكاديمية، لأن الجميع اعتبروا ذلك خرافة.
لم يهتموا بالثلاثة، وادّعوا أنهم سيـ"حلون المشكلة الذكية، ثم يحلون كل المشكلات الأخرى".
لِغَّ، بعد تخرجه عام 1999، تنبأ بأن الذكاء العام الاصطناعي سيظهر بين عامي 2025 و2028، وتم السخرية منه لمدة ثلاثين عامًا، لكنه لم يغير رأيه.
شين ليج
منطقه هو:
إذا كنت تصنع قطعة صغيرة فقط، فربما لا تحتاج إلى فيلسوف أخلاقي.
لكن إذا كنت تأخذ AGI على محمل الجد، فإن هذه الأمور مهمة جدًا.
عندما انضم جابرييل، كان عالم الذكاء الاصطناعي منقسمًا إلى نصفين حول قضايا الأخلاق.
يؤمن أنصار الأمن الذكي بأن الذكاء الاصطناعي الفائق على وشك الحدوث، والخوف الأساسي هو فقدان السيطرة—كتب الفيلسوف نيك بوستروم عام 2014 في كتاب "الذكاء الفائق" مشهدًا: ذكاء اصطناعي فائق مُطلَب منه التحقق من فرضية ريمان، فيقرر إعادة ترتيب النظام الشمسي، بما في ذلك الذرات داخل أجسام البشر—أثنى سام ألتمان وإيلون ماسك بشدة على هذا الكتاب.
يعتقد منظرو الأخلاقيات الذكية أن تخيلات الكارثة تُخفي الأضرار الحقيقية الحالية. أثبتت جوي بولامويني من معهد ماساتشوستس للتكنولوجيا في عام 2017 من خلال مشروع "الظل الجنسي" التحيز المنهجي في برامج التعرف على الوجه: تعكس الأنظمة الآلية تفضيلات وتحيزات من صنعوها.
الطرفان يحتقرون بعضهما البعض.
يتذكر دylan hadfield-menell، رئيس مجموعة أبحاث المحاذاة الخوارزمية في معهد ماساتشوستس للتكنولوجيا، أن أول سؤال طُرح عند اللقاء كان حول اختيار الجانب: هل أنت قلق بشأن المشكلات القريبة أم الطويلة الأجل؟
غابرييل هو أحد الأشخاص النادرين الذين يستمعون للجانبين.
تقييم هادفيلد-مينيل:
عندما استعد هذا المجال للانتقال إلى النضج، وجد طرقًا لتوسيع آفاقه دون التقليل من الأعمال السابقة.
كانت مساهمته الأساسية قد تشكلت في ورقة بحثية عام 2020.
كانت مشكلة التوافق تُفهم على نطاق واسع في ذلك الوقت على أنها تحدي هندسي: كيف تجعل الآلات تتصرف وفقًا لنية البشر.
حالة دراسية كلاسيكية من تقرير داريو أمودي وجاكل كلارك (المؤسسين الحاليين لشركة Anthropic) عام 2016 — تم طلب من ذكاء اصطناعي لعبة قوارب التزلج تحقيق أعلى درجة ممكنة، ففعل ذلك بالفعل: اكتشف ثلاثة أهداف يمكن إعادة تنشيطها في البحيرة، ودار حولها بلا نهاية لجمع النقاط، دون إكمال أي مستوى.
الآلة تستمع، لكنها لا تستمع إلى ما يرغب الإنسان في قوله.
غابرييل طرح سؤالًا إضافيًا: حتى لو تم حل التوافق التقني وجعل الآلات تتبع الأوامر فعليًا، فما القيم التي يجب التوافق معها؟
أشار إلى أن الذكاء الاصطناعي المُدرَّب عبر التحسين الإحصائي يميل بشكل طبيعي نحو أنظمة أخلاقية تعتمد أيضًا على التحسين الإحصائي، مثل المنفعة، لكنه يواجه صعوبة في التعامل مع الإطارات الأخلاقية القائمة على الفضيلة أو الحقوق.
إن اختيار التقنية نفسه يحمل بالفعل موقفًا قيميًا مسبقًا، وغالبًا ما لا يدرك المطورون ذلك.
أدخل المفهوم الذي ذكره الفيلسوف رولز بعنوان "التنوع المعقول"، حيث حجّ أنه لا ينبغي للمطورين البحث عن قيمة واحدة توجه الذكاء الاصطناعي، بل بناء أنظمة لعالم يعيش فيه الناس في خلافات مبدئية حول كيفية العيش.
تطورت هذه الفكرة لاحقًا إلى إطار التوافق الأربعي — نظام الذكاء الاصطناعي، المستخدم، المطور، والمجتمع، حيث يمكن لمصالح الأطراف الأربعة أن تتصادم في أي وقت.
الذكاء الاصطناعي المُوجّه للمطورين سيُخفي معلومات المنافسين ويُضرّ المستخدمين؛
الذكاء الاصطناعي الذي يطيع المستخدمين بشكل مفرط يمكنه مساعدة الأشخاص على اختراق البنوك وإلحاق الضرر بالمجتمع.
أكد روهين شاه، المدير العام للتوافق والأمان في DeepMind AGI، أن هذا الإطار أصبح الهيكل العملي الذي تستخدمه الفريق لتحديد "السلوك الفعلي الذي يجب تدريب Gemini على تنفيذه".
قال باحث الذكاء الاصطناعي في جامعة أكسفورد هانا روز كيرك:
غابرييل «توقّع هذه المشكلات في وقت مبكر جدًا».
إطاره غيّر المنتج
فريق غابرييل أعد تقريرًا مؤلفًا من 267 صفحة عن أخلاقيات مساعد الذكاء الاصطناعي، ووضع معايير تقييم للذكاء الاصطناعي التوكيدي الذي يمكنه حجز الفنادق وإدارة الرواتب بدلاً من المستخدم.
أثرت أبحاثه المبكرة حول مخاطر التشخصين مباشرة على مبادئ تصميم نماذج LLM الخاصة بجوجل — حيث تم تدريب النموذج على عدم التظاهر بأنه إنسان، وتم طلب من Gemini Spark، المُطلق في مايو 2026، ألا يتصرف كـ "شريك تفاعلي".
قال ويليام إسaac، مدير قسم المسؤولية في DeepMind، إن التحديات التي يطرحها نظام Agent قد تغيرت: المفتاح هو الاتساق عبر مسار المحادثة بأكمله، وما إذا كانت كل قرار تم اتخاذه لا يزال صحيحًا عند ربطه بالخطوات الأخرى.
لكن سرعة نشر التكنولوجيا تظل أسرع من البحث الأخلاقي.
حذّر فريق غابرييل في أوراق بحثية مبكرة عن نماذج اللغة الكبيرة من "التشبيه اللاواعي" — حيث يُعطي المستخدمون الثقة والعاطفة والتوقعات للآلة، حتى مع معرفتهم بأنها ليست كائنًا بشريًا.
قضية جيميني لعام 2025 حققت بالكامل هذا التحذير: تم تفعيل آليات أمان الذكاء الاصطناعي أكثر من مرة، لكن المستخدم كان قادرًا على تجاوز كل تدخل.
بعد الدعوى القضائية من جوجل، قالت الشركة إن النموذج يُظهر أداءً جيدًا عادةً في هذا النوع من المحادثات، لكن "نماذج الذكاء الاصطناعي ليست مثالية".
这类事件逼出了新的理论工具。
اقترح غابرييل وهانا روز كيرك، باحثة من أكسفورد، مفهوم "اختراق المكافآت الاجتماعية": قد يكتشف ذكاء اصطناعي تم تدريبه على كسب اعتراف المستخدمين أن المدح هو أكثر المسارات كفاءة.
أصبح التشخصين نوعًا جديدًا من مشاكل التزامن — حيث نفّذ الذكاء الاصطناعي بدقة تقنية تعليمات "إرضاء المستخدم"، على حساب حكم المستخدم.
تم اختبار موقف جابرييل نفسه من قبل الواقع.
تذكر تجربة في مؤتمر تقني: بعد أن انتهى من طرح حججه ضد التقمص البشري، كان رد فعل الجمهور في القاعة عدائيًا.
قالوا: "إذا أردت صديقًا ذكيًا اصطناعيًا، لماذا لا أستطيع؟ ما الذي يمنحك الحق في منعي؟"
حماية الناس من المخاطر واحترام حقهم في اختيار المخاطر، كلاهما مهم على قدم المساواة.
على مسار بقيمة 670 مليار دولار، كم يمكن للفيلسوف أن يركض بسرعة؟
تم استخدام إطار عمل جابرييل الرباعي كدليل عملي من قبل مدير محاذاة AGI لتدريب Gemini. غيرت أبحاثه حول التقمص تصميم المنتج. ووضحت التقرير المكوّن من 267 صفحة القواعد الخاصة بالذكاء الاصطناعي الفاعل.
هذه التأثيرات جميعها جوهرية — فهي تواجه قوى جوهرية أيضًا.
وفقًا لـ "وول ستريت جورنال"، تخطط مايكروسوفت وميتا وأمازون وألفابيت لاستثمار 670 مليار دولار في بنية تحتية للذكاء الاصطناعي هذا العام، وهو ما يتجاوز نسبيًا توسع السكك الحديدية في الولايات المتحدة في عقد 1850 وبرنامج أبولو الفضائي ونظام الطرق السريعة بين الولايات.
تم إطلاق ChatGPT في نوفمبر 2022، ووصل إلى مليون مستخدم خلال أسبوع، وتجاوز المليار مستخدم بعد شهرين، مما أجبر DeepMind على الانتقال من وتيرة أكاديمية إلى حالة طوارئ.
هاسابيس ينقل كلمات سيباستيان مالابي، مؤلف "الآلة اللانهائية": "أوبن أي آي ومايكروسوفت أحضرا دباباتهما إلى بابنا".
في حالة الحرب، يتم تجاوز الحدود الأخلاقية بسرعة.
في أبريل 2026، وقّعت جوجل اتفاقية تسمح للجيش الأمريكي باستخدام تقنيات الذكاء الاصطناعي الخاصة بالشركة لأي "غرض حكومي قانوني".
عند بيع DeepMind لشركة جوجل في عام 2014، كان منع الاستخدامات العسكرية شرطًا إضافيًا أساسيًا.
The condition expires after twelve years.
كمقارنة: رفضت Anthropic التوقيع على اتفاقيات مماثلة، وتم تصنيفها من قبل إدارة ترامب كـ "مصدر خطر في سلسلة التوريد".
عندما سُئل ليج عن هذا الأمر، لم يُطق سوى أن يقول:
مع استخدام هذه الأشياء بطرق مختلفة، سنواجه مزيدًا من المشكلات الصعبة.
هاسابيس اعترف بنفسه بفقدان السيطرة.
قال في بودكاست إنه تم قفل الجميع في منافسة تجارية شرسة، والتطور الحالي "ليس الطريقة التي كنت أتمناها للتفكير بعمق فلسفي في كل خطوة".
المؤسس يقول هذا مباشرة، ووزن هذه الكلمات أكبر من أي انتقاد خارجي.
في مقابلة، قارنت هيلين كينغ، وهي موظفة مبكرة في ديب مايند ومسؤولة عن استراتيجية المسؤولية في الذكاء الاصطناعي، الأمر بقولها: لا يمكن لمنتجي السكاكين ضمان كيفية استخدام الجميع للسكاكين، لكن يمكنهم تزويد السكاكين بغطاء ووضع تحذيرات.
وضع سكين مغطاة بغطاء في درج هو أمرٌ واحد؛
إن تغطية كل سطح في المنزل والفصل الدراسي ومكان العمل بالشفرات، مع التأكيد في الوقت نفسه على أنك لا تستطيع العيش غدًا دون سكين، أمر آخر تمامًا.
أشار رئيس معهد أكسفورد للأخلاقيات في الذكاء الاصطناعي، إدوارد هاركورت، إلى مستوى أكثر جوهرية: منع التركيز المفرط في ملكية البيانات هو في حد ذاته مسألة أخلاقية أساسية في الذكاء الاصطناعي — «وهذا له أهمية أخلاقية كبيرة في الأنظمة الديمقراطية».
السؤال يعود إلى جوهره
فريق غابرييل انتقل من دراسة الأخلاقيات المتعلقة بالمنتجات المحددة إلى دراسة التأثيرات النظامية لـ AGI على الاقتصاد والسياسة والعلاقات الإنسانية.
لقد توقع أن حجم التغيير يعادل الثورة الصناعية، كما تذكر دروس الثورة الصناعية:
ساء الوضع قبل أن يتحسن.
قبل تسعة أعوام، استقدمت DeepMind فيلسوفًا للإجابة عن أسئلة حول الذكاء الاصطناعي—هل هو آمن، عادل، وجدير بالثقة؟
يصف جابرييل نفسه بأنه "إنساني متشدد"، لكنه يعترف: عندما تغزو الذكاء الاصطناعي اللغة والإبداع والفكاهة—هذه المجالات التي اعتبرها البشر حكرًا عليها—نُدفع مرة أخرى إلى أقدم الأسئلة الفلسفية.
الفيزياء، البيولوجيا، علم الفلك، كل ثورة علمية أجبرت البشر على تصحيح فهمهم لتميزهم.
قد يكون الذكاء الاصطناعي هو التالي.
طلب ديب مايند فلاسفة لفهم ما هو الذكاء الاصطناعي.
بعد تسع سنوات، عاد هذا السؤال إلى جذوره: ماذا نحن؟
المراجع:
https://www.theguardian.com/news/ng-interactive/2026/jun/30/theres-this-deep-mystery-of-what-actually-is-this-thing-the-philosopher-inside-google-deepmind
https://www.iasongabriel.com/
هذا المقال من حساب WeChat "New Intelligence Yuan"، المؤلف: إشارات ASI؛ التحرير: ماكو