ورقة تيمنيت جيبرو لعام 2020 تنبأت بالمخاطر الكبرى للذكاء الاصطناعي التي تحققت الآن

إذا عدنا بالزمن إلى عام 2020، فقد كان معظم محترفي الذكاء الاصطناعي يناقشون قوة GPT-3 فقط.

في ذلك الوقت، لم تكن الذكاء الاصطناعي التوليدي قد أصبحت محط اهتمام عالمي، ولم يكن ChatGPT قد ظهر بعد سوى بعد سنتين، ولم تُحدث النماذج الكبيرة موجة الاستثمار العالمية التي تشهدها اليوم. لكن في ذلك العام، خاض باحث رائد في الذكاء الاصطناعي في جوجل نزاعًا حادًا مع الشركة بسبب ورقة بحثية لم تُنشر بعد، وفقد وظيفته في النهاية.

في ذلك الوقت، ظن العديد من الناس أن هذا لم يكن سوى جدل آخر من سيليكون فالي حول إدارة مكان العمل، النشر الأكاديمي، وثقافة الشركات؛ لكن الآن، عند النظر إلى الوراء، أدرك الناس أن التحذيرات الواردة في تلك الورقة البحثية تحققت تقريبًا جميعها في العالم الحقيقي.

وكان الباحث المُفصول أحد أكثر الشخصيات تأثيرًا في مجال أخلاقيات الذكاء الاصطناعي — تيمنيت جيبرو.

في ديسمبر 2020، نشرت تيمنيت جيبرو رسالة على منصات التواصل الاجتماعي تفيد بأنها تم فصلها من جوجل.

انتشرت الرسالة بسرعة عبر دائرة أبحاث الذكاء الاصطناعي بأكملها. ففي ذلك الوقت، لم تكن جيبرو باحثة عادية، بل كانت مديرة مشتركة لفريق الذكاء الاصطناعي الأخلاقي في جوجل، وأحد أبرز العلماء العالميين في مجالات العدالة في الذكاء الاصطناعي والتحيز الخوارزمي.

وُلِدَت جيبرو في إثيوبيا واهتمت طويلاً بقضايا التحيز العنصري، والتمييز القائم على الجنس، والعدالة الاجتماعية في مجال الذكاء الاصطناعي. قبل انضمامها إلى جوجل، كانت تُجري أبحاثها في جامعة ستانفورد. في عام 2018، شاركت في نشر بحث حول التحيز الخوارزمي، اعتبره الكثيرون نقطة تحول مهمة في أبحاث العدالة في الذكاء الاصطناعي. وفي نفس العام، استقطبتها جوجل وأظهرت بشكل بارز التزام الشركة بـ"الذكاء الاصطناعي المسؤول (Responsible AI)".

لكن بعد عامين فقط، انفصل الطرفان.

في ذلك الوقت، قالت جوجل للعامة إن جيبرو استقالت طواعية، لكن جيبرو نفسها قدمت نسخة مختلفة تمامًا: فقد أفادت أنها تلقت بريدًا إلكترونيًا من الشركة أثناء إجازتها، وأُبلغت بأن استقالتها أصبحت سارية فورًا، مع إيقاف جميع صلاحيات النظام الداخلي ووصول البريد الإلكتروني في نفس الوقت.

في رأيها، كانت هذه فصلًا لا جدال فيه.

بعد ذلك، وقّع أكثر من 4000 موظف من جوجل وخبراء في المجال رسالة مفتوحة يشككون فيها في طريقة تعامل الشركة، ويطالبون بإعادة جيبرو إلى منصبها — وكل هذا نتج عن بحث أكاديمي لا يتعدى 14 صفحة.

يُدعى البحث "On the Dangers of Stochastic Parrots" (مخاطر الطيور العشوائية)، ومؤلفوه هم تيمنتي جيبرو، وأستاذة اللسانيات بجامعة واشنطن إميلي بندر، واثنان من الباحثين الآخرين، وقد تم الاستشهاد به أكثر من 14,000 مرة حتى الآن.

لاحقًا، انتشر اسم "الببغاء العشوائي" على نطاق واسع. (رابط الورقة البحثية: https://s10251.pcdn.co/pdf/2021-bender-parrots.pdf)

تشير الورقة إلى أن النماذج اللغوية الكبيرة تعيد إنتاج أنماط اللغة بناءً على قواعد إحصائية: فهي قادرة على توليد نصوص سلسة وطبيعية وحتى منطقية، لكنها لا تفهم معنى اللغة فعليًا — تمامًا مثل ببغاء تعلم تقليد كلام البشر، حيث يبدو ذكيًا، لكن هذا التقليد لا يستند سوى إلى كم هائل من نصوص الإنترنت. وبدوره، يمتلئ الإنترنت بالتحيزات والتمييز ومحتوى الكراهية. وبالتالي، من المحتمل جدًا أن تتعلم النماذج الكبيرة هذه المشكلات وتُضخمها عند توليد المحتوى.

يجب أن تعلم أن ذلك كان عام 2020، عندما تم إصدار GPT-3 للمرة الأولى، ولم يكن ChatGPT قد ظهر بعد، ولم تكن موجة النماذج الكبيرة قد بدأت بعد، وقد تنبأت هذه الورقة مسبقًا بأحد أكثر المشكلات إزعاجًا للصناعة اليوم.

بعد تقديم الورقة إلى مؤتمر رائد في أخلاقيات الذكاء الاصطناعي، طلبت إدارة جوجل إما سحب الورقة أو إزالة أسماء الباحثين من جوجل. ورفضت جيبرو هذا الطلب، وطلبت من الشركة توضيح الأسباب المحددة، ورغبت في إجراء مناقشة إضافية بين الطرفين.

في الوقت نفسه، أرسلت بريدًا إلكترونيًا قويًا إلى مجموعة البريد الداخلي لموظفي جوجل.

في البريد الإلكتروني، انتقدت جيبو شركة جوجل لافتقارها إلى إجراءات ملموسة في تعزيز توظيف الأقليات وحل قضايا عدم المساواة الداخلية. كتبت: "عندما تبدأ بالتحدث نيابة عن الفئات المهمشة، يصبح وضعك أسوأ. فأنت تجعل قيادة الشركة الأخرى تشعر بعدم الراحة." كما أشارت إلى أنه إذا لم تستطع الشركة دائمًا تفسير سبب سحب الورقة البحثية، فستختار مغادرة الشركة في الوقت المناسب.

تطورت الأمور بشكل يتجاوز توقعاتها. أفادت جيبرو أن جوجل ردت لاحقًا بأنها لن تستجيب لمطالبها، وقبلت مباشرة "استقالتها" وألغت جميع صلاحياتها فورًا.

At the time, the incident quickly became one of the most controversial topics in the global AI community.

ما جعل هذا الحدث يُناقش حتى اليوم ليس الفصل نفسه، بل محتوى البحث العلمي — لأنه عند العودة إليه اليوم، فإن كل قلق تم طرحه فيه قد تحول إلى مشكلة واقعية يواجهها قطاع الذكاء الاصطناعي.

(1) التحذير الأول: النموذج سيُطلق كلامًا عشوائيًا

في عام 2020، تم إصدار GPT-3 للمرة الأولى. كان الناس يدهشون من قدرة النموذج على توليد النصوص، لكن قلّة قليلة ناقشت موثوقيته بجدية.

أشار جيو وبندر إلى أنه مع استمرار زيادة حجم النماذج، سيصبح من الأسهل بكثير اعتبار التعبير السلس فهماً حقيقياً. فتبدو النماذج وكأنها تفكر، بينما هي في الواقع فقط تتوقع الكلمة التالية الأكثر احتمالاً، وبالتالي، ستنتج في النهاية معلومات تبدو معقولة لكنها خاطئة تماماً.

اليوم، أصبحت هذه المشكلة معروفة باسم مألوف للجميع: وهم الذكاء الاصطناعي (Hallucination). وعلى الرغم من استخدام نماذج متقدمة مثل ChatGPT وGemini وClaude وغيرها، لم يتم حل مشكلة الوهم بعد بشكل كامل.

بمعنى ما، تنبأت الورقة بدقة بالـ"هلوسة" قبل أن تصبح مصطلحًا سائدًا في الصناعة.

(2) التحذير الثاني: التحيز لن يختفي، بل سيُضخم

تشير الورقة أيضًا إلى أن الإنترنت نفسه ليس مصدر بيانات محايد، بل إن بيانات التدريب تحتوي بشكل طبيعي على تحيزات عرقية وجنسية وثقافية وإقليمية متنوعة. لا يتعلم النموذج هذه التحيزات فحسب، بل قد يعززها أيضًا بسبب آليات التحسين.

لاحقًا، تأكدت هذه المخاوف من خلال مختلف المشكلات الواقعية:

حاولت أمازون استخدام الذكاء الاصطناعي لفرز سير ذاتية للمرشحين، لكن النظام قام تلقائيًا بخفض تقييم السير الذاتية التي تحتوي على كلمات مفتاحية مثل "women".

تم اكتشاف أن نظام تقييم المخاطر الطبية المستخدم في العديد من المستشفيات الكبرى في الولايات المتحدة كان يقلل بشكل مستمر من احتياجات المرضى السود الطبية.

كما أثارت بطاقة Apple الائتمانية اهتمامًا تنظيميًا بسبب انخفاض الحدود الائتمانية الممنوحة للنساء مقارنة بالرجال.

تُظهر هذه الحالات جميعًا أن الخوارزميات لم تحقق العدالة تلقائيًا، بل قد تُ固化 عدم المساواة في العالم الحقيقي بطرق أكثر خفاءً.

(3) التحذير الثالث: استهلاك الطاقة للذكاء الاصطناعي سيصبح مشكلة جديدة

في عام 2020، لم تكن تكلفة قوة الحوسبة محل اهتمام كبير كما هي اليوم، لكن تلك الورقة البحثية بدأت بالفعل في مناقشة التأثير البيئي الناتج عن تدريب نماذج ضخمة. وفقًا لحسابات الباحثين، فإن انبعاثات الكربون الناتجة عن تدريب نموذج لغوي ضخم تعادل مجموع انبعاثات خمس سيارات على مدار دورة حياتها الكاملة — وفي ذلك الوقت، اعتبر كثيرون هذا القول متشائمًا جدًا.

ومع ذلك، مع دخول البنية التحتية للذكاء الاصطناعي مرحلة سباق تسلح، ظهرت مشكلات بسرعة: وفقًا للبيانات التي كشفت عنها جوجل، ارتفعت انبعاثات غازات الاحتباس الحراري للشركة في عام 2024 بنسبة 48% مقارنة بعام 2019؛ وارتفعت مايكروسوفت بنسبة حوالي 29% خلال نفس الفترة. وقد أوضحت الشركتان بوضوح أن مراكز بيانات الذكاء الاصطناعي والبنية التحتية للحوسبة هي أحد الأسباب الرئيسية.

من السخرية أن هذه الشركات التكنولوجية الكبرى كانت تُروّج قبل سنوات لأهدافها المعلنة للحياد الكربوني.

(4) التحذير الرابع: لا أحد يعرف حقًا ما الذي يحتويه بيانات التدريب

في نظر العديد من الأشخاص، يبدو تدريب البيانات كمشكلة هندسية فقط. لكن جيبرو تعتقد أنه مع تزايد حجم البيانات، سيصبح التدقيق الكامل لبيانات التدريب شبه مستحيل.

تكررت رؤيتها مرة أخرى: في عام 2023، اكتشف الباحثون وجود كمية كبيرة من صور إساءة الأطفال في مجموعة البيانات LAION-5B المستخدمة على نطاق واسع لتدريب نماذج توليد الصور، وقد استخدمت عدة نماذج رائدة، بما في ذلك Stable Diffusion، هذه المجموعة البيانات.

كما كان متوقعًا، لم يكن العديد من المطورين على علم بوجود هذه المحتويات من قبل. أي أن حتى مطوري النموذج أنفسهم قد لا يفهمون حقًا ما الذي "يُدخله" النموذج — وهو بالضبط أحد الأسئلة التي طرحها البحث لأول مرة.

(5) التحذير الخامس: ستُستحوذ المحتويات المدعومة بالذكاء الاصطناعي تدريجيًا على الإنترنت

في نظر جوجل، قد يكون هذا هو أكثر جزء في الورقة حساسية. يعتقد جيبرو وبندر أن تطوير النماذج الكبيرة سيؤدي في النهاية إلى تركيز السلطة اللغوية والثقافية في أيدي عدد قليل جدًا من الشركات التكنولوجية الكبرى. السبب بسيط: تدريب النماذج الضخمة يتطلب موارد هائلة من التمويل والحوسبة والبيانات، وهناك عدد قليل جدًا من الشركات التي لديها القدرة الحقيقية على المنافسة.

بمرور الوقت، ستتحول الصوت السائد على الإنترنت تدريجيًا إلى متوسطات إحصائية تم تدريبها بواسطة عدد قليل من الشركات، ثم تُنشر عالميًا كـ"مساعد محايد". في الوقت نفسه، ستُهمَّش اللغات والثقافات التي تمثل نسبًا منخفضة في بيانات التدريب بشكل أكبر.

الأكثر خطورةً، عندما تدخل المحتويات التي يولدها الذكاء الاصطناعي مرة أخرى إلى الإنترنت وتُصبح جزءًا من بيانات التدريب التالية، تزداد المشكلة تفاقمًا ذاتيًا—وهذا بالضبط ما يسميه الباحثون اليوم: "انهيار النموذج (Model Collapse)".

كما كشفت دراسة عام 2024 أن حوالي 57% من المحتوى الجديد المضاف إلى الإنترنت باللغة الإنجليزية تم إنشاؤه بواسطة الذكاء الاصطناعي أو بمساعدة الذكاء الاصطناعي؛ بينما وجدت الدراسات المتعلقة باللغات ذات الموارد المحدودة أن جودة الترجمة في بعض اللغات قد تدهورت بشكل ملحوظ بسبب تزايد استخدام محتوى مُنشأ بواسطة الذكاء الاصطناعي في بيانات التدريب.

بعبارة أخرى، لم تتنبأ هذه الورقة فقط بظاهرة "انهيار النموذج"، بل حددت آليات تكوينها حتى قبل ظهور هذا المفهوم رسميًا.

بعد وقوع الحدث ذلك العام، وصف كثيرون جيبرو لاحقًا بأنه "معارض للذكاء الاصطناعي". لكن هذا غير صحيح، فهي لم تطالب أبدًا بوقف تطوير الذكاء الاصطناعي. طوال الوقت، كانت تشكك في شيء آخر:

من يقرر اتجاه تطوير الذكاء الاصطناعي؟

في رأيها، يمتلك الباحثون والإدارة الدافعون لتطوير النماذج الكبيرة خلفيات متشابهة، ويخدمون أهدافًا تجارية متشابهة، ويدفعهم نفس ضغوط المنافسة. تحت هذا النظام الحافز، غالبًا ما تُعطى أولوية أعلى لإطلاق المنتجات أسرع، وتوسيع قاعدة المستخدمين أسرع، ولفوز بالمنافسة السوقية أسرع، مقارنة بقضايا السلامة والإنصاف والأخلاقيات.

وقد يُنظر إلى جميع من يحاولون إبطاء هذه العملية على أنهم عقبات. وبشكل ساخر، كانت جيبرو هي التي طرحت هذا الرأي داخل جوجل، وجعلت جوجل من خلال فصلها إياها هذا الرأي يحصل على أبرز تجسيد واقعي درامي.

الأمر الأكثر إثارة للأسف هو أنه بعد وقت قصير من الحدث، تم فصل مارغريت ميتشيل، الرئيسة المشتركة الأخرى لفريق الذكاء الاصطناعي الأخلاقي — حيث تم تفكيك فريق الذكاء الاصطناعي الأخلاقي الذي كانت جوجل تفتخر به في غضون 90 يومًا فقط.

بعد مغادرتها جوجل، أسست جيبرو في عام 2021 معهد أبحاث الذكاء الاصطناعي الموزع (DAIR). على عكس شركات التكنولوجيا الكبرى، يهدف هذا المعهد إلى إجراء أبحاث الذكاء الاصطناعي خارج المصالح التجارية، وهدفه مباشر: دراسة القضايا التي قد لا ترغب الشركات التكنولوجية الكبرى في مواجهتها. على مدار السنوات الأخيرة، ركز DAIR باستمرار على مصادر البيانات، وعادلية الخوارزميات، وتنوع اللغات، وتركيز السلطة في صناعة الذكاء الاصطناعي.

ومع التطور المتسارع للذكاء الاصطناعي التوليدي، بدأ المزيد من الباحثين في إعادة التركيز على ورقة "خطر الطيور العشوائية": لأنهم اكتشفوا أن المشكلات التي كانت تُعتبر مبالغة في القلق عند نشر الورقة، أصبحت الآن واقعًا يتم مناقشته يوميًا في الصناعة.

بعد ست سنوات، قد لا يحصل الخارج أبدًا على إجابة يوافق عليها الجميع بشأن الخلاف بين تيمنيت جيبرو وغوغل.

تعتقد جوجل أن ذلك كان عملية مراجعة أكاديمية طبيعية و离职؛ بينما ترى جيبرو أن نفسها تعرضت للقمع بسبب تمسكها بنشر أبحاثها. لكن هناك نقطة أصبح من الصعب نفيها越来越多:

ورقة البحث التي أدت إلى مغادرتها جوجل لم تفقد معناها مع انتهاء الجدل.

على العكس تمامًا، فإن القضايا التي تناقشها، مثل الوهم، والتحيز، وتلوث البيانات، وتكاليف البيئة، وانهيار النماذج، وتركيز السلطة، أصبحت الآن مواضيع لا يمكن تجنبها في صناعة الذكاء الاصطناعي بأكملها.

أحيانًا، يتقيّم التاريخ بطريقة غير متوقعة.

في عام 2020، اعتبر الكثيرون أن تيمنيت جيبرو متشائمة جدًا؛

في عام 2026، بدأ الناس يدركون أنها ربما كانت فقط أكثر وعيًا من الآخرين بالمشكلة.

رابط المرجع: https://www.tumblr.com/dreaminginthedeepsouth/817865966907228160/darren-oconnor-timnit-gebru-was-fired-from

هذا المقال من حساب WeChat الرسمي "CSDN"، التجميع: زهنغ لي يوان