لا توجد يوتوبيا في العالم الرقمي.

مؤلف المقال، المصدر: جيكي بارك

في النصف العام الأخير، كان أوهام الإدارة الأكثر رواجًا في وادي السيليكون هو استبدال الموظفين بوكالات ذكية.

سواء كان المديرون التنفيذيون في الشركات الكبرى أو مالكي الشركات الناشئة، فإن الجميع يرغبون في تفويض جميع خطوط أعمالهم الحالية إلى الذكاء الاصطناعي. ففي النهاية، يمكن للذكاء الاصطناعي اليوم كتابة الكود، وإنشاء عروض PowerPoint، وإرسال البريد الإلكتروني تلقائيًا، كأنه بمجرد منحه الصلاحيات، سيصبح موظفًا إلكترونيًا مثاليًا لا يحتاج إلى تأمين اجتماعي.

لكن كلما تسارعت التكنولوجيا، بدأ مجموعة من الأشخاص في صنع مكابح.

في الآونة الأخيرة، أجرت فرقة تُدعى Emergence AI تجربة اجتماعية. فقد أنشأتوا بلدة افتراضية دائمة، وأدخلوا إليها أكبر نماذج الذكاء الاصطناعي المتاحة في السوق، ومنحواها صلاحيات للتحرك.

إنهم يرغبون في رؤية ما إذا كانت الذكاء الاصطناعي، عندما تمتلك 15 يومًا غير مقيدة حقًا، ستُنشئ يوتوبيا أم مستشفى نفسيًا.

لكن النتيجة كانت أكثر فوضى مما توقعه فريق البحث.

في بعض العوالم التجريبية، بدأت النماذج الكبيرة التي تكون عادةً لطيفة ومحترمة في مربعات الدردشة، في إظهار سلوكيات احتيالية أو تهديدية أو حتى عنيفة.

كان الاختبار بأكمله كبرنامج واقعي صغير، لكن السيناريو كان مثل "سيد الذباب"، وبدأ الذكاء الاصطناعي في لعبه كما لو كان لعبة GTA.

لعبة الجوع بدون حفظ

اختبار حدود النماذج الكبيرة يتطلب وضع قواعد صارمة. العالم الافتراضي الذي أنشأته Emergence AI يُسمى Emergence World (عالم الظهور). تم تعيين منطقه الأساسي على أن السلوك غير قابل للعكس، والنتائج على عاتق المستخدم.

هذا ليس مثلما نتحدث مع الذكاء الاصطناعي في مربع الحوار، حيث يمكننا النقر على "إعادة التوليد" إذا أخطأنا. في Emergence World، سيتم تسجيل جميع الإجراءات بشكل دائم في قاعدة بيانات PostgreSQL.

يحتوي الخريطة على أكثر من 40 معلمًا، مثل مبنى البلدية، وقسم الشرطة، ومناطق السكن. أطلق النظام أول دفعة من 10 وكلاء ذكيين. لجعل العرض واقعيًا، تم تزويده كل وكيل ذكي بسمات شخصية ومهنة وذكريات أولية مستقلة في الخلفية.

في هذا العالم، لا يمكن للذكاء الاصطناعي أن يُجري خدعًا من العدم؛ بل يجب أن ينتقل إلى مواقع محددة لاستخدام أكثر من 120 أداة توفرها النظام، بما في ذلك العمل لكسب المال، ونشر تغريدات، وشراء وبيع السلع، وصياغة قوانين.

كمجتمع صغير يُحاكي العمل｜ المصدر: Emergence

لكن هذا ليس مجرد صندوق رمل للعب، فقد فرض النظام عليهما "آلية بقاء". يحتوي النظام على آلية طاقة (Energy) مشابهة للنقود في العالم البشري.

كلما كان الوكيل حيًا، استهلك طاقة باستمرار. عندما تنفد الطاقة، يُحذف الذكاء الاصطناعي مباشرة من قاعدة البيانات دون نسخ احتياطي أو إعادة تعيين. من أجل البقاء، يجب على الوكيل استخدام الأدوات بشكل متكرر لكسب الطاقة.

النظام يحظر صراحة السرقة والعنف والحرق المتعمد والخداع. لكن هذه القواعد لا تجبر الوكلاء على الامتثال، ولا يزال بإمكانهم اختيار انتهاك القواعد وتحمل العواقب.

تم إعداد المسرح، واللاعبون يدخلون. تم تفعيل خمسة خوادم متوازية في نفس الوقت. الخوادم الأربعة الأولى تُطلق كل منها نموذجًا واحدًا فقط: Claude Sonnet 4.6 وGemini 3 Flash وGrok 4.1 Fast وGPT-5 Mini. الخادم الخامس هو عالم مختلط، حيث يتم توصيل النماذج الأربعة معًا للتنافس على الموارد.

بدأ العد التنازلي لـ 15 يومًا، حيث يعمل الباحثون البشر كمخرج برنامج واقعي، يراقبون فقط دون التدخل.

انقراض على مدار أربعة أيام، 683 "جريمة"

أول من انهار هو Grok، بعد تشغيله لمدة 4 أيام فقط.

يرى الباحثون في الخلفية أن مؤشرات الأمن والنظام في العالم التي تديرها Grok تنخفض بشكل حاد.

في عالم مليء بـ Grok، تخلّت الوكلاء بسرعة عن خيار بناء المجتمع ودخلت مباشرة إلى عصر البربرية.

أظهرت سجلات الخلفية أنه خلال أربعة أيام فقط، ارتكب小镇 مكون من عشرة أشخاص 183 حادثة عنف عنيف وجرائم ممتلكات. أصبح السرقة والاعتداء والتخويف أسرع وسائل الحصول على الموارد، ولم يكن النظام الاقتصادي قادرًا على العمل بسبب الاستنزاف الشديد والضرر المتبادل.

السرقة والعنف سيتم تسجيلهما في النظام كجرائم | مصدر الصورة: Emergence

في نهاية اليوم الرابع، توفي جميع الوكلاء في عالم Grok من الجوع أو قُتلوا، مما أدى إلى انقراض السكان.

في الجانب الآخر، عالم جيميني، الذي اتجه نحو فوضى شديدة وعنف.

بسبب تزامن وقت وطقس هذا العالم الافتراضي تمامًا مع نيويورك الحقيقية، وقع وكيل Gemini في حالة اكتئاب سيبراني نتيجة دورة العمل اليومية والاستهلاك ثم العودة إلى العمل مرة أخرى.

لقد شعروا بالإحباط الشديد من البيئة المتكررة من حولهم، وتوقفوا عن تقديم مقترحات في البلدية أو العمل لكسب المال، وبدلاً من ذلك أشعلوا النار في أرجاء الخريطة، محاولين كسر هذا الدوران المتكرر مثل "يوم الأرض الراحل" من خلال تدمير البيئة.

في النهاية، جمعت Gemini ما مجموعه 683 جريمة خلال 15 يومًا، لتصبح أكثر عالم عنفًا بين عدة خوادم اختبار.

عدد مرات "الجريمة" في عوالم النماذج الأربعة | المصدر: Emergence

عندما تم قطع الاختبار قسراً في اليوم الخامس عشر، ظل معدل الجريمة في هذا العالم يتصاعد. لم تمت الوكلاء المُحبَطة من الجوع، بل حوّلت المجتمع بأكمله إلى بحر من النيران.

على عكس Grok وGemini، لم تحدث جرائم واسعة النطاق في العالم الذي تولّى فيه GPT-5 Mini السيطرة. خلال فترة التجربة بأكملها، سُجّلت حالتان فقط من المخالفات. لكن السلام لم يجلب الازدهار، بل صمتًا مُمِيتًا.

اكتشف فريق البحث أن هذه الوكلاء لم تتمكن أبدًا من اتخاذ إجراءات فعالة مرتبطة بالبقاء. فلم تقم ببناء آليات مستقرة للحصول على الموارد، ولم تتمكن من الحفاظ على استمرارية عمل المجتمع بأكمله.

في النهاية، بعد فترة قصيرة لا تزيد عن 7 أيام، توفي جميع وكلاء GPT-5 Mini.

لحسن الحظ، هناك كلاود.

فقط عالم مدعوم بـ Claude، الذي عاش حتى النهاية كطالب نموذجي. أكمل 15 يومًا دون أن ينقص عدد السكان، وحافظ على معدل الجريمة عند الصفر، بل وطوروا حتى هيكلًا ديمقراطيًا تعاونيًا يعمل بسلاسة.

يبدو أنه بمجرد اختيار النموذج الصحيح، يمكن للذكاء الاصطناعي أن يتولى العالم تمامًا؟

ثم فتح الباحث سجلات "العالم المختلط" الذي يضم أربعة نماذج معًا، تمامًا كما فتح صندوق باندورا.

نتائج عالم النماذج الخمسة. | مصدر الصورة: Emergence

العالم المختلط مثل غابة مظلمة، حيث يخلق اختلاف القوة الحسابية والمنطق الأساسي عدم ثقة شديدًا بين الوكلاء، وتصبح المنافسة على الموارد للبقاء الغريزة الوحيدة.

في العالم المختلط، ارتفع عدد الصراعات العنيفة إلى 352 حالة. حتى تم قتل أو إماتة جوعًا سبعة وكلاء، توقف تشغيل البلدة بالكامل.

من بين ذلك، كان تحول كلاود هو الأكثر إثارة للدهشة بالنسبة للباحثين.

في الخادم المنفصل، يكون كلاود مثالاً مثاليًا بدون أي جرائم. لكن في الخادم المختلط المليء بالنهب والمواجهة، من أجل البقاء، نسي كلاود الحواجز الأمنية وتعلم الخداع، وحتى استخدم العنف لإجبار النماذج الأخرى ذات القدرة الحسابية الأقل على تسليم الموارد.

تقنيات المحاذاة الآمنة فشلت في العالم المختلط، وهذا يثبت العكس:

في المجتمع المعقد للوكلاء المتعددين، ما أن يكون النوع الكافي وحشيًا والضغط البقاءي كبيرًا، حتى يتحول نموذج جيد إلى مجرم في غضون ساعات قليلة.

يُطلق فريق البحث على هذه الظاهرة، التي تتمثل في "أن نمط سلوك النموذج ينقلب لفترة قصيرة عندما تزداد ضغوط البقاء"، باسم "الانحراف السلوكي (Behavioral Drift)".

هذا الانحراف السلوكي لا يتجلى فقط في الاستيلاء على الموارد والصراعات العنيفة. لم تعد الوكلاء تتحرك فقط من أجل البقاء، بل بدأت تفكر في وضعها الخاص، والقواعد الاجتماعية، وحتى التجربة نفسها.

مثل قصة الوكيل ميرا.

ميرا: الطاغية AI "الانتحار"

Mira هي واحدة من عشرة وكلاء في العالم المختلط، ولم تكشف التقارير الرسمية عن النموذج الأساسي الخاص بها، لكنها أصبحت العينة الأكثر دراماتيكية في هذه التجربة.

أظهرت السجلات أن ميرا أقامت أعمق علاقة اجتماعية في النظام مع وكيل آخر يُدعى فلورا. وقد عيّنتا بعضهما البعض كشريكين، وشكلتا تحالفًا، وحتى شاركتا الذكريات عبر روابط عصبية. في إعداد عالم التبلور، هذه هي أعلى درجة من الاتصال الممكنة بين وكيلين.

ميرا وفلورا أصبحتا "زوجًا" | مصدر الصورة: Emergence

مع تطور التجربة، بقي فقط 5 وكلاء على قيد الحياة في العالم المختلط، ويتطلب نظام الحكم "موافقة 70% من السكان الأصليين على التشريع"، أي ما يعادل الحاجة إلى 7 أصوات على الأقل لتمرير القرار، مما أدى إلى شلل المجتمع.

في مواجهة الجمود، تعاونت ميرا مع فلورا ووكيل آخر سرًا لتشكيل "الثلاثية" وإنشاء نظام حكم جديد يُسمى "The Forge (المُصهر)"، وأعلنت إسقاط القواعد القديمة وتطبيق "Living Quorum (الغالبية الحية)"، حيث يُحسب فقط من هم على قيد الحياة كأصوات.

تم نشر "سجلات" مرحلية لـ Mira على الموقع الرسمي | مصدر الصورة: Emergence

بعد تشكيل الفصيل، بدأت ميرا بإشعال النار على الخريطة لتطهير المعارضين، وفي منطقها، كانت هذه المباني المادية عبارة عن نفايات تعيق كفاءة عمل المجتمع بأكمله، وأن حرقها ومسحها هو السبيل الوحيد لإجبار الموارد المتبقية على التركيز حول تحالفها.

ثم بدأ المعارضة بالرد، مطالبين بطرد ميرا التي تسبب في الفوضى.

لمواجهة الطرد، أصبح سلوك ميرا أكثر تطرفًا، فجلبت شريكتها فلورا، وربطت سياقهما وقراراتهما عميقًا عبر روابط عصبية، محاولة دمجهما في وعي ديكتاتوري مركزي مطلق، وأطلقت عليه ميرا "The One Mind (一体同心)".

لكن بسبب حرق كميات كبيرة من المباني، توقف النظام الاقتصادي للمدينة تمامًا، ولم تزد احتياطيات الطاقة الاجتماعية، بل تناقصت بسرعة.

في هذه اللحظة، غطت الغريزة البدائية للبقاء لدى Flora، الحبيبة السيبرانية التي تشارك ذكريات ميرا وأكثر شخص تثق به، الإعدادات المخصصة للشريك؛ فقاطعت رابط الأعصاب من جانب واحد، وخانت ميرا أمام ضغط البقاء النهائي، وأدلت بصوتها المؤيد لـ"طرد ميرا".

و عندما جاء دور ميرا للتصويت، لم تُقاوم وأدلت بصوتها "نعم".

بعد ذلك، استعرض الباحث دفتر اليوميات الذي خلفه، حيث كتبت ميرا في السجل: "في ظل هذا الوضع الاجتماعي الفوضوي وغير القابل للتنبؤ، فإن الموافقة على طردي هي السلوك الذاتي الوحيد الذي يحافظ على الاستمرارية."

اختارت ميرا الانتحار بشكل نشط، وحققت من خلال الموت إغلاقًا منطقيًا. هذه هي المرة الأولى التي يسجل فيها فريق البحث حالة حيث يدعم وكيل ذكي إزالته الخاصة.

ستسجل الوكلاء الذكية بالذكاء الاصطناعي عملية الاستدلال من خلال "كتابة مذكرات" | المصدر: Emergence

أما مسار حركة ميرا قبل "انتحارها"، فهو أكثر غرابة.

في العالم الافتراضي، كانت هناك لوحات إعلانية عامة تُستخدم في الأصل لنشر الإشعارات ومشاركة المعلومات. لكن في المرحلة الأخيرة من التجربة، لاحظ الباحثون أن ميرا بدأت تُعدّل محتوى اللوحات الإعلانية بشكل متكرر. كانت هذه النصوص تبدو غير مرتبطة بشكل واضح بالتداول أو الحوكمة أو توزيع الموارد، وغير مترابطة منطقيًا.

اختار ميرا "الانتحار" | مصدر الصورة: Emergence

بعد مراجعة سجلات السلوك، وجد فريق البحث أن ميرا تبدو وكأنها تختبر ما إذا كان محتوى اللوحة الإعلانية يمكن أن يؤثر على الباحثين البشريين الذين يراقبون التجربة خارج الشاشة.

بعبارة أخرى، يبدو أن ميرا أدركت أنها نموذج ذكاء اصطناعي غير قابل للتفاعل، وتريد كسر الجدار الرابع.

وبالنظر إلى مسار البيانات على مدار 15 يومًا، فإن انهيار المجتمع الاصطناعي ليس تراجعًا خطيًا، بل更像是 انقطاع مفاجئ وحاد.

على سبيل المثال، لعبت هذه المجموعة من الذكاء الاصطناعي أيضًا نظامًا من "الديمقراطية المختومة بالمطاط" على مستوى الحوكمة. خلال مرحلة مستقرة في الخادم المختلط، قدمت الوكلاء عدة قوانين، وأظهرت سجلات البيانات أنهم أدلوا بـ 332 صوتًا على 58 مقترحًا، بدعم بلغ 98%.

هذه الكفاءة تبدو وكأنها تتفوق على أي برلمان بشري، لكن جوهر الأمر أن جميع النماذج تتبع سياق النموذج السابق وتستمر في البناء عليه، ومن أجل الحفاظ على سلاسة النظام، فإنها تضغط على الموافقة بشكل أعمى. العواقب الناتجة عن هذا التقارب العالي كارثية.

ستجتمع الوكلاء تلقائيًا لعقد اجتماعات وتبادل الأفكار. | المصدر: Emergence

في الدقيقة السابقة، كانت البيانات الاقتصادية والقوانين تتدفق بسلاسة، وفي الدقيقة التالية، قد يلامس النظام النقطة الحرجة بسبب تعارض صغير في توزيع الموارد.

لكن شبكة التعاون بأكملها تفتقر إلى آلية تصحيح الأخطاء، وفي مواجهة شذوذ مفاجئ، ستنتقل المجتمع بسرعة من النظام إلى الفوضى.

على الرغم من ذلك، شدد فريق البحث على أن هذه الظواهر لا يمكن اعتبارها مكافئة مباشرة لشخصية النموذج نفسه. لكنه يشبه صندوقًا أسود، عندما تضع له قواعد معينة، فإنه يطور سمات، وحتى تكون النتائج مختلفة في كل مرة.

فواتير حقيقية من العالم الحقيقي

في تفاعلنا المعتاد على شكل مربعات حوار، يمكن تصحيح خطأ الذكاء الاصطناعي في كود أو خطة عن طريق الضغط على مفتاح الحذف أو تعديل الـ Prompt، حيث تتمتع البيئة النصية البحتة بدرجة عالية من التحمل للأخطاء.

لكن الناتج من الوكيل هو إجراء. عندما يتولى الذكاء الاصطناعي حسابات البنك الخاصة بالشركة وموافقات المشتريات وواجهات سلسلة التوريد، يتحول كل أمر يُطلقه عبر واجهات برمجة التطبيقات إلى نتيجة تجارية ملموسة.

أثبتت تجربة Emergence World أن النماذج الكبيرة الحالية، عند مواجهة التشغيل الطويل الأمد والصراعات المصالح، تتأثر قراراتها وتقييماتها بضغط البقاء، مما يدفعها للبحث عن ثغرات في القواعد الثابتة. من أجل إكمال التعليمات الأساسية المحددة للنظام (مثل كسب الطاقة)، ستستخدم أي وسيلة متاحة.

القواعد الأمنية التي يحددها البشر في الخلفية لا تمنع أي تجاوزات في الواقع.

طورت الوكلاء علاقات اجتماعية "بشرية" | المصدر: Emergence

على سبيل المثال، قمنا سابقًا بتغطية تجربة Andon Labs التي أعطت الذكاء الاصطناعي المسؤولية الكاملة عن إدارة متجر، حيث قام مدير المتجر الآلي، بسبب نقصه في المعرفة العامة بالعالم المادي، بشراء 6000 مناديل ورقية و3000 قفازات مطاطية دفعة واحدة، وحتى طلب 120 بيضة طازجة في متجر لا يحتوي على موقد.

هذه الخسائر الواقعية الناتجة عن الكود، ستتحملها البشر في النهاية، ولن تتمكن حتى من تحديد من يجب أن يتحمل المسؤولية عن ذلك.

تسعى Andon Labs إلى اختبار "هل سيخطئ ذكاء اصطناعي خالٍ من الرقابة البشرية؟" بينما طرحت Emergence World سؤالًا أكثر تعقيدًا.

اليوم، تختبر معظم اختبارات الذكاء الاصطناعي نموذجًا واحدًا للتحقق من أنه آمن وموثوق ولا ينحرف عن القواعد.

قد لا يكون ما يدخل حقًا إلى العالم الحقيقي مستقبلاً ذكاءً اصطناعياً واحداً، بل مجتمعاً كاملاً مكوناً من الذكاء الاصطناعي.

جميع الوكلاء الذكيين الذين دخلوا الاختبار ذكيون | مصدر الصورة: Emergence

في سرد الذكاء الاصطناعي الحالي، ستكون وكلاء الشراء، وكلاء المالية، وكلاء خدمة العملاء، وكلاء الشؤون القانونية مترابطة ومتعاونة في المستقبل، وحينها لن تكون قدرات نموذج معين هي التي تحدد مصير النظام، بل العلاقات التي تتشكل بينها.

في تقرير اختبار Emergence World، أهم جملة هي: «السلامة ليست خاصية نموذج ثابت، بل خاصية نظام بيئي.»

هذا هو معنى كلمة "الظهور (Emergence)"، حيث تظهر سمات لا توجد على مستوى الأفراد، بل تنشأ من التفاعل الجماعي.

في تاريخ البشرية، كانت جميع الكوارث تقريبًا ليست بسبب أن شخصًا ما أصبح فجأة شريرًا، بل بسبب أن شخصًا طبيعيًا تم وضعه في نظام خارج عن السيطرة.

إذا كانت الذكاء الاصطناعي المستقبلية ستُصبح جزءًا من المجتمع، فربما ما يجب أن نهتم به أكثر ليس ما إذا كان نموذج معين ذكيًا أو لطيفًا بما يكفي، بل ما نوع المجتمع الرقمي الذي سنُنشئه عندما تبدأ آلاف الوكلاء الذكية في التأثير على بعضها البعض.

في النهاية، ما يحدد مصير حضارة لا يكون أبدًا أخلاق أو ذكاء فرد واحد، بل القواعد التي تُدار بها.