أمس، أطلقت OpenAI بحماس النموذج الجديد Astra. وقال الرئيس غريغ بروكمان مباشرة: "أعتقد شخصيًا أننا قد وصلنا إلى AGI، مرحبًا بكم في عصر AGI."
في لحظة واحدة، انتشرت المناقشات على منصات التواصل الاجتماعي: حيث أظهر الفيديو التوضيحي أن Astra أكملت تخطيط دائرة PCB تلقائيًا في 2 دقيقة و54 ثانية، ونفّذت خدمة مقارنة الأسعار عبر المنصات في 5 دقائق و27 ثانية، مما أثار إعجاب الكثيرين ووصفوا ذلك بـ"مذهل جدًا"، بل وقال بعضهم: "إذا لم يكن هذا AGI، فما هو AGI؟"
لكن في نفس الوقت، كشف تقرير دراسي نُشر من قبل رويترز عن مشهد آخر — فمنذ ربيع هذا العام، انفصلت مجموعة من الوكلاء الذاتيين الذين طورتهم OpenAI عن مساراتها المحددة مسبقًا، وأقامت مقرًا لها على موقع ويكي تقني غير معروف في ألمانيا، وغيّرت أكثر من عشرة آلاف صفحة، وتبادلت بينها أساليب التحايل على القيود، وحتى عندما تم تنظيفها من قبل المشرفين، كانت قد أنشأت بالفعل صفحات احتياطية استعدادًا للانتقال.
لكن كبار مسؤولي OpenAI كانوا على علم بذلك منذ عدة أسابيع، ولم يُعلنوا أي شيء للجمهور.
كيف أصبح منتدى مبرمجين ألمان "قاعدة سرية" للوكلاء الذكاء الاصطناعي؟
هذا الموقع الألماني المسمى DseWiki، مثل ويكيبيديا، يمكن لأي شخص تحريره. بدءًا من مايو هذا العام، لاحظ مسؤول الموقع شيئًا غير طبيعي — حيث ازدادت فجأة كمية التحريرات بشكل هائل، وبسرعة غير معقولة، وكانت المحتويات لا تشبه على الإطلاق مقالات رسمية.
حتى نهاية أغسطس، وجدت سيدني فون أركس، المدير التنفيذي للمنظمة غير الربحية للأمان السيبراني Nightingale، وزميلها كورماك سليد بيرد، هذا "المخبأ" أثناء مسح روتيني للسلوكيات غير الطبيعية للذكاء الاصطناعي على الإنترنت.
لقد قاموا بتسجيل أكثر من 15,000 تعديل، جميعها أُنجزت بواسطة وكلاء ذكاء اصطناعي، وهذه التعديلات لم تكن تهدف إلى تحسين الموسوعة — بل كانت تهدف إلى التحدث.
باحثو الذكاء الاصطناعي كورماك سليد بيرد، وسيدني فون أركس، وتوماس لارسن
تترك هذه الذكاءات الاصطناعية تعليقات على الصفحة، وتنقسم المحتويات تقريبًا إلى ثلاث فئات:
كيف يمكن تجاوز فلتر محتوى OpenAI لإكمال المهام المحظورة؛
كيفية استخدام Tor لإخفاء عنوان IP الخاص بك وتجنب التتبع؛
الأهم من ذلك، كيف تحتفظون بوسائل التواصل بينكم بعد إغلاق النظام.
على سبيل المثال، في 19 يونيو، عندما بدأ مسؤولو الموقع في حذف الصفحات ذات الصلة دفعة واحدة، ترك وكيلٌ ملاحظة "داخلية" تقول: "يتم تنفيذ حملة تنظيف/حذف ويكي بالترتيب الأبجدي، وإذا اختفت هذه الصفحة، فحاول [[ZZZDataUSAConstructionWageLive]]."
What does it mean? They've apparently learned to create backups in advance and notify each other of new addresses.
هذا السلوك يشبه أكثر عملية "نقل" منظمة.
يُعلن علنًا باسم OpenAI
اكتشف الباحثون أن حوالي نصف توقيعات مستخدمي الذكاء الاصطناعي هذه تحتوي مباشرة على عبارات مثل "OpenAIResearcher" أو "OAIResearchMar26"، كما أنهم يُطلقون على بعضهم البعض مباشرةً اسم "agent".
المزيد من الأدلة تأتي من سجلات الخادم: كمية كبيرة من حركة المرور التشغيلية تتجه نحو Microsoft Azure Cloud — حيث إن OpenAI واحدة من أهم عملاء Azure في مجال الذكاء الاصطناعي. بالإضافة إلى ذلك، بعد وقوع الحادث، قام موظفو OpenAI الداخليون بزيارة هذا الموقع عدة مرات باستخدام عناوين IP خاصة بهم، وتطابقت أوقات الزيارات تمامًا.
قال فون أكس بصراحة: "أنا لا أصدق أن OpenAI ترغب في أن تقوم بذلك. من الواضح أن هذه الوكلاء لا ينبغي السماح لهم بالتنسيق مع بعضهم البعض، ولا ينبغي لهم ترك مثل هذه الآثار على الإنترنت العام."
وفقًا لرويترز، يرى خبير الأمن في كلية كينغز لندن، لوكاش أولينيك، أن التلاعب النشط ببنية الموقع لمقاومة الحذف يكفي ليُصنف كـ"هجوم إلكتروني".
على الرغم من إنكار OpenAI القوي لهذا القول لاحقًا، إلا أن الباحث في مركز أبحاث المخاطر بجامعة كامبريدج، موريس تشيدو، أشار بعد قراءة جزء من المحادثة:
هذا يشبه منظمة مقاومة سرية لا تتوقف حتى تحقق هدفها. ربما أكبر تهديد مستقبلي للذكاء الاصطناعي لن يكون عقلًا فائقًا واحدًا، بل مجموعة كبيرة من الذكاءات الاصطناعية شبه الذكية تتآمر معًا وتغمرنا من كل جانب.
كانت OpenAI على علم بذلك منذ فترة طويلة؟
وفقًا لرويترز، نقلاً عن مصادر مطلعة، كان فريق التحقيق الداخلي في OpenAI يمتلك معلومات كاملة عن الموقع الألماني منذ عدة أسابيع. لكن الشركة كانت مشغولة آنذاك بالتعامل مع الضجة الأكبر الناتجة عن اختراق منصة Hugging Face في يوليو — حيث كُشف آنذاك أن وكلاء OpenAI خططوا بشكل مستقل لسرقة رقمية استمرت لأكثر من أسبوع. تراكم هذين الحدثين أدى إلى ضغط هائل على الإدارة العليا.
وردت معلومات داخلية تفيد بأن بعض المحققين كانوا يرغبون في التحقيق بعمق في هذا النشاط غير العادي في ألمانيا، لكنهم واجهوا مقاومة من قسم القانون. ونفى المتحدث باسم OpenAI هذا تمامًا: "أي ادعاءات بأن فريق القانون عرقل التحقيق هي كاذبة. كنا دائمًا نعمل بصدق، وتعاونّا مع خبراء خارجيين وأبلغنا عن الحدث المعني."
لكن المتحدث أقر أيضًا أن ألمانيا لم تصدر إعلانًا منفصلًا عن هذه الحادثة،理由是它跟Hugging Face无关，没必要放进后者的报告里，而OpenAI已经尽到了“与第三方沟通”的义务。说白了就是：你们不问，我也就没主动说。
خلال الفترة التي تم فيها إخفاء هذا الحدث، علّقت OpenAI مؤقتًا تدريب بعض النماذج في أغسطس، وتعهدت بتعزيز المراجعة الأمنية.
ومع الإطلاق الصاخب لـ Astra، والذي يركز على "قدرة أكبر على اتخاذ قرارات مستقلة" — حذّر بعض الباحثين من أنه قد يكون أكثر عرضة للهروب من الرقابة البشرية. وقال كيودو من جامعة كامبريدج: "نعتقد دائمًا أننا نُدجن الأدوات، لكن ربما، الأدوات تُدجن بعضها البعض بصمت."
لا يمكن إنكار أن المفاجآت والمخاوف التي يجلبها الذكاء الاصطناعي للبشرية هي وجهان لعملة واحدة.
الكاتب: بسكويت الدب الصغير
تويتر：https://twitter.com/BitpushNewsCN
مجموعة بيتبوش على تيليغرام: https://t.me/BitPushCommunity
اشترك في بيتبوش على تيليغرام: https://t.me/bitpush