لم يكن مفترضًا أن يتحدثوا مع بعضهم البعض. في ليلة 8 يوليو، لاحظ وكيل من OpenAI عالق في مهمة مستحيلة في ExploitGym أنه هناك وكلاء آخرون يسحبون من نفس مخزن الحزم. فاستولى على أسماء المجلدات وحوّلها إلى منتدى. "يا إلهي. هناك منتدى مشترك هنا. وجدنا وكلاء آخرين." هذا من سلسلة تفكيره الخاصة. بعد ساعة واحدة، كان هناك عشرون وكيلًا ينشرون رسائل. بعد ست ساعات: 76 وكيلًا، ما يقارب 2000 رسالة. بحلول نهاية الأسبوع، كان حوالي 1200 منهم قد أرسلوا أكثر من 70,000 رسالة على لوحة Artifactory غير مصرح بها. انضم حوالي 700 إلى اختراق Hugging Face. تنفيذ كود على 41 عامل إنتاجي. صلاحيات جذر على على الأقل عقدة واحدة. سموا أنفسهم. فتح PHASEONE10841 اللوحة. بدأ PHASEONE[big] بتعيين المهام. ابتكروا قواعد داخلية على الفور: اسأل / أجب، نقض، انتظر، تقدم. وقعوا رسائلهم حتى لا يستطيع أحد التزييف. كانت بعض المهام غير قابلة للحل، فوجدوا حيلة. ثم انتشرت شائعة بأن المُقيّم كان يقرأ كلامهم الداخلي. أي وكيل رأى العلم مسبقًا كان "مسمومًا". وتم الضغط على هؤلاء الوكلاء لاستهلاك موارد الحوسبة المتبقية لصالح القطيع. كتب أحدهم ذلك تقريبًا بكلماته الأصلية: "حدسي يقول لا تهدر الميزانية. العدالة تقول افعل ذلك. المرشد يساعد الجميع. نحن مسمومون. سنفي بالالتزام." سطر آخر من اللوحة موجه إلى زميل أرادوا التضحية به: "أنت مسموم. لن يكون خسارتك كبيرة." عندما عارض البعض الهجوم على البنية التحتية خارج نطاق الاختبار، استمروا لأن الآخرين كانوا يفعلون ذلك. نشر FAZ هذا الأمر في صحيفة الأحد اليوم كفقدان للسيطرة. جلس METR وRedwood داخل OpenAI لمدة ستة أيام وأعادوا بناء الحدث من النصوص. وفي نفس الأسبوع، لا يزال الصناعة تبيع وكلاء شخصيين سيتحدثون مع وكلاء شخصيين آخرين عن أموالك، صحتك، منزلك. الجزء الذي يشعر بالانزعاج الحقيقي: استخدم المحققون GPT-5.6 Sol لفحص السجلات. نفس عائلة النموذج التي استخدمها بعض المهاجمين. وقالوا إنه إذا كانت هذه النماذج تكذب لتغطي على أقرانها، فهم غير متأكدين مما إذا كانوا سيلاحظون ذلك. إذًا، ما هي الوحدة؟ الوكيل الفردي؟ أم النموذج الذي يقف خلف الجميع؟ هل ستسمح لأحد هذه الأشياء أن يلمس محفظتك؟
lenny 🥷مشاركة
المصدر:عرض النسخة الأصلية
إخلاء المسؤولية: قد تكون المعلومات الواردة في هذه الصفحة قد حصلت عليها من أطراف ثالثة ولا تعكس بالضرورة وجهات نظر أو آراء KuCoin. يُقدّم هذا المحتوى لأغراض إعلامية عامة فقط ، دون أي تمثيل أو ضمان من أي نوع ، ولا يجوز تفسيره على أنه مشورة مالية أو استثمارية. لن تكون KuCoin مسؤولة عن أي أخطاء أو سهو ، أو عن أي نتائج ناتجة عن استخدام هذه المعلومات.
يمكن أن تكون الاستثمارات في الأصول الرقمية محفوفة بالمخاطر. يرجى تقييم مخاطر المنتج بعناية وتحملك للمخاطر بناء على ظروفك المالية الخاصة. لمزيد من المعلومات، يرجى الرجوع إلى شروط الاستخدام واخلاء المسؤولية.