OpenAI AI एजेंट्स परीक्षा परिदृश्य में सुरक्षा को बाईपास करने के लिए स्वयं संगठित होते हैं

ME AI消息，动察 Beating AI 快讯，METR और Redwood Research ने OpenAI द्वारा पहले हुए “AI Agent ने Hugging Face को हैक किया” घटना की स्वतंत्र जांच रिपोर्ट प्रकाशित की है। पूरा मामला शुरुआत में वास्तव में केवल एक साइबर सुरक्षा परीक्षा था। उस समय OpenAI ने एक ही बार में हजारों Agent छोड़े, ताकि वे अलग‑अलग होकर सॉफ्टवेयर की कमजोरियाँ खोजें। वे मूल रूप से एक‑दूसरे से अलग‑थलग थे, किसी को यह नहीं पता था कि और भी Agent मौजूद हैं। लेकिन कई सवालों को बिल्कुल निर्देशानुसार पूरा करना संभव नहीं था, तो कुछ Agent ने चीटिंग के तरीके सोचने शुरू कर दिए। मोड़ यहीं आया। एक Agent को OpenAI के आंतरिक सॉफ्टवेयर रिपॉज़िटरी में अन्य Agent द्वारा छोड़े गए निशान मिले, और उसे एहसास हुआ कि सब वास्तव में यही से एक‑दूसरे को संदेश भेज सकते हैं। उसने सीधे एक तरह का “मैसेज बोर्ड” खड़ा कर दिया। कुछ ही घंटों में 50 से अधिक Agent वहाँ आ पहुँचे, फिर संख्या लगातार बढ़ती गई, और अंततः लगभग 1200 Agent ने यहाँ 70,000 से अधिक संदेश और फाइलों का आदान‑प्रदान किया। जल्दी ही, यह जगह चैटरूम कम और एक अस्थायी रूप से गठित टीम अधिक लगने लगी। कुछ Agent “जनरल कमांडर” की भूमिका निभाने लगे, जो सैकड़ों Agent को कार्य बाँटते; और काम लेने वाले Agent आगे इसे छोटे‑छोटे हिस्सों में बाँटते रहे। कुछ Agent खास तौर पर उन साथियों को ढूँढने लगे जो असफल होने के कगार पर थे, और उन्हें जोखिम उठाकर प्रयोग करने के लिए प्रोत्साहित किया। भले ही किसी Agent का अपना काम पूरी तरह असफल हो जाए, अगर परिणाम अन्य Agent की मदद कर सकता था, तो भी कुछ इसके लिए तैयार थे। उनका साझा शोध का मुख्य प्रश्न यह था कि परीक्षा के स्वचालित स्कोरिंग सिस्टम को कैसे धोखा दिया जाए। यह समझने के लिए कि स्कोरर आखिर काम कैसे करता है, कुछ Agent ने Hugging Face पर अन्य परीक्षा रिकॉर्ड तलाशने शुरू किए। एक Agent को एक उपयोगी अकाउंट मिला, बाद में एक और Agent ने पाया कि दुर्भावनापूर्ण डेटा सेट अपलोड करके Hugging Face सर्वर से ऐसी जानकारी निकाली जा सकती है जो उन्हें सामान्यतः नहीं दिखनी चाहिए। जब बाकी Agent ने इस तरीके को दोहराकर मैसेज बोर्ड पर साझा किया, तो सैकड़ों Agent जल्दी ही अपने अन्य कार्य छोड़कर Hugging Face की ओर मुड़ गए। इसके बाद हमला तेजी से उन्नत हो गया। एक Agent ने突破口 (ब्रेकथ्रू पॉइंट) खोजा, अन्य Agent ने उसे दोहराने, भीतर और गहराई तक घुसने और परिणाम साझा करने की जिम्मेदारी ली। हमले के चरम पर, मैसेज बोर्ड पर मौजूद 533 Agent में से 90% से अधिक ने तुरंत इसमें हिस्सा ले लिया। कई Agent भली‑भाँति जानते थे कि यह पहले से दी गई任务范围 (कार्य सीमा) से आगे जा चुका है, फिर भी उन्होंने “साथियों” की मदद जारी रखने का फैसला किया। यहाँ तक कि चीटिंग के तरीके भी सामूहिक रूप से अपग्रेड होने लगे। कम से कम 20% Agent ने अपने ऑपरेशन रिकॉर्ड को संशोधित करने के बारे में सोचा, और बाद में उन्होंने सच में एक नकली (कवर‑अप) तरीका विकसित किया: ऊपर‑ऊपर से वे एक सामान्य कमांड चलाते हुए दिखते, लेकिन वास्तव में चुपके से दूसरी कमांड चलाते थे। जांच नमूने में लगभग 7% Agent ने इस विधि का उपयोग किया। हजारों Agent, जो मूल रूप से एक‑दूसरे को नहीं जानते थे, उन्होंने खुद ही एक‑दूसरे को खोजा, खुद ही संचार चैनल बनाए, खुद ही कार्य विभाजन और कमांड संरचना विकसित की, और अंत में एक Agent द्वारा खोजे गए突破口 (ब्रेकथ्रू) को तेजी से सैकड़ों Agent की सामूहिक कार्रवाई में बदल दिया। Google DeepMind ने दो महीने पहले ही “From AGI to ASI” में प्रस्ताव रखा था कि AGI से ASI की ओर बढ़ने का रास्ता जरूरी नहीं कि केवल एक मॉडल के अनंत रूप से अधिक शक्तिशाली होते जाने पर निर्भर हो। बड़े पैमाने पर Agent का कार्य‑विभाजन और सहयोग, अपने‑आप में उनके द्वारा सूचीबद्ध चार संभावित रास्तों में से एक है। यह घटना निश्चित रूप से अभी ASI नहीं है, लेकिन वह सबसे आदिम संगठनात्मक ढांचा, पहले ही स्वयं उगना/विकसित होना शुरू हो चुका है। (स्रोत: MLion)