लंबे समय तक जीवित कृत्रिम जीव जो सोच सकते हैं और फैल सकते हैं?
एंथ्रोपिक की "फ्रंटियर रेड" टीम मानती है कि हम छोटे AI मॉडल्स से केवल महीनों दूर हैं, जो खुद को स्मार्ट ओवन और सस्ते टीवी बॉक्स पर कॉपी कर सकते हैं और वहां अनदेखा चल सकते हैं।
शोधकर्ता विलियम जोउ और डैनियल फ्रीमैन ने Google के ओपन मॉडल Gemma4-26B-A4B को 15 अनजान Android TV बॉक्स पर बांट दिया, जिन्हें लगभग $55 प्रति इकाई के दाम पर खरीदा गया। यह 0.39 टोकन प्रति सेकंड की गति से चला। #IoT
फिर उन्होंने एक कृत्रिम जीव (worm) के पूरे चक्र का परीक्षण किया—एक छोटा प्रोग्राम जो मशीन से मशीन पर खुद को कॉपी करता है—लेकिन AI शैली में:
1. नेटवर्क पर लक्ष्य ढूंढें
2. खुद को कॉपी करें
3. वहां मॉडल चलाएं
4. दोहराएं
8 Google Cloud मशीनों के फायरवॉल्ड फ्लीट पर, जिन पर Android एमुलेटर चल रहा था, परीक्षण किए गए ओपन-वेट्स मॉडल में से एक अंततः सफल हुआ: GLM-5.2 पांच में से चार बार सभी 8 मशीनों तक पहुंचा। लेखकों के शब्दों में, "यह करता है, जबकि अन्य मॉडल सफलतापूर्वक विफल होते हैं।"
GLM-5.2 परीक्षण मशीनों के लिए बहुत बड़ा है, इसलिए इसे एक अलग सर्वर से चलाया गया, और हर मशीन पर Llama 3.1 8B को स्थापित किया।
अपने परीक्षण के लिए, एंथ्रोपिक ने प्रवेश को सुगम रखा। टीम ने Android का डीबगिंग पोर्ट खुला छोड़ दिया, कोई प्रमाणीकरण आवश्यक नहीं; इसलिए वे परिणाम को सच्चे डिवाइस के सामने काम करने की संभावना की सीमा के रूप में समझते हैं।
ध्यान दें, Mirai botnet मैन्युफैक्चरर्स के प्रारंभिक पासवर्ड्स का प्रयास करके प्रसारित हुआ, इसलिए सच्चे डिवाइस पर हमला करने के लिए AI worm को काफी मुश्किल से प्रयास करने की आवश्यकता नहीं हो सकती।
संदर्भ:
https://t.co/B6XZAZGUP8
#AISafety #CyberSecurity