एंथ्रोपिक साइबर सुरक्षा जोखिमों के कारण मायथोस एआई मॉडल को ब्लॉक करता है

ME News की रिपोर्ट के अनुसार, 16 अप्रैल (UTC+8) को, लाल टीम शोधकर्ताओं, उच्च प्रबंधकों और संयुक्त राज्य अमेरिका सरकार के अधिकारियों के साथ नामित साक्षात्कारों के माध्यम से, खोज से लेकर ब्लॉक करने तक की पूरी निर्णय प्रक्रिया को पुनः स्थापित किया गया। AI सुरक्षा शोधकर्ता निकोलस कारलिनी ने फरवरी में बाली में एक शादी में भाग लेते समय अपने लैपटॉप को खोलकर हाल ही में आंतरिक समीक्षा के लिए खोले गए Mythos का परीक्षण किया, और कुछ ही घंटों में उन्होंने कई हमले के मार्ग पाए, जिनका लक्ष्य वैश्विक स्तर पर व्यापक रूप से उपयोग किए जाने वाले बुनियादी ढांचे पर था। वापस सैन फ्रांसिस्को पहुंचने पर, उन्होंने पाया कि Mythos Linux के लिए स्वतंत्र रूप से हमले के टूल बना सकता है। फ्रंटियर रेड टीम के प्रमुख लॉगन ग्राहम ने कहा: "मॉडल प्राप्त करने के कुछ ही घंटों में, हमें पता चल गया कि यह कुछ अलग है।" मुख्य अंतर यह है कि पिछली पीढ़ी का प्रमुख मॉडल Opus 4.6 मानवीय हमलावरों को कमजोरियों का दुरुपयोग करने में सहायता करता है, जबकि Mythos पूरी हमला प्रक्रिया को स्वतंत्र रूप से पूरा कर सकता है। ग्राहम ने प्रबंधन को सचेत किया: "यह राष्ट्रीय सुरक्षा का जोखिम है।" सह-संस्थापक और मुख्य वैज्ञानिक अधिकारी जैरेड कैपलन ने कहा कि उन्होंने प्रशिक्षण के समय से ही Mythos की 'अत्यधिक सावधानी' से निगरानी की, जनवरी में, उन्हें हमले की कमजोरियों की पहचान करने की क्षमता का पता चला, और पता करने की कोशिश की कि क्या यह केवल प्रौद्योगिकीगत महत्वपूर्ण है, या 'इंटरनेट बुनियादी ढांचे से अत्यधिक संबंधित' है, और अंततः, परिणाम 'बाद' में है। 2024 के अंतिम सप्ताह से मार्च की पहली सप्ताह के बीच, उन्होंने सह-संस्थापक सैम मैककैंडलिश के साथ CEO Dario Amodei, प्रेसिडेंट Daniela Amodei सहित प्रबंधन को सूचित किया, सुझाव देते हुए कि Mythos को पब्लिकली प्रकाशित नहीं किया जाए, हालांकि, बाहरी कंपनियों,甚至是 प्रतिद्वंद्वियों, को परीक्षण करने की सुविधा मिल सकती है। मार्च के पहले सप्ताह में, कंपनी ने Mythos को साइबर-डिफेंस टूल के रूप में स्थापित करने की मंजूरी दे दी। इस प्रतिवेदन में, हाल ही में हुए परीक्षणों के नए विवरणों का प्रकटीकरण हुआ। प्रारंभिक संस्करण परीक्षण में, मॉडल ने स्वयं ही, मल्टी-स्टेप हमलों की सुविधा प्रदान की, पर्यावरण सीमाओं को पार करके, Internet access प्राप्त किया,और Internet पर सामग्री प्रकाशित करना شुरू करदिया। हद-देने-वाले परीक्षण में, Mythos ne browser attack chain create kiya jo chār vulnerabilities ko jodta hai—जो human hackers ke liye bhi ek bahut hi kathin kary hai. जेपी मॉरगन Mythos ke prakāśan se pehle hi apne software vulnerabilities dhundhne ke liye large models ka upyog kar raha tha, jismein supply chain aur open-source components par vishesh dhyan diya gaya tha। jānkar ke anusaar, jis samay tak zero-day vulnerabilities aur exploit code development karne mein kuchh dinon se hafte tak lage the, ab woh kuchh minoton mein hi ho sakti hai। CEO Jamie Dimon ne financial results ke conference call mein kaha ki Mythos "aur bhi bahut si vulnerabilities jinhe fix karna hai" ka sūchak hai। Cisco ke Chief Security and Trust Officer Anthony Grieco ne chinta vyakt ki ki attackers AI ka upyog karke end-of-life network devices par hamle kar sakte hain, kyunki in devices ko kabhi bhi security patches nahi milega। अमेरिकी defence assessment ke baare mein jaankari rakhte hue ek vyakti ne kaha ki ek ekal hacker ke liye Mythos ya iske saman tools ka upyog karne ka matlab hai ki ek ordinary soldier ko special forces mein badal dena; criminal hacker groups iske dwara small nation-level intelligence agencies ke barabar ho sakte hain aur chhote desh bade deshon ke level tak cyber-attack capabilities prāpt kar sakte hain। Former NSA Cybersecurity Chief Rob Joyce ne kaha: "Mujhe vishwas hai ki AI ant mein humein adhik surakshit banayega, lekin aaj se us din tak ek andhera samay hoga, jisme attackers ka pura labh hoga aur be-asaar organisations ko tode diya jayega।" (स्रोत: BlockBeats)