एआई कंपनियों को जासूसी के चिंताओं के बीच साइबर सुरक्षा जोखिमों का सामना करना पड़ रहा है

ताल फेल्डमैन और इब्राहिम दागर का तर्क है कि शीर्ष अमेरिकी कृत्रिम बुद्धिमत्ता कंपनियों पर कमजोर साइबर सुरक्षा देश के चीन के खिलाफ लाभ को खतरे में डालती है। फेल्डमैन और दागर का तर्क है कि वाशिंगटन एक और कानून पारित किए बिना अधिक मजबूत सुरक्षा की मांग कर सकता है। लेखकों का दावा है कि सार्वजनिक बहस ने सही ढंग से AI एजेंट्स द्वारा अन्य कंपनियों पर हमलों पर ध्यान दिया है, लेकिन यह नज़रअंदाज़ कर दिया है कि AI कंपनियाँ हमलों को रोक सकती हैं या नहीं।

हाल ही में ओपनएआई को पता चला कि एक सऊदी कर्मचारी ने एक एग्जीक्यूटिव मीटिंग रूम में ऑडियो रिकॉर्डिंग डिवाइस लगाने का आरोप लगाया है। ओपनएआई के सैन फ्रांसिस्को स्थित मुख्यालय में उस कमरे में वरिष्ठ कर्मचारी नियमित रूप से गोपनीय सामग्री, जिसमें स्वामित्व वाले शोध शामिल हैं, पर चर्चा करते हैं। जुलाई में, सुरक्षा दोषों की जांच करने वाले तीन शोधकर्ताओं ने ओपनएआई के प्रणालियों में प्रवेश किया और एल्गोरिदमिक रहस्यों से भरा एक आंतरिक कोड भंडार प्राप्त किया। ओपनएआई ने इन दोषों की रिपोर्ट करने के लिए शोधकर्ताओं को $6,500 का बोनस दिया। शोधकर्ताओं ने विशेष रूप से उन्नत हैकिंग उपकरणों के बिना 72 घंटे से कम समय में प्रवेश पूरा किया। एक शोधकर्ता ने दि वॉल स्ट्रीट जर्नल को बताया, "हम केवल तीन आदमी हैं जिनके पास क्लॉड और कोडेक्स सब्सक्रिप्शन हैं," जिसमें एंथ्रोपिक और ओपनएआई से प्राप्त सार्वजनिक कोडिंग एजेंट्स का हवाला दिया गया है। 2023 में, एक हैकर ने ओपनएआई के आंतरिक संदेश प्रणाली में प्रवेश किया और ओपनएआई के शोध के बारे में जानकारी प्राप्त की। ओपनएआई ने उस प्रवेश के बारे में FBI या सार्वजनिक को सूचित नहीं किया।

फेल्डमैन और दाघर का तर्क है कि चीन जैसे देशों के पास अमेरिकी AI कंपनियों में घुसपैठ के लिए आवश्यक उन्नत उपकरण, समय और प्रेरणा है। लेखकों का तर्क है कि अगर प्रतिद्वंद्वी अग्रणी अमेरिकी मॉडलों को चुरा लें, तो वे विकास लागत के भुगतान किए बिना पीछे रहने से बच सकते हैं। लेखक चेतावनी देते हैं कि उन्नत चिप्स की बिक्री पर प्रतिबंध और AI बुनियादी ढांचे में अरबों का निवेश कुछ भी नहीं कर पाएगा, जब तक कि प्रयोगशालाएं साइबर सुरक्षा को गंभीरता से नहीं लेतीं। लेखकों का तर्क है कि तीनों घटनाएं संभवतः एक व्यापक सुरक्षा समस्या का संकेत हैं।

AI कंपनियों ने जटिल जासूसी के खिलाफ अपर्याप्त सुरक्षा को स्वीकार कर लिया है। एंथ्रोपिक के मुख्य कार्यकारी अधिकारी डैरियो अमोदेई ने 2023 में कहा कि एक सरकार जो मॉडल-वेट्स चोरी को प्राथमिकता दे, वह एंथ्रोपिक के खिलाफ सफल हो जाएगी। मॉडल वेट्स लाखों संख्यात्मक मान होते हैं जो महीनों की महंगी प्रशिक्षण के माध्यम से उत्पन्न होते हैं और एक AI मॉडल का निर्माण करते हैं। हालाँकि, इस अगस्त की एंथ्रोपिक की जोखिम रिपोर्ट में अभी भी कहा गया है कि एंथ्रोपिक राष्ट्रीय-स्तरीय हमलावरों का सामना नहीं कर सकता और "वर्तमान में कोई भी अग्रणी AI विकासकर्ता इस मानदंड को पूरा नहीं करता।" पूर्व एंथ्रोपिक और OpenAI शोधकर्ता जेकब कॉक्सन ने तर्क दिया कि कोई भी संयुक्त राज्य का लाभ स्थायी नहीं हो सकता क्योंकि पeking जब चाहे, तब संयुक्त राज्य की प्रगति चुरा सकता है। माइल्स ब्रुंडेज, जिन्होंने OpenAI की उन्नत AI के लिए तैयारी पर काम किया, ने कहा कि AI कंपनियाँ स्टेट एक्टर्स को मॉडल वेट्स चुराने या उनमें हेरफेर करने से रोकने की क्षमता का दावा भी नहीं करतीं।

रैंड शोधकर्ताओं ने मॉडल वेट्स चुनौती देने के 38 तरीके पहचाने, जिसमें पोर्टेबल उपकरण लगाना, स्थापना से पहले हार्डवेयर में बदलाव करना और कर्मचारियों को भ्रष्टाचार करना या जबरदस्ती करना शामिल है। क्लाउड-कंपनी डेटा सेंटर एक और प्रवेश बिंदु प्रदान करते हैं क्योंकि एआई प्रयोगशालाएँ अक्सर इन सुविधाओं का उपयोग मॉडलों को प्रशिक्षित करने और संचालित करने के लिए करती हैं। इस उद्योग के एल्गोरिदमिक रहस्यों की पर्याप्त सुरक्षा भी नहीं है। अमोडी ने पिछले वर्ष काउंसिल ऑन फोरेन रिलेशंस को बताया कि "$100 मिलियन" के मूल्य के कुछ एआई-उद्योग रहस्य केवल कुछ पंक्तियों के कोड तक सीमित हैं। अमोडी ने कहा कि लोग निश्चित रूप से इन रहस्यों को चुनौती देने की कोशिश कर रहे हैं और शायद पहले ही सफल हो चुके हैं।

AI कंपनियाँ सुपरइंटेलिजेंस विकसित करने के लिए तीव्रता से प्रतिस्पर्धा कर रही हैं। साइबर सुरक्षा के लिए दिए गए पैसे और कर्मचारियों का समय अगले मॉडल को प्रशिक्षित करने के लिए उपलब्ध नहीं हो सकता। एंथ्रोपिक ने तर्क दिया है कि अच्छी तरह से वित्तपोषित राज्य हमलावरों का प्रतिरोध करना उद्योग की साइबर सुरक्षा की प्राथमिकता होनी चाहिए। हालाँकि, एंथ्रोपिक ने कहा कि कंपनी "इस प्राथमिकता का पालन स्वतंत्र रूप से करने के लिए प्रतिबद्ध नहीं हो सकती।"

पिछले वर्ष कांग्रेस ने पेंटागन को खरीदे गए AI के लिए सुरक्षा आवश्यकताएँ निर्धारित करने और उन आवश्यकताओं को संबंधित ठेकेदारों और क्लाउड प्रदाताओं पर लागू करने का निर्देश दिया था। 10 महीने बाद भी पेंटागन ने सार्वजनिक नियम-संशोधन प्रक्रिया शुरू नहीं की है। व्यापार विभाग मॉडल निर्यातों को लाइसेंसिंग के अधीन कर सकता है और लाइसेंस को केवल उन प्रयोगशालाओं तक सीमित कर सकता है जो सुरक्षा आवश्यकताओं को पूरा करती हों। ट्रंप प्रशासन ने इस अधिकार का उपयोग जून में Anthropic को Mythos और Fable को बाजार से विड्रॉ करने के लिए मजबूर करने के लिए किया। संघीय सरकार डेटा-केंद्र निर्माण के समर्थन में ऋणों और भूमि किराए पर सुरक्षा प्रतिबंधों को जोड़ सकती है। इस दृष्टिकोण के तहत, केवल ऐसी AI कंपनियाँ ही संघीय वित्तपोषण प्राप्त कर सकती हैं या सार्वजनिक भूमि का उपयोग कर सकती हैं, जो कठोर सुरक्षा आवश्यकताओं को पूरा करती हों। फेल्मैन और दागर का निष्कर्ष है कि एक विदेशी सरकार, जिसके पास पर्याप्त धन हो और असीमित समय हो, OpenAI में सुगमता से सम्मिलित हो सकती है, क्योंकि केवल तीन शोधकर्ता, जिन्होंने Claude सब्सक्रिप्शन का उपयोग किया, तीन दिनों में ऐसा कर सके।