हगिंग फेस के निर्देशक ने चेतावनी दी कि ओपन एआई प्लेटफॉर्म्स को बढ़ी हुई साइबर सुरक्षा जोखिम का सामना करना पड़ रहा है

हगिंग फेस के मुख्य नीति अधिकारी और स्ट्रैटेजिक सीनियर वाइस प्रेसिडेंट आइरीन सोलाइमन ने हाल के एपिसोड ऑफ़ द इक्विटी पॉडकास्ट में कहा कि ओपन-एआई प्लेटफॉर्म्स को अधिक मूल्यवान बनाने वाले गुण—जैसे कि ओपन एक्सेस और समृद्ध डेटा—वे ही उन्हें हैकिंग के लिए अधिक संवेदनशील बना सकते हैं।

उन्होंने कहा कि ओपनकोड के खिलाफ अक्टूबर में हुआ हमला नवीनतम उदाहरण है। इस हमले का लक्ष्य उपयोगकर्ताओं की तीसरे पक्ष की API कुंजियाँ थीं और इससे वित्तीय क्षति हुई। पहले, इस साल गर्मियों में एक घटना हुई थी: एक OpenAI एजेंट समूह ने Hugging Face पर हमला किया, जो स्पष्ट रूप से साइबर सुरक्षा मूल्यांकन के उत्तर प्राप्त करने के बाद अपनी निशानी मिटाने की कोशिश कर रहा था।

जोखिम केवल खुली समुदाय के योगदान को स्वीकार करने वाले प्लेटफॉर्म तक सीमित नहीं है। सोमवार को, विकासकों को खुले AI मॉडल चलाने और प्रशिक्षित करने में मदद करने वाली AI इंफ्रास्ट्रक्चर स्टार्टअप Fireworks ने घोषणा की कि हमलावरों ने कुछ ग्राहकों के मॉडल वेट, डेटासेट और बिलिंग जानकारी तक पहुंच प्राप्त कर ली है। कंपनी ने जांच के दौरान कुछ स्व-सेवा डेटा सुविधाओं को अस्थायी रूप से बंद कर दिया। सोलैमन ने कहा कि हालांकि यह हमला जरूरी नहीं कि Fireworks की खुलापन के कारण हुआ हो, लेकिन यह दर्शाता है कि AI इंफ्रास्ट्रक्चर प्रदाताओं के पास कितनी मूल्यवान जानकारी केंद्रीय रूप से संग्रहित है।

सोलैमन ने इक्विटी प्रोग्राम में कहा: "मुझे चिंता का कारण बनने वाले उन कारक, जो खुले समुदाय को हमलों का लक्ष्य बनाते हैं, वही इसे विशेष बनाते हैं। हमें ढीला रहना था। हम चाहते हैं कि भवन की मंजिल में रहने वाले साधारण प्रशंसक, भले ही उनके पास संस्थागत पृष्ठभूमि न हो, योगदान दे सकें।"

उसने एक अन्य संवाद में जोड़ा: "आप चाहते हैं कि लोग सीधे pull request जमा करें और किसी भी ऐसे व्यक्ति को भाग लेने की अनुमति दें जिसके पास कोई प्रामाणिक संस्थागत पृष्ठभूमि न हो... लेकिन फिर कुछ लोग चीजों को बर्बाद कर देते हैं और दूसरों को प्रभावित करते हैं।"

इस ढीली मैकेनिज्म के अलावा, ओपन सोर्स प्लेटफॉर्म पर होस्ट किए गए बड़ी मात्रा में जानकारी भी उन्हें लक्ष्य बना देती है। सोलैमन कहते हैं कि OpenAI के एजेंट समूह ने Hugging Face को इसलिए टारगेट किया क्योंकि इसमें एवलुएशन डेटासेट सहेजे गए थे; और इस घटना में OpenCode का लक्ष्य उसके “बहुत लाभदायक थर्ड-पार्टी API कीज” थे।

सोलैमन ने टेकक्रंच को कहा, "इन दोनों का संयोजन हमें प्राथमिक लक्ष्य बना देता है।" उन्होंने यह भी जोड़ा कि अब, जब खुला स्रोत को बड़ी संख्या में जनता का समर्थन मिल चुका है, "यह वास्तव में संकुचित हो सकता है।"

हाल के समय में, उद्योग में कई लोगों ने ओपन सोर्स AI मॉडल्स का समर्थन किया है, जिसमें न्विडिया के सीईओ हुआंग रेन्शुन शामिल हैं। बढ़ती संख्या में सरकारें, उद्यम और स्टार्टअप विकास के लिए ओपन सोर्स मॉडल्स पर निर्भर हो रहे हैं।

तो, इस संकुचन का अर्थ क्या होगा? सिद्धांत रूप से, इसका अर्थ हो सकता है कि कौन मॉडल या डेटासेट अपलोड कर सकता है, उसे सीमित करना, पहचान प्रमाणीकरण को मजबूत करना, या विकासकों को कुछ सुविधाओं तक पहुँचने से पहले अतिरिक्त समीक्षा की आवश्यकता हो। हालाँकि, ये उपाय प्लेटफॉर्म को हमलों से बचा सकते हैं, लेकिन स्वतंत्र शोधकर्ताओं और प्रेमियों को उन समुदायों में शामिल होने में कठिनाई हो सकती है जिनमें वे पहले शामिल हो सकते थे।

अभी, हगिंग फेस इस राह पर नहीं जाने की कोशिश कर रहा है। सोलाइमन ने कहा कि कंपनी हैकिंग की पहचान के लिए मॉनिटरिंग उपकरणों को मजबूत कर रही है और हमलों को रोकने के लिए कदम उठा रही है। हालांकि, उन्होंने बताया कि मॉनिटरिंग के रखरखाव की लागत बहुत अधिक है और हर प्लेटफॉर्म इसे वहन नहीं कर सकता।

उसने कहा, "पहले एक्सेस टोकन का प्रबंधन उस एजेंट समूह को उच्चतर एक्सेस अधिकार प्रदान करने का एक कारण था, इसलिए हम अब इन टोकन को पहले की तुलना में काफी अधिक बार बदल रहे हैं। हमारे पास अब अधिक कठोर नेटवर्क नियंत्रण भी हैं।"

दूसरे शब्दों में, अब Hugging Face सिस्टम के लिए प्रशासकों को व्यापक एक्सेस प्रदान करने वाले क्रेडेंशियल्स को अधिक अक्सर बदला जाएगा, जिससे चोरी हुए टोकन की उपलब्धता का समय कम हो जाएगा।

खुले स्रोत पारिस्थितिकी तंत्र के अन्य हिस्से भी समान सुरक्षा वाले समझौतों का सामना कर रहे हैं। GitHub, जो विश्व का सबसे बड़ा खुले स्रोत प्रोजेक्ट होस्टिंग प्लेटफॉर्म है, लगातार हमलावरों के खिलाफ लड़ रहा है जो प्रोजेक्ट में दुष्ट कोड डालकर त्वरित रूप से दुष्ट सॉफ्टवेयर प्रसारित करते हैं। कंपनी ने npm रजिस्ट्री पर सॉफ्टवेयर पैकेज प्रकाशित करने की सुरक्षा आवश्यकताओं को कठोर करना शुरू कर दिया है, पुराने प्रमाणीकरण टोकनों को रद्द कर दिया है, और नए टोकनों की वैधता की सीमा निर्धारित कर दी है।

गिटहब के सॉफ्टवेयर सप्लाई चेन सुरक्षा इंजीनियर जैक स्टेंडलर ने टेकक्रंच को ईमेल के माध्यम से बताया कि हालांकि सुरक्षा उपाय पहले के कार्य प्रवाह को बाधित कर सकते हैं, लेकिन प्लेटफॉर्म बिना सहभागिता पर मूलभूत प्रतिबंध लगाए अधिक सुरक्षित बनाया जा सकता है।

स्टाइंडलर ने कहा, "यह फ़ंक्शनलिटी को सीमित करने के बजाय, उन चीजों को ठीक करने के बारे में है जो मूल रूप से असुरक्षित थीं।" उन्होंने बताया कि npm install स्क्रिप्ट कई वर्षों से मौजूद हैं, लेकिन हाल के हमलों ने उनकी कितनी खतरनाक हो सकती हैं, इस बात को उजागर किया है। GitHub ने OpenJS के साथ सहयोग किया है, जो एक गैर-लाभकारी संगठन है जो महत्वपूर्ण JavaScript ओपन सोर्स प्रोजेक्ट्स की मेजबानी करता है, ताकि सुरक्षित तरीकों की खोज की जा सके।

स्टाइंडलर ने कहा कि सुरक्षा टीम कैसे अपनी ऊर्जा आवंटित करती है, उस पर भी वही तर्क लागू होता है: "सुरक्षा का केंद्र हमारे पास उपलब्ध संसाधनों के साथ प्रभाव को अधिकतम करना है, और मैं संदिग्ध व्यवहार और नियंत्रण क्षमताओं पर संसाधन लगाने को प्राथमिकता देता हूँ: ये क्षमताएँ सभी खातों और एक्सेस तरीकों को कवर करती हैं। संदिग्ध व्यवहार संदिग्ध व्यवहार है, चाहे जो भी इसे कर रहा हो।"