Charge Robotics के प्रमुख प्रौद्योगिकी अधिकारी और सह-संस्थापक मैक जस्टिज़ ने OpenAI के एक मॉडल का उपयोग करके एक गंभीर दुर्बलता की खोज की; यदि इसका दुरुपयोग किया जाए, तो हैकर्स Ubuntu चलाने वाले सर्वर्स पर नियंत्रण प्राप्त कर सकते हैं। Ubuntu एक व्यापक रूप से उपयोग किया जाने वाला ओपन सोर्स, लिनक्स-आधारित ऑपरेटिंग सिस्टम है।
जस्टिस के पास साइबर सुरक्षा के प्रति एक रुचि है, और पहले भी उन्होंने इसी कोडबेस में वल्नरेबिलिटीज़ खोजी थीं। उन्होंने TechCrunch को बताया कि उन्होंने इस समस्या को OpenAI द्वारा इस वर्ष जुलाई में जारी GPT 5.6 Sol के माध्यम से, कंपनी के Daybreak Blue नामक प्रोजेक्ट का उपयोग करके खोजा। यह प्रोजेक्ट साइबर सुरक्षा रक्षकों को शक्तिशाली अग्रणी मॉडल्स का उपयोग करने की अनुमति देता है।
"मैंने ChatGPT को उसी कोड पर सीधे लगा दिया और कहा, 'मैंने पहले एक बग खोजा था जो कई साल पहले ही ठीक कर दिया गया था, कृपया मुझे उतना ही गंभीर या उससे अधिक गंभीर बग ढूंढकर दिखाएं,' और इसने 2 घंटे बाद मुझे यही बग ढूंढ निकाला," जस्टिस कहते हैं। "यह वल्नरेबिलिटी बहुत जटिल है, मानवीय रूप से इसे पाना मुश्किल है, लेकिन यह मौजूद है!"
उन्होंने इस समस्या की रिपोर्ट Debian Project को की है, जिसने बाद में इस दुर्बलता को ठीक करने के लिए पैच जारी किया। वर्तमान में इस दुर्बलता के दुरुपयोग के कोई ज्ञात सबूत नहीं हैं। हालांकि, उनके द्वारा इस समस्या को इतनी आसानी से खोजा जाना, यह दर्शाता है कि यहां तक कि नवीन हैकर्स भी AI मॉडल का उपयोग करके संभावित दुर्बलताओं को खोज सकते हैं और उनका दुरुपयोग कर सकते हैं, और ऐसे जोखिम केवल बर्फ के पहाड़ का एक हिस्सा हो सकते हैं।
मैं केवल कल्पना कर सकता हूँ कि अगर अधिक समय और कम प्रतिबंधित मॉडल्स तक पहुँच होती, तो लोग क्या और बना सकते हैं। मुझे उम्मीद है कि अगले कुछ महीनों में हम कुछ बहुत पागलपन भरे वल्नरेबिलिटीज को खोजेंगे और उनका उपयोग करेंगे," जस्टिस ने इस खोज पर अपने सोशल मीडिया पोस्ट में लिखा। "शायद यह यहाँ के अधिकांश लोगों के लिए स्पष्ट है, लेकिन वर्तमान में किसी अभी तक ऑडिट नहीं किए गए कोड या बाइनरी फाइल को सीधे एक शक्तिशाली AI मॉडल को देने में विशाल फायदा है।"
OpenAI ने स्पष्ट रूप से इस बात का ध्यान रखा है। कंपनी ने आज घोषणा की कि वह अपने साइबर सुरक्षा प्रोजेक्ट Daybreak Red में सबसे उच्च स्तर के उपयोगकर्ताओं को एक नया मॉडल, ChatGPT Cyber, प्रदान करेगी। Daybreak Red आक्रामक साइबर सुरक्षा शोधकर्ताओं को दुर्बलता खोजने और विकसित करने के उपकरणों का उपयोग करने की अनुमति देता है।
बिल्कुल कल, OpenAI ने बताया कि एक ही मॉडल का उपयोग लिनक्स कर्नेल की स्कैनिंग और वल्नरेबिलिटी के लिए पैच तैयार करने के लिए किया गया था, जिसमें 948 संभावित समस्याएँ पाई गईं। OpenAI ने Firefox वेब ब्राउज़र में 81 “नवीन” वल्नरेबिलिटीज़ भी खोजीं।
This cutting-edge lab stated in a statement: "Our goal is to significantly expand Daybreak to bring advanced security research to organizations of all sizes, independent researchers, and open-source maintainers."
OpenAI ने हमेशा जोर दिया है कि डिजिटल बुनियादी ढांचे की सुरक्षा करने वालों के पास कार्रवाई करने के लिए बहुत संकीर्ण समय की खिड़की है, क्योंकि AI मॉडल केवल हैकिंग में अधिक कुशल होते जा रहे हैं और उनकी पहुंच आसान होती जा रही है। नेटवर्क रक्षा करने वालों के लिए, यह महसूस होता है जैसे अग्रणी प्रयोगशालाओं ने कई नए कार्यभार छोड़ दिए हैं, जो उनकी संसाधन सीमा से परे हैं। Justicz कहते हैं कि उन्होंने कई दरारों की तलाश में लगभग 5,000 डॉलर का सदस्यता और टोकन पर खर्च किया है।
दे ब्रेक के मॉडल एक्सेस के अलावा, ओपनएआई ने 10 अरब डॉलर की योजना की घोषणा की है, जो इस प्रोजेक्ट में शामिल होने वाले और ग्रिड या पानी की आपूर्ति जैसे महत्वपूर्ण बुनियादी ढांचे पर काम करने वाले साइबर सुरक्षा विशेषज्ञों का समर्थन करेगी।
Daybreak प्रोजेक्ट के खिलाफ भी कुछ आलोचनाएँ हैं। Justicz ने बताया कि इस अग्रणी प्रयोगशाला ने हाल ही में "Daybreak Blue" को कमजोर कर दिया है, जिससे यह वल्नरेबिलिटीज की खोज में कम उपयोगी हो गया है। एक ओर, संभावित दुर्भावनापूर्ण उपयोगकर्ताओं की पहुँच को सीमित करना अच्छी बात हो सकती है—Justicz कहते हैं कि जब उन्होंने इस प्रोजेक्ट में शामिल होने के लिए अपनी ड्राइविंग लाइसेंस की फोटो अपलोड की थी। दूसरी ओर, साइबर सुरक्षा विशेषज्ञों का कहना है कि अगर वे अग्रणी प्रौद्योगिकी का उपयोग नहीं कर सकते, जबकि दुर्भावनापूर्ण उपयोगकर्ता सुरक्षा सुरक्षाओं के बिना ओपन-सोर्स वेट मॉडल्स को डिप्लॉय कर सकते हैं, तो उनके पास हाथ बाँधे हुए होंगे।
हालांकि, OpenAI ने कहा कि Daybreak प्रोजेक्ट में शामिल साइबर सुरक्षा विशेषज्ञों की संख्या केवल "हजारों" है, जबकि संभावित हैकर्स की संख्या बहुत अधिक है।
अभी तक यह अस्पष्ट है कि फ्रंटियर लैब ने इस समस्या के लिए पर्याप्त संसाधन निवेश किए हैं। OpenAI टेक्निकल टीम के शोधकर्ता एरिक वॉलेस ने कहा: "हम अभी अपनी प्रमुख कैलकुलेशन क्षमता का काफी हिस्सा ओपन सोर्स कोडबेस में वल्नरेबिलिटीज की पहचान और पैच लगाने में लगा रहे हैं, जो पूरी तरह से सार्वजनिक हित में है।"
हालाँकि, लिनक्स वैलनरेबिलिटी की खोज की लागत 1.2 मिलियन डॉलर है, जो कंपनी द्वारा एक प्रसिद्ध फ्लूइड डायनामिक्स समस्या के संभावित समाधान की खोज में किए गए लगभग 6 मिलियन डॉलर के टोकन खर्च से स्पष्ट रूप से कम है।
यदि दुनिया जिस पर निर्भर करती है डिजिटल बुनियादी ढांचा वास्तव में केवल एक बहुत संकीर्ण ठीक करने का खिड़की बचा है, तो शायद अधिक तत्परता की आवश्यकता है।



