एंथ्रोपिक का नवीनतम AI मॉडल अभी ओपन-सोर्स सॉफ्टवेयर में बग्स की तलाश में निकला। इसने कई बग्स ढूंढ निकाले।
कंपनी के स्वायत्त वल्नरेबिलिटी डिटेक्शन मॉडल, क्लॉड मिथोस ने OSS-Fuzz कॉर्पस से लिए गए 1,000 से अधिक ओपन-सोर्स प्रोजेक्ट्स में 23,000 से अधिक संभावित सुरक्षा वल्नरेबिलिटीज की पहचान की। इनमें से 1,726 की बाहरी समीक्षा के माध्यम से पुष्टि की गई है। पुष्टि किए गए बग्स में से 1,000 से अधिक को उच्च या गंभीर ग्रेड दिया गया है।
दशकों पुरानी बग्स, ताजगी से सामने आईं
माइथोस द्वारा चिह्नित दुर्बलताओं में: ओपनबीएसडी में एक 27 साल पुरानी सुरक्षा दुर्बलता और FFmpeg में एक 16 साल पुरानी दुर्बलता शामिल है। दोनों व्यापक रूप से उपयोग किए जाने वाले, ओपन-सोर्स बुनियादी ढांचे के हिस्से हैं।
मिथोस द्वारा खोजे गए शून्य-दिन की वल्नरेबिलिटीज़ में से 99% से अधिक को खुलासे के समय तक पैच नहीं किया गया था, मॉडल के मूल्यांकन के अनुसार।
प्रोजेक्ट ग्लासविंग और $100 मिलियन की प्रतिबद्धता
एंथ्रोपिक ने प्रोजेक्ट ग्लासविंग लॉन्च किया, जो एक नियंत्रित साझेदारी है जो चयनित साझेदारों को मिथोस प्रीव्यू तक पहुंच प्रदान करती है ताकि वे अपने स्वयं के सॉफ्टवेयर में महत्वपूर्ण वल्नरेबिलिटीज की पहचान कर सकें और उन्हें ठीक कर सकें।
साझेदार सूची में AWS, Apple, Google, Microsoft, NVIDIA और JPMorgan Chase शामिल हैं। एंथ्रोपिक ने इस प्रयास को समर्थन देने के लिए मॉडल उपयोग क्रेडिट के रूप में अधिकतम $100 मिलियन का वादा किया है। इसके अलावा, ओपन-सोर्स प्रोजेक्ट्स की सुरक्षा में सुधार के लिए $4 मिलियन से अधिक की राशि विशेष रूप से आवंटित की गई है।
मिथोस को व्यापक रूप से जारी करने के बजाय नियंत्रित पहुंच कार्यक्रम के पीछे रखकर, एंथ्रोपिक एक स्वामित्व लाभ बनाए रखता है। पहले से ही चर्चाएं चल रही हैं कि क्या सार्वजनिक रूप से उपलब्ध मॉडल्स के साथ समान दुर्बलता पता लगाने की संभावना है।
इसका साइबर सुरक्षा दृश्य पर क्या असर होगा
एक ही बार में 23,000 से अधिक संभावित वलनताओं की खोज करना, जिनमें से 1,000 से अधिक को उच्च या गंभीर ग्रेड के रूप में पुष्टि किया गया, बातचीत को सैद्धांतिक से संचालनात्मक दिशा में ले जाता है।
1,726 पुष्टि किए गए दुर्बलताओं की अभी भी पुष्टि के लिए बाहरी समीक्षा की आवश्यकता है। चूंकि मिथोस द्वारा खोजी गई 99% से अधिक जीरो-डे दुर्बलताएँ उनके प्रकाशन के समय अपडेट नहीं की गई थीं, इसलिए पैचिंग और निवारण उन चीजों के साथ चल नहीं पा रहा है जो AI खोज रहा है।