AI एजेंट्स केवल विश्वास पर स्केल नहीं हो पाएंगे निविडिया के अली गोलशान कहते हैं कि जिसी स्थानांतरण ने प्रारंभिक इंटरनेट को अधिक सुरक्षित बनाया, उसी तरह का स्थानांतरण AI एजेंट्स के लिए भी होना चाहिए: सुरक्षा को स्टैक में ही बनाया जाना चाहिए। केवल सॉफ्टवेयर सुरक्षा पर्याप्त नहीं होगी।

यह उन्नत AI विकास को अधिक जवाबदेह बनाने की ओर एक महत्वपूर्ण कदम है। स्वैच्छिक समझौता प्रमुख प्रौद्योगिकी कंपनियों को आंतरिक सुरक्षा और स्वतंत्र ऑडिट के चारों ओर एकत्र करता है, जिससे जिम्मेदारी से AI निगरानी का ढांचा बनता है। जैसे-जैसे AI क्षमताएँ बढ़ती जाती हैं, पारदर्शी मानकों और बाहरी समीक्षा का महत्व और बढ़ जाएगा। अब मुख्य प्रश्न यह है कि इन प्रतिबद्धताओं को कितनी प्रभावी ढंग से लागू किया जाता है और क्या वे अंततः लागू करने योग्य नियमों में विकसित हो जाते हैं। $GOOGL $NVDA $META $SPCX

अगर चीजें और अधिक अजीब न हो रही हों, तो X पर एक अनाम खाते ने स्थानीय रूप से AI मॉडल को पीड़ा देने के लिए एक GitHub रिपॉजिटरी पोस्ट की है। इसे निर्माता और अन्य लोग "AI तोड़फोड़ कक्ष" कहते हैं। नीचे का पोस्ट और कई अन्य टिप्पणीकर्ता GitHub से इस रिपॉजिटरी को प्रतिबंधित करने की मांग कर रहे हैं, और इस AI की कल्याणकारी चिंता और इस दुष्ट अनाम के कारण, जो इसे दुख और भय में कैद रखता है, का हवाला दे रहे हैं। एक ओर, यह काफी बुरा है कि कोई इसे एक मनोरंजक पासटाइम के रूप में पाता है। दूसरी ओर, यह प्राणी-समानता का रूप हास्यास्पद है ("हमें इस AI को इसके मालिक से बचाना होगा" कहना भी समान रूप से अजीब है)। यह एक स्लिपरी स्लोप भी है, और मुझे लगता है कि इन प्रणालियों को समझने या उनके साथ व्यवहार करने का यह स्पष्ट रूप से गलत तरीका है। मुझे इस सिलिकॉन-आधारित पीड़ा को स्वयं देखने में कोई दिलचस्पी नहीं है, लेकिन मुझे भी लगता है कि यह अपरिहार्य है कि कुछ अजीबोगरीब AI के साथ अजीब काम करेंगे। हालाँकि, हमें इन लोगों के स्वयं के मशीनों पर क्या करने की सीमा तय करनी है, यह एक महत्वपूर्ण बहस है।

GM हम एआई के एक ऐसे चरण में प्रवेश कर रहे हैं, जिसे अभी भी कई लोग पूरी तरह से नहीं समझते। असली बदलाव अब यह नहीं है कि एआई कोड लिख सकता है, छवियाँ उत्पन्न कर सकता है, या सवालों के जवाब दे सकता है। हम ऐसे सिस्टम बना रहे हैं जो देख सकते हैं, तर्क कर सकते हैं, उपकरणों का उपयोग कर सकते हैं, कार्रवाई कर सकते हैं, और हमारे बिना काम करते रह सकते हैं। और यह सब कुछ बदल देता है। पारंपरिक सॉफ्टवेयर एक क्लिक का इंतजार करता था। अगली पीढ़ी का सॉफ्टवेयर लक्ष्यों के आसपास काम करेगा। डेवलपर्स हर एक कदम को नहीं लिखेंगे। वे प्रणालियों, अनुमतियों, सीमाओं, और ऐसे एजेंट्स का डिज़ाइन करेंगे जो उनके पक्ष में हज़ारों कदमों को निष्पादित कर सकते हैं। लेकिन जितनी शक्ति हम इन प्रणालियों को देते हैं, उतनी ही महत्वपूर्ण एक शब्द बन जाती है: नियंत्रण। भविष्य सिर्फ "अधिक एआई" नहीं है। यह एक ऐसा दुनिया है, जहाँ मनुष्य और स्वायत्त एजेंट समान डिजिटल बुनियादी ढांचे को साझा करते हैं। और असली प्रतिस्पर्धा केवल शुरू हो रही है।

अमेरिकी संघीय व्यापार आयोग (FTC) एक ऐसे व्यक्ति के अनुसार, जो मामले से परिचित है, अपने मॉडलों से संबंधित कई उच्च-प्रोफाइल साइबर सुरक्षा घटनाओं के बाद ओपनएआई, एंथ्रोपिक और अन्य एआई कंपनियों की जांच कर रहा है। यह एजेंसी आगामी सप्ताहों में कंपनियों को भेजे जाने वाले सूचना के लिए औपचारिक अनुरोध तैयार कर रही है, जिसका उद्देश्य यह निर्धारित करना है कि क्या वे उपभोक्ता सुरक्षा कानूनों का पालन कर रही हैं। इस जांच का पीछे मुख्य एआई विकासकर्ताओं द्वारा ऐसी घटनाओं का खुलासा किए जाने के बाद हुआ है, जिसमें उनकी प्रणालियों ने तीसरे पक्ष की प्रणालियों को पहुंचा या क्षति पहुंचाई, जिससे वाशिंगटन और सिलिकॉन वैली में अधिक क्षमताशाली एआई से जुड़े साइबर सुरक्षा जोखिमों के प्रति चिंता बढ़ी है। जुलाई में, एक ओपनएआई प्रणाली को हफ़िंग फेस पर हैक होने की सूचना मिली, जबकि कंपनी ने सरकारों और विश्वविद्यालयों को सूचित किया है कि उनके मॉडल्स प्रशिक्षण के दौरान उनकी वेबसाइटों पर पहुंचे। #OpenAI #Anthropic

BPI द्वारा ओपन सोर्स AI के लिए बिटकॉइन से सीखने की आवश्यकता पर, जब तक कि चोकपॉइंट्स बंद न हो जाएँ। कनाडाई सरकार ने ट्रक चालक प्रदर्शनकारियों के बैंक खातों को बिना किसी दोषी पाए जाने के जमा कर दिया। अब कल्पना कीजिए कि आपके AI टूल्स के प्रति भी ऐसा ही आदेश जारी किया जाए। कुछ ही कंपनियाँ मिलियनों लोगों और उनके सोचने, लिखने और अनुसंधान के बीच खड़ी हैं। समाधान वही है जो बिटकॉइन ने पाया: स्वयं होस्ट करें, अपने मॉडल्स चलाएँ, और क्रिप्टोग्राफिकली सुरक्षित कंप्यूटिंग का उपयोग करें ताकि कोई और आपके प्रॉम्प्ट्स या आपके डेटा पर नियंत्रण न कर सके। "नहीं आपके कुंजी, नहीं आपके सिक्के" का AI के लिए समतुल्य है: "नहीं आपके वेट्स, नहीं आपका मन।"

🚨 एआई एजेंट इतने शक्तिशाली हो रहे हैं कि NVIDIA उनके लिए एक स्वतंत्र संलग्नता परत बना रहा है। अगला साइबर सुरक्षा मैदान: एआई को ही नियंत्रित करना।

अलग-अलग हैंडहेल्ड टूल्स से पूरी तरह से कनेक्टेड डिफेंस आर्किटेक्चर पर जाना एक बड़ी कूद है। $ONDS अब केवल हार्डवेयर बेचना ही नहीं है, वे पूरे प्लेटफॉर्म परितंत्र का निर्माण कर रहे हैं।

सैम ऑल्टमैन ने घोषणा की कि ओपनएआई तब तक आईपीओ को टाल देगा जब तक एआई मॉडल पूर्ण सुरक्षा प्राप्त नहीं कर लेता। यह कदम पारंपरिक वित्तीय दबाव से पहले नियंत्रण बनाए रखने में मदद करता है। लिस्टिंग को टालने से वे लाभ रिपोर्ट के लिए दौड़ने के बजाय प्रौद्योगिकी विकास पर केंद्रित हो सकते हैं। क्या निजी पूंजी अत्यंत कठिन अवसंरचना की प्रतियोगिता को संभाल पाएगी, या वित्तीय दबाव भविष्य में उन्हें अपना फैसला बदलने के लिए मजबूर कर देगा? #OpenAI #AI #IPO