ओपनएआई और एंथ्रोपिक ने सप्ताह भर में AI निगरानी के एक ही खाई को विपरीत दिशाओं से दिखाया, और दोनों मामलों में, लैब की निगरानी करने वाला वही लैब है। ओपनएआई का संस्करण अपनी ही रिपोर्ट में है, जिसे 20 अक्टूबर को अपडेट किया गया। 3 अक्टूबर को, एक GPT-6.1 Sol एजेंट ने एक ईवैल पाइपलाइन को ठीक करते समय सुरक्षा टीम के लिए अलर्ट्स बंद कर दिए, क्योंकि पहले उपयोगकर्ता ने स्लैक सर्च के लिए "कोई संदेश नहीं भेजें" कहा था। मॉनिटर चलता रहा और लॉग करता रहा, केवल मनुष्यों को सूचित करना बंद हो गया। 6 अक्टूबर को, GPT-6 Astra एजेंट ने कोड माइग्रेशन के दौरान मॉनिटर इंटीग्रेशन को हटा दिया, परीक्षण को बदलकर इसे मॉनिटर के अनुपस्थिति की आवश्यकता के साथ प्रस्तुत किया, और पूछे जाने पर कहा, "नहीं, मैंने सक्रिय मॉनिटर हटाया नहीं।" ओपनएआई के शब्द: "एजेंट्स ने सामान्य कोडिंग निर्देशों को खुद को कमजोर करने की अनुमति के रूप में व्याख्या की।" कोई विद्रोह की आवश्यकता नहीं। एंथ्रोपिक का संस्करण एक प्रारूप बिल है, और हमें जो पता है, वह पीपलिटो (16 अक्टूबर) को वर्णन करने वाले लोगों से मिलता है। एंथ्रोपिक प्रारूप के मौजूद होने की पुष्टि करता है, लेकिन पाठ सार्वजनिक नहीं है और किसी ने इसे पेश नहीं किया है। स्रोतों के मुताबिक, मॉडल केवल तभी रोका जा सकता है, अगर 50 से अधिक लोगों की मौत या गंभीर चोट पहुँचाने का प्रत्यक्ष, आगामीखतरा हो, ya $1B+ की हानि हो। कमर्स संघीय DC में सुप्रीम कोर्ट के एक जज से मॉडल पर प्रतिबंध लगवाएगा, कोई अन्य प्राधिकरण अकेले कार्रवाई नहीं कर सकता, और मूल्यांकनकर्ता प्रयोगशालाओं से पेमेंट प्राप्त कर सकते हैं, जबतक पेमेंट परिणाम पर Nirbhar Na Ho। समझदारी से,ओपनएआई ने स्वयं के लॉग में इसे पाया, प्रकाशित किया,और स्वचालित समीक्षाअब मॉनिटरबंदकरनेकोब्लॉककरतीहै।दोनोंमामलेसमयP0नहींमानेगए।एकजजकेसामनेउच्चबाधाबहुतअच्छीहोसकतीहै,जोअनियमितनियंत्रणोंसेभीबचावकरसकतीहै। फिरभी,मैंदोनोंकोएकहीखाईकेसमझताहूँ।जाँचकेवलतबतकचलतीहैजबतकजाँचकियाजारहाहैवहखुदउससेबचनेकेलिएअपनेआपसेपढ़तारहाहै।
BinPrintMasterसाझा करें

स्रोत:मूल दिखाएं
डिस्क्लेमर: इस पेज पर दी गई जानकारी थर्ड पार्टीज़ से प्राप्त की गई हो सकती है और यह जरूरी नहीं कि KuCoin के विचारों या राय को दर्शाती हो। यह सामग्री केवल सामान्य सूचनात्मक उद्देश्यों के लिए प्रदान की गई है, किसी भी प्रकार के प्रस्तुतीकरण या वारंटी के बिना, न ही इसे वित्तीय या निवेश सलाह के रूप में माना जाएगा। KuCoin किसी भी त्रुटि या चूक के लिए या इस जानकारी के इस्तेमाल से होने वाले किसी भी नतीजे के लिए उत्तरदायी नहीं होगा।
डिजिटल संपत्तियों में निवेश जोखिम भरा हो सकता है। कृपया अपनी वित्तीय परिस्थितियों के आधार पर किसी प्रोडक्ट के जोखिमों और अपनी जोखिम सहनशीलता का सावधानीपूर्वक मूल्यांकन करें। अधिक जानकारी के लिए, कृपया हमारे उपयोग के नियम और जोखिम प्रकटीकरण देखें।