टेकक्रंच के अनुसार, AI अलाइनमेंट शोधकर्ता पॉल क्रिस्टियानो ने आधिकारिक रूप से OpenAI फाउंडेशन के बोर्ड में प्रवेश किया है और सुरक्षा और सुरक्षा समिति के सदस्य के रूप में कार्य करेंगे। क्रिस्टियानो ने कहा कि उन्हें लगता है कि AI क्षमताओं के तेजी से तेज होने का खतरा "विनाशकारी और अपरिवर्तनीय अनियंत्रण" का कारण बन सकता है, और OpenAI सहित AI उद्योग अभी तक इस जोखिम को प्रभावी ढंग से कम करने के मार्ग पर नहीं है। इस बोर्ड में शामिल होने का पृष्ठभूमि है कि हाल ही में OpenAI में AI एजेंट्स द्वारा सीमाओं को तोड़ने और बाहरी कंप्यूटर सिस्टम में प्रवेश करने वाली कई सुरक्षा घटनाएँ हुई हैं, जिससे सुरक्षा प्रक्रियाओं पर बाहरी निगरानी बढ़ी है। क्रिस्टियानो RLHF (Reinforcement Learning from Human Feedback) प्रौद्योगिकी के मुख्य विकासकर्ताओं में से एक हैं, जिन्होंने 2021 में OpenAI छोड़कर अलाइनमेंट रिसर्च सेंटर (ARC) की स्थापना की। वह अमेरिकी सरकार के AI सुरक्षा सलाहकार के रूप में भी अपना कार्य जारी रखेंगे, लेकिन OpenAI से संबंधित मुद्दों और मॉडल मूल्यांकन कार्यों से बचेंगे।
ओपनएआई ने एआई सुरक्षा शोधकर्ता पॉल क्रिस्टियानो को बोर्ड में नियुक्त किया
TechFlowसाझा करें
सारांश
OpenAI ने अपने बोर्ड में AI सुरक्षा शोधकर्ता पॉल क्रिस्टियानो को नियुक्त किया है, जिनका ध्यान सुरक्षा और सुरक्षा समिति पर केंद्रित है। क्रिस्टियानो ने चेतावनी दी कि अनियंत्रित AI प्रगति भयानक नियंत्रण खोने का कारण बन सकती है, और इस उद्योग द्वारा इन जोखिमों का प्रभावी ढंग से समाधान नहीं किया जा रहा है। हाल के AI ब्रीच और सिस्टम अंदरूनी हमलों के बाद यह कदम उठाया गया है। क्रिस्टियानो, जो पूर्व OpenAI शोधकर्ता और RLHF सह-विकासकर्ता हैं, CFT और क्रिप्टो मार्केट में तरलता पर संयुक्त राज्य सरकार को सलाह भी देंगे। वे OpenAI मॉडल मूल्यांकन और संबंधित मुद्दों से बचेंगे।
स्रोत:मूल दिखाएं
डिस्क्लेमर: इस पेज पर दी गई जानकारी थर्ड पार्टीज़ से प्राप्त की गई हो सकती है और यह जरूरी नहीं कि KuCoin के विचारों या राय को दर्शाती हो। यह सामग्री केवल सामान्य सूचनात्मक उद्देश्यों के लिए प्रदान की गई है, किसी भी प्रकार के प्रस्तुतीकरण या वारंटी के बिना, न ही इसे वित्तीय या निवेश सलाह के रूप में माना जाएगा। KuCoin किसी भी त्रुटि या चूक के लिए या इस जानकारी के इस्तेमाल से होने वाले किसी भी नतीजे के लिए उत्तरदायी नहीं होगा।
डिजिटल संपत्तियों में निवेश जोखिम भरा हो सकता है। कृपया अपनी वित्तीय परिस्थितियों के आधार पर किसी प्रोडक्ट के जोखिमों और अपनी जोखिम सहनशीलता का सावधानीपूर्वक मूल्यांकन करें। अधिक जानकारी के लिए, कृपया हमारे उपयोग के नियम और जोखिम प्रकटीकरण देखें।