Anthropic का सबसे अप्रिय पहलू यह है कि वह वास्तव में मानती है कि जब तक वह अच्छा करने का इरादा रखती है, तब तक वह अपने उपयोगकर्ताओं के लिए कई निर्णय ले सकती है। उसने हाल ही में 154 पृष्ठों की एक Threat Intelligence Report जारी की, जिसमें Claude का उपयोग साइबर हमलों, धोखाधड़ी, जैविक अनुसंधान, हथियार विकास, मॉडल डिस्टिलेशन आदि में कैसे किया गया, इसके मामले संकलित किए गए हैं। ये मामले कहाँ से आए? Anthropic यह देखती है कि उपयोगकर्ता Claude का कैसे उपयोग कर रहे हैं, जब वह किसी संदिग्ध खाते को पहचानती है, तो उसकी जांच करती है, उन लोगों के उपयोग के तरीकों का विश्लेषण करती है, और फिर यह निर्णय लेती है कि क्या कोई उपयोगकर्ता सीमा पार कर रहा है। जब खतरा महसूस होता है, तो खाता बंद कर दिया जाता है। इसके बाद, वह इन मामलों को संकलित करके एक प्रतिवेदन जारी करती है, जिसमें वह स्पष्ट करती है कि उसने क्या पाया और क्या रोका। और Anthropic पहले भी कई बार ऐसा कर चुकी है। वह सच्चे उपयोगकर्ताओं और Claude के संवादों का अध्ययन करती है, ताकि पता चल सके कि मनुष्य AI से क्या चर्चा करते हैं, AI पर कितना निर्भर होते हैं, मनुष्य के मूल्य क्या हैं, और किन परिस्थितियों में मनुष्य को कोई भावना होती है। वह आपको बताएगी कि डेटा को प्राइवेसी के संदर्भ में प्रोसेस किया गया है, और ये अध्ययन AI को सुरक्षित बनाने के लिए किए गए हैं। लेकिन मुझे लगता है कि यह सब सचमुच स्वार्थी है। क्यों? क्योंकि सिर्फ "AI सुरक्षा" कहने से, आपको पता होना चाहिए कि प्रत्येक प्रयोगकर्ता क्या कर रहा है? क्यों? क्योंकि मुझे पता है, AI सुरक्षा के मुद्दे पर, प्रयोगकर्ता के डेटा को संशोधित करने में महत्वपूर्ण माना जाना चाहिए? अगर Anthropic मानती है कि कोई प्रतिष्ठान-आधारित प्रथा, कोई राजनीतिक चर्चा, कोई प्रौढ़ सामग्री, ya AI-आधारित प्रयोग,उसके मूल्यों से मेल नहींखाता,तोक्यावहउसकीजांचकरसकतीहै?उसपरप्रतिबंधलगासकतीहै?उसखातेकोबंदकरसकतीहै? Anthropicकीवर्तमानतर्कशैलीअनुसार,ज़रूर। क्योंकिवहएकबातकोअपनेआधारमानतीहै: Anthropicउपयोगकर्ताओंसेअधिकजानतीहैकि"क्याकरनेकेलिए"और"क्यानहींकरनेकेलिए"। इसीलिएमैंAnthropicकेप्रस्तुतAI Safetyप्रणालीपरविश्वासनहींकरता। एकऐसीकंपनीजोअपनेआपकोAIद्वारामनुष्यद्वारानिर्णयलेनेकेखतरेकेबारेमेंचिंतितबतातीहै,खुदउपयोगकर्ताओंकेलिएनिर्णयलेनेमेंअधिकआदतबनचुकीहै।बहुतबुढ़ापनहै—बुढ़ापनअवश्यहीपराजितहोगा।