सिग्नल के अध्यक्ष मेरेडिथ विट्टेकर ने ब्लूमबर्ग के साक्षात्कार में चैटजीपीटी, क्लॉड आदि चैटबॉट्स के बारे में बात करते हुए कहा कि उपयोगकर्ताओं को ऐसे सिस्टम को "दोस्त" या सक्रिय चेतना वाले संवाद भागीदार के रूप में नहीं देखना चाहिए। उन्होंने चर्चा को गोपनीयता और अधिकारों के मुद्दों पर केंद्रित किया, और माना कि जब ऐसे उपकरण व्यक्तिगत सेवाओं में गहराई से एकीकृत होते हैं, तो जोखिम तेजी से बढ़ जाते हैं।
विट्टेकर AI के उपयोग की सीमाओं पर
विट्टेकर ने कहा कि वह केवल कुछ सीमित परिदृश्यों में AI उपकरणों का उपयोग करती हैं, जैसे कि दस्तावेज़ों के फॉर्मेट को संगठित करना, लेकिन प्रश्न पूछने, सोचने और लिखने की प्रक्रिया को मॉडल पर नहीं छोड़तीं। उन्होंने कहा कि वह एक ऐसे सिस्टम को विकल्प नहीं बनने देना चाहतीं, जो पहले से मौजूद जानकारी के आधार पर उत्तर उत्पन्न करता है और व्यक्तिगत रूप से किए जाने वाले सोचने की प्रक्रिया को प्रतिस्थापित करता है।
चिंता बहु-ऐप से संवेदनशील अनुमतियाँ प्राप्त करने की
उसने माइक्रोसॉफ्ट के एआई बिजनेस के प्रमुख मुस्तफा सुलेमान द्वारा पहले प्रस्तावित एक कल्पना का जवाब भी दिया, जिसमें उपयोगकर्ता Microsoft Copilot को क्रिसमस की खरीदारी के लिए अपनी ओर से करने की अनुमति दे सकते हैं। व्हिटेकर का मानना है कि ऐसे स्थिति को साकार करने के लिए, सिस्टम को बहुत सारी व्यक्तिगत जानकारी पढ़नी होगी और कई सेवाओं के बीच कार्रवाई करनी होगी।
- क्रेडिट कार्ड और भुगतान जानकारी
- ब्राउज़र एक्सेस रिकॉर्ड
- Signal संदेश और संपर्क
उपरोक्त जानकारी के अलावा, ऐसे सिस्टम घर का पता, कैलेंडर शेड्यूल से भी संपर्क कर सकते हैं और उपयोगकर्ता के नाम पर परिवार और दोस्तों को संदेश भेज सकते हैं। वह मानती हैं कि यह एकल उपकरण के सहायक उपयोग से अधिक है; यह कई ऐप्स और सेवाओं तक व्यापक पहुंच है।
Signal considers such access as a backdoor risk
व्हिट्टेकर ने आगे कहा कि यदि इसी तरह की क्षमता को Signal जैसे एन्क्रिप्टेड संचार उत्पादों में शामिल किया जाए, तो उत्पाद सुरक्षा के दृष्टिकोण से यह लगभग एक "बैकडoor" स्थापित करने के समान है। उन्होंने इसके माध्यम से जोर दिया कि AI सहायक कार्य जितने अधिक कार्यों और प्रतिनिधि कार्रवाई के करीब होंगे, उतने ही अधिक उपयोगकर्ताओं को इस बात पर ध्यान देना चाहिए कि इसे वास्तव में कौन-सी अनुमतियाँ प्राप्त हैं।
यह बयान AI सहायक प्रतिस्पर्धा में एक लगातार विवाद को भी दर्शाता है: जब उत्पाद केवल प्रश्नों के उत्तर देने से आगे बढ़कर उपयोगकर्ता के कार्यों को संभालने लगता है, तो सुविधा और गोपनीयता संरक्षण के बीच टकराव अधिक सीधा हो जाता है।