मेटा ने हाल ही में कंटेंट सील लॉन्च किया है, जो एक अदृश्य जलनखुदाई प्रणाली है जिसे इसके नए म्यूज़ AI मॉडल्स द्वारा बनाए गए चित्रों और वीडियो को चिह्नित करने के लिए डिज़ाइन किया गया है। यह तकनीक सामान्य सोशल मीडिया परिवर्तनों—जैसे क्रॉपिंग, रीसाइजिंग, संपीड़न—का सामना करने में सक्षम होनी चाहिए।
यहाँ बात यह है। रॉयटर्स द्वारा स्वतंत्र परीक्षण में पाया गया कि कंटेंट सील ने 55% से अधिक क्रॉप किए गए एआई-जनित चित्रों की पहचान नहीं की। एक ऐसे टूल के लिए जो विशेष रूप से संपादन के प्रति सहनशील होने के लिए बनाया गया है, यह एक अच्छा पहला प्रभाव नहीं है।
कॉन्टेंट सील वास्तव में क्या करता है
7 जुलाई को लॉन्च किया गया, कंटेंट सील Meta के Muse Image और Muse Video मॉडल्स द्वारा उत्पादित छवियों और वीडियो में एक अदृश्य वॉटरमार्क एम्बेड करता है, जो Meta Superintelligence Labs पर विकसित किए गए हैं। इसे अपने पिक्सल्स में ही बुना हुआ एक डिजिटल फिंगरप्रिंट के रूप में सोचें, जो यहां तक कि किसी के द्वारा स्क्रीनशॉट लेने, क्रॉप करने या फ़ाइल को संपीड़ित करने के बाद भी बना रहता है।
मेटा ने meta.ai/identification पर एक वेब-आधारित पता लगाने का उपकरण भी लॉन्च किया है, जहां कोई भी एक छवि अपलोड कर सकता है और जांच सकता है कि क्या इसमें कंटेंट सील वॉटरमार्क है।
यह कदम उसके बाद आया जब मेटा की अपनी अवलोकन बोर्ड ने मार्च में सार्वजनिक रूप से कंपनी पर दबाव डाला कि वह "अपने सार्वजनिक प्रतिबद्धताओं को पूरा करे और धोखेबाजी वाली जनरेटिव एआई सामग्री के प्रसार को रोकने के लिए अपने ही उपकरणों का उपयोग करे।"
लेकिन जवाब एक टिप्पणी के बराबर प्राप्त हुआ। कंटेंट सील की घोषणा म्यूज़ जनरेशन टूल्स के साथ की गई, जो उत्पाद लॉन्च के दौरान दब गई, बजाय इसे उस विश्वास और सुरक्षा के मील के पत्थर के रूप में स्थित किए जाने के, जिसका यह दावा कर सकता है।
55% समस्या और खंडितता समस्या
रॉयटर्स ने कंटेंट सील का परीक्षण लॉन्च के तीन दिन बाद, 10 जुलाई को किया। परिणाम चिंताजनक थे। जबकि प्रणाली ने मूल, अपरिवर्तित AI-जनित छवियों की पहचान सही ढंग से की, लेकिन उसने लगभग आधी से अधिक क्रॉप की गई छवियों को छोड़ दिया। यह मायने रखता है क्योंकि छवि साझा करने से पहले लोगों द्वारा क्रॉपिंग सबसे सामान्य कार्यों में से एक है।
इसके अलावा, एक गहरी संरचनात्मक समस्या भी मौजूद है। कंटेंट सील मौजूदा उद्योग मानकों के बाहर पूरी तरह से कार्य करता है। मेटा C2PA साझेदारी का सदस्य है, जिसमें एडोबी, माइक्रोसॉफ्ट और गूगल शामिल हैं, और जिसने प्रोवेनेंस मेटाडेटा के लिए कंटेंट क्रेडेंशियल्स नामक एक खुला मानक विकसित किया है। गूगल के पास अपना सिंथआईडी वॉटरमार्किंग सिस्टम है। कंटेंट सील दोनों के साथ संगत नहीं है।
यह अलगाव मंचों, तथ्य जाँचकर्ताओं और विकासकों के लिए जीवन को कठिन बना देता है, जो बड़े पैमाने पर AI-उत्पादित सामग्री का विश्वसनीय ढंग से पता लगाने के लिए उपकरण बनाने की कोशिश कर रहे हैं। इंटरनेट जिस एक सत्यापन मानक के चारों ओर एकत्र हो सकता है, उसके बजाय परितंत्र स्वामित्व वाले सिलो में टूट रहा है।
क्रिप्टो और ब्लॉकचेन दुनिया को ध्यान देना चाहिए
C2PA कंटेंट क्रेडेंशियल्स पहले से ही क्रिप्टोग्राफिक साइनिंग का उपयोग करके मीडिया फाइलों में वेरिफाय करने योग्य मेटाडेटा जोड़ते हैं। कंटेंट सील की सीमाओं द्वारा स्वाभाविक रूप से उठाया गया प्रश्न यह है कि क्या एक डिसेंट्रलाइज्ड, ब्लॉकचेन-अंकित प्रोवेनेंस लेयर किसी एक कंपनी के प्रोप्राइटरी वॉटरमार्क की तुलना में अधिक विश्वसनीयता से काम कर सकती है।
वेब3 क्षेत्र में कई प्रोजेक्ट्स ने इसी विचार का अन्वेषण किया है: अपरिवर्तनीय सामग्री रजिस्ट्री, जहां डिजिटल संपत्ति के निर्माण का इतिहास ऑन-चेन पर दर्ज किया जाता है और कोई भी कॉर्पोरेट मध्यस्थ पर भरोसा किए बिना इसे सत्यापित कर सकता है।
यूई का एआई अधिनियम पहले से ही एआई-उत्पादित सामग्री के लिए अनिवार्य लेबलिंग आवश्यकताओं को ध्यान में रखता है, और जो भी मानक नियामक अंततः स्वीकार करेंगे, उसकी विशाल बाजार शक्ति होगी।