میٹا نے صرف Content Seal کو جاری کیا ہے، جو ایک ناپید واٹر مارکنگ سسٹم ہے جو اس کے نئے Muse AI ماڈلز سے بنائے گئے تصاویر اور ویڈیوز کو نشان زد کرنے کے لیے ڈیزائن کیا گیا ہے۔ یہ ٹیکنالوجی سوشل میڈیا کے معمولی تبدیلیوں — جیسے کروپنگ، ری سائزنگ، کمپریشن — کا مقابلہ کرنے کے لیے ڈیزائن کی گئی ہے۔
یہ بات ہے کہ ریوٹرز کی جانب سے کیے گئے مستقل ٹیسٹنگ میں پایا گیا کہ کنٹینٹ سیل نے 55 فیصد سے زیادہ کروپ کیے گئے AI جنریٹڈ تصاویر کی شناخت نہیں کی۔ ایک ایسے ٹول کے لیے جو خاص طور پر ترمیم کا مقابلہ کرنے کے لیے بنایا گیا ہے، یہ اچھا پہلا اندازہ نہیں ہے۔
کنٹینٹ سیل اصل میں کیا کرتا ہے
7 جولائی کو شروع کیا گیا، کنٹینٹ سیل Meta کے Muse Image اور Muse Video ماڈلز میں بنائے گئے تصاویر اور ویڈیوز میں ایک ناپید واتر مارک شامل کرتا ہے، جو Meta Superintelligence Labs میں تیار کیے گئے ہیں۔ اسے اپنے پکسلز میں ہی ڈالے گئے ایک ڈیجیٹل انگریزی کی طرح سمجھیں، جو کسی کے سکرین شاٹ لینے، کراپ کرنے یا فائل کو کمپریس کرنے کے باوجود بھی برقرار رہنا چاہیے۔
میٹا نے meta.ai/identification پر ایک ویب بنیادی تشخیص ٹول بھی شروع کیا ہے جہاں کوئی بھی ایک تصویر اپ لوڈ کر سکتا ہے اور چیک کر سکتا ہے کہ کیا اس پر کنٹینٹ سیل واٹر مارک ہے۔
یہ اقدام اس بات کے بعد آیا کہ میٹا کی اپنی نگرانی بورڈ نے مارچ میں کمپنی پر علنی طور پر دباؤ ڈالا کہ وہ اپنے عوامی الزامات پورے کرے اور جھوٹی جنریٹو AI مواد کے فیلٹر کو روکنے کے لیے اپنے ہی ٹولز استعمال کرے۔
لیکن جواب ایک حاشیہ کے قریب پہنچ گیا۔ کنٹینٹ سیل کا اعلان میوز جنریشن ٹولز کے ساتھ کیا گیا، جو مصنوعات کے اطلاق کے دوران دفن رہا، جبکہ اسے ایک ایسا ٹرس اور سیفٹی اہمیت کے طور پر نہیں سمجھا گیا جو اس کا حق ہے۔
55 فیصد کا مسئلہ اور تفرقہ کا مسئلہ
رویٹرز نے کنٹینٹ سیل کا آزمائش صرف لانچ کے تین دن بعد، 10 جولائی کو کیا۔ نتائج متاثر کن تھے۔ جبکہ سسٹم نے اصل، غیر تبدیل شدہ AI جنریٹڈ تصاویر کو درست طریقے سے پہچان لیا، لیکن اس نے نصف سے زیادہ کروپ شدہ ورژنز کو چھوڑ دیا۔ یہ اہم بات ہے کیونکہ تصویر شیئر کرنے سے پہلے لوگوں کی طرف سے کروپنگ ایک سب سے عام چیز ہے۔
اس کے علاوہ، ایک گہرا ساختی مسئلہ بھی موجود ہے۔ کنٹینٹ سیل موجودہ صنعتی معیارات کے باہر مکمل طور پر کام کرتا ہے۔ میٹا C2PA کوئلیشن کا رکن ہے، جس میں ایڈوب، مائیکروسافٹ اور گوگل شamil ہیں، اور جس نے پرووننس میٹا ڈیٹا کے لیے ایک اوپن معیار، کنٹینٹ کریڈنشلز تیار کیا ہے۔ گوگل کے پاس اپنا خود کا سینتھ آئیڈ واتر مارکنگ سسٹم بھی ہے۔ کنٹینٹ سیل دونوں کے ساتھ مطابقت رکھتا نہیں۔
یہ تفرق پلیٹ فارمز، فیک چیکرز، اور ای آئی جنریٹڈ مواد کو بڑے پیمانے پر قابل اعتماد طریقے سے پکڑنے کے لیے ٹولز تعمیر کرنے والے ڈویلپرز کے لیے زندگی کو مشکل بناتی ہے۔ انٹرنیٹ کے لیے ایک یکجا تصدیق معیار کے بجائے، ایکو سسٹم مخصوص سلوز میں تقسیم ہو رہا ہے۔
کیوں کریپٹو اور بلاک چین دنیا کو توجہ دینی چاہیے
C2PA کنٹینٹ کریڈنشلز پہلے ہی کرپٹوگرافک سائننگ کا استعمال کرتی ہیں تاکہ میڈیا فائلز کو قابل تصدیق میٹا ڈیٹا سے جوڑا جا سکے۔ کنٹینٹ سیل کی محدودیتوں کے نتیجے میں پیدا ہونے والا سوال یہ ہے کہ کیا ایک ڈیسینٹرلائزڈ، بلاک چین سے منسلک پرووننس لیئر کسی ایک کمپنی کے ملکی واتر مارک کے مقابلے میں زیادہ قابل اعتماد طریقے سے کام کر سکتی ہے۔
ویب3 کے شعبے میں کئی منصوبوں نے بالکل اس خیال کا جائزہ لیا ہے: غیر قابل تبدیل مواد رجسٹری جہاں ڈیجیٹل اثاثے کی تخلیقی تاریخ آن چین پر ریکارڈ ہوتی ہے اور کوئی بھی کاروباری واسطہ کے بغیر اس کی تصدیق کر سکتا ہے۔
یورپی یونین کا AI ایکٹ پہلے سے AI جنریٹڈ مواد کے لیے اجباری لیبلنگ کی ضرورت کو شامل کرتا ہے، اور جو بھی معیار ریگولیٹرز بالآخر منظور کریں گے، اس کی بہت بڑی مارکیٹ طاقت ہوگی۔