فشل ختم محتوى ميتا في كشف 55٪ من الصور المقطوعة التي أنشأها الذكاء الاصطناعي

أطلقت ميتا للتو نظام "Content Seal"، وهو نظام علامة مائية غير مرئية مصمم لتحديد الصور والفيديوهات التي أنشأها نماذج Muse AI الجديدة الخاصة بها. من المفترض أن تتحمل هذه التقنية العقبات المعتادة لتحويلات وسائل التواصل الاجتماعي: القص، التغيير في الحجم، الضغط، وغيرها.

هذا هو الأمر. وجد التحقق المستقل من رويترز أن Content Seal فشلت في التعرف على أكثر من 55% من الصور المُولَّدة بالذكاء الاصطناعي والمُقطَّعة. بالنسبة لأداة مصممة خصيصًا لمقاومة التحرير، هذا انطباع أولي غير جيد.

أُطلق في 7 يوليو، يُدمج Content Seal علامة مائية غير مرئية في الصور والفيديوهات التي تنتجها نماذج Meta Muse Image وMuse Video، المطورة في مختبرات Meta Superintelligence. فكر فيها كبصمة رقمية مدمجة في البكسلات نفسها، والتي من المفترض أن تبقى حتى بعد التقاط لقطة شاشة أو قص أو ضغط الملف.

كما أطلقت ميتا أداة كشف قائمة على الويب على meta.ai/identification، حيث يمكن لأي شخص رفع صورة والتحقق مما إذا كانت تحمل علامة مائية لختم المحتوى.

جاء هذا التحرك بعد أن مارست لجنة الرقابة التابعة لميتا ضغوطًا علنية على الشركة في مارس لـ "الوفاء بالتزاماتها العامة واستخدام أدواتها الخاصة" لمكافحة انتشار محتوى الذكاء الاصطناعي التوليدي المضلّل.

لكن جاء الرد كشيء أقرب إلى حاشية. تم الإعلان عن Content Seal جنبًا إلى جنب مع أدوات جيل Muse الأكثر إثارة، مُدفونة ضمن طرح المنتج بدلاً من وضعها كإنجاز رئيسي في مجال الثقة والسلامة كما ينبغي أن تكون.

اختبارت رويترز Content Seal بعد ثلاثة أيام فقط من الإطلاق، في 10 يوليو. كانت النتائج مقلقة. فبينما حدد النظام بدقة الصور الأصلية غير المعدلة التي أنشأها الذكاء الاصطناعي، فقد فات أكثر من نصف الإصدارات المقطوعة. وهذا مهم لأن القطع من أكثر الأمور شيوعًا التي يقوم بها الناس قبل مشاركة صورة.

هناك أيضًا مشكلة هيكلية أعمق قيد التطبيق. يعمل Content Seal خارج المعايير الصناعية الحالية تمامًا. إن ميتا عضو في تحالف C2PA، الذي يضم أدوب و مايكروسوفت و جوجل، والذي طوّر Content Credentials كمعيار مفتوح لبيانات الأصل. ولدى جوجل نظامها الخاص لوضع العلامات المائية SynthID. Content Seal غير متوافق مع أي منهما.

هذا التجزئة يجعل الحياة أصعب للمنصات ومدققي الحقائق والمطورين الذين يحاولون بناء أدوات يمكنها اكتشاف المحتوى المُنشأ بالذكاء الاصطناعي بشكل موثوق على نطاق واسع. بدلاً من معيار تحقق واحد يمكن للإنترنت التوحد حوله، يتشتت النظام البيئي إلى أسرار مغلقة.

تستخدم شهادات المحتوى C2PA بالفعل التوقيع التشفيري لربط بيانات وصفية قابلة للتحقق بملفات الوسائط. السؤال الذي تثيره بشكل طبيعي قيود Content Seal هو ما إذا كان يمكن لطبقة أصل موزعة ومربوطة بسلسلة الكتل أن تقوم بالمهمة بشكل أكثر موثوقية من أي علامة مائية حصرية تملكها شركة واحدة.

استكشفت عدة مشاريع في مجال Web3 هذه الفكرة بالضبط: سجلات محتوى غير قابلة للتغيير حيث يتم تسجيل تاريخ إنشاء الأصل الرقمي على السلسلة ويمكن التحقق منه من قبل أي شخص دون الحاجة إلى الثقة في وسيط مؤسسي.

يأخذ قانون الذكاء الاصطناعي في الاتحاد الأوروبي بالفعل متطلبات وضع علامات إلزامية على المحتوى المولد بالذكاء الاصطناعي، وأي معيار تُقرّه الجهات التنظيمية في النهاية سيكون له قوة سوقية هائلة.