Meta, yeni Muse AI modelleri tarafından oluşturulan görselleri ve videoları işaretlemek için görünmez bir su damlası sistemi olan Content Seal'i piyasaya sürdü. Bu teknoloji, genel sosyal medya dönüşümleri olan kırpma, yeniden boyutlandırma, sıkıştırma ve benzeri işlemlerden sonra bile hayatta kalacak şekilde tasarlandı.
İşte şu: Reuters'in bağımsız testleri, Content Seal'in kesilmiş yapay zeka tarafından oluşturulan görüntülerin %55'inden fazlasını tanımlayamadığını gösterdi. Düzenlemelere karşı dayanacak şekilde inşa edilmiş bir araç için bu iyi bir ilk izlenim değil.
Content Seal aslında ne yapar
7 Temmuz'da başlatılan Content Seal, Meta Superintelligence Labs'ta geliştirilen Meta'nın Muse Image ve Muse Video modelleri tarafından üretilen görüntüler ve videolara görünmez bir su damlası yerleştirir. Bu, bir ekran görüntüsü alındığında, kırpıldığında veya dosya sıkıştırıldığında bile kalıcı olması amaçlanan, piksellerin kendisine işlenmiş gibi bir dijital parmak izi gibi düşünülebilir.
Meta, meta.ai/identification adresinde herhangi birinin bir görüntü yükleyip Content Seal suresini kontrol edebileceği bir web tabanlı tespit aracını da başlattı.
Bu adım, Meta'nın kendi Gözetim Kurulu'nun Mart ayında şirket üzerinde, "kamu taahhütlerini yerine getirmek ve yalancı üretken AI içeriğinin yayılmasını önlemek için kendi araçlarını kullanmak" için kamuoyu baskısı uygulamasının ardından geldi.
Ancak yanıt, bir dipnota daha yakın bir şekilde geldi. Content Seal, daha görkemli Muse nesil araçlarıyla birlikte duyuruldu ve güvenlik ve güvenlik ölçütü olarak hak ettiği yerde değil, ürün tanıtımının içinde gömüldü.
%55 sorunu ve parçalanma sorunu
Reuters, Content Seal'i lansmandan sadece üç gün sonra, 10 Temmuz'da test etti. Sonuçlar ciddiydi. Sistem, orijinal, değiştirilmemiş yapay zeka tarafından oluşturulan resimleri doğru bir şekilde tanımladı, ancak kırpılmış sürümlerin yarısından fazlasını kaçırdı. Bu önemlidir çünkü kırpma, bir resmi paylaşmadan önce insanların en sık yaptıkları şeylerden biridir.
Aynı zamanda burada daha derin bir yapısal sorun da mevcut. Content Seal, mevcut endüstri standartlarının tamamen dışındadır. Meta, Adobe, Microsoft ve Google’ı da içeren C2PA koalisyonunun bir üyesidir ve bu koalisyon, köken meta verileri için Content Credentials adlı bir açık standart geliştirmiştir. Google’ın kendi SynthID su damlası sistemi vardır. Content Seal, bunların hiçbirine uyumlu değildir.
Bu parçalanma, ölçekli olarak yapay zeka tarafından oluşturulan içeriği güvenilir bir şekilde tespit edecek araçlar geliştirmeye çalışan platformlar, gerçeklik denetimcileri ve geliştiriciler için hayatı zorlaştırıyor. İnternet'in birleşebileceği bir doğrulama standardı yerine, ekosistem özgün veri kulesine bölünüyor.
Kripto ve blok zinciri dünyasının dikkat etmesi gereken nedenler
C2PA İçerik Kimlik Bilgileri, doğrulanabilir meta verileri medya dosyalarına bağlamak için zaten kriptografik imzalamayı kullanır. Content Seal’in sınırlamaları doğal olarak ortaya çıkaran soru, merkeziyetsiz, blok zinciriyle bağlantılı bir köken katmanının, herhangi bir şirketin özel su damlasından daha güvenilir bir şekilde bu işi yapabilip yapamayacağıdır.
Web3 alanındaki birkaç proje, dijital bir varlığın oluşturma geçmişinin zincir üzerinde kaydedildiği ve kurumsal bir ara yetkiliye güvenmeden herkes tarafından doğrulanabilen değiştirilemez içerik kayıtları fikrini tam olarak inceledi.
AB'nin Yapay Zeka Yasası, yapay zeka tarafından oluşturulan içerikler için zorunlu etiketleme gerekliliklerini zaten göz önünde bulunduruyor ve düzenleyicilerin nihayetinde onaylayacağı herhangi bir standart, devasa bir piyasa gücüne sahip olacak.