Meta baru saja meluncurkan Content Seal, sistem watermarking tak terlihat yang dirancang untuk menandai gambar dan video yang dibuat oleh model AI Muse terbarunya. Teknologi ini seharusnya bertahan melalui berbagai transformasi umum di media sosial: pemotongan, perubahan ukuran, kompresi, dan lainnya.
Ini masalahnya. Pengujian independen oleh Reuters menemukan bahwa Content Seal gagal mengidentifikasi lebih dari 55% gambar yang dihasilkan AI dan telah dipotong. Untuk alat yang dibuat khusus untuk tahan terhadap pengeditan, itu bukan kesan pertama yang baik.
Apa yang sebenarnya dilakukan Content Seal
Diluncurkan pada 7 Juli, Content Seal menyematkan tanda air tak terlihat ke dalam gambar dan video yang dihasilkan oleh model Meta’s Muse Image dan Muse Video, yang dikembangkan di Meta Superintelligence Labs. Bayangkan seperti sidik jari digital yang tertanam langsung ke dalam piksel, yang seharusnya tetap bertahan bahkan setelah seseorang mengambil tangkapan layar, memotong, atau mengompres file tersebut.
Meta juga meluncurkan alat deteksi berbasis web di meta.ai/identification, di mana siapa pun dapat mengunggah gambar dan memeriksa apakah gambar tersebut membawa watermark Content Seal.
Langkah ini datang setelah Dewan Pengawas Meta sendiri secara terbuka menekan perusahaan pada Maret untuk "memenuhi komitmen publiknya dan memanfaatkan alat-alatnya sendiri" untuk memerangi penyebaran konten AI generatif yang menyesatkan.
Namun, respons tersebut justru berbentuk seperti catatan kaki. Content Seal diumumkan bersamaan dengan alat-alat generasi Muse yang lebih menarik, tersembunyi dalam peluncuran produk daripada diposisikan sebagai tonggak kepercayaan dan keamanan yang seharusnya.
Masalah 55% dan masalah fragmentasi
Reuters menguji Content Seal hanya tiga hari setelah peluncuran, pada 10 Juli. Hasilnya mengejutkan. Meskipun sistem tersebut berhasil mengidentifikasi gambar buatan AI yang asli dan tidak dimodifikasi, sistem ini melewatkan lebih dari separuh versi yang dipotong. Hal ini penting karena pemotongan adalah salah satu hal paling umum yang dilakukan orang sebelum membagikan gambar.
Ada juga masalah struktural yang lebih dalam yang sedang berlangsung. Content Seal beroperasi sepenuhnya di luar standar industri yang ada. Meta adalah anggota koalisi C2PA, yang mencakup Adobe, Microsoft, dan Google, dan yang telah membangun Content Credentials sebagai standar terbuka untuk metadata asal-usul. Google memiliki sistem watermarking SynthID sendiri. Content Seal tidak kompatibel dengan keduanya.
Fragmentasi ini membuat hidup lebih sulit bagi platform, pemeriksa fakta, dan pengembang yang berusaha membangun alat yang dapat mendeteksi konten yang dihasilkan AI secara andal dalam skala besar. Alih-alih satu standar verifikasi yang bisa menjadi fokus bersama internet, ekosistem ini terpecah menjadi silo-silo propietari.
Mengapa dunia kripto dan blockchain harus memperhatikan
C2PA Content Credentials sudah menggunakan tanda tangan kriptografis untuk melampirkan metadata yang dapat diverifikasi ke file media. Pertanyaan yang secara alami muncul dari keterbatasan Content Seal adalah apakah lapisan asal-usul yang terdesentralisasi dan terikat pada blockchain dapat melakukan tugas ini lebih andal daripada tanda air propietaris milik satu perusahaan saja.
Beberapa proyek di ruang Web3 telah mengeksplorasi ide tepat ini: registri konten yang tidak dapat diubah di mana riwayat penciptaan aset digital dicatat di blockchain dan dapat diverifikasi oleh siapa pun tanpa harus mempercayai perantara korporat.
Undang-Undang AI UE sudah mempertimbangkan persyaratan pelabelan wajib untuk konten yang dihasilkan AI, dan standar mana pun yang akhirnya disetujui oleh regulator akan memiliki kekuatan pasar yang sangat besar.