Meta baru sahaja melancarkan Content Seal, sistem penanda air tak kelihatan yang direka untuk mengenal pasti gambar dan video yang dihasilkan oleh model AI Muse terbaharu mereka. Teknologi ini sepatutnya mampu bertahan melalui proses biasa transformasi media sosial: pemotongan, saiz semula, pemampatan, dan sebagainya.
Ini perkara yang sebenarnya. Ujian bebas oleh Reuters mendapati bahawa Content Seal gagal mengenal pasti lebih daripada 55% gambar yang dihasilkan AI dan telah dipotong. Untuk alat yang dibina khas untuk menahan pengeditan, itu bukan kesan pertama yang baik.
Apa yang sebenarnya dilakukan Content Seal
Dilancarkan pada 7 Julai, Content Seal menyematkan tanda air tak kelihatan ke dalam gambar dan video yang dihasilkan oleh model Meta’s Muse Image dan Muse Video, yang dibangunkan di Meta Superintelligence Labs. Anggap ia seperti cap digital yang tertanam dalam piksel itu sendiri, yang seharusnya kekal walaupun seseorang mengambil tangkapan skrin, memotong, atau mengkompres fail tersebut.
Meta juga melancarkan alat pengesanan berbasis web di meta.ai/identification, di mana sesiapa sahaja boleh muat naik gambar dan memeriksa sama ada gambar tersebut membawa tanda air Content Seal.
Langkah ini berlaku selepas Lembaga Pengawas Meta sendiri menekan syarikat itu pada bulan Mac untuk “memenuhi komitmen awamnya dan menggunakan alat-alatnya sendiri” untuk memerangi penyebaran kandungan AI generatif yang menipu.
Tetapi respons tersebut muncul seperti catatan kaki. Content Seal diumumkan bersama alat-alat generasi Muse yang lebih menarik, tersembunyi dalam peluncuran produk daripada ditempatkan sebagai tonggak kepercayaan dan keselamatan yang seharusnya.
Masalah 55% dan isu pemecahan
Reuters menguji Content Seal hanya tiga hari selepas pelancarannya, pada 10 Julai. Keputusannya mengejutkan. Walaupun sistem tersebut berjaya mengenal pasti gambar yang dihasilkan AI dan tidak diubahsuai, ia gagal mengesan lebih daripada separuh versi yang dipotong. Ini penting kerana pemotongan adalah salah satu tindakan paling biasa yang dilakukan orang sebelum berkongsi gambar.
Terdapat juga masalah struktural yang lebih mendalam. Content Seal beroperasi sepenuhnya di luar piawaian industri yang ada. Meta adalah ahli koalisi C2PA, yang merangkumi Adobe, Microsoft, dan Google, dan yang telah membina Content Credentials sebagai piawaian terbuka untuk metadata asal-usul. Google mempunyai sistem penanda air SynthID sendiri. Content Seal tidak sepadan dengan mana-mana satu daripadanya.
Pemisahan ini membuat kehidupan lebih sukar untuk platform, pemeriksa fakta, dan pembangun yang cuba membina alat yang boleh mengesan kandungan yang dihasilkan AI secara besar-besaran. Alih-alih satu piawaian pengesahan yang seluruh internet boleh bersatu di sekelilingnya, ekosistem sedang terpecah menjadi silo-silo milik.
Mengapa dunia kripto dan blok rantai perlu memperhatikan
C2PA Content Credentials sudah menggunakan penandatanganan kriptografi untuk melampirkan metadata yang boleh disahkan kepada fail media. Soalan yang secara semula jadi timbul daripada had Content Seal ialah sama ada lapisan asal yang terdesentralisasi dan berpaut pada blok rantai boleh melakukan tugas ini dengan lebih boleh dipercayai berbanding tanda air milik sebarang syarikat tunggal.
Beberapa projek dalam ruang Web3 telah mengkaji idea tepat ini: registri kandungan yang tidak boleh diubah, di mana sejarah penciptaan aset digital direkodkan di atas rantai dan boleh disahkan oleh sesiapa sahaja tanpa perlu mempercayai perantara korporat.
Undang-undang AI EU sudah mempertimbangkan keperluan pelabelan wajib untuk kandungan yang dihasilkan oleh AI, dan mana-mana piawaian yang akhirnya disahkan oleh pengawas akan mempunyai kuasa pasaran yang besar.