Kinabukasan ng Meta ang Content Seal, isang hindi nakikita na sistema ng watermarking na disenyo upang tukuyin ang mga imahe at video na nilikha ng kanyang bagong Muse AI models. Dapat na makalusot ang teknolohiyang ito sa karaniwang hamon ng mga pagbabago sa social media: pag-crop, pag-resize, pag-compress, at iba pa.
Narito ang sitwasyon. Ang independiyenteng pagsubok ng Reuters ay nakakita na ang Content Seal ay hindi nakakatukoy sa higit sa 55% ng mga crop na AI-generated na imahe. Para sa isang tool na itinayo upang makatagpo sa pag-edit, hindi ito magandang unang impresyon.
Ano ang tunay na ginagawa ng Content Seal
Ipinakilala noong Hulyo 7, ang Content Seal ay naglalagay ng hindi nakikita na watermark sa mga imahe at video na ginawa ng Meta’s Muse Image at Muse Video models, na nilikha sa Meta Superintelligence Labs. Isipin ito tulad ng isang digital na fingerprint na nakapaloob sa mga pixel mismo, na dapat ay mananatili kahit na sinakop, sinawi, o kinompres ng isang tao ang file.
Lumunsod din ang Meta ng isang web-based na kasangkapan sa pagkilala sa meta.ai/identification kung saan maaaring i-upload ng sinuman ang isang larawan at i-check kung mayroon itong watermark na Content Seal.
Nagmula ang hakbang na ito pagkatapos ipaglaban ng sariling Board ng Pagmamalasakit ng Meta ang kompanya noong Marso upang “tuparin ang mga pampublikong pangako at gamitin ang kanilang sariling mga kasangkapan” upang labanan ang pagkalat ng masasamang nilalaman ng generative AI.
Ngunit ang tugon ay naging parang isang talatang panao. Ang Content Seal ay inanunsyo kasama ang mga mas nakakatangi mismo sa mga kasangkapan sa Muse generation, nakatago sa pagpapalabas ng produkto kaysa maging itinuturing na mahalagang hakbang sa tiwala at kaligtasan.
Ang problema ng 55% at ang isyu ng fragmentation
Sinubukan ng Reuters ang Content Seal tatlong araw lamang pagkatapos ng paglunsad, noong July 10. Ang mga resulta ay nakakalungkot. Habang tama ng system ang pagkilala sa orihinal, hindi binago AI-generated na mga imahe, nawawala naman nito ang higit sa kalahati ng mga cropped na bersyon. Mahalaga ito dahil ang pag-crop ay isa sa pinaka-karaniwang ginagawa ng mga tao bago ishare ang isang imahe.
Mayroon din pong mas malalim na struktural na problema. Gumagana ang Content Seal nang buong-buo sa labas ng umiiral na mga istandar ng industriya. Ang Meta ay miyembro ng koalisyon ng C2PA, na kasama ang Adobe, Microsoft, at Google, at nagbuo ng Content Credentials bilang isang bukas na istandar para sa metadata ng pinagmulan. Mayroon din ang Google ng sarili nitong sistema ng SynthID watermarking. Ang Content Seal ay hindi kompatibol sa anumang isa sa kanila.
Ang pagkakahati-hati na ito ay nagpahirap sa mga platform, mga fact-checker, at mga developer na nagtatag ng mga kasangkapan na makakadetect ng AI-generated content sa malaking iskala. Sa halip na isang pamantayan sa pag-verify na maaaring isama ng internet, ang ecosystem ay nagkakasplit sa mga proprietary na silo.
Bakit dapat pansinin ng mundo ng cryptocurrency at blockchain
Ang C2PA Content Credentials ay naggamit na ng cryptographic signing upang magkakapit ng verifiable metadata sa mga media file. Ang tanong na naturally itinataguyod ng mga limitasyon ng Content Seal ay kung ang isang decentralized, blockchain-anchored na provenance layer ay maaaring gawin ang trabaho nang mas maaasahan kaysa sa anumang proprietary watermark ng isang kumpanya.
Maraming proyekto sa Web3 space ang sinubukan ang eksaktong ideyang ito: mga immutable content registry kung saan ang kasaysayan ng paglikha ng isang digital asset ay nakarehistro sa-chain at maaaring i-verify ng sinuman nang walang pangangailangan na maniwala sa isang korporatong intermediary.
Ang AI Act ng EU ay nagsasama na ng mga obligatoriyong paglalagay ng label para sa AI-generated na nilalaman, at anumang istandard na mapapahintulutan ng mga regulador ay may malaking kapangyarihan sa merkado.