Meta 剛推出了 Content Seal，這是一種隱形數位水印系統，用於標記其新 Muse AI 模型生成的圖片和影片。該技術旨在應對社交媒體常見的各種轉換：裁剪、調整大小、壓縮等。
事實是，路透社的獨立測試發現，Content Seal 無法識別超過 55% 的裁剪後 AI 生成圖像。對於一款專為抵抗編輯而設計的工具來說，這並非一個良好的第一印象。
Content Seal 實際上是做什麼的
於 7 月 7 日推出，Content Seal 將一種不可見的水印嵌入由 Meta 超智慧實驗室開發的 Muse Image 和 Muse Video 模型生成的圖像和影片中，這就像一種嵌入像素本身的數位指紋，即使有人截圖、裁剪或壓縮檔案，該水印仍能持續存在。
Meta 也在 meta.ai/identification 推出了基於網頁的檢測工具，任何人都可以上傳圖片，檢查該圖片是否含有 Content Seal 水印。
此舉是在 Meta 自己的監督委員會於三月公開施壓公司，要求其「履行公開承諾並運用自身工具」以打擊欺騙性生成式 AI 內容的傳播之後出現的。
但該回應更像是一則腳註。Content Seal 與更引人注目的 Muse 世代工具一同公布，被埋沒在產品發布中，而非被定位為其應有的信任與安全里程碑。
55% 的問題與碎片化問題
路透社在內容封印上線後僅三天，即於7月10日進行測試，結果令人擔憂。儘管該系統能正確識別原始且未經修改的AI生成圖像，卻未能識別超過一半的裁剪版本。這至關重要，因為裁剪是人們在分享圖像前最常做的操作之一。
此外，還存在一個更深層的結構性問題。Content Seal 完全脫離了現有的行業標準。Meta 是 C2PA 聯盟的成員，該聯盟包括 Adobe、Microsoft 和 Google，並已建立 Content Credentials 作為來源元數據的開放標準。Google 也有自己的 SynthID 水印系統。Content Seal 與這兩者均不相容。
這種碎片化使平台、事實核查人員和開發者在試圖建立可大規模可靠檢測 AI 生成內容的工具時面臨更大困難。與其有一個互聯網能夠共同支持的驗證標準，整個生態正分裂成封閉的專有系統。
為何加密貨幣和區塊鏈世界應當關注
C2PA 內容憑證已使用加密簽名將可驗證的元數據附加到媒體檔案。Content Seal 的限制自然引出的問題是：去中心化、以區塊鏈為基礎的來源層，是否比任何單一公司的專有水印更可靠地完成此任務？
Web3 領域的多個項目已探討了這一概念：將數位資產的創建歷史記錄在鏈上，並允許任何人無需信任企業中介即可驗證。
歐盟的《人工智慧法案》已考慮對人工智慧生成的內容實施強制標示要求，而監管機構最終認可的任何標準都將具有巨大的市場影響力。