Meta vừa triển khai Content Seal, một hệ thống gắn dấu nước không thể nhìn thấy nhằm phát hiện các hình ảnh và video được tạo bởi các mô hình AI Muse mới của họ. Công nghệ này được thiết kế để tồn tại qua các thao tác thông thường trên mạng xã hội: cắt, thay đổi kích thước, nén, và nhiều hơn nữa.
Đây là vấn đề. Kiểm tra độc lập bởi Reuters cho thấy Content Seal không phát hiện được hơn 55% hình ảnh được cắt xén và do AI tạo ra. Với một công cụ được thiết kế đặc biệt để chống lại các chỉnh sửa, đây không phải ấn tượng đầu tiên tốt đẹp.
Content Seal thực sự làm gì
Được ra mắt vào ngày 7 tháng 7, Content Seal nhúng một dấu nước vô hình vào các hình ảnh và video được tạo bởi các mô hình Muse Image và Muse Video của Meta, được phát triển tại Phòng thí nghiệm Siêu trí tuệ Meta. Hãy tưởng tượng nó như một dấu vân tay kỹ thuật số được tích hợp ngay trong các pixel, một dấu hiệu sẽ vẫn tồn tại ngay cả khi ai đó chụp màn hình, cắt xén hoặc nén tệp.
Meta cũng đã ra mắt công cụ phát hiện dựa trên web tại meta.ai/identification, nơi bất kỳ ai cũng có thể tải lên một hình ảnh và kiểm tra xem nó có chứa nhãn Content Seal hay không.
Động thái này xảy ra sau khi Hội đồng Giám sát của Meta công khai gây áp lực lên công ty vào tháng Ba để “thực hiện các cam kết công khai và sử dụng các công cụ của chính mình” nhằm chống lại sự lan truyền của nội dung AI sinh tạo gian lận.
Nhưng phản hồi lại trở thành điều gì đó giống như một chú thích. Content Seal được công bố cùng với các công cụ thế hệ Muse nổi bật hơn, bị chôn vùi trong quá trình ra mắt sản phẩm thay vì được định vị như một cột mốc quan trọng về niềm tin và an toàn mà nó đáng ra nên được xem là.
Vấn đề 55% và vấn đề phân mảnh
Reuters đã thử nghiệm Content Seal chỉ ba ngày sau khi ra mắt, vào ngày 10 tháng Bảy. Kết quả thật đáng lo ngại. Trong khi hệ thống xác định chính xác các hình ảnh do AI tạo ra nguyên bản và không bị chỉnh sửa, nó lại bỏ sót hơn một nửa các phiên bản đã được cắt xén. Điều này quan trọng vì việc cắt xén là một trong những thao tác phổ biến nhất mà mọi người thực hiện trước khi chia sẻ hình ảnh.
Cũng có một vấn đề cấu trúc sâu xa hơn đang diễn ra. Content Seal hoạt động hoàn toàn ngoài các tiêu chuẩn ngành hiện có. Meta là thành viên của liên minh C2PA, bao gồm Adobe, Microsoft và Google, và đã phát triển Content Credentials như một tiêu chuẩn mở cho siêu dữ liệu nguồn gốc. Google có hệ thống gắn nhãn SynthID riêng. Content Seal không tương thích với bất kỳ hệ thống nào trong số đó.
Sự phân mảnh này khiến cuộc sống trở nên khó khăn hơn cho các nền tảng, những người kiểm tra sự thật và các nhà phát triển đang nỗ lực xây dựng các công cụ có thể phát hiện nội dung do AI tạo ra một cách đáng tin cậy ở quy mô lớn. Thay vì một tiêu chuẩn xác minh duy nhất mà internet có thể cùng hướng tới, hệ sinh thái đang phân chia thành các silo độc quyền.
Tại sao thế giới tiền điện tử và blockchain nên chú ý
C2PA Content Credentials đã sử dụng chữ ký mật mã để gắn metadata có thể xác minh vào các tệp phương tiện. Câu hỏi tự nhiên được đặt ra bởi các hạn chế của Content Seal là liệu một lớp nguồn gốc được neo trên blockchain phi tập trung có thể thực hiện công việc một cách đáng tin cậy hơn bất kỳ dấu nước độc quyền nào của một công ty duy nhất.
Nhiều dự án trong không gian Web3 đã khám phá chính ý tưởng này: các registry nội dung bất biến, nơi lịch sử tạo ra một tài sản kỹ thuật số được ghi lại trên chuỗi và có thể được xác minh bởi bất kỳ ai mà không cần tin tưởng vào trung gian doanh nghiệp.
Đạo luật AI của EU đã xem xét các yêu cầu bắt buộc về dán nhãn cho nội dung được tạo bởi AI, và bất kỳ tiêu chuẩn nào mà các nhà quản lý cuối cùng chấp thuận sẽ có sức mạnh thị trường khổng lồ.