Meta только что запустила Content Seal — систему невидимого водяного знака, предназначенную для выявления изображений и видео, созданных новыми моделями ИИ Muse. Эта технология должна сохраняться после типичных преобразований в социальных сетях: обрезки, изменения размера, сжатия и т.д.
Вот в чем дело. Независимое тестирование Reuters показало, что Content Seal не смог выявить более 55% обрезанных изображений, созданных с помощью ИИ. Для инструмента, созданного специально для устойчивости к редактированию, это не очень хорошее первое впечатление.
Что на самом деле делает Content Seal
Запущен 7 июля, Content Seal встраивает невидимый водяной знак в изображения и видео, созданные моделями Meta Muse Image и Muse Video, разработанными в Meta Superintelligence Labs. Представьте это как цифровой отпечаток, встроенный непосредственно в пиксели, который должен сохраняться даже после скриншота, обрезки или сжатия файла.
Meta также запустила веб-инструмент для обнаружения на meta.ai/identification, где любой пользователь может загрузить изображение и проверить, содержит ли оно водяной знак Content Seal.
Это решение было принято после того, как собственный Совет по надзору Meta публично оказал давление на компанию в марте, призвав её «выполнить свои публичные обязательства и использовать собственные инструменты» для борьбы с распространением обманных генеративных AI-материалов.
Но ответ прозвучал скорее как сноска. Content Seal был объявлен вместе с более яркими инструментами поколения Muse, затерянный в рамках запуска продукта, а не представлен как важная веха в области доверия и безопасности, которой он, возможно, должен был быть.
Проблема 55% и проблема фрагментации
Reuters протестировал Content Seal всего через три дня после запуска, 10 июля. Результаты оказались тревожными. Хотя система правильно идентифицировала оригинальные, неизмененные изображения, сгенерированные ИИ, она пропустила более половины обрезанных версий. Это важно, потому что обрезка — один из самых распространенных способов, которыми люди пользуются перед тем, как поделиться изображением.
Также существует более глубокая структурная проблема. Content Seal функционирует полностью вне существующих отраслевых стандартов. Meta является членом консорциума C2PA, в который входят Adobe, Microsoft и Google, и который разработал Content Credentials — открытый стандарт для метаданных о происхождении. Google имеет собственную систему водяных знаков SynthID. Content Seal не совместим ни с одной из них.
Эта фрагментация усложняет жизнь платформам, проверяющим факты и разработчикам, пытающимся создавать инструменты, способные надежно обнаруживать AI-сгенерированный контент в масштабах. Вместо единого стандарта верификации, вокруг которого может объединиться интернет, экосистема раскалывается на проприетарные изолированные системы.
Почему криптовалютный и блокчейн-мир должны обращать внимание
C2PA Content Credentials уже используют криптографическую подпись для привязки проверяемых метаданных к медиафайлам. Вопрос, который естественно возникает из-за ограничений Content Seal, заключается в том, может ли децентрализованная, привязанная к блокчейну система происхождения выполнять эту задачу более надежно, чем проприетарная водяная марка любой отдельной компании.
Несколько проектов в сфере Web3 исследовали именно эту идею: неизменяемые реестры контента, где история создания цифрового актива записывается в блокчейн и может быть проверена любым лицом без доверия корпоративному посреднику.
Закон ЕС об ИИ уже предусматривает обязательные требования к маркировке контента, созданного с помощью ИИ, и любой стандарт, который в конечном итоге одобрят регуляторы, будет обладать огромной рыночной силой.