Meta лише що запустила Content Seal — невидиму систему водяних знаків, призначену для позначення зображень і відео, створених її новими моделями штучного інтелекту Muse. Ця технологія має витримувати звичайний набір перетворень у соціальних мережах: обрізання, зміну розміру, стиснення та інше.
Ось у чому справа. Незалежне тестування Reuters показало, що Content Seal не зміг виявити понад 55% обрізаних зображень, створених за допомогою ШІ. Для інструменту, створеного саме для того, щоб витримувати редагування, це не найкраще враження.
Що насправді робить Content Seal
Запущений 7 липня, Content Seal вбудовує невидимий водяний знак у зображення та відео, створені моделями Meta’s Muse Image та Muse Video, розробленими в Meta Superintelligence Labs. Уявіть це як цифровий відбиток, вбудований у пікселі, який має зберігатися навіть після того, як хтось зробить скріншот, обріже або стисне файл.
Meta також запустила веб-інструмент виявлення на meta.ai/identification, де будь-хто може завантажити зображення і перевірити, чи містить воно водяний знак Content Seal.
Цей крок був зроблений після того, як Власний наглядовий совет Meta публічно тиснув на компанію у березні, закликавши її «виконати свої публічні зобов’язання та використовувати власні інструменти» для боротьби з поширенням обманливого контенту, створеного за допомогою генеративного ШІ.
Але відповідь виглядала майже як примітка. Content Seal було оголошено разом із більш яскравими інструментами покоління Muse, загублене серед запуску продукту, а не позиціоноване як важливий етап у сфері довіри та безпеки, яким воно, мабуть, має бути.
Проблема 55% та проблема фрагментації
Reuters протестував Content Seal лише через три дні після запуску, 10 липня. Результати були тривожними. Хоча система правильно визначала оригінальні, незмінені зображення, згенеровані ШІ, вона пропустила більше половини обрізаних версій. Це має значення, оскільки обрізання — один із найпоширеніших способів, якими люди користуються перед розповсюдженням зображення.
Також існує глибша структурна проблема. Content Seal функціонує повністю поза існуючими галузевими стандартами. Meta є членом коаліції C2PA, до якої входять Adobe, Microsoft та Google, і яка розробила Content Credentials — відкритий стандарт для метаданих походження. Google має власну систему водяних знаків SynthID. Content Seal не сумісний з жодною з них.
Ця фрагментація ускладнює життя платформам, перевірщикам фактів та розробникам, які намагаються створювати інструменти, здатні надійно виявляти AI-згенерований контент у великих масштабах. Замість одного стандарту верифікації, якого може дотримуватися інтернет, екосистема розщеплюється на власнік-закриті системи.
Чому світ криптовалют і блокчейну слід звертати увагу
C2PA Content Credentials вже використовують криптографічне підписання для додавання перевірених метаданих до медіафайлів. Питання, яке природньо виникає через обмеження Content Seal, — чи може децентралізований, прив’язаний до блокчейну шар походження виконувати цю задачу надійніше, ніж власна водяна знака будь-якої окремої компанії.
Кілька проектів у сфері Web3 досліджували саме цю ідею: незмінні реєстри контенту, де історія створення цифрового активу записується у блокчейні та може бути перевірена будь-ким без довіри до корпоративного посередника.
Закон ЄС про ШІ вже передбачає обов’язкові вимоги до позначення контенту, створеного ШІ, і будь-який стандарт, який регулятори в кінцевому підсумку схваллять, матиме величезний ринковий вплив.