CHATGPT почне додавати невидимий маркер у все, що він пише для вас
OpenAI це підтвердила. Це називається textGrain, і він застосовуватиметься до ChatGPT та Codex у ЄС протягом наступних кількох тижнів, оскільки Європейський акт про ШІ змушує це робити.
Ви не побачите нічого. Немає дивних символів, немає прихованих символів. Модель просто вибирає слова трохи за певним шаблоном, і детектор зможе прочитати цей шаблон пізніше.
Що він може визначити: «чи було це, ймовірно, написано моделлю OpenAI?»
Що він не може визначити: хто ви, ваш акаунт, ваш запит.
Смішна частина — сама OpenAI каже, що це майже не працює:
→ короткий абзац: виявляється приблизно 80% часу
→ зміна 1 з 10 слів: точність детекції падає з 92% до 66%
→ зміна 1 з 4 слів: 17%
→ переклад чи переписування: маркер може повністю зникнути
Найбільш жахлива частина — не сама водяна знака. Це ті, хто насправді потрапляє.
Той, хто трохи редагує, залишається без кари. Той хлопчик, який просто копіює повний твір без жодних змін — ось хто ловиться. І поки що лише «затверджені дослідники» мають доступ до детектора, тому ви навіть не можете перевірити власний текст.
На користь OpenAI — вони не приховують цього. Вони самі опублікували слабкі цифри, користувачі API будь-де можуть увімкнути це сьогодні, і вони кажуть, що відкриють код.
Особисто я вважаю, що це більше, ніж просто водяний знак. Європа отримує ChatGPT, який позначає свій текст, а Америка — ні. Однакова ШІ, різні правила залежно від того, де ви її відкриваєте.
І це лише перший закон. Буде ще більше.