CHATGPT НАЧНЕТ ВСТАВЛЯТЬ НЕВИДИМЫЙ МАРКЕР ВО ВСЕ, ЧТО ОН ПИШЕТ ДЛЯ ВАС
OpenAI только что подтвердила это. Это называется textGrain, и он будет применяться к ChatGPT и Codex в ЕС в ближайшие недели, поскольку Закон ЕС об ИИ обязывает это сделать.
Вы ничего не увидите. Ни странных символов, ни скрытых знаков. Модель просто выбирает слова слегка по определённому шаблону, и детектор может позже распознать этот шаблон.
Что он может определить: «был ли этот текст, скорее всего, написан моделью OpenAI».
Что он не может определить: кто вы, ваш аккаунт, ваш запрос.
Самое забавное — сама OpenAI говорит, что это работает слабо:
-> короткий абзац: обнаруживается примерно в 80% случаев
-> изменение 1 из 10 слов: точность обнаружения падает с 92% до 66%
-> изменение 1 из 4 слов: 17%
-> перевод или перефразирование: маркер может полностью исчезнуть
Самое пугающее — не сам водяной знак, а те, кто действительно попадается.
Любой, кто немного отредактирует текст, уходит безнаказанно. Тот, кто просто копирует и вставляет целое сочинение без изменений, — тот, кого ловит система. И пока только «утверждённые исследователи» имеют доступ к детектору, так что вы даже не можете проверить свой собственный текст.
Честно говоря, OpenAI ничего не скрывает: они сами опубликовали слабые показатели, пользователи API могут включить это сегодня в любом месте, и они заявляют, что откроют исходный код.
Лично я считаю, что это больше, чем просто водяной знак. В Европе появляется ChatGPT, который помечает свой текст, а в Америке — нет. Одна и та же ИИ-система, но разные правила в зависимости от того, где вы её открываете.
И это только первый закон. Будет ещё больше.