Автор: Chris Best
Перевод: Shenchao TechFlow
Обзор Shenchao: До 40% контента в социальных сетях уже генерируются ИИ, но читатели зачастую об этом не подозревают. Substack считает, что так называемый «Claudefishing» (подделка человеческого письма) подрывает доверие между читателями и авторами и угрожает средствам к существованию создателей контента. Их подход заключается в том, чтобы предоставить читателям возможность самостоятельно оценивать, а не навязывать решения за них.
Интернет, где трудно отличить правду от лжи
Сегодня все труднее отличить настоящую информацию в интернете.
Эта проблема на Substack относительно незначительна, и мы хотим сохранить её в таком состоянии. В качестве первого шага сегодня мы совместно с Pangram запустили функцию в приложении Substack. В будущем вы сможете сканировать текст, чтобы увидеть, какая его часть, вероятно, написана от руки, а какая — с помощью ИИ. Я подробнее расскажу об этом позже, но сначала объясню, почему это важно.
Везде вода, но ни капли, которую можно выпить.
По оценкам Pangram, доля текстов, сгенерированных ИИ, на некоторых платформах растет и достигает до 40%. Это огромное изменение. Многие жалуются, что их лента заполнена бессмысленным мусором. Некоторые даже не осознают, что читают контент, созданный без участия человека.
Главная проблема не в том, что люди используют ИИ, и не в качестве выводов ИИ. Не весь контент, созданный с помощью ИИ, является мусором, и не весь мусор создан ИИ. Проблема в том, что ожидания читателей не совпадают с реальностью, особенно когда они неосознанно вкладывают внимание в контент, за которым нет никаких человеческих размышлений. Именно это и есть Claudefishing.
Фредди де Боер так сказал:
Я обращаюсь к искусству, созданному человеком, потому что знаю, что за ним стоит человек — именно это я ищу: другие люди, через искусство показывающие мне то, что скрыто в них самих. Обмануть меня в этом процессе — значит просто обмануть.
Мы заботимся об этом в Substack, потому что это касается сути нашей работы: создание экономических движителей для культуры. Это означает помощь реальным людям — тем, кто думает, чувствует, наблюдает, спорит, экспериментирует, размышляет, борется, убеждает и заботится — в заработке на том, в что они верят. Эта сеть построена на доверии между людьми, и именно в этом причина её эффективности.
Когда контент, созданный без участия человека, занимает ту часть интернета, которая должна принадлежать людям, он загрязняет общественное пространство и затрудняет обнаружение и услышание человеческого голоса. Когда читатели вынуждены сомневаться в том, является ли то, что они читают, подлинным, это подрывает доверие к авторству и угрожает средствам к существованию писателей — включая тех, кто осознанно использует инструменты ИИ для создания того, в что они верят. Платформы, поощряющие ложный контент, спровоцируют гонку к дну.
Что мы делаем
Это новая область, и мы не утверждаем, что имеем все ответы. Но мы точно знаем одно: мы не хотим ждать, пока ваше приложение Substack превратится в LinkedIn, чтобы начать учиться и двигаться вперёд. Поэтому сначала мы запустили несколько новых инструментов, которые, надеемся, повысят прозрачность и помогут нам собрать вашу обратную связь.
Мы сотрудничаем с ведущим инструментом обнаружения ИИ — Pangram. Вы сможете сканировать заметки, ответы, комментарии и посты, чтобы увидеть оценку доли текста, написанного вручную или с помощью ИИ. Это будет применяться к текстам длиной более 100 слов, опубликованным начиная с сегодняшнего дня, и результаты анализа будут отображаться только тем, кто запросил их просмотр.
Изображение: Интерфейс инструмента AI-обнаружения, разработанного Substack в сотрудничестве с Pangram, показывающий соотношение текста, написанного человеком, и текста, созданного с помощью ИИ. Источник: Substack
Обратите внимание, что Pangram может определить, использовался ли ИИ для создания текста, но не может оценить, вложено ли много человеческого труда в процесс создания, или использовались ли инструменты ИИ в качестве источника. Он не идеален, но независимые исследования показывают, что он способен с высокой точностью обнаруживать тексты, сгенерированные ИИ. Мы считаем, что полезно, чтобы люди использовали такие инструменты для помощи в принятии решений.
Мы также выпустили инструменты для создателей, включая функцию добавления заявления «Как я создал это», в котором вы можете описать свой процесс и задать ожидания для читателей. Вы можете запустить Pangram для черновика перед публикацией, а также сообщать о любых результатах сканирования ваших работ, которые считаете неверными, и удалять их.
Эти функции теперь доступны на веб-сайте и iOS, и вскоре появятся на Android. Это лишь начало. На основе обратной связи и интереса мы рассматриваем следующие инструменты:
Настройте предпочтения по поводу AI-контента для своего сообщества в правилах ответа
Предоставить создателям больше возможностей для выражения их личной ценности, будь то через человеческое письмо или осознанное использование ИИ
Позвольте читателям выбрать предпочтения для настройки того, какой контент им рекомендовать.
С ускорением этих проблем с помощью ИИ продолжаем улучшать наши системы борьбы со спамом, ботами и различными мошенничествами
Мы не против того, чтобы люди использовали ИИ для помощи в работе; мы считаем, что люди должны иметь свободу выбора инструментов для самовыражения. Некоторые пользователи на платформе являются сторонниками максимального использования человеческого письма, в то время как другие открыто исследуют передовые возможности использования инструментов ИИ, уделяя внимание деталям для создания контента, который они поддерживают. Мы на Substack уже используем ИИ для написания программного обеспечения, проведения исследований и создания функций продуктов, таких как редактирование и перевод.
Но люди должны понимать, что они получают. Например, вы можете не возражать против чтения острой аналитики кого-то, где они сильно полагаются на ИИ для представления результатов исследований, но хотите тратить время только на взаимодействие с ответами, написанными вручную людьми. В любом случае, у вас должно быть право выбора.
What do you want to see?
Мы все вместе входим в этот странный новый мир, и мы не можем придумать лучшего способа определить новые инструменты и новые социальные нормы, чем открытые дебаты. Мы хотим услышать ваше мнение: как Substack помогает поддерживать ценные человеческие достижения в эпоху ИИ? Когда использование ИИ — это Claudefishing, а когда — это хорошо?
Независимо от того, насколько мощными станут ИИ, человеческая перспектива остается фундаментальным элементом культуры, и это всегда будет так. Фактически, чем больше вы ожидаете постоянного улучшения этих инструментов, тем важнее понимать источник того, что вы читаете. У Claude много преимуществ! Но когда я хочу узнать мнение Claude, я прямо спрашиваю Claude.