Substack запускает инструмент обнаружения AI-контента для повышения прозрачности

Сейчас все труднее отличить настоящее содержимое в интернете.

Эта проблема относительно незначительна на Substack, и мы хотим сохранить её в таком виде. В качестве первого шага сегодня мы совместно с Pangram запустили функцию в приложении Substack. В будущем вы сможете сканировать текст и видеть, какая его часть, вероятно, написана от руки, а какая — с помощью ИИ. Я подробнее расскажу об этом позже, но сначала объясню, почему это важно.

По оценкам Pangram, доля текстов, сгенерированных ИИ, на некоторых платформах растет и достигает до 40%. Это огромное изменение. Многие жалуются, что их лента заполнена бессмысленным мусором. Некоторые даже не осознают, что читают контент, созданный без участия человека.

Главная проблема не в том, что люди используют ИИ, и не в качестве выводов ИИ. Не весь контент, созданный с помощью ИИ, является мусором, и не весь мусор создан ИИ. Проблема в том, что ожидания читателей не совпадают с реальностью, особенно когда они без ведома вкладывают внимание в контент, за которым нет никаких человеческих размышлений. Именно это и есть Claudefishing.

Фредди де Боер так сказал:

Я обращаюсь к искусству, созданному человеком, потому что знаю, что за ним стоит человек — именно это я ищу: другие люди, через искусство показывающие мне то, что скрыто в них самих. Обмануть меня в этом процессе — значит просто обмануть.

Мы заботимся об этом в Substack, потому что это касается сути нашей работы: создание экономических движителей для культуры. Это означает помощь реальным людям — тем, кто думает, чувствует, наблюдает, спорит, экспериментирует, размышляет, борется, убеждает и заботится — в заработке на том, во что они верят. Эта сеть построена на доверии между людьми, и именно в этом её сила.

Когда контент, созданный без участия человека, занимает ту часть интернета, которая должна принадлежать людям, он загрязняет общественное пространство и затрудняет обнаружение и слышимость человеческих голосов. Когда читатели вынуждены сомневаться в том, является ли то, что они читают, подлинным, это подрывает доверие к авторству и угрожает средствам к существованию писателей — включая тех, кто осознанно использует инструменты ИИ для создания того, в что они верят. Платформы, поощряющие ложный контент, спровоцируют гонку к дну.

Это новая область, и мы не утверждаем, что имеем все ответы. Но мы точно знаем одно: мы не хотим ждать, пока ваше приложение Substack превратится в LinkedIn, чтобы начать учиться и двигаться вперёд. Поэтому сначала мы запустили несколько новых инструментов, которые, надеемся, повысят прозрачность и помогут нам собрать вашу обратную связь.

Мы сотрудничаем с ведущим инструментом обнаружения ИИ — Pangram. Вы сможете сканировать заметки, ответы, комментарии и посты, чтобы увидеть оценку доли текста, написанного вручную или с помощью ИИ. Это будет применяться к текстам длиной более 100 слов, опубликованным начиная с сегодняшнего дня, и результаты анализа будут отображаться только тем, кто запросил их просмотр.

Обратите внимание, что Pangram может определить, использовался ли ИИ для создания текста, но не может оценить, вложено ли много человеческого труда в процесс создания или использовались ли инструменты ИИ в качестве источника. Он не идеален, но независимые исследования показывают, что он способен с высокой точностью обнаруживать тексты, сгенерированные ИИ. Мы считаем, что людям полезно использовать такие инструменты для помощи в принятии решений.

Мы также выпустили инструменты для создателей, включая функцию добавления заявления «Как я создал это», где вы можете объяснить свой процесс и задать ожидания для читателей. Вы можете запустить Pangram для черновика перед публикацией, а также сообщать о любых результатах сканирования, которые, по вашему мнению, неверны, и удалять их.

Эти функции теперь доступны на веб-сайте и iOS, и вскоре появятся и на Android. Это лишь начало. На основе обратной связи и интереса мы рассматриваем следующие инструменты:

Настройте предпочтения по поводу AI-контента для своего сообщества в правилах ответа

Предоставить создателям больше возможностей для выражения их личной ценности, будь то через человеческое письмо или осознанное использование ИИ

Позвольте читателям выбрать предпочтения по настройке рекомендуемого контента.

По мере ускорения этих проблем с помощью ИИ продолжаем совершенствовать наши системы борьбы со спамом, ботами и различными мошенничествами.

Мы не возражаем против использования людьми ИИ для помощи в работе и считаем, что люди должны иметь свободу выбора инструментов для самовыражения. Некоторые пользователи на платформе являются сторонниками максимального использования человеческого письма, в то время как другие открыто исследуют передовые возможности ИИ-инструментов, уделяя внимание деталям для создания контента, который они поддерживают. Мы на Substack уже давно используем ИИ для написания программного обеспечения, проведения исследований и создания функций продуктов, таких как редактирование и перевод.

Но люди должны понимать, что они получают. Например, вы можете не возражать против чтения острой аналитики кого-то, где они сильно полагаются на ИИ для представления результатов исследований, но хотите тратить время только на взаимодействие с ответами, написанными вручную людьми. В любом случае, у вас должно быть право выбора.

Мы все вместе входим в этот странный новый мир, и мы не можем придумать лучшего способа определить новые инструменты и новые социальные нормы, чем открытые дебаты. Мы хотим услышать ваше мнение: как Substack помогает поддерживать ценное человеческое творчество в эпоху ИИ? Когда использование ИИ — это Claudefishing, а когда это хорошо?

Независимо от того, насколько мощными станут ИИ, человеческая перспектива остается фундаментальным элементом культуры, и это всегда будет так. Фактически, чем больше вы ожидаете постоянного улучшения этих инструментов, тем важнее становится понимать источник того, что вы читаете. У Claude много преимуществ! Но когда я хочу узнать мнение Claude, я прямо спрашиваю Claude.

Автор: Крис Бест, перевод: Shenchao TechFlow, изображение: интерфейс инструмента AI-обнаружения, разработанного в сотрудничестве Substack и Pangram, показывающий соотношение текста, написанного человеком, и текста, созданного с помощью ИИ. Источник: Substack