Автор: Chris Best
Переклад: Deep潮 TechFlow
Огляд Shenchao: До 40% контенту в соціальних медіях вже генерується штучним інтелектом, але читачі часто цього не усвідомлюють. Substack вважає, що такий «Claudefishing» (підміна людського письма) підриває довіру між читачами та авторами та загрожує засобам до існування контент-створювачів. Їхній підхід: дозволити читачам самим робити висновки, а не нав’язувати рішення через платформу.
Інтернет, де важко відрізнити правду від брехні
Станом на зараз все складніше визначити, що є справжнім контентом у Інтернеті.
Ця проблема на Substack відносно невелика, і ми хочемо зберегти її такою. Як перший крок, сьогодні ми разом із Pangram запустили функцію в додатку Substack. У майбутньому ви зможете сканувати текст, щоб побачити, яка його частина, ймовірно, написана від руки, а яка — з використанням допомоги ШІ. Я пізніше розповім детальніше, але спочатку поясню, чому це важливо.
Все навколо — вода, але жодної краплі, яку можна було б випити
За оцінками Pangram, частка текстів, створених ШІ, на деяких платформах зростає і досягає до 40%. Це величезна зміна. Багато людей скаржаться, що їхні стрічки заповнені бездушним сміттям. Є й ті, хто навіть не усвідомлює, що читає щось, створене без участі людини.
Суть проблеми не в тому, що люди використовують ШІ, і не в якості виводу ШІ. Не всі контент, створений за допомогою ШІ, є сміттям, і не все сміття створене ШІ. Проблема в тому, що очікування читачів не збігаються з реальністю, особливо коли вони без відома вкладають увагу в контент, за яким не стоїть жодної людської думки. Ось що таке Claudefishing.
Фредді де Буер сказав:
Я звертаюся до мистецтва, створеного людиною, бо знаю, що за ним стоїть людина — саме це я шукаю — інші люди, які через мистецтво показують мені те, що приховують у собі. Обманути мене в цьому процесі — це просто обман.
Ми ставимо цей питання на Substack, бо воно стосується суті нашої роботи: створення економічного двигуна для культури. Це означає допомогти реальним людям — тим, хто думає, відчуває, спостерігає, суперечить, експериментує, розмірковує, бореться, заохочує та турбується — заробляти гроші на тому, у що вони вірять. Ця мережа побудована на довірі між людьми, і саме це робить її ефективною.
Коли контент, створений без участі людини, займає ту частину інтернету, яка належить людям, він забруднює публічний простір і ускладнює виявлення та почути людські голоси. Коли читачів змушують сумніватися у справжності того, що вони читають, це підриває довіру до авторства та загрожує існуванню письменників — включаючи тих, хто обдумано використовує інструменти ШІ для створення творів, у які вони вірять. Платформи, які нагороджують хибний контент, сприятимуть гонці до дна.
Що ми робимо
Це нова галузь, і ми не можемо стверджувати, що маємо всі відповіді. Але ми точно знаємо одну річ: ми не хочемо чекати, поки ваша Substack-заявка перетвориться на LinkedIn, щоб почати вивчати та рухатися вперед. Тож спочатку ми запускаємо кілька нових інструментів, які, сподіваємося, підвищать прозорість і закладуть основу для збору вашого фідбеку.
Ми співпрацюємо з лідируючим інструментом виявлення ШІ — Pangram. Ви зможете сканувати нотатки, відповіді, коментарі та пости, щоб побачити оцінку того, яка частка тексту була написана вручну або з допомогою ШІ. Це буде застосовуватися до текстів довше 100 слів, опублікованих з сьогодні, і аналіз буде видимий лише для тих, хто запитав його.
Рисунок: Інтерфейс інструменту AI-виявлення, розробленого Substack у співпраці з Pangram, який відображає відсоток тексту, написаного людиною та з допомогою ШІ. Джерело: Substack
Зверніть увагу, що Pangram може виявити лише те, чи було текст створено за допомогою ШІ, але не може визначити, чи було вкладено багато людських зусиль під час створення, чи використовувалися інструменти ШІ як джерело. Він не ідеальний, але незалежні дослідження показують, що він може виявляти текст, згенерований ШІ, з високою точністю. Ми віримо, що користувачам корисно використовувати такі інструменти, щоб допомогти собі приймати рішення.
Ми також запустили інструменти для авторів, включаючи функцію додавання заявлення «Як я створив це», де ви можете пояснити свій процес та встановити очікування для читачів. Ви можете запускати Pangram для чернетки перед публікацією, а також повідомляти та видаляти будь-які результати сканування вашого творіння, які вважаєте помилковими.
Ці функції зараз доступні на веб-сайті та iOS, і скоро з’являться на Android. Це лише початок. На основі відгуків та інтересу ми розглядаємо такі інструменти:
Налаштуйте свої уподобання щодо AI-контенту для свого спільноти у правилах відповідей
Надайте творцям більше можливостей для вираження їхньої особистої цінності, будь то через людський текст чи обдумане використання ШІ
Дозвольте читачам вибирати налаштування привабливості контенту, який їм рекомендується.
Зі збільшенням швидкості AI цих проблем продовжуйте вдосконалювати наші системи боротьби зі спамом, роботами та різними шахрайствами
Ми не проти того, щоб люди використовували ШІ для допомоги у роботі; ми вважаємо, що люди повинні мати свободу вибору інструментів для самовираження. Хтось на платформі є прихильником максимальної людської авторської роботи, тоді як інші відкрито досліджують межі використання інструментів ШІ, одночасно звертаючи увагу на деталі, щоб створювати контент, який підтримують. Ми вже довгий час використовуємо ШІ на Substack для написання програмного забезпечення, проведення досліджень та створення функцій продукту, таких як обрізання та переклад.
Але люди повинні розуміти, що вони отримують. Наприклад, вам може бути байдуже читати гостру аналітику когось, хто сильно залежить від ШІ для подання результатів дослідження, але ви хочете витрачати час лише на взаємодію з відповідями, написаними людьми. Будь-яким чином, у вас повинен бути вибір.
Що ви хочете побачити?
Ми всі разом входимо в цей дивний новий світ, і ми не можемо придумати кращого способу визначити нові інструменти та нові соціальні норми, ніж відкриті дебати. Ми хочемо почути вашу думку: як Substack може допомогти підтримувати цінну людську творчість у епоху ШІ? Коли використання ШІ — це Claudefishing? А коли — це добре?
Незалежно від того, наскільки могутніми стають ШІ, людська перспектива залишається фундаментальним елементом культури — це завжди буде так. Насправді, чим більше ви очікуєте, що ці інструменти постійно вдосконалюватимуться, тим важливіше розуміти походження того, що ви читаєте. Claude має багато переваг! Але коли я хочу дізнатися думку Claude, я прямо запитую Claude.