Інтернет, де важко відрізнити правду від брехні
Станом на зараз все складніше розрізняти, що є справжнім контентом у Інтернеті.
Ця проблема на Substack порівняно мала, і ми хочемо зберегти її такою. Як перший крок, сьогодні ми впровадили функцію у додатку Substack у співпраці з Pangram. У майбутньому ви зможете сканувати текст, щоб побачити, яка його частина, ймовірно, написана від руки, а яка — з використанням допомоги ШІ. Я пізніше детально розповім про це, але спочатку поясню, чому це важливо.
Всюди вода, але жодної краплі, яку можна було б випити
За оцінками Pangram, частка текстів, створених ШІ, на деяких платформах зростає, досягаючи до 40%. Це величезна зміна. Багато людей скаржаться, що їхні стрічки заповнені бездушним сміттям. Є й ті, хто навіть не усвідомлює, що читає те, що не було створене людиною.
Основна проблема не в тому, що люди використовують ШІ, і не в якості виводу ШІ. Не вся контент, створений за допомогою ШІ, є сміттям, і не всяке сміття створене ШІ. Проблема полягає в тому, що очікування читачів не збігаються з реальністю, особливо коли вони без відома вкладають увагу в контент, за яким не стоїть жодної людської думки. Ось що таке Claudefishing.
Фредді де Буер сказав:
Я звертаюся до мистецтва, створеного людиною, бо знаю, що за ним стоїть людина — саме це я шукаю — інші люди, які через мистецтво показують мені те, що приховують у собі. Обманути мене в цьому процесі — це просто обман.
Ми ставимо це питання у Substack, бо воно стосується суті нашої роботи: створення економічного двигуна для культури. Це означає допомогти реальним людям — тим, хто думає, відчуває, спостерігає, суперечить, експериментує, розмірковує, бореться, заохочує та турбується — заробляти гроші на тому, у що вони вірять. Ця мережа побудована на довірі між людьми, і саме це робить її ефективною.
Коли контент, створений без участі людини, займає ту частину інтернету, яка належить людям, він забруднює публічний простір і ускладнює виявлення та почути голоси людей. Коли читачів змушують сумніватися у справжності того, що вони читають, це підриває довіру до авторства й загрожує засобам існування письменників — включаючи тих, хто обдумано використовує інструменти ШІ для створення творів, у які вони вірять. Платформи, які нагороджують хибний контент, сприятимуть гонці до дна.
Що ми робимо
Це нова галузь, і ми не можемо стверджувати, що маємо всі відповіді. Але ми точно знаємо одну річ: ми не хочемо чекати, поки ваша Substack-заявка перетвориться на LinkedIn, щоб почати вчитися і рухатися вперед. Тож спочатку ми запускаємо кілька нових інструментів, які, сподіваємося, підвищать прозорість і закладуть основу для збору вашого відгуку.
Ми співпрацюємо з лідируючим інструментом виявлення ШІ — Pangram. Ви зможете сканувати нотатки, відповіді, коментарі та пости, щоб побачити оцінку того, яка частка тексту була написана вручну або з допомогою ШІ. Це буде застосовуватися до текстів довжиною більше 100 слів, опублікованих з сьогодні, і аналітичні результати будуть видимі лише для тих, хто запитав їх перегляд.
Зверніть увагу, що Pangram може виявити лише те, чи було текст створено за допомогою ШІ, але не може визначити, чи було вкладено багато людських зусиль під час створення, чи використовувалися інструменти ШІ як джерело. Він не ідеальний, але незалежні дослідження показують, що він може виявляти текст, згенерований ШІ, з високою точністю. Ми вважаємо, що користувачам корисно використовувати такі інструменти, щоб допомогти собі приймати рішення.
Ми також запустили інструменти для авторів, включаючи функцію додавання заяви «Як я створив це», де ви можете пояснити свій процес та встановити очікування для читачів. Ви можете запускати Pangram для чернетки перед публікацією, а також повідомляти та видаляти будь-які результати сканування, які, на вашу думку, є неправильними щодо вашого творіння.
Ці функції зараз доступні на веб-сайті та iOS, і скоро з’являться на Android. Це лише початок. На основі відгуків та інтересу ми розглядаємо такі інструменти:
Налаштуйте свої уподобання щодо AI-контенту для свого спільноти у правилах відповідей
Надайте творцям більше можливостей для вираження їхньої особистої цінності, незалежно від того, чи це людський текст чи обдумане використання ШІ
Дозвольте читачам вибирати налаштування своїх уподобань щодо контенту, який їм рекомендується.
Зі зростанням використання ШІ ці проблеми, продовжуйте вдосконалювати наші системи боротьби зі спамом, ботами та різними шахрайствами
Ми не проти того, щоб люди використовували ШІ для допомоги у роботі; ми вважаємо, що люди повинні мати свободу вибору інструментів для самовираження. Хтось на платформі є прихильником максимальної людської авторської роботи, тоді як інші відкрито досліджують межі використання інструментів ШІ, звертаючи увагу на деталі, щоб створювати контент, який підтримують. Ми вже довгий час використовуємо ШІ на Substack для написання програмного забезпечення, проведення досліджень та створення функцій продукту, таких як обробка, переклад тощо.
Але люди повинні розуміти, що вони отримують. Наприклад, вам може бути байдуже читати гостру аналітику когось, хто сильно залежить від ШІ для представлення результатів дослідження, але ви хочете витрачати час лише на взаємодію з відповідями, написаними людьми. Будь-яким чином, ви повинні мати вибір.
Що ти хочеш побачити?
Ми всі разом входимо в цей дивний новий світ, і ми не можемо придумати кращого способу визначити нові інструменти та нові соціальні норми, ніж відкриті дебати. Ми хочемо почути вашу думку: як Substack може допомогти підтримувати цінний людський контент у епоху ШІ? Коли використання ШІ — це Claudefishing? А коли — це добре?
Незалежно від того, наскільки потужними стають ШІ, людська перспектива залишається фундаментальним елементом культури — це завжди буде так. Насправді, чим більше ви очікуєте, що ці інструменти постійно вдосконалюватимуться, тим важливіше розуміти походження того, що ви читаєте. Claude має багато переваг! Але коли я хочу дізнатися думку Claude, я прямо запитую Claude.
Автор: Кріс Бест, переклад: Shenchao TechFlow, зображення: Substack — інтерфейс інструменту AI-детекції, розробленого у співпраці з Pangram, який відображає відсоток тексту, написаного людиною та з допомогою AI. Джерело: Substack