Substack Meluncurkan Alat Deteksi Konten AI untuk Meningkatkan Transparansi

Sekarang semakin sulit untuk membedakan apa yang merupakan konten nyata di internet.

Masalah ini relatif ringan di Substack, dan kami ingin menjaga agar tetap seperti itu. Sebagai langkah pertama, hari ini kami meluncurkan fitur bersama Pangram di aplikasi Substack. Di masa mendatang, Anda dapat memindai teks untuk melihat seberapa banyak kemungkinan ditulis tangan dan seberapa banyak dibantu oleh AI. Saya akan menjelaskan lebih detail nanti, tetapi pertama-tama izinkan saya menjelaskan mengapa ini penting.

Menurut perkiraan Pangram, proporsi teks yang dihasilkan AI di beberapa platform sedang meningkat, hingga 40%. Ini adalah perubahan besar. Banyak orang mengeluh bahwa aliran informasi mereka penuh dengan konten sampah tanpa jiwa. Ada pula yang bahkan tidak menyadari bahwa mereka sedang membaca sesuatu yang tidak diciptakan oleh manusia.

Masalah utamanya bukan pada penggunaan AI oleh orang-orang, atau pada kualitas output AI. Tidak semua konten yang dibuat dengan AI adalah sampah, dan tidak semua sampah dibuat dengan AI. Masalahnya terletak pada ketidaksesuaian antara harapan pembaca dengan kenyataan, terutama ketika mereka tanpa sadar memfokuskan perhatian pada konten yang sama sekali tidak melibatkan pemikiran manusia. Inilah yang disebut Claudefishing.

Freddie deBoer mengatakan:

Saya terhubung dengan seni ciptaan manusia karena saya tahu ada seseorang di baliknya—inilah yang saya cari: orang lain yang, melalui seni, menunjukkan kepada saya hal-hal tersembunyi dalam diri mereka sendiri. Menipu saya dalam proses ini hanyalah sebuah penipuan.

Kami peduli dengan masalah ini di Substack karena ini menyentuh inti pekerjaan kami: membangun mesin ekonomi untuk budaya. Ini berarti membantu orang-orang nyata—mereka yang berpikir, merasa, mengamati, berdebat, bereksperimen, mempertimbangkan, berjuang, menasihati, dan peduli—untuk menghasilkan uang dari karya yang mereka percayai. Jaringan ini dibangun di atas kepercayaan antarmanusia, dan itulah sebabnya ia berfungsi.

Ketika konten tanpa karya manusia menguasai bagian internet yang seharusnya milik manusia, ia mencemari ruang publik dan membuat sulit untuk menemukan serta mendengar suara manusia. Ketika pembaca harus meragukan apakah konten yang mereka baca itu asli, hal ini merusak kepercayaan terhadap identitas penulis dan mengancam mata pencaharian para penulis—termasuk mereka yang secara bijak menggunakan alat AI untuk menciptakan karya yang mereka percayai. Platform yang memberi insentif pada konten palsu akan memicu perlombaan ke bawah.

Ini adalah bidang yang sedang berkembang, dan kami tidak mengklaim memiliki semua jawaban. Namun, satu hal yang kami ketahui adalah bahwa kami tidak ingin menunggu hingga aplikasi Substack Anda berubah menjadi LinkedIn baru mulai belajar dan membuat kemajuan. Oleh karena itu, pertama-tama, kami meluncurkan beberapa alat baru yang bertujuan meningkatkan transparansi dan menjadi dasar untuk meminta umpan balik dari Anda.

Kami sedang bekerja sama dengan alat deteksi AI terkemuka, Pangram. Anda akan dapat memindai catatan, balasan, komentar, dan postingan untuk melihat perkiraan seberapa banyak teks tersebut ditulis secara manual atau dengan bantuan AI. Ini akan berlaku untuk teks lebih dari 100 kata yang diposting mulai hari ini, dan hanya akan menampilkan hasil analisis kepada yang meminta untuk melihatnya.

Harap dicatat bahwa Pangram hanya dapat mendeteksi apakah AI digunakan untuk membuat teks, tetapi tidak dapat mendeteksi seberapa besar upaya manusia yang diinvestasikan dalam penciptaan atau apakah alat AI digunakan sebagai sumber. Alat ini tidak sempurna, tetapi penelitian independen menunjukkan bahwa ia mampu mendeteksi teks yang dihasilkan AI dengan akurasi tinggi. Kami percaya bahwa berguna bagi orang-orang untuk menggunakan alat semacam ini untuk membantu mereka membuat keputusan.

Kami juga meluncurkan alat untuk kreator, termasuk fitur untuk menambahkan pernyataan "Bagaimana Saya Membuat Ini", di mana Anda dapat menjelaskan proses Anda dan menetapkan harapan bagi pembaca. Anda dapat menjalankan Pangram pada draf sebelum mempublikasikannya, serta melaporkan dan menghapus hasil pemindaian mana pun yang Anda anggap salah terhadap karya Anda.

Fitur-fitur ini sekarang tersedia di web dan iOS, dan akan segera diluncurkan di Android. Ini hanyalah permulaan. Berdasarkan umpan balik dan minat, kami sedang mempertimbangkan alat-alat berikut:

Atur preferensi Anda tentang konten AI untuk komunitas Anda di aturan balasan

Berikan lebih banyak cara bagi kreator untuk mengekspresikan nilai pribadi yang mereka tawarkan, baik melalui penulisan manusia maupun penggunaan AI yang dipertimbangkan secara matang

Biarkan pembaca memilih untuk mengatur preferensi tentang konten apa yang direkomendasikan kepada mereka.

Dengan AI yang mempercepat masalah-masalah ini, terus perbaiki sistem kami dalam melawan spam, bot, dan berbagai penipuan.

Kami tidak menentang penggunaan AI untuk membantu pekerjaan, kami percaya orang seharusnya bebas memilih alat apa yang ingin mereka gunakan untuk mengekspresikan diri. Di platform ini, ada beberapa orang yang merupakan maximalis penulis manusia, sementara yang lain secara terbuka mengeksplorasi batas-batas penggunaan alat AI, sambil tetap memperhatikan detail untuk menciptakan karya yang mereka dukung. Kami telah menggunakan AI di Substack untuk menulis perangkat lunak, melakukan penelitian, serta membangun fitur produk seperti kliping dan terjemahan.

Tetapi orang-orang harus tahu apa yang mereka dapatkan. Misalnya, Anda mungkin tidak keberatan membaca analisis tajam seseorang yang sangat bergantung pada AI untuk menyajikan hasil penelitian, tetapi hanya ingin menghabiskan waktu berinteraksi dengan balasan yang ditulis secara manual oleh manusia. Dalam kedua kasus tersebut, Anda seharusnya memiliki pilihan.

Kami semua masuk bersama ke dunia aneh ini, dan kami tidak bisa memikirkan cara yang lebih baik selain debat terbuka untuk menemukan alat baru dan norma sosial baru yang kami butuhkan. Kami ingin mendengar pendapat Anda: Bagaimana Substack dapat membantu mendukung karya manusia bernilai di era AI? Kapan penggunaan AI disebut Claudefishing? Kapan itu baik?

Seberapa kuat pun AI menjadi, perspektif manusia tetap menjadi elemen dasar budaya, dan ini akan selalu demikian. Faktanya, semakin Anda mengharapkan alat-alat ini terus meningkat, semakin penting untuk memahami asal usul konten yang Anda baca. Claude memiliki banyak kelebihan! Tetapi ketika saya ingin pendapat Claude, saya akan langsung bertanya kepada Claude.

Penulis: Chris Best, Diterjemahkan oleh Deep潮 TechFlow, Gambar: Antarmuka alat deteksi AI yang dikembangkan oleh Substack bekerja sama dengan Pangram, yang menampilkan proporsi teks yang ditulis oleh manusia dan yang dibantu AI. Sumber: Substack