Internet yang sukar dibezakan antara benar dan palsu
Semakin sukar untuk membezakan kandungan sebenar di internet sekarang.
Masalah ini relatif ringan di Substack, dan kami ingin mempertahankannya. Sebagai langkah pertama, kami bekerja sama dengan Pangram untuk melancarkan ciri baru di aplikasi Substack hari ini. Di masa depan, anda boleh memindai teks untuk melihat berapa banyak kemungkinan ditulis secara tulisan tangan dan berapa banyak dibantu oleh AI. Saya akan menjelaskan lebih lanjut nanti, tetapi pertama-tama, biarkan saya terangkan mengapa ini penting.
Di mana-mana ada air, tetapi tidak sejengkal pun yang boleh diminum
Berdasarkan anggaran Pangram, peratusan teks yang dihasilkan oleh AI di beberapa platform sedang meningkat, sehingga mencapai 40%. Ini adalah perubahan yang besar. Banyak orang mengeluh bahawa aliran maklumat mereka dipenuhi dengan kandungan sampah yang tiada jiwa. Ada juga yang tidak sedar bahawa mereka sedang membaca sesuatu yang tidak dicipta oleh manusia.
Masalah utama bukanlah bagaimana orang menggunakan AI, atau kualiti output AI. Tidak semua kandungan yang dihasilkan oleh AI adalah sampah, dan tidak semua sampah dihasilkan oleh AI. Masalahnya ialah apabila harapan pembaca tidak sejajar dengan kenyataan, terutamanya apabila mereka secara tidak sedar memfokuskan perhatian pada kandungan yang tidak mempunyai pemikiran manusia di sebaliknya. Inilah Claudefishing.
Freddie deBoer berkata:
Saya terdedah kepada seni ciptaan manusia kerana saya tahu ada seseorang di sebaliknya, dan inilah yang saya cari—orang lain yang memperlihatkan kepada saya apa yang tersembunyi dalam diri mereka melalui seni. Menipu saya dalam proses ini hanyalah satu penipuan.
Kami memperhatikan isu ini di Substack kerana ia menyentuh inti pekerjaan kami: membina enjin ekonomi untuk budaya. Ini bermaksud membantu orang-orang sejati—mereka yang berfikir, merasa, memperhatikan, berdebat, menguji, mempertimbangkan, berjuang, menasihati, dan peduli—untuk menghasilkan wang melalui karya yang mereka percayai. Rangkaian ini dibina atas kepercayaan antara manusia, dan itulah sebabnya ia berkesan.
Apabila kandungan tanpa pencipta manusia menguasai bahagian internet yang seharusnya milik manusia, ia mencemarkan ruang awam dan menyulitkan pencarian serta pendengaran suara manusia. Apabila pembaca terpaksa meragui keaslian kandungan yang mereka baca, ia merosakkan kepercayaan terhadap identiti penulis dan mengancam sumber pendapatan penulis—termasuk mereka yang menggunakan alat AI dengan bijak untuk mencipta karya yang mereka percayai. Platform yang memberi ganjaran kepada kandungan palsu akan memicu perlumbaan ke bawah.
Apa yang sedang kita lakukan
Ini adalah bidang yang sedang berkembang, dan kami tidak berani mengatakan memiliki semua jawapan. Tetapi satu perkara yang kami pasti tahu ialah kami tidak ingin menunggu sehingga aplikasi Substack anda menjadi seperti LinkedIn sebelum memulakan pembelajaran dan kemajuan. Oleh itu, pertama-tama, kami melancarkan beberapa alat baru yang diharapkan dapat meningkatkan transparansi serta menjadi asas untuk mendengar maklum balas daripada anda.
Kami sedang bekerjasama dengan alat pengesanan AI terkemuka, Pangram. Anda akan dapat memindai nota, balasan, komen, dan pos untuk melihat berapa banyak teks yang ditulis secara manual atau diperkirakan diselesaikan dengan bantuan AI. Ini akan berlaku untuk teks yang melebihi 100 patah perkataan yang diterbitkan mulai hari ini, dan hanya akan menunjukkan keputusan analisis kepada mereka yang meminta untuk melihatnya.
Harap diperhatikan bahawa Pangram hanya dapat mengesan sama ada AI digunakan untuk menghasilkan teks, tetapi tidak dapat mengesan sama ada usaha manusia yang banyak telah dikeluarkan semasa penciptaan, atau sama ada alat AI digunakan sebagai sumber. Ia tidak sempurna, tetapi kajian bebas menunjukkan bahawa ia mampu mengesan teks yang dihasilkan oleh AI dengan ketepatan yang tinggi. Kami percaya bahawa penggunaan alat seperti ini oleh orang ramai untuk membantu membuat keputusan adalah bermanfaat.
Kami juga melancarkan alat untuk pencipta, termasuk fungsi untuk menambahkan pernyataan "Bagaimana Saya Menciptakan Ini", di mana anda boleh menerangkan proses anda dan menetapkan harapan kepada pembaca. Anda boleh menjalankan Pangram pada draf sebelum menerbitkan, serta melaporkan dan memadam sebarang keputusan pemindaian terhadap karya anda yang anda anggap salah.
Fungsi-fungsi ini kini boleh digunakan di laman web dan iOS, dan akan segera dilancarkan di Android. Ini hanyalah permulaan. Berdasarkan maklum balas dan minat, kami sedang mempertimbangkan alat-alat berikut:
Tetapkan preferensi anda mengenai kandungan AI untuk komunitas anda dalam peraturan balasan
Memberikan lebih banyak cara kepada pencipta untuk mengekspresikan nilai peribadi yang mereka tawarkan, sama ada melalui penulisan manusia atau penggunaan AI yang dipertimbangkan dengan teliti
Biarkan pembaca memilih untuk menetapkan preferensi mengenai kandungan yang disarankan kepada mereka.
Dengan AI mempercepat isu-isu ini, teruskan memperbaiki sistem kami untuk memerangi spam, robot, dan pelbagai penipuan.
Kami tidak menentang penggunaan AI untuk membantu kerja, kami percaya orang seharusnya bebas memilih alat apa yang ingin mereka gunakan untuk mengekspresikan diri. Di platform ini, ada yang merupakan maximalis penulisan manusia, sementara yang lain secara terbuka menjelajahi batas penggunaan alat AI, sambil memperhatikan butiran halus untuk menciptakan karya yang mereka sokong. Kami telah menggunakan AI di Substack untuk menulis perisian, melakukan penyelidikan, dan membina ciri-ciri produk seperti penyuntingan, terjemahan, dan sebagainya.
Namun, orang harus tahu apa yang mereka dapatkan. Sebagai contoh, anda mungkin tidak keberatan membaca analisis tajam seseorang yang sangat bergantung pada AI untuk menyajikan hasil penyelidikan, tetapi hanya ingin meluangkan masa berinteraksi dengan balasan yang ditulis secara manual oleh manusia. Dalam mana-mana kes, anda sepatutnya mempunyai pilihan.
What do you want to see?
Kita semua masuk ke dunia baru yang aneh ini bersama-sama, dan kami tidak dapat memikirkan cara yang lebih baik selain perdebatan terbuka untuk mencari tahu alat dan norma sosial baru yang kita perlukan. Kami ingin mendengar pendapat anda: Bagaimana Substack dapat membantu menyokong karya manusia yang bernilai di era AI? Kapan penggunaan AI dianggap Claudefishing? Kapan ia dianggap baik?
Seberapa kuat pun AI menjadi, perspektif manusia adalah elemen asas budaya, dan ini akan sentiasa begitu. Sebenarnya, semakin anda mengharapkan alat-alat ini terus diperbaiki, semakin penting untuk memahami sumber konten yang anda baca. Claude mempunyai banyak kelebihan! Tetapi apabila saya ingin pendapat Claude, saya akan bertanya langsung kepada Claude.
Penulis: Chris Best, Diterjemahkan oleh Deep潮 TechFlow, Gambar: Antaramuka alat pengesanan AI yang bekerjasama dengan Substack dan Pangram, yang menunjukkan peratusan teks yang ditulis oleh manusia dan dibantu AI. Sumber: Substack