Ipinaglunsad ng Substack ang AI Content Detection Tool upang mapalakas ang transparensya

Mas mahirap na malaman kung ano ang totoong nilalaman sa internet ngayon.

Ang tanong na ito ay relatibong maliit sa Substack, at nais naming panatilihin ito. Bilang unang hakbang, inilunsad namin ngayon sa Substack app ang isang tampok kasama ang Pangram. Sa hinaharap, maaari mong i-scan ang teksto upang makita kung gaano karaming bahagi nito ay manulat kamay at gaano karaming bahagi ay ginawa sa tulong ng AI. Ipapaliwanag ko ang detalye nito mamaya, ngunit muna naming ipaliwanag kung bakit ito mahalaga.

Ayon sa pagtataya ng Pangram, tumataas ang proporsyon ng teksto na nilikha ng AI sa ilang mga platform, hanggang 40%. Ito ay isang malaking pagbabago. Marami ang naghihinga na puno ang kanilang feed ng walang kaluluwang basura. May ilan pa na hindi pa rin nakikita na binabasa nila ang mga bagay na walang may-akda.

Ang pangunahing problema ay hindi kung paano ginagamit ng mga tao ang AI, o kung ano ang kalidad ng output ng AI. Hindi lahat ng nilalaman na gawa sa AI ay basura, at hindi lahat ng basura ay gawa sa AI. Ang problema ay nang ang mga ekspektasyon ng mambabasa ay hindi tugma sa katotohanan, lalo na kapag nagsasalot sila ng kanilang atensyon sa mga nilalaman na walang anumang tao sa likod nito nang walang kaalaman. Ito ang Claudefishing.

Sinabi ni Freddie deBoer:

Nakakasali ako sa sining na gawa ng tao dahil alam kong may tao sa likod nito—ito ang tinatanggap ko—ang iba, na nagpapakita sa akin ng kanilang nakatago sa loob ng kanilang sarili sa pamamagitan ng sining. Ang pagpapalito sa akin sa prosesong ito ay isang scam lamang.

Namin ito ay isinasaalang-alang sa Substack, dahil ito ay tumutok sa puso ng aming trabaho: pagbuo ng ekonomikong motor para sa kultura. Ito ay nangangahulugan ng pagtutulungan sa totoong tao—ang mga nag-iisip, nadarama, nakakakita, nagtatalo, nag-eeksperimento, nag-iisip, naghihinga, nagpapayo, at nag-aalala—upang kikita sa kanilang pinaniniwalaang gawa. Ang network na ito ay nakabatay sa tiwala sa pagitan ng tao, at dito nakabatay ang kanyang epektibong paggana.

Kapag ang mga nilalaman na walang tao ang gumawa ay nagsasakop sa mga bahagi ng internet na dapat ay para sa mga tao, ito ay nagpapollution sa pampublikong espasyo at nagiging mahirap makita at marinig ang boses ng mga tao. Kapag ang mga mambabasa ay kailangang mag-iiwan ng alinlangan kung ang kanilang binabasa ay totoo, ito ay nagpapabagsak sa tiwala sa pagkakakilanlan ng may-akda at nagbubulag sa kabuhayan ng mga manunulat — kabilang na rito ang mga taong may malalim na paggamit ng mga AI tool upang lumikha ng mga akda na naniniwala sila. Ang mga platform na nagbibigay ng reward sa mga maling nilalaman ay magdudulot ng isang pagsabog sa ibaba.

Ito ay isang bagong larangan, at hindi namin masasabi na mayroon tayong lahat ng sagot. Ngunit isang bagay na alam namin ay hindi namin gustong hintayin hanggang magiging LinkedIn ang iyong Substack application bago magsimula na matutong at makamit ang progreso. Kaya una, inilunsad namin ang ilang mga bagong kasangkapan na naglalayong palakasin ang transparensya at magbigay ng pundasyon para sa iyong feedback.

Nasa pagtatrabaho kami kasama ang pangunahing AI detection tool na Pangram. Makakapag-scan ka ng mga tala, sagot, komento, at post upang makita kung ilan sa teksto ay isinulat ng kamay o may tulong ng AI. Ito ay maglalapat sa lahat ng teksto na higit sa 100 na salita na ipinapahayag mula sa araw na ito, at ang mga resulta ng pagsusuri ay magkakaroon lamang ng access para sa mga nag-request na tingnan.

Mangyaring tandaan na ang Pangram ay nakakadetect kung ginamit ang AI para gawin ang teksto, ngunit hindi nakakadetect kung may malaking pagsisikap ng tao sa paggawa nito o kung ginamit ang AI bilang pinagkukunan. Hindi ito perpekto, ngunit ang mga independiyenteng pag-aaral ay nagpapakita na may mataas na antas ng akurasye ito sa pagdetekta ng AI-generated na teksto. Naniniwala kami na kapaki-pakinabang ang paggamit ng ganitong mga kasangkapan upang tulungan ang mga tao sa paggawa ng kanilang mga desisyon.

Isinampa namin din ang mga kasangkapan para sa mga tagagawa, kabilang ang pagdaragdag ng pahayag na “Paano Ko Ito Ginawa,” kung saan maaari mong ipaliwanag ang iyong proseso at magtakda ng mga inaasahan para sa mga mambabasa. Maaari mong i-run ang Pangram sa iyong draft bago i-publish, o maaari mong i-report at tanggalin ang anumang resulta ng scan sa iyong gawa na iyong itinuturing na mali.

Maaari na gamitin ang mga tampok na ito sa web at iOS, at lalabas na soon sa Android. Ito ay isang simpleng simula. Ayon sa feedback at interes, pinag-iisip namin ang mga sumusunod na kasangkapan:

I-set ang iyong preferensya tungkol sa AI content para sa iyong komunidad sa mga patakaran ng pagpapalit.

Magbigay ng higit pang paraan para sa mga creator na ipahayag ang kanilang personal na halaga, kahit sa pamamagitan ng tao na pagsusulat o maingat na paggamit ng AI

Papayagan ang mga reader na piliin ang kanilang mga preferensya kung ano ang mga nilalaman na gusto nilang makarekomenda sa kanila.

Patuloy na pagpapabuti ng aming sistema para labanan ang spam, mga bot, at iba’t ibang scam habang ang AI ay pinapabilis ang mga problema na ito.

Hindi namin ipinaglalaban ang paggamit ng AI bilang tulong sa trabaho; naniniwala kami na dapat may kalayaan ang mga tao na pumili ng anumang kasangkapan na gagamitin upang ipahayag ang kanilang sarili. May ilan sa platform na mga maksimalistang tao na sumulat, at may ilan naman na bukas na sinusubok ang mga hangganan ng paggamit ng AI tools, habang nananatiling maingat upang lumikha ng kanilang mga gawaing suportado. Patuloy naming ginagamit ang AI sa Substack para isulat ang software, gawin ang pananaliksik, at buuin ang mga product feature tulad ng paggawa ng clip at pagsasalin.

Ngunit dapat malaman ng mga tao kung ano ang natatanggap nila. Halimbawa, maaari mong hindi magsawa magbasa ng isang malalim na pagsusuri ng isang tao na malaki ang pagkakasalig sa AI para ipakita ang mga resulta ng pananaliksik, ngunit gusto mo lamang magpass ng oras sa mga reply na isinulat ng tao. Anuman ang paraan, dapat may karapatan ka na pumili.

Nasa iisang barko tayong lahat sa kakaibang bagong mundo na ito, at hindi namin makakaisip ng mas magandang paraan upang makahanap ng mga bagong kasangkapan at bagong panlipunang norma na kailangan natin kaysa sa pampublikong debate. Gusto naming marinig ang iyong opinyon: Paano nakakatulong ang Substack sa pagpapalakas ng mayamang human na paggawa sa panahon ng AI? Kailan ginagamit ang AI bilang Claudefishing? Kailan ito mabuti?

Anuman ang lakas ng AI, ang tao ay patuloy na pangunahing bahagi ng kultura, at ito ay laging magiging ganito. Sa katotohanan, mas mahalaga ang pag-unawa sa pinagmulan ng mga nilalaman na binabasa mo habang mas umaasa ka sa pagpapabuti ng mga kasangkapan na ito. Maraming kakayahan si Claude! Ngunit kapag nais kong malaman ang opinyon ni Claude, tanong ko si Claude nang direkta.

May-akda: Chris Best, Isinalin: Deep潮 TechFlow, Larawan: Substack — ang interface ng AI detection tool na nagtatrabaho kasama ang Pangram, na nagpapakita ng proporsyon ng teksto na isinulat ng tao at AI-assisted. Pinagmulan: Substack