Inilunsad ng Substack ang AI Detection Tool upang tulungan ang mga reader na husgahan ang autentisidad ng nilalaman

May-akda: Chris Best

Isinalin: Deep潮 TechFlow

DeepChao Summary: Hanggang 40% ng nilalaman sa social media ay nagmumula sa AI, ngunit madalas ay hindi alam ng mga reader. Naniniwala ang Substack na ang "Claudefishing" (pagmamaliit bilang tao) ay nagpapabagsak sa tiwala sa pagitan ng reader at may-akda, at nagbubulag sa kabuhayan ng mga tagapaglikha ng nilalaman. Ang kanilang sagot: hayaan ang mga reader na magdesisyon mismo, hindi ang platform ang magpapasya para sa iyo.

Mas mahirap na malaman kung ano ang totoong laman sa internet ngayon.

Ang tanong na ito ay relatibong maliit sa Substack, at nais naming panatilihin ito. Bilang unang hakbang, inilunsad namin ngayon sa Substack app ang isang tampok kasama ang Pangram. Sa hinaharap, maaari mong i-scan ang teksto upang makita kung gaano karaming bahagi nito ay hand-written at gaano karaming bahagi ay natapos sa tulong ng AI. Ipaunawa ko ang detalye nito sa susunod, ngunit muna naming ipaliwanag kung bakit ito mahalaga.

Ayon sa pagtataya ng Pangram, tumataas ang proporsyon ng AI-generated na teksto sa ilang mga platform, hanggang 40%. Ito ay isang malaking pagbabago. Marami ang nagsasabing ang kanilang feed ay puno ng walang kaluluwang basura. May ilan pa ring hindi nababatid na binabasa nila ang mga bagay na walang may-akda.

Ang pangunahing problema ay hindi kung paano ginagamit ng mga tao ang AI, o kung ano ang kalidad ng output ng AI. Hindi lahat ng nilalaman na gawa sa AI ay basura, at hindi lahat ng basura ay gawa sa AI. Ang problema ay nang ang mga inaasahan ng mambabasa ay hindi tumutugma sa katotohanan, lalo na kapag nagsasalita sila nang walang kaalaman na inilalagay nila ang kanilang atensyon sa mga nilalaman na walang anumang tao sa likod nito. Ito ang Claudefishing.

Sinabi ni Freddie deBoer:

Nakakasali ako sa sining na gawa ng tao dahil alam kong may tao sa likod nito—ito ang hinahanap ko: ang iba, na nagpapakita sa akin sa pamamagitan ng sining ang kanilang nakatago sa loob ng kanilang sarili. Ang pagmamaliw sa akin sa prosesong ito ay isang scam lamang.

Namin ito ay isinasaalang-alang sa Substack, dahil ito ay tumutok sa puso ng aming trabaho: pagbuo ng ekonomikong motor para sa kultura. Ito ay nangangahulugan ng pagtutulungan sa totoong tao—mga taong nagsisipag-isip, nadarama, nakakakita, nagtatalo, nag-eeksperimento, nag-iisip, naghihinga, nagpapayo, at nag-aalala—upang kikitain ang pera sa kanilang pinaniniwalaang gawa. Ang network na ito ay nakabatay sa tiwala sa pagitan ng mga tao, at dito nakabatay ang kanyang epektibong paggana.

Kapag ang mga nilalaman na walang tao ang nagawa ang nagsasakop sa mga bahagi ng internet na dapat ay para sa mga tao, ito ay nagpapollute sa pampublikong espasyo at nagiging mahirap makita at marinig ang boses ng mga tao. Kapag ang mga mambabasa ay kailangang mag-iiwan ng alinlangan kung ang kanilang binabasa ay totoo, ito ay nagpapabagsak sa tiwala sa pagkakakilanlan ng may-akda at nagbubulag sa kabuhayan ng mga manunulat — kabilang ang mga taong may malalim na paggamit ng mga kasangkapan sa AI upang gawin ang kanilang mga gawaing pinaniniwalaan. Ang mga platform na nagbibigay ng pabor sa mga maling nilalaman ay magdudulot ng isang patuloy na pagbaba sa pamantayan.

Ito ay isang bagong larangan, at hindi namin masasabi na mayroon tayong lahat ng sagot. Ngunit isa sa mga bagay na alam namin ay hindi namin gustong hintayin hanggang maging LinkedIn ang iyong Substack application bago magsimula na matutong at makamit ang progreso. Kaya una, inilunsad namin ang ilang mga bagong kasangkapan na umaasa na magpapataas ng transparensya at magiging pundasyon para sa aming paghingi ng iyong feedback.

Nagtatrabaho kami kasama ang pangunahing AI detection tool na Pangram. Makakapag-scan ka ng mga tala, sagot, komento, at post upang makita ang estymadong porsyento ng teksto na isinulat ng tao o naibigay ng AI. Ito ay maglalapat sa lahat ng teksto na higit sa 100 na salita na ipinapahayag mula sa araw na ito, at ang mga resulta ng pagsusuri ay makikita lamang ng mga nag-request na tingnan.

Larawan: Interfase ng AI detection tool na pinagsama ni Substack at Pangram, na nagpapakita ng proporsyon ng teksto na isinulat ng tao at AI-assisted. Pinagmulan: Substack

Mangyaring tandaan na ang Pangram ay nagtataya lamang kung ginamit ang AI upang gawin ang teksto, at hindi nagtataya kung may malaking pagsisikap ng tao sa paggawa nito o kung ginamit ang AI bilang sanggunian. Hindi ito perpekto, ngunit ang mga independiyenteng pag-aaral ay nagpapakita na may mataas na antas ng akurasye ito sa pagtataya ng AI-generated na teksto. Naniniwala kami na kapaki-pakinabang ang paggamit ng ganitong mga kasangkapan upang tulungan ang mga tao sa paggawa ng kanilang mga desisyon.

Isinampa namin rin ang mga kasangkapan para sa mga tagagawa, kabilang ang pagdaragdag ng pahayag na “Paano Ko Ito Nilikha,” kung saan maaari mong ipaliwanag ang iyong proseso at magtakda ng mga inaasahan para sa mga mambabasa. Maaari mong i-run ang Pangram sa iyong draft bago i-publish, o maaari mong i-report at tanggalin ang anumang resulta ng scanning sa iyong gawa na iyong itinuturing na mali.

Maaari na gamitin ang mga tampok na ito sa web at iOS, at lalabas na soon sa Android. Ito ay isang simpleng simula. Ayon sa feedback at interes, pinag-iisip namin ang mga sumusunod na kasangkapan:

I-set ang iyong pagkakapreferensya tungkol sa AI content para sa iyong komunidad sa mga patakaran ng pagpapalit.

Magbigay ng higit pang paraan para sa mga creator na ipahayag ang kanilang personal na halaga, kahit sa pamamagitan ng tao na pagsusulat o matalinong paggamit ng AI

Hayaan ang mga reader na piliin ang kanilang mga preferensya kung ano ang mga kontenido na gusto nilang makarekomenda sa kanila.

Habang pinapabilis ng AI ang mga problema na ito, patuloy na pagbutihin ang ating sistema para labanan ang spam, bots, at iba’t ibang scam.

Hindi namin ipinaglalaban ang paggamit ng AI bilang tulong sa trabaho; naniniwala kami na dapat may kalayaan ang mga tao na pumili ng anumang kasangkapan na gagamitin upang ipahayag ang kanilang sarili. May ilan sa platform na mga maximalist ng tao na sumulat, habang may iba naman na bukas na sinusubok ang mga hangganan ng paggamit ng AI tools, habang nag-aalala sa detalye upang gawin ang kanilang mga sinusuportahang gawa. Patuloy nating ginagamit ang AI sa Substack para isulat ang software, gawin ang pananaliksik, at buuin ang mga product feature tulad ng clipping at pagsasalin.

Ngunit dapat malaman ng mga tao kung ano ang natatanggap nila. Halimbawa, maaaring hindi ka magtataka sa pagbabasa ng isang masinsinang pagsusuri ng isang tao na malaki ang pagkakasalig sa AI para ipakita ang mga resulta ng pananaliksik, ngunit gusto mo lamang mag-alaala ng oras sa pag-uugnay sa mga sagot na isinulat ng tao. Anuman ang paraan, dapat may karapatan ka na pumili.

Sama-samang pumasok tayo sa kakaibang bagong mundo na ito, at hindi namin makakaisip ng mas magandang paraan upang makahanap ng mga bagong kasangkapan at bagong panlipunang pamantayan na kailangan natin. Gusto naming marinig ang iyong opinyon: Paano nakakatulong ang Substack sa pagpapalakas ng mga halagang likhang-buhay ng tao sa panahon ng AI? Kailan ito Claudefishing? Kailan naman ito mabuti?

Anuman ang lakas ng AI, ang tao ay patuloy na pangunahing bahagi ng kultura, at ito ay laging magiging ganito. Sa katotohanan, mas mahalaga ang pag-unawa sa pinagmulan ng mga bagay na binabasa mo habang mas umaasa ka sa pagpapabuti ng mga kasangkapan na ito. Maraming kakayahan si Claude! Ngunit kapag gusto kong malaman ang opinyon ni Claude, tanong ko si Claude nang direkta.