Inilah ni Max Spero ang mga limitasyon ng AI sa pagsusulat at mga kasangkapan sa pagdetekta sa Odd Lots

• Ang pagkakasulat ng AI ay masisikat sa gramatika at kalinawan, madalas na lalampas sa mga kakayahan ng tao.
• Sa kabila ng kanyang kakayahan sa gramatika, ang AI ay nahihirapan makalikha ng natatanging istilo sa pagsulat.
• Ang mga kasangkapan para sa paghahanap ng nilalaman na ginawa ng AI ay nagsisigla at nagsisilbing mas madaling ma-access.
• Ang kalakasan sa paggawa ng AI content ay nagdudulot ng mga hamon sa autenticidad ng impormasyon.
• Ang mga tradisyonal na indikador ng kredibilidad ng may-akda ay binabale-wala ng AI.
• Ang software na nagdedetect ng AI ay may mataas na antas ng akurasyon, na may minimum na maliwang positibo.
• Ang rate ng false negative para sa pagdetekta ng teksto na ginawa ng AI ay humigit-kumulang 1%.
• Natututo ang mga AI model na magkakaiba ng teksto sa pamamagitan ng pagsusuri sa mga pattern ng desisyon sa wika.
• Ang pagkakasulat ng AI ay limitado ng kanilang training data, na nagtatagpo ng mga paglihis sa kreatibidad.
• Ang rate ng false positive sa AI detection ay nagpapakita ng mga pansamantalang pagkakasalungat sa pagsusulat ng tao.
• Ang AI-generated na nilalaman ay maaaring magbaha sa mga channel, na nagkakaroon ng komplikasyon sa pagkilala sa intensyon.
• Nagkakaroon ng pagkawala ng ugnayan sa pagitan ng kalidad ng prosa at seriedad ng may-akda dahil sa AI.
• Mahalaga ang mga tool para sa pagdetekta ng AI upang panatilihin ang integridad ng nilalaman sa digital na komunikasyon.

Si Max Spero ay ang CEO at co-founder ng Pangram Labs, isang kumpanya na nagbuo ng software upang makatukoy kung ang isang piraso ng nilalaman ay AI-generated o hindi. Kasama niya ang kanyang kaibigan sa Stanford na si Bradley Emi sa pagtatatag ng kumpanya noong 2023. Bago ito, nagtrabaho siya sa Google.

• Ang pagkakasulat ng AI ay napakatumpak sa gramatika, kung gaano man kakaunti ang pagkakamali sa paglalagay ng kuwit. – “Mayroon akong kontrobersyal na pananaw tungkol sa pagkakasulat ng AI, na ang sabi ay medyo maganda… hindi ito nagkakamali sa paglalagay ng kuwit, sa ilang antas ay perpekto.” – Max Spero
• Kahit gramatikal na, ang pagkakasulat ng AI ay kulang sa estilo. – “Ang napapansin ko rito ay hindi ito mabuting mag-estilo… talagang naghihirap.” – Max Spero
• Ang kakulangan ng AI sa pagpapakita ng kreatibidad ng tao ay limitado ang kanyang kakayahang sumulat.
• Ang pagiging masuri ng AI sa gramatika ay hindi nagtatanggal ng nuwans na pagpapahayag.
• Ang pagiging malinaw ng pagsusulat ng AI ay isang lakas, ngunit madalas itong nagreresulta sa mangmang na pagsusulat.
• Ang mga tao ay mas mahusay sa istilo at kreatibidad, mga aspeto kung saan nagkakamali ang AI.
• Ang paghihirap ng AI sa istilo ay nagpapakita ng kahalagahan ng tao sa mga malikhaing gawain.
• Malinaw ang kontrast sa pagitan ng gramatikal na akurasyon ng AI at mga limitasyon nito sa istilo.

• Ang mga tool para sa pagdetekta ng AI ay patuloy na umuunlad, nag-aalok ng libre at bayad na serbisyo. – “May isang kumpanya na pangalan ay Pangram Labs at mayroon silang isang maliit na serbisyo kung saan maaari mong bayaran, pero may libre rin silang serbisyo kung saan maaari mong i-drop ang isang teksto at sasabihin nito ang posibilidad na isinulat ito ng tao o AI, at napakaganda ako dito.” – Max Spero
• Mahalaga ang mga kasangkapan na ito para sa pagkilala sa pagkakaiba ng nilalaman ng tao at ng AI.
• Ang teknolohiya ng pagdetekta ng AI ay naglalaro ng mahalagang papel sa pagpapanatili ng autentisidad ng nilalaman.
• Ang pag-unlad ng mga mas kumplikadong kasangkapan sa pagkakakilanlan ay isang tugon sa pagtaas ng paggamit ng AI sa pagsusulat.
• Dahil sa paglalaganap ng AI sa pagsusulat, ang mga kasangkapan sa pagdetekta ay naging lalong kinakailangan.
• Ang kakayahang matukoy ang AI-generated na nilalaman ay tumutulong sa pagpapanatili ng integridad ng digital na komunikasyon.
• Ang mga kasangkapan sa pagdetekta ay nagbibigay ng sukat para sa pagtataya ng autentisidad ng isinulat na nilalaman.
• Ang kahusayan ng mga kasangkapan sa pagdedekta ay nagpapakita ng patuloy na pagtaas ng hamon sa pagkakaiba-iba ng AI content.

• Ang AI-generated content ay madaling magbago ng mga channel ng impormasyon. – “Ang problema ay sobrang madali lang i-generate at sobrang mahirap malaman kung ano ang intensyon nito… maaaring pumasok ang anumang masamang actor at magbaha sa aming mga channel ng impormasyon ng AI slop na tila legit.” – Max Spero
• Ang pagiging siksik na ito ay nagiging mahirap na malaman ang intensyon sa likod ng nilalaman.
• Nasa panganib ang autentisidad ng impormasyon dahil sa kalakasan ng AI sa paggawa ng nilalaman.
• Maaaring magamit ng mga masasamang indibidwal ang AI upang punuan ang mga channel ng maling impormasyon.
• Ang hamon ay nasa pagkilala sa wastong nilalaman mula sa AI-generated na “slop.”
• Ang epekto ng AI sa mga channel ng impormasyon ay nagpapakita ng pangangailangan para sa mga matatag na kasangkapan sa pagdetekta.
• Ang integridad ng digital na komunikasyon ay binihag ng kakayahan ng AI sa pagbuo ng nilalaman.
• Ang pagiging madali ng paggawa ng AI content ay nagkakaroon ng komplikasyon sa mga pagsisikap na panatilihin ang kalidad ng impormasyon.

• Ang AI ay nagpapabagsak sa ugnayan sa pagitan ng kalidad ng prosa at kredibilidad ng may-akda. – “Ang isyu na iyong tinutukoy ay ang pagkakabagsak ng ugnayan na ito, kaya hindi na natin maaaring gamitin ang mga heuristika tulad ng mahigpit na kalidad ng prosa upang malaman kung totoo bang isinulat ito ng isang seryoso.” – Max Spero
• Ang mga tradisyonal na heuristika para sa pagtataya ng kredibilidad ay nagsisimulang maging mas maliit ang pagkakatotoo.
• Hindi na ang kalidad ng pagsulat ang tiyak na tanda ng seriedad ng may-akda.
• Ang kakayahan ng AI na maglikha ng mataas na kalidad na prosa ay nagtatalikod sa tradisyonal na pagtataya ng kredibilidad.
• Ang pagkabagsak ng mga indikador ng kredibilidad ay nangangailangan ng mga bagong paraan para masuri ang nilalaman.
• Ang epekto ng AI sa kredibilidad ay nagpapakita ng kahalagahan ng mga kasangkapan sa pagdetekta.
• Ang pagbabago sa pagtataya ng kredibilidad ay nagpapakita ng patuloy na impluwensya ng AI sa pagsulat.
• Ang pangangailangan para sa mga bagong indikador ng kredibilidad ay dinudulot ng kakayahan ng AI sa pagsulat.

• Ang rate ng false positive para sa pagkilala sa teksto na isinulat ng tao ay isang sa 10,000. – “Ang aming numero ngayon ay isang sa 10,000 okay, kaya kung iskansin namin ang 10,000 na dokumento, sa average ay iisa ang babalik bilang AI habang talagang tao ang nagsulat nito.” – Max Spero
• Ang software na nagdedetect ng AI ay may rate ng 99% na akurasyon, na may 1% na false negative rate. – “Sasabihin ko ay 99% ang akurasyon, kaya halos 1% ang false negative rate.” – Max Spero
• Mahalaga ang mataas na akurasyo ng software para sa komersyal na aplikasyon nito.
• Mahalaga ang kumpiyansa ng software sa pagdetekta upang panatilihin ang integridad ng nilalaman.
• Ang rate ng false positive ay nagpapakita ng presisyon ng software sa pagkilala sa teksto.
• Ang rate ng false negative ay nagpapakita ng epektibong paghuhuli ng software sa AI-generated na nilalaman.
• Ang mga metrikang akurasyon ng software para sa pagdetekta ay nagpapakita ng kahalagahan nito sa digital na komunikasyon.
• Ang precision ng software ay mahalaga para siguraduhin ang autentisidad ng isinulat na nilalaman.

• Natututo ang mga AI model na magkakaiba ng teksto sa pamamagitan ng pagsusuri sa mga pattern ng desisyon. – “Ang ginagawa namin ay natututo ang mga pattern at kung paano ginagawa ng mga frontier model ang mga desisyong ito… ang aming model ay nakakatuto sa pamamagitan ng kontrast kung ano ang pagkakaiba sa pagitan ng dalawa.” – Max Spero
• Ang proseso ng pagsasanay ay nagsasangkot ng pagkukumpara sa teksto ng tao at ng AI.
• Ang pag-unawa sa mga pattern ng desisyon ay mahalaga sa pagtuturo ng AI model.
• Mahalaga ang kakayahang makilala ang mga pagkakaiba sa paggawa ng teksto para sa mga modelo ng AI.
• Ang proseso ng pagtuturo ay nagpapakita ng kumplikadong kalikasan ng pagbuo ng AI model.
• Mahalaga ang pagtatrain ng AI model upang mapabuti ang akurasi ng software para sa pagkakakilanlan.
• Ang mga mekanismo ng pagtuturo ay nagpapakita ng kahalintulad ng teknolohiya ng AI.
• Ang proseso ng pag-aaral ng mga pattern ng desisyon ay sentral sa kakayahan ng AI sa pagkakaiba-iba ng teksto.

• Ang pagkakasulat ng AI ay limitado ng kanilang training data, na naglalayong maglimita sa mga likhang-gawa. – “Sobrang kakaunti, anuman ang dami mong pagpapahikayat, hindi ito lalabas sa lugar kung saan ito tinuruan.” – Max Spero
• Ang mga limitasyon ng training data ay nagpapaliit sa kakayahan ng AI na lumikha ng diverse na content.
• Ang pagkakasalig ng AI sa mga datos sa pagsasanay ay nagpapakita ng mga limitasyon nito sa pagkamalikhain.
• Ang kakulangan sa kakayahang magbago mula sa mga pattern ng pagtuturo ay limitado ang versatility ng pagsusulat ng AI.
• Ang mga limitasyon ng training data ay isang pangunahing limitasyon ng mga AI writing model.
• Ang mga limitasyon ng AI sa paglikha ay nagpapakita ng kahalagahan ng tao sa pagsulat.
• Ang pagkakasalig sa mga datos sa pagtuturo ay nagpapakita ng mga likas na limitasyon ng mga modelo ng AI.
• Ang mga limitasyon ng mga modelo ng AI sa pagsusulat ay nagpapakita ng pangangailangan para sa patuloy na pag-unlad.

• Ang rate ng false positive para sa AI detection ay isang sa sampung libo. – “Baka may dahilan kung bakit ang ating rate ng false positive ay isang sa sampung libo at hindi zero.” – Max Spero
• Ang mga pansamantalang pagkakasalungat sa pagkakasulat ng tao ay nagdudulot ng rate ng false positive.
• Ang rate ng false positive ay nagpapakita ng mga hamon sa pagkilala sa pinagmulan ng teksto.
• Ang mga metric ng pagdetekta ng AI ay nagpapakita ng kahirapan sa pagkakaiba sa pagitan ng nilalaman ng tao at AI.
• Mahalaga ang kumpiyansa ng mga metrikang pagdetekta para sa pagpapanatili ng autentikong nilalaman.
• Ang mga hamon sa mga metrikang pagdedekta ay nagpapakita ng pangangailangan para sa patuloy na pagpapabuti.
• Ang rate ng false positive ay isang mahalagang pag-aaral sa pag-e-evaluate ng detection software.
• Ang kumplikadong mga pagsusuri sa pagkakakilanlan ay nagpapakita ng kahusayan ng teknolohiya ng AI.