ผู้เขียน: Chris Best
แปลโดย Deep潮 TechFlow
คำแนะนำจาก Shenchao: เนื้อหาบนโซเชียลมีเดียสูงถึง 40% ถูกสร้างโดย AI แต่ผู้อ่านมักไม่รู้ตัว Substack เชื่อว่า “Claudefishing” (การแกล้งทำเป็นเขียนด้วยมือมนุษย์) กำลังทำลายความเชื่อมั่นระหว่างผู้อ่านกับผู้เขียน และคุกคามรายได้ของนักสร้างเนื้อหา วิธีการรับมือของพวกเขาคือ: ให้ผู้อ่านตัดสินเอง แทนที่จะให้แพลตฟอร์มตัดสินแทน
อินเทอร์เน็ตที่ยากจะแยกแยะว่าจริงหรือเท็จ
ตอนนี้การแยกแยะว่าเนื้อหาบนอินเทอร์เน็ตอะไรเป็นของจริงยิ่งยากขึ้น
ปัญหานี้ค่อนข้างเบาบน Substack และเราต้องการรักษาไว้เช่นนี้ เป็นขั้นตอนแรก เราได้ร่วมมือกับ Pangram เพื่อเปิดใช้งานฟีเจอร์ใหม่ในแอป Substack วันนี้ ต่อไปนี้ คุณสามารถสแกนข้อความเพื่อดูว่ามีส่วนใดบ้างที่เขียนด้วยมือ และมีส่วนใดบ้างที่ทำด้วยความช่วยเหลือของ AI ผมจะอธิบายรายละเอียดเพิ่มเติมในภายหลัง แต่ก่อนอื่น ขออธิบายก่อนว่าทำไมสิ่งนี้จึงสำคัญ
มีน้ำทั่วทุกที่ แต่ไม่มีแม้แต่หยดเดียวที่ดื่มได้
ตามการประมาณการของ Pangram สัดส่วนของข้อความที่สร้างโดย AI บนแพลตฟอร์มบางแห่งกำลังเพิ่มสูงขึ้น ถึง 40% นี่คือการเปลี่ยนแปลงครั้งใหญ่ หลายคนบ่นว่าฟีดข่าวของพวกเขาเต็มไปด้วยเนื้อหาขยะที่ไร้จิตวิญญาณ บางคนยังไม่รู้ตัวว่ากำลังอ่านสิ่งที่ไม่มีมนุษย์สร้างขึ้น
ปัญหาหลักไม่ได้อยู่ที่ผู้คนใช้ AI หรือคุณภาพของผลลัพธ์ที่ AI สร้างขึ้น ไม่ใช่ทุกเนื้อหาที่สร้างด้วย AI ล้วนเป็นขยะ และไม่ใช่ทุกขยะล้วนถูกสร้างโดย AI ปัญหาอยู่ที่เมื่อความคาดหวังของผู้อ่านไม่สอดคล้องกับความเป็นจริง โดยเฉพาะเมื่อพวกเขาไม่รู้ตัวว่ากำลังให้ความสนใจกับเนื้อหาที่ไม่มีความคิดของมนุษย์อยู่เบื้องหลัง นี่คือ Claudefishing
ฟรีดดี้ เดอโบเออร์ กล่าวว่า:
ฉันสัมผัสกับศิลปะที่มนุษย์สร้างขึ้น เพราะฉันรู้ว่ามีคนอยู่เบื้องหลัง สิ่งนี้เองที่ฉันกำลังตามหา—ผู้อื่น ที่ผ่านศิลปะแสดงให้ฉันเห็นสิ่งที่ซ่อนอยู่ภายในตัวพวกเขาเอง การหลอกลวงฉันในกระบวนการนี้ ไม่ใช่อะไรนอกจากการหลอกลวง
เราใส่ใจปัญหานี้บน Substack เพราะมันแตะต้องหัวใจของงานของเรา: การสร้างเครื่องยนต์ทางเศรษฐกิจสำหรับวัฒนธรรม หมายถึงการช่วยเหลือผู้คนที่แท้จริง—ผู้ที่คิด รู้สึก สังเกต ถกเถียง ทดลอง พิจารณา ดิ้นรน ให้คำแนะนำ และใส่ใจ—ให้สามารถหารายได้จากงานที่พวกเขาเชื่อถือ เครือข่ายนี้สร้างขึ้นบนความเชื่อมั่นระหว่างมนุษย์กับมนุษย์ ซึ่งเป็นเหตุผลที่มันทำงานได้
เมื่อเนื้อหาที่ไม่มีมนุษย์สร้างขึ้นเข้าครอบครองส่วนของอินเทอร์เน็ตที่ควรเป็นของมนุษย์ มันจะปนเปื้อนพื้นที่สาธารณะ ทำให้ยากต่อการค้นพบและได้ยินเสียงของมนุษย์ เมื่อผู้อ่านต้องสงสัยว่าเนื้อหาที่พวกเขากำลังอ่านนั้นเป็นความจริงหรือไม่ สิ่งนี้จะทำลายความเชื่อมั่นในตัวผู้เขียน และคุกคามรายได้ของนักเขียน — รวมถึงผู้ที่ใช้เครื่องมือ AI อย่างรอบคอบเพื่อสร้างผลงานที่พวกเขาเชื่อถือ แพลตฟอร์มที่ให้รางวัลกับเนื้อหาเท็จจะกระตุ้นให้เกิดการแข่งขันเพื่อต่ำสุด
เรากำลังทำอะไรอยู่
นี่คือพื้นที่ใหม่ที่กำลังเกิดขึ้น เราไม่สามารถอ้างว่ามีคำตอบทั้งหมดได้ แต่สิ่งหนึ่งที่เราแน่ใจคือ เราไม่อยากรอจนกว่าแอป Substack ของคุณจะกลายเป็น LinkedIn จึงจะเริ่มเรียนรู้และก้าวหน้า ดังนั้นก่อนอื่น เราได้เปิดตัวเครื่องมือใหม่บางอย่าง เพื่อหวังว่าจะเพิ่มความโปร่งใส และสร้างพื้นฐานสำหรับการรับฟังความคิดเห็นจากคุณ
เรากำลังร่วมมือกับเครื่องมือตรวจจับ AI ชั้นนำอย่าง Pangram คุณจะสามารถสแกนโน้ต คำตอบ ความคิดเห็น และโพสต์ เพื่อดูว่ามีข้อความกี่เปอร์เซ็นต์ที่เขียนด้วยมือหรือทำด้วยความช่วยเหลือของ AI ซึ่งจะใช้ได้กับข้อความที่มีมากกว่า 100 คำที่โพสต์ตั้งแต่วันนี้เป็นต้นไป และผลการวิเคราะห์จะแสดงเฉพาะแก่ผู้ที่ร้องขอให้ดูเท่านั้น
รูป: อินเทอร์เฟซเครื่องมือตรวจจับ AI ของ Substack ร่วมกับ Pangram ที่แสดงสัดส่วนของข้อความที่เขียนโดยมนุษย์และช่วยโดย AI ที่มา: Substack
โปรดทราบว่า Pangram สามารถตรวจจับได้เฉพาะว่าข้อความถูกสร้างโดย AI หรือไม่ แต่ไม่สามารถตรวจจับได้ว่ามีการลงแรงงานของมนุษย์มากน้อยเพียงใดในการสร้าง หรือใช้เครื่องมือ AI เป็นแหล่งอ้างอิงหรือไม่ มันไม่สมบูรณ์แบบ แต่การศึกษาอย่างอิสระแสดงว่ามันสามารถตรวจจับข้อความที่สร้างโดย AI ได้ด้วยความแม่นยำสูง เราเชื่อว่าการที่ผู้คนใช้เครื่องมือเช่นนี้เพื่อช่วยในการตัดสินใจนั้นมีประโยชน์
เรายังได้เปิดตัวเครื่องมือสำหรับผู้สร้างเนื้อหา รวมถึงฟีเจอร์การเพิ่มคำแถลงว่า “ฉันสร้างสิ่งนี้ได้อย่างไร” ซึ่งคุณสามารถอธิบายกระบวนการของคุณและตั้งความคาดหวังให้กับผู้อ่านได้ คุณสามารถรัน Pangram บนร่างงานก่อนเผยแพร่ หรือรายงานและลบผลการสแกนใดๆ ที่คุณเชื่อว่าผิดพลาดเกี่ยวกับผลงานของคุณ
ฟีเจอร์เหล่านี้สามารถใช้งานได้แล้วบนเว็บและ iOS และจะเร็วๆ นี้มาถึง Android นี่เป็นเพียงจุดเริ่มต้น เรากำลังพิจารณาเครื่องมือต่อไปนี้ตามข้อเสนอแนะและความสนใจ:
ตั้งค่าความชอบของคุณเกี่ยวกับเนื้อหา AI สำหรับชุมชนของคุณ
ให้ผู้สร้างมีวิธีเพิ่มเติมในการแสดงคุณค่าส่วนตัวที่พวกเขาเสนอ ไม่ว่าจะผ่านการเขียนของมนุษย์หรือการใช้ AI อย่างรอบคอบ
ให้ผู้อ่านสามารถเลือกตั้งค่าความชอบเกี่ยวกับเนื้อหาที่แนะนำให้พวกเขา
พร้อมกับการเร่งความเร็วของ AI ในการแก้ไขปัญหาเหล่านี้ ให้เราปรับปรุงระบบในการต่อสู้กับสแปม บอท และการหลอกลวงต่างๆ ต่อไป
เราไม่ได้ต่อต้านการที่ผู้คนใช้ AI ช่วยในการทำงาน เราเชื่อว่าผู้คนควรได้รับอิสระในการเลือกใช้เครื่องมือใดๆ เพื่อแสดงออกถึงตัวเอง บนแพลตฟอร์มนี้ มีบางคนที่เป็นผู้สนับสนุนการเขียนด้วยมนุษย์อย่างเต็มที่ และบางคนเปิดรับการทดลองใช้เครื่องมือ AI อย่างเปิดเผย พร้อมให้ความสนใจกับรายละเอียดเพื่อสร้างผลงานที่พวกเขาเชื่อถือ เราได้ใช้ AI มาอย่างต่อเนื่องบน Substack เพื่อเขียนซอฟต์แวร์ ทำการวิจัย และพัฒนาฟีเจอร์ผลิตภัณฑ์ เช่น การตัดต่อและการแปล
แต่ผู้คนควรรู้ว่าพวกเขาได้รับอะไรมา ตัวอย่างเช่น คุณอาจไม่สนใจที่จะอ่านการวิเคราะห์ที่เฉียบคมของใครบางคน ซึ่งพวกเขาพึ่งพา AI อย่างมากในการนำเสนอผลการวิจัย แต่ต้องการใช้เวลาโต้ตอบกับข้อความที่เขียนด้วยมือของมนุษย์เท่านั้น ไม่ว่าในกรณีใดๆ คุณควรได้รับสิทธิ์ในการเลือก
What do you want to see?
เราทุกคนต่างก็กำลังก้าวเข้าสู่โลกใหม่ที่แปลกประหลาดนี้ และเราไม่สามารถคิดหาวิธีใดที่ดีไปกว่าการถกเถียงอย่างเปิดเผยเพื่อค้นหาเครื่องมือใหม่และมาตรฐานทางสังคมใหม่ที่เราต้องการ เราอยากได้ยินความคิดเห็นของคุณ: Substack จะช่วยสนับสนุนงานสร้างสรรค์ของมนุษย์ที่มีคุณค่าในยุคปัญญาประดิษฐ์ได้อย่างไร? เมื่อใดจึงถือว่าการใช้ปัญญาประดิษฐ์เป็น Claudefishing? และเมื่อใดจึงถือว่าดี?
ไม่ว่า AI จะแข็งแกร่งเพียงใด มุมมองของมนุษย์ยังคงเป็นองค์ประกอบพื้นฐานของวัฒนธรรม ซึ่งจะยังคงเป็นเช่นนี้เสมอ ในความเป็นจริง ยิ่งคุณคาดหวังว่าเครื่องมือเหล่านี้จะพัฒนาอย่างต่อเนื่อง ความเข้าใจในแหล่งที่มาของเนื้อหาที่คุณอ่านก็ยิ่งสำคัญมากขึ้น Claude มีข้อดีมากมาย! แต่เมื่อฉันต้องการความเห็นของ Claude ฉันจะถาม Claude โดยตรง