Tác giả: Chris Best
Biên dịch: Deep潮 TechFlow
Dẫn nhập của Shenchao: Trên các nền tảng mạng xã hội, đến 40% nội dung đã được tạo bởi AI, nhưng người đọc thường không hay biết. Substack cho rằng hiện tượng "Claudefishing" (giả mạo văn phong con người) đang phá vỡ niềm tin giữa người đọc và tác giả, đe dọa sinh kế của các nhà sáng tạo nội dung. Cách họ ứng phó là để người đọc tự đưa ra phán xét, thay vì để nền tảng quyết định thay bạn.
Internet khó phân biệt thật giả
Giờ đây, việc phân biệt nội dung thật trên internet ngày càng khó khăn.
Vấn đề này tương đối nhẹ trên Substack, và chúng tôi mong muốn giữ nguyên tình trạng như vậy. Là bước đầu tiên, hôm nay chúng tôi đã hợp tác với Pangram để ra mắt một tính năng trong ứng dụng Substack. Trong tương lai, bạn có thể quét văn bản để xem có bao nhiêu phần là viết tay và bao nhiêu phần được thực hiện với sự hỗ trợ của AI. Tôi sẽ giải thích chi tiết sau, nhưng trước tiên hãy để tôi giải thích tại sao điều này lại quan trọng.
Đầy nước nhưng không có một giọt nào có thể uống được
Theo ước tính của Pangram, tỷ lệ văn bản do AI tạo ra trên một số nền tảng đang tăng lên, lên tới 40%. Đây là một sự thay đổi lớn. Nhiều người phàn nàn rằng luồng thông tin của họ đầy rẫy những nội dung rác vô hồn. Một số người thậm chí không nhận ra họ đang đọc những thứ không do con người sáng tạo.
Vấn đề cốt lõi không nằm ở việc con người sử dụng AI, cũng không nằm ở chất lượng đầu ra của AI. Không phải mọi nội dung được tạo bởi AI đều là rác, và cũng không phải mọi rác đều do AI tạo ra. Vấn đề nằm ở chỗ khi kỳ vọng của người đọc không phù hợp với thực tế, đặc biệt khi họ vô tình dành sự chú ý vào những nội dung không có bất kỳ suy nghĩ nào của con người đằng sau. Đó chính là Claudefishing.
Freddie deBoer nói rằng:
Tôi tiếp xúc với nghệ thuật do con người sáng tạo vì tôi biết đằng sau đó là một con người — điều chính xác mà tôi đang tìm kiếm: những người khác thông qua nghệ thuật để trưng bày những điều họ giấu kín trong chính bản thân mình. Việc lừa dối tôi trong quá trình này chỉ là một trò lừa đảo.
Chúng tôi quan tâm đến vấn đề này trên Substack vì nó chạm đến cốt lõi trong công việc của chúng tôi: xây dựng động lực kinh tế cho văn hóa. Điều đó có nghĩa là giúp những con người thực sự—những người suy nghĩ, cảm nhận, quan sát, tranh luận, thử nghiệm, cân nhắc, vật lộn, khuyên bảo và quan tâm—kiếm tiền từ những công việc họ tin tưởng. Mạng lưới này được xây dựng trên nền tảng niềm tin giữa con người với nhau, và đó là lý do nó hoạt động hiệu quả.
Khi nội dung do máy tạo ra chiếm lĩnh những phần của internet vốn thuộc về con người, nó làm ô nhiễm không gian công cộng, khiến việc phát hiện và nghe thấy tiếng nói của con người trở nên khó khăn. Khi người đọc buộc phải nghi ngờ liệu nội dung họ đang đọc có thật hay không, điều này phá vỡ niềm tin vào danh tính tác giả và đe dọa sinh kế của các nhà văn — bao gồm cả những người sử dụng công cụ AI một cách có suy nghĩ để tạo ra những tác phẩm họ tin tưởng. Các nền tảng thưởng cho nội dung giả mạo sẽ kích hoạt cuộc đua xuống đáy.
Chúng tôi đang làm gì
Đây là một lĩnh vực mới nổi, và chúng tôi không dám nói rằng mình có tất cả các câu trả lời. Nhưng điều chúng tôi chắc chắn biết là chúng tôi không muốn đợi đến khi ứng dụng Substack của bạn trở thành LinkedIn mới bắt đầu học hỏi và tiến bộ. Vì vậy, trước tiên, chúng tôi đã ra mắt một số công cụ mới, với hy vọng tăng cường tính minh bạch và tạo nền tảng để lắng nghe phản hồi của bạn.
Chúng tôi đang hợp tác với công cụ phát hiện AI hàng đầu Pangram. Bạn sẽ có thể quét ghi chú, phản hồi, bình luận và bài đăng để xem ước tính tỷ lệ văn bản nào được viết tay hoặc hoàn thành với sự hỗ trợ của AI. Điều này sẽ áp dụng cho các văn bản có hơn 100 từ được đăng từ hôm nay trở đi, và chỉ hiển thị kết quả phân tích cho những người yêu cầu xem.
Hình: Giao diện công cụ phát hiện AI do Substack hợp tác với Pangram, hiển thị tỷ lệ văn bản do con người viết và do AI hỗ trợ. Nguồn: Substack
Lưu ý rằng Pangram chỉ có thể phát hiện xem văn bản có được tạo bởi AI hay không, nhưng không thể phát hiện liệu có đã dành nhiều công sức của con người trong quá trình sáng tạo hay không, cũng không thể phát hiện liệu có sử dụng công cụ AI làm nguồn gốc hay không. Nó không hoàn hảo, nhưng các nghiên cứu độc lập cho thấy nó có thể phát hiện văn bản do AI tạo ra với độ chính xác rất cao. Chúng tôi tin rằng việc con người sử dụng các công cụ như vậy để hỗ trợ đưa ra quyết định là có lợi.
Chúng tôi cũng đã ra mắt các công cụ dành cho người sáng tạo, bao gồm tính năng thêm tuyên bố "Tôi đã tạo ra điều này như thế nào", nơi bạn có thể giải thích quy trình của mình và thiết lập kỳ vọng cho người đọc. Bạn có thể chạy Pangram trên bản nháp trước khi đăng, đồng thời báo cáo và xóa bất kỳ kết quả quét nào về tác phẩm của bạn mà bạn cho là sai lệch.
Các tính năng này hiện đã có sẵn trên web và iOS, và sẽ sớm ra mắt trên Android. Đây mới chỉ là bước đầu tiên. Dựa trên phản hồi và sự quan tâm, chúng tôi đang xem xét các công cụ sau:
Đặt sở thích của bạn về nội dung AI cho cộng đồng của bạn trong các quy tắc phản hồi
Cung cấp thêm nhiều cách để các nhà sáng tạo thể hiện giá trị cá nhân mà họ mang lại, dù thông qua văn viết của con người hay việc sử dụng AI một cách cân nhắc
Để người đọc có thể chọn thiết lập sở thích về nội dung được đề xuất cho họ
Khi AI tăng tốc các vấn đề này, tiếp tục cải tiến hệ thống của chúng tôi để chống lại spam, robot và các loại lừa đảo khác
Chúng tôi không phản đối việc mọi người sử dụng AI để hỗ trợ công việc; chúng tôi tin rằng mọi người nên được tự do lựa chọn các công cụ để thể hiện bản thân. Trên nền tảng, một số người là những người theo chủ nghĩa tối đa hóa văn bản do con người viết, trong khi những người khác công khai khám phá ranh giới của các công cụ AI, đồng thời chú trọng chi tiết để tạo ra những tác phẩm họ ủng hộ. Chúng tôi đã luôn sử dụng AI trên Substack để viết phần mềm, thực hiện nghiên cứu và xây dựng các tính năng sản phẩm như cắt ghép, dịch thuật, v.v.
Nhưng mọi người nên biết họ đang nhận được gì. Ví dụ, bạn có thể không ngại đọc phân tích sắc sảo của ai đó, trong đó họ phụ thuộc rất nhiều vào AI để trình bày kết quả nghiên cứu, nhưng chỉ muốn dành thời gian tương tác với các phản hồi do con người viết tay. Dù theo cách nào, bạn cũng nên có quyền lựa chọn.
You want to see what?
Chúng ta đều đang cùng nhau bước vào thế giới kỳ lạ mới này, và chúng tôi không thể nghĩ ra cách nào tốt hơn để tìm ra những công cụ mới và chuẩn mực xã hội mới mà chúng ta cần hơn là một cuộc tranh luận công khai. Chúng tôi muốn nghe ý kiến của bạn: Substack giúp hỗ trợ sáng tạo con người có giá trị trong thời đại AI như thế nào? Khi nào sử dụng AI được coi là Claudefishing? Khi nào thì đó là điều tốt?
Dù AI có mạnh mẽ đến đâu, góc nhìn của con người vẫn là yếu tố cốt lõi của văn hóa, và điều này sẽ luôn đúng. Thực tế, bạn càng kỳ vọng những công cụ này không ngừng được cải tiến, thì việc hiểu rõ nguồn gốc của những nội dung bạn đọc càng trở nên quan trọng. Claude có rất nhiều ưu điểm! Nhưng khi tôi muốn biết ý kiến của Claude, tôi sẽ trực tiếp hỏi Claude.