作者：Chris Best
編譯：深潮 TechFlow
深潮導讀：社交媒體上高達 40% 的內容已是 AI 生成，但讀者往往不知情。Substack 認為這種 "Claudefishing"（冒充人類寫作）正在破壞讀者與作者之間的信任，威脅內容創作者的生計。他們的應對方式是：讓讀者自己判斷，而不是平台替你決定。
真假難辨的互聯網
現在要分辨網際網路上的真實內容越來越難了。
這個問題在 Substack 上相對較輕，我們希望保持這樣。作為第一步，我們今天在 Substack 應用中與 Pangram 合作推出了一項功能。今後，你可以掃描文本，查看其中有多少可能是手寫的，有多少是在 AI 輔助下完成的。我稍後會詳細說明，但首先讓我解釋一下為什麼這很重要。
到處是水，卻沒有一滴能喝
根據 Pangram 的估計，某些平台上由 AI 生成的文本比例正在上升，高達 40%。這是一個巨大的變化。許多人都抱怨他們的信息流充滿了毫無靈魂的垃圾內容。還有不少人甚至沒有意識到自己正在閱讀無人創作的內容。
核心問題不在於人們使用 AI，也不在於 AI 輸出的質量。並非所有用 AI 製作的內容都是垃圾，也不是所有垃圾都是 AI 製作的。問題在於當讀者的預期與現實不符時，尤其是當他們在不知情的情況下將注意力投入於背後毫無人類思考的內容時。這就是 Claudefishing。
Freddie deBoer 是這樣說的：
我接觸人類創作的藝術，是因為我知道背後有一個人，這正是我所尋找的——其他人透過藝術向我展示他們藏在自我中的東西。在這個過程中欺騙我，不過是一場騙局。
我們在 Substack 關注這個問題，是因為它觸及了我們工作的核心：為文化建立經濟引擎。這意味著幫助真實的人——那些思考、感受、觀察、爭論、實驗、考慮、掙扎、勸誡和關心的人——透過他們相信的工作賺錢。這個網絡建立在人與人之間的信任之上，這就是它有效的原因。
當無人創作的內容佔據了本應屬於人類的互聯網部分時，它污染了公共空間，使人難以發現和聽到人類的聲音。當讀者不得不懷疑他們正在閱讀的內容是否真實時，這會破壞對作者身份的信任，並威脅作家的生計——包括那些深思熟慮地使用 AI 工具來創作他們相信的作品的人。獎勵虛假內容的平台將引發逐底競爭。
我們正在做什麼
這是一個新興領域，我們不敢說擁有所有答案。但我們確實知道的一件事是，我們不希望等到你的 Substack 應用變成 LinkedIn 之後才開始學習和取得進展。因此，我們首先推出了一些新工具，希望能提高透明度，並為徵求你的反饋奠定基礎。
我們正與領先的 AI 檢測工具 Pangram 合作。您將能夠掃描筆記、回覆、評論和帖子，查看其中有多少文本是手寫的或在 AI 協助下完成的估計值。這將適用於從今天起發布的超過 100 個單詞的文本，並且只會向請求查看的人顯示分析結果。
圖：Substack 與 Pangram 合作的 AI 檢測工具介面，可顯示文本由人類撰寫與 AI 輔助的比例。來源：Substack
請注意，Pangram 僅能檢測文本是否由 AI 生成，無法檢測創作過程中是否投入了大量人類心血，或是否將 AI 工具作為參考來源。它並非完美，但獨立研究表明，它能以高準確度檢測 AI 生成的文本。我們相信，人們使用此類工具來協助做出判斷是有益的。
我們還為創作者推出了工具，包括新增「我如何創作這個」聲明的功能，你可以在其中解釋你的流程並為讀者設定預期。你可以在發布前對草稿運行 Pangram，也可以舉報並刪除你認為對自己作品有誤的任何掃描結果。
這些功能現已可在網頁和 iOS 上使用，並即將於 Android 上推出。這僅是一個起點。根據反饋和興趣，我們正在考慮以下工具：
為你的社區設定關於 AI 內容的偏好
為創作者提供更多方式來表達他們所提供的個人價值，無論是通過人類寫作還是深思熟慮的 AI 使用
讓讀者可以選擇設定他們偏好的推薦內容
隨著 AI 加速這些問題，繼續改進我們打擊垃圾郵件、機器人和各種騙局的系統
我們並不反對人們使用 AI 來輔助工作，我們認為人們應有自由選擇使用哪些工具來表達自己。平台上有些人是人類寫作最大化主義者，有些人則公開探索使用 AI 工具的前沿，同時關注細節以製作他們支持的作品。我們在 Substack 一直使用 AI 來編寫軟體、做研究，以及構建剪輯、翻譯等產品功能。
但人們應該知道他們得到的是什麼。例如，你可能不介意閱讀某人的銳利分析，其中他們嚴重依賴 AI 來呈現研究結果，但只想花時間與人類手寫的回覆互動。無論哪種方式，你都應該有選擇權。
你想看到什麼？
我們都一同進入這個奇妙的新世界，我們想不出比公開辯論更好的方式來找出我們需要的新工具和新社會規範。我們想聽聽你的意見：Substack 如何幫助支持 AI 時代有價值的人類創作？什麼時候使用 AI 是 Claudefishing？什麼時候是好的？
無論 AI 變得多么強大，人類的視角都是文化的基本要素，這一點將始終如此。事實上，你越期待這些工具不斷改進，理解你所閱讀內容的出處就越重要。Claude 有很多優點！但當我想要 Claude 的意見時，我會直接問 Claude。