著者：Chris Best
翻訳：深潮 TechFlow
深潮の導入：ソーシャルメディア上のコンテンツの40％がすでにAI生成されているが、読者はそのことに気づいていない。Substackは、この「Claudefishing」（人間の書き込みを装うこと）が読者と作者との間の信頼を損ない、コンテンツクリエイターの生計を脅かしていると考えている。その対策として、プラットフォームが代わりに判断するのではなく、読者が自ら判断できるようにする。
見分けがつかないインターネット
インターネット上で何が真実のコンテンツかを判別するのは、今やますます難しくなっています。
この問題はSubstackでは比較的軽微であり、今後もその状態を維持したいと考えています。まず第一歩として、本日SubstackアプリでPangramと協力して新しい機能をリリースしました。今後、テキストをスキャンすることで、そのうちどれだけが手書きで、どれだけがAIの支援によって作成されたかを確認できるようになります。詳細は後ほど説明しますが、まずなぜこれが重要なのかをお伝えします。
水はあふれているが、飲める水は一滴もない
Pangramの推定によると、一部のプラットフォームでのAI生成テキストの割合が上昇しており、最大で40％に達しています。これは大きな変化です。多くの人が、自分のフィードに魂のないゴミコンテンツがあふれていると不満を述べています。また、一部の人々は自分が誰も作成していないコンテンツを読んでいることにすら気づいていません。
核心問題は、人々がAIを使用することでも、AIの出力の品質でもない。すべてのAIで作成されたコンテンツがゴミというわけではなく、すべてのゴミがAIで作成されたというわけでもない。問題は、読者の期待と現実が一致しないとき、特に彼らが無意識のうちに、人間の思考が一切含まれていないコンテンツに注意を向けるときである。これがClaudefishingである。
フレディ・ドゥボアはこう言っています：
私は人間が生み出した芸術に触れるのは、その背後に誰かがいることを知っているからであり、それが私が探していたものだ——他の人々が、芸術を通じて自分自身の中に隠したものを私に示してくれるからだ。この過程で私を欺くことは、ただの詐欺にすぎない。
Substack でこの問題を重視するのは、それが私たちの仕事の核心に触れるからです。つまり、考え、感じ、観察し、議論し、実験し、検討し、苦悩し、戒め、関心を寄せる真の人々が、彼らが信じる仕事で収入を得られるように支援することです。このネットワークは人と人との信頼に基づいて構築されており、それが機能する理由です。
無人の創作が本来人間のものであるインターネットの領域を占拠すると、公共空間が汚染され、人間の声を見つけて聴くことが難しくなる。読者が自分が読んでいる内容が真実であるかどうか疑わざるを得なくなると、作者の身元に対する信頼が損なわれ、作家の生計が脅かされる—— その中には、AIツールを慎重に活用して自分自身が信じる作品を生み出している人々も含まれる。偽のコンテンツを報いるプラットフォームは、底辺競争を引き起こすだろう。
私たちが今行っていること
これは新興分野であり、すべての答えを持っているとは言えません。しかし、私たちが確実にわかっているのは、あなたのSubstackアプリがLinkedInになってしまうのを待たずに学びと進歩を始めたいということです。そのため、まず透明性を高め、皆さんのフィードバックをいただくための新しいツールをリリースしました。
私たちは、最先端のAI検出ツールPangramと提携しています。あなたはノート、返信、コメント、投稿をスキャンし、そのテキストのうちどれだけが手書きで、どれだけがAIの支援を受けたものであるかを推定できます。これは今日以降に投稿された100語以上のテキストに適用され、分析結果は閲覧をリクエストしたユーザーにのみ表示されます。
画像：SubstackとPangramが共同開発したAI検出ツールのインターフェース。テキストが人間によって作成された割合とAIによって支援された割合を表示します。出典：Substack
Pangramは、AIがテキスト作成に使用されたかどうかを検出するのみであり、作成プロセスにどれほど多くの人間の労力が費やされたか、またはAIツールがソースとして使用されたかを検出することはできません。Pangramは完璧ではありませんが、独立した研究によると、AI生成テキストを高い精度で検出できることが示されています。私たちは、人々がこのようなツールを活用して判断を支援することに価値があると考えています。
また、クリエイター向けに「この作品をどのように作成したか」という声明を追加する機能を提供しています。ここでは、あなたの作成プロセスを説明し、読者に期待を設定できます。投稿前にドラフトでPangramを実行することもでき、自分の作品に関する誤ったスキャン結果があれば報告して削除することも可能です。
これらの機能は、現在ウェブサイトとiOSで利用可能であり、まもなくAndroidでも提供される予定です。これは始まりに過ぎません。フィードバックやご関心をもとに、以下のツールの検討を進めています：
自分のコミュニティのためにAIコンテンツに関する好みを設定してください
クリエイターが人間による執筆や熟慮されたAIの活用を通じて、提供する個人的な価値をより多くの方法で表現できるようにする
読者は、自分に推奨されるコンテンツの設定をカスタマイズできます。
AIの進化によりこれらの問題が加速しているため、スパム、ボット、さまざまな詐欺に対する対策システムを継続して改善します。
私たちは、人々がAIを仕事の補助に使用することに反対していません。人々が自分を表現するためにどのツールを使うかを自由に選べることを私たちは支持しています。プラットフォーム上には、人間による執筆を最大限に重視する人もいれば、AIツールの最先端を公開的に探求しつつ、細部にこだわって自分たちが支援する作品を作り上げる人もいます。Substackでは、これまでAIをソフトウェアの作成、研究、およびクリップや翻訳などの製品機能の構築に使用してきました。
しかし、人々は自分が何を得ているかを理解すべきです。たとえば、ある人の鋭い分析を読むことに抵抗がないかもしれませんが、その分析がAIに大きく依存して研究成果を提示していることに気づき、人間が手書きした返信とのやり取りだけに時間を費やしたいと思うかもしれません。いずれにせよ、あなたには選択の権利があるべきです。
何を見たいですか？
私たちは皆、この奇妙な新しい世界へと一緒に入っています。必要な新しいツールや新しい社会的規範を見つけるために、公開討論以上に良い方法は思いつきません。あなたの意見を聞かせてください：Substackは、AI時代における価値ある人間の創造をどのように支援できますか？AIを使用するのは、いつClaudefishingであり、いつ良いのでしょうか？
AIがどれほど強大になっても、人間の視点は文化の基本的な要素であり、それは常に変わりません。実際、これらのツールが継続的に進化することを期待するほど、あなたが読んでいる内容の出典を理解することが重要になります。Claudeには多くの長所があります！しかし、私がClaudeの意見が欲しいときは、直接Claudeに聞きます。