見分けがつかないインターネット
インターネット上で何が本当の情報かを判別するのは、今やますます難しくなっています。
この問題はSubstackでは比較的軽微であり、その状態を維持したいと考えています。第一歩として、本日SubstackアプリでPangramと協力して新しい機能をリリースしました。今後、テキストをスキャンすることで、そのうちどれだけが手書きであり、どれだけがAIの支援によって作成されたかを確認できるようになります。詳細は後ほどお伝えしますが、まずその重要性を説明します。
水はあふれているが、飲める一滴もない
Pangramの推定によると、一部のプラットフォームでのAI生成テキストの割合が上昇しており、最大で40％に達しています。これは大きな変化です。多くの人が、自分のフィードに魂のないゴミコンテンツがあふれていると不満を述べています。また、一部の人々は自分が誰も作成していないコンテンツを読んでいることにさえ気づいていません。
核心問題は、人々がAIを使用することでも、AIの出力の品質でもない。すべてのAIが作成したコンテンツがゴミというわけではなく、すべてのゴミがAIによって作成されたわけでもない。問題は、読者の期待と現実が一致しないとき、特に彼らが無意識のうちに、人間の思考が一切含まれていないコンテンツに注意を向けるときである。これがClaudefishingである。
フレディ・デボアはこう言っています：
私は人間が生み出した芸術に触れるのは、その背後に誰かがいることを知っているからであり、それが私が探していたものだ——他の人々が、芸術を通じて自分自身の中に隠したものを私に示してくれるからだ。その過程で私を欺くことは、ただの詐欺にすぎない。
Substack でこの問題を重視するのは、それが私たちの仕事の核心に触れるからです。つまり、考え、感じ、観察し、議論し、実験し、検討し、苦悩し、諭し、関心を寄せる真の人々が、彼らが信じる仕事で収入を得られるように支援することです。このネットワークは人と人との信頼に基づいて構築されており、それが機能する理由です。
無人の創作が本来人間のものであるインターネットの領域を占拠すると、公共空間が汚染され、人間の声を見つけて聴くことが難しくなる。読者が自分が読んでいる内容が真実であるかどうか疑わざるを得なくなると、作者の身元に対する信頼が損なわれ、作家の生計が脅かされる—— その中には、AIツールを慎重に活用して自分自身が信じる作品を生み出している人々も含まれる。偽のコンテンツを報いるプラットフォームは、底辺競争を引き起こすだろう。
私たちは何をしているのでしょうか
これは新興分野であり、すべての答えを持っているとは言えません。しかし、私たちが確実にわかっているのは、あなたのSubstackアプリがLinkedInになってしまう前に学びと進歩を始めたいということです。そのため、まず透明性を高め、皆さんのフィードバックを募るための新しいツールをリリースしました。
私たちは、最先端のAI検出ツールであるPangramと提携しています。あなたはノート、返信、コメント、投稿をスキャンし、そのテキストのうちどれだけが手書きで、どれだけがAIの支援を受けたものであるかを推定できます。これは今日以降に投稿された100語以上のテキストに適用され、分析結果は閲覧をリクエストした人のみに表示されます。
Pangramは、テキストがAIによって作成されたかどうかを検出するのみであり、作成時に人間がどれほど多くの労力を費やしたか、またはAIツールをソースとして使用したかを検出することはできません。Pangramは完璧ではありませんが、独立した研究によると、AI生成テキストを高い精度で検出できることが示されています。私たちは、人々がこのようなツールを活用して判断を支援することに価値があると考えています。
また、クリエイター向けに「この作品をどのように作成したか」という声明を追加する機能を提供しています。ここでは、あなたのプロセスを説明し、読者に期待を設定できます。投稿前にドラフトでPangramを実行することも、自身の作品に関する誤ったスキャン結果を報告・削除することも可能です。
これらの機能は、現在ウェブサイトとiOSでご利用いただけます。Android版もまもなくリリース予定です。これはあくまで第一歩です。フィードバックやご関心をもとに、以下のツールの導入を検討しています：
自分のコミュニティ向けにAIコンテンツの好みを設定してください
創造者が、人間による執筆や熟慮されたAIの活用を通じて、提供する個人的な価値をより多くの方法で表現できるようにします。
読者は、自分に推奨されるコンテンツの設定を選択できます。
AIの進化によりこれらの問題が加速しているため、スパム、ボット、さまざまな詐欺に対する対策システムを継続して改善します。
私たちは、人々がAIを仕事の補助に使用することに反対していません。人々が自分を表現するためにどのツールを使うかを自由に選べるべきだと考えています。プラットフォーム上には、人間による執筆を最優先する人もいれば、AIツールの最先端を公開的に探求しつつ、細部にこだわって自身が支持する作品を作り上げる人もいます。Substackでは、これまでAIをソフトウェアの作成、研究、およびクリップや翻訳などの製品機能の構築に使用してきました。
しかし、人々は自分が何を得ているかを理解すべきです。たとえば、誰かの鋭い分析を読むことに抵抗がないかもしれませんが、その分析が研究結果の提示にAIを大幅に依存していることに気づき、人間が手書きした返信とのみやりとりしたいと思うかもしれません。いずれにせよ、あなたには選択の権利があるべきです。
何を見たいですか？
私たちは皆、この奇妙な新しい世界へと一緒に入っています。必要な新しいツールや新しい社会的規範を見つけるために、公開の議論以上に良い方法は思いつきません。あなたの意見を聞かせてください：Substackは、AI時代における価値ある人間の創造をどのように支援できますか？AIを使用するのは、いつClaudefishingであり、いつ良いのでしょうか？
AIがどれほど強大になっても、人間の視点は文化の基本的な要素であり、これは常に変わらない。実際、これらのツールが継続的に進化することを期待するほど、自分が読んでいる内容の出所を理解することが重要になる。Claudeには多くの長所がある！しかし、私がClaudeの意見が欲しいときは、直接Claudeに尋ねる。
著者：Chris Best、翻訳：深潮 TechFlow、画像：Substack と Pangram が共同開発したAI検出ツールのインターフェース。テキストが人間によって作成された割合とAIが補助した割合を表示。出典：Substack