著者：Ben Thompson
翻訳：深潮 TechFlow
深潮導読：Anthropicの新モデル「Fable」はリリースから2か月足らずで米国政府によって緊急停止された。表面的には「セキュリティ漏洩」だが、実際にはAIラボと政府、およびソフトウェア業界との二重の戦いが露呈した。この「セキュリティ」を売りにしている企業は、セキュリティというナラティブを商業的防壁に変え、真に狙っているのはマイクロソフトらが保有するユーザーデータである。
私は、Anthropicの公開声明、特にモデル発表時の説明がマーケティングのために恐怖を広めていると信じる嘲笑者の立場を理解している。2か月前、AnthropicはMythos Previewを発表し、このモデルは非常に危険であり、特にその強力なサイバーセキュリティ能力のため公開できないと主張した。そして2か月後、同社は、さまざまなセキュリティガードを施したMythosのバージョンであるFableを公開した。
私の限られた使用経験に基づくと、Fable は確かに非常に優れたモデルです。現在では、プログラミング性能以外でモデルを客観的に評価するのは難しいですが、主観的な感想はあります。Fable とのやり取りの体験は非常に優れており、GPT 5.5 や Opus 4.8 を含む他のすべてのモデルを小さく、馬鹿げたものに感じさせます。これまでこのような感覚を味わったのは、GPT-4 と Grok 4 のときだけでした。これらはどちらも、基礎モデルの規模と複雑さにおける新世代を代表していました。私は Fable が新しい事前学習から生まれたものであり、新世代の最初のモデルだと感じています。
したがって、Fable/Mythosがセキュリティ上の問題を特定し活用する点で確かに優れていることは十分に理解できますし、Anthropicが慎重にリリースしたのは理にかなっています。しかし、モデルを公開することの問題は、ガードレールが回避可能であるということであり、明らかにリリース後すぐにそのような事態が発生しました。
Anthropic、再び米国政府と対峙
その後の出来事はやや不明です。Anthropicはブログ記事で次のように述べています：
米国政府は国家安全上の権限を根拠に、米国内および国外を問わず、Anthropicの外国人従業員を含むすべての外国人によるFable 5およびMythos 5へのアクセスを停止する輸出規制指令を発令しました。この命令の実際の効果として、コンプライアンスを確保するため、当社は突然すべてのお客様に対するFable 5およびMythos 5のアクセスを無効化する必要があります。その他のすべてのAnthropicモデルへのアクセスには影響ありません。
本日、米国東部時間17時21分に政府からの指令を受け取りました。書簡には国家安全上の懸念の具体的な詳細は記載されていません。政府は、Fable 5 の回避または「ジャイル」方法が発見されたと判断していることを理解しています。私たちは、この特定の技術を使用して少数の既知の小さな脆弱性を特定するデモを検証しました。これらの脆弱性はすべて比較的単純であるように見え、他の公開可能なモデルでも、回避を必要とせずにそれらを発見できることを確認しました。
Anthropicは、汎用的なジャイルが避けられず、範囲が限定されていることをさらに主張し、汎用的なジャイルが存在するという証拠は一切ないとしている。発見されたジャイルはアマゾンが報告したものであり、これは注目に値する。なぜなら、アマゾンはAnthropicの投資家であると同時に、同社の推論サービスの主要な提供者でもあるからである。私がこの記事を書いている現在、Anthropicの経営陣はワシントンD.C.におり、自らが誤解であると主張しているが、ホワイトハウスの官僚らは同社の経営陣が合法的な国家安全保障への懸念に無関心であると示唆している問題を解決しようとしている。
多くの事実が議論の余地があるため、現在の対立について私が追加するべきことは特にないが、この対立が進行していることには驚かない。すでに『Anthropic とアライメント』という記事で説明したように、米国政府とAnthropicの対立は避けられないものである。この点において、Mythosがまだ政府が激しい行動を取るほど十分に強大ではないと考える人々は本質を見落としている。現在十分に強大でなくても、次やその次がそうなるだろう。特に、現在のモデルが後継モデルの作成にますます有効になっている以上、その可能性は高まっている。
しかし、これは別の問題を引き起こします——嘲笑者の見解を裏付けるかのように見える問題です。もしMythosが如此に危険であるなら、なぜ最初にFableをリリースしたのか？なぜ、あなたがやりたいと主張していることを政府と対立して行うのか？実際、私はAnthropicの行動は十分に理解できると思います。同社の特異性は、これらの行動をどのように正当化するかにあります。正是その正当化が、嘲笑者に燃料を提供すると同時に、Anthropicに魔力を与えているのです。
経済的必然性
AIの初期段階では、経済的価値の大部分が計算リソースに流れました。その理由は明確です：需要に見合う供給が不足していたため、価格が急騰したのです。最大の恩恵を受けたのは、NVIDIA、TSMC、メモリメーカー（SKハニックス、サムスン、マイクロン）でした。一方で、AnthropicとOpenAIは最先端モデルの構築に合計で数百億ドルの損失を出しましたが、これらのモデルはリリース後、主に中国から発信されるオープンソースモデルによって蒸留・商品化されました。
これはラボの悲観的な状況を示しています——彼らの差別化は一時的であり、無料の代替品が「十分に良い」ものになるため、コストをカバーできなくなる——私はこれは妥当だと考えます。モデルが互換可能な世界では、モデルは商品となり、大部分の価値は他の場所に流れます。現在は計算リソースですが、時間とともに十分な計算リソースが得られたとき、バリューチェーンで最も価値のある位置は、常に最も価値のある場所、つまりユーザーとの接点を有する場所になります。
したがって、フロントラインラボがユーザーに近づくことには経済的な必然性があり、これは私にとって常に明確でした。ユーザーとの接点を保有していれば、意味のあるロックインが可能であり、ユーザーとの接点を獲得する最良の方法は、ユーザーが行うすべてのことを実現するためのキャンバスとなることです。これはすなわち、フロントラインラボがソフトウェア企業と対立する方向に進んでいることを意味します。ソフトウェアがユーザーとの接点を保有しており、フロントラインラボの長期的な利益は、単にソフトウェアの商品的な入力として機能することではなく、ソフトウェア自体を直接置き換えることです。
一方で、ソフトウェア企業は逆のことを目指しています。サティア・ナデラはX上の記事で、企業がモデルの上にどのように構築すべきかというビジョンを説明しました。
すべての企業は、私が言うところの人的資本とトークン資本を構築しなければなりません。人的資本には、従業員の知識、判断力、人間関係、独創性、パターン認識が含まれ、トークン資本は企業が構築し所有するAI能力です。重要なのは、トークン資本が増大しても、人的資本の価値が低下するわけではないということです。むしろ、その価値は高まるのです！私は、人間の能動性がトークン資本の成長を駆動する原動力になると信じています。人間は雄大な目標を設定し、異なる分野のポイントを結びつけ、関係を構築し、最も重要なパターンを識別します。人間の指導がなければ、あなたの計算リソースは無駄に空転します。
真の機会は、最良のモデルを選ぶことではなく、モデルの上に学習ループを構築し、人的資本とトークン資本を複利で増やすことにある。タスクや甚至仕事は外部委託できるが、学習を外部委託することは決してできない。企業の未来は、この学習を人間とAIの間で複利的に成長させられるようにすることだ。そのためには、新しいアーキテクチャのアプローチが必要であり、各企業は自社の知的財産を維持しながら、時間とともに進化するエージェントシステムを構築できるようにしなければならない。企業は「汎用」モデルを交換しても、学習システムに組み込まれた「会社のベテラン」の専門知識を失ってはならない。これが未来の時代におけるあなたのコントロールと主権の重要な「テスト」である。
ナドラは警告をもってこのビジョンを開始した：
私たちが望まないのは、あらゆる業界のすべての企業が、すべてを飲み込む少数のモデルに価値を譲り渡す世界である。もしすべての価値が少数のモデルだけに集中するなら、政治経済はそれを容認しない。全業界を空洞化させるAIの未来には、社会は許可を与えない。
グローバリゼーションの第一段階で何が起きたかを考えてみよう。全産業経済がアウトソーシングによって空洞化した。表面上のGDP数字は良好に見えたが、職を失った人々の現実は現実であり、その影響は今なお感じられている。このような動態をAI時代に持ち込まないようにしよう。少数のAIシステムがすべての経済的リターンを独占し、多くの業界が自らの知識が目の前で商品化されていることに気づくような状況にならないように。
この比喩の問題点は、グローバリゼーションが実際に起こり、工業経済が実際に空洞化したということである。これは警告ではなく予言である可能性がある。マイクロソフトが被害者の一つであるため、ナドラが警鐘を鳴らすのも無理はない。同様に、モデルメーカーの経済的必然性はまさにこれを実現することである。
データの必然性
これらのモデル——マイソスを含む——はまだその段階に達していません。より多くの計算リソースだけでなく、より多く、より高品質なデータが必要です。モデルの改善は、強化学習から得られる部分がますます増えており、その一部は合成生成可能ですが、最先端の研究室にとって最も強力なレバレッジは、現実世界での利用です。
これは、OpenAIとAnthropicがともに大幅な補助付きサブスクリプションプランを提供する主な理由我认为です。SemiAnalysisは最近、200ドルのプランで8,000ドル分のClaudeトークンと14,000ドル分のCodexトークンを利用できることを推定しました。両社はユーザーと開発者の心のシェアを競っているだけでなく、モデルの改善のための実際の使用データへのアクセス権も競っています。
AnthropicはFable上で大幅に方針を変更し、従来の企業プランで約束していたデータ保持ゼロであっても、使用したすべてのデータを30日間保持すると発表しました。同社はこれらのデータをトレーニングに使用しないと述べていますが、今後そうしないことを保証する措置（たとえばデータをサードパーティに保存するなど）は一切設けていません。この方針変更（Fableが復活した際）によって大量の顧客が離脱しなければ、彼らがデータを使用し始めるのは時間の問題だと私は疑っています。これは彼らの最終目標にとってあまりにも価値が高いからです。
さらに、ユーザーのタッチポイントへ向かう良性循環に注意してください：ClaudeやCodexを直接使用するワークフローが増えるほど、各企業がトレーニングにフィードバックできるデータが増え、その結果、製品がより強力で有用になり、対応可能なワークフローの数が拡大し、データへのアクセスも広がります。
ナドラは記事でこれらのデータの重要性を強調したが、ナチュラルはそれがモデルから独立しているべきだと考えている：
企業は、ワークフロー、ドメイン知識、蓄積された判断を、使用するたびに改善されるAIシステムに変換する必要がある。プライベート評価は、モデルが外部ベンチマークではなく、ビジネスにとって重要な結果において実際に改善しているかどうかを捉えるべきである。プライベート強化学習環境は、モデルが組織内の実際のトレース上でより強くなるようにすべきである。その知識ベースは、機関の記憶を照会可能にし、トークン使用をより効率的にする。
この循環は、会社の新規知的財産となる。私はこれを山登りマシンと見なしている。ほとんどの資産とは異なり、これは複利である。各改善されたワークフローは、より優れたトレーニングシグナルを生成し、これにより会社独自の暗黙的知識の蓄積が加速する。この仕組みを早期に構築した企業は、どのような新しい個別モデルの能力が登場しても、真似できない優位性を獲得するだろう。
このサイクルは、会社の新しいIPとなる。私はこれを山登りマシンと見なしている。他の多くの資産とは異なり、これは複利成長を実現する。すべての改善されたワークフローは、より優れたトレーニングシグナルを生み出し、会社独自の暗黙的知識の蓄積を加速する。この能力を早期に構築した企業は、今後個々のモデルの能力がどのように向上しても、真似できない優位性を獲得するだろう。
しかし、Anthropicのデータポリシーに従う企業が今すでに優れた結果を得られているとしたらどうでしょうか？あるいは、既存企業が抵抗することで、新規企業、あるいはモデル製造者自身が市場でそれらを打ち負かす機会を生み出しているとしたらどうでしょうか？Anthropicは確かにナデラが呼びかけた決意を試しています。
権利の要求
Fable/Mythosのデータ保持ポリシーは、公開された中で最も議論を呼んでいる部分ではない。むしろAnthropicは公開時に、FableがLLM開発に使用された場合、そのパフォーマンスを静かに低下させると述べており、システムカードには次のように記されている：
また、最先端のLLM開発に関連する対策を強化しました。2026年2月のリスクレポート第6.1節で議論したように、AI全体の開発スピードが加速することによるリスクを懸念していますが、これらのリスクの深刻さについては依然として不確実です。特に、当時記載した通り、「他のAI開発者が、私たちのシステムと同様のリスクを有する強力なAIシステムを構築する速度を加速させ、対応する対策を伴わない可能性」に懸念を抱いています。
最近のモデルが自らの開発を加速する能力を備えたことを受けて、私たちは新しい対策を実施し、Claudeが最先端のLLM開発に関するリクエスト（たとえば、事前学習パイプラインの構築、分散学習インフラストラクチャ、またはMLアクセラレータ設計など）に対して有効であることを制限しました。Claudeを使用して競合モデルを開発することはすでにサービス利用規約に違反していましたが、この制限を防護措置によって強制的に適用することで、これらの規約を最も違反しようとする行動者への加速を防ぐことができます。
私たちのネットワークセキュリティ、生化学、蒸留試行における介入とは異なり、これらの保護措置はユーザーには見えません。Fable 5 は他のモデルにフォールバックしません。代わりに、プロンプトの修正、誘導ベクトル、またはパラメータ効率的微調整（PEFT）などの方法でその有効性を制限します。これらの介入は、绝大多数のプログラミング作業に影響を与えません。私たちは、これらが約0.03%のトラフィックに影響を与え、0.1%未満の組織に集中すると推定しています。これらの介入が有効になった場合、モデルの行動への影響は最小限であり、開発の最前線にあるLLMの有効性を制限すること以外の影響はほとんどないと予想されます。Claude は引き続きユーザーのリクエストに役立つ応答を提供します。このモデルのリリース後も、検出手法の精度を継続的に向上させていきます。
Anthropicはこの変更を撤回し、FableはLLM関連のリクエストをOpus 4.8に引き継ぎ、ユーザーにこの引き継ぎを開示するが、私は元のポリシーが非常に示唆に富んでいると考えている。一方で、Anthropicが競合他社を支援したくないのは理解できる。他方で、Anthropicは自分たち以外の誰も最先端のLLMを製造すべきではないと考えていることが明確であるべきだ。
この政策の注目すべき点は、Anthropic が戦争省と対立してからわずか2か月後に発表されたことである。戦争省はClaudeを合法的なあらゆる用途に使用したいと考えていたのに対し、Anthropicは監視および自律兵器に対するより厳しい制限を望んでいた。この降格措置は、Anthropicが自社の政策的嗜好を実現するためにモデルを静かに変更する能力を示すだけでなく、その意図も示している。言い換えれば、Anthropicは、批判者たちがその最大の懸念として挙げていたサプライチェーンリスクについて、自ら検証したことになる。
しかし、その出来事から導かれるより広範な結論は、AnthropicがAnthropicの使用方法について最終的な決定権を有すべきだと考えているということである。彼らが最先端のAIを開発できるのは自分たちだけだと信じている以上、実際にはAI全体についての最終的な決定権も自分たちだけに属すべきだと考えているのである。この認識を、同社がAIがすべての経済活動を実行できるという主張と組み合わせて考えると、Anthropicの経営陣はあらゆる事物とすべての人々に対して権力を握りたいと考えていることが明らかになる。
セキュリティナラティブ
もちろん、Anthropic はこのような直截的な表現を決してしない。代わりに、物語はセキュリティについてである：
私は、Anthropic が API の制限を開始しても、ますますさまざまなワークフローに特化したエンドポイントを通じて、エンドユーザーにそのモデル機能を公開すると予想しています。このようなソフトウェアの代替とアクセス制限は、Anthropic がエンドユーザーへの経済的ニーズを満たす一方で、セキュリティを名目に実施されます。
Anthropicがデータ保持ポリシーの大幅な変更を説明した理由はセキュリティである。具体的には、同社は、米国政府が懸念する脱走行為を防ぐために、すべてのユーザーデータを30日間保持することが必要であると主張している。私は、セキュリティ上の要因が、悪意のある使用に対する対策を強化するために、これらのデータを訓練に使用することを彼らに迫る未来を想像できる。
Anthropicの創設ストーリー全体は、創設者がOpenAIがセキュリティを十分に真剣に捉えていないと信じていることに根ざしている。同社は、自分たちだけがAIを制御できると考えており、セキュリティに独自に配慮しているため、米国政府を含む他のすべての人々を制御する正当な理由があると主張している。
これらの安全上の理由についての問題は、私がそれらを有効だと考える理由が、Anthropicにとってはそれらが理由ではないからである。同社は、自分たちこそが超知能を信じる唯一の存在であり、危険を真正面から受け止める唯一の存在であると本気で信じている。そのために、次々と意思決定が、次々と政策が、次々と対立が正当化され、外部の人々にとっては、それらが cynical と天真爛漫な奇妙な組み合わせに見えるのである。
OpenAIとの比較は圧倒的です：私は、ChatGPTのリリース後数年間、同社が内部で対立状態にあり、かつての研究ラボが予期せぬ消費者向けテクノロジー企業という重荷を背負わされたことが、OpenAIがどのようにして、そしてなぜリーダーの地位を失ったのかを理解する一つの方法だと思います。OpenAIがこの対立を解決する過程で、Anthropicなどの企業に多くの人材が流出しました。
一方で、Anthropicは人材、使命、事業の間に完璧な整合性を有している。同社は、危険を懸念し、その危険に人類に代わって対応するだけの知性を持つ人々に、機械の神を創造するというビジョンを売り込むことができ、その結果生じるすべての政策変更が事業に有利であるという、世界で最も素晴らしい偶然が実現している。
私はその一貫性を尊重すると同時に、恐れてもいる。尊重するのは、それが明らかに非常に効果的だからだ。最も近い類比はアップルであり、同社は常にユーザーのために正しいことをしているという建前で、すべての利己的な行動を包装してきた——そして彼らはしばしば本当にそうしている。アントロピックも同様だ。しかし、自分が最も正しいと確信する人々が、私が受け入れるか拒否するかを選べるスマートフォンを構築することとは別に、国家レベルの権力や大企業を凌駕する可能性のある超知能を構築することには、はるかに大きな懸念がある。人類が何を必要としているかを自分たちが最もよく知っていると確信する賢者の歴史は汚れている。なぜなら、彼らは自分たちの意図が善であると自分自身を説得し、実際にはそうではない行動に正当性を与えてきたからだ。