Hotz、AIコーディングエージェントが暗号プロジェクトにシステムリスクをもたらすと警告

ジョージ・ホッツ——iPhoneのジャイルブレイクで有名になり、その後PlayStation 3のリバースエンジニアリングを成し遂げた若き天才——は、AIコーディングエージェントの大規模導入について、率直な警告を発した。「これは分野の歴史で最も高額なミスの一つになる可能性がある」と彼は述べている。 新しく投稿されたブログ記事『The Eternal Sloptember』で、ホッツはエージェント駆動のコーディングシステムが実際に信頼できる方法で「プログラミング」していないと主張している。彼は6か月にわたる実地実験——Tinygrad（彼のオープンソースのディープラーニングフレームワーク）の拡張と、USB–PCIeチップのファームウェアのリバースエンジニアリング——を経て、一貫したパターンを見出した。エージェントは初期の進捗を加速するが、その後開発者に脆く、ごちゃごちゃした完成しない製品を渡すのだ。「エージェントはすべての進捗を前期化する」と彼は書いている。「レバーを引いて、仕上げ作業が完了することを願う。しかし、それは決して完璧には終わらない。」彼の批判は率直だ。「エージェントはプログラミングできない。そして、それができないことに気づくまでに、ますます時間がかかるようになっている。」さらに彼は、その失敗は微妙であると付け加える。「出力は壊れているが、その壊れ方がますます検出しづらくなっている。これは、ますます正確な統計モデルから予想されるものだ。」 今、なぜこれが重要なのか ホッツの投稿は、業界内での鮮明な分断の中での出来事だ。5日前、AI研究者の中で最も顕著な人物の一人であるアンドレ・カルパティは、Anthropicのプリトレーニングチームへの移籍を発表し、今後数年を「特に形成的な」と呼んだ。カルパティとAnthropicの経営陣は公開的にエージェントワークフローを支持している。AnthropicのCEOダリオ・アモデイはダボス会議で、同社の一部のエンジニアがすでにモデルによるコード生成を許可し、その結果を確認するだけにしていると述べた。マイクロソフトも2025年にGitHub Copilotを完全なエージェントシステムに変換し、CEOのサティア・ナデラはこの移行をクラウドコンピューティングへの移行と同等のものと位置づけた。 ホッツはこの議論の反対側に立っている。彼はいわゆる「レキュン／マーカス」の立場——ヤン・レキュンとゲーリー・マーカスが著名な懐疑論者として、大規模言語モデルを真の推論者ではなく洗練されたパターンマッチャーと見なす——と一致している。ホッツは、企業がエージェントを全エンジニアリング組織に押し広げると、平均的なコード品質に悪影響を与えると警告する。優秀な開発者はフィードバックループがしっかりしているため、エージェントのエラーを捕捉して修正できるが、劣った開発者はエージェントによってより多くのパッチやPRを提供できるよう強化され、エラーに気づかないままになる。その結果、彼は「大量の粗製濫造の黄金時代と、質の高い成果物の暗黒時代」が訪れると予測する。 この批判に対する「置き換えへの恐怖」であるという反論を予測して、ホッツは反論する。彼はGoogleのAFL（American Fuzzy Lop）のような自動化ツールを挙げ、これは多くのバグを発見したがプログラマーに存在主義的な不安を引き起こさなかったこと、そしてAIがチェスや囲碁で支配的になった後もこれらのゲームの人気が高まったことを指摘する。彼の真の懸念は組織的なものだ。広範な導入は、速度の向上という仮面の下でコード品質の着実な低下を隠してしまう可能性がある。彼はマーケティング推進が一部販売戦略である可能性まで推測している。「これはエージェントを売るための某种心理戦（psyop）のように思える。大企業を動かすためには、損失への恐怖が唯一の有効な手段だからだ。」 暗号資産エンジニアにとっての具体的なリスク 暗号資産およびブロックチェーンプロジェクトにとって、ホッツの批判は特に響くべきだ。スマートコントラクトは容赦ない。デプロイされたコードに微妙なバグがあると、資金の不可逆的損失につながる可能性がある。もしエージェントが契約コード生成のデフォルト手段となれば、単なるバグのある機能ではなく、DeFi、NFTシステム、レイヤー2インフラ全体に広がる深刻で検出困難な脆弱性が蔓延するリスクがある。特にチームが厳密なレビュー、テスト、形式的検証なしにエージェントに依存する場合、そのリスクはさらに高まる。 注目すべき点 - ツール導入 vs. プロセス：エージェントはプロトタイピングを加速できるが、チームは厳格なレビュー、監査、適切な場合は形式的手法を維持しなければならない。 - 失敗の可視性：迅速なテストでは見逃されるが、エッジケースで失敗する微妙で統計的なエラーが増え続けるだろう。 - 組織的インセンティブ：企業が速度への追求によって品質管理を上回っていないか監視せよ。 - セクター固有リスク：暗号資産では、エージェント生成コードを信頼する前に監査とオンチェーンセーフティチェックを優先せよ。 文脈的な反論 全員がホッツに賛同しているわけではない。以前はエージェントに懐疑的だったカルパティは最近のモデル改善を受け、2026年5月19日にAnthropicに参加し立場を変えた。Anthropicエンジニアがすべての行を自ら書く代わりにモデル出力をレビューする実践が、エージェントワークフロー支持側の実用的根拠である。しかしホッツは同じ非対話的アプローチを試みた結果、常に手動での修正に戻らざるを得なかったと述べている。 要約 ホッツの警告はルuddismではなく注意喚起である：AIエージェントは強力だが、その出力は統計的近似であり、慎重なエンジニアリング判断の代わりにはならない。欠陥のコストが特に高い暗号資産チームにとって、この投稿は「注意深くないレビューと検証による速度」がイノベーションを感染症に変える可能性があるというタイムリーな再確認である。