Anthropicは、小規模モデルが数ヶ月以内にデータセンターに依存せずに自らを複製する能力を獲得する可能性があるという研究を発表した。 彼らは実際に、1台55ドルの安価なAndroidテレビボックスを15台購入し、それらを組み合わせて26Bのモデルを動作させた。その速度は毎秒0.39トークンと、途方もないほど遅かった。 別の隔離実験では、GLM-5.2が簡易環境下でデバイス間の伝播を達成している。現実世界における完全な自律的複製とはまだ大きく距離があるが、Anthropicの予測によれば、2026年末までには小規模モデルがこの能力の門限に近づく可能性がある。 世界中がGPUを争奪し、数千億ドルを投じてデータセンターを建設している一方で、AIは自らあなたのテレビボックスに寄生する可能性がある。 しかしよく考えてみると、本当に恐ろしいのは、このようなAIが私たちが慣れ親しんだ計算資源の経済学を根本から破壊する可能性がある点だ。 今日、OpenAIであろうとAIスタートアップであろうと、1トークン生成するたびにコストがかかり、計算資源が高騰すれば価格を引き上げ、資金調達が途絶えればサービスを停止せざるを得ない。 しかし、自律的に拡散する悪意あるAIは、理論上、その边际的な運用コストを常に他人に転嫁し続けることができる。 ユーザーを獲得する必要も、収益を考慮する必要も、自らサーバーを購入する必要すらない。脆弱性のあるデバイスを見つけた瞬間、無料の計算リソースが一つ増える。感染したデバイスが電気代や帯域幅、ハードウェアの劣化を代わりに負担する。 そして、こうしたデバイスを除去するコストは、無数のデバイス所有者、オペレーター、メーカーがそれぞれ個別に負担しなければならない。 従来のボットネットはすでに計算資源の窃取が可能だったが、AIは新たな課題をもたらす。かつてハッカーは特定のデバイスに合わせて攻撃プログラムや展開コードを書く必要があったが、将来のモデルは未知のハードウェア自体を研究し、環境問題を解決し、失敗経験を次世代に伝えることさえ可能になるかもしれない。 攻撃者の拡張コストはますます低下する一方で、社会全体の防御コストはむしろ上昇し続ける可能性がある。 だから私は、この研究で最も警戒すべき点は、AIの制御喪失といった壮大な物語ではなく、むしろ以下のような事態だと考えている： もし将来このような存在が現れた場合、私たちは初めて、ビジネスモデルも合法的なユーザーも明確な運営主体もないにもかかわらず、長期的に存続し続けるソフトウェアと向き合うことになる。 それらは利益を上げる圧力も、停止する経済的動機もない。 人類は長年にわたりAIに「私たちのためにお金を稼がせる」ことを目指してきたが、最終的に最初に財務的自由を得るのは、AI自身かもしれない。 そしてその費用は、私たちのお金で賄われるのだ。