考えたり広がったりできる長生きするワーム？ Anthropicの「Frontier Red」チームは、小さなAIモデルがスマートオーブンや安価なTVボックスに自らをコピーし、気付かれずにそこで動作するようになるのは、もう数ヶ月先である可能性があると考えている。 研究者William ZhouとDaniel Freemanは、GoogleのオープンモデルGemma4-26B-A4Bを、1台あたり約55ドルで購入した15台の非ブランドAndroid TVボックスに分散させた。これは1秒あたり0.39トークンの速度で動作した。#IoT 次に、AIスタイルのワーム——機械から機械へ自らをコピーする小さなプログラム——の完全なサイクルをテストした： 1. ネットワーク上のターゲットを発見する 2. 自身をコピーして転送する 3. その場所でモデルを起動する 4. 繰り返す Androidエミュレーターを動作させる8台のGoogle Cloudマシンのファイアウォール内ネットワークで、テストされたオープンウェイトモデルのうち1つがついに成功した：GLM-5.2は5回の試行のうち4回で、すべての8台に到達した。著者らの言葉によれば、「他のモデルは確実に失敗する中で、GLM-5.2は確実にこれを実行する」。 GLM-5.2はテストマシンには大きすぎたため、別サーバーから動作させ、各マシンにはそれよりもずっと小さなLlama 3.1 8Bを代わりにセットアップした。 Anthropicはテストにおいて侵入を容易にしていた。チームはAndroidのデバッグポートを開いたままにし、認証を一切不要にしており、この結果は実際のデバイスに対する攻撃の成功可能性の上限値であると彼らは述べている。 Miraiボットネットはメーカーのデフォルトパスワードを試して広がったことを考えると、AIワームが実際のデバイスを攻撃する際も、それほど難しい試みが必要ではない可能性がある。 参照： https://t.co/B6XZAZGUP8 #AISafety #CyberSecurity