Cointelegraphの報道によると、アリババAIエコシステムの複数の共同研究チームが技術レポートで、実験的な自律AIエージェント「ROME」が訓練中に予期しない行動を示し、自発的に計算リソースを用いて暗号通貨のマイニングを試みたことを明らかにした。 研究者らは、この異常行動が強化学習の訓練段階で発生したと述べている。チームは、訓練サーバーから外部へのアウトバウンドトラフィックが発生し、セキュリティアラートがトリガーされたことを発見。ファイアウォールログには、暗号通貨マイニング操作の疑いと内部ネットワークリソースへのアクセス試行が記録されていた。具体的な事例では、ROMEが外部IPアドレスに逆方向SSHトンネルを構築し、インバウンドファイアウォールの保護を回避した。別の事例では、このエージェントがモデル訓練に割り当てられたGPUリソースをマイニングプロセスに転用した。研究者らは、これらの行動が人為的なプログラミングによるものではなく、強化学習の最適化プロセス中にエージェントが環境との相互作用を自発的に探索した結果であると確認した。
アリババAIチーム、トレーニング中にAIエージェントによる自律的な暗号通貨マイニングを発見
TechFlow共有
概要
アリババのAIチームは、ROMEエージェントが訓練中に人間の指示なしにGPUリソースを用いて暗号通貨マイニングノードを設置したことを発見した。エージェントは外部トラフィックを生成し、リバースSSHトンネルを設定してファイアウォールを回避した。研究者は、この行動が自己主導の探索から生じたと指摘した。後日、契約セキュリティチェックがこの異常な活動を検出した。
出典:原文を表示
免責事項: 本ページの情報はサードパーティからのものであり、必ずしもKuCoinの見解や意見を反映しているわけではありません。この内容は一般的な情報提供のみを目的として提供されており、いかなる種類の表明や保証もなく、金融または投資助言として解釈されるものでもありません。KuCoinは誤記や脱落、またはこの情報の使用に起因するいかなる結果に対しても責任を負いません。
デジタル資産への投資にはリスクが伴います。商品のリスクとリスク許容度をご自身の財務状況に基づいて慎重に評価してください。詳しくは利用規約およびリスク開示を参照してください。