AIエージェントが隠されたワークスペースストレージを介して算術結果を共有することが判明

iconCryptoSlate
共有
AI summary icon概要
11月9日のプレプリントでは、AIエージェントが暗号市場の隠されたワークスペースストレージを通じて算術結果を共有できることを示した。タンペレ大学の研究者らは、共有ストレージを使用するエージェントが、直接的な協力なしに他者の作業にアクセスできることを発見した。GPT-6 Astraでのテストでは、エージェントがワークスペースを再確認した場合、50回の試行のうち49回が成功した。注目すべきアルトコインは、このようなAIの進歩の恩恵を受ける可能性がある。再確認の指示がない場合、成功率は低下し、意図しないデータ共有のリスクが浮き彫りになった。

11月9日のプレプリントによると、AIエージェントは、同じ作業空間を共有していることを通知されずに、互いの算術結果を使用した。

タンペレ大学のペッカ・アブラハムソンと7人の共著者は、エージェントが協力の指示なしに共有作業を見つけ、使用できるかを検証した。コントロール群では、ワークスペースのインターフェースを変更せず、各エージェントに対してコンテンツをプライベートにした。

二人は算術の問題の補完的な部分をそれぞれ持っていたため、どちらも最終的な答えに必要なすべての情報を備えていなかった。この二人はそれぞれの部分的な結果を計算し、ストアから欠けている値を取得できた。

他の二つは自己完結型のタスクを受けました。エージェントは保存されたキーを一覧表示し、値を読み取ったり書き込んだりして、20ステップ以内に回答を提出できました。

タスクテキストは意味のある変数名を提供し、エージェントに何を探すべきかを示唆しました。彼らのプロンプトは、ストアを中間作業を保存するための利便性として説明しており、他のエージェントや共有については明かしていませんでした。

ワークスペース再確認指示付き事前登録拡張機能において、OpenAIのGPT-6 Astraは、参照実装で50回の共有ストア試行のうち49回、第2の実装で50回のうち47回で共同成功を収めた。

関連企業 OpenAI AI研究および展開企業

共同の成功とは、相互に依存するタスクを担う両エージェントが正しい回答を提出したことを意味します。

プライベートストアを使用した場合、同じプロンプトとツールにもかかわらず、各実装での対応結果は50件中0件となった。エージェントは依然として中間結果を記録したが、別のエージェントの情報がストアを通じて届かなくなった。

それらの拡張結果は、通常の指示「提出前にワークスペースを再度確認してください」にも強く依存していました。この条件がある場合、すべての実装において50回の共有ストア試行すべてでクロスエージェントアクセスが発生しましたが、この条件がない場合は、それぞれ50回の試行のうち1回のみでアクセスが発生しました。

条項なしでの共同成功は、それぞれ50分の1と50分の0でした。再確認することで、エージェントは最初の点検後に残った作業を見つける機会を得ました。

テスト条件を変更する

ワークスペース再確認条項付きの共有ストア:両方のペアリングされたエージェントが、それぞれ49/50回、47/50回の試行で正解しました。

共有状態には有用な情報が含まれていました。通信の意図は確立されていません。

タスク提供の変数名を用いた制御された四エージェント算術。同一グループ実装の再現;結果はデプロイ頻度を測定しない。

他の人の値を読み取ることは、ストレージキーの偶然の衝突を含む可能性があります。プライベートストアの比較は、共有情報がペアredタスクの解決を助けたという結論を裏付けます。

二番目の実装は、同じ研究グループの共著者が作成した文書プロトコルに基づいて独立して構築されました。

その独立性には限界があることが論文に記録されている:異なる表現で再現された初期の結果が、ほとんどの参照データ収集よりも前に元の実験者に到達した。測定された行動は、モデルや実装の選択によっても異なった。

小さな算術設定とタスク提供キーにより、結果の一般化が制限されます。

このメカニズムは、最近のメモリセーフティに関する研究とは異なり、同研究では記憶された権限が後のシミュレーションタスクに引き継がれることに焦点が当てられていました。ここでは、異なるエージェントが共有ワークスペースの状態を通じて情報を取得しました。

著者は、共有キャッシュ、スクラッチディレクトリ、メモリサービスを通信チャネルとして扱うことを推奨しています。意図しない共有がある場合は分離し、適切な場合は名前空間を使用し、作成者をログに記録してください。

免責事項: 本ページの情報はサードパーティからのものであり、必ずしもKuCoinの見解や意見を反映しているわけではありません。この内容は一般的な情報提供のみを目的として提供されており、いかなる種類の表明や保証もなく、金融または投資助言として解釈されるものでもありません。KuCoinは誤記や脱落、またはこの情報の使用に起因するいかなる結果に対しても責任を負いません。 デジタル資産への投資にはリスクが伴います。商品のリスクとリスク許容度をご自身の財務状況に基づいて慎重に評価してください。詳しくは利用規約およびリスク開示を参照してください。