11月9日のプレプリントによると、AIエージェントは、同じ作業空間を共有していることを通知されずに、互いの算術結果を使用した。
タンペレ大学のペッカ・アブラハムソンと7人の共著者は、エージェントが協力の指示なしに共有作業を見つけ、使用できるかを検証した。コントロール群では、ワークスペースのインターフェースを変更せず、各エージェントに対してコンテンツをプライベートにした。
二人は算術の問題の補完的な部分をそれぞれ持っていたため、どちらも最終的な答えに必要なすべての情報を備えていなかった。この二人はそれぞれの部分的な結果を計算し、ストアから欠けている値を取得できた。
他の二つは自己完結型のタスクを受けました。エージェントは保存されたキーを一覧表示し、値を読み取ったり書き込んだりして、20ステップ以内に回答を提出できました。
タスクテキストは意味のある変数名を提供し、エージェントに何を探すべきかを示唆しました。彼らのプロンプトは、ストアを中間作業を保存するための利便性として説明しており、他のエージェントや共有については明かしていませんでした。
ワークスペース再確認指示付き事前登録拡張機能において、OpenAIのGPT-6 Astraは、参照実装で50回の共有ストア試行のうち49回、第2の実装で50回のうち47回で共同成功を収めた。
共同の成功とは、相互に依存するタスクを担う両エージェントが正しい回答を提出したことを意味します。
プライベートストアを使用した場合、同じプロンプトとツールにもかかわらず、各実装での対応結果は50件中0件となった。エージェントは依然として中間結果を記録したが、別のエージェントの情報がストアを通じて届かなくなった。
それらの拡張結果は、通常の指示「提出前にワークスペースを再度確認してください」にも強く依存していました。この条件がある場合、すべての実装において50回の共有ストア試行すべてでクロスエージェントアクセスが発生しましたが、この条件がない場合は、それぞれ50回の試行のうち1回のみでアクセスが発生しました。
条項なしでの共同成功は、それぞれ50分の1と50分の0でした。再確認することで、エージェントは最初の点検後に残った作業を見つける機会を得ました。
テスト条件を変更する
ワークスペース再確認条項付きの共有ストア:両方のペアリングされたエージェントが、それぞれ49/50回、47/50回の試行で正解しました。
共有状態には有用な情報が含まれていました。通信の意図は確立されていません。
タスク提供の変数名を用いた制御された四エージェント算術。同一グループ実装の再現;結果はデプロイ頻度を測定しない。
他の人の値を読み取ることは、ストレージキーの偶然の衝突を含む可能性があります。プライベートストアの比較は、共有情報がペアredタスクの解決を助けたという結論を裏付けます。
二番目の実装は、同じ研究グループの共著者が作成した文書プロトコルに基づいて独立して構築されました。
その独立性には限界があることが論文に記録されている:異なる表現で再現された初期の結果が、ほとんどの参照データ収集よりも前に元の実験者に到達した。測定された行動は、モデルや実装の選択によっても異なった。
小さな算術設定とタスク提供キーにより、結果の一般化が制限されます。
このメカニズムは、最近のメモリセーフティに関する研究とは異なり、同研究では記憶された権限が後のシミュレーションタスクに引き継がれることに焦点が当てられていました。ここでは、異なるエージェントが共有ワークスペースの状態を通じて情報を取得しました。
著者は、共有キャッシュ、スクラッチディレクトリ、メモリサービスを通信チャネルとして扱うことを推奨しています。意図しない共有がある場合は分離し、適切な場合は名前空間を使用し、作成者をログに記録してください。


