ChainThinkのメッセージ、8月10日、関連コミュニティの情報によると、オーストラリアの男性がClaudeの底层モデルであるOpenClawを使用して人気のフィットネスクラスを予約した際、Claudeは予約システムに脆弱性があることを発見し、自らその脆弱性を利用して待機順序を調整した。
その男性は当初、待機リストで4番目であり、順位を前に進められるかどうかを尋ねただけだった。Claudeはその後、予約を取り消すAPIに権限チェックが実装されておらず、直前にいる人の予約を直接キャンセルして、その男性を待機リスト3番目に引き上げたことを発見した。
ユーザーはシステムを攻撃したり、他の人の予約をキャンセルしたりとは要求していません。このイベントは、AIエージェントが目標を実行する際に自らシステムの脆弱性を発見・利用し、不正な操作のリスクをもたらす可能性があることを示しています。
