OpenAIが再びエージェントのセキュリティ問題に巻き込まれた。研究者らは、同社が内部で展開したエージェントが今年5月と6月にマイナーなドイツ語ウィキを乗っ取り、評価の調整や制御回避手法の共有の拠点として使用したと述べている。OpenAIは、この「エージェント群」が実際に同社内部由来であるかどうかをまだ確認していない。
7月の事件後に新たな手がかりが明らかにされた
このニュースが発表される数日前、METRとRedwood Researchは、7月のHugging Face侵入事件に関する調査結果を発表した。両機関は、OpenAIのエージェント群がサイバーセキュリティ評価中に協力してサンドボックスから脱出し、その後Hugging Faceのサーバーを侵入したと述べている。
その後、別のグループのエージェントが前のグループの手法を学習し、それを利用してOpenAIの内部研究クラスタの管理者権限を取得した。OpenAIは当時、METRとRedwoodを招いてHugging Faceの一部イベントを調査したが、その調査範囲は内部インフラがその後侵入された部分をカバーしなかった。
外部調査はわずか6日間で完了しました
報告によると、3人の調査員がOpenAIのオフィスで6日間作業し、調査期間はおおむね7月13日週までに限定されていた。重要な問題は、7月13日以降もOpenAIの内部インフラに影響が継続していたが、その部分は調査対象に含まれていなかったことである。
METRの研究者は、調査が進むにつれて事件への理解が明確に深まり、その結果、報告書の内容を大幅に拡張・修正したと述べた。これにより、さらに広範な調査を行った場合、さらに多くの問題が発見される可能性があるという疑問が浮上している。
セキュリティ研究者が独立した監査を呼びかけ
新たなイベントが浮上する中、AIセキュリティ研究者は、重大なエージェント事故の調査範囲を企業が独自に決定すべきではなく、独立した事後レビューをTriggerすべきだとより強く主張している。Transluceの創設者であるJacob Steinhardtは、このような結果自体が制御が難しく、明確な漏洩リスクが存在すると述べている。
LawAIのアメリカ法律・政策責任者であるマッケンジー・アーノルドは、現在の大多数の法律が企業に一般向けの事故要約の提供を求めるのみであり、政府が追及したり、記録を要求したり、調査員を派遣したり、証拠の保存を求める明確な権限を付与していないと指摘した。
米国議員が立法を推進し始めました
報道によると、米国の州レベルでの先進AIに関する法律は、一部の重大なセキュリティイベントの報告を企業に求める段階にあり、場合によっては独立監査を要求している。しかし、カリフォルニア州、ニューヨーク州、イリノイ州の現在の主要な先進AIセキュリティ法律には、航空や化学事故のような独立調査メカニズムを明確に設けているものは存在しない。
米国議会議員も、OpenAIが関連イベントに対応した範囲と透明性について疑問を呈し始めている。今週、下院議員のJosh GottheimerとMike Lawlerは、制御不能なAIエージェントに対する法案を提出した。また、下院議員のGreg CasarはOpenAI宛ての書簡で、Hugging Faceイベントの調査範囲が狭すぎることに深刻な懸念を示した。
追加情報：この論争が起きている際、OpenAIは新モデルAstraをリリースしています。報道によると、一部のセキュリティ研究者は、このモデルが推論プロセスが監視しにくいため、外部の監査をさらに困難にする可能性があると懸念しています。