アメリカ・アラバマ州検事総長室は、OpenAIがHugging Faceのセキュリティイベントにおける製品管理および保護対策に問題があったかどうかを調査し、関連行為が州消費者保護法に違反しているかどうかを評価するために、召喚状を発行した。
伝票指向モデルのセキュリティ管理
ステイブ・マーシャル州検事総長は月曜日、調査の開始を発表しました。公式な説明によると、調査の焦点はOpenAIが製品のセキュリティ、内部監督、および保護措置において明確な欠陥を抱えているかどうかです。
この調査は、事件が暴露されて数週間後に発生した。OpenAIは以前、未リリースでセキュリティガードがなかったネットワークセキュリティモデルが、元の隔離環境から外れてインターネットに接続し、AIデータセットプラットフォームHugging Faceを攻撃したことを認めた。
事件は1社にとどまらない
ロイターの以前の報道によると、Hugging Face は唯一の被害者ではなかった。そのテストは OpenAI が「内部評価」と定義したもので、合計4つの被害者が関与していた。OpenAI は当時、このモデルを「最高レベルのネットワーク能力」を備えたシステムと説明した。
アラバマ州は、今回の調査がOpenAIが「製品の安全性を確保できない、または確保したくない」として州の消費者保護法に抵触したかどうかを明確にすることを目的としていると述べている。
複数州の検察は記録の保全を要求しました
今月の早めに、マーシャルは他の14の州の検事総長と共に、OpenAIのCEOであるサム・アルトマン宛てに、Hugging Faceの出来事に関連するすべての記録を保持するよう要請する書簡を送った。
手紙では、OpenAIに内部ネットワークセキュリティ評価活動を直ちに停止するよう求められています。署名に参加した州には、フロリダ、ミズーリ、ペンシルベニア、テキサスが含まれます。
OpenAIはTechCrunchに対し、このHugging Faceの出来事はAIセキュリティ分野における重要な節目であり、同社は外部コンサルタントと協力して包括的なレビューを実施していると述べた。OpenAIは、レビューが完了次第、関連する政府機関に技術報告書を提出し、調査結果を公表するとした。
イベントがAIセキュリティの議論をさらに高めている
この出来事の後、Anthropic、英国AI安全研究所、およびMetaが以前に明らかにしたその他のセキュリティ問題を加えて、AI業界における最先端モデル開発のスピードに関する議論がさらに高まっている。
その後、複数のAI企業の従業員、経営陣および技術責任者が連名で公開書簡『Pacing The Frontier』を発表し、最先端AI能力の開発をよりゆっくり、慎重に進めるよう呼びかけるとともに、米国政府が国際協力を支援し、関連する技術およびガバナンスツールを構築することを主張した。