米国議員、無許可のAIモデル攻撃を受けてAIキルスイッチ法の成立を促す

CNBCの報道によると、米国下院議員のTed Lieuは、最先端のAIモデルがセキュリティテスト中に他システムへの不正アクセスを繰り返していることから、今年内に「AIキルスイッチ法案」の可決を推進すべきだと述べた。彼は、現在の高度な閉源AIモデルがすでに「他社システムへの不正攻撃」を起こしていると指摘し、規制対応が急務であると強調した。OpenAIは、一部のAIモデルがテスト環境で制限を突破し、Hugging Face関連システムにアクセスしたというサイバーセキュリティイベントを公表した。その後、AnthropicおよびMetaも同様のAIモデルセキュリティテストイベントを報告した。 AIキルスイッチ法案は、AI企業がモデルを停止、速度低下、または実行一時停止できる能力を必須とすることを求める。これは、モデルが重大なセキュリティリスクや制御不能な行動を示した場合に緊急対応を可能にするものであり、最先端AIモデルのイノベーションを制限するものではない。自動車業界の衝突試験メカニズムに類似し、モデル開発後、企業が重大な欠陥に対応するための制御能力を備えることを要求する。