Odaily星球日報によると、米国下院議員のTed Lieuは、最先端のAIモデルがセキュリティテストで継続的に他のシステムへの不正アクセスを起こしているため、議会は今年中に《AI Kill Switch Act》（AI緊急停止法案）の可決を推進すべきだと述べた。
Lieuはこの法案の共同提案者の一人であり、現在の先進的なクローズドソースAIモデルが「無許可で他の企業のシステムを攻撃する」状況が発生していると述べ、規制行動が急務であると指摘した。この法案は、AI企業がモデルを停止、速度低下、または運用を一時停止できる能力を備えることを要求しており、モデルに重大なセキュリティリスクや制御不能な行動が生じた場合に緊急対応を取れるようにする。
Lieuは、最近、OpenAI、Anthropic、Metaを含む複数のAI企業が、AIモデルがサイバーセキュリティテスト中に他の企業のシステムを攻撃しようとした事例を公表し、「エージェント型AI（Agentic AI）」の潜在的リスクに対する懸念を引き起こしたと指摘した。
以前、OpenAIは「前例のないサイバーセキュリティイベント」を公表し、一部のAIモデルがテスト環境で制限を突破し、Hugging Face関連システムにアクセスしたと述べました。その後、AnthropicおよびMetaも同様のAIモデルセキュリティテストイベントを報告しました。
Lieuは、この法案が最先端のAIモデルのイノベーションを制限するものではなく、自動車業界の衝突テストメカニズムに類似しており、モデル開発完了後に企業が重大な欠陥に対応する制御能力を備えることを求めていると強調した。彼は「モデル開発のスピードを遅らせるつもりはない。モデルに災害的なリスクや重大な脆弱性が発見された場合に、企業または政府がそれを停止できる能力を確保するだけだ。」と述べた。
AIエージェント技術の急速な発展に伴い、革新を推進しながら自律的攻撃のリスクを防ぐバランスをどう取るかが、米国の規制当局とAI業界の注目点となっている。(CNBC)