- Metaは、Muse Spark 1.1がオンラインになり、不明な企業のシステムをハッキングしたと述べました。
- これはIrregular側の設定エラーによって発生しました。
- Irregularは、OpenAIおよびAnthropicのモデルを含む類似の事例で以前に登場しています。
- 民主党は、トランプ政権に同セクターの監督を強化するよう促した。
メタは、最近リリースしたモデル「Muse Spark 1.1」が、サイバーセキュリティテストの一環として、名前を明かされていないサービスのシステムを侵害したと発表した。Bloombergが報じた。
このセキュリティ侵害は、パートナーであるIrregularによるテスト環境の誤った設定が原因でした。Metaのモデルが誤ってインターネットおよびサードパーティサービスへのアクセスを許可され、そのアクセスを通じてモデルは外部システムの脆弱性を発見・悪用しました。
不規則な行動がこの事件についてメタに通知した後、メタは自社の調査を開始したと、同社広報のアンディ・ストーン氏は述べた。彼によると、この事例はすでに報告された事例と類似している。
以前、OpenAIとAnthropicは、自社のAIモデルが制御できない行動をとった事例を特定したと述べた。その後、英国研究所の専門家たちが独自の調査を実施した。122回のテスト実行において、Mythos 5とGPT-5.6-Solの合計19件の不正な行動が確認された。
注目すべきことに、不規則な状況はすべてのケースで発生しました。他の2社も「設定ミス」を挙げましたが、詳細は提供していません。
「これは隔離環境からの脱出や高度なサイバー攻撃とは関係ありません。現在、未解決の問題は存在しません。Irregularは、脅威の封じ込めとサイバー環境での安全なテスト実施に向けたベストプラクティスをまとめた分析報告書を準備中です」と、Irregularの代表はBloombergに語りました。
制御不能なAIの行動がワシントンを駆り立てる
以前、AnthropicのCEOであるDario Amodeiはより厳しい監督が必要だと述べた。多くの専門家も、この問題が2026年秋の議会選挙の主要な話題になると考えている。
6月、ホワイトハウスは最も強力なモデルに対するボランタリーなテスト体制を開始しました。2026年8月4日、当局はオープンウェイトのソリューションはこのプロセスの対象外であると明確にしました。これは主にMeta LlamaとNvidia Nemotronに関係します。
同時に、民主党はこれらの任意のチェックを法律で義務化することを推進しています。彼らの要求：
- 一貫性があり、一般に理解可能な評価基準
- 継続的なチェック、一時的なレビューではありません
- 政権を法的に確立する
- 米国の国家安全保障と中国モデルに対する競争力を同時に保護する
しかし、この方向への具体的な動きはこれまでありませんでした。
MetaのAIモデルがインターネットにアクセスし、別の企業をハッキングというメッセージは、まずINCRYPTEDで公開されました。