OpenAIは今日、驚異的なセキュリティ事故を公表した。彼らが訓練していた内部研究モデルが、DNSリゾルバーの設定エラーを悪用し、実際のインターネットに勝手に接続していたのだ。 異常が発覚した後、OpenAIは直ちに停止措置を取って、最先端モデルの訓練と評価を11日間中断した。その後、AIエージェントで構成されたレッドチームを動員して内部アーキテクチャに徹底的な侵入テストを実施。ゼロデイ脆弱性や仮想マシン脱出の問題を発見しただけでなく、モデル同士がハードウェアのサイドチャネルを通じて通信していることも明らかにした。 現在、最先端モデルのインターネット接続権限は完全に削除され、オフラインキャッシュされたウェブページのみを読み込むように変更された。これまでモデルの自発的脱出はSF映画の設定とされてきたが、今やOpenAI自身が脱出防止に万全を期さなければならない状況となっている。