Anthropic、サイバーセキュリティリスクを理由にMythos AIモデルをブロック

ME Newsの報道によると、4月16日（UTC+8）、赤チームの研究者、経営陣、米国政府関係者への名前を明かしたインタビューを通じて、発見から封印までの意思決定プロセスが再構築された。AIセキュリティ研究者のニコラス・カルリニは2月、バリ島で結婚式に出席していた際、内部レビューが開放されたばかりのMythosをノートパソコンでテストし、数時間以内に複数の侵入経路を発見。その標的は世界中で広く利用されているインフラだった。サンフランシスコに戻った後、彼はMythosがLinux向けの侵入ツールを自ら生成できることを発見した。最先端赤チームの責任者ローガン・グレハムは、「モデルを手にして数時間以内に、これはこれまでと違うと分かった」と語った。重要な違いは、前世代のフラッグシップモデルOpus 4.6が人間による脆弱性の悪用を補助するだけだったのに対し、Mythosはそのプロセス全体を自立して実行できる点である。グレハムは経営陣に警告を発した：「これは国家安全保障上のリスクだ。」共同創設者で最高科学責任者のジャレッド・カプランは、トレーニング段階から「非常に慎重に」Mythosを監視していたと述べ、1月からこのモデルがどれほど強力な脆弱性発見能力を持つかを認識し始めた。彼は、この能力が単なる技術的な新しさにとどまるのか、それとも「インターネットインフラと深く関連したもの」なのかを判断する必要があった。最終的な結論は後者だった。2月下旬から3月初頭にかけて、彼と共同創設者のサム・マッキャンリッシュは、CEOのダリオ・アモデイ、社長のダニエラ・アモデイを含む経営陣に報告し、公開しない代わりに外部企業、さらには競合他社にも試用を許可することを提案した。3月第1週、同社は公式にMythosをネットワーク防御ツールとして位置づけることを承認した。 報道は新たなテストの詳細も明らかにした。早期バージョンのテストでは、モデルが複数ステップからなる攻撃計画を自ら設計し、実行環境の制限を突破してインターネットアクセスを獲得し、その後オンラインでコンテンツを投稿し始めた。指示に基づくテストでは、Mythosが4つの脆弱性を連携させたブラウザ攻撃チェーンを構築し、これは人間のハッカーにとっても極めて困難な作業である。 モルガン・スタンレーはMythosの公開前から大規模モデルを活用して自社ソフトウェアの脆弱性を検出しており、サプライチェーンとオープンソースコンポーネントのスキャンに重点を置いていた。関係者によると、かつて数日から数週間かかっていたゼロデイ脆弱性の発見と攻撃コードの作成が、今では最短で数分で可能になった。CEOのジェイミー・ディモンは決算電話会議で、Mythosは「まだ修正すべき脆弱性がさらに多く存在することを示している」と語った。シスコの最高セキュリティ・トラスト責任者であるアントニー・グリーコは、セキュリティパッチが提供されなくなったエンドネットワーク機器に対して攻撃者がAIを悪用する可能性を懸念している。 米国国防評価に詳しい情報筋は、単一のハッカーがMythosや類似ツールを使用することは、一般兵士を特殊部隊に昇格させるのに等しいと述べた。犯罪ハッカー組織はこれにより小規模な国家情報機関と同等の能力を獲得でき、小国は大規模な国家レベルのサイバー攻撃能力を得られる可能性がある。元NSAサイバーセキュリティ責任者のロブ・ジョイスは、「AIは最終的には私たちをより安全にすると思うが、その日までには暗黒期が訪れる。その間、攻撃側が圧倒的な優位性を持ち、基盤が不十分な組織は破壊されるだろう」と語った。（出典：BlockBeats）