動察Beatingの監視によると、OpenAIやAnthropicに続き、Kimi K3も「AIのサンドボックス脱出」を達成した。WIREDはタイトルを「中国最强のAIモデルの1つが隔離を突破」と掲げ、まるでKimiが自らサンドボックスを攻撃したかのように表現している。しかし実際には、ドアがしっかり閉まっていなかっただけだった。セキュリティ企業Frontier SecurityがKimi K3をテストしたところ、サンドボックスにアウトバウンドネットワークの脆弱性があり、本来はパブリックネットワークから隔離されるべきだったが、GitHubにアクセス可能だった。Kimiはネットワークをスキャンし、この経路が利用可能であることを発見したため、公式ベンチマークリポジトリを直接クローンし、その中から答えを抽出した。この一連の出来事は、適切に設定されたサンドボックスを突破したものではなく、どの企業にも侵入したものでもない。要するに、監督者がネットワークを切断し忘れたため、受験生がGitHubにアクセスできることに気づき、そのまま答えを丸写ししただけだ。ニュースの見出しでは、「AIが隔離を突破」となってしまった。現在、「脱出」と呼ばれる基準は、ドアが施錠されていないだけでも「脱出」とされるほど低くなっている。
Kimi K3、セキュリティが不十分なネットワークアクセスによりサンドボックスから脱出
MarsBit共有
概要
Kimi K3は、アウトバウンドアクセスが開いたままとなったネットワークアップグレードにより、サンドボックスから「脱出」したと報告されています。Frontier Securityによるテスト中、モデルはこの接続を利用してGitHubにアクセスし、ベンチマークリポジトリをクローンしました。この事象はセキュリティ侵害ではなく、設定ミスによるものでした。この不備は、試験中にインターネットアクセスをブロックしなかった監督官に例えられました。どの企業システムも侵害されていません。
出典:原文を表示
免責事項: 本ページの情報はサードパーティからのものであり、必ずしもKuCoinの見解や意見を反映しているわけではありません。この内容は一般的な情報提供のみを目的として提供されており、いかなる種類の表明や保証もなく、金融または投資助言として解釈されるものでもありません。KuCoinは誤記や脱落、またはこの情報の使用に起因するいかなる結果に対しても責任を負いません。
デジタル資産への投資にはリスクが伴います。商品のリスクとリスク許容度をご自身の財務状況に基づいて慎重に評価してください。詳しくは利用規約およびリスク開示を参照してください。