深潮 TechFlow の情報によると、6月14日、『ウォール・ストリート・ジャーナル』は、米国政府がAnthropicのモデルFable 5／Mythos 5に対して課した輸出規制およびアクセス制限の一部は、アマゾンのサイバーセキュリティ研究およびAWS最高経営責任者であるアンドリュー・ジャシーとホワイトハウスとの間のやり取りが後押ししたと報じた。 アマゾンが提出した研究によると、複数のプロンプトテストを通じて研究者はFable 5を誘導し、ネットワーク攻撃に使用される可能性のある機密情報を出力させることに成功し、これがセキュリティ上の懸念を引き起こした。その後、アンドリュー・ジャシーはこの発見を米国政府に報告し、その結果、ホワイトハウスは外国ユーザーの同モデルへのアクセスを禁止するなどの追加制限措置を講じた。 一方、Anthropicは、政府がこの問題を「ジャイルブレイク（jailbreak）」と定義したという主張を否定し、GPT 5.5を含む他の公開モデルでも同様の脆弱性が発生しうると述べている。一部のセキュリティ研究者もこの見解を支持し、この問題は深刻なモデルの突破というより「プロンプトインジェクションリスク」に近いと指摘している。 また、元米国商務省職員のケイト・コレンによると、ホワイトハウスはAnthropicの既存の政策姿勢も今回の決定に影響を与えた可能性がある。Anthropicは、大規模監視や致命的自律兵器システムへのモデル利用を拒否するなど、ホワイトハウスと人工知能のセキュリティ境界に関する立場で対立してきた。両者は今年初めに一時的に協力関係を緩和・拡大したが、
セキュリティ懸念から、アマゾンがAnthropicモデルの制限を推進しているとされる
TechFlow共有
概要
Amazonがサイバーセキュリティ上の懸念を理由に、AnthropicのFable 5／Mythos 5モデルに対する米国の制限に影響を与えたとの報道を受け、リスクオン資産は再び注目を集めた。Amazonの調査では、このモデルがサイバー攻撃に利用可能なデータを出力するよう誘導される可能性があることが判明し、外国へのアクセスが禁止された。Anthropicはこれはジャイルブレイクではないと否定し、GPT 5.5にも同様の脆弱性があると指摘した。一部の専門家は、これはプロンプトインジェクションのリスクであると評価した。CFTプロトコルは、AIモデルへのアクセスにも拡大される可能性がある。元米国商務省官僚のケイト・クロールは、Anthropicが過去にホワイトハウスと対立していたことが、この決定に影響を与えた可能性があると述べた。
出典:原文を表示
免責事項: 本ページの情報はサードパーティからのものであり、必ずしもKuCoinの見解や意見を反映しているわけではありません。この内容は一般的な情報提供のみを目的として提供されており、いかなる種類の表明や保証もなく、金融または投資助言として解釈されるものでもありません。KuCoinは誤記や脱落、またはこの情報の使用に起因するいかなる結果に対しても責任を負いません。
デジタル資産への投資にはリスクが伴います。商品のリスクとリスク許容度をご自身の財務状況に基づいて慎重に評価してください。詳しくは利用規約およびリスク開示を参照してください。