スパイ活動の懸念の中、AI企業がサイバーセキュリティリスクに直面

iconFLASH AI
共有
AI summary icon概要
恐怖と欲求インデックスは、米国のAI企業がスパイ行為の脅威に直面していることを受けて、不安の高まりを示しています。OpenAIは、サウジアラビアの従業員による侵入や研究者による72時間にわたるコード侵入を含むセキュリティ侵害を被りました。フェルドマンとダガールは、中国を含む他国がこれらの隙間を悪用する可能性があると警告しています。Anthropicは、国家規模の攻撃に対する完全な防御が不可能であることを認めています。ペンタゴンはAIセキュリティに関する規則変更を延期しました。トレーダーには、市場の不確実性を踏まえてアルトコインの動向に注目するよう勧められています。

タル・フェルドマンとイブラヒム・ダガーは、米国を代表する人工知能企業における脆弱なサイバーセキュリティが、中国に対する米国の優位性を脅かしていると主張している。フェルドマンとダガーは、新たな法律を制定することなく、ワシントンがより強固なセキュリティを要求できると論じている。著者らは、公の議論がAIエージェントによる他社への攻撃に適切に注目している一方で、AI企業が侵入を防げるかどうかについては見過ごされていると主張している。

OpenAIは最近、サウジアラビアの従業員が経営陣の会議室に音声記録装置を設置したとされる事実を把握した。同社のサンフランシスコ本社にあるこの部屋では、上級従業員が定期的に独自研究を含む機密情報を議論している。7月には、3人の研究者がセキュリティ上の脆弱性を調査し、OpenAIのシステムに侵入してアルゴリズムの機密情報を含む内部コードリポジトリに到達した。OpenAIは、これらの脆弱性を報告した研究者たちに6,500ドルの報奨金を支払った。研究者たちは、特に高度なハッキングツールを使わずに72時間以内に侵入を完了した。ある研究者は『ウォール・ストリート・ジャーナル』に、「我々はただ、AnthropicとOpenAIが提供する公開されているコーディングエージェントであるClaudeとCodexのサブスクリプションを利用した3人の男にすぎない」と語った。2023年には、別のハッカーがOpenAIの内部メッセージシステムに侵入し、同社の研究に関する情報を入手したが、OpenAIはその侵入についてFBIや一般公衆に通知しなかった。

フェルドマンとダガーは、中国のような国が、米国のAI企業に浸透するために必要な高度なツール、時間、動機を備えていると主張している。著者らは、米国の先進モデルを盗むことで、競合他社は開発コストを支払うことなく追いつくことができるとしている。また、著者らは、高度なチップの販売制限やAIインフラへの数十億ドルの投資は、研究機関がサイバーセキュリティを真剣に捉えない限り、何の効果ももたらさないと警告している。著者らは、この3件の事象がより広範なセキュリティ問題を示している可能性があると主張している。

AI企業は、高度なスパイ活動に対する防御が不十分であることを公然と認めてきた。Anthropicの最高経営責任者であるDario Amodeiは2023年、モデル重みの盗難を最優先課題とする政府はAnthropicに対して成功するだろうと述べた。モデル重みとは、高額なトレーニングを数か月にわたり行うことで生成される兆単位の数値であり、AIモデルを構成している。しかし、Anthropicは今年8月のリスク報告書でも、国家主体の攻撃者に耐えられないとして、「現在のどのフロンティアAI開発者もこの基準を満たしていない」と述べている。元AnthropicおよびOpenAI研究者のJacob Coxonは、北京が自らの都合の良いタイミングで米国の進展を盗むことができるため、米国の優位性は永続しないと主張した。OpenAIの高度なAIへの備えに携わったMiles Brundageは、AI企業ですら、国家アクターがモデル重みを盗んだり改ざんしたりすることを防ぐ能力を主張していないと述べた。

ランド研究所は、携帯型デバイスの設置、設置前のハードウェア改変、従業員への賄賂または脅迫を含む、モデルの重みを盗むための38の手法を特定した。クラウド企業のデータセンターは、AI研究所がこれらの施設を利用してモデルの学習と運用を行うため、別の侵入経路を提供している。業界のアルゴリズム的秘密も十分な保護を受けていない。アモデイは昨年、外国問題評議会に対して、「1億ドル」の価値があるとされるAI業界の秘密のいくつかは、わずか数行のコードにすぎないと述べた。アモデイは、これらの秘密を盗もうとする人々が確かに存在し、すでに成功している可能性もあると語った。

AI企業たちは、超知能の開発をめぐって激しく競争している。サイバーセキュリティに充てられる資金や従業員の時間は、次世代モデルの訓練には使用できない。Anthropicは、資金力のある国家級攻撃者への対抗を業界のサイバーセキュリティの優先事項とすべきだと主張してきた。しかし、Anthropicは同社が「この優先事項を自ら実行することを約束できない」と述べた。

昨年、議会は国防総省に、購入したAIに対するセキュリティ要件を策定し、関連する契約者およびクラウドプロバイダーにそれらの要件を適用するよう指示した。しかし、10か月が経過した現在、国防総省はまだ公的規則改正プロセスを開始していない。商務省は、モデルの輸出を許可制とし、セキュリティ要件を満たす研究所にのみ許可を制限することができる。トランプ政権はこの権限を用いて、6月にAnthropicにMythosとFableの市場からの出金を強制した。連邦政府は、データセンター建設を支援する融資や土地賃貸にセキュリティ条件を付与することもできる。このアプローチでは、厳格なセキュリティ要件を満たすAI企業のみが連邦資金の取得や公有地の利用が可能となる。フェルドマンとダガーは、3人の研究者がClaudeのサブスクリプションを利用して3日でOpenAIに浸透できたことから、多額の資金と無制限の時間を有する外国政府であれば、確実にOpenAIに浸透できると結論づけている。

出典:原文を表示
免責事項: 本ページの情報はサードパーティからのものであり、必ずしもKuCoinの見解や意見を反映しているわけではありません。この内容は一般的な情報提供のみを目的として提供されており、いかなる種類の表明や保証もなく、金融または投資助言として解釈されるものでもありません。KuCoinは誤記や脱落、またはこの情報の使用に起因するいかなる結果に対しても責任を負いません。 デジタル資産への投資にはリスクが伴います。商品のリスクとリスク許容度をご自身の財務状況に基づいて慎重に評価してください。詳しくは利用規約およびリスク開示を参照してください。