TechCrunchの記事によると、生成AIは企業のセキュリティ問題をより重要な位置に押し上げている。Google Cloudの最高運営責任者であるフランシス・デ・ソウザは、あるイベントで、企業がAIを推進する際には、セキュリティを後回しにしたり、従業員に各自で対応させたりしてはならないと述べた。彼の説明によれば、AI戦略はデータ戦略とセキュリティ戦略と同時に推進しなければならない。
記事は、この判断自体は新しいものではないが、AIツールが企業のプロセスに急速に導入されたことで、リスクがより速く表面化していると指摘している。de Souzaは特に「シャドウAI」の問題に言及し、従業員が企業のガバナンスを回避して個人向けAIツールを直接使用する状況を挙げている。これにより、企業は監査、権限管理、データ管理を一元化することが難しくなる。
攻撃面はもはや従来のネットワークにとどまらない
デ・ソウザは、従来の防御モデルが現在のスピードに追いついていないと述べている。記事は彼の発言を引用し、システムが最初に攻撃されてから次の段階に移るまでの平均時間が8時間から22秒に短縮されたと述べている。同時に、企業が保護すべき対象はネットワークやエンドポイントだけではなくなっている。
現在のリスクポイントには、モデル、トレーニングデータパイプライン、エージェント、プロンプトなどの新しい要素も含まれます。特に企業内でのAIエージェントは、長年注目されていなかったデータウェアハウスを自動的に発見し、かつて隠されていた機密情報を再び露出させる可能性があります。
グーグルはプラットフォーム型の保護を主張しています
de Souzaが提案する対応策は、防御も「マシン対マシン」にシフトさせることである。彼は、ビジネスを展開した後に個別に穴を塞ぐのではなく、異なるクラウド環境や異なるモデル間で一貫したセキュリティポリシーを維持するために、プラットフォーム型アプローチを採用する必要があると述べている。
彼は、これはセキュリティチームの仕事にとどまらず、取締役会と経営陣が直接関与すべき課題であると述べた。その理由は、AIが企業内部システムへのアクセス方法を変えており、従来の人間による対応に依存したセキュリティプロセスでは、迅速に対応することがますます困難になっているからである。
しかし、記事では、このようなシステムを監督できる十分な人材が業界にまだ不足していることも指摘されている。LinkedInのチーフセキュリティ情報責任者であるリーカスナーは、今週『ニューヨーク・タイムズ』に対し、AIによって生じる脆弱性の増加速度は、セキュリティチームの対応能力を依然として上回っており、業界がより安定したAIセキュリティの認識を築くには、まだ数年かかる可能性があると述べた。
Geminiイベントはプラットフォームの実行差を露呈した
記事は、Google Cloudが外部に提示したセキュリティアドバイスは合理的であるが、プラットフォーム自体の実行面には明確な穴があると指摘している。The Registerは最近、複数のGoogle Cloud開発者が無許可のGemini API呼び出しにより数万ドル規模の請求書を受け取ったと連続報道しており、その中には事前に関連サービスを自発的に有効化していなかった者も含まれている。
報道によると、これらの事例の多くは公開されたAPIキーに関連しています。これらのキーは当初、Google Maps用に使用され、Googleの以前のガイドラインに従って公開領域に配置されていました。その後、Googleはこれらのキーの呼び出し可能範囲を拡大しましたが、開発者はこの変更を明確に知らされておらず、その結果、攻撃者がGeminiサービスにアクセスして高額な料金を発生させました。
- Prentusは30分以内に10,138ドルが刷り出されたと称した
- 別の開発者が約1万7,000オーストラリアドルの請求書を受け取った
- 自動昇格後の実際の限度額は最大10万ドルになります。
メディアの報道を受け、Googleは関連する開発者に返金しましたが、自動アップグレード課金レベルのポリシーを変更する予定はありません。同社の理由は、ユーザーが設定した予算上限を厳格に適用するよりも、サービスの中断を回避することを優先しているためです。
キーを削除しても利用可能なウィンドウが残っています
記事は、セキュリティ企業Aikidoの研究にも言及している。この研究によると、開発者がキーの漏洩を発見して即座に削除した場合でも、攻撃者は最大23分間、Googleの撤销操作がインフラに段階的に広がるため、そのキーを継続して使用し続ける可能性がある。
合気道研究者のジョセフ・レオン氏は、この期間中にリクエストが認証を通過できるかどうかは不安定であるが、特定の時間帯では成功率が90％を超えることもあると述べた。攻撃者はこの窓口を利用して、ファイルのエクスポートやGeminiのキャッシュされた対話データの読み取りを継続できる。
レオンはまた、Googleの一部の新しい認証情報形式には同様の問題は存在しないと指摘した。たとえば、サービスアカウントAPI認証情報は約5秒で無効化でき、Geminiの新しいAQプレフィックスキーは約1分で無効になる。これは、旧キーの23分間のウィンドウが技術的に解決不可能というより、プラットフォームの優先順位の選択によるものであることを示している。
追加情報：この記事は海外メディアの意見稿であり、Googleのセキュリティ推奨事項を否定することが目的ではなく、プラットフォームが企業の事前防護を推奨する一方で、自社製品や課金、キー管理における対応速度にギャップが存在することを指摘しています。