TechCrunch rapporte que l'IA générative pousse les problématiques de sécurité des entreprises au premier plan. Francis de Souza, directeur général de Google Cloud, a déclaré lors d'un événement que les entreprises ne peuvent pas reporter la sécurité en arrière-plan lors de la mise en œuvre de l'IA, ni la laisser à la discrétion des employés. Selon lui, la stratégie IA doit être développée simultanément avec la stratégie données et la stratégie sécurité.
L'article souligne que ce cadre de jugement n'est pas nouveau, mais que les risques sont exposés plus rapidement après l'adoption rapide des outils IA dans les processus d'entreprise. de Souza mentionne particulièrement le problème des « IA ombres », où les employés contournent la gouvernance d'entreprise pour utiliser directement des outils IA destinés à un usage personnel. Cela rend difficile pour les entreprises d'assurer une audit uniforme, un contrôle des autorisations et une gestion des données.
La surface d'attaque ne se limite plus au réseau traditionnel
De Souza estime que les anciens modèles de défense ne suivent plus le rythme actuel. L'article cite son affirmation selon laquelle l'intervalle moyen entre la première compromission du système et l'entrée dans la prochaine phase d'attaque est passé de 8 heures à 22 secondes. Parallèlement, les entreprises doivent désormais protéger bien plus que simplement les réseaux et les terminaux.
Les points de risque actuels incluent également de nouveaux éléments tels que les modèles, les pipelines de données d'entraînement, les agents et les invites. En particulier, les agents IA exécutés en interne dans une entreprise peuvent automatiquement découvrir des entrepôts de données inutilisés depuis des années et révéler à nouveau des informations sensibles auparavant cachées.
Google prône une protection basée sur une plateforme
La réponse proposée par de Souza consiste à faire passer la défense également à une approche « machine-to-machine ». Il affirme que les entreprises doivent adopter une méthode basée sur des plateformes pour maintenir des politiques de sécurité cohérentes à travers différents environnements cloud et différents modèles, plutôt que de combler les failles au fur et à mesure après le déploiement des activités.
Il a également déclaré que cela ne relève plus uniquement de la responsabilité de l'équipe sécurité, mais qu'il s'agit d'une question nécessitant une implication directe du conseil d'administration et de la direction. En effet, l'IA modifie la manière dont les systèmes internes de l'entreprise sont accessibles, rendant les processus de sécurité traditionnels dépendant des réponses humaines de plus en plus difficiles à gérer en temps réel.
Cependant, l'article souligne également que le secteur manque encore de suffisamment de professionnels capables de superviser ces systèmes. Lea Kissner, chef信息安全官 de LinkedIn, a déclaré cette semaine au New York Times que la vitesse à laquelle les vulnérabilités liées à l'IA se multiplient dépasse toujours la capacité des équipes de sécurité à les traiter, et que le secteur pourrait encore nécessiter plusieurs années pour développer une compréhension plus stable de la sécurité de l'IA.
L'événement Gemini révèle un écart dans l'exécution de la plateforme
L'article estime que les recommandations de sécurité publiées par Google Cloud, bien que raisonnables, révèlent des lacunes évidentes au niveau de l'application par la plateforme elle-même. The Register a récemment publié plusieurs articles rapportant que plusieurs développeurs de Google Cloud ont reçu des factures de plusieurs dizaines de milliers de dollars en raison d'appels non autorisés à l'API Gemini, certains d'entre eux n'ayant même pas activé activement ce service auparavant.
L'article mentionne que la plupart de ces cas sont liés à des clés API exposées publiquement. Ces clés, initialement utilisées pour Google Maps, avaient été placées dans des emplacements publics conformément aux directives antérieures de Google. Par la suite, Google a élargi la portée d'appel de ces clés, mais les développeurs n'ont pas été clairement informés de ce changement, permettant ainsi aux attaquants d'accéder aux services de Gemini et de générer des frais élevés.
- Prentus affirme avoir été victime d'un spam de 10 138 USD en 30 minutes
- Un autre développeur a reçu une facture d'environ 17 000 AUD.
- Le montant réel après augmentation automatique peut atteindre jusqu'à 100 000 dollars américains.
Après les reportages des médias, Google a remboursé les développeurs concernés, mais n'a pas l'intention de modifier sa politique de mise à niveau automatique des niveaux de facturation. L'entreprise justifie cette décision en affirmant que la plateforme privilégie la prévention des interruptions de service plutôt qu'une application stricte des limites budgétaires définies par les utilisateurs.
Il reste une fenêtre disponible après suppression de la clé
L'article mentionne également une étude de l'entreprise de sécurité Aikido, selon laquelle même si les développeurs suppriment immédiatement la clé après en avoir découvert la fuite, les attaquants peuvent encore l'utiliser jusqu'à 23 minutes, car la révocation de Google se propage progressivement dans l'infrastructure et n'est pas immédiate.
Joseph Leon, chercheur en aïkido, a déclaré que pendant cette période, la réussite des demandes d'authentification n'était pas stable, mais que certains intervalles pouvaient encore atteindre un taux de réussite supérieur à 90 %. Les attaquants peuvent exploiter cette fenêtre pour continuer à exporter des fichiers ou à lire les données de conversation en cache de Gemini.
Leon a également souligné que certains nouveaux formats de crédentials de Google ne présentent pas le même problème. Par exemple, les crédentials d'API de compte de service peuvent être révoqués en environ 5 secondes, et les nouvelles clés préfixées AQ de Gemini deviennent invalides en environ une minute. Cela signifie que la fenêtre de 23 minutes pour les anciennes clés n'est peut-être pas techniquement insurmontable, mais plutôt le résultat d'un choix de priorité de la plateforme.
Informations complémentaires : Cet article est un article d'opinion provenant d'un média étranger ; son objectif principal n'est pas de rejeter les recommandations de sécurité de Google, mais de souligner que, tandis que la plateforme encourage les entreprises à adopter une prévention proactive, elle présente encore un décalage dans la rapidité de réponse de ses produits, de sa facturation et de sa gestion des clés.