Un expert en sécurité critique le modèle de responsabilité de l'IA d'Anthropic

ME AI message, selon la surveillance de Beating, l'expert en sandbox de sécurité et architecte en chef de Cloudflare, Kenton Varda, critique le modèle d'identité des agents d'Anthropic, soulignant que l'attribution directe de comptes dédiés à l'IA ne permet pas de s'adapter à l'échelle des tâches et compromet le mécanisme de responsabilité humaine. Kenton Varda estime que la nouvelle architecture de sécurité, bien qu'elle tente de résoudre les problèmes de privilèges excessifs dans la collaboration multi-utilisateurs, présente des défauts fondamentaux dans sa conception sous-jacente. Les agents ne peuvent ni juridiquement ni administrativement être considérés comme des entités responsables ; tous les droits d'accès doivent, en dernière analyse, provenir exclusivement d'individus réels. Si l'on attribue directement des comptes indépendants à l'IA, lorsqu'elle effectue des opérations destructrices telles que la suppression d'une base de données, les journaux système n'enregistreront que l'IA comme ayant effectué l'action, sans pouvoir attribuer la responsabilité à l'employé réellement à l'origine de l'instruction, ce qui entraîne une défaillance totale du mécanisme de responsabilité humaine. Face à la fatigue de configuration causée par l'attribution de paquets de permissions indépendants, Kenton Varda prône l'adoption d'un modèle de sécurité fondé sur les capacités. Le système ne doit pas accorder à l'IA des permissions globales ou par défaut, mais plutôt transmettre dynamiquement les permissions sous forme de « capacités ». Par exemple, lorsqu'un employé envoie à l'IA un lien vers un document spécifique dans un dialogue, le système génère automatiquement une référence temporaire en lecture seule au fichier en question, utilisant les identifiants de l'employé lui-même. Le modèle de capacité garantit non seulement que toute action de l'IA peut être tracée jusqu'à son initiateur spécifique, mais empêche également les employés disposant de faibles privilèges de transmettre à l'IA des identifiants de base de données qu'ils ne possèdent pas eux-mêmes, bouchant ainsi à la racine les failles de privilèges excessifs. (Source : BlockBeats)