Odaily Planet Daily : Selon le blog de NVIDIA, à l'occasion de l'ouverture aujourd'hui de la conférence annuelle Black Hat à Las Vegas, les membres de l'Open Secure AI Alliance élaborent de nouveaux principes directeurs pour renforcer la cybersécurité des agents IA. Actuellement, le nombre de membres de l'alliance dépasse 120 institutions.
La Linux Foundation a publié aujourd'hui un projet de document de consultation publique intitulé « Shared AI Forensics Exchange » (SAFE). Il s'agit d'un ensemble de principes proposés visant à transformer les incidents de cybersécurité survenus dans le domaine des agents IA en capacités de protection partagées au sein de l'écosystème dans son ensemble. Le guide SAFE a été rédigé par le groupe de travail de l'Alliance ouverte pour la sécurité IA. Des membres de l'alliance, notamment NVIDIA, Cisco Systems, CrowdStrike, Hugging Face et Red Hat, collaborent avec la Linux Foundation pour soutenir la proposition initiale. Le guide SAFE inclut plusieurs recommandations, notamment : collecter et analyser de manière confidentielle les incidents de sécurité IA ainsi que les « quasi-incidents » ; informer les parties concernées affectées ; identifier les défaillances récurrentes des contrôles de sécurité ; et publier des recommandations opérationnelles fondées sur des preuves pour réduire les risques au sein de l'ensemble du système.