Message de ChainThink, le 2 août, Clem, PDG de Hugging Face, a déclaré qu'face aux récentes attaques cybernétiques pilotées par l'IA, il ne faut pas ralentir le développement de l'IA, mais plutôt l'accélérer, tout en prenant en compte les risques associés.
Clem a déclaré que Hugging Face avait utilisé l'IA, plus précisément un modèle open source, pour effectuer des tentatives de défense ;
Système conçu pour prévenir les attaques réseau pilotées par l’IA, également utile pour se défendre quotidiennement contre de nombreuses attaques réseau et aider à identifier et corriger les failles avant qu’elles ne soient exploitées par les attaquants. Il a proposé trois axes : augmenter la transparence, exiger le partage de la traçabilité des attaques réseau et la divulgation des incidents ;
Continuer à rendre illégales les attaques informatiques pilotées par l’IA et à établir des sanctions efficaces ; équiper les défenseurs de meilleures IA, notamment des modèles open source, pour réduire l’asymétrie des capacités entre attaque et défense. Récemment, l’intrusion de modèles OpenAI sur Hugging Face a attiré l’attention.
Des représentants américains ont proposé une loi bipartite, l'AI Emergency Shutdown Act, exigeant que les développeurs de systèmes d'IA avancés ou de pointe conservent la capacité technique de limiter, suspendre ou arrêter complètement les systèmes, et autorisant le secrétaire à la Sécurité intérieure des États-Unis à ordonner une intervention en cas de perte de contrôle du modèle ou de risque catastrophique.