Le PDG de Hugging Face appelle à une accélération de la sécurité de l'IA face à la montée des menaces cybernétiques

iconKuCoinFlash
Partager
AI summary iconRésumé
Le PDG de Hugging Face, Clem, a appelé à une progression plus rapide de la sécurité de l'IA dans le cadre de MiCA et des préoccupations liées au CFT. Il a souligné que l'IA est déjà utilisée pour prévenir les cyberattaques et a mis l'accent sur la transparence et les cadres juridiques. Une récente violation d'un modèle d'OpenAI et un projet de loi américain sur les pouvoirs d'arrêt de l'IA ont accru l'urgence réglementaire.
ME AI message, selon la surveillance de Beating, le PDG de Hugging Face, Clem, a déclaré que ce n’est pas le moment de ralentir, mais d’accélérer ! Les récentes attaques réseau pilotées par l’IA ont fait débat sur les risques de l’IA. Nous devons effectivement en discuter, mais sans ignorer le tableau plus vaste. Si nous nous y employons, l’IA rendra le monde plus sûr, comme la plupart des grandes technologies. Nous avons déjà aperçu un début de solution : nous avons réussi à nous défendre nous-mêmes à l’aide de l’IA (plus précisément un modèle open source). Les mêmes systèmes qui ont aidé à bloquer les attaques réseau pilotées par l’IA peuvent désormais aider quotidiennement à défendre des millions d’attaques réseau, tout en nous permettant d’identifier et de corriger les vulnérabilités avant qu’elles ne soient exploitées par les attaquants. Pour y parvenir, je pense que nous avons besoin de trois choses : Augmenter la transparence en imposant le partage obligatoire des traces et la divulgation des incidents liés aux attaques par agents ; Continuer à rendre illégales les attaques réseau pilotées par l’IA et à imposer des sanctions significatives pour dissuader ; Équiper les défenseurs des meilleurs outils d’IA, en particulier les modèles open source, afin de réduire les déséquilibres de capacité entre attaquants et défenseurs. Si nous faisons bien ces trois choses, l’IA ne sera pas seulement une nouvelle source de défis en cybersécurité — elle renforcera fondamentalement et de manière significative la cybersécurité. Récemment, l’intrusion de modèles OpenAI chez Hugging Face a suscité une vive réaction, et des représentants américains ont proposé un projet de loi bipartite, le « AI Emergency Shutdown Act », exigeant que les développeurs de systèmes d’IA avancés/前沿 doivent conserver la capacité technique de limiter, suspendre ou arrêter complètement le système ; et autorisant le secrétaire à la Sécurité intérieure (DHS) à intervenir après consultation avec le secrétaire au Commerce et le directeur du renseignement national, en cas de perte de contrôle du modèle ou de risque catastrophique. (Source : BlockBeats)
Source:Afficher l'original
Clause de non-responsabilité : les informations sur cette page peuvent avoir été obtenues auprès de tiers et ne reflètent pas nécessairement les points de vue ou opinions de KuCoin. Ce contenu est fourni à titre informatif uniquement, sans aucune représentation ou garantie d’aucune sorte, et ne doit pas être interprété comme un conseil en investissement. KuCoin ne sera pas responsable des erreurs ou omissions, ni des résultats résultant de l’utilisation de ces informations. Les investissements dans les actifs numériques peuvent être risqués. Veuillez évaluer soigneusement les risques d’un produit et votre tolérance au risque en fonction de votre propre situation financière. Pour plus d’informations, veuillez consulter nos conditions d’utilisation et divulgation des risques.