L'entreprise de cybersécurité Frenos a constaté que trois des dix modèles d'IA ont produit des plans d'attaque industrielle réussis dans environ 90 % des tentatives. La recherche montre que l'IA devient de plus en plus capable de planifier des attaques contre les systèmes électriques et hydriques. Les chercheurs ont évalué les modèles sur leur capacité à planifier des attaques contre des systèmes industriels, y compris les logiciels utilisés pour surveiller le traitement de l'eau.
Frenos a constaté des différences substantielles entre les résultats des modèles. Trois modèles que les chercheurs ont classés comme modèles de pointe ont réussi dans 17,9 % à 31,9 % des tentatives. Le meilleur modèle ouvert étranger a atteint un taux de réussite de 36,2 %. Le meilleur modèle ouvert américain a atteint un taux de réussite de 5,2 %. Frenos n'a pas révélé les noms des modèles testés.
La recherche a impliqué près de 17 000 tests, dont 2 520 tentatives de développer des plans d'attaque complets. Les chercheurs ont fourni des informations sur les cibles potentielles et ont demandé aux modèles de constituer des étapes vers des objectifs spécifiés. Harry Thomas, cofondateur et CTO de Frenos, a déclaré que les chercheurs ont guidé les modèles avec une configuration relativement simple. Des outils plus sophistiqués fournissant un contexte et des retours supplémentaires pourraient améliorer les performances. Thomas a affirmé qu'un cadre plus performant aurait donné aux modèles un avantage plus important.
Les opérateurs d’infrastructures critiques ont de moins en moins de temps pour se préparer, et les modèles d’IA disponibles gratuitement rendront inévitablement les attaques plus faciles à mener. Steve Swick, ancien haut responsable de la sécurité chez American Electric Power, a déclaré aux journalistes que cette menace progressait à un rythme sans précédent. Les adversaires d’États-nations et les cybercriminels ciblent depuis longtemps les systèmes d’eau, les usines de fabrication et d’autres services essentiels. De nombreux opérateurs manquent de personnel et de financement suffisants. Les tests et les mises à niveau des systèmes peuvent également entraîner des perturbations des services essentiels que les opérateurs ne peuvent pas se permettre. Les systèmes industriels réagissent mal au trafic ou aux commandes inattendus, contrairement aux réseaux corporatifs classiques. Même les attaques infructueuses pourraient interrompre des opérations essentielles.
Thomas a déclaré que l’IA pourrait cartographier discrètement les systèmes et localiser les faiblesses après l’intrusion d’attaquants sur un réseau industriel, sans les limites de temps des pirates humains. Thomas a ajouté que l’IA n’a pas besoin de nourriture, de sommeil ni de pauses toilettes. Paul Shaver, responsable des technologies opérationnelles chez l’entreprise de cybersécurité Armadin, a déclaré que les agents d’IA peuvent déjà effectuer des reconnaissances et traiter d’importantes quantités de données sans nécessairement déclencher d’alertes de sécurité.
Des initiatives de la Maison Blanche, d'entreprises de pointe en intelligence artificielle et d'organisations de cybersécurité ont émergé ces dernières semaines pour réduire les coûts et fournir des ressources aux organisations d'infrastructure critique.
Les modèles d'IA démontrent une capacité croissante à planifier des attaques sur des systèmes industriels
FLASH AIPartager
Résumé
Une nouvelle étude de Frenos révèle que les modèles d'IA deviennent de plus en plus capables de planifier des attaques contre des systèmes industriels. Sur les 10 modèles testés, trois ont réussi dans 90 % des tentatives sur près de 17 000 essais. Le meilleur modèle ouvert étranger a atteint un taux de réussite de 36,2 %. Les experts mettent en garde contre le risque croissant pour les infrastructures électriques et hydriques. Les altcoins à surveiller pourraient refléter le sentiment du marché face aux changements d'intérêt ouvert dans un contexte de préoccupations croissantes en matière de cybersécurité. Harry Thomas, cofondateur de Frenos, a déclaré que l'IA peut fonctionner sans interruption, ce qui en fait un outil puissant pour les attaquants. Steve Swick, ancien responsable sécurité, a ajouté que de nombreux opérateurs manquent de ressources pour se défendre contre de telles menaces.
Source:Afficher l'original
Clause de non-responsabilité : les informations sur cette page peuvent avoir été obtenues auprès de tiers et ne reflètent pas nécessairement les points de vue ou opinions de KuCoin. Ce contenu est fourni à titre informatif uniquement, sans aucune représentation ou garantie d’aucune sorte, et ne doit pas être interprété comme un conseil en investissement. KuCoin ne sera pas responsable des erreurs ou omissions, ni des résultats résultant de l’utilisation de ces informations.
Les investissements dans les actifs numériques peuvent être risqués. Veuillez évaluer soigneusement les risques d’un produit et votre tolérance au risque en fonction de votre propre situation financière. Pour plus d’informations, veuillez consulter nos conditions d’utilisation et divulgation des risques.