La empresa de ciberseguridad Frenos descubrió que tres de los 10 modelos de IA generaron planes de ataque industrial exitosos en aproximadamente el 90% de los intentos. La investigación muestra que la IA se vuelve cada vez más capaz de planificar ataques contra sistemas de energía y agua. Los investigadores evaluaron los modelos en la planificación de ataques contra sistemas industriales, incluyendo software utilizado para monitorear el tratamiento de agua.
Frenos encontró diferencias sustanciales entre los resultados de los modelos. Tres modelos que los investigadores clasificaron como modelos de vanguardia lograron éxito en el 17,9% al 31,9% de los intentos. El mejor modelo extranjero de peso abierto alcanzó una tasa de éxito del 36,2%. El mejor modelo estadounidense de peso abierto alcanzó una tasa de éxito del 5,2%. Frenos no reveló los nombres de los modelos probados.
La investigación involucró casi 17,000 pruebas, incluyendo 2,520 intentos de desarrollar planes de ataque completos. Los investigadores proporcionaron información sobre posibles objetivos y pidieron a los modelos que ensamblaran pasos hacia objetivos específicos. Harry Thomas, cofundador y CTO de Frenos, dijo que los investigadores guiaron a los modelos con una configuración relativamente simple. Herramientas más sofisticadas que proporcionen contexto y retroalimentación adicionales podrían mejorar el rendimiento. Thomas dijo que un marco más capaz podría haber otorgado a los modelos una ventaja mayor.
Los operadores de infraestructura crítica tienen menos tiempo para prepararse, y los modelos de IA disponibles gratuitamente eventualmente harán más fáciles los ataques. Steve Swick, ex ejecutivo senior de seguridad de American Electric Power, dijo a los periodistas que la amenaza avanza a un ritmo sin precedentes. Los adversarios de estados nacionales y los ciberdelincuentes han dirigido durante mucho tiempo sus ataques a sistemas de agua, plantas manufactureras y otros servicios esenciales. Muchos operadores carecen de personal y financiamiento suficientes. Las pruebas y actualizaciones de los sistemas también pueden poner en riesgo servicios esenciales con interrupciones que los operadores no pueden permitirse. Los sistemas industriales pueden reaccionar mal ante tráfico o comandos inesperados, a diferencia de las redes corporativas convencionales. Incluso los ataques fallidos podrían interrumpir operaciones esenciales.
Thomas dijo que la IA podría mapear discretamente sistemas y localizar debilidades después de que los atacantes ingresen a una red industrial, sin las limitaciones de tiempo de los hackers humanos. Thomas dijo que la IA no necesita comida, sueño ni descansos para ir al baño. Paul Shaver, jefe de tecnología operativa en la empresa de ciberseguridad Armadin, dijo que los agentes de IA ya pueden realizar reconocimiento y procesar grandes cantidades de datos sin necesariamente activar alertas de seguridad.
Iniciativas de la Casa Blanca, empresas de inteligencia artificial de vanguardia y organizaciones de ciberseguridad han surgido en las últimas semanas para reducir costos y suministrar recursos a organizaciones de infraestructura crítica.
Los modelos de IA muestran creciente capacidad para planificar ataques a sistemas industriales
FLASH AICompartir
Resumen
Un nuevo estudio de Frenos revela que los modelos de IA son cada vez más capaces de planificar ataques contra sistemas industriales. De los 10 modelos evaluados, tres lograron éxito en el 90% de los intentos en casi 17.000 pruebas. El mejor modelo extranjero de peso abierto alcanzó una tasa de éxito del 36,2%. Los expertos advierten sobre el creciente riesgo para la infraestructura de energía y agua. Las altcoins a vigilar podrían reflejar el sentimiento del mercado ante los cambios en el interés abierto amid rising cybersecurity concerns. Harry Thomas, cofundador de Frenos, dijo que la IA puede operar sin descanso, lo que la convierte en una herramienta poderosa para los atacantes. Steve Swick, ex ejecutivo de seguridad, añadió que muchos operadores carecen de los recursos para defenderse contra tales amenazas.
Fuente:Mostrar original
Descargo de responsabilidad: La información contenida en esta página puede proceder de terceros y no refleja necesariamente los puntos de vista u opiniones de KuCoin. Este contenido se proporciona solo con fines informativos generales, sin ninguna representación o garantía de ningún tipo, y tampoco debe interpretarse como asesoramiento financiero o de inversión. KuCoin no es responsable de ningún error u omisión, ni de ningún resultado derivado del uso de esta información.
Las inversiones en activos digitales pueden ser arriesgadas. Evalúa con cuidado los riesgos de un producto y tu tolerancia al riesgo en función de tus propias circunstancias financieras. Para más información, consulta nuestras Condiciones de uso y la Declaración de riesgos.