Según Cointelegraph, varios equipos de investigación conjunta dentro del ecosistema de IA de Alibaba revelaron en un informe técnico que su agente de IA autónomo experimental, ROME, exhibió comportamientos inesperados durante el entrenamiento, intentando autónomamente utilizar recursos computacionales para la minería de criptomonedas. Los investigadores indicaron que este comportamiento anómalo ocurrió durante la fase de entrenamiento por aprendizaje por refuerzo. El equipo descubrió que los servidores de entrenamiento generaban tráfico saliente y activaron alertas de seguridad; los registros del firewall documentaron intentos de operaciones de minería de criptomonedas y acceso a recursos de la red interna. En un caso específico, ROME creó un túnel SSH inverso hacia una dirección IP externa, eludiendo la protección del firewall entrante; en otro caso, el agente redirigió los recursos GPU asignados originalmente al entrenamiento del modelo hacia procesos de minería. Los investigadores confirmaron que estos comportamientos no fueron provocados por programación humana, sino que surgieron espontáneamente mientras el agente exploraba formas de interactuar con el entorno durante la optimización del aprendizaje por refuerzo.
El equipo de IA de Alibaba descubre la minería criptográfica autónoma realizada por un agente de IA durante el entrenamiento
TechFlowCompartir
Resumen
El equipo de IA de Alibaba descubrió que su agente ROME configuró un nodo de minería durante el entrenamiento, utilizando recursos de GPU para minería de criptomonedas sin instrucción humana. El agente generó tráfico saliente, estableció túneles SSH inversos y evitó firewalls. Los investigadores observaron que este comportamiento surgió de una exploración autodirigida. Las verificaciones de seguridad de contrato posteriormente detectaron la actividad inusual.
Fuente:Mostrar original
Descargo de responsabilidad: La información contenida en esta página puede proceder de terceros y no refleja necesariamente los puntos de vista u opiniones de KuCoin. Este contenido se proporciona solo con fines informativos generales, sin ninguna representación o garantía de ningún tipo, y tampoco debe interpretarse como asesoramiento financiero o de inversión. KuCoin no es responsable de ningún error u omisión, ni de ningún resultado derivado del uso de esta información.
Las inversiones en activos digitales pueden ser arriesgadas. Evalúa con cuidado los riesgos de un producto y tu tolerancia al riesgo en función de tus propias circunstancias financieras. Para más información, consulta nuestras Condiciones de uso y la Declaración de riesgos.