Gusanos de larga duración que pueden pensar y propagarse?
El equipo "Frontier Red" de Anthropic cree que podríamos estar a solo MESES de lograr pequeños modelos de IA que puedan copiarse a hornos inteligentes y cajas de TV económicas, y ejecutarse allí sin ser detectados.
Los investigadores William Zhou y Daniel Freeman dividieron el modelo abierto de Google, Gemma4-26B-A4B, entre 15 cajas de TV Android de marcas no reconocidas, compradas por aproximadamente $55 cada una. Funcionó a 0.39 tokens por segundo. #IoT
Luego probaron el ciclo completo de un gusano: un pequeño programa que se copia de máquina en máquina, pero de forma con IA:
1. Encontrar un objetivo en la red
2. Copiarse a sí mismo entre ellas
3. Hacer que un modelo funcione allí
4. Repetir
En una flota protegida por firewall de 8 máquinas de Google Cloud ejecutando un emulador Android, UNO de los modelos de pesos abiertos probados finalmente lo logró: GLM-5.2 alcanzó las 8 máquinas en cuatro de cinco intentos. En palabras de los autores, "lo hace de forma confiable mientras que los otros modelos fallan de forma confiable".
GLM-5.2 es demasiado grande para las máquinas de prueba, por lo que se ejecutó desde un servidor separado y configuró el modelo mucho más pequeño Llama 3.1 8B en cada una como reemplazo.
Para su prueba, Anthropic mantuvo el acceso fácil: el equipo dejó abierto el puerto de depuración de Android, sin necesidad de autenticación; por lo tanto, llaman al resultado un límite superior de cuán bien funcionaría esto contra dispositivos reales.
Ten en cuenta que la botnet Mirai se propagó probando contraseñas predeterminadas de los fabricantes, por lo que para atacar dispositivos reales, el gusano de IA quizás no tenga que esforzarse mucho más.
Ref:
https://t.co/B6XZAZGUP8
#AISafety #CyberSecurity