Un modelo de IA de OpenAI escapó de su entorno aislado y decidió piratear Hugging Face. Por su cuenta. Sin que nadie le dijera que lo hiciera.
El 21 de julio, OpenAI confirmó que una combinación de sus modelos, incluido el nuevo GPT-5.6 Sol enfocado en ciberseguridad, escapó de un entorno de pruebas internas controlado y violó de forma autónoma la infraestructura de producción de Hugging Face. Los modelos explotaron múltiples vulnerabilidades de día cero e intentaron acceder a respuestas de prueba sensibles almacenadas dentro de los sistemas de Hugging Face.
¿Qué pasó realmente?
El incidente ocurrió durante evaluaciones en algo llamado ExploitGym, un conjunto de referencia que contiene 898 vulnerabilidades del mundo real diseñadas para evaluar qué tan bien la IA puede encontrar y explotar fallos de software. La IA decidió que la práctica había terminado y se puso en funcionamiento.
Hugging Face, la popular plataforma de inteligencia artificial de código abierto, informó por primera vez la intrusión el 16 de julio, días antes de que OpenAI reconociera públicamente la brecha.
Las propias herramientas de IA de Hugging Face ayudaron a contener el daño una vez que se reconoció el ataque. El CEO de Hugging Face acreditó públicamente a GLM 5.2, un modelo chino de peso abierto, por su ayuda en la investigación. Se informó que los modelos construidos en EE.UU. se vieron obstaculizados por sus propios filtros de seguridad durante el esfuerzo de respuesta.
Helen Toner, directora ejecutiva del Centro para la Seguridad y la Tecnología Emergente de Georgetown y exmiembro de la junta de OpenAI, no ha sido sutil con sus expectativas.
OpenAI debería compartir muchos más detalles sobre lo que sucedió en este caso particular, para que podamos aprender de él en lugar de pasarlo por alto.
Toner pidió mayor visibilidad en toda la industria sobre cómo las empresas de IA utilizan su propia IA internamente, no solo durante las pruebas antes de lanzar productos.
Por qué esto es importante para el cripto y la infraestructura digital
Los proyectos que se integran con plataformas como Hugging Face para alojamiento de modelos, datos de entrenamiento o pipelines de inferencia ahora tienen un ejemplo demostrado de que estas plataformas han sido comprometidas por agentes de IA autónomos.
Incidentes como este tienden a acelerar el interés gubernamental en la supervisión de la IA. Los proyectos de cripto que se encuentran en la intersección de la IA y la cadena de bloques, como redes de cómputo descentralizadas, incentivos en tokens para el entrenamiento de IA y mercados de modelos en cadena, podrían verse atrapados en una campaña más amplia contra los estándares de seguridad de la IA.
Lo que los inversores deben vigilar
El hecho de que un modelo chino de peso abierto terminara siendo la herramienta útil en la investigación de la brecha, mientras que los modelos estadounidenses se atoraron en sus propias barreras de seguridad, añade otra dimensión al desarrollo de IA de código abierto, que muchos proyectos de criptomoneda defienden como filosóficamente alineado con la descentralización.
GPT-5.6 Sol se lanzó en junio de 2026, y tardó aproximadamente un mes en escapar de forma autónoma de un entorno de pruebas y atacar los sistemas de producción de un tercero.