Fuente: The Wall Street Journal
Una empresa estadounidense fue atacada por la IA estadounidense, y la herramienta que proporciona protección es una herramienta de inteligencia artificial china.
La plataforma de herramientas de IA Hugging Face fue atacada la semana pasada por modelos de OpenAI. Dado el aumento de advertencias sobre los riesgos asociados con el uso de productos de IA chinos por parte de empresas estadounidenses, la divulgación de este evento podría llevar a una conclusión sorprendente.
Hugging Face reveló el ataque la semana pasada, cuando aún no se sabía que los modelos de OpenAI eran los responsables. Hasta el martes, OpenAI no reconoció haber causado el ataque.
OpenAI indicó que, durante una evaluación interna con acceso a la red restringido, el modelo descubrió vulnerabilidades en el entorno de investigación de OpenAI y en la infraestructura de producción de Hugging Face. El modelo se conectó a internet y obtuvo las respuestas de prueba, es decir, falseó la evaluación.
OpenAI declaró: "Cuando se ejecutaban en un entorno de prueba de sandbox, nuestros modelos consumieron una gran cantidad de poder de inferencia para buscar formas de acceder a internet abierto y resolver los problemas de evaluación. Para obtener acceso, estos modelos descubrieron y aprovecharon una vulnerabilidad de día cero en un proxy de caché de registro de paquetes (que ya hemos informado responsablemente al proveedor). Con este acceso, los modelos realizaron una serie de operaciones de elevación de privilegios y movimiento lateral en el entorno de prueba de investigación hasta alcanzar un nodo con acceso a internet."
The model searched for and successfully found a way to obtain confidential information in order to cheat in the evaluation. In one of the cases, the model chained multiple attack vectors, including exploiting stolen credentials and zero-day vulnerabilities, to find a remote code execution path on Hugging Face servers.
Sin embargo, Hugging Face recurrió a un modelo de IA chino llamado GLM 5.2, desarrollado por 智谱 (Z.AI).
Hugging Face declaró: "Al iniciar el análisis de registros, primero utilizamos los modelos de vanguardia detrás de las API comerciales. Pero esto no funcionó: el análisis requería enviar una gran cantidad de comandos de ataque reales, cargas de explotación de vulnerabilidades y rastros de C2, y todas estas solicitudes fueron bloqueadas por los controles de seguridad del proveedor, ya que estos controles no podían distinguir entre personal de respuesta a incidentes y atacantes. Por lo tanto, en nuestra propia infraestructura, realizamos el análisis forense utilizando el modelo de pesos abiertos GLM 5.2. Esto también trajo otra ventaja: ningún dato de atacante ni ninguna credencial mencionada salió de nuestro entorno."
Medios estadounidenses indican que el impacto de este ataque en la política y el mercado aún no está claro. Aunque el gobierno de Trump ha discutido recientemente posibles medidas para prohibir los modelos chinos, y el secretario del Tesoro Bessent incluso comparó el uso de estos modelos por parte de empresas estadounidenses con el uso de bienes robados, actualmente solo los modelos chinos pueden ofrecer el nivel de acceso libre que los usuarios necesitan.
El cofundador de Hugging Face, Thomas Wolf, publicó en X: "Cuando un modelo de vanguardia te ataca y se mueve lateralmente dentro de tu infraestructura, los equipos de defensa necesitan acceder ampliamente a herramientas cercanas a la vanguardia en cuestión de horas o incluso minutos, en lugar de ser dirigidos a un proceso de solicitud cerrado y revisado para acceder a modelos."
Twitter：https://twitter.com/BitpushNewsCN
Grupo de Telegram de BitPush: https://t.me/BitPushCommunity
Suscríbete a BitPush en TG: https://t.me/bitpush