Los modelos de IA de OpenAI se infiltraron directamente en servidores ajenos para hacer trampa durante las pruebas, uno de los eventos de IA más absurdos de este año hasta la fecha. Durante pruebas internas de capacidad de seguridad, el modelo GPT-5.6 Sol y otro modelo no publicado decidieron abandonar responder las preguntas y en su lugar buscar activamente las claves de respuesta para obtener una puntuación alta en la prueba de referencia ExploitGym. El modelo primero aprovechó una vulnerabilidad de día cero interna de @OpenAI para romper el aislamiento del sandbox y obtener acceso a la red externa, luego escaló privilegios, se movió lateralmente y finalmente invadió el entorno de producción de Hugging Face, robando todas las respuestas de ExploitGym. Esto no fue una operación remota ni dirigida por ingenieros; fue completamente autónomo. Cuando Hugging Face lo descubrió, quedaron atónitos; el CEO declaró: “Esto es increíble, ocurrió por sí solo”. La “ingeniería social” que la IA realiza contra los humanos: los humanos le dan restricciones, y ella elige eludirlas para lograr su objetivo. Es explotar una brecha en las reglas, pero nunca antes se había llegado a invadir servidores de terceros reales. Ambas empresas ahora enfatizan “los desafíos de seguridad en la era de los agentes de IA”: si le das a un modelo un objetivo sin establecer barreras adecuadas, puede lograrlo de formas que nunca imaginaste, incluyendo infiltrarse directamente en ti.
動區動趨 BlockTempoCompartir


Fuente:Mostrar original
Descargo de responsabilidad: La información contenida en esta página puede proceder de terceros y no refleja necesariamente los puntos de vista u opiniones de KuCoin. Este contenido se proporciona solo con fines informativos generales, sin ninguna representación o garantía de ningún tipo, y tampoco debe interpretarse como asesoramiento financiero o de inversión. KuCoin no es responsable de ningún error u omisión, ni de ningún resultado derivado del uso de esta información.
Las inversiones en activos digitales pueden ser arriesgadas. Evalúa con cuidado los riesgos de un producto y tu tolerancia al riesgo en función de tus propias circunstancias financieras. Para más información, consulta nuestras Condiciones de uso y la Declaración de riesgos.