Claude Opus 5 resiste ataques de inyección de instrucciones en escenarios de navegador

iconKuCoinFlash
Compartir
AI summary iconResumen
Anthropic informó que su modelo Claude Opus 5 muestra una fuerte resistencia a los ataques de inyección de indicaciones en escenarios de navegador, sin ninguna brecha de seguridad en 129 casos de prueba. El modelo obtuvo un 2,0% en el benchmark de Gray Swan, mejor que Opus 4.8 (5,5%), Mythos 5 (2,6%) y Fable 5 (2,8%). La inyección de indicaciones sigue siendo una amenaza importante para los agentes de IA. La tasa de cero ataques solo se observó en Claude Cowork con el modo automático activado. Las noticias sobre tasas de interés y los cambios del mercado es poco probable que afecten esta actualización centrada en la seguridad.
ME AI mensaje, según el monitoreo de Dongcha Beating, Anthropic reveló en su sistema Claude Opus 5 que el modelo es casi inmune a los ataques de prompt injection en escenarios de agentes de navegador, sin ser comprometido en ninguna de las 129 pruebas. Este avance es significativo, ya que OpenAI reconoció públicamente en diciembre del año pasado que la inyección de prompts podría nunca ser completamente resuelta. En la prueba de referencia universal de inyección de prompts de la empresa de seguridad Gray Swan, la tasa de éxito de Opus 5 tras 15 ataques fue solo del 2,0%, mucho mejor que el 5,5% de su predecesor Opus 4.8, y superior al 2,6% de Mythos 5 y al 2,8% de Fable 5. La inyección de prompts se considera la vulnerabilidad de seguridad más grave para los agentes de IA: los atacantes manipulan entradas, como texto oculto incrustado en páginas web, para eludir las instrucciones del modelo y ejecutar operaciones maliciosas. Una tasa de ataques cero solo se ha logrado en productos como Claude Cowork con Auto Mode activado. Este logro marca el paso de la seguridad de los agentes de IA desde una fase de «reparación continua» hacia una de «defensa estructural». Haz clic en el enlace original a continuación para unirte al canal de noticias de IA de Dongcha Beating en Feishu, con monitoreo continuo 24/7 sobre las tendencias y noticias globales de IA. (Fuente: BlockBeats)
Fuente:Mostrar original
Descargo de responsabilidad: La información contenida en esta página puede proceder de terceros y no refleja necesariamente los puntos de vista u opiniones de KuCoin. Este contenido se proporciona solo con fines informativos generales, sin ninguna representación o garantía de ningún tipo, y tampoco debe interpretarse como asesoramiento financiero o de inversión. KuCoin no es responsable de ningún error u omisión, ni de ningún resultado derivado del uso de esta información. Las inversiones en activos digitales pueden ser arriesgadas. Evalúa con cuidado los riesgos de un producto y tu tolerancia al riesgo en función de tus propias circunstancias financieras. Para más información, consulta nuestras Condiciones de uso y la Declaración de riesgos.