DeepTide TechFlow informa que el 14 de junio, según el Wall Street Journal, las restricciones de exportación y acceso impuestas por el gobierno estadounidense al modelo Fable 5 / Mythos 5 de Anthropic se debieron en parte a investigaciones de ciberseguridad realizadas por Amazon y a la comunicación entre el CEO de AWS, Andy Jassy, y la Casa Blanca. Se sabe que la investigación presentada por Amazon indicó que, mediante una serie de pruebas con prompts, los investigadores pudieron inducir a Fable 5 a generar información sensible que podría utilizarse para ataques cibernéticos, lo que generó preocupaciones de seguridad. Posteriormente, Andy Jassy informó estos hallazgos a las autoridades estadounidenses, lo que impulsó a la Casa Blanca a implementar medidas adicionales, incluyendo la prohibición del acceso al modelo por parte de usuarios extranjeros. Anthropic niega que el gobierno haya definido este problema como un "jailbreak", señalando que vulnerabilidades similares podrían presentarse también en otros modelos públicos, como GPT 5.5. Algunos investigadores de seguridad respaldan esta postura, argumentando que el problema se asemeja más a un "riesgo de prompt injection" que a una ruptura grave del modelo. Además, según Kate Colleen, exfuncionaria del Departamento de Comercio de EE.UU., la postura política previa de Anthropic también pudo influir en esta decisión, ya que Anthropic mantiene diferencias con la Casa Blanca sobre los límites de la seguridad en inteligencia artificial, incluyendo su negativa a utilizar modelos para vigilancia masiva o sistemas de armas autónomas letales. Aunque ambas partes lograron una tregua y ampliaron su cooperación a principios de este año,
Se dice que Amazon presiona por restricciones al modelo de Anthropic debido a preocupaciones de seguridad
TechFlowCompartir
Resumen
Los activos con orientación de riesgo enfrentaron un nuevo escrutinio tras informes de que Amazon influyó en las restricciones estadounidenses sobre los modelos Fable 5 / Mythos 5 de Anthropic, citando preocupaciones de ciberseguridad. La investigación de Amazon encontró que el modelo podía ser inducido a generar datos utilizables para ataques cibernéticos, lo que llevó a prohibiciones de acceso extranjero. Anthropic negó que se tratara de un jailbreak, señalando fallas similares en GPT 5.5. Algunos expertos lo calificaron como un riesgo de inyección de prompts. Los protocolos CFT podrían ahora extenderse al acceso a modelos de IA. La exfuncionaria del Departamento de Comercio de EE.UU. Kate Kroll dijo que los desacuerdos pasados de Anthropic con la Casa Blanca podrían haber jugado un papel en la decisión.
Fuente:Mostrar original
Descargo de responsabilidad: La información contenida en esta página puede proceder de terceros y no refleja necesariamente los puntos de vista u opiniones de KuCoin. Este contenido se proporciona solo con fines informativos generales, sin ninguna representación o garantía de ningún tipo, y tampoco debe interpretarse como asesoramiento financiero o de inversión. KuCoin no es responsable de ningún error u omisión, ni de ningún resultado derivado del uso de esta información.
Las inversiones en activos digitales pueden ser arriesgadas. Evalúa con cuidado los riesgos de un producto y tu tolerancia al riesgo en función de tus propias circunstancias financieras. Para más información, consulta nuestras Condiciones de uso y la Declaración de riesgos.