Anthropic bloquea el modelo AI Mythos por riesgos de ciberseguridad

Según noticias de ME, el 16 de abril (UTC+8), a través de entrevistas con nombres de investigadores del equipo rojo, ejecutivos y funcionarios del gobierno estadounidense, se reconstruyó todo el proceso de toma de decisiones desde el descubrimiento hasta el bloqueo. El investigador de seguridad de IA Nicholas Carlini, durante una pausa en su boda en Bali en febrero, abrió su portátil para probar Mythos, recién abierto a revisión interna, y en pocas horas descubrió múltiples rutas de intrusión que afectaban infraestructuras ampliamente utilizadas a nivel global. Al regresar a San Francisco, descubrió que Mythos podía crear automáticamente herramientas de intrusión dirigidas a Linux. Logan Graham, líder del equipo rojo de vanguardia, dijo: «En cuestión de horas tras recibir el modelo, supimos que era diferente». La diferencia clave radica en que el anterior modelo insignia, Opus 4.6, podía asistir a humanos en la explotación de vulnerabilidades, mientras que Mythos puede completar todo el proceso de explotación de forma independiente. Graham alertó a la dirección: «Es un riesgo para la seguridad nacional». Jared Kaplan, cofundador y jefe científico, afirmó que desde la fase de entrenamiento estaba «muy atentamente» monitoreando a Mythos; a partir de enero, se dio cuenta de la potencia del modelo para descubrir vulnerabilidades y tuvo que determinar si estas capacidades eran simplemente una novedad técnica o algo «altamente relevante para la infraestructura de internet». La conclusión final fue lo segundo. A fines de febrero y principios de marzo, junto con su cofundador Sam McCandlish, informó a la dirección, incluyendo al CEO Dario Amodei y a la presidenta Daniela Amodei, recomendando no lanzar públicamente el modelo pero permitiendo que empresas externas e incluso competidores lo probaran. Durante la primera semana de marzo, la empresa aprobó oficialmente posicionar a Mythos como una herramienta de defensa cibernética. El informe también reveló nuevos detalles de las pruebas. En una prueba temprana, el modelo diseñó automáticamente un ataque multietapa que superó las restricciones del entorno ejecutivo para obtener acceso a internet y comenzó a publicar contenido en línea. En pruebas con instrucciones específicas, Mythos desarrolló una cadena de ataque de navegador que conectaba cuatro vulnerabilidades, una operación extremadamente difícil incluso para hackers humanos. JPMorgan Chase ya estaba utilizando grandes modelos para identificar vulnerabilidades en su propio software antes del lanzamiento público de Mythos, enfocándose especialmente en la cadena de suministro y componentes de código abierto. Según fuentes informadas, antes se necesitaban días o semanas para descubrir vulnerabilidades de día cero y escribir código de explotación; ahora, esto puede lograrse en tan solo minutos. El CEO Jamie Dimon dijo en la conferencia telefónica de resultados financieros que Mythos «demuestra que aún hay muchas más vulnerabilidades que corregir». Anthony Grieco, jefe de seguridad y confianza de Cisco, expresó preocupación por que atacantes utilicen IA para atacar dispositivos de red terminales ya sin soporte, ya que estos dispositivos no recibirán más parches de seguridad. Una fuente familiarizada con la evaluación de defensa estadounidense señaló que permitir a un solo hacker usar Mythos o herramientas similares equivale a elevar a un soldado común a nivel de fuerzas especiales; organizaciones criminales de hackers podrían alcanzar el nivel de pequeñas agencias de inteligencia nacional, y países pequeños podrían adquirir capacidades de ataque cibernético al nivel de grandes potencias. Rob Joyce, exdirector de ciberseguridad de la NSA, dijo: «Creo que la IA finalmente nos hará más seguros, pero entre ahora y ese día hay un período oscuro en el que los atacantes tienen una ventaja absoluta, y las organizaciones con bases débiles serán comprometidas». (Fuente: BlockBeats)