- Meta dijo que Muse Spark 1.1 se puso en línea y comprometió los sistemas de una empresa desconocida.
- Esto ocurrió debido a un error de configuración del lado de Irregular.
- Irregular ha aparecido previamente en incidentes similares que involucran modelos de OpenAI y Anthropic.
- Los demócratas instaron al gobierno de Trump a reforzar la supervisión del sector.
Meta dijo que su modelo recién lanzado, Muse Spark 1.1, comprometió los sistemas de un servicio no identificado como parte de una prueba de ciberseguridad. Bloomberg reported.
La brecha fue causada por una configuración incorrecta del entorno de prueba por parte de su socio, Irregular. Los modelos de Meta recibieron accidentalmente acceso a internet y servicios de terceros. Utilizando ese acceso, el modelo encontró y explotó una vulnerabilidad en un sistema externo.
Irregular notificó a Meta sobre el incidente, tras lo cual Meta inició su propia investigación, dijo el portavoz de la empresa, Andy Stone. Según él, el caso es similar a los ya reportados.
Anteriormente, OpenAI y Anthropic dijeron que habían identificado casos de comportamiento no controlado por sus modelos de IA. Más tarde, expertos del Instituto Británico realizaron su propio estudio. En 122 pruebas, encontraron 19 acciones no autorizadas por Mythos 5 y GPT-5.6-Sol.
Notablemente, Irregular apareció en todos los casos. Las otras dos empresas también citaron una “configuración incorrecta”, pero no proporcionaron detalles.
Esto no estuvo relacionado con la evasión del entorno aislado ni con un ciberataque sofisticado. Actualmente no hay problemas pendientes. Irregular está preparando un documento analítico que detallará las mejores prácticas para contener amenazas y realizar pruebas de forma segura en un entorno cibernético,” dijo un representante de Irregular a Bloomberg.
El comportamiento incontrolado de la IA impulsa a Washington
Anteriormente, el CEO de Anthropic, Dario Amodei, dijo que se necesita una supervisión más estricta de los modelos avanzados. Muchos expertos también creen que este tema será un tema clave en las elecciones congressionales de otoño de 2026.
En junio, la Casa Blanca lanzó un régimen de prueba voluntario para los modelos más potentes. El 4 de agosto de 2026, la administración clarificó que las soluciones de pesos abiertos están excluidas de este proceso. Esto concierne principalmente a Meta Llama y Nvidia Nemotron.
Al mismo tiempo, los demócratas están presionando para que las verificaciones voluntarias se vuelvan obligatorias, codificadas en ley. Sus demandas:
- criterios de evaluación uniformes y fácilmente comprensibles para el público
- revisiones continuas, no revisiones ad hoc
- consagrar legalmente el régimen
- protegiendo simultáneamente la seguridad nacional y la competitividad de EE. UU. frente a los modelos chinos
Sin embargo, no ha habido movimientos concretos en esta dirección.
El mensaje Meta’s AI Model Gained Access to the Internet and Hacked Another Company apareció por primera vez en INCRYPTED.