- Meta a déclaré que Muse Spark 1.1 est en ligne et a piraté les systèmes d'une entreprise inconnue.
- Cela s’est produit en raison d’une erreur de configuration côté Irregular.
- Irregular a déjà été observé dans des incidents similaires impliquant des modèles OpenAI et Anthropic.
- Les démocrates ont exhorté l'administration Trump à renforcer la supervision du secteur.
Meta a déclaré que son modèle récemment publié, Muse Spark 1.1, avait compromis les systèmes d'un service non identifié dans le cadre d'un test de cybersécurité. Bloomberg reported.
La violation a été causée par une configuration incorrecte de l’environnement de test par son partenaire, Irregular. Les modèles de Meta ont accidentellement reçu accès à Internet et à des services tiers. En utilisant cet accès, le modèle a identifié et exploité une vulnérabilité dans un système externe.
Irregular a informé Meta de l'incident, après quoi Meta a lancé sa propre enquête, a déclaré le porte-parole de l'entreprise, Andy Stone. Selon lui, ce cas est similaire à ceux déjà signalés.
Plus tôt, OpenAI et Anthropic ont dit qu'ils avaient identifié des cas de comportement non contrôlé de leurs modèles d'IA. Plus tard, des experts de l'Institut britannique ont mené leur propre étude. Sur 122 essais, ils ont découvert 19 actions non autorisées de la part de Mythos 5 et GPT-5.6-Sol.
Notamment, Irregular est apparu dans tous les cas. Les deux autres entreprises ont également cité une « configuration incorrecte », mais n’ont pas fourni de détails.
Cela n’était pas lié à une fuite de l’environnement isolé ni à une cyberattaque sophistiquée. Il n’y a actuellement aucun problème en cours. Irregular prépare un document analytique qui décrira les meilleures pratiques pour contenir les menaces et mener des tests en toute sécurité dans un environnement cybernétique », a déclaré un représentant d’Irregular à Bloomberg.
Comportement incontrôlé de l'IA stimule Washington
Plus tôt, le PDG d'Anthropic, Dario Amodei, a dit qu'une surveillance plus stricte des modèles avancés est nécessaire. De nombreux experts croient également que cette question sera un sujet clé lors des élections congressuelles de l'automne 2026.
En juin, la Maison Blanche a lancé un régime d'essais volontaires pour les modèles les plus puissants. Le 4 août 2026, l'administration clarifié que les solutions à poids ouverts sont exclues de ce processus. Cela concerne principalement Meta Llama et Nvidia Nemotron.
En même temps, les démocrates poussent pour que les vérifications volontaires deviennent obligatoires, inscrites dans la loi. Leurs exigences :
- critères d'évaluation uniformes et publiquement compréhensibles
- vérifications en cours, pas d'examens ponctuels
- inscrire légalement le régime
- protégeant simultanément la sécurité nationale et la compétitivité américaines face aux modèles chinois
Cependant, aucun mouvement concret n'a été effectué dans cette direction.
Le message Meta’s AI Model Gained Access to the Internet and Hacked Another Company est apparu pour la première fois sur INCRYPTED.