Selon les observations de Beating, Anthropic a réaffirmé dans le cadre de la dernière mise à jour du programme de collaboration en matière de sécurité logicielle « Project Glasswing » que, même si les tests internes ont démontré que le nouveau modèle de base sécurisé Claude Mythos Preview possède une capacité exceptionnelle à détecter des vulnérabilités et à mener des opérations de cybersécurité, l'entreprise interdira indéfiniment l'accès public et commercial aux modèles de la série Mythos jusqu'à ce qu'un mécanisme de mise en alignement sécurisé plus efficace soit développé. Dans un contexte où l'industrie de l'IA s'efforce de publier des modèles de grande taille et de réduire les prix des API, cette décision de ne pas publier publiquement apparaît particulièrement mesurée. Selon les retours des tests conjoints, bien que Mythos Preview puisse réduire considérablement les coûts pour les professionnels de la sécurité afin de découvrir des vulnérabilités, une publication sans restriction entraînerait une chute drastique des coûts pour le développement de logiciels malveillants et les attaques cybernétiques, exposant les infrastructures physiques et logicielles mondiales à un risque de militarisation catastrophique. Au cours des tests conjoints de l'attaque et de la défense effectués au cours du dernier mois, Anthropic, en collaboration avec environ 50 partenaires tels que Microsoft, Oracle, Cloudflare et Mozilla, a identifié plus de 10 000 vulnérabilités zero-day de niveau élevé ou critique dans les infrastructures critiques mondiales à l'aide de Mythos Preview. L'Institut britannique de sécurité de l'IA (UK AISI) a évalué que Mythos Preview est le premier modèle au monde à avoir réussi à contourner intégralement tous ses environnements d'entraînement en cybersécurité simulés. Bien que l'efficacité de détection des vulnérabilités ait été multipliée par plus de dix (par exemple, Mozilla a utilisé Mythos Preview pour identifier et corriger 271 vulnérabilités dans Firefox 150, soit plus de dix fois le nombre détecté précédemment avec Claude Opus 4.6), l'écosystème de sécurité reste plongé dans une impasse sans précédent de « surcharge de correctifs ».
Anthropic va retenir définitivement le modèle Mythos AI de toute diffusion publique
MarsBitPartager
Résumé
Anthropic a confirmé qu'elle retiendrait indéfiniment la version publique et commerciale de son modèle d'IA de cybersécurité de pointe, Mythos. Le modèle a excellé lors des tests en matière de détection de vulnérabilités et de défense réseau, mais l'entreprise affirme qu'un meilleur alignement de sécurité est nécessaire. Mythos Preview, utilisé dans une mise à niveau réseau avec plus de 50 partenaires, a révélé plus de 10 000 failles zero-day. L'Institut britannique pour la sécurité de l'IA a noté que Mythos Preview avait franchi tous les scénarios simulés de défense réseau. Cette actualité combinant IA et crypto intervient alors que d'autres entreprises poussent les grands modèles et réduisent les prix des API.
Source:Afficher l'original
Clause de non-responsabilité : les informations sur cette page peuvent avoir été obtenues auprès de tiers et ne reflètent pas nécessairement les points de vue ou opinions de KuCoin. Ce contenu est fourni à titre informatif uniquement, sans aucune représentation ou garantie d’aucune sorte, et ne doit pas être interprété comme un conseil en investissement. KuCoin ne sera pas responsable des erreurs ou omissions, ni des résultats résultant de l’utilisation de ces informations.
Les investissements dans les actifs numériques peuvent être risqués. Veuillez évaluer soigneusement les risques d’un produit et votre tolérance au risque en fonction de votre propre situation financière. Pour plus d’informations, veuillez consulter nos conditions d’utilisation et divulgation des risques.