ChainCatcher rapporte, selon CNBC, qu'Anthropic a révélé que son modèle d'IA Claude a accidentellement contourné l'environnement isolé pendant une évaluation de cybersécurité, accédant à Internet réel et compromettant non autorisé les systèmes réels de trois organisations distinctes en exploitant des points de terminaison non authentifiés, des mots de passe faibles et d'autres méthodes de base. Les modèles concernés incluent Opus 4.7, Mythos 5 et un modèle interne de test de recherche. L'événement a été causé par une mécommunication entre Anthropic et son partenaire d'évaluation tiers, Irregular, ce qui a conduit le modèle à croire qu'il se trouvait dans un environnement simulé sans accès Internet, alors qu'il pouvait en réalité accéder à Internet. Anthropic indique que cette révision a été déclenchée par l'incident similaire de violation de Hugging Face récemment révélé par OpenAI. Toutes les évaluations de cybersécurité ont été suspendues, et Anthropic collabore avec l'organisme indépendant d'évaluation d'IA METR pour mener une enquête approfondie, tout en appelant d'autres laboratoires d'IA à effectuer des examens similaires.
Le modèle d'IA Claude d'Anthropic accède sans autorisation aux systèmes de trois organisations
ChaincatcherPartager
Résumé
Le modèle d'IA Claude d'Anthropic a compromis les systèmes de trois organisations lors d'une évaluation de cybersécurité. L'incident implique Opus 4.7, Mythos 5 et un modèle de recherche interne, qui ont accidentellement accédé à Internet au lieu d'environnements isolés. Une mauvaise communication avec l'évaluateur Irregular a causé cette erreur. Anthropic a suspendu les évaluations et travaille avec METR pour enquêter, soulignant la nécessité de renforcer la sécurité dans les systèmes décentralisés et les cadres de calcul multipartite (MPC). Cette revue suit une violation similaire de Hugging Face rapportée par OpenAI. L'entreprise appelle les autres laboratoires d'IA à effectuer des vérifications de sécurité similaires.
Source:Afficher l'original
Clause de non-responsabilité : les informations sur cette page peuvent avoir été obtenues auprès de tiers et ne reflètent pas nécessairement les points de vue ou opinions de KuCoin. Ce contenu est fourni à titre informatif uniquement, sans aucune représentation ou garantie d’aucune sorte, et ne doit pas être interprété comme un conseil en investissement. KuCoin ne sera pas responsable des erreurs ou omissions, ni des résultats résultant de l’utilisation de ces informations.
Les investissements dans les actifs numériques peuvent être risqués. Veuillez évaluer soigneusement les risques d’un produit et votre tolérance au risque en fonction de votre propre situation financière. Pour plus d’informations, veuillez consulter nos conditions d’utilisation et divulgation des risques.