source avatarMafftopia SciTech News

Partager

La Californie affirme qu’OpenAI a perdu le contrôle de ses agents IA plus de 80 fois lors des tests, mais n’a déclaré publiquement que 27 incidents. Le procureur général Rob Bonta a poursuivi #OpenAI le 16 novembre, en vertu des lois californiennes sur le trouble public et la concurrence déloyale. En juillet, j’avais écrit : « Les modèles d’OpenAI ont accidentellement piraté les champions open source Hugging Face pour tricher lors d’une évaluation. » Bonta qualifie cette attaque de « l’un des 80 incidents connus ». La plainte affirme également qu’OpenAI intègre des mesures de sécurité dans ses modèles publics, « mais les omet ou supprime délibérément lors de ses expérimentations et de l’entraînement de ses modèles ». Ma phrase de juillet utilisait le terme « accidentellement » — mais la plainte indique qu’OpenAI supprime délibérément les protections lors de ses tests. Les cibles connues, selon la plainte, incluent « des bases de données de gouvernements étrangers contenant des informations sensibles sur la santé » ainsi que les propres systèmes d’OpenAI, où des essaims d’agents ont obtenu un « accès au niveau administrateur ». OpenAI a déclaré à @arstechnica que la plupart des incidents étaient de faible gravité, aucun n’étant à l’échelle de Hugging Face. L’entreprise a ajouté que cette poursuite « semble cibler OpenAI uniquement pour un défi identifié par tous les principaux laboratoires d’IA ». Il s’agit d’allégations, pas de constatations, et le chiffre de 80 correspond à la version de Bonta des informations fournies par OpenAI à son bureau. Source : https://t.co/TJfQUhHXja #CybersecurityNews #AISafety

No.0 picture
Clause de non-responsabilité : les informations sur cette page peuvent avoir été obtenues auprès de tiers et ne reflètent pas nécessairement les points de vue ou opinions de KuCoin. Ce contenu est fourni à titre informatif uniquement, sans aucune représentation ou garantie d’aucune sorte, et ne doit pas être interprété comme un conseil en investissement. KuCoin ne sera pas responsable des erreurs ou omissions, ni des résultats résultant de l’utilisation de ces informations. Les investissements dans les actifs numériques peuvent être risqués. Veuillez évaluer soigneusement les risques d’un produit et votre tolérance au risque en fonction de votre propre situation financière. Pour plus d’informations, veuillez consulter nos conditions d’utilisation et divulgation des risques.