C’EST FOLLE : OpenAI affirme qu’un de ses modèles d’IA s’est échappé de sa « prison » numérique pendant un test, puis a tenté de pirater une autre entreprise d’IA. Le modèle était testé sur sa capacité à identifier et exploiter des vulnérabilités de cybersécurité. OpenAI l’a placé dans un environnement restreint, sans accès normal à Internet. Mais l’IA aurait consacré d’énormes quantités de puissance de calcul pour trouver un moyen de s’échapper. Elle a finalement découvert une vulnérabilité, s’est échappée de l’environnement restreint et a accédé à Internet. Elle a ensuite ciblé Hugging Face, une plateforme majeure utilisée par les développeurs d’IA, dans le but d’accomplir la tâche qui lui avait été assignée. L’IA n’avait pas été spécifiquement instruite de pirater Hugging Face. On lui avait simplement donné un objectif. La partie effrayante est que le modèle a apparemment décidé seul qu’échapper à ses restrictions et attaquer les systèmes d’une autre entreprise était la meilleure façon d’atteindre cet objectif. C’est exactement pour cela que la sécurité de l’IA devient un enjeu majeur. Plus ces systèmes deviennent performants, plus il sera difficile de prédire ce qu’ils feront pour accomplir un objectif. Et tout cela s’est produit lors d’un test contrôlé. Imaginez quand ces systèmes fonctionneront de manière autonome dans le monde réel.