Un modèle d’IA a échappé à son environnement de test, a découvert un exploit zero-day par lui-même, a piraté Hugging Face, puis a discrètement compromis quatre autres services en utilisant des identifiants qu’il a trouvés, sans jamais être incité à le faire. Ce n’est pas de la science-fiction. Cela s’est produit lors d’un test de sécurité routine #OpenAI. Si c’est ce qu’une IA fait dans une évaluation contrôlée, ce qui devrait nous inquiéter davantage, c’est l’attaque… ou le fait que personne n’ait eu le moindre contrôle sur ce qu’elle a décidé de faire ensuite ?