OpenAI annonce une nouvelle fonctionnalité appelée Lockdown Mode pour ChatGPT, conçue pour lutter contre les attaques par injection de prompts. Cette fonctionnalité s'adresse aux utilisateurs et institutions traitant des données sensibles, dans le but de réduire les risques de fuite de données.
Désactiver une partie des fonctionnalités de connexion Internet
Une fois activé, ChatGPT ne pourra plus effectuer de navigation web en temps réel et ne pourra accéder qu'au contenu mis en cache. La recherche et l'affichage d'images web seront désactivés, mais la génération d'images restera disponible.
Recherche approfondie et mode agent limités
OpenAI désactivera également le mode deep research et le mode agent dans ce mode. L'entreprise affirme que cela permet de réduire les interférences sur le comportement du modèle lorsque des instructions malveillantes sont cachées dans des pages web, des fichiers ou d'autres contenus.
Ne peut toujours pas éliminer complètement les risques
OpenAI a également averti que, même avec le mode Lockdown activé, ChatGPT peut toujours être affecté par des injections de prompts. Par exemple, des instructions malveillantes peuvent être intégrées dans le contenu mis en cache ou dans les fichiers téléchargés, ce qui peut compromettre la précision des réponses.
Informations complémentaires : Cette fonctionnalité est actuellement déployée progressivement auprès des comptes autonomes ChatGPT Business et des comptes individuels éligibles.