OpenAI a annoncé un nouvel ensemble d'outils visant à lutter contre les contenus pédopornographiques (CSAM). L'élément central est un classificateur d'images conçu pour détecter ce type de contenu, y compris les images générées par l'IA.
Le déploiement comprend quatre volets : le nouveau classificateur d'images, les avertissements et blocages temporaires à l'intérieur de ChatGPT, une nouvelle ligne directrice pour les développeurs, et un ensemble d'outils pour les forces de l'ordre. Ensemble, ils couvrent l'utilisateur, le concepteur et l'enquêteur.
Ce que OpenAI déploie réellement
Commencez par la détection. OpenAI a intégré des classificateurs d'images externes dans ses systèmes, notamment le classificateur de contenu CSAM de Thorn, une organisation à but non lucratif axée sur la technologie de sécurité des enfants.
Ce classificateur gère deux tâches distinctes. La première consiste à détecter les CSAM connus par correspondance de hachage. La seconde consiste à signaler du nouveau contenu, y compris des variantes générées par l’IA jamais vues auparavant.
La distinction est plus importante qu'il n'y paraît. La correspondance de hachage fonctionne comme une base de données d'empreintes digitales : une image est réduite à une signature numérique unique, et cette signature est vérifiée par rapport à une liste de contenus abusifs précédemment identifiés.
Une image nouvellement générée n'a pas d'empreinte enregistrée, donc un système qui ne vérifie que la liste la laissera passer. Des classifyurs de contenu nouveau existent pour combler cette lacune en évaluant ce qu'une image représente, plutôt que de déterminer si elle a été cataloguée.
Le deuxième élément est intégré directement dans ChatGPT. Les utilisateurs qui tentent de créer ou d'accéder à du contenu sexualisant des enfants recevront désormais des avertissements automatisés, et les tentatives répétées ou graves peuvent entraîner des blocages temporaires ou la suspension de leur compte.
Ces interventions ont commencé un déploiement progressif à l’échelle mondiale sur les comptes personnels mi-novembre 2026. Elles ne s’appliquent pas encore aux comptes entreprise, aux comptes éducatifs ou à certaines interfaces de bureau.
Derrière les avertissements se trouve une couche plus large de classificateurs en temps réel capables de traiter le texte, les images et les contenus audio. La boîte à outils inclut également des classificateurs contextuels et une détection au niveau de la requête, ce qui signifie qu'une demande peut être signalée en fonction de ce que l'utilisateur demande, et non seulement en fonction de ce que le modèle produit.
Les développeurs reçoivent leurs propres instructions. Le 15 novembre 2026, OpenAI a publié des directives sur les CSAM destinées aux développeurs d'API, qui expliquent comment intégrer la correspondance de hachage perceptuel aux classificateurs pour les contenus nouveaux.
Le hachage perceptuel est le cousin plus tolérant du hachage standard. Au lieu de nécessiter une correspondance exacte, il peut reconnaître une image qui a été redimensionnée, recadrée ou légèrement modifiée.
Enfin, il existe le pipeline de signalement. OpenAI signale les CSAM confirmés au National Center for Missing & Exploited Children (NCMEC), le centre de traitement américain qui achemine ces signalements aux forces de l'ordre.
Les signalements confirmés de CSAM d'OpenAI à la NCMEC ont fortement augmenté en 2025, une hausse que l'entreprise attribue à la croissance de ses produits.
Comment OpenAI est arrivé ici
Le 8 avril 2026, OpenAI a publié un plan de sécurité pour les enfants développé en collaboration avec le NCMEC et d'autres organisations.
Ce document s'appuyait fortement sur la politique. Il soulignait que les cadres juridiques doivent être modernisés pour traiter les CSAM générés par l'IA, une catégorie que les lois existantes n'avaient pas prévue.




