OpenAI anunciou um novo conjunto de ferramentas voltadas para material de abuso sexual infantil (CSAM). O ponto central é um classificador de imagens desenvolvido para detectar esse tipo de conteúdo, incluindo imagens geradas por IA.
A implementação tem quatro partes: o novo classificador de imagens, avisos e bloqueios temporários dentro do ChatGPT, uma nova diretriz para desenvolvedores e um conjunto de ferramentas para as forças de segurança. Juntas, elas abrangem o usuário, o construtor e o investigador.
O que a OpenAI está realmente implantando
Comece com a detecção. A OpenAI integrou classificadores externos de imagem em seus sistemas, incluindo o classificador de conteúdo CSAM da Thorn, uma organização sem fins lucrativos focada em tecnologia de segurança infantil.
Esse classificador realiza dois trabalhos separados. O primeiro é identificar CSAM conhecido por meio de correspondência de hash. O segundo é sinalizar material novo, incluindo variantes geradas por IA que nunca foram vistas antes.
A distinção importa mais do que parece. A correspondência de hash funciona como um banco de dados de impressões digitais: uma imagem é reduzida a uma assinatura digital única, e essa assinatura é verificada contra uma lista de materiais de abuso previamente identificados.
Uma imagem recém-gerada não possui impressão digital registrada, portanto um sistema que verifica apenas a lista a aprovará. Classificadores de conteúdo novo existem para preencher essa lacuna, avaliando o que uma imagem representa, em vez de se ela foi catalogada.
A segunda peça está integrada ao próprio ChatGPT. Usuários que tentarem criar ou acessar conteúdo que sexualize crianças agora receberão avisos automatizados, e tentativas repetidas ou graves podem levar a bloqueios temporários ou suspensões de conta.
Essas intervenções começaram uma implantação gradual mundial nas contas pessoais em meados de novembro de 2026. Elas ainda não se aplicam a contas empresariais, contas educacionais ou certas interfaces de desktop.
Por trás dos avisos, existe uma camada mais ampla de classificadores em tempo real que podem processar conteúdo de texto, imagem e áudio. O kit também inclui classificadores conscientes do contexto e detecção ao nível da solicitação, o que significa que uma requisição pode ser sinalizada com base no que o usuário pede, não apenas no que o modelo produz.
Desenvolvedores recebem suas próprias instruções. Em 15 de novembro de 2026, a OpenAI publicou orientações sobre CSAM para desenvolvedores de API que explicam como integrar a correspondência de hash perceptual junto com classificadores para conteúdo novo.
O hash perceptual é o primo mais tolerante do hash padrão. Em vez de exigir uma correspondência exata, ele consegue reconhecer uma imagem que foi redimensionada, recortada ou levemente alterada.
Finalmente, há o pipeline de relatórios. A OpenAI relata CSAM confirmado ao National Center for Missing & Exploited Children (NCMEC), o centro de processamento dos EUA que encaminha tais relatórios às autoridades policiais.
Os relatórios confirmados de CSAM da OpenAI para a NCMEC aumentaram significativamente em 2025, um aumento que a empresa atribui ao crescimento de seus produtos.
Como a OpenAI chegou aqui
Em 8 de abril de 2026, a OpenAI lançou um Blueprint de Segurança Infantil desenvolvido em colaboração com a NCMEC e outras organizações.
Esse documento baseou-se fortemente na política. Ele enfatizou que os quadros legais precisam ser modernizados para lidar com CSAM gerado por IA, uma categoria para a qual as leis existentes não foram escritas.




