OpenAI implementa classificador de imagens e avisos do ChatGPT para combater CSAM gerado por IA

iconCryptoBriefing
Compartilhar
AI summary iconResumo
Notícias de IA + cripto se espalharam quando a OpenAI lançou ferramentas para detectar material de abuso sexual infantil, incluindo um classificador de imagens e avisos no ChatGPT. O sistema utiliza correspondência de hashes e IA para identificar novos casos de CSAM. Lançado em meados de novembro de 2026, inclui ferramentas para desenvolvedores e autoridades policiais. A OpenAI relatou os resultados à NCMEC. Novas listagens de tokens permanecem um foco principal para os mercados de cripto.

OpenAI anunciou um novo conjunto de ferramentas voltadas para material de abuso sexual infantil (CSAM). O ponto central é um classificador de imagens desenvolvido para detectar esse tipo de conteúdo, incluindo imagens geradas por IA.

A implementação tem quatro partes: o novo classificador de imagens, avisos e bloqueios temporários dentro do ChatGPT, uma nova diretriz para desenvolvedores e um conjunto de ferramentas para as forças de segurança. Juntas, elas abrangem o usuário, o construtor e o investigador.

O que a OpenAI está realmente implantando

Comece com a detecção. A OpenAI integrou classificadores externos de imagem em seus sistemas, incluindo o classificador de conteúdo CSAM da Thorn, uma organização sem fins lucrativos focada em tecnologia de segurança infantil.

Esse classificador realiza dois trabalhos separados. O primeiro é identificar CSAM conhecido por meio de correspondência de hash. O segundo é sinalizar material novo, incluindo variantes geradas por IA que nunca foram vistas antes.

A distinção importa mais do que parece. A correspondência de hash funciona como um banco de dados de impressões digitais: uma imagem é reduzida a uma assinatura digital única, e essa assinatura é verificada contra uma lista de materiais de abuso previamente identificados.

Uma imagem recém-gerada não possui impressão digital registrada, portanto um sistema que verifica apenas a lista a aprovará. Classificadores de conteúdo novo existem para preencher essa lacuna, avaliando o que uma imagem representa, em vez de se ela foi catalogada.

A segunda peça está integrada ao próprio ChatGPT. Usuários que tentarem criar ou acessar conteúdo que sexualize crianças agora receberão avisos automatizados, e tentativas repetidas ou graves podem levar a bloqueios temporários ou suspensões de conta.

Essas intervenções começaram uma implantação gradual mundial nas contas pessoais em meados de novembro de 2026. Elas ainda não se aplicam a contas empresariais, contas educacionais ou certas interfaces de desktop.

Por trás dos avisos, existe uma camada mais ampla de classificadores em tempo real que podem processar conteúdo de texto, imagem e áudio. O kit também inclui classificadores conscientes do contexto e detecção ao nível da solicitação, o que significa que uma requisição pode ser sinalizada com base no que o usuário pede, não apenas no que o modelo produz.

Desenvolvedores recebem suas próprias instruções. Em 15 de novembro de 2026, a OpenAI publicou orientações sobre CSAM para desenvolvedores de API que explicam como integrar a correspondência de hash perceptual junto com classificadores para conteúdo novo.

O hash perceptual é o primo mais tolerante do hash padrão. Em vez de exigir uma correspondência exata, ele consegue reconhecer uma imagem que foi redimensionada, recortada ou levemente alterada.

Finalmente, há o pipeline de relatórios. A OpenAI relata CSAM confirmado ao National Center for Missing & Exploited Children (NCMEC), o centro de processamento dos EUA que encaminha tais relatórios às autoridades policiais.

Os relatórios confirmados de CSAM da OpenAI para a NCMEC aumentaram significativamente em 2025, um aumento que a empresa atribui ao crescimento de seus produtos.

Como a OpenAI chegou aqui

Em 8 de abril de 2026, a OpenAI lançou um Blueprint de Segurança Infantil desenvolvido em colaboração com a NCMEC e outras organizações.

Esse documento baseou-se fortemente na política. Ele enfatizou que os quadros legais precisam ser modernizados para lidar com CSAM gerado por IA, uma categoria para a qual as leis existentes não foram escritas.

Aviso legal: as informações nesta página podem ter sido obtidas de terceiros e não refletem necessariamente os pontos de vista ou opiniões da KuCoin. Este conteúdo é fornecido apenas para fins informativos gerais, sem qualquer representação ou garantia de qualquer tipo, nem deve ser interpretado como aconselhamento financeiro ou de investimento. A KuCoin não é responsável por quaisquer erros ou omissões, ou por quaisquer resultados do uso destas informações. Os investimentos em ativos digitais podem ser arriscados. Avalie cuidadosamente os riscos de um produto e a sua tolerância ao risco com base nas suas próprias circunstâncias financeiras. Para mais informações, consulte nossos termos de uso e divulgação de risco.