OpenAI implementa un clasificador de imágenes y advertencias de ChatGPT para combatir el CSAM generado por IA

iconCryptoBriefing
Compartir
AI summary iconResumen
Las noticias de IA + cripto se dispararon cuando OpenAI lanzó herramientas para detectar material de abuso sexual infantil, incluyendo un clasificador de imágenes y advertencias en ChatGPT. El sistema utiliza coincidencia de hashes e IA para detectar nuevo CSAM. Lanzado a mediados de noviembre de 2026, incluye herramientas para desarrolladores y fuerzas del orden. OpenAI informó sus hallazgos a la NCMEC. Los nuevos listados de tokens siguen siendo una prioridad clave para los mercados cripto.

OpenAI ha anunciado un nuevo conjunto de herramientas destinadas al material de abuso sexual infantil (CSAM). El elemento central es un clasificador de imágenes diseñado para detectar dicho contenido, incluyendo imágenes generadas por IA.

El lanzamiento tiene cuatro partes: el nuevo clasificador de imágenes, advertencias y bloques temporales dentro de ChatGPT, una nueva directriz para desarrolladores y un conjunto de herramientas para las fuerzas del orden. Juntas, cubren al usuario, al creador y al investigador.

Lo que realmente está implementando OpenAI

Comience con la detección. OpenAI ha integrado clasificadores externos de imágenes en sus sistemas, incluido el clasificador de contenido CSAM de Thorn, una organización sin fines de lucro enfocada en la tecnología de seguridad infantil.

Ese clasificador maneja dos trabajos separados. El primero es detectar CSAM conocido mediante coincidencia de hashes. El segundo es marcar material nuevo, incluyendo variantes generadas por IA que nunca antes se han visto.

La distinción importa más de lo que parece. La coincidencia de hash funciona como una base de datos de huellas digitales: una imagen se reduce a una firma digital única, y esa firma se compara con una lista de material de abuso previamente identificado.

Una imagen recién generada no tiene una huella registrada, por lo que un sistema que solo verifica la lista la dejará pasar. Existen clasificadores de contenido nuevo para cerrar esa brecha al evaluar lo que representa una imagen, en lugar de si ha sido catalogada.

La segunda pieza reside dentro del propio ChatGPT. Los usuarios que intenten crear o acceder a contenido que sexualice a niños ahora recibirán advertencias automatizadas, y los intentos repetidos o graves pueden llevar a bloqueos temporales o suspensiones de cuenta.

Estas intervenciones comenzaron un despliegue gradual a nivel mundial en cuentas personales a mediados de noviembre de 2026. Aún no se aplican a cuentas empresariales, cuentas educativas o ciertas interfaces de escritorio.

Detrás de las advertencias se encuentra una capa más amplia de clasificadores en tiempo real que pueden procesar contenido de texto, imagen y audio. El kit de herramientas también incluye clasificadores conscientes del contexto y detección a nivel de solicitud, lo que significa que una solicitud puede ser marcada según lo que el usuario pide, no solo según lo que produce el modelo.

Los desarrolladores reciben sus propias instrucciones. El 15 de noviembre de 2026, OpenAI publicó orientación sobre CSAM para desarrolladores de API que explica cómo integrar la coincidencia de hash perceptual junto con clasificadores para contenido nuevo.

El hashing perceptual es el primo más tolerante del hashing estándar. En lugar de requerir una coincidencia exacta, puede reconocer una imagen que ha sido redimensionada, recortada o ligeramente alterada.

Finalmente, existe el pipeline de informes. OpenAI informa sobre CSAM confirmado al National Center for Missing & Exploited Children (NCMEC), el centro de intercambio estadounidense que redirige estos informes a las autoridades.

Los informes confirmados de CSAM enviados por OpenAI a NCMEC aumentaron significativamente en 2025, un aumento que la empresa atribuye al crecimiento de sus productos.

Cómo llegó OpenAI

El 8 de abril de 2026, OpenAI lanzó un Plan de Seguridad Infantil desarrollado en colaboración con NCMEC y otras organizaciones.

Ese documento se basó en gran medida en la política. Enfatizó que los marcos legales necesitan ser modernizados para abordar el CSAM generado por IA, una categoría para la cual las leyes existentes no fueron diseñadas.

Descargo de responsabilidad: La información contenida en esta página puede proceder de terceros y no refleja necesariamente los puntos de vista u opiniones de KuCoin. Este contenido se proporciona solo con fines informativos generales, sin ninguna representación o garantía de ningún tipo, y tampoco debe interpretarse como asesoramiento financiero o de inversión. KuCoin no es responsable de ningún error u omisión, ni de ningún resultado derivado del uso de esta información. Las inversiones en activos digitales pueden ser arriesgadas. Evalúa con cuidado los riesgos de un producto y tu tolerancia al riesgo en función de tus propias circunstancias financieras. Para más información, consulta nuestras Condiciones de uso y la Declaración de riesgos.