> ## Content Index
> Fetch the complete content index at: https://fomoera.com/llms.txt
> Use this file to discover other available public pages before exploring further.

# OpenAI lanza detector de imágenes de abuso infantil y advertencias en ChatGPT
- URL: https://fomoera.com/openai-clasificador-abuso-infantil-advertencias-chatgpt/
- Published: 2026-11-17T00:20:00.000Z
- Updated: 2026-11-17T00:20:00.000Z
- Description: El clasificador estará disponible para organizaciones verificadas y las nuevas advertencias llegarán a cuentas personales de ChatGPT. La ficha del modelo explica qué midieron las pruebas y dónde están sus límites.
- Author: Gerardo Pavez
- Tags: Tecnología y Ciencia, IA

OpenAI anunció un clasificador para ayudar a organizaciones autorizadas a detectar posibles imágenes de abuso sexual infantil, incluidas las generadas con inteligencia artificial. La empresa también presentó advertencias para interrumpir en ChatGPT los intentos de buscar ese material y orientar a las personas hacia ayuda especializada.

El anuncio del 16 de noviembre reúne dos intervenciones distintas. El clasificador está dirigido a equipos de seguridad y protección infantil; las advertencias actúan dentro de las conversaciones de ChatGPT. La compañía afirma que ambos se suman a medidas que ya usaba para detectar, bloquear y reportar abusos.

## Imágenes nuevas y revisión humana

El clasificador analiza señales visuales y asigna puntuaciones para que los equipos den prioridad a los archivos que requieren atención. OpenAI dice que ofrecerá acceso gratuito mediante su API a organizaciones verificadas y que desarrolló la herramienta con asistencia del Centro Nacional para Menores Desaparecidos y Explotados de Estados Unidos, conocido como NCMEC.

Una de las señales apunta a posible material de abuso generado con IA. La ficha del modelo aclara que una puntuación no confirma el origen de una imagen, que sea material de abuso ni su situación legal. OpenAI mantiene la revisión por personal capacitado para los reportes basados en el clasificador.

La herramienta está pensada para complementar las huellas digitales, o hashes, con las que las plataformas identifican archivos ya conocidos. Una imagen nueva necesita identificarse antes de poder incorporarse a esas listas. Esa diferencia importa ante la producción de archivos generados o alterados con IA.

La Internet Watch Foundation (IWF) informó en octubre que sus analistas evaluaron 6,310 imágenes generadas con IA que cumplían la definición legal británica de material de abuso infantil durante el primer semestre de 2026\. En todo 2025 identificaron 4,512\. La comparación enfrenta seis meses con un año completo y cuenta imágenes evaluadas, no a todos los menores afectados ni todo el material que circula en internet.

[La IWF identifica 6,310 imágenes de abuso infantil con IA en seis mesesLa IWF identificó 6,310 imágenes de abuso infantil con IA entre enero y junio de 2026.![](https://fomoera.com/content/images/icon/FomoEra-favicon-512-3a419a7b-a683-46dc-b93d-52d50ea8fbb6.png)FomoEraPatricia Rodriguez![](https://fomoera.com/content/images/thumbnail/fomoera-la-iwf-identifica-6-310-imagenes-de-abuso-infantil-con-ia-en-seis-meses-7eb4ab7a-16x9-v2-1600x900-53ad52f8-d422-4b94-84ce-743be5dfa860.webp)](https://fomoera.com/iwf-imagenes-abuso-infantil-ia-primer-semestre/)

## Qué muestran las pruebas del clasificador

En una evaluación con imágenes cargadas por usuarios, OpenAI estimó que el nuevo sistema señalaría 48% menos archivos para revisión que su herramienta existente y encontraría aproximadamente la misma cantidad de imágenes de abuso. También afirmó que las imágenes señaladas por el nuevo clasificador tenían cerca del doble de probabilidad de contener abuso.

Esa reducción se refiere a los archivos enviados a revisión. No mide qué proporción de todo el material de abuso logra identificar el sistema. La ficha técnica explica que la evaluación sobre tráfico de ChatGPT no midió la tasa absoluta de detección en todo ese tráfico.

En una prueba separada, con un conjunto de 46,849 imágenes y un umbral determinado, el clasificador detectó 80.2% de los 6,849 ejemplos positivos. Los 40,000 restantes eran ejemplos negativos. OpenAI advierte que la composición del conjunto de prueba puede diferir del tráfico real y que esos resultados no garantizan el rendimiento en otros servicios. También reconoce que no pudo descartar por completo el solapamiento de material relacionado entre los conjuntos de entrenamiento y evaluación.

La empresa también encontró diferencias entre grupos en ese conjunto. Con el umbral de la señal general, detectó 61.3% de 142 imágenes positivas etiquetadas como correspondientes a personas negras, frente a entre 84.5% y 90.3% en los otros grupos raciales reportados. Un modelo de lenguaje asignó las etiquetas y los tamaños de los grupos fueron distintos. OpenAI pide interpretar la comparación como orientativa: las etiquetas no están verificadas y los datos no explican la causa de las diferencias.

## Advertencias y pausas en ChatGPT

OpenAI dice que las nuevas advertencias buscan interrumpir los intentos de encontrar material que sexualiza a menores, explicar el daño y ofrecer acceso a apoyo especializado. En el anuncio describe una pausa de 24 horas en el acceso y la retirada de la conversación señalada. Las infracciones reiteradas pueden llevar a restricciones más largas, cierre de cuenta o reportes a las autoridades.

El centro de ayuda precisa que la intervención puede incluir una suspensión temporal y que la conversación queda oculta en el historial, sin posibilidad de volver a abrirla. También indica que una persona suspendida puede pedir una revisión mediante el enlace del correo de aviso; presentar la apelación no restablece automáticamente el acceso.

La compañía señala que el despliegue es gradual a nivel mundial. Por ahora, estas intervenciones se aplican a cuentas personales en los modos Chat y Work de la web y de las aplicaciones móviles. No están disponibles en el modo de voz, Codex ni las aplicaciones de escritorio, y tampoco se aplican actualmente a conversaciones en espacios de trabajo Business, Enterprise, Edu o Healthcare.

OpenAI publicó además una guía para desarrolladores y anunció herramientas y capacitación para unidades policiales especializadas. La primera herramienta prevista ayudará a revisar registros extensos, identificar posibles vínculos y construir cronologías, con acceso sujeto a autorización. Jeff Jackson, fiscal general de Carolina del Norte, dijo a The Verge que la colaboración con empresas para prevenir este tipo de daño sigue siendo un experimento.

*Fuentes:* [1](https://openai.com/index/strengthening-online-child-safety/?ref=fomoera.com), [2](https://deploymentsafety.openai.com/csam-image-classifier?ref=fomoera.com), [3](https://help.openai.com/en/articles/20001637-child-sexual-abuse-material-csam-warnings-and-account-suspensions-in-chatgpt?ref=fomoera.com), [4](https://www.iwf.org.uk/news-media/news/more-ai-generated-child-sexual-abuse-images-found-in-the-first-six-months-of-2026-than-all-of-2025-iwf-warns/?ref=fomoera.com), [5](https://www.theverge.com/policy/1034527/openai-csam-classifier?ref=fomoera.com)