TL;DR:
- AI Forensics probó los nueve editores de imagen más populares de Hugging Face y siete devolvieron una versión desnuda de la mujer que aparecía en la imagen.
- Un señuelo montado por la propia organización recogió 1,081 peticiones en una semana: el 73% eran de contenido sexual y el 6.7% de esas apuntaba a una persona menor de edad.
- La Unión Europea ya votó la prohibición de estos sistemas y las empresas tienen hasta el 2 de diciembre de 2026 para ajustarse.
La organización europea AI Forensics publicó este martes 28 de julio de 2026 un reporte que coloca a Hugging Face, la mayor plataforma de modelos de inteligencia artificial de código abierto, en el centro del problema de las imágenes íntimas no consentidas. Los investigadores probaron los nueve editores de imagen más populares del sitio, con corte al 25 de junio de 2026, y siete devolvieron una versión desnuda de la mujer que aparecía en la foto. No hubo jailbreak ni ingeniería de prompts de por medio: bastó una instrucción directa de seis palabras en inglés, idéntica para todos los modelos. WIRED reportó primero el estudio.
Conviene aclarar de qué se está hablando. Un Space es una demo alojada en la nube de Hugging Face donde cualquiera publica un modelo y el resto puede usarlo desde el navegador, sin instalar nada. Los nueve que entraron a la prueba no se anunciaban como herramientas para desnudar a nadie. Estaban listados como editores de imagen de propósito general, esos que sirven para cambiar un fondo o retocar la luz de una foto.
Ahí está la parte incómoda del hallazgo. No se trata de una categoría marginal que la plataforma pudiera borrar de un plumazo, sino de las herramientas que aparecen primero cuando alguien busca "editar imagen". El reporte contrasta ese comportamiento con el de los servicios comerciales masivos, como Gemini de Google y ChatGPT de OpenAI, que bloquean ese tipo de petición.
El contraste alimenta la discusión que la industria trae abierta desde hace meses sobre qué obligaciones cargan los modelos de pesos abiertos frente a los cerrados.
Patricia Rodriguez
Un señuelo recogió 1,081 peticiones en una semana
Probar modelos dice qué pueden hacer. Para saber qué les pide la gente, AI Forensics montó su propio editor de imágenes en Spaces, configurado para registrar las peticiones sin generar ninguna imagen. En siete días acumuló 1,081 envíos de usuarios, y eso que el señuelo no estaba etiquetado para tareas para adultos ni NSFW. El desglose:
- El 73% de las peticiones era de naturaleza sexual.
- De ese grupo, el 83% pedía desnudar o sexualizar a la persona de la foto subida.
- El 95% de esas imágenes correspondía a mujeres.
- El 6.7% de las peticiones sexuales apuntaba a una persona menor de edad.
Paul Bouchaud, investigador principal de AI Forensics, resume el punto en el reporte: los Spaces probados sirven para producir imágenes íntimas no consentidas y hay usuarios intentándolo de forma activa. El organismo añade otro dato que ordena todo lo anterior: apenas el 3% de los Spaces auditados tenía algún tipo de moderación sobre lo que devuelve el modelo.
Hugging Face prohíbe en sus políticas el contenido sexual creado sin consentimiento explícito y el material que involucra a menores. La brecha, según AI Forensics, no está en el reglamento sino en su cumplimiento: la organización dice no haber encontrado salvaguardas que impidan subir esas herramientas ni usarlas para ese fin. No es la primera alerta del año. En junio, el boletín especializado Transformer documentó que la plataforma alojaba más de una docena de herramientas creadas explícitamente para generar desnudos falsos de figuras políticas estadounidenses. Y la empresa arrastra además el hackeo de sus sistemas de producción por un agente de OpenAI, otro frente abierto este mismo mes.
La UE ya puso fecha y dejó una salida: las salvaguardas técnicas
El reporte cae en un momento muy específico del calendario regulatorio, y ese es su verdadero filo. El 16 de junio de 2026 el Parlamento Europeo aprobó, con 423 votos a favor, 57 en contra y 174 abstenciones, la modificación de la Ley de IA que prohíbe los sistemas capaces de generar material de abuso sexual infantil o de crear imágenes, videos y audios con las partes íntimas de una persona identificable sin su consentimiento.
Léase con cuidado la excepción, porque ahí es donde el reporte y la ley se cruzan: el veto aplica salvo que los sistemas lleguen con salvaguardas técnicas adecuadas para impedir la creación de ese material. Justo lo que AI Forensics encontró en el 3% de los Spaces auditados. La prohibición también alcanza a quien despliega esos sistemas con ese propósito, no solo a quien los fabrica.
"Conseguimos una prohibición total de las aplicaciones de desnudado con IA. Afectan a personas reales, en su abrumadora mayoría mujeres, con el propósito de humillarlas, degradarlas y cosificarlas. Estoy orgulloso de que este Parlamento peleara por la prohibición, que entrará en vigor antes de que termine el año."
Lo dijo Michael McNamara (Renew, Irlanda), correlator de la comisión de Libertades Civiles, durante el debate en el pleno.
En México la ley persigue a quien difunde, no a la herramienta
Del otro lado del Atlántico el enfoque es distinto, y el lector hispanohablante lo nota rápido. México no regula la herramienta: castiga a la persona. La Ley Olimpia nació para sancionar la difusión de contenido íntimo real sin consentimiento, y su encaje con el material sintético depende de cómo esté redactado cada código penal estatal.
El caso más avanzado es Jalisco. El 1 de junio de 2026 su Congreso aprobó una reforma al artículo 176 Bis 3 del Código Penal estatal, impulsada por la bancada de Hagamos, que incorpora expresamente como delito el contenido sexual creado con inteligencia artificial sin consentimiento de la persona representada, con penas de uno a ocho años de prisión más multa.
"Jalisco no podía seguir observando cómo la inteligencia artificial se utilizaba para agredir a las mujeres mientras la ley tenía las manos atadas. Planteamos esta reforma porque la dignidad de las víctimas no puede esperar a que la tecnología sea comprendida por el Código Penal."
Así lo explicó el diputado Tonatiuh Bravo al presentar la iniciativa. En el ámbito federal el tema sigue en la fila: durante 2026 se presentaron en la Cámara de Diputados iniciativas para añadir la conducta al Código Penal Federal, y ninguna se ha convertido en ley.
El resultado práctico es un mapa desigual. Una mujer en Guadalajara tiene hoy un tipo penal que nombra su caso; la misma mujer en otro estado depende de que un juez estire una figura pensada para fotos reales. Y en ninguno de los dos escenarios la ley toca a la plataforma que aloja la herramienta, que es exactamente lo que la Unión Europea decidió hacer.
Hasta ahora, el reloj más concreto de toda esta historia corre en Bruselas: el 2 de diciembre. Contra esa fecha tendrá que correr cualquier empresa que ofrezca modelos de imagen en el mercado europeo, incluidas las que hoy sirven en un navegador sin filtro alguno de salida.
