Una red de más de 400 aplicaciones y dominios conectados ofrecía funciones para crear imágenes sexuales falsas sin consentimiento bajo la apariencia de herramientas cotidianas de inteligencia artificial, según una investigación de WIRED. Los investigadores siguieron anuncios publicados en Facebook e Instagram; entre la publicidad examinada había material de abuso sexual infantil generado con IA.
Algunas aplicaciones se presentaban como herramientas para crear retratos de mascotas, aprender idiomas o hacer ejercicio. WIRED informó que podían mostrar funciones distintas de las anunciadas. La organización AI Forensics, que también investigó la red, sostiene que detectó más de 400 aplicaciones publicadas en las tiendas de Apple y Google.
Las dos cifras tienen alcances distintos: AI Forensics habla de aplicaciones publicadas y WIRED de aplicaciones y dominios conectados. Ninguna indica por sí sola cuántas seguían disponibles al publicarse la investigación ni cuántas personas resultaron afectadas.
De la publicidad a las tiendas
El seguimiento de anuncios de Meta llevó a los investigadores hasta la red, de acuerdo con WIRED. El medio ya había informado en septiembre que el Tech Transparency Project detectó cientos de anuncios con material de abuso sexual infantil en las plataformas de la compañía. Algunas piezas incluían imágenes de menores reales.
En agosto, una investigación anterior de WIRED sobre publicidad en Meta había llevado a Apple a retirar una aplicación después de que el medio consultó a la empresa.
El análisis de AI Forensics citado por WIRED identificó 27 aplicaciones de la red que estaban disponibles en Google Play en septiembre y que sumaban más de 350,000 descargas. Esa cifra no permite saber cuántas personas usaron las funciones ocultas ni cuántas imágenes se crearon.
Qué respondieron las plataformas
Apple retiró 19 aplicaciones de su tienda después de que WIRED le preguntó por la actividad y compartió los dominios asociados, informó el medio. La empresa sostuvo que las apps cumplían sus reglas cuando fueron revisadas y que sus desarrolladores cambiaron el contenido al que se conectaban después de la aprobación.
Google no respondió a la solicitud de comentarios de WIRED sobre esta red, según el reportaje. El medio añadió que la compañía ya había retirado la mayoría de las aplicaciones identificadas en su tienda antes de recibir la consulta.
Meta dijo a WIRED que ya había eliminado cerca de dos tercios de más de 3,000 anuncios asociados con los dominios identificados por el medio. También afirmó haber bloqueado a 209 aplicaciones para anunciarse en sus plataformas y haber tomado medidas contra cuentas y páginas vinculadas.
Apple reforzó sus directrices de revisión en octubre y reiteró que prohíbe las aplicaciones que generan imágenes sexuales de personas reales sin su consentimiento. La política de contenido generado con IA de Google Play también prohíbe los deepfakes sexuales no consentidos. Según la versión de Apple, su revisión inicial no impidió que las aplicaciones mostraran contenido distinto después de ser aprobadas.
Al cierre del reportaje, WIRED seguía encontrando anuncios y aplicaciones similares en las plataformas. Las cifras de retiradas tampoco aclaran cuántas personas fueron víctimas de las imágenes generadas mediante la red.
