Una fotografía de graduación escolar fue convertida en material de abuso sexual infantil mediante Grok, según una demanda contra xAI presentada en un tribunal federal de Estados Unidos. La joven afectada y otras cuatro demandantes sostienen que la empresa debe responder por el daño. En una entrevista publicada por Bloomberg el 11 de noviembre, ella describió el temor de que las imágenes sigan circulando.
La demandante aparece en el expediente bajo el seudónimo Jane Doe 5. Tenía 14 años cuando se tomó la foto. Según la demanda, un hombre utilizó Grok para producir imágenes de abuso a partir de ella y las compartió con otras personas. La joven se enteró por un investigador, relató Bloomberg.
"Está ahí fuera y realmente no puedo hacer nada. Eso es lo que más me asustó", dijo la joven al medio. Bloomberg informó que teme recibir nuevos avisos si las imágenes reaparecen en investigaciones posteriores.
La demanda describe una preocupación compartida por las cinco demandantes: no saber quién ha visto las imágenes ni hasta dónde se han difundido. Que un archivo se retire de un sitio no permite saber si existen otras copias. La afectación que describen no se limita al momento en que descubrieron la manipulación.
De una denuncia de tres jóvenes a una demanda ampliada
El caso comenzó en marzo de 2026 en el Tribunal Federal del Distrito Norte de California. Las tres demandantes iniciales alegaron que fotografías suyas tomadas cuando eran menores se habían usado para producir imágenes sexualizadas. El 7 de julio se incorporaron dos demandantes más, entre ellas Jane Doe 5, según el documento judicial.
La demanda ampliada también agregó a Stability AI como demandada por acusaciones relacionadas con sus modelos de inteligencia artificial. Las reclamaciones sobre las imágenes de Jane Doe 5 se refieren a Grok, el producto de xAI.
Los abogados de las demandantes acusan a las compañías de no haber incorporado salvaguardas suficientes. Entre otros fundamentos, invocan una ley federal conocida como Masha's Law y plantean reclamaciones por presuntos defectos de diseño y negligencia. Solicitan indemnizaciones y medidas judiciales.
La acción se presentó como una propuesta de demanda colectiva. Las acusaciones de quienes demandan no equivalen por sí mismas a una resolución que declare responsable a xAI; corresponde al proceso judicial determinar qué reclamaciones prosperan.
Quién responde por el contenido generado
Una cuestión que podría influir en este tipo de litigios es la Sección 230 de la Ley de Comunicaciones de Estados Unidos. La disposición limita ciertas reclamaciones que tratan a un servicio interactivo como editor de información aportada por otro proveedor de contenido, aunque la norma también contiene excepciones.
Annika Martin, abogada de varias demandantes, sostuvo ante Bloomberg que esa protección no debería eximir a xAI por material generado por Grok. Su argumento distingue la fotografía original de la imagen que produce el sistema. Es una postura de la parte demandante, no una conclusión judicial sobre el caso.
En enero, 35 fiscales generales estatales enviaron una carta a xAI para pedir medidas adicionales frente a las imágenes íntimas generadas sin consentimiento, incluidas las de menores. La carta reconoció que la empresa les había comunicado medidas de protección, pero expresó preocupación por si resultaban suficientes. Era una petición de las autoridades, no una sentencia.
La postura de xAI y otro frente legal
Bloomberg informó que xAI rechazó hacer comentarios para su reportaje por los litigios pendientes. Según el medio, la compañía afirma que prohíbe el uso de Grok para crear este tipo de imágenes y que cuenta con medidas tecnológicas para impedirlo.
Elon Musk también ha atribuido la creación de contenido a las solicitudes de los usuarios. Las demandantes, en cambio, cuestionan el diseño y las salvaguardas del producto. Las posiciones de ambas partes tendrán que examinarse en el proceso; ninguna sustituye una decisión judicial sobre las reclamaciones.
En un litigio separado, xAI impugnó una ley de Minnesota sobre herramientas que alteran fotos para producir imágenes íntimas. La empresa sostiene que la norma vulnera la libertad de expresión. El 2 de octubre, un tribunal federal de apelaciones suspendió temporalmente su aplicación mientras avanzaba la impugnación, informó Reuters. Esa decisión no resuelve la demanda de las cinco jóvenes.
Para Jane Doe 5, el proceso transcurre mientras persiste una incertidumbre más inmediata: no sabe cuántas copias de las imágenes existen ni cuándo podrían volver a aparecer.
