Una investigación de 404 Media revela que contratistas externos de OpenAI revisan conversaciones reales de ChatGPT para calificar las respuestas del sistema y ayudar a mejorar sus modelos. Los documentos internos, guías de trabajo y prompts vistos por el medio muestran que las sesiones pueden incluir información personal, aunque el panel no muestre el nombre de usuario. OpenAI reconoce que personal autorizado y proveedores de confianza pueden acceder al contenido de cuentas individuales para mejorar el rendimiento del modelo cuando el usuario no se excluye. En las cuentas Free, Plus y Pro, esa opción está activada por defecto, según la respuesta que la empresa dio a 404 Media.
Qué revisan los contratistas de OpenAI
Los materiales consultados por 404 Media usan el nombre en clave Project Lily y describen un proceso que va más allá de revisar mensajes marcados por seguridad. El contratista recibe un prompt real, que en algunos casos incluye una conversación completa, resume la intención del usuario y compara varias respuestas generadas por ChatGPT.
Después debe señalar qué partes están alineadas o no con los objetivos del modelo, asignar una calificación de 1 a 7 y explicar su decisión. Las guías piden respuestas menos antropomórficas, menos complacientes y más naturales, con especial atención a la llamada adulación excesiva, el uso innecesario de emojis, el tono paternalista y los cierres diseñados para prolongar la conversación.
El material no identifica qué modelo concreto se está entrenando ni aclara si se trata de uno disponible actualmente o de un sistema futuro. Tampoco demuestra que cada conversación sea leída por una persona. Lo que sí documenta es que existe un flujo de evaluación humana sobre conversaciones de usuarios y que el uso de los chats para mejorar los modelos está vinculado a la configuración de datos de cada cuenta.
Anonimizar el nombre no elimina toda la información personal
El panel de los revisores no incluye el nombre de usuario, pero 404 Media encontró casos en los que el prompt aparece acompañado por un resumen de memorias del usuario. Ese resumen puede describir usos anteriores del chatbot, una ubicación aproximada u otro contexto personal. Por eso, quitar el identificador de la cuenta no equivale necesariamente a eliminar todos los datos que podrían revelar quién está detrás de una conversación.
OpenAI dijo al medio que procesa las conversaciones con una versión de Privacy Filter antes de enviarlas a los contratistas. La compañía presentó públicamente ese sistema como una herramienta para detectar y ocultar información personal, pero también reconoce que puede omitir identificadores poco comunes o referencias privadas ambiguas, así como ocultar de más o de menos cuando el contexto es limitado.
La propia documentación de OpenAI advierte que ese filtro no es una certificación de anonimización ni sustituye la revisión humana en ámbitos de alta sensibilidad, como el legal, médico o financiero. En términos prácticos, su función es reducir la exposición directa, pero no convierte una conversación de consumo en un espacio inaccesible para cualquier persona.
Cómo impedir que las nuevas conversaciones se usen para mejorar los modelos
OpenAI explica en su Centro de ayuda que puede usar prompts, respuestas, imágenes y archivos de sus servicios para particulares con el fin de mejorar el rendimiento de sus modelos, según la configuración de la cuenta. Para desactivar esa opción, el usuario debe abrir Settings, entrar en Data Controls y apagar Improve the model for everyone.
La exclusión se aplica a las conversaciones nuevas. No funciona como una orden retroactiva para borrar datos que ya fueron desidentificados y separados de la cuenta, y eliminar el historial tampoco garantiza la eliminación de material que ya pasó por ese proceso o que deba conservarse por razones legales o de seguridad.
Hay dos matices adicionales que suelen perderse en la configuración:
- Una conversación en Temporary Chat no aparece en el historial, no crea memorias y no se utiliza para mejorar los modelos mientras permanezca como temporal. OpenAI puede conservar una copia durante un máximo de 30 días por motivos de seguridad. Si el usuario la guarda, se convierte en un chat normal y vuelve a seguir las preferencias de la cuenta.
- Aunque el entrenamiento esté desactivado, enviar una valoración positiva o negativa puede permitir que la conversación asociada a ese comentario se use para mejorar los modelos.
Para las ofertas empresariales, OpenAI afirma que no entrena por defecto con las entradas y salidas de ChatGPT Business, ChatGPT Enterprise o la API, salvo que la organización decida compartir esos datos. Esa separación no cambia la configuración de una cuenta personal de ChatGPT.
El uso de revisión humana puede ayudar a detectar errores y ajustar conductas difíciles de medir automáticamente, pero también expone la distancia entre la intimidad que simula una conversación individual y la forma en que se procesa detrás del servicio. Para los usuarios, la regla más segura sigue siendo no introducir en un chat de consumo información que no aceptarían que revisara personal autorizado, incluso después de desactivar el entrenamiento.
