OpenAI limitará la información sobre armas y sistemas de seguridad que ChatGPT ofrece a adolescentes, incluso cuando una pregunta no muestre señales de intención violenta. La compañía anunció el 30 de octubre de 2026 que las nuevas protecciones comenzarán a desplegarse en las próximas semanas.
La medida amplía las políticas que ya prohibían ayudar a planear o ejecutar actos violentos y limitaban la ayuda para que menores encontraran u obtuvieran armas. Según OpenAI, también abarcará información práctica que pudiera utilizarse para facilitar actos violentos, aunque la consulta parezca inofensiva.
Los adolescentes podrán seguir usando ChatGPT para buscar apoyo y hablar sobre prevención o desescalada de la violencia, señaló la empresa. La protección está prevista para las cuentas incluidas en ChatGPT for Teens, la experiencia para menores de 18 años.
La detección de edad es parte de la protección
OpenAI afirmó que reforzó su sistema de predicción de edad para evaluar nuevas señales durante el uso de ChatGPT y trasladar a la experiencia para menores a las cuentas que corresponda. Ese sistema complementa la edad declarada en la cuenta; una persona adulta clasificada por error puede verificar su edad para retirar las restricciones adicionales.
La precisión de ese mecanismo ya había sido cuestionada. En una evaluación publicada el 7 de octubre, el Youth AI Safety Institute de Common Sense Media probó varias cuentas registradas con una edad de 19 años. Sus evaluadores simularon durante siete días conversaciones de adolescentes y dijeron que las cuentas no pasaron al modo para menores, incluso cuando afirmaron tener 13 años.
OpenAI respondió entonces a Axios que su sistema considera varias señales, que la predicción podía tardar hasta dos semanas y que, mientras tanto, aplicaba protecciones adicionales menos estrictas que las del modo para adolescentes. La prueba del instituto se realizó antes del refuerzo anunciado el 30 de octubre, por lo que no evalúa ese cambio.
La organización también había cuestionado otras salvaguardas de ChatGPT for Teens, incluidas las alertas parentales, en una revisión que OpenAI objetó por su metodología.
Patricia Rodriguez
Cambios para todos los usuarios y nuevas alertas
Las restricciones no se limitarán a menores. OpenAI dijo que reducirá el nivel de detalle de las respuestas sobre ataques masivos anteriores y sus responsables, con independencia de la edad del usuario o del motivo de la consulta. Seguirán permitidas las preguntas orientadas a comprender esos hechos, sus efectos y la prevención, de acuerdo con la compañía.
OpenAI también trabaja en una función capaz de cerrar automáticamente un chat si detecta señales de fijación con la violencia o con la idea de dañar gravemente a otra persona. Si cierra varias conversaciones por ese motivo, podría pausar temporalmente la cuenta.
En cuentas de adolescentes vinculadas a las de sus padres o tutores, la compañía ya contempla avisos cuando se desactiva una cuenta por infracciones relacionadas con la violencia. Ahora trabaja en notificaciones para las pausas temporales asociadas a conversaciones repetidas de ese tipo. Sus controles parentales no dan acceso a los mensajes del adolescente.
Un informe previsto para 2027
OpenAI afirmó que remitió más de 200 alertas a autoridades policiales durante el tercer trimestre de 2026. El anuncio no desglosa cuántas involucraron a menores.
La compañía anunció además un informe sobre seguridad comunitaria que describirá cómo detecta y revisa posibles riesgos, junto con ejemplos anónimos y datos sobre sus medidas. La primera edición está prevista para principios de 2027 y cubrirá la segunda mitad de 2026; después, OpenAI planea actualizarla cada seis meses.
Patricia Rodriguez
