Saltar al contenido
IA

OpenAI separa a tres investigadores de seguridad por presunto manejo indebido de información

La empresa afirma que violaron sus reglas para manejar información sensible. Un reporte señala que compartieron material con una organización externa de seguridad de IA; aún no se conoce qué contenía.

por Gerardo Pavez
Dos profesionales involucrados en una discusión en el lugar de trabajo revisando documentos.
Foto de cottonbro studio en Pexels

OpenAI se separó de tres integrantes de su equipo de seguridad tras una investigación interna que, según la empresa, detectó violaciones a sus políticas para acceder y manejar información sensible. The Wall Street Journal reportó, con base en personas conocedoras del caso, que los investigadores habrían compartido material confidencial con una organización externa dedicada a la seguridad de la inteligencia artificial. OpenAI no precisó públicamente qué información estuvo involucrada ni identificó a la entidad receptora.

La empresa confirma la salida, pero no detalla el intercambio

Un portavoz de OpenAI dijo a CBS News que la investigación de la compañía concluyó que las tres personas manejaron información sensible fuera de los procedimientos establecidos. La empresa sostuvo que eso infringió sus políticas y dañó la confianza necesaria para el trabajo de sus equipos. Se trata de la conclusión de OpenAI sobre una investigación interna; CBS señaló que la compañía no especificó el tipo de información ni la forma en que se manejó.

El Journal atribuyó a fuentes familiarizadas con el asunto la versión de que hubo un intercambio con un tercero. La declaración empresarial difundida por CBS no identifica a esa organización ni establece qué recibió. Tampoco hay en las fuentes consultadas una respuesta pública de los investigadores que permita incorporar su versión de los hechos.

Las evaluaciones externas tienen reglas públicas de confidencialidad

El 22 de septiembre, OpenAI publicó sus principios para evaluaciones independientes. Allí propuso que organizaciones externas tengan acceso amplio a sus modelos durante el entrenamiento, las pruebas y el despliegue. El documento también exige acordar el alcance de cada evaluación y proteger mediante reglas de seguridad y confidencialidad la información sensible a la que accedan los terceros.

Esa política ayuda a entender por qué la identidad de la organización y las condiciones del presunto intercambio importan. La empresa contempla compartir datos reservados con evaluadores autorizados, pero afirma que en este caso se actuó fuera de sus procedimientos. Ni su declaración ni el reporte consultado permiten establecer si la organización mencionada por el Journal participaba en alguna evaluación aprobada o si el material se relacionaba con incidentes de seguridad de los modelos.

FomoEra había explicado el alcance y las preguntas pendientes del programa de evaluación externa anunciado por la empresa.

OpenAI abrirá sus modelos de IA a evaluación externa
OpenAI dará a evaluadores externos acceso profundo a sus modelos de IA en cuatro áreas. Qué revisarán y qué sigue abierto.

Las tres salidas están confirmadas por OpenAI. El contenido compartido, la identidad del tercero y la versión de los investigadores siguen sin aclararse públicamente, y esos datos determinarían el alcance real del caso.

Fuentes: 1, 2, 3

Gerardo Pavez imagen de perfil
por Gerardo Pavez

Redactor y creador de contenido especializado en deportes y tecnología. Apasionado por todo lo que ocurre dentro y fuera de la cancha.

Leer más de Tecnología y Ciencia