Open AI ha anunciado la identificación de la existencia de una campaña proveniente de Irán que es operada por usuarios de ChatGPT, que se encargaron, en conjunto, de generar por medio de la inteligencia artificial por lo menos 100 artículos con firmas falseadas, y publicarlos en por lo menos 20 medios de comunicación de Estados Unidos.
Lo dicho por OpenAI indica que se ha usado su modelo de inteligencia artificial, específicamente, ChatGPT, por medio de su chatbot, para la generación de artículos maleados donde se enfocaba a la crítica del impacto militar de las acciones militares de Estados Unidos contra Irán, en la población del país norteamericano. Pero no es todo, ya que una vez hechos, usaban el mismo chatbot para adaptar cada artículo al medio donde se publicaría, además de colocarles firmas falsas de los supuestos autores.
Isaac Villegas
Identificación de publicaciones falseadas
El Washington Post fue el primero en identificar lo sucedido. Todo empezó con la ubicación de una firma de Ervin Hoskins en uno de sus publicaciones en medios como el Port St. Joe Star, Daily Kos y Middle East Monitor, lo cual les pareció por lo menos extraño y curioso, pero que terminó siendo parte de los autores falseados en las publicaciones generadas por IA.
Después, OpenAI consiguió identificar a siete autores más cuyas firmas habían sido falseadas, asociados a una campaña proveniente de Irán.
La compañía declaró que esta operación indicaba ser proveniente de Irán, y ser parte de una campaña comercial de influencia mandada, es decir, se identificó que era hecha por parte de un grupo o compañía dedica a los trabajos por encargos, y en este caso, lo que supone es que haya sido orquestada por parte del gobierno de Irán, y no por activistas independientes. Aunque no han logado comprobar esto, sino que es solo lo que la información recaba les indicaría.
"La actividad general parecía corresponder a un agente comercial que llevaba a cabo una campaña de influencia por encargo, pero no hemos podido identificar al agente en particular", indicó OpenAI en su comunicado.
OpenAI también declaró que han bloqueado ya todas las cuentas involucradas de ChatGPT en el caso, y que el total de la información relacionada con el evento, ha sido entregada a las autoridades pertinentes.
Isaac Villegas
Por su parte, The Washington Post ha informado que tuvieron contacto con los medios Daily Kos y Middle East Monitor, y que éstos le indicaron que han eliminado todos los artículos publicados que estén asociados con autores erróneos y firmas falsas.
OpenAI no ha dicho nada sobre si mantendrá un monitoreo específicamente orientado a identificar si esta campaña se reestablece, ya que el eliminar las cuentas usadas para lo anterior dicho, no asegura que no puedan crear nuevas y continuar con la misma tarea. Pero es posible que haya atención en ello.
