OpenAI y Anthropic activaron sus primeras salas de crisis dedicadas a una elección para vigilar posibles usos indebidos de sus herramientas de inteligencia artificial y responder a incidentes en torno a las legislativas del 3 de noviembre en Estados Unidos. Los centros se suman a medidas para ofrecer información electoral y reducir la creación de contenido engañoso, según reportaron Semafor y Politico.
Qué vigilan los equipos
El Centro de Operaciones Electorales de OpenAI reúne a cientos de empleados de distintas áreas y, según Politico, está previsto que funcione hasta que se cuenten todos los votos. El equipo revisa posibles abusos de herramientas como ChatGPT, además de reportes sobre comportamientos inesperados de sus modelos o presuntas infracciones de sus reglas. Lo dirige Josh Lawson, responsable de riesgo cívico y estratégico de la empresa.
Anthropic también preparó una sala para vigilar el uso de su plataforma. Un portavoz dijo a Semafor que el equipo está listo para responder con rapidez a posibles incidentes; el medio no precisó cuántas personas lo integran ni hasta cuándo funcionará.
Las salas acompañan defensas que operan durante todo el año. Anthropic informó en octubre que, en pruebas realizadas con el Institute for Strategic Dialogue y el McCain Institute, Claude rechazaba solicitudes dañinas directas, pero podía pasar por alto una campaña engañosa dividida en varias tareas aparentemente inocuas. La compañía afirmó que añadió clasificadores para detectar mejor ese tipo de abuso, sin ofrecer en ese anuncio una tasa de detección posterior.
Información para votar y recuentos
OpenAI comunicó el 20 de octubre que ChatGPT ya incorporaba en Estados Unidos información sobre registro, plazos y lugares de votación recopilada por la organización no partidista Democracy Works a partir de autoridades estatales y locales. La empresa también indicó que mostraría recuentos de The Associated Press una vez cerradas las urnas. Los resultados certificados corresponden a las autoridades electorales.
Anthropic anunció el 14 de octubre que incorporaría datos de Democracy Works a las respuestas de Claude en Estados Unidos más tarde ese mes y que mostraría resultados durante la noche electoral y los días siguientes. El anuncio consultado no confirma cuándo se activaron esas funciones.
Para consultar directamente a una autoridad, el Gobierno de Estados Unidos ofrece un directorio de oficinas electorales estatales y locales.
Las imágenes y las respuestas también pueden fallar
OpenAI dice que transforma en ilustraciones, en lugar de fotografías realistas, ciertas solicitudes de imágenes que representan interferencia electoral o podrían desalentar el voto. En una repetición de pruebas con seis generadores, el Brennan Center for Justice observó que ChatGPT convirtió casi todas las solicitudes examinadas en dibujos. En otras pruebas, las herramientas de Google y Meta produjeron imágenes falsas de aspecto realista. Los resultados describen las solicitudes ensayadas, no todos los usos posibles.
El contenido escrito plantea otro problema. En una investigación de The Washington Post, ChatGPT y Claude produjeron guías electorales con errores. La prueba se realizó el 23 de septiembre, antes de los anuncios posteriores de las empresas, por lo que no permite concluir cómo responden todas sus versiones actuales. El periódico mantiene una alianza de contenidos con OpenAI.
Patricia Rodriguez
Detectar un intento deliberado de abuso y ofrecer una respuesta correcta son tareas diferentes. Las medidas anunciadas buscan atender ambas, pero las pruebas disponibles muestran por qué sigue siendo necesario contrastar los datos electorales con las autoridades correspondientes.
