Google lanzó Gemini Decisions API, una herramienta para que aplicaciones y agentes de inteligencia artificial evalúen hasta 1,000 preguntas sobre una misma entrada en una solicitud. El servicio utiliza el nuevo modelo Gemini Decision 1 y devuelve respuestas estructuradas con una medida de confianza que el programa puede usar para decidir qué hacer después.
La compañía anunció el 11 de noviembre que la API está disponible a través de Gemini API en Google AI Studio. Acepta texto, imágenes, audio, video y documentos PDF, incluso combinados en una misma entrada. Su tarifa de pago es de 0.10 dólares por millón de tokens de entrada; no cobra tokens de salida.
Una entrada compartida, preguntas independientes
Una aplicación de atención al cliente podría enviar, por ejemplo, la foto de un producto junto con la descripción del comprador. Sobre ese material, la API puede evaluar si hay daños visibles, elegir un área de soporte entre opciones definidas y asignar una puntuación de gravedad.
El desarrollador puede combinar tres tipos de pregunta en la solicitud: una comprobación de sí o no, la elección de una opción entre 2 y 255 alternativas, y una puntuación basada en una escala ordenada. En cada caso, el servicio devuelve un indicador de confianza; las respuestas de opción y puntuación también incluyen probabilidades para las alternativas o niveles.
Las preguntas se evalúan por separado. La documentación de Google precisa que una pregunta no ve la respuesta de otra dentro de la misma solicitud. Si el siguiente paso depende de un resultado anterior, la aplicación puede combinar las respuestas por su cuenta o hacer otra solicitud.
El máximo de 1,000 preguntas también comparte espacio con el material que se analiza: la ventana total es de 262,144 tokens entre la entrada y todas las preguntas. Los tokens son unidades de procesamiento que también se calculan para el contenido visual y de audio, por lo que el límite no equivale a una cantidad fija de palabras.
La cifra de confianza es una estimación, no una garantía de acierto. Google recomienda ajustar los umbrales con ejemplos etiquetados del tráfico propio y considerar el costo de los falsos positivos y negativos. Los casos dudosos pueden enviarse a revisión humana.
Qué se cobra y qué ocurre con los datos
La entrada compartida se factura una vez por solicitud, aunque se evalúen varias preguntas. Cada pregunta añade los tokens de sus instrucciones, criterios y formato. Si una solicitud de pago sumara 100,000 tokens de entrada compartida y 20,000 de preguntas, los 120,000 tokens costarían 0.012 dólares a la tarifa anunciada.
Ese ahorro por compartir la entrada ocurre dentro de una solicitud. Gemini Decisions API no admite caché de contexto ni Batch API, de acuerdo con la documentación: si el mismo material se envía en solicitudes separadas, vuelve a contar como entrada. Google también ofrece una cuota gratuita para pruebas.
Los términos de datos merecen atención al elegir el servicio. Google indica que, en los servicios gratuitos, puede usar el contenido y las respuestas para mejorar sus productos y pide no enviar información sensible, confidencial o personal. En los servicios de pago afirma que no usa las instrucciones ni las respuestas para mejorarlos, aunque registra esos datos durante un periodo limitado para seguridad y cumplimiento legal.
Hay una excepción regional: para quienes están en el Espacio Económico Europeo, Suiza o el Reino Unido, los términos de uso de datos de los servicios de pago también se aplican a los servicios gratuitos, según las condiciones de Google.
Cómo se compara con OpenAI
OpenAI ofrece su propia Decisions API con una tarifa base de 0.10 dólares por millón de tokens de entrada sin caché y sin cobro por tokens de salida. Su documentación admite hasta 400 preguntas por solicitud y contempla caché de contexto. También advierte que pueden aplicar recargos por procesamiento regional y multiplicadores para contextos largos.
La diferencia en el número de preguntas no mide por sí sola la precisión ni el costo total de una aplicación. Para cargas que repiten el mismo contexto en solicitudes separadas, la disponibilidad de caché también cambia lo que conviene comparar.
Gerardo Pavez
Google sitúa la latencia de extremo a extremo de Gemini Decision 1 entre 150 y 250 milisegundos en los escenarios que describe para entradas multimodales y contextos de hasta 16,000 tokens. La empresa afirma que se mantuvo casi constante al pasar de 1 a 100 preguntas por solicitud; esa referencia no demuestra el mismo tiempo para todas las solicitudes de hasta 1,000 preguntas.
