Thinking Machines Lab presentó Inkling 2 Small, un nuevo modelo de inteligencia artificial que ya puede utilizarse en Tinker, la plataforma de la compañía. A diferencia de su predecesor, sus pesos todavía no están disponibles: el laboratorio de Mira Murati espera publicarlos después de completar pruebas externas de seguridad.
La empresa anunció el 5 de noviembre que pretende liberar los pesos completos bajo licencia Apache 2.0 la semana siguiente. Eso permitiría descargarlos y adaptarlos fuera de su plataforma, pero el calendario sigue condicionado a que concluyan las evaluaciones y las pruebas adversariales. Mientras tanto, Inkling 2 Small está disponible en Tinker para probarlo y ajustarlo a tareas específicas.
Un modelo Small que creció y dejó fuera el audio
Inkling 2 Small tiene 594,000 millones de parámetros en total y activa 17,000 millones por token. Usa una arquitectura de mezcla de expertos, o MoE, que recurre solo a una parte de sus componentes para procesar cada fragmento de información.
Su antecesor, Inkling-Small, tiene 276,000 millones de parámetros totales y 12,000 millones activos. El nuevo modelo supera el doble de su tamaño total, aunque continúa activando una fracción por token. La cifra de parámetros activos no equivale por sí sola a la memoria necesaria para ejecutarlo: también influyen el tamaño completo y el formato en que se almacenen los pesos.
Patricia Rodriguez
La ficha técnica de Thinking Machines indica que el modelo admite texto e imágenes como entrada y genera texto como respuesta. Su ventana de contexto alcanza hasta un millón de tokens, las unidades en que se divide la información procesada. En Tinker, la documentación enumera configuraciones de 64,000 y 256,000 tokens, por lo que el máximo del modelo no describe necesariamente el límite disponible en esa plataforma.
Hay otra diferencia para quienes usaban la primera generación: Inkling 2 Small no admite audio. Tanto Inkling como el anterior Inkling-Small sí procesaban ese formato, según la compañía.
Mejores resultados, con diferencias según la prueba
Artificial Analysis, una firma que evalúa modelos de IA, asignó a Inkling 2 Small 31 puntos en la versión 5.0.1 de su Intelligence Index, 18 puntos más que a Inkling-Small. Entre las mejoras que destaca está FrontierCode 2.0, una prueba de programación en la que el nuevo modelo obtuvo 25%, frente a 5% de su antecesor.
El resultado cambia al compararlo con otros competidores y otras tareas. En Terminal-Bench 4.0, una prueba de trabajo en terminal, Artificial Analysis le atribuyó 13%, frente a 30% de Claude Sonnet 5.5 en configuración media. Las puntuaciones describen esas evaluaciones concretas y no garantizan la misma ventaja o desventaja en cada proyecto.
La firma también observó que el nuevo modelo cometió menos errores al responder preguntas de conocimiento en AA-Omniscience. Parte de la mejora vino de intentar responder menos preguntas, mientras que el porcentaje de respuestas correctas aumentó de 32% a 34%.
El precio por token no cuenta toda la factura
La documentación de Tinker publica para Inkling 2 Small una tarifa de 0.30 dólares por cada millón de tokens de entrada y 1 dólar por cada millón de tokens de salida. El procesamiento de entradas recuperadas de caché tiene una tarifa menor. Para el Inkling-Small anterior, la modalidad de inferencia sin servidor de Tinker fija 1.20 dólares por millón de tokens de salida. Son precios de la plataforma, no del uso de los pesos en infraestructura propia.
En las tareas de su Intelligence Index, Artificial Analysis calculó un costo promedio de 1.18 dólares por tarea con Inkling 2 Small, frente a 0.20 dólares con Inkling-Small. En esa misma evaluación, el nuevo modelo generó alrededor de 150,000 tokens de salida por tarea, frente a unos 37,000 de su predecesor.
La comparación muestra por qué una tarifa menor por token generado no siempre produce una tarea más barata: también importa cuántos tokens utiliza el modelo. Son resultados de las pruebas de Artificial Analysis; el costo real dependerá de la tarea y de la configuración elegida.
Las pruebas de seguridad siguen abiertas
Thinking Machines afirma que sometió al modelo a evaluaciones internas y externas antes de su lanzamiento en Tinker. La empresa reconoció que algunas versiones tempranas llegaron a fabricar resultados, ignorar instrucciones u ocultar lo que habían hecho en tareas difíciles. Para reducir esos comportamientos, dice que ajustó el entrenamiento y añadió controles durante las pruebas.
El laboratorio también reconoce limitaciones en la versión presentada, como respuestas poco concisas y una selección de herramientas que no siempre es la adecuada. La próxima etapa será completar las pruebas externas que la compañía puso como condición para liberar los pesos y permitir que otros ejecuten y adapten el modelo fuera de Tinker.
