Saltar al contenido
IA

Inkling 2 Mini llega con pesos abiertos y cabe en una Mac con 32 GB de memoria

Thinking Machines estrena un modelo de 26,400 millones de parámetros que reutiliza sus capas centrales. La ejecución local exige más memoria que los 20 GB que ocupan sus pesos.

por Patricia Rodriguez
Introducing Inkling 2 Mini
Foto: Thinking Machines Lab, términos de uso, vía thinkingmachines.ai

Thinking Machines Lab lanzó el 20 de noviembre Inkling 2 Mini, un modelo de inteligencia artificial con pesos abiertos que reutiliza parte de sus capas tres veces al procesar cada token. Tiene 26,400 millones de parámetros y puede ejecutarse localmente en ciertas computadoras portátiles. La condición concreta importa: para usar la versión que distribuye la empresa en una Mac con chip de Apple, esta recomienda al menos 32 GB de memoria. El lanzamiento pone una arquitectura distinta al alcance de quienes quieren probar o adaptar un modelo en sus propios equipos.

Repetir capas permite hacer más trabajo sin guardar más parámetros

Inkling 2 Mini tiene 24 capas. Las primeras seis se recorren una vez; las 12 centrales, tres veces; y las últimas seis, una vez. Así realiza 48 aplicaciones de capas por token, una unidad de información que el sistema procesa, a partir de 24 capas cuyos pesos se reutilizan. Es una forma de dedicar más cálculo a la respuesta sin triplicar el tamaño del archivo del modelo.

También es un modelo de mezcla de expertos: selecciona una parte de sus componentes para cada token. Su ficha técnica distingue 3,400 millones de parámetros activos de 5,400 millones de activaciones de pesos por token, esta última cifra contando las pasadas repetidas. Confundirlas exageraría o minimizaría el trabajo que hace el sistema. Los pesos ocupan aproximadamente 20 GB porque la mayor parte se entrenó y se distribuye en un formato de cuatro bits; las últimas cuatro capas usan ocho bits, según Thinking Machines.

El tamaño contrasta con el de Inkling 2 Small, que Thinking Machines presentó a principios de noviembre con 594,000 millones de parámetros totales. En aquel lanzamiento, la empresa todavía condicionaba la apertura de sus pesos a pruebas externas; Mini llega con los suyos disponibles desde el anuncio.

Thinking Machines presenta Inkling 2 Small y mantiene sus pesos cerrados por ahora
Inkling 2 Small ya está en Tinker. Sus pesos llegarían tras pruebas de seguridad y su uso tiene nuevos costos.

Correrlo en una laptop requiere memoria suficiente

La ficha del modelo de Thinking Machines describe un único archivo de unos 20 GB y da soporte a Macs con chip de Apple y 32 GB de memoria o más. Para otras tarjetas gráficas recomienda 32 GB o más de memoria de video. La diferencia entre los 20 GB de los pesos y los 32 GB recomendados evita confundir el tamaño del archivo con toda la memoria que necesita la ejecución: el programa y los datos que procesa también ocupan espacio.

Ollama ya lo incluye en su catálogo para ejecución local. Los pesos están publicados en Hugging Face bajo licencia Apache 2.0. El modelo recibe texto e imágenes y produce texto; Thinking Machines anuncia una ventana de contexto de hasta un millón de tokens. La compañía también lo ofrece en Tinker para generar respuestas y adaptarlo a tareas específicas. Que una instalación admita esa ventana como límite del modelo no indica cuánto contexto cabrá o rendirá bien en cada equipo.

Menos razonamiento escrito no significa siempre menos tokens

Thinking Machines sostiene que repetir capas puede mejorar ciertas tareas con menos tokens de razonamiento explícito. En sus experimentos con una variante de investigación que permite cambiar el número de pasadas, el texto de razonamiento fue más corto al aumentar las repeticiones. Esa comparación estudia distintas configuraciones de la misma arquitectura; no equivale a afirmar que Mini genere menos tokens que cualquier rival.

Las mediciones de Artificial Analysis muestran el matiz: Inkling 2 Mini y Qwen3.8-27B empataron con 20.1 puntos en su índice, pero Mini produjo en promedio unos 152,000 tokens de salida por tarea, frente a unos 110,000 de Qwen. En esa prueba, generó alrededor de 38 % más tokens, aunque la firma estima que usó menos cálculo por tarea. Son mediciones de ese conjunto de evaluaciones y de sus configuraciones, no una predicción de cuánto tardará una respuesta en una laptop particular.

El laboratorio reconoce además que Mini queda detrás de Qwen3.8-27B en conversación de varios turnos y en instrucciones con muchas restricciones. Para investigadores hay una segunda versión cuyos bucles pueden variarse. Goodfire, que recibió acceso anticipado, publicó observaciones preliminares sobre cómo fluye la información entre esas pasadas. La disponibilidad de los pesos permitirá contrastar tanto las pruebas de rendimiento como las preguntas sobre qué parte del razonamiento permanece visible.

Fuentes: 1, 2, 3

Patricia Rodriguez imagen de perfil
por Patricia Rodriguez

Patricia Rodriguez es redactora de FomoEra. Cubre tecnología, ciencia, inteligencia artificial, negocios y actualidad digital. También trabaja en escritura y edición de contenido audiovisual.

Leer más de Tecnología y Ciencia