TL;DR:
- PrismML liberó Bonsai 27B, una versión comprimida de Qwen3.6 27B de Alibaba, con pesos abiertos bajo licencia Apache 2.0 y ejecución nativa en Mac, iPhone y iPad vía MLX.
- La variante de 1 bit pesa 3.9 GB contra los 54 GB del modelo original en 16 bits, y alcanza 11 tokens por segundo en un iPhone 17 Pro, según la empresa.
- Apple no ha confirmado nada: su CEO describió las pláticas como muy tempranas y Apple no respondió a la solicitud de comentario de CNBC.
PrismML liberó este martes 14 de julio de 2026 su modelo Bonsai 27B, una versión comprimida de Qwen3.6 27B de Alibaba que, según la empresa, corre de forma nativa en Mac, iPhone y iPad a través de MLX. El mismo día, su CEO, Babak Hassibi, dijo a CNBC que Apple está evaluando la tecnología. La variante más ligera ocupa 3.9 GB frente a los 54 GB del modelo original en 16 bits, y los pesos ya están disponibles bajo licencia Apache 2.0. Apple no respondió a la solicitud de comentario de CNBC, y Hassibi describió las conversaciones como muy tempranas.
La compresión es todo el argumento. Un modelo de 27,000 millones de parámetros ocupa unos 54 GB en precisión de 16 bits y, según explica PrismML en su anuncio, incluso una buena versión de 4 bits sigue pesando 18 GB: demasiado para un teléfono y para la mayoría de las laptops. De ahí las dos variantes que la empresa publicó hoy:
- Ternary Bonsai 27B guarda cada peso en tres valores posibles (−1, 0, +1) con escalado por grupos en FP16, lo que da 1.71 bits efectivos por peso y 5.9 GB en total. Es la apuesta por calidad, pensada para una laptop de uso diario.
- 1-bit Bonsai 27B baja a dos valores (−1, +1), con 1.125 bits efectivos y 3.9 GB. Es la que, dice PrismML, entra en el presupuesto de memoria de un iPhone 17 Pro.
Ambas son multimodales, cargan una ventana de contexto de 262K tokens y traen la torre de visión en 4 bits. La empresa sostiene que la representación de bajo bit recorre la red completa, incluidos embeddings, atención, MLPs y la capa final, sin islas de mayor precisión escondidas.
El número del teléfono es 11 tokens por segundo
El anuncio arranca con velocidades de escritorio: hasta 163 tokens por segundo en 1 bit sobre una NVIDIA GeForce RTX 5090, y 87 en un M5 Max. Ninguna de esas dos máquinas cabe en un bolsillo. La cifra del teléfono, la que sostiene el anuncio entero, no aparece en el comunicado: Hassibi se la dio a CNBC. Son 11 tokens por segundo en un iPhone 17 Pro.
El cuello de botella no es el almacenamiento, es la memoria. Un iPhone de 12 GB deja alrededor de 6 GB para que una app cargue un modelo, y ese presupuesto se comparte con la caché KV y las activaciones, explica la propia PrismML. Con 3.9 GB, la variante de 1 bit pasa. Con 18 GB, ninguna versión convencional de un 27B se acerca siquiera.
La empresa acompañó el lanzamiento con una demostración de tareas multimodales con agentes en un iPhone 17 Pro Max. El pie del video, escrito por ella misma, aclara en qué modo corre: "Demo Mode: Cached & Prefilled Image Context".
La compresión cobra su peaje justo donde duele
PrismML publicó su tabla completa, y ahí la historia se lee mejor que en el resumen. Sobre 15 benchmarks evaluados en modo de razonamiento, la variante ternaria conserva 95% del modelo original y la de 1 bit, 90%. En el promedio general, Qwen3.6 27B saca 85.0, la ternaria 80.5 y la de 1 bit 76.1.
Las matemáticas casi no se mueven: 95.3 contra 91.7. El código aguanta: 88.7 contra 81.9. Pero la caída más fuerte de la variante de 1 bit está en tareas agénticas y llamado a herramientas, de 80.0 a 66.0, y en seguimiento de instrucciones, de 78.4 a 65.8. Visión baja de 72.6 a 59.6. Son, justo, las capacidades que PrismML pone al centro de su argumento sobre agentes que viven dentro del aparato.
Hassibi no lo esquivó con CNBC: reconoció que los modelos pierden algunos puntos porcentuales de desempeño y que el conocimiento factual se degrada antes que el razonamiento, las matemáticas o la programación.
Apple no ha confirmado nada
Todo lo que existe del lado de Apple son las palabras del CEO de la startup que quiere venderle algo.
"Realmente están evaluando nuestra tecnología en este momento", dijo Babak Hassibi a CNBC, en referencia a Apple.
Hassibi agregó que Apple y otras empresas han estado midiendo los modelos en velocidad, eficiencia energética y desempeño en dispositivo, que las pláticas van "muy temprano" y que no está claro a dónde llegarán, aunque "las cosas avanzan bien". Apple no respondió la solicitud de comentario de CNBC. La primera versión de esta historia la publicó The Information el 9 de julio, con la mención de que Apple ya había sostenido reuniones con PrismML sobre "formas en que podría usar su tecnología".
9to5Mac fue más directo en su lectura: para el medio, la startup está usando su comunicación con Apple para generar ruido alrededor del lanzamiento, y las conversaciones serias con Cupertino suelen mantenerse calladas.
El contexto ayuda a entender por qué a Apple le interesaría. El Siri renovado que la compañía presentó en la WWDC de junio se apoya en Gemini de Google, según Quartz, y hoy Apple manda las consultas más exigentes a sus servidores privados o a modelos de terceros. Su modelo local, AFM 3 Core Advanced, tiene 20,000 millones de parámetros pero usa arquitectura dispersa: solo entre 1,000 y 4,000 millones están activos a la vez, según The Information. El modelo de PrismML mantiene los 27,000 millones encendidos al mismo tiempo.
Si la inteligencia se muda al teléfono, los chips lo sienten
CNBC lo planteó con claridad: si las afirmaciones de PrismML aguantan pruebas del mundo real, la tecnología podría mover la demanda de memoria y de cómputo en centros de datos, aunque los analistas advierten que la IA seguirá necesitando muchos chips. Para un mercado que lleva semanas nervioso por el gasto en infraestructura, no es un detalle menor.
Patricia Rodriguez
La empresa dice que la compresión reduce la memoria entre 10 y 15 veces, acelera las respuestas de seis a ocho veces y baja el consumo de energía de tres a seis veces frente a versiones convencionales. El siguiente en la fila es Gemma, el modelo abierto de Google, y después modelos mucho más grandes, incluidos los de laboratorios frontera que hoy exigen hardware de centro de datos. "Es muy importante que la inteligencia sea local y que pueda correr rápido", dijo Hassibi.
PrismML nació de un grupo de investigación de Caltech, universidad que posee las patentes y le otorga una licencia exclusiva para comercializarlas. En marzo levantó una ronda semilla de 16.25 millones de dólares encabezada por Khosla Ventures.
Preguntas rápidas sobre Bonsai 27B
¿Qué iPhone necesito para correr Bonsai 27B?
PrismML dice que la variante de 1 bit, de 3.9 GB, entra en el presupuesto de memoria de un iPhone 17 Pro, y su demo corrió en un iPhone 17 Pro Max. A CNBC, la empresa amplió el rango a un iPhone 15 o posterior. Apple no ha validado ninguna de las dos cifras.
¿Cuánto cuesta usar Bonsai 27B?
Nada. PrismML publicó los pesos de las dos variantes bajo licencia Apache 2.0, que permite uso comercial, y abrió además una API de vista previa gratuita por tiempo limitado para desarrolladores. El modelo corre vía MLX en equipos Apple y vía CUDA en GPUs de NVIDIA, con kernels propios de bajo bit.
¿Apple va a usar esta tecnología en Siri?
No hay nada anunciado. Hassibi dijo a CNBC que Apple evalúa los modelos midiendo velocidad, eficiencia energética y desempeño en dispositivo, y que las pláticas son muy tempranas. Apple no respondió la solicitud de comentario. El Siri de iOS 27, en beta pública desde el 13 de julio, se apoya en Gemini de Google.
Lo que hoy existe es un modelo abierto de 3.9 GB que cualquiera puede descargar y probar en su propio iPhone o su Mac, con benchmarks publicados por quien lo fabricó. Lo que no existe es un acuerdo con Apple. Entre una cosa y la otra hay 11 tokens por segundo y una solicitud de comentario que Apple no respondió.
