Empresas de inteligencia artificial están pidiendo a Qualcomm que los teléfonos ejecuten de forma continua modelos de lenguaje de al menos 100,000 millones de parámetros en 2028. Así lo explicó su CEO, Cristiano Amon, en una entrevista con Alex Heath para Sources. La petición lleva al dispositivo una exigencia que depende tanto del procesamiento como de la memoria.
El episodio se publicó el 8 de octubre de 2026 y fue grabado durante el Snapdragon Summit en Hawái. Amon relaciona esa demanda con asistentes capaces de usar aplicaciones y actuar por el usuario. El año de 2028 corresponde a la meta que le plantean esas empresas.
El espacio que ocuparía un modelo de ese tamaño
Los parámetros son los valores numéricos que componen el modelo. Para almacenarlos, importa cuántos bits ocupa cada uno. La documentación de Hugging Face explica que la cuantización reduce ese espacio al representar los pesos con menor precisión, una técnica que busca conservar la calidad de las respuestas mientras reduce el consumo de recursos.
Con ese principio puede hacerse un cálculo ilustrativo. Si los 100,000 millones de parámetros se almacenaran a 4 bits cada uno, los pesos ocuparían 50 GB en unidades decimales. El resultado sale de multiplicar el número de parámetros por cuatro y dividir entre ocho, porque un byte contiene ocho bits. A 8 bits, el mismo conjunto de pesos ocuparía 100 GB.
Son tamaños teóricos de los pesos, antes de añadir los datos auxiliares de la cuantización y otros elementos necesarios para ejecutar el modelo. También deben considerarse el sistema operativo y las aplicaciones. La guía de Hugging Face señala que las estimaciones de memoria para usar un modelo incluyen, además, la caché que conserva información de la secuencia procesada.
Por eso, tener 50 GB libres de almacenamiento y disponer de esa cantidad de RAM son condiciones distintas. La primera permite guardar datos; la segunda determina cuánto puede mantenerse en la memoria de trabajo. El cálculo describe el espacio del conjunto de pesos bajo una representación concreta, sin fijar cómo tendría que organizarse un futuro teléfono.
Reducir la precisión tampoco es un cambio gratuito. Hugging Face advierte que la cuantización introduce errores y que trabajar a 4 bits suele afectar más a la exactitud que hacerlo a 8 bits. El diseño debe equilibrar el ahorro de memoria con el comportamiento del modelo en las tareas para las que se utilizará.
La investigación sobre carga desde almacenamiento
Apple ha estudiado una alternativa para dispositivos con poca memoria de trabajo. En el artículo científico LLM in a Flash, publicado en ACL 2024, sus investigadores describen un método que guarda los parámetros en memoria flash y lleva a la RAM los datos necesarios durante la ejecución.
El trabajo combina la reutilización de información activada previamente con lecturas de bloques más grandes y contiguos. Los autores reportaron que esas técnicas permitían ejecutar modelos de hasta el doble del tamaño de la memoria DRAM disponible, bajo las condiciones de sus experimentos.
Ese resultado permite entender por qué el tamaño total del modelo y la RAM instalada no tienen una relación única. La organización de los datos y la forma de cargarlos también intervienen. Su alcance es una demostración de investigación sobre memoria limitada, no una validación del objetivo de 100,000 millones de parámetros en un teléfono de 2028.
La meta relatada por Amon exige resolver cómo almacenar y alimentar al modelo durante su uso continuo. La cantidad de parámetros es una parte de esa exigencia; el espacio de los pesos y el movimiento de datos permiten medir otra.
_(54916855499).jpg){kind=link}