Pesos de LLM abiertos corriendo en tu teléfono

Los pesos abiertos lo cambiaron todo: el mismo tipo de modelos detrás de los chatbots en la nube corre ahora en un teléfono Android - así se hace.

Qué significa 'pesos abiertos'

Un chatbot en la nube te alquila respuestas; un modelo de pesos abiertos te entrega el archivo del modelo. Llama popularizó la idea, y familias como Qwen, Gemma, Phi y LFM la siguieron: modelos pequeños que descargas y ejecutas donde quieras.

Qué necesita tu teléfono

Tres cosas: una app que ejecute modelos, un archivo de modelo del tamaño adecuado y suficiente RAM libre. Los de 0.5B parámetros corren en teléfonos modestos; los de 12B piden gama alta y bastante almacenamiento.

El camino fácil

Local AI hace la fontanería por ti: un navegador de modelos con descargas de un toque y luego chat en streaming con lo que instalaste. Tras la descarga, sin internet, sin cuenta, sin servidor en el medio.

Poniendo expectativas

Un modelo de tamaño móvil es brillante en borradores, resúmenes, lluvia de ideas y conversación; no en todo lo que hace un centro de datos. Empieza con uno pequeño y sube hasta que calidad y velocidad cuadren.