Come far girare un LLM sul tuo telefono Android

Fai girare un vero LLM direttamente su Android: niente PC, niente cloud, niente account. Scegli un modello, scaricalo una volta, chatta offline per sempre.

Perché far girare un modello linguistico sul telefono stesso

I chatbot cloud mandano ogni parola che scrivi a un data center. Un LLM sul dispositivo esegue lo stesso tipo di rete neurale sul chip del tuo telefono, così le tue domande non lasciano mai la tua tasca: e continua a funzionare in modalità aereo, in volo, in montagna, ovunque.

Passo 1: installa un'app con IA sul dispositivo

Local AI di HandyDude è fatta esattamente per questo. Installala da Google Play: nessun account, nessuna registrazione, niente da configurare. L'app è gratuita.

Passo 2: scegli un modello adatto al tuo telefono

Nel catalogo modelli dell'app trovi piccoli LLM da 0,5B a 12B di parametri. I modelli minuscoli (sotto 1 GB) volano su qualsiasi telefono; quelli da 2-4 GB chiedono un dispositivo di fascia media; i più grandi vogliono un flagship con almeno 8 GB di RAM. Inizia in piccolo: puoi sempre scaricare un cervello più grande dopo.

Passo 3: chatta, completamente offline

Dopo il download una tantum, ogni chat gira in locale. Risposte in streaming, analisi delle foto con i modelli di visione, persino un assistente vocale: tutto senza che un solo byte lasci il tuo telefono.