Il tuo Galaxy ha già tutto ciò che serve a un LLM

I telefoni Galaxy hanno chip e memoria per eseguire modelli linguistici localmente. Scegli la dimensione giusta e il tuo Samsung risponderà senza cloud.

L'hardware Galaxy è pronto

I recenti modelli top di gamma Galaxy integrano chip veloci e molta RAM: sono i due ingredienti di cui ha bisogno l'inferenza sul dispositivo. Anche i modelli Galaxy di fascia media gestiscono senza problemi i modelli più piccoli, quindi è probabile che lo Samsung che hai già in tasca possa eseguire localmente un vero modello linguistico. Non serve alcun abbonamento al cloud: l'hardware ha già fatto la parte difficile.

Abbina il modello al telefono

I modelli open vanno da circa 0,5B a 12B parametri. I modelli piccoli girano volentieri su hardware modesti; quelli più grandi richiedono memoria e spazio di archiviazione da flagship. Il browser di modelli integrato in Local AI mostra le opzioni e scarica direttamente quello che scegli, così abbinare un modello al tuo Galaxy diventa un esperimento con un tocco, non una ricerca. Se un modello sembra lento, la soluzione è sceglierne uno più piccolo.

Un download, poi offline

Una volta scaricato il modello, ogni risposta viene elaborata sul telefono. Le chat scorreggono token per token, i modelli di visione analizzano le tue foto e l'assistente vocale risponde alle domande dette a voce, senza alcuna rete. Continua a funzionare in aereo, nei tunnel e ovunque il segnale perda campo. Internet serve solo una volta; dopo, il telefono è tutto ciò che serve.

Ponte le tue aspettative

I modelli più grandi mettono alla prova la pazienza su qualsiasi telefono, quindi inizia da uno piccolo e goditi la velocità; poi prova un modello più impegnativo quando una domanda merita più ragionamento. La scelta tra risposta immediata e risposta brillante è tua: poiché cambiare modello costa solo un download, c'è spazio per sperimentare. Tieni installato un modello piccolo per le domande rapide.