IA no dispositivo vs IA na nuvem

A IA no dispositivo mantém os dados no seu celular; a nuvem os envia a um servidor. Comparação honesta de privacidade, velocidade, custo e qualidade.

Privacidade

IA na nuvem significa que cada prompt, foto e arquivo viaja a servidores de terceiros e pode ser registrado ou usado em treinamento. A IA no dispositivo computa no seu chip: não há nada para interceptar porque nada é transmitido.

Velocidade e disponibilidade

A nuvem pode ser rápida mas soma latência, filas e limites - e morre sem sinal. No dispositivo as respostas começam na hora e funcionam em modo avião; a velocidade depende do seu chip e do tamanho do modelo escolhido.

Custo

Os modelos de fronteira da nuvem vivem atrás de assinaturas e preço por token. Os modelos no dispositivo são pesos open-source: baixe uma vez, use para sempre, de graça. O único medidor é a bateria do celular.

Qualidade, honestamente

Os maiores modelos de nuvem ainda são mais espertos para raciocínio difícil e conhecimento de nicho. Mas para escrita do dia a dia, resumos, tradução e perguntas, os modelos locais de 2-8B já cruzaram a linha do 'bom o suficiente' - e a distância encolhe a cada geração.