Qu'est-ce que l'IA sur l'appareil, et pourquoi ça change tout ?

L'IA sur l'appareil expliquée : comment les réseaux de neurones tournent sur le matériel du téléphone, ce que ça change pour la vie privée, la vitesse et le hors-ligne.

Les deux façons de faire tourner l'IA

La plupart de l'IA aujourd'hui est cloud : ton appareil envoie une requête, un data center réfléchit, la réponse revient en streaming. L'IA sur l'appareil place le réseau de neurones sur ton téléphone : le 'cerveau' vit dans ta main, pas dans un rack de serveurs. La différence est architecturale, pas un réglage.

Comment les téléphones sont devenus des machines IA

Les puces modernes intègrent des accélérateurs neuronaux dédiés (NPU), plus des CPU et GPU rapides. La quantification réduit les modèles à une fraction de leur taille en gardant l'essentiel de leurs capacités. Un modèle de 2 milliards de paramètres qui exigeait un serveur en 2023 tourne confortablement sur un téléphone milieu de gamme aujourd'hui.

Ce que tu y gagnes

Vie privée par la physique : rien à intercepter. Vitesse : pas d'aller-retour réseau. Fiabilité : marche avec zéro barre. Coût : pas d'abonnement à un modèle hébergé. Le compromis honnête est la capacité : les plus gros modèles restent dans les data centers, mais pour le chat, les documents, les histoires et les outils, un modèle de poche est déjà étonnamment bon.