Offene LLM-Gewichte auf deinem Handy

Offene Modellgewichte haben alles verändert: dieselbe Art von KI-Modell hinter Cloud-Chatbots läuft heute direkt auf einem Android-Handy - so geht's.

Was 'offene Gewichte' bedeutet

Ein Cloud-Chatbot vermietet dir Antworten; ein Open-Weight-Modell gibt dir die Modelldatei selbst. Llama machte die Idee populär, Familien wie Qwen, Gemma, Phi und LFM folgten - kleine Modelle zum Herunterladen und überall Ausführen.

Was dein Handy braucht

Drei Dinge: eine App, die Modelle ausführt, eine Modelldatei in passender Größe und genug freien RAM. 0,5B-Parameter-Modelle laufen auf bescheidenen Geräten; 12B-Modelle wollen Flaggschiffe und viel Speicher.

Der leichte Weg

Local AI übernimmt das Klempnern: ein Modell-Browser mit Downloads per Fingertipp, danach Streaming-Chat mit allem, was du installiert hast. Nach dem Download: kein Internet, kein Konto, kein Server dazwischen.

Erwartungen setzen

Ein handygroßes Modell glänzt bei Entwürfen, Zusammenfassungen, Brainstorming und Gesprächen - nicht bei allem, was ein Rechenzentrum kann. Fang klein an und steig auf, bis Qualität und Tempo passen.