开放的 LLM 权重，跑在你的手机上

开放权重改变了游戏规则：Llama 带火了这个理念，Qwen、Gemma、Phi、LFM 随后跟上，云端聊天机器人同类的模型如今能直接跑在 Android 手机上。本文讲清需要哪三样东西、最省事的上手路径和合理的预期。

“开放权重”到底意味着什么

云端聊天机器人是租给你答案；开放权重模型是把模型文件本身交到你手里。Llama 带火了这个理念，Qwen、Gemma、Phi、LFM 等家族随后跟上——都是能下载到任何地方运行的小模型。

你的手机需要什么

三样东西：一个能跑模型的应用、一个尺寸适合设备的模型文件，以及足够的空闲内存。0.5B 参数的模型普通手机就能跑；12B 想要旗舰硬件和充裕存储。

最省事的路

Local AI 替你铺好管道：模型浏览器一键下载，然后就能用装好的模型流式聊天。下载完成后，没有网络、没有账号、没有服务器掺和。

合理设定预期

手机尺寸的模型擅长打草稿、做摘要、头脑风暴和聊天——而不是数据中心能做的一切。从小模型开始，再逐步加大，直到质量和速度都合你心意。