内存：决定你能运行哪些模型的关键配置

设备端 AI 的表现取决于内存。0.5B 到 12B 模型实际需要多少内存，以及如何判断你的 Android 手机能轻松运行到什么程度。

为什么内存是决定性配置

语言模型在思考时必须完整驻留在内存中——整个模型都要加载并随时可用。存储决定你能下载什么，而内存决定你实际能运行什么。因此，搭载同一款芯片的两部手机表现可能大不相同：空闲内存更多的那一部能容纳更大、更聪明的模型。人们说手机“跑不动 AI”时，通常是指它在想法用完之前很久就已经耗尽了内存。

大致的内存阶梯

经验法则：量化模型每十亿参数大约需要 1 GB 空间，存储和运行时内存占用都大致如此。0.5B 到 2B 的模型几乎在任何现代手机上都能流畅运行；3B 到 4B 更适合中端设备；7B 到 8B 需要较新的高端手机；12B 模型则属于旗舰机型——可以运行，但前提是内存充足且没有其他应用争抢资源。

查看你可用的内存

Android 会在“设置 > 关于手机”中显示总内存，但真正重要的是你开始聊天那一刻的可用内存。做个快速测试比看参数表更靠谱：先安装 Local AI，下载一个小模型——几乎任何设备都能运行——然后逐级增大模型，观察回复是否依然流畅。如果切换到其他应用时，Local AI 出现卡顿或重新加载，你就找到了这台手机的舒适上限；更小的模型在这个上限之下依然用得很好。

挤出更多余量

你未必总需要更强的硬件——有时只是需要少一些“室友”。长时间使用前关闭占用资源较多的应用，偶尔重启手机以清理残留内存，快速提问时优先选择较小的模型，让大模型只在真正派上用场时才加载。也要放平心态：提示词得当的 3B 模型完全能漂亮地回答日常问题。更大的内存只是为更大模型留出余量，并不是享受手机 AI 的必要条件。