スマホのLLMに必要なRAMは?

0.5B〜12BパラメータのモデルをAndroidで動かすには?各サイズが実際に必要とするRAM、ストレージ、速度と、あなたのスマホに合うサイズを解説。

短い答え

目安は、モデルのファイルサイズとほぼ同じ空きRAMに、少しの余裕を足したものです。1GBのモデルには約2GBの空き、4GBのモデルには約6GBを見ます。ストレージは簡単な方で、モデルは数百MBから約8GBまであります。

1GB未満:どんなスマホでも

小さな0.5〜1Bモデルは数秒で読み込み、ここ5年のほぼすべてのAndroidで動きます。素早い質問、文章の書き換え、オートコンプリート的な作業に最適です。

1〜3GB:スイートスポット

6〜8GBのRAMを持つミッドレンジなら余裕で動かせます。日常のチャット、要約、翻訳で、回答品質が本当に賢いと感じ始めるのがこの帯です。

4〜8GB:フラッグシップ領域

最大級のスマホ向けモデル(8〜12B)は、8〜12GB以上のRAMと最近のハイエンドチップが欲しいところです。読み込みも回答も遅くなりますが、ポケットに入るクラウド級に最も近い存在です。Local AI は各モデルのサイズを事前に表示するので、不意打ちはありません。