RAM：動かせるモデルを決める重要なスペック

端末内AIの生死を左右するのはRAM。0.5B〜12Bモデルに必要なメモリと、Androidスマホが快適に処理できるかの確認方法。

RAMが決め手になる理由

言語モデルは、推論する間もメモリ上に置かれます。モデル全体をロードし、待機状態にしておく必要があるのです。ストレージが決めるのは何をダウンロードできるかですが、実際に動かせるかを決めるのはRAMです。同じチップを積んだ2台のスマホでも挙動が大きく異なるのはこのためで、空きメモリが多いほうは、より大きく高性能なモデルを維持できます。人が「スマホではAIを動かせない」と言うとき、通常はアイデアが尽きる前にRAMが足りなくなったという意味です。

大まかな目安

経験則として、量子化モデルは10億パラメータにつき約1GBの容量を必要とし、ストレージだけでなく実行中のメモリにも必要です。0.5B〜2B程度のモデルならほぼ現代のスマホでも快適に動き、3B〜4Bは中級機向け、7B〜8Bには新しい高性能スマホが向きます。12Bモデルはフラッグシップ機向けです。実行は可能ですが、空きメモリが十分で、他のアプリがメモリを奪わないことが条件になります。

手元のリソースを確認する

Androidでは、設定の「端末情報」などに総RAM容量が表示されますが、実際に重要なのは会話する時点の空きRAMです。スペック表より簡単な実験があります。まずLocal AIをインストールし、小さなモデルをダウンロードして試してください。ほぼどんな端末でも動くはずです。次に一段大きいモデルへ切り替え、応答が滑らかかを確かめましょう。アプリを切り替えたときに動作がもたついたり再読み込みしたりするなら、そのスマホが快適に扱える上限が見つかりました。それより小さいモデルなら問題なく動きます。

余裕を作る

必要なのはハードウェアの追加ではなく、メモリを奪う同居人を減らすことかもしれません。長いセッションの前に重いアプリを閉じ、たまにスマホを再起動して古いメモリを解放し、簡単な質問には小さいモデルを使って、本当に役に立つときだけ大きいモデルを読み込むようにします。見方としては、適切に指示すれば3Bモデルでも日常の質問には素晴らしい回答を返します。RAMを増やせば大きなモデル 위한余裕が得られますが、AIを楽しむためにRAMが必須になるわけではありません。