Galaxyには、もうLLMに必要なものが揃っています

Galaxyのスマートフォンには、言語モデルをローカルで動かせるチップと十分なメモリがあります。適切なモデルを選べば、Samsungがクラウドを使わずに質問に答えます。

Galaxyのハードウェアは準備完了

最近のGalaxyフラッグシップは高速チップと十分なメモリを備え、端末内推論に必要な2つの要素を満たしています。中堅Galaxyの端末でも、小さい側のモデルは問題なく動きます。いまポケットに入っているSamsungで実際の言語モデルをローカル実行できる可能性は高いでしょう。クラウド契約は不要です。難しい部分はすでにハードウェアが解決しています。

モデルと端末を合わせる

公開モデルは、およそ0.5B〜12Bパラメータで動作します。小型モデルは控えめなハードウェアでも軽快に動きますが、大きなモデルはフラッグシップ級のメモリとストレージがほしいところです。Local AIの組み込みモデルブラウザで選択肢を一覧表示し、選んだモデルをそのままダウンロードできます。Galaxyに合うモデルを研究ではなく、ワンタップの実験で試せます。遅いと感じたら、小さいモデルに替えるだけで解決します。

ダウンロードすれば、あとはオフライン

モデルの準備が終えれば、すべての回答は端末内で計算されます。チャットはトークン単位でストリーミングされ、視覚モデルは写真を読み取り、音声アシスタントは口頭の質問に答えます。ネットワークは一切不要です。飛行機の中、トンネル内、電波が届かない場所でも動き続けます。インターネット接続が必要なのは最初の1回だけで、あとは端末だけで完結します。

現実的な期待を持つ

最大のモデルは、どの端末でも応答に時間がかかります。まず小さいモデルから始めて速度を楽しみ、質問が難问题时にもう少し重いモデルを試してください。即答と賢さ、どちらを優先するかはあなたの選択です。モデルの切り替えはダウンロードするだけですコストしかかからないので、自由に試せます。簡単な質問には小さいモデルを常駐させておくのがおすすめです。