5分で導入してオフラインチャット

コードもターミナルもアカウントも不要。アプリのインストールから、機内モードで動くLLMとのチャットまで、一步步に解説します。

ステップ1：実行用のアプリをインストール

モデルファイルを読み込んで実行できるアプリが必要ですが、Local AIはそのために設計されています。インストールして開けば、登録の壁はありません。アカウントを一切作らなくても、すべての機能をそのまま使えます。実質的な要件は空き容量だけ。モデルファイルが端末に収まるよう、数GBの空き容量を確保してください。

ステップ2：モデルを選ぶ

アプリ内のモデルブラウザを開き、ダウンロードするものを選びます。初めて試すなら、1B〜3Bパラメータのモデルがおすすめ。文章を書くには十分な一方で、多くのスマホで動く軽さです。ダウンロードをタップし、Wi-Fiで待つだけ。そのモデルはずっと手元に残ります。必要になれば、12Bまでの大型モデルもいつでも選べます。

ステップ3：チャットしてオフラインに

通常のチャットアプリと同じように会話を始めると、モデルが文章を生成するたびに、回答が少しずつストリーミングされて表示されます。さて、ここが動作を確かめる瞬間です。機内モードをオンにして、もう一度質問してみてください。それでも答えられれば、モデルは本当に端末上で動いている証拠です。設定はこれで完了です。サーバーもサブスクリプションも、それ以外の設定も不要です。

始める前に知っておくとよいこと

体験をなめらかにするコツが2つあります。1つは、モデルサイズをスマホに合わせること。応答が遅いなら、遅い回答に耐えるのではなく、1段階小さいモデルに下げましょう。もう1つは、チャット以外の機能を探ること。ビジョンモデルは写真の内容を認識でき、内蔵の音声アシスタントは声での質問に答えます。すべてオフラインで動くので、電波が届かない場所でも使えます。