文書と対話して、根拠を確認する

端末内のRAGでPDFをアップロードせずに質問できます。検索と引用を組み合わせ、実際に問いかけられる文書に変える方法をご紹介します。

文書は質問のために作られたものではない

200ページのPDFは、作者が想定した質問には正確に答えられます。それ以外の答えを得るには、最初から最後まで読み、該当しそうな段落に偶然出会うしかありません。検索はキーワードを探すのに役立ちますが、質問はキーワードではありません。たとえば「この契約は自動更新されますか？」という問いには、「更新」という語を一度も使わない条項が答えを明示しているかもしれません。この隔たりを埋めるのが文書AIです。

まず検索し、その後に回答する

文書Q&Aを確実に構築する方法は、検索拡張生成（RAG）です。文書を複数の区切りに分割してインデックス化し、質問が来たら、回答を書く前に、その問いに直接関係する区切りを取り出します。モデルの役割は根拠を読むことと、それに基づいて答えることに限られます。だからこそ、電話でも動く小さなモデルでも実用的に機能し、回答は原文に忠実なままになります。

引用はオプションではなく核心機能

参照先のない回答は、単なる自信に満ちた一文にすぎません。Offline AI Expertは、回答の根拠となる文書の区切りを引用します。これによりAIの使い方が変わります。AIは、信じるしかない神託ではなく、自分のファイルへ高速にアクセスできるインデックスになります。確認作業も「ともかくPDF全体を読む」から「3つの区切りを確認するだけ」へ。丸一晩かかる作業が数秒で済みます。

より良い質問をする

有効な進め方は、まず大まかに文書全体を把握し（たとえば「ここでの主な義務は何ですか？」）、意外だった点へ掘り下げます（たとえば「解約手数料を定める条項はどれですか？」）。複数のファイルがあるときは、比較することもできます（たとえば「この2つのポリシーは補償範囲について矛盾しますか？」）。各回答には参照元が付くので、文書の奥に眠る情報を、最初から最後まで読み直す苦行なしに少しずつ引き出せます。

すべてネットワークなしで

検索インデックスも、モデルも、ファイルも、すべてスマートフォンの中にあります。文書を開いて質問する操作は、機内モードでも、窓のない地下室の顧客先オフィスでも動作します。そもそもアップロードしてはいけない資料にとって、これは便利な追加機能ではありません。このツールが存在する理由そのものです。