AIが答える前に、社内資料やデータベースなど外部の情報源を検索し、その内容を根拠にして回答を生成するしくみ。AIに「カンニングペーパー」を渡すイメージ。
LLMは学習した時点までの知識しか持たず、社内の最新資料も知りません。RAGは、質問に関係する資料をその場で検索してAIに渡し、「この資料にもとづいて答えて」と生成させる方法です。根拠が明示できるため、ハルシネーション対策としても有効です。
モデル自体を作り替えるファインチューニングと違い、資料を差し替えるだけで知識を更新できるのが実務上の強み。「社内ナレッジをAIに答えさせたい」といった用途では、まずRAGから検討するのが定石です。
動きは3ステップです。①ユーザーが質問する(「出張の宿泊費の上限は?」)。②システムが社内規程などの資料庫から、質問に関係する部分を検索して取り出す。③取り出した資料をAIへの指示文に添えて「この資料にもとづいて答えて」と生成させる。ユーザーからは「社内のことを知っているAI」に見えますが、実際は毎回カンニングペーパーを渡しています。
検索部分では、キーワード一致ではなく意味の近さで探す埋め込み(ベクトル検索)がよく使われます。「立て替えたお金」で聞いても「経費精算」の規程が見つかるのはこの技術のおかげです。
どちらも「AIに自社のことを覚えさせたい」ときの選択肢ですが、性質が違います。RAGは資料をその場で渡す方式なので、資料を差し替えれば即・知識が更新され、答えの根拠も示せます。ファインチューニングはモデル自体を追加学習で作り替える方式で、文体や出力形式の癖を仕込むのは得意ですが、知識の更新のたびに再学習が必要です。
使い分けの定石は「知識はRAG、振る舞いはファインチューニング」。社内ナレッジ検索ならまずRAG一択、ブランドの文体を常に守らせたいなら(LoRAなどの軽量な)ファインチューニング、と覚えておけば実務ではほぼ困りません。
RAGの品質は、生成AIより検索の出来で決まります。よくある失敗は、①資料が整理されておらず検索がゴミを拾う(社内文書の重複・旧版が混ざる)、②資料の区切り方(チャンク分割)が悪く文脈が切れる、③「検索に何もヒットしなかったとき」の振る舞いを設計していない、の3つ。AIの選定より先に、資料の棚卸しから始めるのが成功パターンです。
また、RAGを入れてもハルシネーションはゼロになりません。「渡した資料を誤読する」「資料にないことを補完してしまう」ことはあるため、重要な回答には出典表示を付けて人間が確認できるようにするのが実務の作法です。
Retrieval-Augmented Generation(検索拡張生成)の略で、「ラグ」と読みます。検索(Retrieval)で情報を取ってきて、生成(Generation)を強化(Augmented)する、という意味そのままの名前です。
モデル自体は1ミリも賢くなりません。手元の資料を参照できるようになるだけです。ただ実務では「賢さ」より「自社の事情を踏まえた答え」のほうが価値があることが多く、そこにRAGが効きます。
用語を覚えるより、ストーリーで体感するほうが早い。