RAG vs 単体LLM(知識の外部参照)

RAG(Retrieval-Augmented Generation)と**単体LLM(Large Language Model)**の比較において、「知識の外部参照」という観点から違いを詳しく説明します。


概要

比較項目 RAG 単体LLM
知識の参照元 外部ドキュメント(検索による取得) モデルに事前学習された内部パラメータ
知識の更新 ドキュメントの差し替えで容易 再学習(ファインチューニング)が必要
応答の柔軟性 最新・ドメイン特化の情報に対応可能 知識のカバー範囲は事前学習時点まで

知識の外部参照における違い

1. 知識の保持場所

  • 単体LLMは事前学習により知識をモデルのパラメータ内部に保持します。例としてGPTやPaLMなどがあります。

    • これにより、高速な応答が可能ですが、知識は固定されており新しい情報への対応が困難です。

  • RAGは知識を**外部ドキュメント(例:Wikipedia、社内文書)**に保持し、それを検索して利用します。

    • 生成前にRetrieverが関連文書を検索し、それをGeneratorが参照することで、動的な知識参照が可能です。

2. 更新性と拡張性

  • 単体LLMは知識を更新するために再学習(ファインチューニングや再事前学習)が必要であり、時間・コストが高いです。

  • RAGは参照するドキュメントベースを入れ替えるだけで知識を更新でき、即時性が高いのが特長です。

3. 応答の信頼性と出典

  • 単体LLMは出典を明示できないため、**幻覚(hallucination)**のリスクがあります。

  • RAGはRetrieverが返すドキュメントを参照して回答を生成するため、情報の出典を明示しやすいです。


使用シナリオにおける使い分け

利用目的 適したモデル
雑談・一般常識 単体LLM(応答速度重視)
最新ニュースの回答 RAG(動的情報取得)
法律・医学などの専門分野 RAG(正確な文献参照が可能)
APIやコードの一般的な解説 単体LLM(トレーニング済み知識で対応可)

まとめ

観点 RAG 単体LLM
外部知識参照 可能(Retrieverで検索) 不可(内部知識のみ)
知識更新のしやすさ 高い(ドキュメント差し替え) 低い(再学習が必要)
出典の提示 容易(参照元を出力可) 困難(暗黙の記憶)
幻覚の抑制 比較的可能(外部情報で裏付け) 難しい(誤情報を生成しやすい)

生成日:2025/06/07