RAG(Retrieval-Augmented Generation)における「評価指標としての精度(Precision)と再現率(Recall)」は、特に**Retrievalステップ(検索器)**の性能を定量的に評価するために重要です。以下にそれぞれの指標について詳しく説明します。
1. 精度(Precision)の定義と意義
**精度(Precision)**は、「検索された情報のうち、実際に正解(有用・正確)であったものの割合」を表します。
数式
例
-
検索された10件の文書のうち、実際に答えに貢献したものが6件であれば、精度は 6/10 = 0.6 です。
意義
-
精度が高いほど、「生成器が参照する文書の質が高い」ことを意味し、誤情報による生成の劣化を防ぐ上で重要です。
2. 再現率(Recall)の定義と意義
**再現率(Recall)**は、「正解ドキュメントのうち、検索器が実際に見つけ出せた割合」を示します。
数式
例
-
答えに必要な文書が8件あったとして、そのうち6件を検索できた場合、再現率は 6/8 = 0.75 です。
意義
-
再現率が高いほど、「正解に必要な情報を網羅的に取り出せている」ことを示し、情報の欠落による生成の不完全さを防ぐ上で重要です。
3. Precision / Recall のトレードオフ
-
高精度を目指すと再現率が下がりやすく、逆に高再現率を目指すと精度が下がる傾向があります。
-
RAGにおいては、**目的に応じたバランス調整(例:Top-kの設定、類似度の閾値)**が必要です。
4. 応用例:RAG評価時の適用
RAGモデルのRetrieval評価においては、以下のように使われます:
-
Precision@k:Top-k件中、正解文書が何件含まれているか。
-
Recall@k:正解文書群の中から、Top-k件でどれだけカバーできたか。
-
クエリごとにこれらを計算し、全体平均を取って評価します。
5. 補足:生成ステップとの関係
精度・再現率は生成ステップ(Generator)の評価には直接用いられませんが、生成結果の質に間接的に大きく影響するため、Retriever部分の性能として非常に重要です。
生成日:2025/06/07