RAGの限界とハルシネーション対策：検索は万能ではない

検索拡張生成（RAG）は、言語モデルの回答を外部文書に接地させることで、事実性の課題を軽減する手法として期待されてきた。しかし、RAG は万能ではない。検索が適切な文書を取り逃す場面では、かえって誤りが根拠を伴うように見えてしまう。本稿では、RAG の限界とハルシネーションへの対策を整理する。

検索の失敗が生成の失敗になる

Lewis らが提示した RAG の枠組み (arXiv:2005.11401, 2020) は、関連文書を検索し、それを踏まえて回答を生成する。前提となるのは、必要な情報が文書集合の中に存在し、かつ検索がそれを見つけ出せることである。この前提が崩れると、モデルは検索結果の不足を内部知識で補おうとし、根拠のない内容が混入する。関連する情報源の管理については社内検索とRAGで論じた。

つまり RAG の弱点は、生成そのものより検索の段階に潜む。検索が取り逃した情報は、生成の段階では回復できない。

ハルシネーションは検索で消えない

Huang らは「A Survey on Hallucination in Large Language Models」(arXiv:2311.05232, 2023) で、ハルシネーションを学習データ、学習過程、推論過程の各段階に由来する現象として整理している。この整理が示すのは、ハルシネーションが単一の原因を持たず、検索の追加という一つの対策で消えるわけではないという点である。

RAG は事実性を改善しうるが、それは検索が成功した場合に限られる。検索が曖昧な文書を返せば、モデルはそれを手がかりに、もっともらしいが誤った回答を構成することがある。もっとも、出典が提示されていれば利用者は原文と照合できるため、被害の範囲は限定される。

対策は組み合わせで考える

ハルシネーションへの対策は、単一の決め手を探すのではなく、複数の層を組み合わせる設計として捉えるのが現実的である。

• 検索精度を高め、関連文書を確実に取得できるようにする。
• 回答に出典を付し、利用者が原文へ遡れるようにする。
• 該当情報が見つからない場合に、モデルが不確実性を表明できるようにする。

ただし、不確実性の表明を強く求めすぎると、モデルが過度に慎重になり、答えられる問いにも「分からない」と応じるようになる。一方で、常に断定的に答える設計は、誤りを検出しにくくする。この均衡の取り方は、AIエージェントの業務適用範囲で論じた自律性と監督の設計と通じるものがある。

接地は保証ではない

RAG が回答を外部文書に接地させることは、事実性への有力な補助線である。しかし接地は保証ではない。検索が失敗すれば、生成もまた失敗する。RAG を導入する際に問われるのは、検索・出典・不確実性という複数の層をどう設計するかであり、生成モデルの性能だけに答えを求める姿勢は、この技術の限界を見落とすことになる。