--- title: "RAGはなぜ万能ではないのか" canonical: "https://novajournal.net/understanding-ai/retrieval/vol-9/" publishedAt: "2026-04-03" author: "NOVA JOURNAL編集部" category: "生成AIの仕組み入門" subCategory: "検索・記憶・参照の仕組み" tags: ["AI基礎知識", "情報リテラシー"] --- # RAGはなぜ万能ではないのか **RAGは情報不足を「減らす」仕組みであり、「ゼロにする」仕組みではありません。** ### この記事でわかること - RAGが万能ではない理由（検索ズレ・情報ズレ・要約ズレの3つ） - 「見つける」と「使う」の2段階があること - 情報の置き方・整え方が精度に直結する理由 --- RAGの話を初めて聞くと、期待が高まります。 社内情報を見られる。FAQもマニュアルも規程も参照できる。一般論ではなく、自社の文脈に沿って答えられる。それなら、実務に近づく気がする。 この期待自体は間違っていません。実際、RAGは強いです。 でもここでひとつ大事なことがあります。RAGがある＝何でも正しく答えられる、ではありません。 むしろRAGを入れたあとに起きやすいのは、「思ったより完璧ではない」というギャップです。たしかに資料は見ていそう。でも欲しい答えと少しズレる。近い情報は出るのに、ぴったりではない。古い情報を拾う。まとめ方が微妙。 なぜか。RAGは魔法の正解装置ではなく、**検索と参照を使って情報不足を「減らす」仕組み**だからです。「減らす」であって「ゼロにする」ではない。この感覚が大事です。 ### 一番起きやすい問題は「そもそも拾う情報がズレる」こと RAGがうまくいかないとき、最初に見るべきはここです。 AIが悪い要約をしたというより、そもそも拾ってきた情報がズレていることがあります。 たとえば質問が「育休の申請期限はいつですか？」だったとします。本当に必要なのは「申請期限」に関する規程やFAQです。でも検索の結果として、育休制度全体の説明、給付金に関する記述、関連するが少し違う制度、古い人事通知などが上に来てしまうことがある。 するとAIは、それらを見てもっともらしくまとめます。文章としては自然でも、答えとしては少しズレる。 つまりRAGの弱さは、「生成のズレ」の前に**「検索のズレ」として起きることがある**のです。 ![](/images/articles/32cb0067d9698144849ace5c5cfe2e86.png) 文書のどう分けるか（チャンクの切り方）でもこの質は変わります。粗すぎると余計な文脈が多くなり本当に必要な箇所が埋もれる。細かすぎると前後関係が切れて意味が薄くなる。RAGは「文書があるから大丈夫」ではなく、その文書をどう切って、どう探せる状態にしているかでも変わります。 ### RAGには「見つける」と「使う」の2段階がある ここは大事な視点です。 RAGをひとまとめに見てしまうと、「資料を参照しているかどうか」だけで考えがちです。でも実際には少なくとも2段階あります。 1段階目は、資料をちゃんと見つけられるかです。質問に近い文書を拾えるか、必要なチャンクを持ってこられるか、古い情報やノイズを減らせるか。 2段階目は、資料をうまく使って答えられるかです。必要な箇所を読めるか、例外条件を落とさないか、まとめ方がズレないか、過剰に一般化しないか。 つまりRAGがうまくいくかどうかは、**検索の質と生成の質の両方**にかかっています。 ![](/images/articles/32cb0067d96981a08232e7b2a5f060fe.png) 実務で厄介なのが「最新版問題」です。社内情報は存在しているだけでは足りません。どれが最新かが重要です。旧版と新版が混ざっていると、内容としては近いが版が古い、説明も自然だから余計に気づきにくいということが起きます。 複数の資料が少しずつ違う場合もあります。AIは矛盾や差異を「そのまま見せる」より「それっぽく整えてしまう」ことがある。きれいに見えるけど微妙に混ざっている、どれか一つの正式ルールではない、という答えになることがあります。 ### RAGがうまくいかないとき、原因は「情報の置き方」にあることも多い これも実務でよくあります。 RAGが微妙だと、つい「このAI、そんなに賢くないのでは」と思いやすい。でも実際にはAIそのものより前に、情報の置き方や整え方が原因のことが多いです。 | 原因 | 具体例 | 対策 | | --- | --- | --- | | 資料が散らばっている | 同じテーマが複数ファイルに分散 | テーマ単位で統合・整理 | | 旧版と新版が混在 | 古い規程と新しい規程が両方拾われる | 最新版のみ参照対象にする | | 1ファイルが長すぎる | 必要な箇所が埋もれる | 見出し単位でチャンク分割 | | 見出しが曖昧 | 検索で正しい箇所に当たらない | 明確な見出し・タイトルに整備 | | 優先順位が不明 | FAQと規程と通知のどれが正か不明 | 参照優先度を設計 | こういう状態だと、RAGは苦しくなります。人間でも探しにくいものは、AIにも探しにくい。**RAGはAIの問題だけではなく、情報整理の問題をそのまま引き受ける**のです。 だからRAGは「入れれば終わり」ではなく、何を参照対象にするか、どう分割するか、どれを優先させるか、最新版をどう管理するか。こういった設計と運用が必要になります。 ### 万能ではないからこそ「使いどころを決めると強い」 RAGが万能ではないなら、結局使えないのか。もちろんそんなことはありません。**万能ではないからこそ、使いどころをちゃんと決めると強い。** FAQベースの一次回答、規程確認の下書き、製品資料を踏まえた説明案、過去資料の比較整理、決裁前の参照チェック。こういうものはRAGの価値が出やすい。 一方で、例外だらけの最終判断、最新性と厳密性が極端に重要な断定、複数資料の矛盾を含んだ正式解釈。こういうものは人が最後に持つ必要があります。 つまりRAGは「全部任せる」ためではなく、必要な情報に近づいた状態で人の仕事を前に進めるために使うと強いです。 --- ### RAGの3つのズレを比較する | ズレの種類 | 何が起きるか | 典型例 | 対策 | | --- | --- | --- | --- | | 検索ズレ | 欲しい情報ではなく近い別情報を拾う | 「育休の申請期限」に「育休制度全般の説明」が来る | チャンク分割や見出し設計の改善 | | 情報ズレ | 古い版や優先度の低い資料を参照 | 旧版の規程をもとに答える | 最新版管理・参照対象の整理 | | 要約ズレ | 参照内容を混ぜたり一般化しすぎる | 複数資料の内容が混ざって一つの回答に | 出典明示・回答形式の指定 | --- ### よくある疑問 #### RAGがうまくいかないとき、まず何を確認すべきですか？ まずAIの生成結果より先に、「どの情報を拾ってきたか」を確認してください。多くの場合、検索の段階でずれています。 #### 資料を全部入れればうまくいきますか？ 全部入れるだけでは不十分です。散らばった資料・旧版の混在・曖昧な見出しなどがあると、検索精度が落ちます。情報の整理が不可欠です。 #### RAGが強い場面と、弱い場面はどこですか？ FAQや規程の一次回答、資料の比較整理には強いです。一方、例外だらけの最終判断や、複数資料が矛盾する場合の正式解釈は人が持つ必要があります。 --- ### まとめ この記事のポイントを3つにまとめます。 - RAGには「検索ズレ・情報ズレ・要約ズレ」の3つのズレが残る。万能ではない - うまくいかない原因はAIだけでなく、情報の置き方・整え方にあることが多い - 万能ではないからこそ、使いどころを決めると強い。「全部任せる」ではなく「人の仕事を前に進めるために使う」が正解 --- **次回は「Web検索とRAGはどう違うのか」をやります。** どちらも「探してから答える」ように見えます。でも実際には役割が違う。「外の情報を探したいのか」「中の情報を参照したいのか」。この切り分けが見えると、使い方がはっきりしてきます。