RAGは終わらない — 長文コンテキスト時代にRAGが生き残る理由を実データで見る

1. 「コンテキストが伸びればRAGは不要になる」という誤解

モデルの入力コンテキスト長が伸びるたびに「もうRAGは不要になるのでは」という議論が繰り返される。しかし、この議論はRAGの役割を「コンテキストに収まらない情報を詰め込むための回避策」としてしか見ていない点で不十分だ。

2. 実数値で見る：長文コンテキストの「見た目の性能」と「実際の性能」

長文コンテキストモデルの性能を測る代表的なテストに「Needle in a Haystack（干し草の山から針を探す）」というものがある。大量のテキストの中に1つだけ関連情報を埋め込み、モデルがそれを正しく引き出せるかを測るテストだ。このテストだけを見ると、例えばGoogleのGemini 1.5 Proは99.7%というほぼ満点に近い再現率を記録したと報告されている。

しかし、これは「情報が1箇所にしかない、単純化されたテスト」での結果に過ぎない。より実務に近い、複数の関連情報を横断的に集めて答える必要がある「マルチ情報検索」のテストでは、平均的な再現率はおよそ60%程度まで低下すると報告されている。しかも多くのモデルは、カタログスペック上の最大コンテキスト長に達するよりずっと手前から、性能の劣化が始まることも分かっている。2026年4月時点の実務データでは、GPT-5.5やClaude Opus 4.7、DeepSeek V4-Proのような最新モデルであっても、複数の情報を横断して扱う実運用タスクでの「実効的な」コンテキスト長は20万〜40万トークン程度の帯域にとどまり、それを超えると性能の劣化が無視できなくなるとされている。

さらに、統一的なベンチマークで比較すると、RAG（上位K件を検索して渡す方式）は、単独の長文コンテキストモデルよりも平均スコアで上回り、82.58%という高い勝率を記録したと報告されている。特に注目すべきは、RAGは検索対象の文書量（干し草の山のサイズ）が2,000トークンから200万トークンまで変化しても、ほぼ一定の性能を維持し続けたのに対し、長文コンテキストモデル単体は、対象データが増えるほど精度が急激に低下する傾向を示した、という点だ。

3. RAGが解決している、コンテキスト長では解決しない問題

• 鮮度: 学習データの締め切り後に発生した情報を、再学習なしに反映する
• アクセス制御: ユーザーごとに閲覧可能な情報の範囲を、検索層で厳密に絞り込む
• コスト: 巨大なコンテキストを毎回投入するより、必要な断片だけを渡す方が安い
• 説明可能性: どの文書を根拠に回答したかを、検索結果として提示できる
• スケール耐性: 前述の通り、対象データ量が増えても性能が一定に保たれやすい

これらは、コンテキストウィンドウがどれだけ大きくなっても、検索・権限制御の層を別に持つ限り発生し続ける要件である。

4. 実務上の結論

コンテキスト長の拡大は「RAGを不要にする」のではなく、「RAGの検索精度が多少粗くてもモデル側で吸収できる余地を広げる」という形で効いてくる。ただし、上記の実数値が示す通り、長文コンテキストモデル単体に大量のデータを詰め込む設計は、データ量が増えるほど性能劣化のリスクが高まる。設計上は、検索層とアクセス制御層を引き続き明示的に持ち、長文コンテキストは「RAGで絞り込んだ後の、少数の関連文書をまとめて渡す」用途に使うべきだというのが、現場の一致した見解になりつつある。