社内ナレッジ検索AIで「根拠」をどう担保するか｜出典表示の実装3段階

社内の規程やマニュアル、過去の議事録をAIで検索できるようにしたい――この相談は私たちのもとに最も多く寄せられるテーマの一つです。そして導入後、ほぼ例外なくぶつかるのが「この回答、どこに書いてあったの？」という問いです。

この記事は、社内ナレッジ検索AI（いわゆるRAG＝検索拡張生成）の導入を検討している情報システム部門や業務改善担当の方に向けて、回答の根拠をどう担保するかという一点に絞って書きます。精度を上げる技術論ではなく、「間違っているかもしれない回答を、間違っていると人間が判断できる状態にする」ための設計の話です。

なぜ「根拠」がないと社内で使われなくなるのか

一度の誤答で信頼が失われる

実際にあった話です。ある製造業のお客様で、社内規程を対象にしたナレッジ検索を試験導入したときのこと。「出張時の宿泊費の上限は」という質問に対し、AIは金額を含む具体的な回答を返しました。ところがその金額は、3年前に改定される前の旧規程に記載されていたものでした。

古い規程ファイルが共有フォルダに残っていたことが直接の原因ですが、問題の本質は別のところにあります。その回答が旧規程を参照していることを、利用者が知る手段がなかったことです。もし「参照元：出張旅費規程（2021年版）」と表示されていれば、利用者は「あれ、これ古いのでは」と気づけました。

この一件のあと、その部署ではAI検索の利用が明らかに減りました。人は、検証できないものを業務で使いません。

「確認コスト」が削減効果を打ち消す

根拠が示されない回答を業務で使うには、結局その内容を自分で原典に当たって確認する必要があります。検索の手間を減らすために導入したのに、確認の手間が増える。これでは差し引きの効果が出ません。

逆に言えば、根拠の提示は「おまけの親切機能」ではなく、投資対効果を成立させるための必須要件です。ここを後回しにした案件は、たいてい定着に苦労します。

根拠担保の3段階

私たちが設計時に整理している段階は、大きく3つです。上から順に実装コストが上がりますが、扱う情報の重要度に応じて選びます。

段階1：出典ドキュメントのリンク表示

最低限やるべきラインです。回答の下に、参照した文書名とその文書へのリンク（SharePointやGoogle Driveの該当ファイル）を表示します。

ここで見落とされがちなのが、文書のメタ情報を一緒に出すことです。

• 文書名
• 最終更新日
• 版数（あれば）
• 管理部署

特に最終更新日は重要です。先ほどの旧規程の例も、更新日が2021年と表示されていれば防げた可能性が高い。ファイル名だけでは「出張旅費規程.pdf」と「出張旅費規程_最新.pdf」の区別がつきません。

実装上は、ドキュメントを取り込む段階（インデックス作成時）でこれらのメタデータを一緒に格納しておく必要があります。後から追加しようとすると全件の再取り込みになるので、初期設計で決めておくべき項目です。

段階2：引用箇所の特定とハイライト

段階1だけだと、「300ページのマニュアルのどこかに書いてある」という状態になりがちです。これでは確認コストが十分に下がりません。

段階2では、回答の根拠となった具体的な段落やページ番号を提示します。実装方法はいくつかあります。

チャンク単位での位置情報保持：ドキュメントを検索用に分割（チャンク化）する際、各チャンクに「元文書のどのページ・どの見出し配下か」を記録しておきます。回答時にはそのチャンクの原文をそのまま引用として表示します。

回答文中への参照番号の埋め込み：回答の各文に［1］［2］のような参照番号を付け、下部の出典リストと対応させる方式です。生成モデルに対して、参照番号を付けた形式で出力するよう指示します。

この方式には注意点があります。モデルが参照番号を付けること自体は、その文が本当にその出典に基づいている保証にはなりません。番号だけそれらしく振られているケースは実際に起こります。したがって、参照番号と一緒に引用元の原文を必ず併記し、人間が突き合わせられる状態にすることが前提です。番号だけを信じさせる設計にしてはいけません。

段階3：根拠不足時の回答拒否

最も見落とされ、最も効果が大きいのがこれです。

検索で関連文書が見つからなかった、あるいは見つかったが質問への回答としては不十分な場合に、無理に答えさせず「社内文書からは確認できませんでした」と返す設計です。

生成AIは、文脈が不足していても言語的にもっともらしい文章を生成できてしまいます。社内文書に書かれていないことを、一般常識やモデルの学習知識から補完して答えてしまうのです。これが社内ナレッジ検索で最も危険なパターンです。なぜなら、利用者は「社内文書に基づいた回答」だと思って受け取るからです。

実装としては複数の層で対処します。

1. 検索スコアの閾値設定：類似度が一定を下回る場合は、生成工程に進まず「該当なし」を返す
2. プロンプトでの明示的制約：「提供された文書に記載がない場合は、推測せず『記載が見つかりませんでした』と回答してください」といった指示を入れる
3. 回答後の検証：生成された回答が参照文書の内容に含まれているかを、別途チェックする工程を挟む

2だけでは不十分です。指示は守られないことがあります。1と組み合わせ、重要度の高い用途では3まで入れる、という判断になります。

運用フェーズで実際に詰まるポイント

同じ内容の文書が複数バージョン存在する

これが最頻出の課題です。共有フォルダには「_旧」「_v2」「バックアップ」といったファイルが当たり前に残っています。

技術的な対処（更新日でのフィルタ、ファイル名パターンでの除外）もできますが、根本的にはインデックス対象範囲を業務側で決めるしかありません。「この規程については、このフォルダの最新版のみを正とする」という取り決めです。

これはAIの問題ではなく文書管理の問題ですが、AI導入をきっかけに整理が進むケースは多いです。逆に言うと、ここを整理せずに全社の共有フォルダを丸ごと取り込むと、根拠を表示しても混乱が増えるだけになります。

表や図の中の情報

PDFの表組みや、Excelのシートに記載された情報は、テキスト抽出の段階で構造が崩れやすい領域です。抽出結果が崩れていると、出典として原文を表示しても意味が通らない断片が出てきます。

対策としては、表を含む文書は原文ページの画像やリンクを直接参照させる、あるいは表構造を保持できる抽出処理を使うといった方法があります。いずれにせよ、自社の文書のうちどれくらいが表・図を含むかは事前に確認しておくべきです。ここを見ずに進めると、想定外の追加工数が発生します。

権限管理と根拠表示の衝突

出典を表示するということは、その文書の存在を利用者に知らせるということです。人事評価に関する文書や、特定部署限定の資料が検索対象に含まれていると、権限のない利用者に文書名が漏れる可能性があります。

検索の段階で、利用者の権限に応じて対象文書を絞り込む仕組み（アクセス制御を反映した検索）が必要です。回答生成後にフィルタするのでは間に合いません。ここは設計初期に決めるべき事項です。

向かないケースも正直に書きます

以下の状況では、社内ナレッジ検索AIの導入を急ぐべきではないと考えています。

文書が整理されていない、かつ整理する体制もない場合：どの文書が最新か誰も答えられない状態では、根拠を示しても信頼につながりません。まず文書管理から着手すべきです。

回答の正確性が法的・金銭的責任に直結する場合：契約条項の解釈、労務トラブルへの対応など、誤答が重大な結果を招く領域では、AIは「関連文書を探す補助」に留め、判断は人が行う設計にすべきです。この場合、AIには回答を生成させず検索結果の提示のみに絞る方が安全なこともあります。

対象文書が数十件程度しかない場合：単純な全文検索や、文書一覧からの手動参照で足りる可能性があります。導入・運用コストに見合わないことがあります。

まとめ：根拠は後付けできない

社内ナレッジ検索AIにおける根拠の担保は、精度向上のための追加施策ではなく、システムの設計そのものです。

• メタデータ（更新日・版数・管理部署）はインデックス作成時に組み込む
• 引用は「参照番号」ではなく「原文の併記」で担保する
• 根拠がないときに答えない仕組みを、検索・プロンプト・検証の複数層で作る
• 権限に応じた検索対象の絞り込みを初期設計に含める

これらは後からの追加が難しく、特にインデックス設計に関わる部分は作り直しに近い工数がかかります。

私たちが社内ナレッジ検索の案件をお受けする際は、まず対象文書の棚卸しと、どこまでの根拠提示が必要かのすり合わせから始めています。技術的に何ができるかより、業務上どこまでの確認可能性が必要かを先に決めた方が、結果的に早く動くものができるためです。

検討中の方は、まず「この回答の根拠は？と聞かれたとき、何を見せられれば納得してもらえるか」を社内で話し合ってみてください。その答えが、必要な設計を決めます。