ナレッジグラフ×RAGの「GraphRAG」で実現する高精度な社内ナレッジ活用術

1. RAG構築における課題と限界

検索拡張生成（Retrieval-Augmented Generation、以下RAG）は、大規模言語モデル（LLM）の回答精度を向上させる有効なアプローチとして注目されています。社内文書やFAQなどの非構造化データを検索し、その内容をもとに生成AIが応答する仕組みは、従来のチャットボットと比較して格段に柔軟性が高いとされています。しかしながら、RAGをより複雑な実務で活用するにあたっては、いくつかの技術的な課題や運用上の限界が存在します。以下では、特に検索精度とドメイン知識の補完という観点から、RAG構築における主な課題を整理します。

1-1. 構文マッチングによる検索精度の限界

RAGの中核をなす検索フェーズでは一般に、キーワードベースの全文検索や、文の意味を数値化して類似性を測るベクトル検索が用いられます。しかし、これらの手法では、あくまで「質問文と似ている表現」を持つ文書が抽出されるため、「表現が異なるが本質的に同じ意味を持つ文書」を見落としたり、逆に「一見似ているが不適切な情報」を拾ってしまったりすることがあります。また、質問の意図が文脈に依存している場合や、複数の情報を統合して回答を出力する必要がある場合にも、単純な構文マッチングでは不十分です。こうした曖昧な問い合わせや、多義的な表現に対応するには、質問の意味を深く理解し、関連情報を的確に絞り込む高度な検索処理が求められますが、RAGの検索機能単体では限界があります。

1-2. ドメイン知識による補完が必要な場面での課題

もう一つの大きな課題は、検索対象の文書内に明示的な回答が存在しない場合の対応です。企業や自治体の業務では、専門用語や固有の業務フロー、組織特有の用語の使われ方が多く、生成AIが回答を導くためには、それらを理解・補完する「ドメイン知識」が必要となります。例えば、問い合わせ内容が複数の部門にまたがる場合や、文書に書かれていない業務慣習を前提とするようなケースでは、たとえ関連文書が検索されたとしても、生成された回答は曖昧であったり、不正確であったりする可能性があります。RAGは、あくまで「検索で得た情報を前提に応答を生成する仕組み」であり、ドメイン特化の補足的知識を自ら学習することは想定されていません。そのため、精度の高い回答を求めるのであれば、業務用語や組織内の知識構造をあらかじめ設計・補完しておく必要があります。

NTT東日本の生成AIサービスの詳細はこちら！

2. ナレッジグラフの概要と役割

検索精度や回答の信頼性を高めるために、RAGの補完技術として注目されているのが「ナレッジグラフ」です。事実や概念、それらの間にある関係性を「グラフ構造（ノードとエッジ）」で表現した知識モデルで、文書そのものの表現に依存する従来の検索手法とは異なり、ナレッジグラフは情報の“意味的なつながり”に着目し、概念同士の関係を構造化して管理します。Googleの検索エンジンにも用いられており、人間が意味的に理解している“知識”を、コンピュータが扱える形式で表現できることが最大の特徴です。

特定の語句が何を意味するか、どのような文脈で使われているかを明示的に定義することで、同義語の整理や意味の曖昧性解消（disambiguation）にも役立ちます。また、ナレッジグラフは静的な辞書ではなく、データが追加・更新されるたびに旧来データとの関係性を自動で再構成できる柔軟性も備えています。これにより、業務の変化やドキュメントの追加にも対応しやすく、長期的な知識基盤としての活用が見込めます。

NTT東日本の生成AIサービスの詳細はこちら！

3. ナレッジグラフをRAGへ活用するメリット

ナレッジグラフをRAGに組み込むアプローチは、「Graph RAG」とも呼ばれ、近年多くの研究や実装事例が報告されつつあります。この手法は、単に検索結果を補完するだけではなく、ユーザーの意図を意味的に深く理解し、適切な文脈を持った回答を導くための“知識的土台”を提供します。RAGは、もともと文書検索と生成AIを組み合わせたシステムですが、そこにナレッジグラフを加えることで、検索と生成の両フェーズにおいて意味理解の精度が高まり、より正確で信頼性の高い応答が可能になります。

3-1. 検索対象の範囲絞り込みと意味的理解の精度向上

RAGの精度は、検索フェーズでどれだけ関連性の高い情報を取得できるかに依存します。検索の際に、ナレッジグラフが検索範囲を“意味的に絞り込む”ことで、不要な文書や関連性の薄い情報を排除し、的確な文脈を持つナレッジを生成AIに渡すことができます。例として、「人事評価制度の変更について知りたい」といった質問に、単なるキーワード一致では「評価」という単語を含むまったく別の制度文書までヒットしてしまうことがあります。ナレッジグラフが導入されていれば、「人事部門」「制度変更」「過去年度との比較」などの意味的関係性に基づいて、検索対象が絞り込まれ、質問の意図に合致した情報が抽出されやすくなります。ナレッジグラフは単なるタグ付けではなく、概念間の関係性を定義することによって、検索における“意味の迷子”を防ぐ役割を果たします。

3-2. 曖昧な質問への対応力

RAG単体の構成では、ユーザーの問いに対する検索文書の取得は、どうしても表現の類似性や単語同士の意味の近さに依存してしまいます。そのため、質問の意図が曖昧だったり、略語や社内特有の言い回しを含んでいたりする場合、適切な文書が検索されない可能性が出てきます。このような曖昧性に対して、ナレッジグラフは“概念の意味”を解釈し、複数の候補から絞り込む判断材料を与えることができます。

NTT東日本の生成AIサービスの詳細はこちら！

4. ナレッジグラフ×RAGを実現するための導入ステップ

ナレッジグラフとRAGを組み合わせた「Graph RAG」の構築には、単に技術を組み合わせるだけでなく、社内データの特性や業務ニーズに応じた段階的な設計が欠かせません。特にPoC（概念実証）フェーズでは、「どのようなユースケースで有効か」「どこまで実用に耐える精度が出せるか」を評価することが重要です。以下では、Graph RAG導入に向けた代表的な4つのステップを解説します。

4-1. ユースケースの洗い出し

最初のステップは、「どの業務でGraph RAGを活用するのか」を明確にすることです。FAQ対応、業務マニュアル検索、社内規程の照会、システム操作のナビゲーションなど、情報検索が多く発生する領域は数多くありますが、RAGやナレッジグラフが真価を発揮するのは、曖昧な質問が多く、かつ文書を横断した意味的な理解が求められる業務です。対象業務を絞り込む際には、以下のような観点が有効です。

• 社内問い合わせが多い業務
• 属人化している業務
• 文書の量が多く、検索が困難な情報資産を扱う業務
• 正確な情報提示が求められる業務（例：法務・人事・総務）

ユースケースの選定は、その後の設計・評価の精度を大きく左右します。なるべく現場の実態や困りごとを拾い上げたうえで、「誰の、どんな課題を解決するか」を明文化しておくとよいでしょう。

4-2. データ整備と前処理

次に重要なのが、検索対象となる社内文書や業務データの整備です。ナレッジグラフ構築やベクトル検索を行うには、対象データを「機械が処理しやすい形式」に変換しておく必要があります。PDFやWord、Excel、PowerPoint、メール本文など、さまざまな非構造化データが社内には存在しており、これらを一貫したフォーマットに変換し、文字起こしや段落構造の整理、不要情報の削除といった前処理を行う必要があります。また、どの文書がどの部門・プロジェクト・業務に関連しているかといったコンテキスト情報をメタデータとして付与することで、検索精度が大きく向上します。具体的には、以下のようなメタ情報の整備が有効です。

• 文書の発行日・更新日
• 作成部門・担当者
• ドキュメント種別（例：手順書、規程、報告書）
• キーワード／タグ（製品名、業務分類など）

ナレッジグラフの構築においては、さらに「エンティティ（概念）」と「リレーション（関係性）」の定義と抽出が求められます。例えば、「製品A」は「部品B」を含み、「部品B」は「外部企業C」から調達されている、というような知識を、機械が処理できる構造で定義します。この工程では、自動抽出ツールを活用できる部分もありますが、業務固有の語彙や業界特有の文脈は自動処理だけではカバーしきれません。ドメイン知識を持つ現場担当者との連携が不可欠であり、PoC段階でもこの連携体制を構築しておくことが、のちの全社展開において大きな強みとなります。

4-3. 検索・生成エンジン（LLM）の選定

Graph RAGでは、検索フェーズと生成フェーズの両方において、それぞれ適切な技術選定が必要です。検索部分にはベクトル検索エンジンとナレッジグラフ基盤を、生成部分には大規模言語モデル（LLM）を組み合わせます。特に生成部分は、回答の表現力だけでなく、社内データの扱いやすさ、セキュリティ、運用コストといった観点から慎重に選ぶべき要素です。ChatGPT（OpenAI）、Claude（Anthropic）、Gemini（Google）など選択肢は多岐にわたりますが、以下のような観点での比較が必要です。自社のデータの外部送信が認められない場合には、オンプレミスまたは閉域型で動作するモデルの選定が必要になります。

• 対応言語・専門性：日本語対応、ドメイン知識への適応力
• 動作環境：オンプレミス・クラウド・閉域網対応の可否
• セキュリティ：個人情報・機密情報の扱いに関するガイドラインの整備・準拠状況
• カスタマイズ性：RAG構成への統合、トークナイザ設定^※、API対応の柔軟性
• コスト：API料金・推論コスト・ハードウェア要件の妥当性

また、生成AIの特性として避けられないのが「ハルシネーション（正しそうに見える誤答）」のリスクです。RAG構成で不適切な文書が検索された場合、その内容を前提に誤った回答が生成されるケースがあります。これを防ぐためには、検索段階での精度を高めることはもちろん、生成モデル側に「出力根拠の明示」や「コンテキスト制限」の機能を持たせる必要があります。さらに、運用面では、モデルの更新頻度やライセンス形態、サポート体制の有無も導入可否に直結します。PoCの段階であっても、将来的な本番運用や拡張性を見据えた選定基準を持つことが、円滑な導入の第一歩といえるでしょう。

トークナイザ：文章を単語（トークン）単位に分解する処理

4-4. 精度検証と評価・改善

PoCの最後のフェーズでは、Graph RAGが実際に業務に耐えうるレベルで動作するかを検証します。ここでは、単なる技術的な評価にとどまらず、「業務上使えるかどうか」「ユーザー満足度が高いか」といった観点からの評価も欠かせません。

• 回答の正確性や網羅性（F1スコア^※1、BLEUスコア^※2などの自動評価指標）
• 実際の問い合わせに対する回答の一貫性と信頼性（ヒューマン評価）

また、ナレッジグラフの更新性や、業務変更に対する柔軟性など、運用フェーズを見据えた継続的改善の設計も重要です。PoCを通じて得られた知見は、将来的な全社展開や他部門への横展開にも活かせるため、評価・改善フェーズは“検証で終わらせない”ことがポイントになります。

• 1 F1スコア：適合率/精度（Precision）と再現率（Recall）の調和平均を計算した指標
• 2 BLEUスコア：機械翻訳された文章と人間が作成した模範解答（参照翻訳）を比較し、類似性を数値化した指標

NTT東日本の生成AIサービスの詳細はこちら！

5. 生成AIサービス選びにお悩みならNTT東日本の「生成AIサービス」

SaaS型で提供するNTT東日本の「生成AIサービス」では、社内データを活用できるチャット型のAIアシスタントとして日々の業務を強力に支援します。今回解説したRAGの構築や精度向上施策の実施も可能です。また、情報セキュリティに配慮し、生成AIを安全に利用するためのサポートや知識・技術習得のための研修などもできます。適切な生成AI環境のカスタマイズをトータルでサポートいたしますので、RAGの構築をご検討中の方は、NTT東日本にご相談ください。

NTT東日本の生成AIサービス

6. まとめ

RAGとナレッジグラフの連携は、社内ナレッジの利活用を飛躍的に高める有効な手段です。導入検討にはユースケースの整理やデータ整備が欠かせません。生成AIやRAGの導入をお考えの方は、ぜひNTT東日本にお任せください！