
生成AI×RAGで社内ドキュメントを活用!ヘルプデスクでの利用シーンや導入手順を解説

RAGとは「Retrieval-Augmented Generation」の略称で、日本語では「検索拡張生成」と呼ばれます。生成AIとRAGを組み合わせることで、社内規程や業務マニュアルなどの社内ドキュメントを検索し、その内容に基づいた回答の生成が可能です。
本コラムでは、生成AIとRAGを組み合わせた回答の仕組みや社内ドキュメントの活用方法、導入手順、運用上の注意点を解説します。
目次:
- 1. 生成AIにおけるRAG(検索拡張生成)とは
- 2. 生成AIとRAGを組み合わせた回答の仕組み
- 2-1. 利用者の質問を受け取る
- 2-2. RAGで質問に関連する情報を検索する
- 2-3. 生成AIが検索結果をもとに回答を生成する
- 3. 生成AI×RAGによる社内ドキュメントの活用方法
- 3-1. 社内ヘルプデスクの問い合わせ対応
- 3-2. 過去の事例やノウハウの共有
- 3-3. 社内情報を反映した文書作成
- 4. 生成AI×RAGの導入を進める5つの手順
- 4-1. 1.目的と対象業務を決める
- 4-2. 2.参照させるドキュメントを整理する
- 4-3. 3.自社に合った導入方法を選ぶ
- 4-4. 4.検証環境で回答精度と効果を確かめる
- 4-5. 5.運用ルールを整えて利用範囲を広げる
- 5. 生成AI×RAGの導入・運用で注意したい4つのポイント
- 5-1. ドキュメントの品質と鮮度を保つ
- 5-2. 利用者に応じてアクセス権限を設定する
- 5-3. 生成AIの回答内容を確認する
- 5-4. 機密情報・個人情報の扱いを決める
- 6. 社内ドキュメントの活用を支援するNTT東日本の「ミンクスプラス生成AI」
- 7. 生成AI×RAG導入によりヘルプデスク業務が改善された事例
- 7-1. 導入の背景
- 7-2. 導入後のお客さまの声
- 8. 生成AIとRAGの活用に関してよくある質問
- 8-1. 生成AIとRAGの違いは何ですか?
- 8-2. RAGにはどのようなデータを活用できますか?
- 8-3. 生成AI×RAGの導入・運用を外部に相談できますか?
- 9. 生成AI×RAGで社内ドキュメントを業務に活用しよう
1. 生成AIにおけるRAG(検索拡張生成)とは
RAGとは、生成AIが回答を生成する際に、外部のデータベースや文書から質問に関連する情報を検索し、その情報を生成AIに提供する仕組みです。
一般的な生成AIは、事前に学習した情報などをもとに回答します。しかし、社内規程や業務マニュアルなど、一般に公開されていない自社固有の情報や、学習後に更新された情報を参照できるとは限りません。
RAGを組み合わせると、検索対象として登録した文書やデータから質問に関連する情報を検索し、関連する情報を生成AIへ渡せます。自社のデータを生成AIへ再学習させなくても、社内規程や業務手順などの独自情報に基づいた回答を生成しやすくなる点が特徴です。
2. 生成AIとRAGを組み合わせた回答の仕組み
生成AIとRAGを組み合わせた場合、利用者の質問を受け取ってから回答を生成するまでの基本的な流れは次のとおりです。
- 利用者の質問を受け取る
- 質問に関連する情報を検索する
- 検索結果をもとに回答を生成する
2-1. 利用者の質問を受け取る
最初に、チャット画面などを通じて利用者の質問を受け取ります。入力された質問は、関連情報を検索するためのクエリとして処理されます。クエリとは、システムへ検索や処理を求めるために入力する内容です。
たとえば、「育児休業の申請方法を教えて」と入力された場合、質問の内容をもとに、育児休業の申請条件や手続きに関連する情報を検索できる形に処理します。
2-2. RAGで質問に関連する情報を検索する
次に、RAGが検索対象の文書やデータから、質問に関連する情報を検索します。たとえば、育児休業に関する質問であれば、就業規則や人事部門のFAQなどから申請条件や必要書類、手続きの流れなどの情報を探します。
RAGでは、単純にキーワードが一致する情報だけでなく、質問と意味や内容が近い情報を検索することも可能です。また、キーワードや部門・文書種別などの条件を活用して、関連性の高い情報を検索することもできます。
2-3. 生成AIが検索結果をもとに回答を生成する
RAGで検索した情報と利用者の質問を、生成AIの基盤となる大規模言語モデル(LLM)へ渡します。生成AIは、これらの情報をもとに利用者の質問に応じた回答を生成します。
たとえば、育児休業の申請条件や必要書類、申請先などの情報が検索された場合、生成AIはその内容を整理し、利用者にわかりやすい形で回答することが可能です。
この仕組みにより、生成AI自体を再学習させなくても、検索対象の文書やデータを更新することで、新しい情報を回答に反映しやすくなります。
生成AIとRAGを業務に取り入れる際は、必要な機能を備えたサービスを利用することも選択肢の一つです。NTT東日本では、RAGを活用して社内独自のデータを検索し、その内容をもとに回答を生成できる社内向けAIチャットボット「ミンクスプラス生成AI」を提供しています。
社内ドキュメントを生成AIで活用したい方や、RAGを活用した生成AIサービスの導入を検討している方は、以下の資料からサービスの詳細をご覧ください。
3. 生成AI×RAGによる社内ドキュメントの活用方法
RAGを活用すると、社内ドキュメントに蓄積された情報をさまざまな業務に役立てられます。ここでは、代表的な3つの活用方法を紹介します。
3-1. 社内ヘルプデスクの問い合わせ対応
社内規程や業務マニュアル、FAQなどをRAGの参照先にすることで、情報システムや人事、総務などへ寄せられる問い合わせへの対応に活用できます。
たとえば、従業員向けのAIチャットボットに活用する方法があります。従業員が経費精算の方法を質問すると、RAGが関連する規程やマニュアルを検索し、その内容をもとに生成AIが回答を作成する仕組みです。従業員が必要な情報を自分で確認できるようになれば、ヘルプデスクへの問い合わせ件数の削減につながるでしょう。
担当者が回答する場合も必要な資料を探す時間を短縮できるほか、同じ参照情報に基づいて回答することで、担当者による回答品質のばらつきを抑えやすくなります。
関連コラム:社内チャットボットとは?導入メリット・活用シーン・失敗しない運用手順をわかりやすく解説
3-2. 過去の事例やノウハウの共有
過去の対応事例や問い合わせ履歴、業務手順などを社内ドキュメントとして蓄積し、RAGの参照先にすることで、社内に蓄積されたノウハウを必要なときに活用しやすくなります。
たとえば、過去に発生したシステム障害について質問すると、RAGが類似事例や当時の対応方法を検索し、生成AIが必要な情報を提示します。担当者が複数の資料や履歴を一つずつ確認する負担を減らせるでしょう。
経験を持つ担当者のノウハウやナレッジを文書として残しておけば、担当者の異動や退職後も情報を参照しやすくなり、業務の属人化を抑えることにもつながります。
3-3. 社内情報を反映した文書作成
社内規程や業務マニュアル、過去の資料などをRAGで検索し、その内容を反映した文書のたたき台を生成AIで作成できます。
たとえば、社内通知や手続き案内、顧客への回答、報告書など、自社固有の情報を含む文書の作成に活用できます。必要な情報の検索から文章の作成までを支援するため、担当者が一から内容を整理する時間を短縮することが可能です。
4. 生成AI×RAGの導入を進める5つの手順
生成AIとRAGを導入する際は、目的や対象業務を整理したうえで、段階的に進めることが大切です。ここでは、基本的な導入手順を解説します。
4-1. 1.目的と対象業務を決める
はじめに、自社が抱えている課題を整理し、生成AIとRAGを導入する目的を明確にします。たとえば、問い合わせ対応に時間がかかっている場合は、問い合わせ件数の削減や回答時間の短縮などを目的として設定します。あわせて、導入後に効果を検証できるよう、目的に応じた評価指標も決めておきましょう。
次に、対象となる部門や利用者、質問の種類、利用場面を整理し、RAGを適用する業務範囲を決めます。
4-2. 2.参照させるドキュメントを整理する
対象業務に関係する社内規程や業務マニュアル、FAQなどを集め、内容の正確性や更新状況を確認します。古い版や重複・矛盾する文書がある場合は整理し、RAGが参照する情報を明確にしましょう。
また、見出しや文書構造を整理し、長い文書を章や段落などの適切な単位に分けることも、関連する情報を検索しやすくするために有効です。
関連コラム:RAGの回答精度を高める「データクレンジング」の実践法とは?
4-3. 3.自社に合った導入方法を選ぶ
生成AIとRAGを導入する際は、自社で環境を構築するか、事業者が提供するSaaS型サービスを利用するかを検討します。
| 導入方法 | 特徴 | 留意点 |
|---|---|---|
| 自社で構築する | 業務や既存システムに合わせて柔軟に設計できる | 設計・構築・運用に必要な人材や体制を確保する必要がある |
| SaaS型サービスを利用する | 短期間で導入でき、構築・運用の負担を抑えやすい | 利用できる機能や対応データ、既存システムとの連携などがサービスによって異なる |
導入方法を選ぶ際は、必要な機能や導入費用、導入までの期間、運用負担などを比較します。また、機密情報を扱う場合は、データの保存場所やアクセス制御などの情報セキュリティ対策も確認しましょう。
関連コラム:RAG構築サービスおすすめ7選!費用・選び方・導入事例まで解説
4-4. 4.検証環境で回答精度と効果を確かめる
実際の問い合わせを参考に、評価用の質問と期待する回答を用意します。RAGが適切な文書を検索できるか、その情報をもとに生成AIが適切な回答を生成できるかを確認しましょう。
回答できなかった質問や誤った回答も記録し、結果を確認しながら、参照する文書の内容や分け方、検索条件、生成AIへの指示文などを調整します。あわせて、1のステップで設定した評価指標をもとに導入効果を検証し、本格導入の可否を判断しましょう。
4-5. 5.運用ルールを整えて利用範囲を広げる
本格運用に向けて、参照ドキュメントを追加・更新・削除する担当者と手順を決めます。規程やマニュアルの更新内容をRAGの参照データへ反映する流れも整えておきましょう。
また、生成AIの回答を確認する方法や、入力してはいけない情報、誤回答を発見した場合の報告先など、利用時のルールも明確にします。
まずは限定した部門や業務で運用し、回答精度や利用状況を確認しながら、段階的に利用範囲を広げていきましょう。
関連コラム:生成AI導入後の活用促進策:社員研修と運用ガイド
生成AIとRAGの導入にあたり、構築にかかる負担や初期投資を抑えたい場合は、SaaS型サービスの利用が選択肢となるでしょう。NTT東日本の「ミンクスプラス生成AI」はSaaS型で提供しているため、個別にシステムを構築する場合と比べて初期投資を抑えやすく、スピーディーな導入が可能です。
生成AIとRAGをできるだけスムーズに導入したい方は、以下の資料からサービス内容や利用例をご覧ください。
5. 生成AI×RAGの導入・運用で注意したい4つのポイント
生成AIとRAGを業務で継続的に活用するには、ドキュメントの管理やアクセス権限、回答内容の確認などに注意が必要です。ここでは、4つのポイントを解説します。
5-1. ドキュメントの品質と鮮度を保つ
参照するドキュメントに誤りや古い情報が含まれていると、生成AIがその内容をもとに不正確な回答を作成する可能性があります。
社内規程や業務マニュアルを更新した場合は、RAGの参照データにも反映し、旧版を検索対象から外しましょう。また、文書の管理者や更新方法を定め、参照する情報を正確かつ最新の状態に保つことが大切です。
5-2. 利用者に応じてアクセス権限を設定する
部門限定の資料や人事情報などをRAGで参照する場合は、利用者ごとに閲覧できる情報を制限する必要があります。所属部門や役職などに応じてアクセス権限を設定し、本来閲覧できない情報が回答に含まれないようにしましょう。
また、異動や退職に合わせて権限を変更・削除するなど、継続的に管理することも大切です。必要に応じて利用履歴を記録し、不適切なアクセスがないか確認できるようにします。
5-3. 生成AIの回答内容を確認する
RAGを利用しても、質問に適した情報を検索できない場合や、検索した情報を生成AIが誤って解釈する場合があります。そのため、回答が必ずしも正しいとは限りません。
人事制度や契約、法令に関する内容など、重要な判断に利用する場合は、回答内容と参照元を担当者が確認しましょう。また、誤回答や検索漏れが発生した場合は記録し、参照データや検索条件の見直しにつなげます。
5-4. 機密情報・個人情報の扱いを決める
参照する文書や利用者が入力する質問には、機密情報や個人情報が含まれる可能性があります。どのような情報を登録・入力できるか、社内ルールを定めましょう。
利用するサービスについては、データの保存場所や暗号化、アクセス制限の方法を確認します。入力・登録したデータがAIモデルの学習に利用されるかどうかも、利用規約やサービス仕様で確認しましょう。あわせて、利用者向けの研修やガイドラインを通じて、適切な利用方法を周知することも大切です。
6. 社内ドキュメントの活用を支援するNTT東日本の「ミンクスプラス生成AI」
NTT東日本の「ミンクスプラス生成AI」は、RAGを活用して社内独自のデータを検索し、その内容をもとに回答を生成できる社内向けAIチャットボットです。
主な特長は以下のとおりです。
- RAGを活用して社内独自のデータを検索し、回答を生成
- 回答とともに参照元を表示し、根拠を確認可能
- 利用状況を確認できるレポート機能や禁止ワード設定を提供
- 利用者や接続元に応じたアクセス制限に対応
これらの特長により、社内ドキュメントから必要な情報を探す時間を短縮し、問い合わせ対応や情報検索の効率化につなげることが可能です。また、回答の参照元を確認できるため、担当者が根拠となる情報を確認したうえで回答を利用できます。
さらに、生成AI研修やガイドライン策定支援、RAGの精度改善に向けた伴走支援なども提供しています。導入だけでなく、社内での活用方法や運用ルールの整備、RAGの精度改善まで継続的なサポートが可能です。
社内ドキュメントを活用できる生成AI環境を整えたい方は、以下の資料から詳しい機能や利用シーンをご確認ください。
7. 生成AI×RAG導入によりヘルプデスク業務が改善された事例
ここからは、生成AIとRAGを導入することでヘルプデスクの問い合わせ対応時間の短縮に取り組み始めた企業の例をご紹介します。
7-1. 導入の背景
この企業のヘルプデスクには、さまざまな内容の問い合わせが寄せられていました。担当者は質問を受けるたびに、関連する情報が記載されたドキュメントを探して内容を確認する必要があり、回答までに時間がかかっていました。
問い合わせの種類が多いため、必要な情報を見つける作業が担当者の負担となっていたことも課題です。そこで、社内ドキュメントから関連情報を検索し、回答作成を支援する仕組みとして、生成AIとRAGを導入しました。

7-2. 導入後のお客さまの声
導入して間もないため、効果検証はこれからですが、お客さまからは以下のような声が寄せられています。
「問い合わせに対する回答時間が短縮され、業務効率が大幅に向上しました。」
「資料から必要な情報を要約して提供してくれるので、欲しい情報をすぐに得ることができます。」
お客さまの声からも、生成AIとRAGの活用によって、問い合わせ対応や情報検索の効率化が期待できることがわかります。
8. 生成AIとRAGの活用に関してよくある質問
生成AIとRAGの活用に関して、よくある質問に回答します。
8-1. 生成AIとRAGの違いは何ですか?
生成AIは、学習した情報などをもとに文章や回答を生成する技術です。一方、RAGは、質問に関連する情報を外部のデータベースや文書から検索し、その内容を生成AIの回答へ反映する仕組みです。
両者を組み合わせることで、一般に公開されていない社内ドキュメントや、学習後に更新された情報を参照した回答を生成しやすくなります。
8-2. RAGにはどのようなデータを活用できますか?
RAGでは、以下のような社内データを活用できます。
- 社内規程や就業規則
- 業務マニュアル
- FAQ
- 製品・サービス資料
- 過去の問い合わせ記録
- 障害や顧客対応の事例
- 会議資料や報告書
利用できるファイル形式や容量、データベースとの連携方法は、構築するシステムや利用するサービスによって異なります。
8-3. 生成AI×RAGの導入・運用を外部に相談できますか?
生成AIとRAGの導入・運用については、専門事業者への相談も可能です。利用目的の整理や参照データの整備、導入後の精度改善など、自社で必要な支援を整理したうえで相談するとよいでしょう。
NTT東日本では、RAGを活用して社内データを参照できる「ミンクスプラス生成AI」を提供しています。さらに、生成AI研修やガイドライン策定支援、RAGの精度改善に向けた伴走支援などを通じて、導入後の活用や運用もサポートします。
生成AIとRAGの導入から活用・運用についてお悩みの方は、ぜひ以下からお気軽にご相談ください。
9. 生成AI×RAGで社内ドキュメントを業務に活用しよう
生成AIとRAGを組み合わせることで、社内規程や業務マニュアルなどの情報を、ヘルプデスクの問い合わせ対応やノウハウ共有、文書作成へ活用できます。
導入する際は、目的と対象業務を明確にし、参照するドキュメントを整理したうえで、自社に合った導入方法を選びましょう。また、回答精度や業務への効果を検証しながら、段階的に利用範囲を広げることが大切です。
NTT東日本の「ミンクスプラス生成AI」では、社内の独自データをRAGで検索・参照し、回答へ反映できます。また、生成AI研修やガイドライン策定支援、RAGの精度改善に向けた伴走支援なども提供しています。社内ドキュメントを業務へ活用できる環境を整えたい方は、ぜひ以下の資料をお役立てください。
NTT東日本の「ミンクスプラス生成AI」の資料ダウンロードはこちら
- 本コラムに記載されてる会社名、サービス名、商品名は、各社の商標または登録商標です。
生成AIの活用に向けて、地域DXアドバイザーや生成AIエンジニアが徹底サポートいたします。
