RAGを導入するメリットとは?注意点やポイント、成功事例を紹介

RAGは、社内文書や業務データを検索・参照し、その内容をもとに生成AIが回答を生成する仕組みです。RAGを導入することで、自社の情報を生成AIで有効活用し、情報検索や問い合わせ対応などの業務効率化につなげられます。
本コラムでは、RAGを導入するメリットや注意点、導入・構築を進める際のポイント、活用事例を紹介します。
目次:
- 1. RAGとは?
- 2. RAGを導入する3つのメリット
- 2-1. 1.問い合わせ・情報検索業務を効率化できる
- 2-2. 2.最新の情報を回答に反映しやすい
- 2-3. 3.社内ナレッジの共有・活用を進められる
- 3. RAGを導入する際の3つの注意点
- 3-1. 1.データの品質が回答精度を左右する
- 3-2. 2.参照データの情報セキュリティ対策が必要になる
- 3-3. 3.導入後も更新・評価を続ける体制が求められる
- 4. RAGの導入・構築を成功させるための4つのポイント
- 4-1. 1.利用目的と対象業務を明確にする
- 4-2. 2.参照させるデータの範囲を決める
- 4-3. 3.回答品質の評価基準を決める
- 4-4. 4.PoCから始めて段階的に改善する
- 5. RAGの導入が適している業務・活用例
- 6. RAGの導入事例
- 6-1. 「藤沢DX」への活用 - 藤沢市役所さま
- 6-2. 事務事業やデータ活用業務に「RAG」を活用 – 横浜市さま
- 7. RAGをスムーズに導入するならNTT東日本「ミンクスプラス生成AI」
- 8. RAGの導入に関するよくある質問
- Q. RAGの導入にはどのくらいの費用がかかりますか?
- Q. RAGを導入すればハルシネーションを防げますか?
- Q. RAG導入後、システムを社内に定着させるにはどうすればよいですか?
- 9. まとめ|RAGを導入して業務効率化や社内ナレッジの活用を進めよう
1. RAGとは?
RAGは「Retrieval-Augmented Generation」の略称で、日本語では「検索拡張生成」と呼ばれます。外部の文書やデータベースから質問に関連する情報を検索し、その内容を大規模言語モデル(LLM)の回答生成に利用する仕組みです。大規模言語モデルとは、大量の文章データを学習し、文章の生成などを行うAIモデルを指します。
社内規程や製品情報、業務マニュアルなどを検索対象にすることで、モデル自体を再学習させずに、自社固有の情報を回答へ反映できます。
2. RAGを導入する3つのメリット
RAGを導入すると、次のようなメリットが期待できます。
- 問い合わせ・情報検索業務を効率化できる
- 最新の情報を回答に反映しやすい
- 社内ナレッジの共有・活用を進められる
2-1. 1.問い合わせ・情報検索業務を効率化できる
RAGは、社内からの定型的な問い合わせへの回答や、資料から必要な情報を探す作業の効率化に役立ちます。RAGによって質問に関連する情報を検索・取得し、その情報をもとに生成AIが回答を生成できるためです。
例えば、「出張申請に必要な書類を知りたい」と入力すると、関連する規程をもとに必要書類や手続きを案内できます。従業員が自分で情報を確認できるようになれば、担当部署への問い合わせ削減にもつながります。
問い合わせを受けた担当者は、RAGを活用して関連資料を検索し、回答案を作成することも可能です。複数の資料を探して読み込み、内容をまとめる負担を減らすことで、個別の判断や対応が必要な業務へ時間を充てやすくなります。
2-2. 2.最新の情報を回答に反映しやすい
RAGでは、検索対象のデータを更新することで、生成AIのモデル自体を再学習させずに新しい情報を回答へ反映できます。
例えば、社内規程が改定された場合も、参照するデータを更新すれば改定後の規程に基づいて回答できます。モデルに情報を追加学習させる方法と比べて、情報の変更に対応しやすい仕組みです。
2-3. 3.社内ナレッジの共有・活用を進められる
部門や担当者ごとに分散している資料などをRAGの検索対象とすることで、複数の情報源を横断的に検索できるようになります。利用者は保管場所や担当者を個別に確認しなくても、過去の問い合わせ履歴や技術資料、業務手順書などを容易に参照することが可能です。
例えば、システム障害が発生した際に、類似する障害の対応履歴や技術資料をもとに、確認すべき項目や対応手順を把握できます。担当者の経験や知識を組織内で共有・活用しやすくなれば、属人化の抑制にもつながるでしょう。
関連コラム:ChatGPT×RAGで実現する社内ナレッジ活用の最前線
こうした社内ナレッジの共有・活用には、NTT東日本の「ミンクスプラス生成AI」が役立ちます。「ミンクスプラス生成AI」は、RAGを活用した法人向けAIチャットボットです。社内文書などの独自データを検索・参照し、その内容をもとに利用者の質問への回答を生成します。詳しい機能や具体的な活用方法については、以下の資料をご覧ください。
3. RAGを導入する際の3つの注意点
RAGの導入・運用にあたっては、次の3点に注意が必要です。
- データの品質が回答精度を左右する
- 参照データの情報セキュリティ対策が必要になる
- 導入後も更新・評価を続ける体制が求められる
3-1. 1.データの品質が回答精度を左右する
RAGでは、検索対象となるデータの品質が回答精度に影響します。古い情報や誤った情報が含まれていると、それらを参照して不正確な回答を生成する可能性があるためです。
そのため、信頼できる情報源を明確にしたうえで、不要なデータの削除や重複する情報の整理、表記の統一などを行い、必要な情報を検索しやすい状態に整えることが大切です。また、制度や業務内容の変更に合わせて、検索対象のデータも継続的に更新します。
関連コラム:RAGの回答精度を高める「データクレンジング」の実践法とは?
3-2. 2.参照データの情報セキュリティ対策が必要になる
RAGで機密情報や個人情報を扱う場合は、適切な情報セキュリティ対策が必要です。利用者が本来閲覧できない情報を回答から取得しないよう、アクセス権限を適切に設定します。
また、入力内容や登録データがAIの学習に利用されるか、データがどこに保存されるかなど、利用するサービスのデータ取り扱い方針も確認しましょう。あわせて、通信の暗号化や操作ログの取得など、自社の情報セキュリティ要件を満たす機能・仕組みが備わっているかを確認することも大切です。
3-3. 3.導入後も更新・評価を続ける体制が求められる
RAGは導入して終わりではなく、参照データの追加・更新や回答精度の確認、利用者からのフィードバック収集などを継続する必要があります。業務内容や参照する情報は変化するほか、実際の利用を通じて新たな課題が見つかることもあるためです。
そのため、データを管理する担当者やシステム担当者、対象業務の責任者など、それぞれの役割をあらかじめ明確にしておくことが大切です。また、誤回答や権限設定の不備が見つかった場合に備え、連絡先や修正手順も整備しておきましょう。
4. RAGの導入・構築を成功させるための4つのポイント
RAGの導入・構築を成功させるためには、次の4つのポイントを押さえることが大切です。
- 利用目的と対象業務を明確にする
- 参照させるデータの範囲を決める
- 回答品質の評価基準を決める
- PoCから始めて段階的に改善する
4-1. 1.利用目的と対象業務を明確にする
RAGの導入を進める際は、導入自体を目的にせず、まず解決したい業務課題を明確にすることが大切です。例えば、「問い合わせが多い」「資料検索に時間がかかる」「担当者によって回答内容が異なる」といった課題を整理し、RAGを活用する対象業務や利用者を絞り込みます。
あわせて、「問い合わせ対応にかかる時間を○%削減する」「従業員の自己解決率を○%まで高める」など、導入効果を判断できる具体的な目標を設定しましょう。
4-2. 2.参照させるデータの範囲を決める
RAGを導入する際は、対象業務で必要となる文書を洗い出し、参照させるデータの範囲を決めましょう。参照するデータが増えるほど管理対象も増え、情報の更新や品質管理にかかる負担が大きくなるためです。
例えば、最初から社内のすべてのデータを対象にするのではなく、対象業務で実際に使用している規程やマニュアル、FAQなど、必要性の高い情報から始めます。さらに、データの保管場所や更新頻度、管理者などを確認し、継続して管理できる範囲を検討しましょう。
4-3. 3.回答品質の評価基準を決める
生成される回答の品質をどのように評価するか、あらかじめ基準を決めておくことも欠かせません。例えば、「回答内容が正確か」「参照した情報と整合しているか」「質問に対して適切な情報を取得できているか」などの観点から評価基準を設定します。
実際の問い合わせをもとに、評価用の質問と期待する回答を用意しておくと、一定の基準で回答品質を確認できます。また、参照データに答えがない質問も加えると、根拠のない回答を生成していないかを確認することも可能です。
関連コラム:RAGの評価方法について
4-4. 4.PoCから始めて段階的に改善する
本格導入の前に、小規模な環境で実現性や効果を検証するPoC(概念実証)を実施しましょう。対象部門や利用者、参照データを限定して検証することで、回答品質や運用上の課題を確認しながら改善できます。
実際の業務を想定した質問を使い、前項で決めた評価基準に沿って回答品質を検証します。適切な情報が検索できたか、回答の内容が業務で使えるかを確認してください。
結果をもとに、参照文書の内容や分け方、検索条件、生成AIへの指示などを調整します。十分な効果を確認できた業務から利用範囲を広げ、段階的に導入を進めることが大切です。
こうした検証や改善を自社で進めることが難しい場合は、専門的な支援を活用する方法も有効です。NTT東日本では、「ミンクスプラス生成AI」の提供に加え、RAGの活用や精度改善に向けた伴走支援も提供しています。お客さまの課題に応じて、RAGをより効果的に活用するための取り組みをサポートします。
詳しい支援内容は、以下の資料でご確認ください。
5. RAGの導入が適している業務・活用例
RAGは、多くの文書から必要な情報を探す業務や、同じような問い合わせが繰り返し発生する業務に適しています。主な活用例は以下のとおりです。
- 横にスクロールします
| 業務 | 参照データ | 主な利用者 | 活用例 |
|---|---|---|---|
| 社内問い合わせ対応 |
|
|
手続きや制度に関する質問へ回答する |
| 業務マニュアル・技術文書の検索 |
|
情報システム・技術部門の担当者 | 操作手順や過去の対応方法を探す |
| 顧客対応 |
|
|
顧客への回答に必要な情報や回答案を提示する |
| 過去事例を活用した文書作成 |
|
|
類似事例を参照し、文書の下書きを作成する |
RAGの導入対象を選ぶ際は、問い合わせの頻度や資料検索にかかる時間、参照する情報が明確かどうかなどを確認し、改善効果が期待できる業務から検討しましょう。
6. RAGの導入事例
ここでは、藤沢市役所さま・横浜市さまの取り組みを紹介します。いずれも、自治体固有の文書や業務知識を活用し、RAGによる業務支援の効果を検証した事例です。
6-1. 「藤沢DX」への活用 - 藤沢市役所さま
藤沢市役所さまは、人口減少と職員数の減少が見込まれる中、市民への行政サービスを維持・向上させるために「藤沢DX」を推進。職員の業務効率化や、質の高いサービス提供を目的として、RAGを活用したNTT東日本の自治体向け生成AIソリューションを導入しました。
【ソリューション検証効果】
- RAGによる要約・回答コンシェルジュの構築は、庁内に横展開しやすい有益な取り組みだった
- 職員のサポート目的であれば、十分に業務活用できるレベルの法規運用支援AIを構築できた
- イメージしきれていなかった活用シーンの創出で、さまざまな気づきが得られた
【NTT東日本選定のポイント】
- さまざまな事業セグメントに展開するマルチチャネルな企業であること
- 単純なソリューション提案型のアプローチではなく、伴走型のサポートであること
- 日本全国に展開し、さまざまな地域課題を理解し、取り組んできた実績
導入事例の詳細はこちらをご覧ください
導入事例:来る職員減少に備え、RAG構築による課題解決を検証。「藤沢DX」における生成AIソリューションのユースケースに迫る
6-2. 事務事業やデータ活用業務に「RAG」を活用 – 横浜市さま
横浜市さまでは、2022年から「横浜DX戦略」を推進しており、事務手続きをDX化することで、市民サービスの向上と職員の負担軽減を実現しました。2023年12月からは、さらなる効率化を求めて生成AIの全庁導入などの取り組みを進めてきました。そして、より実用性の高い環境での活用をめざし、2024年11月から「RAG」の実証を実施。生成AIの導入効果を高めるため、導入準備や業務プロセスの改善といった伴走支援を行いました。
【ソリューション検証効果】
- RAG実証の結果、選挙関連の問い合わせに対する回答精度は約9割に達した
- 若手職員と先輩職員双方の選挙関連の問い合わせ業務を効率化できた
- これまで積み重ねられてきたドキュメントを有効活用できた
【NTT東日本選定のポイント】
- プロポーザル評価委員会で評価し、NTT東日本の提案が最適と判断した(評価の視点)
- 生成AIに対する事業の位置づけ方
- 社内における生成AIの利活用度合い
- サポートに関する具体提案
- ユーザーが利用しやすい配慮
導入事例の詳細はこちらをご覧ください
7. RAGをスムーズに導入するならNTT東日本「ミンクスプラス生成AI」
RAGを活用した生成AI環境をスムーズに導入したい場合は、SaaS型のサービスを利用する方法があります。
NTT東日本の「ミンクスプラス生成AI」は、社内の独自情報を検索・参照し、その内容をもとに回答を生成する法人向けAIチャットボットです。SaaS型のため、自社でRAGの基盤を一から開発する負担を軽減できます。
初期費用は110,000円(税込)、月額費用は154,000円(税込)から利用できます(※)。
最低利用ID数は20IDです。月額154,000円(税込)は20ID利用時の料金です。
主な特長は以下のとおりです。
- RAGによって社内文書を検索・参照し、回答とあわせて参照元を表示
- 参照情報やプロンプトをテンプレート化し、組織内で共有
- 利用者ごとの権限設定や、指定したIPアドレスによるアクセス制限に対応
また、RAG伴走サポートや生成AI研修、生成AIガイドライン策定支援なども提供しています。RAGの精度改善や生成AIを活用できる人材の育成など、導入後の活用・定着も支援します。
社内データを活用した生成AIの導入を検討している方は、以下の資料で詳しい機能や支援内容をご確認ください。
8. RAGの導入に関するよくある質問
ここでは、RAGの導入についてよくある3つの質問に回答します。
Q. RAGの導入にはどのくらいの費用がかかりますか?
RAGの導入費用は、SaaS型サービスを利用するか個別に開発するかによって大きく異なります。また、利用規模や使用する生成AIモデル、外部システムとの連携の有無などによっても変動します。費用を検討する際は、初期費用だけでなく、サービス利用料やデータ更新など、導入後にかかる運用費用も含めて確認することが大切です。
Q. RAGを導入すればハルシネーションを防げますか?
RAGは、検索・取得した情報をもとに回答を生成するため、もっともらしい誤情報を生成する「ハルシネーション」の抑制に役立ちます。ただし、参照データに誤りがある場合や、適切な情報を取得できなかった場合などには、誤った回答が生成される可能性があるため、完全に防げるわけではありません。
そのため、回答の参照元を確認できるようにするなど、生成された回答が正しいか確認できる仕組みを整えることが大切です。
Q. RAG導入後、システムを社内に定着させるにはどうすればよいですか?
対象業務に合った使い方を利用者へ伝え、利用状況や意見を確認しながら改善を続けましょう。活用事例の共有や研修などを通じて、日常業務へ取り入れやすくすることが大切です。
NTT東日本の「ミンクスプラス生成AI」では、必要に応じてRAG伴走サポートや生成AI研修、ガイドライン策定支援などを利用できます。自社だけでは精度改善や利用促進を進めにくい場合も、課題に合わせて支援を組み合わせることが可能です。
社内での活用・定着に向けた支援を検討している方は、以下の資料をご覧ください。
9. まとめ|RAGを導入して業務効率化や社内ナレッジの活用を進めよう
RAGは、社内文書や業務データを検索・参照し、その内容をもとに生成AIが回答する仕組みです。問い合わせ対応や情報検索の効率化、最新情報の反映、社内ナレッジの共有・活用に役立ちます。
導入時は、目的と対象業務、参照データの範囲を明確にしましょう。回答品質を確認しながら段階的に導入を進めるとともに、データ更新や情報セキュリティ対策を継続できる体制を整えることも大切です。
NTT東日本の「ミンクスプラス生成AI」では、SaaS型のサービスとしてRAGを活用した生成AI環境を提供しており、導入後の研修や伴走支援も提供しています。自社での導入・活用を検討している方は、以下の資料をご覧ください。
RECOMMEND
その他のコラム
面倒でお困りのあなたへ
クラウドのご相談できます!
オンライン相談窓口
NTT東日本なら貴社のクラウド導入設計から
ネットワーク環境構築・セキュリティ・運用まで
”ワンストップ支援”が可能です!
NTT東日本が選ばれる5つの理由
- クラウド導入を
0からワンストップでサポート可能! - 全体最適におけるコスト効率・業務効率の改善を
中立的にご提案 - クラウド環境に問題がないか、
第3者目線でチェック
してもらいたい - 安心の24時間・365日の対応・保守
- NTT東日本が保有する豊富なサービスの組み合わせで
”課題解決”と”コスト軽減”を両立
特に以下に当てはまる方はお気軽に
ご相談ください。
- さまざまな種類やクラウド提供事業者があってどれが自社に適切かわからない
- オンプレミスのままがよいのか、クラウド移行すべきなのか、迷っている
- オンプレミスとクラウド移行した際のコスト比較を行いたい
- AWSとAzure、どちらのクラウドが自社に適切かわからない
- クラウド環境に問題がないか、第3者目線でチェックしてもらいたい
- クラウド利用中、ネットワークの速度が遅くて業務に支障がでている
クラウドを熟知するプロが、クラウド導入におけるお客さまのLAN 環境や接続ネットワーク、
クラウドサービスまでトータルにお客さまのお悩みや課題の解決をサポートします。
相談無料!プロが中立的にアドバイスいたします
クラウド・AWS・Azureでお困りの方はお気軽にご相談ください。




