RAG技術で専門的な問い合わせ対応の属人化を解消する。現場の不安を乗り越えた導入プロセスとは

1. 700ページものドキュメントを根拠に、年間数百件に及ぶ個人情報の問い合わせに対応

個人情報の開示請求やNTT東日本のプライバシーポリシーに関するお問い合わせを担当する、NTT東日本の番号ポータビリティ部門では、年間約300件の個人情報保護法に基づく顧客からの相談を受け付けています。問い合わせの内容は多岐にわたり、NTT東日本の商品を語る不審な電話に関する個人情報の取り扱いについての相談や契約情報の削除要望、個人情報利用の適法性に関する質問など、個人情報保護法や電気通信事業法、会社法、そしてNTT東日本のプライバシーポリシーという複数の法的枠組みを横断的に理解した上での回答が求められることが特徴です。

「お客さまに納得していただける、正確な回答をお返しすることを最も重視しています。問い合わせをされる方は、最初はご自身でも問い合わせの目的が明確でないことが多く、ご相談の意図をくみ取りながら、適切に根拠を示してご案内する必要があります。そのため、業務のKPIとして対応時間などは設けておらず、最後まで責任を持って解決することが日々のミッションです」（藤原）

対応時間をKPIとしていないこともあり、問い合わせ案件によって1件あたりの通話時間はまちまちです。短ければ10分程度で終わることもあれば、長引けば2時間に及ぶことも。個人情報保護法や会社法など関連法規と当社プライバシーポリシーなど、合計で700ページにも及ぶドキュメントの内容と照らし合わせながら説明をするため、確認作業を挟むと対応時間が延びてしまうこと、そして業務の属人化という課題がありました。

「個人情報の取り扱いに関する問い合わせ対応では、どのドキュメントのどこに基づく回答なのかを明確に示す必要があります。しかし適切なドキュメントを探し出し、該当箇所を適切に示すには、属人的に蓄積された知識に頼るほかなかったのです。結果、法律や約款を根拠とする高度な問い合わせの対応は、私に集中していました。そこで回答までのフローを可視化して属人化を解消し、誰でも一定水準の回答ができる仕組みを検討し始めました」（藤原）

生成AIの活用による業務効率化についてのお悩みに生成AIエンジニアがお応えします。お気軽にお問い合わせください。

2. RAG技術の導入で精度と一貫性を確保。ハルシネーション抑制により信頼性ある回答を実現

取り組みの転機となったのは、社内で開催した生成AI活用の勉強会です。生成AI関連のニュースが注目を集める中、社内において実際の業務への生成AI導入を加速するため、現場が抱える課題のヒアリングとそれに対する生成AI活用のユースケースを紹介する内容でした。DX推進担当の原が当時の状況を振り返ります。

「勉強会では生成AIに触れて『これなら現場でも使える』と手応えを感じていただくことが目的でした。その際に重要な要素だったのが、RAG（Retrieval-Augmented Generation：検索拡張生成）という技術です。通常の生成AIは、主にインターネット上の情報から回答を生成しますが、RAG技術を活用することで検索範囲を社内のドキュメントに限定し、その中から根拠を参照して回答を生成することができます。

これによって一貫性が担保された高い精度の回答を生成することが可能になるだけでなく、いわゆる“ハルシネーション”のリスクを抑えることができるのです。誤った回答をお客さまに示してはならないこと、膨大な量のドキュメントを参照する必要があることから、今回の問い合わせ業務とRAG技術は相性がよいと判断しました」（原）

また、生成AIの採用にあたっては、勉強会と前後して他のソリューションとの比較検討も実施されました。その他の候補として、RPAやローコードツールが挙がりましたが、これらのツールは専門的なプログラミングスキルや専門的な要件定義が必要であり、現場担当者が直接導入するにはハードルが高いと判断されています。

一方、生成AIは現場担当者が試行錯誤を重ねながらアジャイル的に改善を進められる特徴があり、開発の専門知識がなくても業務に適した仕組みを構築できる点が決定的な優位性です。こうした比較検討と勉強会を実施した結果、生成AIの導入を進めることになりました。

生成AIの活用による業務効率化についてのお悩みに生成AIエンジニアがお応えします。お気軽にお問い合わせください。

3. ポイントはシンプルなプロンプト設計。技術と人をつなぐ、生成AIの導入プロセスとは

生成AIの導入にあたっては、業務知識を持つ藤原とAI技術を担当する原の協働で進められました。NTT東日本が提供する生成AIシステムを基盤とし、NTT東日本のサービス約款や個人情報ガイドライン、電気通信事業法などの文書をナレッジベースに登録し、顧客の質問に対する回答支援を行うプロンプトの開発に着手しています。

「プロンプトの開発にあたっては、ただ回答を生成するだけでなく『どのドキュメントの、どの部分を根拠としているか』を明示させる指示を組み込みました。単なる答えの提示では、担当者自身が回答の成否を確認するためにドキュメントを検索せねばならず、業務効率化につながりません。そこで補足情報や出典を伴った回答を生成することで、担当者によるダブルチェックの手間を削減し、回答内容に自信を持てるようにしています」（原）

加えて、生成AIの回答精度を向上させた工夫が、プロンプトの簡略化でした。当初はハルシネーション対策として、A4用紙1枚分にも及ぶ詳細かつ複雑なプロンプトを記述していたのですが、長大な指示文がかえって生成AIの思考を制限する結果となっていたのです。そこでLLM（大規模言語モデル）の特性を活かしたシンプルなプロンプト設計に舵を切り、わずか10行程度のシンプルなプロンプトに集約したところ、回答精度が大幅に向上したのです。この経験から、生成AIに対して過度な制限を設けるのではなく、生成AIの判断に委ね、回答範囲に柔軟性を持たせるべきとの学びが得られました。

こうした技術的な課題解決と並行し、現場への受け入れ体制も整えられていきました。20名の部署のうち5名を対象とし、実際の業務での活用を検証するにあたっては、新しい技術への拒否反応が想定されたのです。特にベテラン社員からは「本当に触っても大丈夫なのか」「どう操作すればよいのか」といった生成AIに対する不安の声が上がったのです。これらの懸念に対応するため、現場に対しても生成AIに対する理解を深める勉強会を段階的に実施しています。

「成功の鍵となったのは、対面でのハンズオン形式による研修です。生成AIに対して不安に感じているベテラン社員の隣に座りながら同じ操作を一緒に行い、現場の安心感を醸成しました。その結果、新しい技術への心理的ハードルを取り除くことができたと思います。ITリテラシーに不安を持つメンバーも含めて、現場が主体的に生成AIを活用できる体制を構築することができました」（藤原）

生成AIの活用による業務効率化についてのお悩みに生成AIエンジニアがお応えします。お気軽にお問い合わせください。

4. 属人化を解消し業務を平準化。生成AIで法的根拠を示し、時間短縮と正確性を両立

生成AI導入による最も重要な成果として、対応業務の属人化の解消が挙げられます。従来はベテラン担当者の専門知識に依存していた高度な問い合わせ対応が、他のメンバーでも一定の品質で実施できるようになったのです。これによってベテラン社員が不在の状況でも、継続的な顧客対応が可能となり、業務の安定性が大幅に向上しています。

「もちろん従来からお客さまの問い合わせに対するQ&A集は存在していましたが、専門性が高い内容については、経験の浅いオペレーターが対応を躊躇し、ベテラン担当者にパスするという状況が続いていました。今回の取り組みによって、誰でも生成AIから提示される回答を根拠にお客さま対応ができる仕組みが整い、属人化の解消に大きく前進できたと感じています」（藤原）

担当者による回答のばらつきが解消され、どのメンバーが対応しても同等の専門性を持った回答を提供できるようになりました。こうした回答の均一化は、顧客満足度の向上に直結するだけでなく、管理者にも安心感をもたらしています。

また、対応時間の短縮も大きな成果のひとつです。従来は2時間を要することもあった複雑な問い合わせについて、生成AIが適切な法的根拠と回答候補を迅速に提示することで、顧客により素早く適切な回答を提供できるようになりました。

今回の一連の取り組みは、相互接続センタ内のファーストケースとして高く評価されています。特に注目されたのは、大都市に拠点がある大きな部署ではなく、秋田県にある20名という小規模なチームから生まれた革新的な取り組みであったというポイントです。今回の成功事例は、他部署へも波及しつつあります。当初は生成AI活用に慎重だった他の部門も、実際の成果を目の当たりにして、自部署での活用検討を開始するようになりました。

生成AIの活用による業務効率化についてのお悩みに生成AIエンジニアがお応えします。お気軽にお問い合わせください。

5. 地方拠点から始まった生成AI活用の挑戦。信頼性をさらに高める生成AI活用の進化を目指して

今回構築した仕組みを基盤とし、今後さらに高度な生成AI活用を目指しています。今回の取り組みでは「回答」と「根拠」を提示することが目標でしたが、今後は回答根拠を多角的に示すことを目指し、より納得感のある回答が得られる仕組みを目指していきます。たとえば社内ポリシーや約款に基づく観点と、一般的な法令や社会的見解に基づく観点、それぞれ分けて回答を作成し、それぞれの根拠を示すことで、お客さまにとって信頼性の高い情報を提供できるようになります。改めて、今回の取り組みを振り返っての学びを聞きました。

「一番大きな学びは、まずはやってみることです。生成AIの存在は認識していても実際の業務に取り込むには躊躇があるという声がよく聞かれます。今回のケースは、実証的に取り組んで成果を示し、かつ上層部から評価を受けられたことで『小さくても始めれば成果につながる』というメッセージを示せた点に価値がありました。地方の拠点である秋田における取り組みだった点も、NTT東日本グループ全体に対して勇気を与えるものになったと考えています」（原）

今回は、NTT東日本における生成AIの活用事例をご紹介しました。「専門性の高い問い合わせ対応に困っている」「問い合わせ対応の脱属人化、効率化を実現したい」といった悩みを抱える皆さまの参考になれば幸いです。

NTT東日本には社外・社内ともに多数の生成AIの導入支援の実績がございます。生成AIのシステム導入は勿論のこと、導入後の活用促進まで伴走支援いたします。生成AIの活用に関するご相談、お問い合わせを随時受け付けておりますので、お気軽にご相談ください。

文中記載の組織名・所属・肩書き・取材内容などは、すべて2025年9月時点（インタビュー時点）のものです。