専門的な問い合わせ対応にRAG技術を活用。現場の自己解決と定着率向上を実現した舞台裏

1. 全国2,000拠点を対象にした大規模調査プロジェクト。事務局に求められた体制と業務フローの構築

普段の業務内容と、生成AIチャットボットを導入されたプロジェクトについて教えてください。

私たちのネットワークコンサルティング推進室では、主に「フレッツ光」などを利用した多拠点ネットワークの構築に関わる、さまざまな調整業務をお客さまに代わって実施するサービスを提供しています。

多くの支店や店舗を抱えている企業さまにとって、ネットワーク構築に伴う調整業務は非常に手間と時間がかかるものです。たとえばお客さまの各拠点への機器設置に際し、関連するベンダーや立ち会いが必要な管理会社、警備会社など、関係各所との日程調整や問い合わせ対応などの業務は多岐にわたります。こうした煩雑な業務に対し、私たちは長年のビジネス向けネットワーク構築で蓄積したノウハウを活かした代行サービスを展開しています。

今回生成AIチャットボットを導入したのは、ある公的機関からご依頼いただいた、NTT東日本グループとしても大規模なプロジェクト案件です。私たちの部署は事務局として参画し、具体的には全国の医療施設を対象に、サイバーセキュリティがどのように確保されているかを調査する業務における、問い合わせ窓口を担当しました。

事務局の業務は多岐にわたります。調査員を各医療施設へ手配し、希望があった施設にはネットワークの脆弱性診断を実施します。その過程で発生する医療施設からのあらゆる問い合わせに対応し、調査員を手配する部署との調整業務も担いました。また、医療施設との情報共有には「kintone」というツールを活用したため、ツール操作の支援なども行っています。最終的には調査結果を報告書にまとめ、各医療施設と公的機関の両方に提出するというのが、大まかなプロジェクトの流れです。

このプロジェクトの特徴は、その規模の大きさです。私たちが普段「大きい」と認識する案件は、拠点数でいえば200から、多くても500拠点ほどです。しかし、今回のプロジェクトでは、全国2,000拠点もの医療施設を対象としていました。さらに電子カルテを導入している医療施設が対象となるため、問い合わせには専門的な用語も含まれます。

この大規模プロジェクトを運営するため、私たちのチームでは4名のリーダーと、13名のオペレータという総勢17名の体制で臨みました。通常の案件では、オペレーション担当は2〜3名ほどであることを考えると、通常案件とは異なる前提で体制や業務フローを構築する必要がありました。（若山）

2. 問い合わせ増によってエスカレーションに課題。業務効率や担当者の定着率低下といった弊害も

生成AIチャットボットの導入背景には、どのような課題を抱えていたのでしょうか。

実際にプロジェクトが始まると、医療施設から事務局への問い合わせが日々、大量に寄せられました。特に繁忙期には、電話だけで1日に30〜40件、それに加えて同数程度のメールが届くという状況でした。問い合わせ内容は「〇〇のネットワーク機器は脆弱性診断の対象になるのか」といった技術的な質問から、調査日程の調整、提出書類の書き方に関する相談までさまざまです。

こうした状況で課題となったのが、オペレーション担当から私たちリーダーへのエスカレーション、つまり判断を仰がねばならないケースが頻発したことでした。オペレーション担当の方々の多くは、電話対応などの経験はあっても、ネットワーク構築の専門的な知識までは持ち合わせておらず、対応に苦慮する場面も少なくありません。

そのため、判断に迷った際はリーダーへエスカレーションする運用としていましたが、リーダーの稼働にも限りがあり、対応が滞るケースが発生していました。リーダーそれぞれが担当業務を抱えながらも次から次へと寄せられる質問に答えねばならず、直接声をかけられたり、チャットで質問が来たりと、常に誰かしらがエスカレーション対応に追われている状態でした。オペレーション担当からすれば「今すぐ聞きたいのに、リーダーが忙しそうで捕まらない」「質問しづらい」という状況が生まれていました。

こうした課題は、お客さま対応の品質にも直結します。問い合わせの大半が電話であるため、その場で回答できるのが理想なのですが、エスカレーションのために一度電話を保留したり、折り返しとさせていただいたりするケースが増えていました。医療施設の方々はお忙しいため、一度電話を切ってしまうと、なかなかつながらないことも少なくありません。迅速な対応ができないことは、私たち事務局にとって大きなジレンマでした。

加えて深刻だったのが、こうした業務負担や心理的なストレスが、オペレーション担当のモチベーション低下につながっていたことです。前年度にこのプロジェクトが始まった当初、仕事の複雑さや、エスカレーションしにくい環境が原因となり、残念ながら定着率が下がってしまう傾向にありました。（若山）

生成AIチャットボットの活用による業務効率化についてのお悩みに生成AIエンジニアがお応えします。お気軽にお問い合わせください。

3. 汎用AIではなく、専門領域への対応と社内知見を活かすためにRAG技術の活用を検討した

どのようなきっかけから、生成AIチャットボットの活用を検討されたのでしょうか？

事務局におけるエスカレーションの頻発という課題を解決するためには、問い合わせ内容に対してオペレーション担当が自己解決できる問い合わせ内容の範囲を拡大する必要があります。そして、医療施設への対応を迅速化し、スタッフの負担を軽減して定着率を向上させるには、新しいアプローチが必要だと感じていました。その際にNTT東日本グループで話題になっていたのが、生成AIチャットボットの活用事例です。「もしかしたら」と思いながら社内の情報を調べ、「ぜひチャレンジしてみよう」と上司からも賛同を得ることができ、生成AIチャットボットの導入に向けて動き出すことになりました。

生成AIチャットボットの導入にあたり、私たちがまず考えたのは、ただ一般的な知識を回答する生成AI、いわゆる汎用LLMでは充分ではない、ということでした。私たちの業務には、プロジェクト特有の業務ルールや操作手順、医療やネットワークに関する専門用語が数多く存在します。そのため、「〇〇のケースでは、社内の〇〇のルールに基づき、このように実行する」といった判断は、汎用LLMではできないのです。

そこで必要となったのが、社内に蓄積された情報、つまり私たちの「知見」を元に回答を生成する「RAG（Retrieval-Augmented Generation）」技術でした。前年度のプロジェクトで蓄積したナレッジをAIに学習させ、業務に特化した回答ができる生成AIチャットボットを構築することが、私たちの課題を解決する方法だと考えたのです。（若山）

4. 膨大なナレッジを学習させ、業務に最適化。ハルシネーションの抑制や現場活用を促す工夫とは

生成AIチャットボットの導入にあたって、どのような工夫を行いましたか。

生成AIチャットボットの回答精度を高めるには、プロンプトを調整したり、学習データを変更したりといった試行錯誤が欠かせません。学習データを「チャンク」という単位に分割したり、細かなパラメータ調整を行ったことが回答精度の向上に大きく貢献しました。

さらに、利用ログをリアルタイムで確認できる機能も非常に重要でした。オペレーション担当の方々が「どのような質問をしているのか」「生成AIがどのような回答を返しているか」をリーダーが把握できるため、ハルシネーション（AIが事実と異なる内容をもっともらしく生成してしまう現象）による不適切な回答が生成されていないかをチェックし、迅速に改善することができています。

生成AIチャットボットに学習させるデータとして中心となったのは、前年度のプロジェクトで「kintone」上に蓄積されていたQ&Aデータです。個人情報を除いた形でバックアップしておいた約200件以上のQ&Aを精査し、回答を生成するためのデータベースとしました。さらにはお客さま向けのマニュアルや社内業務マニュアル、今年度新たに追加された業務ルールなども読み込ませ、より実践的なナレッジベースを構築しています。

他にもプロンプトの設定で工夫しています。まず、ハルシネーションを抑制するために「学習データにない情報については、無理に回答せず『情報がありません』と答える」ように指示しました。また、専門用語が多くて回答が分かりにくくなることを避けるため、「回答で使った専門用語については、補足説明を追加する」という指示も加えました。これは医療施設の方へ分かりやすく説明するためであるのはもちろん、オペレーション担当のプロジェクトに対する理解を深める狙いもありました。

生成AIチャットボットの準備が整い、本格導入のスタートがプロジェクトの途中だったため、いかにして現場のオペレーション担当に浸透させるかも課題でした。そこで毎日行っているチームミーティングの場で、生成AIチャットボットの利便性を伝え、利用を促しました。また、オペレーション担当の方々が普段の業務で必ずアクセスするアプリにチャットボットへのリンクを設置し、気軽に使える動線を確保するといった工夫もしています。（若山）

生成AIチャットボットの活用による業務効率化についてのお悩みに生成AIエンジニアがお応えします。お気軽にお問い合わせください。

5. 検索時間を大幅に短縮し、業務を効率化。心理的安全性の確保で担当の定着率が劇的に向上

プロジェクトに生成AIチャットボットを導入したことによって、どのような成果が得られましたか。

当初は「生成AIはどのような回答を作成するのか」と興味本位で利用されることも多かったのですが、プロジェクト終盤に本格利用が始まったことで利用実績が約360回にも達しています。具体的な成果としてはまずリーダーへのエスカレーションが明らかに軽減されました。これまでリーダーに聞かなければ分からなかったことも、まずは生成AIチャットボットに聞く、という文化が生まれました。オペレーション担当にとって「リーダーの業務状況に関係なく、いつでも質問できる」という心理的な安全性を確保することにもつながったと思います。

また、業務効率も大幅に改善しました。以前は、問い合わせに答えるために必要な情報を、膨大な資料やマニュアルの中から探し出す作業が発生しており、場合によっては20〜30分もかかってしまうこともあったのです。しかしあらかじめ膨大な資料やマニュアルを学習した生成AIチャットボットを活用することで、検索時間がほぼゼロになりました。オペレーション担当のひとりからは「すぐに調べられるようになり、本当に助かった」というポジティブな声も直接聞いています。

さらにオペレーション担当の業務理解も深まりました。医療施設から問い合わせを受けてから生成AIチャットボットを使うという使い方だけでなく、待機時間などに「こういう質問が来たらどうすればよいのか」と事前に回答内容を学習、再確認するために活用するようになったのです。結果としてスタッフの業務理解が深まり、早期の「即戦力化」にも大きく貢献したと感じています。

そして最も嬉しい成果は、オペレーション担当の定着率が昨年と比べて大きく向上したことです。上長からも「分からないことをオペレーション担当自身で解決できる仕組みが有効だった」との評価をいただきました。（若山）

6. 生成AIによる成功モデルを組織全体へ水平展開。本来注力すべき高付加価値な仕事へ

今後の展望と、読者へのメッセージをお願いします。

今回の生成AIチャットボットの導入は、ひとつのプロジェクトに特化した形で進めましたが、他のプロジェクトや通常業務にも水平展開していきたいと考えています。また、得られた経験やノウハウを社内にも展開し、組織全体にも浸透させることでさらに大きな成果の獲得につなげたいですね。

生成AIチャットボットを導入して私が感じたのは、「当たり前」と思い込んでいた業務を見直すことの重要さです。これまで誰もが仕方ないと思っていた「資料を探す」「分からなかったらリーダーに質問する」という作業がなくなるだけで業務フローが効率化され、本来やるべきことにもっと集中できるようになります。

また、生成AIは現場の「見えない課題」を可視化してくれるツールでもありました。利用ログを確認することでスタッフが何に悩み、どのような情報が不足しているのかを把握することができます。そのデータを分析し、より体系的な業務改善へとつなげていくことも今後の展望です。

そして生成AIを導入する上で何より大切なのは、導入方法を相談できる環境です。私自身、社内からの助けがなければ、今回の挑戦を成し遂げることはできませんでした。もし今、抱えている課題を解決するために生成AIの活用を考えているのであれば、一人で悩まずに周りや経験者に声をかけてみてはいかがでしょうか。（若山）

今回は、NTT東日本における生成AIの活用事例をご紹介しました。「問い合わせ対応や事務局運営のリソースに困っている」「問い合わせ対応の脱属人化、効率化を実現したい」といった悩みを抱える皆さまの参考になれば幸いです。

NTT東日本には社外・社内ともに多数の生成AIの導入支援の実績がございます。生成AIのシステム導入は勿論のこと、導入後の活用促進まで伴走支援いたします。生成AIの活用に関するご相談、お問い合わせを随時受け付けておりますので、お気軽にご相談ください。

生成AIチャットボットの活用による業務効率化についてのお悩みに生成AIエンジニアがお応えします。お気軽にお問い合わせください。

• 文中記載の組織名・所属・肩書き・取材内容などは、すべて2025年12月時点（インタビュー時点）のものです。