生成AI活用で問い合わせ業務の稼働を40%削減──“事務局AI”が2,000件対応を実現

社内1万7,000人を支える“駆け込み寺”が抱えた、非効率な問い合わせ対応業務

まずは、普段どんな業務を担当されているのか教えてください

現在、私は総務人事部に所属しており、メインとなるコンプライアンス関係業務に加え、「AIの活用を前提としたAIファーストな業務プロセス・働き方改革の実現」を目的として設置した「共通系業務効率化ワーキング」のメンバーとして、全組織から寄せられるコーポレート業務に関するさまざまな「困ったこと」に“駆け込み寺”的な役割で対応する業務も実施しています。

問い合わせ業務の内容について、もう少し具体的に教えていただけますか？

問い合わせの内容は本当に多岐にわたります。たとえば「転勤することになったが、どんな手続きが必要か」「旅費の支払い方法はどうすればいいのか」「外部サービスの決済にカードが必要だが、どう申請すればよいか」といったものから、「この勤務票の投入方法で合っているか」といった日常的な質問までさまざまです。加えて、どこに聞いたらいいか分からない、聞いてもたらい回しにされてしまうといった声も多く寄せられていました。

こうした問い合わせは、まず所属組織の総括担当宛にされることが多いのですが、総括担当者は必ずしもその分野に詳しいわけではありません。そのため、規程や事務連絡を探したり、調べたりすることに時間がかかりますし、的確な担当部署を案内できず問い合わせ者がたらい回しにあうこともあります。問い合わせ対応業務は、非常に地味な業務ですが、知識・経験がないと相当な手間と根気を要する業務でもあります。

組織全体でどのくらいの人を対象に対応されているんでしょうか？

派遣社員も含めたおよそ1万7,000人の全従業員を対象にしています。すべての社員等に対する“駆け込み寺”的な役割を果たしているという形になります。

どれくらいの体制でこの問い合わせ対応業務を担当されていたのですか？

立ち上げ時点では、総務人事部の中に「共通系業務効率化ワーキング」というチームをつくり、部門長とチーフ4名の計5人でスタートしました。全従業員からの問い合わせ（年間2,000件以上）を数名で対応するには、かなり厳しい体制でした。また、当初は生成AIの導入前でしたので、すべて人間が対応していたというのが現実です。

生成AIを活用した問い合わせ業務の効率化についてのお悩み・課題などNTT東日本の生成AIエンジニアにてご相談にお応えします。お気軽にお問い合わせください。

属人化・アナログ対応に限界──生成AI導入前の苦悩と試行錯誤

生成AIを導入する前、どのような方法で対応されていたのでしょうか？

まず、対応部署についてですが、前述のとおり、各組織の総括担当が問い合わせ対応業務を行っていましたが、前述のとおり、各組織の総括担当の負担が大きく、また、ナレッジが共有されていないため、知識・経験のある組織、担当者はすぐに回答できても、他の組織、他の担当者は一から調べて回答しなければならないなどのムリムダがありました。そこで、まず、問い合わせ対応業務を本社に集約することで各組織が浮いたリソースを再配分できるようにしたうえで、生成AIの活用等のDX化を進めて、本社において浮いたリソースを再配分できる仕組みを作りました。

また、問い合わせ対応業務には、方法についてルールはなく、電話、メール、チャットなど思い思いの方法でやり取りをしていました。これでは、生成AIの導入はおろかデータ化することが出来ません。そこで、まず、問い合わせ・回答については、サーバーに保存したExcelファイルの利用を基本とするルールを設けました。急ぎの案件は電話等メールでも受け付け、それ以外はExcelのシートに記入してもらう方式です。私たちは常にそのファイルを画面に表示しながら新たな問い合わせがないかをチェックし、毎日夕方にはチーフ4名と部門長で集まり、問い合わせ内容を精査し、Excelファイルに同様の問い合わせ・回答がないか、ひとつひとつ確認等しながら回答を出していました。

問い合わせ対応で発生していた具体的な課題について教えてください

Excel利用ルールの課題は非常に多かったです。まず、皆さん経験があるかもしれませんが、記入された内容が意図せず消えてしまったり、誰かが誤って上書きしてしまうリスクが常にありますし、Excel上でステータスを「回答済」にしたところで、問い合わせ者に通知が届くわけではありません。そのため、回答があったかどうかを都度見に行かなければならず、問い合わせ者にも不便がありました。

初期の対応フローから生成AI導入に至るまで、どのような変化があったのでしょうか？

Excel利用ルールの課題解消を目的として、Microsoft Listsというツールを導入しました。Listsでは、問い合わせ者に自動的にメールで回答内容を送信できたり、誰かが誤って上書きしてしまうことも起きず、操作性も良いので安定した運用ができるようになりました。

その一方で、Listsへの問い合わせ・回答データが、日々、蓄積されていく中で、もともと想定していた「このやりとりの知見を生成AIに学習させれば、もっと効率的に対応できるのではないか」という構想の実現に向けた期待が膨らんできました。

生成AIを活用するようになった背景についても伺えますか？

最初に使い始めたのは、社内で展開されており、社外向けにも提供されている生成AIのチャットツールでした。私自身、生成AIについての知識が深かったわけではなく、実際に触って学んでいく形で導入を進めました。

最初は「とりあえず使ってみよう」というレベルでしたが、日を追うごとにデータが蓄積され、生成AIの回答精度も徐々に高まっていくのを見て、「これは本格的に業務に活かせる」と感じました。社内の規程・通達の内容とListsに蓄積された問い合わせ内容と回答データをRAG形式で生成AIに学習させていくことで、実践的な知見を生成AIが取り込めるようになり、生成AIの回答精度が上がっていったのです。

導入の際、どのような支援体制や学びがあったのでしょうか？

私たちのチームには専門的な技術知識を持ったメンバーはいませんでしたので、社内のDX支援部門であるDXCC（DX COORDINATE CENTER（DXコーディネイトセンター））の伴走支援を受けながら進めました。取り組みにあたって、自身がブートキャンプのような短期集中型の支援プログラムにも参加し、生成AIの基礎を学びつつ、プロンプトの設計など具体的なノウハウを現場で得ていきました。

このように、最初は手探りで始めた取り組みでしたが、社内の支援と現場での実践の繰り返しによって、徐々に生成AIを業務に組み込めるレベルへと進化させていったのです。

生成AIを活用した問い合わせ業務の効率化についてのお悩み・課題などNTT東日本の生成AIエンジニアにてご相談にお応えします。お気軽にお問い合わせください。

わずか数人のチームで挑んだ、生成AI導入の舞台裏

生成AI導入に携わったチーム構成や役割分担について教えてください

前述のとおり、生成AI導入の取り組みは「共通系業務効率化ワーキング」が主体となって進めてきました。立ち上げ当初は部門長と4人のチーフという小さな体制でスタートし、私と部門長の2人が特にAI活用に深く関わっていました。この営みの中で私は、“エバンジェリスト”としての役割を担うことになりましたが、これは、AI分野の専門知識は有していない自分でも、AIファーストを一から理解して実現し、同じコーポレート業務に従事する仲間を、寄り添いながら引っ張っていく、そういう意味での“エバンジェリスト”です。

他のメンバーは決裁処理の自動化DX、産業医面談プロセスの自動化DX、コーポレート業務の集約推進など、AIファーストによるDX化に向けて、それぞれ違うテーマを担当する形で業務を分担し、チーム全体でDXを推進していきました。

2024年度まではこの体制で回していましたが、AIファーストの実現がいよいよ“待ったなし”の状況になってきたため、2025年度から体制を強化しました。現在は、総務人事部全体で「AIの活用を前提としたAIファーストな業務プロセス・働き方改革の実現」を掲げ、より広範な体制で取り組みを進めています。

ご自身やチームの皆さんが生成AIに触れた際の印象や反応はいかがでしたか？

正直なところ、私自身、生成AI初挑戦で、最初は「難しそうだな」という印象でした。ただ、実際に使ってみると、変革や挑戦に向けた気持ちさえあれば何とかなる、という感覚がありました。

部門長が率先して生成AIについて学び、推進の旗を振ってくれたのも非常に大きかったです。トップ自らが「まずはやってみよう」という姿勢・行動を見せてもらいましたし、MEの社長からも「いいね！どんどん進めて変革してもらいたい」といった激励もいただいていましたので、これまで「本気なの？」「まだやってるの？」と言っていた部内の社員の心が「本気で取り組む必要があるんだな」「自分も挑戦してみるか」と自然と動き出し、失敗を恐れず安心してチャレンジする空気が生まれたかと思います。

また、私たちのような技術職ではない人間が生成AIを活用するには、専門家の伴走が不可欠でした。最初のプロンプト設計ひとつ取っても、自分たちだけでは手が出ない部分がありましたが、社内のDX支援部門であるDXCCのサポートによって着実にステップアップすることができました。

組織内でどのように生成AIの意識改革を進めていったのですか？

AIを使いこなすには、単なるツール導入だけでは不十分で、組織全体のマインドチェンジが欠かせません。私たちの取り組みでも、「これからの時代はAIファーストで考える」という意識を組織内に根づかせることが重要です。

現在のWG（ワーキンググループ）は、総務人事部だけでなく、コーポレート業務を所掌する部長をWG委員に迎え入れ、これまでの平均40代後半のメンバーに新たに20代、30代、50代のメンバーも加えるなど、新たな推進体制を組んでいます。これは、トップダウンによる牽引力と、現場の自発的な推進力の両方をバランス良く組み合わせた構成になっています。

コーポレート業務の領域は、社員が安心して働くための“舞台”を整える裏方のような役割です。そうした業務こそ、AIによる効率化の余地が大きいと考えています。だからこそ、私たちが率先してAIファーストのモデルを作り、「こうすればできる」という事例を広げていくことが、会社全体の変革にもつながると信じています。

生成AIを活用した問い合わせ業務の効率化についてのお悩み・課題などNTT東日本の生成AIエンジニアにてご相談にお応えします。お気軽にお問い合わせください。

「精度を育てる」生成AI活用術──RAG設計とプロンプトの実践知

実際にどのような流れで生成AIを活用されているのでしょうか？

現在、生成AIを活用する際は「プロンプト×ドキュメント検索（RAG）」という形で設計しています。RAGの仕組みとしては、まず問い合わせ内容をもとに、社内ナレッジが蓄積されたMicrosoft Listsや、業務関連資料などから、生成AIが関連情報を検索。そのうえで、最適な回答を生成するという流れです。

プロンプト設計では、「どのドキュメントがあればいいかを生成AIがちゃんと認識できること」「回答の根拠が示されて、かつ正確であること」の2点を重視しました。単に生成AIに聞くだけでなく、背景や制約条件を丁寧に与えるよう心がけています。

プロンプトの設計で苦労された点や工夫されたポイントは何でしょうか？

プロンプトをどう書くかというのは、本当に試行錯誤の連続でした。こちらが意図した通りに生成AIが動かないということが多く、「こういう言い回しだと誤解されるのか」「逆にこう書けば狙った回答が返ってくるのか」といった検証をひたすら繰り返しました。

今でも完璧とは言えませんが、たとえば「何を根拠に回答したのかを説明してください」といったステップ・バイ・ステップの構造を入れるようになってからは、出力の品質が安定してきたと感じています。生成AIの性能だけでなく、こちらの書き方によっても結果が大きく変わるというのは、すごく重要な気づきでした。

プロンプトやRAGの活用において、専門家の支援はどのように活きたのでしょうか？

プロンプトの改善は、自分たちだけでやっているとどうしても手詰まりになります。そんなときに大きな力になったのが、DX支援部門であるDXCCよる伴走支援でした。

たとえば、「こういう聞き方をすればもっと精度が上がる」「ドキュメントの構成をこう直すと生成AIが理解しやすくなる」といった、実践的なアドバイスをもらうことで、短期間でプロンプトとRAGの精度を大きく高めることができました。実際に、一緒にプロンプトを作成・添削していく過程では、目から鱗のような気づきが何度もありました。

私たちのように技術職ではない人間でも、専門家と伴走することで「実務に耐えうる生成AI活用」ができることを実感しましたし、そのことがチーム全体の自信にもつながりました。

生成AIを活用した問い合わせ業務の効率化についてのお悩み・課題などNTT東日本の生成AIエンジニアにてご相談にお応えします。お気軽にお問い合わせください。

稼働40％削減、2,000件超対応──成果を支えたのは“現場とAIの共進化”

現在、どれくらいの問い合わせを生成AIで対応されているのでしょうか？

生成AIを活用した対応は、これまでに約2,000件以上にのぼります。もともと、ワーキングのメンバーがすべて手作業で回答していた時期に比べると、格段に効率化が進んだと実感しています。

以前は、同じような質問が何度も来て、その都度一から回答していたのですが、生成AIがナレッジを学習してくれることで、過去のやり取りをベースにした的確な返答が瞬時に返せるようになりました。これにより、手作業での確認や情報検索の時間が大幅に減っています。

稼働削減や業務効率化といった成果はどのように感じていますか？

現時点で問い合わせ対応に要する稼働は約40％削減できたと見ています。単純に業務時間が減ったというだけでなく、対応の質も向上しました。生成AIによってまず一次回答を作成し、その内容に誤りや漏れがあれば人が補足するという“共創型”の運用ができているおかげです。

また、これまでは「誰かが不在だと回答できない」といった属人化のリスクが常にありましたが、生成AIが知見を持っていることで、それもかなり解消されました。ナレッジが“個人”から“仕組み”に移ったことで、チーム全体の対応力が底上げされたと感じています。

さらに大きかったのは、対応スピードの向上です。以前であれば問い合わせ内容を業務主管に問い合わせてから、回答が返ってくるまで時間がかかっていたものが、今では数分、場合によっては即時で返せるようになり、問い合わせをしてきた側の満足度も上がっていると実感しています。

問い合わせ対応に生成AIを使ううえで、どのようにRAGデータを改善されてきたのでしょうか？

社内の規程・通達やMicrosoft Listsにたまっていった問い合わせとその回答を、生成AIのRAGデータとして活用していますが、最初は本当にひどい回答しか返ってこなかったです。そこから毎月、定期的に新しい問い合わせデータをRAGデータとして、読み込ませていくことで、少しずつ生成AIの回答精度が向上していきました。

今では、実際に事務局が毎日使いながら「これはいい回答だな」と思えるケースも増えてきています。たとえば旅費の処理についての質問に対して、該当する規定の条文や過去の類似ケースを踏まえた回答が出せるようになってきていて、現場の負担も確実に減ってきているのではと思っています。

AIファーストで進める意識改革──組織を動かしたマインドチェンジ

組織内に生成AIを浸透させるため、どのような工夫をされてきましたか？

実は、技術よりも“空気づくり”の方が大事だったと思っています。どれだけ優れたツールがあっても、「これって使っていいのかな？」「失敗したらどうしよう」といった空気があると、なかなか定着しません。

だからこそ、まずはワーキングメンバーでたくさん使ってみせる。何度もやり取りして試して、その様子を他のメンバーにも共有する。そして、「完璧な回答が出なくてもいい」「生成AIはあくまで補助なんだ」というメッセージを繰り返し発信していきました。

そうすることで、「まず使ってみよう」という雰囲気が少しずつ醸成されていき、実際に使うことで便利さや有能さを実感し広がっていったと感じています。

トップダウンの重要性や、マインドチェンジの難しさについても伺いたいです

トップの理解があるかどうかは、本当に大きな分かれ道になると思います。我々の場合は、総務人事部長やMEの社長が最初から「挑んでもらいたい」「やってみよう」と背中を押してくれたので、その安心感が全体に広がっていきました。

また、これまでの慣れた業務を変えるというのは、やはり心理的な抵抗があります。そういう意味で、マインドチェンジには時間がかかりますし、地道な取り組みが必要です。いきなり全員が変わるわけではないので、言い続けること、小さな成功体験を重ねていくことが大切だと感じています。まさに変革のフレームワークであるインフルエンスモデルを回していくようなイメージです。

浸透させるために取り組まれてきた研修や啓発活動があれば教えてください

社内向けのAI活用のポイントをまとめたガイドやプロンプト例を共有したり、ミニ勉強会を開催したりといった活動をしています。勉強会では、基本的な使い方シーンや、事務局が実際にどう使っているかを紹介したり、プロンプトの工夫を共有したりして、「なんとなく難しそう」という印象を取り除くように心がけました。

最近では、他部署から「その資料を見せてほしい」「うちでもやってみたい」という声が出てきていて、少しずつ横展開が進んでいます。やはり、身近な誰かが実践している姿を見せることで、「自分にもできるかもしれない」と思ってもらえるんだと思います。

今後も、そうした“自分ごと化”の仕掛けを増やしていくことが、生成AIを定着させる鍵になると考えています。

生成AIは、もうただのツールではないです。今までの自分の業務経験や感性で、指示の出し方を磨き上げさえできれば、最強のパートナーです。

生成AIを活用した問い合わせ業務の効率化についてのお悩み・課題などNTT東日本の生成AIエンジニアにてご相談にお応えします。お気軽にお問い合わせください。

NTT東日本の伴走支援と生成AIソリューションが変えた“働き方の未来”

「生成AIを業務に取り入れたいけれど、何から始めればいいのかわからない」──。そうした戸惑いに対して、NTT東日本は現場と並走しながら解決の糸口をともに探す「伴走支援型」のアプローチで企業の変革を支援しています。

既存の社内FAQや業務マニュアル、チャットログなどをインデックス化し、RAG構成での回答を生成AIで可能にすることで、属人化しやすいナレッジを全社で活用可能な“知識基盤”へと変換。実際に2,000件を超える問い合わせに対応した事務局では、稼働時間の40％削減という定量的成果にもつながっています。

さらにNTT東日本では、単なるツール提供にとどまらず、プロンプト設計支援や活用トレーニング、運用ルールの策定支援までをワンストップで対応。生成AI導入が初めてという部門に対しても、実践を通じて確実に成果へ導く仕組みを整えています。

「AIファーストで業務を再構築する」──。その一歩を踏み出したいすべての企業にとって、NTT東日本のソリューションと支援体制は、頼れる伴走者となるはずです。