非エンジニアでもここまでできる。
生成AI × ドキュメント検索が変えた、現場の検索業務

業務横断の改善チームが直面した、“非エンジニア”だからこその生成AIチャレンジ

お二人の担われている業務や役割について、教えてください

小松：私の所属はビジネス開発本部 開発マーケティング部で、サービスの事務処理面からのBPR推進、ルールの見直しなどの施策主管を行っています。組織としては部長配下に15名、課長配下に3名ほどおりまして、今回の取り組みは主に課長配下のメンバーが中心となって推進していました。私たちのミッションは、業務効率化や生産性向上に向けて、複雑化している業務プロセスの課題を解決することにあります。

山田：私はデジタル革新本部 デジタルイノベーション部に所属しており、NTT東日本グループ全体のDXやAIの推進、さらに組織内の文化・機運の醸成を担っています。今回の生成AI活用プロジェクトでは、PMO的な役割として、全体の推進を支える立場で関わりました。担当としては4名体制ですが、他部署との連携も行いながら進めています。

普段の業務内容にどのような特徴があるのか、生成AIとの関係性も含めてうかがえますか

小松：私たちの部署は、NTT東日本内の商材やチャネルに対して横串で業務改善を推進することが役割です。新しいサービスをリリースする際には、全体の事務処理フローの整合性を確認するなど、非常に横断的な活動をしています。生成AIの取り組みについても、人員減耗やノウハウ・知見の属人化の解消といった点で必要性が高く、自然と関わることになりました。特定の技術に特化した組織というよりは、全体を俯瞰して整理し、連携しながら動く立場です。

山田：私は、グループ間の連携やAIユースケースの社内展開も担当しておりまして、今回のマニュアル検索業務も、そうした取り組みの一環として推進することになりました。生成AIについては、専門的なエンジニアというよりも、業務の効率化や改善を目的に社内での活用を推進する立場で取り組んでおります。

チーム全体として、ITや生成AIといった新しい技術に対してどのようなリテラシー感で取り組んでいたのでしょうか

小松：私たちの組織は統括部門にあたるため、いわゆる技術専門職の集まりというわけではありません。むしろ、生成AIに取り組んだメンバーの多くは、これまでAIに触れたことがない人も多く、まったくの初心者という状態からのスタートでした。そのため、技術的な設計などは、技術部門の皆さんにフォローしてもらいながら、一緒に並走して進めたのが実情です。

山田：生成AIと聞くと、どうしてもITリテラシーが高いメンバーが中心になって進めているように思われるかもしれませんが、実際にはそうではなく、現場にいる一般の社員が主導しているという点が、このプロジェクトの一つの特徴だと考えています。

生成AIのドキュメント検索による業務効率化についてのお悩み・課題などNTT東日本の生成AIエンジニアにてご相談にお応えします。お気軽にお問い合わせください。

膨大なマニュアルに埋もれていた課題──生成AIで見えた、情報検索の理想像

生成AIを導入する前に、理想とされていた業務のあり方について教えてください

山田：最初に思い描いていた理想像としては、すべての業務をAIに任せ、人手が必要な部分だけ人が対応するという業務のあり方でした。特に今回取り上げたマニュアル検索業務でいうと、悩んだときにまず生成AIに質問すれば回答案が得られるような状態が理想です。人はその回答案を確認して「これで大丈夫だ」と判断し、必要に応じてさらに調べたり、エスカレーションしたりするという流れをつくりたかったのです。

そもそもサービス関連のマニュアル検索業務とは、どのようなフローや背景があるのでしょうか

小松：サービスの仕様や料金、オーダーから開通までの納期など、さまざまな事務処理がマニュアルとして文書化されています。営業担当が受注し、その後バックヤード担当が実際にサービスオーダーを処理していくなかで、「どうすればいいか分からない」といったケースが頻繁に発生します。そうしたときに社内にある大量のマニュアルを探す必要があり、その作業に非常に時間がかかっていました。

山田：検索先はSharePointに格納されているマニュアル群で、それぞれのサービスに紐づいたPDFファイルが数多く存在します。1つのサービスに対して複数のマニュアルがあり、しかもそれぞれが数百ページに及ぶものも多いため、目的の情報にたどり着くのが困難な状況でした。

実際に直面していた業務上の課題や、検索に時間がかかっていた点についてお聞かせください

小松：私たちがヒアリングした範囲ですが、情報検索に要する時間は業務によってまちまちであったものの、サービスに関連するマニュアルが膨大かつ散在していたことから、多いものは30分以上かかることもありました。

今回この業務に生成AIを導入しようと考えたきっかけは何だったのでしょうか

山田：きっかけの一つは、社内で実施している従業員エンゲージメント調査の結果でした。その中に「業務を円滑に進めるために必要な情報が入手できているか」という項目があるのですが、この数値が思わしくありませんでした。そこから、情報検索のしづらさがEX（従業員体験）にも影響しているのではないかという仮説が生まれました。

現場の声としても、「探すのが大変」「すぐに見つからない」といった課題感が共有されており、経営側のマクロな視点と、現場のミクロな声の両方から、この業務を改善すべきだという意識が一致していたのです。

生成AIのドキュメント検索による業務効率化についてのお悩み・課題などNTT東日本の生成AIエンジニアにてご相談にお応えします。お気軽にお問い合わせください。

若手メンバー主導で進めた生成AI導入。非IT部門でもここまでできた

プロジェクトをどのような体制で推進されていたのか、関わったメンバー構成を教えてください

小松：今回のプロジェクトは、私の部署が施策主幹となり、5つの部署からメンバーを募った横断的なチームで推進しました。体制としては、若手層からマネージャー層まで幅広く参加していましたが、実務的な部分は主に若手が担当して進めていました。私たちのような統括部門のメンバーは、技術的に詳しいわけではないため、技術部門の方にサポートしていただきながら、チームとして補完し合う形で取り組んでいました。

山田：私はPMO的な立場で、チームがスムーズに動けるように全体のバランスを見ながら支援していました。複数部署にまたがるプロジェクトだったため、進行面での調整や連携が重要だったと感じています。

今回の生成AI導入にあたり、どの業務を対象とされたのか具体的にお話いただけますか

小松：対象となったのは、サービスオーダー関連の業務を中心とした、いわゆるマニュアル検索業務です。サービスごとに利用するマニュアルの数が非常に多く、構成も複雑で、何をどこで調べたらいいのか分かりづらいという課題がありました。これをチャットボットに置き換える形で、生成AIを活用して回答案を提示できるようにしました。

山田：サービスごとのマニュアルをデータソースとしてチャットボットに読み込ませ、それに基づいて回答を提示するという仕組みを構築しています。

対象となった業務の範囲や、何人くらいの社員に影響する取り組みだったのかもうかがえますか

小松：本格導入はまだこれからという段階ではありますが、対象としている業務の範囲は、サービスオーダーセンターやカスタマーセンター、社内の問い合わせ対応部門など、非常に広くなっています。人数規模でいうと、数千人単位の利用者を想定しています。

ただし、現在はKPIの設定やユーザー数の把握も含めて、まさにこれから定量化していくフェーズです。今はまだ限定的に展開している段階ですが、今後、より広い範囲へと波及していく見込みです。

精度の不安を払拭する工夫とは？現場で使える生成AI活用術とワークフロー設計

実際にどのようなプロンプト設計やルールを用いて、チャットボットを構築されたのでしょうか

小松：まず、初回チャットメッセージでは「この回答はAIによる生成であり、正確性を保証するものではないため、必ず根拠を確認してください」といった注意事項を記載しています。その上で、システムプロンプトには、たとえば「サービスに関する問い合わせ対応のスペシャリストであること」「一般的な知識や推論には基づかず、コンテキストに基づいた回答を行うこと」といった制約を書き込んでいます。

回答文には、ステップを踏んで考えたプロセスや参照した資料の根拠を含めるように指示しており、単なる結論だけではなく、どういう経緯でその答えに至ったのかがわかるようにしています。利用者が安心して活用できるよう、信頼性を担保する工夫はかなり意識しました。

業務ごとにカスタマイズされた点や、回答の信頼性をどう担保されたのか教えてください

小松：サービスごとにチャットボットを個別に構築しており、差分はなるべく出さないようにしていますが、一部のサービスでは回答の内容を直接表示せず、根拠資料の該当箇所のみを提示するような設定するなど、サービス主管からの要望を受けて個別対応もしています。

また、たとえば「おまかせサイバーみまもり」のようなサービス名や専門的な用語は、AIが誤認識しやすいキーワードとしてあらかじめ登録しています。こうした工夫によって、生成される回答の精度を高めるようにしました。

ツールの導線設計や、業務フローへの組み込みについてもお話しいただけますか

小松：まだ運用ルールとして完全に組み込まれているわけではありませんが、目に付きやすい場所に配置するように導線設計を進めています。具体的には、ビジネス開発本部のSharePoint内のホームページにチャットボットを設置したり、営業部門の閲覧頻度が高いページにも組み込みを検討しているところです。

業務で必ず使うというレベルには至っていないものの、できるだけ自然にアクセスできるようにすることが、定着につながると考えています。

社内で実際に使用しているチャットボット

現場への浸透を図るうえで、社内で行った取り組みや工夫があればうかがいたいです

小松：社内通達やトップからのメッセージの発信、説明会や促進会の開催など、さまざまな手段を組み合わせて、利用促進を図っています。特に、実際に使いそうなターゲット層に絞った取り組みを意識しており、現場の声を吸い上げながら進めています。

山田：また、単に使ってくださいというだけではなく、実務を知る現場の担当者の意見を取り入れて、どうすればより使いやすくなるかというディスカッションを重ねながら調整を行っています。これが導入を進めるうえでとても重要なポイントだったと感じています。

SaaS導入などとは異なる、生成AIならではの難しさや意識したポイントがあれば教えてください

山田：生成AIは、たとえば「100%正しい回答が出る」といった前提で利用されると誤解を招く恐れがあります。とくに現場の利用者には「AIが言ってるから正しい」という認識を持たれないようにする必要がありました。生成AIはあくまで補助的なものであり、根拠資料とセットで判断してもらう必要があります。

小松：そのため、プロンプト設計においても「根拠を必ず示すようにすること」や、「コンテキストに基づいた回答をすること」といった制御を意識して設計しています。こうした信頼性の担保が、生成AI活用においての最大の難しさであり、同時に最も大事な部分だと考えています。

生成AIのドキュメント検索による業務効率化についてのお悩み・課題などNTT東日本の生成AIエンジニアにてご相談にお応えします。お気軽にお問い合わせください。

ドキュメント検索時間が6割減。生成AIがもたらした定量的な業務改善

現時点で見えている成果や、どのような業務改善効果が得られているのか教えてください

小松：今回のツールは、まさに出したばかりという段階ですので、まだ定量的な利用実績はこれからというところです。ただし、一部の組織に事前に実施したストップウォッチによる比較では、従来の業務に比べて60%程度の時間削減が可能であるという結果が得られています。質問の内容によってばらつきはありますが、30分かかっていた作業が12分で済むケースもあり、平均的には4割の時間で業務を完了できるようになりました。

検索時間が削減されたことで、空いたリソースをどう活かしていこうと考えているのでしょうか

小松：まず前提として、現場では人員削減も進んでおり、限られた人手で業務を回さなければならないという状況があります。その中で業務を効率化することは非常に重要で、今回の取り組みによって浮いた時間を、単に余剰時間として使うのではなく、本来やるべきだった付加価値の高い業務にリソースを振り分けていくことが求められます。

既存業務の省力化によって空いたリソースを、新たな価値創出の領域に再配分していくことが大きな狙いです。

利用者からのリアクションや、社内の評価についても教えてください

小松：現場からは、やはり「精度が不安」「本当に合っているか分からない」といった声が最初に挙がってきています。生成AIという新しい技術に対して、恐る恐るという反応は想定していた通りです。そのため、最初から完璧な成果を求めず、まずは慣れてもらうことが重要だと感じています。

一方で、AIに対して前向きな姿勢を持っている社員からは、「こういうのは取り組んでいくべきだ」という意見もありました。役員などの経営層としては、AIの活用は当たり前になってきていると捉えており、今後どう組み込んでいくかという視点で見ていただいています。つまり、現場と経営のどちらにも期待感がある取り組みになっていると思います。

プロジェクトとしてここまで推進できた成功の要因があれば、読者に向けてアドバイスをお願いします

小松：私たち自身、もともとAIに詳しいわけではありませんでしたが、だからこそ、他部署の技術担当の皆さんに支援いただきながら、プロジェクトを推進することができました。リテラシーが高くなくても、周囲と連携しながら進めれば、十分に成果を出すことができるというのが今回の実感です。今回のプロジェクトでよくあったのは、うまく回答が来ないという問題です。技術担当の皆さんには、課題の深堀だけでなく分析してプロンプトに反映して実用できるまで、伴走してもらいました。

また、最初から完璧を目指すのではなく、スモールスタートで試行錯誤しながらブラッシュアップしていくという姿勢が非常に重要だと思います。現場の反応を見ながら改善を重ねていくことで、最終的に組織全体としての成果に結びついていくと信じています。

生成AI活用の壁は“リテラシー”ではなかった──現場と経営の両輪で進む次の展望

今後さらに生成AIをどう活用していく予定なのか、展望をお聞かせください

小松：まずは、今回取り組んだチャットボットのようなツールを、対象業務や利用部門を広げて展開していくことが当面の方向性です。そのためには、精度をより高めていくことが求められます。現時点でも、十分実用的なレベルにはありますが、今後さらに精度を改善し、誰でも安心して使える状態にしていきたいと考えています。

山田：また、ツールそのものの評価を高めることも重要です。生成AIに関しては、社内でも実証実験が進められている状況なので、他部門との連携をさらに強化し、ナレッジを共有しながら、よりよい形での展開を目指していきます。最終的には、NTT東日本グループ全体としての業務効率化に貢献していきたいと考えています。

生成AIの導入を検討している方々に向けて、ぜひメッセージをいただければと思います

小松：よく「リテラシーがないと使えないのではないか」という不安の声を耳にしますが、今回の取り組みを通じて実感したのは、リテラシーがないからこそ試すべきだということです。実際、私たち自身も詳しくはなかったですが、生成AIを活用してみることで、新しい気づきや改善点が見えてきました。

山田：一番のポイントは、まず試してみることだと思います。完璧な答えを求めすぎず、トライ＆エラーを繰り返す中で、自分たちに合った使い方が見えてくるはずです。私たちもそうでしたが、技術的に難しく考えすぎず、身近な課題から小さく始めることで、大きな成果につながると感じています。

弊社だけでなく、他の企業さまも生成AIを推進する、活用するとなると同じような悩みにぶつかることはあるかなと思っています。

技術的なノウハウだけでなく、推進に関するノウハウや知見・経験も溜まってきているので、そういった部分でも力になれますので、ぜひご相談ください。

生成AIのドキュメント検索による業務効率化についてのお悩み・課題などNTT東日本の生成AIエンジニアにてご相談にお応えします。お気軽にお問い合わせください。

サービスオーダー業務の知見を活かし、NTT東日本が支援する生成AIの新たな可能性

NTT東日本では、今回のような社内の生成AI活用の取り組みで得られたノウハウを、今後はお客さまの業務支援にも活かしていきたいと考えています。たとえば、膨大なマニュアルを扱うサービス業務や、問い合わせ対応に多くの工数がかかる業務、属人化してしまっている情報検索業務などに対して、生成AIを用いたチャットボットの導入や、社内ナレッジの再構築を通じて、お客さまのDXを後押しすることが可能です。

すでに私たちは、NTT東日本グループ内での生成AI活用において、業務の実態を踏まえたユースケース設計、プロンプト開発、社内マニュアルやドキュメントの検索最適化など、多様な知見を蓄積しています。特に、通信サービスやクラウドサービスの運用に関する深い理解をもとに、現場で実際に機能するツールの設計と導入支援ができるのは、通信事業者である私たちならではの強みです。

「まず何から始めればいいのか分からない」「試してはみたいが、精度やリスクが不安」といった声に対しても、私たちは伴走型で支援を行います。お客さまの業務内容や課題感に応じて、最適な生成AI活用のかたちを提案し、ともにトライアルから本格導入、そして定着までを支援します。

生成AIを活用した業務改善に関心のあるお客さまは、ぜひNTT東日本にご相談ください。現場に根ざした知見と、社内実践で培ったノウハウをもとに、最適なソリューションをご提案いたします。

生成AIのドキュメント検索による業務効率化についてのお悩み・課題などNTT東日本の生成AIエンジニアにてご相談にお応えします。お気軽にお問い合わせください。