生成AIと伴走支援を掛け算し、業務を効率化。サービス開発者が考える生成AI活用のあるべき姿
NTT東日本の生成AIサービスのご紹介、事例紹介や費用のご相談など生成AIエンジニアにてお応えします。お気軽にご相談ください。
生成AIは今日、文書作成や画像編集、プログラミングなど幅広い分野で活用されていて、企業だけでなく自治体においても業務効率化や住民サービスの向上を目的に導入を検討する動きが進んでいます。
その一方で生成AIを利用する中での課題として、回答の精度や回答の正確性が確認できないこと、プロンプト投入の手間、ユースケースの創出などで、なかなか生成AIの活用が組織で浸透しないのが実情です。
そうした懸念を払拭し、自治体や企業における生成AI活用を浸透させるため、お客さまの保有する情報をもとに回答を生成する機能や、プロンプトテンプレート機能を具備したAIチャットツールをNTT東日本では提供しております。
またこれまで弊社では、お客さまのクラウド環境にシステムの構築を行う個社別型でのサービス提供を行っていたのですが、2025年4月9日（水）から新たに、ID単位による課金体系の「生成AIサービス」を提供開始しました。
この「生成AIサービス」のサービス開発の背景や解決できる課題、具体的な活用方法と機能について、開発を担当したエンジニアがご紹介します。
「待ったなし」で進行する働き手不足。自治体が抱える少子高齢化と人口減少の課題
クラウドサービス担当 岩井 俊樹
弊社ではこれまで「～地域からミライをつくるPROJECT～」「地域創生DX会議」など、地域の自治体や企業と連携し、DX活用によって地域が抱える課題の解決に取り組んできました。多くの地域とお取り組みしていく中で、自治体さまと企業さまに共通していた課題は少子高齢化と人口減少による働き手不足です。
特に自治体さまの業務では、膨大な量の情報を扱わねばならないことが大きな悩みとなっています。たとえば法令や条例、そして各部局特有の業務マニュアルなどが挙げられます。多くの職員で対応できれば問題ないかもしれませんが、人手不足によって少人数で対応しなければならない現在においてそれら大量の情報を扱うことはかなりの労力が必要です。関連する過去のドキュメントを検索するだけでも膨大な時間がかかりますし、検索に時間を割いた分だけ業務がストップしてしまいます。
特に自治体さまは3～4年ごとに人事異動もあり、組織ごとのルールや関連法令・条例を新たに習熟する必要があります。（岩井）
プロダクト開発担当 矢野 正洋
働き手不足が進行する地域において、業務の習熟にばかりリソースを取られてしまっては、地域の生活向上に貢献するためのより戦略的、より創造的な業務にリソースを割くことができません。（矢野）
進まない自治体における生成AIの活用。その背景にある課題とは
総務省からも『自治体デジタル・トランスフォーメーション(DX)推進計画』が発行されており、自治体の働き手不足を解決するための業務効率化にAIを活用することが推奨されています。そのため、自治体の業務に生成AIを活用すること自体に対しては、大きな抵抗はないと感じています。では、生成AIを本格的に導入している自治体がまだまだ少数なのはなぜなのでしょうか。
自治体さまのPoCを通じて、本格導入が進まない原因としていくつか見えてきたものがあります。
その一つとして、効果検証を行い効果を見極めた上で導入決めていく場合が多いためです。特に自治体さまでは限られた予算を使う以上は住民や議会への説明責任があり、具体的な成果が見込めない限りは導入の判断が難しいです。そのため、すぐには本格的な導入には至らず、「まずは実証から」というケースが多く見られます。
さらに本格導入が進まない原因としては、回答の正確性への懸念が考えられます。
生成AIは、学習データの不足や偏りなどの原因によって事実とは異なる間違った情報を出力する「ハルシネーション」という現象が発生してしまうケースがあります。特に法令や条例を扱う中で、住民サービスに対して不正確な情報が出されてしまうことは、絶対にあってはなりません。
このハルシネーションは完全にゼロにすることは難しいので、生成AIが出力した回答の正確性をチェックすることは生成AIを利用するにおいては必ず必要となってきます。
またハルシネーションを抑え、精度の高い回答を生成AIから引き出すには、プロンプトのテクニックが必要になります。たとえば役割を与えたり、出力形式を指定したり、思考方法を指示するといったテクニックが挙げられます。
しかし利用者全員がこういったテクニックを理解し実行するには少しハードルが高いというのが実情です。（岩井）
NTT東日本の生成AIサービスのご紹介、事例紹介や費用のご相談など生成AIエンジニアにてお応えします。お気軽にご相談ください。
ユースケースや課題にあわせたテンプレートを用意。組織でいますぐ活用できる機能
弊社では自治体・企業さまが生成AIを活用する上で直面している課題を踏まえ、「生成AIをより業務で使っていただきやすく」を志向して開発された「生成AIサービス」を提供しています。
「生成AIサービス」はRAG機能を具備しており、指定したドキュメントを参照して回答を生成することができるのが特徴の一つとなります。
これにより社内の膨大な文書やデータから必要情報を即座に抽出・活用することができ、より正確かつ一貫性のある回答が可能になります。
また回答とともに、回答を生成するにあたって参照にしたドキュメントも確認することができるようになっているので、回答の根拠の確認も可能です。
またもう一つの特徴として、プロンプトテンプレート機能があります。
参照する情報やプロンプトをテンプレート化することで、調べたい情報を効率よく取得し、簡単な指示の入力でも誰もが一定水準の回答を得ることが可能になります。プロンプトでは事前に役割や出力形式、思考方法などをセットしておきます。
「生成AIサービス」ではこのプロンプトテンプレート機能を「コンシェルジュ」と呼んでいます。
このコンシェルジュを業務や課題といったユースケースごとに作成することで、業務・課題に沿った文書作成や文書添削、アイデア出しなどが可能です。
コンシェルジュは利用者が自由に作成することも可能で、作成したコンシェルジュは任意の組織へも共有が可能です。
創出したユースケースを簡単に組織内で共有することができるので、組織内での活用推進に繋がります。
サービスのUIはできる限りシンプルなものを心掛けています。幅広い層の方々にも安心してご活用いただけるような直感的な操作感を目指して開発しました。その他にもレポート機能も具備しており、誰がどれだけ生成AIを活用できているかを確認できることなども特徴です。たとえばレポートの内容を参考に、生成AIを活用できている人をピックアップして、社内へノウハウを展開してもらうことも可能です。
これらの特徴を持つ「生成AIサービス」を我々はこれまで、お客さまのクラウド環境に構築する"個社別提供型"でサービスを提供してきました。
しかし自治体さまのPoCを通じて、特定の原課に絞った利用やスモールスタートで段階的に生成AIを導入進めていきたいというお声を多くいただき、2025年4月9日(水)にID単位による課金体系の「生成AIサービス」を新しくリリースいたしました。（矢野）
自治体への伴走支援を提供。実際の生成AI活用の現場で得られた経験とは
他にも自治体さまの生成AI活用の課題として「そもそも何から取り組めばよいのか分からない」であったり、「ルール作りができていない」、「取り組むための人材が不足している」といった声もよくお聞きします。
そのようなお悩みを解決するために、弊社では生成AIの導入支援も実施しております。
私たちは「伴走支援」と呼称しており、大きく以下の4つのステップに分けて支援を行っております。
- 基礎知識の向上・導入支援
- 生成AI活用スキルの習得支援
- 業務プロセス改善
- 組織内への拡大・活用定着支援
基礎知識の向上・導入支援においては、生成AIに関する基礎研修や、行政サービスや各自治体に合わせたガイドラインを策定します。ガイドラインについてはNTT東日本が社内でガイドラインを策定したノウハウをもとに策定の支援を行います。
生成AI活用スキルの習得支援では、生成AIに対するプロンプトの書き方を習得するためのハンズオン研修を実施します。プロンプトの内容が変わると、具体的に生成AIのアウトプットがどのように変化するかをハンズオンの中で体感していただきます。加えて、RAGの基礎研修も実施します。
業務プロセス改善では、業務プロセスへの落とし込みとしてユースケース創出のワークショップを実施します。自治体特有の業務や慣習をヒアリングし、シーンに合わせた生成AIの活用方法をディスカッションしながらブラッシュアップしていきます。
また創出したユースケースを実際に実装する技術支援も行います。
最後に、組織内への拡大・活用定着支援では事例共有会の開催や必要に応じて動画の作成や配信までも行います。
これらの取り組みを、地域に根差した弊社のDX人材がお客さまに寄り添って、最終的にお客さまが自走することをゴールに生成AI活用の浸透をご支援させていただきます。
一例として、藤沢市さまではPoCとしてシステムの導入からこれら伴走支援まで、一気通貫で生成AIの導入を支援させていただいておりまして、対外的にも取り上げていただいております。（岩井）
【導入事例】来る職員減少に備え、RAG構築による課題解決を検証。「藤沢DX」における生成AIソリューションのユースケースに迫る
NTT東日本は、生成AI活用を進める自治体・企業を応援します
「生成AIサービス」については、更にお客さまの声を拾い上げてサービス全体を改善していければと考えています。現状のサービス内容や機能に満足することなく、新しい技術は積極的に取り入れ、新しい機能の開発に取り組んでいきたいと思います。たとえば今年度中には、お客さまとのPoCを通じて得られたノウハウをもとにした標準搭載テンプレート、音声入力機能や外部APIとの連携など、更に機能を拡充させていく予定です。
また、よりサービス提供の幅を広げるためにオンプレミス環境への対応についても開発を進めております。（矢野）
自治体さまだけでなく、企業さまにもご利用いただけるものとなっており、個人ユーザーにとっての使いやすさだけでなく、「組織としての使いやすさ」も意識して開発を進めていきます。生成AIに限らず、せっかくITツールを導入しても組織になかなか定着・浸透しないという悩みはよく耳にします。弊社ではシステムの導入のみならず、活用のための伴走支援もご提供していますので、そうした悩みを抱えている自治体・企業の方にはぜひご検討いただけると嬉しいですね。（岩井）
今回は、NTT東日本が手がける「生成AIサービス」の開発事例をご紹介しました。「生成AIを活用して業務を効率化していきたい」「組織での活用をより促進したい」といった課題を抱える皆さまの参考になれば幸いです。
NTT東日本には、地域の自治体・企業のお客さまに対する多数のクラウドサービス活用の支援実績がございます。お客さまとの取り組みにおける個別の開発に加え、内製による開発で社内の開発力、技術力を高めてまいりました。生成AIの活用に関するご相談、お問い合わせを随時受け付けておりますので、お気軽にご相談ください。
- 文中記載の組織名・所属・肩書き・取材内容などは、すべて2025年3月時点（インタビュー時点）のものです。
生成AIの活用に向けて、地域DXアドバイザーや生成AIエンジニアが徹底サポートいたします。
