横浜市が挑む、行政サービスにおける生成AIとRAGの活用。積み重ねてきたドキュメントが成功のカギ

労働人口の減少や業務の複雑化が進む中、自治体や企業においてこれまでのサービスの質を維持・向上させるためには、業務の効率化が不可欠です。「横浜DX戦略」を推進する横浜市では、デジタル技術を活用した行政サービスの向上に取り組んでいます。その一環として、コンテンツ生成機能を持つ生成AIに着目し、NTT東日本と連携してRAG導入の検証を行いました。今回は横浜市が抱えていた課題やRAG検証の流れ、そこで得られた成果と知見について、ご担当者にお話を伺いました。

自治体向け生成AIソリューションのご紹介、事例紹介や見積算出などクラウドエンジニアにてお応えします。お気軽にご相談ください。

「横浜DX戦略」とデジタル活用が目指す新しい行政サービスの形

「横浜DX戦略」の取り組みについてお聞かせください。

武井氏：横浜市では2022年から「横浜DX戦略」を進めており、デジタル技術を活用した行政サービスの向上に取り組んでいます。デジタル化の波をただ受け入れるだけでなく、デジタル化による恩恵を市民と地域に行き渡らせ、魅力あふれる横浜市にしていくため、横浜市自らがイニシアチブをとってデジタルの実装をデザインすることが大きなミッションです。

「横浜DX戦略」では、どのような行政サービスを理想としているのでしょうか。

武井氏：市民が求める行政サービスを簡単に受けることができる、つまり手続きや事務処理の面倒さを意識させず、時間や場所に縛られないUX（ユーザー体験）に優れた行政サービスを理想像としています。

2025年現在、転出の届出や戸籍・税関係の証明書発行などの行政サービスのうち約9割を占める100の手続きについては、すでにオンライン化を実現しました。試算では年間で約50万時間の効率化を実現しており、それだけの時間を市民に還元できたことを意味します。

横浜市役所内（以下、庁内）の業務効率化には、どのように取り組んでいるのでしょうか。

大澤氏：事務手続きをDX化することで職員の負担を軽減し、効率化によって生み出された時間を市民サービスの向上につながる業務に費やしています。その手段のひとつとして、生成AIの活用を模索してきました。

庁内で生成AIの実証実験がスタートしたのは、2年前の令和5年度からです。一般的な事務作業に対しては汎用性の高い生成AIのツールを、専門性の高い業務に対しては業務に特化したRAGを導入するという2軸で進めてきました。生成AIのツールはほぼ全庁に導入済みで、RAGは現在実証中というステータスです。

自治体向け生成AIソリューションのご紹介、事例紹介や見積算出などクラウドエンジニアにてお応えします。お気軽にご相談ください。

専門ドキュメントを活かすRAGの利点と課題。汎用的な生成AIとのすみ分けとは

RAGは、大規模言語モデル（LLM）に組織固有のドキュメントを参照させることで、より精度の高い回答を得る技術です。RAGに対する第一印象をお聞かせください。

大澤氏：今回の取り組みで、初めてRAGを知りました。生成AIはたしかに便利ですが、ハルシネーションの課題や専門的な回答までは難しいことから、汎用的な生成AIだけでは庁内のすべての業務には応えきれないと感じていたのです。しかし各専門分野の業務に特化した情報を元に回答できるRAGであれば、抜本的な業務効率化につながるのではと考えました。

RAGを活用する利点と課題について、どのように考えていますか。

大澤氏：独自のマニュアルや規定、過去に蓄積してきたドキュメントをベースに回答を生成できる点ですね。庁内では日々、多くの問い合わせに対応しており、問い合わせのたびに膨大な資料から手作業で目的のドキュメントを探していましたが、自然言語の質問でもパーソナライズされた回答が返ってくるのは、大きな魅力です。

逆に業務に導入する上での課題は、構造化されていなかったり、多くの図表が含まれていたりと、AIが学習しにくいドキュメントの存在です。こうしたドキュメントや担当者だけが知っている、ドキュメント化されていない暗黙知も学習させなければならないことは、RAG導入にあたっての課題だと考えています。他にも、複数の領域にまたがるドキュメントを組み合わせて回答を生成しなければならない領域には限界を感じており、今後の技術進化が待たれるところです。

自治体向け生成AIソリューションのご紹介、事例紹介や見積算出などクラウドエンジニアにてお応えします。お気軽にご相談ください。

RAG検証の支援事業者に、NTT東日本を選定いただいた理由と取り組みの流れ

今回のRAG導入の実証にあたって、支援事業者にNTT東日本を選定いただいた理由についてお聞かせください。

武井氏：支援事業者の選定にあたってはプロポーザル方式を採用し、各社の提案を受けて評価委員会で審査しました。その際に評価の視点は以下の4点です。

• 生成AIに対する事業の位置づけ方
• 支援事業者の社内における生成AIの利活用度合い
• サポートに関する具体提案
• ユーザーが利用しやすい配慮

参照：「生成 AI 利活用実証支援委託」契約結果（横浜市デジタル統括本部企画調整部企画調整課）

キックオフ後の流れを教えてください。

大澤氏：キックオフではRAGの技術的な概要や業務ごとの向き不向きについてお話しいただき、RAG検証の対象となる所管部門（以下、原課）と業務の選定に入りました。RAGが得意とする「ドキュメントから回答を引き出す」業務を抱えており、かつ生成AI技術に対して関心を持っていた、3つの原課を対象としています。

• 健康福祉局：ドキュメントのナレッジ化・継承
• 政策経営局：業務改善・データ活用
• 選挙管理員会：ナレッジの検索効率化・回答迅速化

自治体向け生成AIソリューションのご紹介、事例紹介や見積算出などクラウドエンジニアにてお応えします。お気軽にご相談ください。

法律と過去の事例に即した、正確さ・迅速さが求められる選挙管理委員会の問い合わせ業務

ここからは今回の取り組みでRAG導入を検証いただいた選挙管理委員会のご担当者にお話を伺います。RAG活用の対象となった業務についてお聞かせください。

古川氏：選挙管理員会は、市民の皆さまをはじめ、市役所の他部局、議員・候補者の方などから、さまざまなお問い合わせをいただき、公職選挙法などの法令や過去の実例・判例を基に回答しています。公職選挙法では「何をしていいのか」「何をしてはいけないのか」がとても細かいところまで定められています。その中には、一般常識的には問題なさそうなことでも、公職選挙法上では罰則をもって禁止されていることもあるため、回答は慎重にしなければなりません。また、法改正や新たな事例・判例に関する知識を常に更新していく必要があることも特徴です。

選挙関連の問い合わせ業務には、どのような課題があったのでしょうか。

代田氏：選挙関連の問い合わせ対応では、法令書籍や資料を幅広く検索する必要がありますが、私たちの委員会で働く職員は人数が限られており、正確な回答を導き出すまでの時間と手間に課題を感じていました。特に選挙の期間中は業務量が跳ね上がり、経験の浅い職員では正確な情報に素早くアクセスするのは困難でした。さらに異動も多く、難易度の高い問い合わせは経験のある職員に偏りがちで、ノウハウの引き継ぎに課題があると感じていました。

古川氏：今回のRAG導入以前にも、過去の実例を記録しておき、キーワードで検索できる簡易なデータベースを作っていたのですが、少し不便さを感じていました。たとえば印刷物を総称して「文書図画（ぶんしょとが）」というのですが、掲示するなら「ポスター」「看板」などと呼び、頒布するなら「ビラ」「チラシ」などと呼ぶため、キーワードで検索しても求める回答にたどり着けないケースもありました。

代田氏：そのような中で、RAG技術を活用のお話をいただき、正確な回答にたどり着くまでの時間を短縮し、問い合わせ業務の負担が軽減できると期待が膨らみました。

自治体向け生成AIソリューションのご紹介、事例紹介や見積算出などクラウドエンジニアにてお応えします。お気軽にご相談ください。

AI技術と昭和から積み重ねてきたドキュメントによって、約9割の回答精度が得られた

選挙関連の問い合わせ業務におけるRAG検証は、どのように進行しましたか。

代田氏：まず、信頼度の高い文書・書籍のデータを集めるところから始めました。公職選挙法などの法令のほか、参照する頻度が高い書籍（『逐条解説』及び『実例判例集』）のデータはぜひ取り込みたいと考えていたところ、株式会社ぎょうせいさまから、PDFにしておよそ4,500ページになるデータを快くご提供いただくことができました。

また、先輩職員たちが、昭和46年以降一つひとつ問い合わせの記録を積み重ね、約3,000件にも及ぶ質疑応答のデータをRAGに連携させています。そのためには、これらのさまざまな形のデータをテキストデータとして構造化する必要があったため、データクレンジングは大変な作業だったと思います。実際の作業では、プログラムを挟みつつ、目視によってノイズとなる情報や文字化けの修正、段落整理などを行っていただいたと聞いています。

古川氏：実証実験中には市議会議員の補欠選挙が実施され、その問い合わせ業務にさっそくRAGを実戦投入しました。まだ経験が浅い職員が問い合わせに対応する際、どの条文に該当するのか、過去に類似のケースはあったのかをまずRAGからの回答で確認してから先輩職員に相談することができています。おかげで若手と先輩、双方の職員の業務を効率化することができたと思います。

選挙関連の問い合わせ業務におけるRAG検証によって、どのような成果が得られましたか。

代田氏：RAG実証の結果、選挙関連の問い合わせに対する回答精度は約9割に達しています。あらかじめ用意した質問に対し、想定された通りの回答が得られるかどうかを評価したものです。

古川氏：正直なところ、検証当初は期待していませんでした。選挙業務独特の専門用語や法令解釈をRAGでは理解しきれないだろうと考えていたからです。しかし、プロンプトのチューニングや過去の質疑応答データを活用することで、回答精度が向上していくことに驚きました。NTT東日本さまからは「回答精度を上げるためにパラメータの調整やチャンク分割（文書を適切な大きさに分割する処理）を工夫した」と聞いています。

また、RAG検証の副次的な成果として、質疑応答の内容をデータとして一つひとつ積み重ねていくモチベーションが高まったことが挙げられます。手書きで記録を残していた昭和の時代から脈々と受け継がれてきた質疑応答の記録が、デジタル技術が当たり前になった令和の時代になって大きな価値を発揮したことは、とても感慨深いことです。

当事者の職員にとって、質疑応答の内容は自分で覚えていますから記録にわざわざ残す必要性はありません。しかし、先輩職員の皆さんが貴重な業務時間を費やし、一文字一文字を手書きで、ワープロで、そしてパソコンで地道に記録を残してくれてきた積み重ねが、RAGから高い精度の回答を得られた背景にあるのだと私は考えています。

自治体向け生成AIソリューションのご紹介、事例紹介や見積算出などクラウドエンジニアにてお応えします。お気軽にご相談ください。

技術と先人の努力が結びついたRAG検証と成果。職員負担の軽減と市民サービス向上の鍵とは

それでは最後に、生成AIの活用に関する展望をお聞かせください。

武井氏：今後、人材確保がますます困難になる中で、業務のスリム化や職員の負担軽減に生成AIを活用することは、避けては通れないと考えています。そして単なる業務の効率化だけでなく、そこから生み出される時間を市民サービスの向上につなげていくことこそが重要です。

横浜市では今回のRAG検証だけでなく、全庁的に汎用的な生成AIの導入も進めていますが、活用されている業務の範囲や活用度合いはまだまだ十分とは言えません。生成AIリテラシーの向上も含めて、今後さらに利用促進を図っていきたいと思っています。

今回検証いただいたRAGは、どのような自治体にお勧めできますか？

武井氏：自治体の規模に関係なくRAGの導入は可能ですし、導入のハードルも比較的低いため、幅広い自治体の業務に合致するのではないでしょうか。どの自治体も、どのような業務でも独自の業務知識やマニュアルが残されているでしょうから、インターネット上の情報に頼らずに今まで残されてきたドキュメントを活用していくという意味で、RAGは非常に有効な技術だと考えています。

最後に、読者へのメッセージをお願いします。

古川氏：過去から地道に積み重ねられてきたドキュメントが、今回のRAG検証で思いもよらなかった脚光を浴びた気がします。これは新しい技術だけのおかげだけでなく、先輩職員皆さんの努力による成果です。全国の自治体の現場で日々頑張っている職員の皆さんとも、コツコツと積み上げてきた努力は、必ずいつかどこかで花開くという希望を共有できればと思います。

自治体向け生成AIソリューションのご紹介、事例紹介や見積算出などクラウドエンジニアにてお応えします。お気軽にご相談ください。

NTT東日本は生成AIを活用するお客さまを支援いたします

今回はNTT東日本における「自治体向け 生成AIソリューション」のPoC事例をご紹介しました。「生成AIやRAGのユースケースを知りたい、活用したい」「生成AIシステムを導入したものの、職員の活用が進まない」といった悩みを抱える自治体職員の皆さまにとって、参考になれば幸いです。

NTT東日本は単にサービスを提供するだけでなく、お客さまにご活用いただき、取り組みの成果を感じていただくために二人三脚の伴走支援を重視しています。まだ新しい技術である生成AIやRAGのソリューションについても、実際の取り組みで得られた知識やノウハウを活かし、社内の提案力、技術力、そしてサポート力を高めています。生成AIやRAGに関するご相談、お問い合わせは随時受け付けておりますので、お気軽にご相談ください。

• 上記ソリューション導入時期は2025年3月です。
• 文中に記載の組織名・所属・肩書き・取材内容などは、全て2025年5月時点(インタビュー時点)のものです。
• 上記事例はあくまでも一例であり、すべてのお客さまについて同様の効果があることを保証するものではありません。