COLUMN

1. 生成AIの急速な導入拡大とその背景

近年、生成AIは業務効率化や生産性向上を目的として、企業や自治体においても導入の動きが加速しており、もはや一部の先進企業だけの取り組みではなくなりつつあります。

1-1. ChatGPTをはじめとする生成AIの普及状況

生成AIは、個人利用・企業導入の両面で急速に普及しています。個人利用では、2024年末時点で国内の生成AIサービス利用者数は約1,924万人に達し、2025年末には約2,537万人に増加する見込みです^※1。企業導入については、国内企業の25.8％が生成AIを活用しており、前年から15.9ポイント増加^※2。また、東証上場企業およびそれに準じる企業981社のうち、41.2％が言語系生成AIを導入しており、前年の26.9％から大幅に増加したという調査結果もあります^※3。特に売上高1兆円以上の大企業では、約7割が生成AIを導入済みであり、試験導入中・導入準備中を含めると約9割に達しています。

• 1 出典：「2024年度 生成AIサービス利用動向に関する調査」（ICT総研）
• 2 出典：「国内生成AIの利用実態に関する法人アンケート調査」（矢野経済研究所）
• 3 出典：「企業IT動向調査2025」（JUAS）

1-2. 企業・自治体における生成AIの活用領域

チャットボットによる顧客対応をはじめ、マーケティングコンテンツの作成や議事録の要約、FAQの自動生成といった業務で生成AIの活用が進んでいます。自治体でも、住民対応の効率化や職員の業務支援ツールとしての導入事例が増えており、業種・業態を問わず生成AIの導入ニーズが高まりを見せている状況です。

1-3. 非IT業界でも導入が進む理由

クラウドベースの生成AIサービスやAIを活用したノーコードツールの普及などにより、非IT系の製造業や小売業、サービス業においても、専門知識を持たない担当者が手軽に生成AIを利用できるようになりました。人手不足の解消や業務効率化といった効果を期待できることから、経営層からの関心も高まり、現場主導でのトライアル導入も加速しています。

NTT東日本の生成AIサービスの詳細はこちら！

2. 利便性の裏に潜む生成AIの問題点

生成AIは、業務効率化をはじめとする多くの利点がありますが、無視できないリスクも存在します。特に、情報の扱いや生成内容の信頼性に関する課題は、企業や自治体にとって重大な懸念事項です。

2-1. 情報漏えいのリスク

生成AIは、ユーザーが入力した情報をもとに回答を生成しますが、入力内容が外部の学習データやログとして保存・再利用される可能性があります。例えば、機密情報や個人情報を含む内容を入力してしまった場合、その情報が生成AIの提供元のサーバーに残り、将来的に第三者に類推・再出力されるリスクを含んでいます。また、組織のガバナンス外で従業員が生成AIを業務に使用する「シャドーAI」も問題視されています。個人アカウントで生成AIを使って業務データを処理した場合、情報漏えいやコンプライアンス違反につながるリスクがあります。企業や自治体においては、こうした非管理下の利用を防ぐためのルール整備と周知徹底が不可欠です。

2-2. 著作権や知的財産権の侵害

生成AIが出力する文章や画像には、既存の著作物に類似した内容が含まれる場合があります。これは、生成AIが過去の公開データを学習していることに起因しますが、結果として、他者の著作物や商標、デザインに抵触するリスクが生じます。こうしたリスクを回避するには、生成物の利用範囲を明確にし、必要に応じて法務部門と連携したチェック体制を設けることが求められます。

2-3. ハルシネーションと信頼性の課題

生成AIは文章を作成する能力に優れていますが、一方で事実に基づかない情報を出力する「ハルシネーション」のリスクもあります。特に、自治体の行政文書や企業の提案資料など、正確性が重視される場面で生成AIを使用する際には、必ず人の手による検証や事実確認が必要です。生成AIの出力結果をそのまま信頼することは、誤情報の拡散や意思決定の誤りにつながる可能性があります。

ハルシネーションとは？生成AI利用のリスクと対策を解説！

2-4. バイアス・差別的表現の生成

生成AIは、インターネット上の大量データを学習しているため、その中に含まれる偏見や差別的な表現を引き継ぐ可能性があり、例えば、人種や性別、年齢、国籍などに関する差別的・ステレオタイプな表現が出力されることがあります。もしバイアスのある情報が意思決定や制度設計に影響を及ぼした場合、社会的信用の毀損や法的トラブルに発展するリスクも考えられます。AIの出力内容は常に中立・公正とは限らないことを理解し、ハルシネーションのリスク管理と同様に、内容のチェック体制を整えることが重要です。

NTT東日本の生成AIサービスの詳細はこちら！

3. リスクを最小化するための具体的な対策

生成AIのリスクを完全にゼロにすることは困難ですが、事前に適切な対策を講じることで、事故の発生や被害拡大を防ぐことが可能です。

3-1. 利用に際してのガイドライン整備

生成AIを業務で活用する際の社内ガイドラインを整備します。「生成AIに入力してよい情報の範囲」や「出力結果の取り扱い方針」などを明文化することで、従業員が迷わず正しく活用できる環境を整えることができます。また、ルールの策定と同時に、全社的な教育や意識啓発もセットで行うことが求められます。

3-2. 情報セキュリティ対策の実施

生成AIの導入に際しては、システムレベルでの情報セキュリティ対策も欠かせません。具体的には、以下のような措置が有効です。

• クラウド型生成AIサービスを利用する場合は、社内ネットワークとの連携制限や認証管理の強化を行う
• 利用ログの取得と監査によるトレーサビリティを確保する
• 入力データのマスキングや暗号化による情報保護を実施する

特に、自治体や大企業など機密情報を多く扱う組織では、閉域ネットワークやオンプレミス型AIの導入も選択肢の一つとなります。

3-3. 社外パートナーとの連携によるリスク対応

自社内だけでリスクを完全に管理するのが困難な場合、専門ベンダーとの連携が有効です。生成AIの安全な導入・運用を伴走支援するITパートナーや、法務・セキュリティに強いコンサルタントなどの知見を活用することで、想定外のリスクにも対応しやすくなります。生成AIは、法制度や技術動向が変化しやすい分野であるため、外部パートナーによる継続的なレビュー・監修体制を整えることが推奨されます。

3-4. オプトアウト機能の活用

生成AIを提供するサービスの多くには、学習データへの情報提供を拒否できる「オプトアウト」機能があります。この機能を活用することで、入力した業務データが学習に利用されることを防ぎ、将来的な情報漏えいリスクを軽減できます。ただし、すべての生成AIサービスがオプトアウトに対応しているわけではないため、サービス選定の段階でデータ取り扱いポリシーを確認することが重要です。

3-5. プロンプトエンジニアリングの工夫

生成AIの出力精度やリスクは、「どのように指示（プロンプト）を出すか」に大きく左右されます。曖昧な指示では誤情報が出力されやすくなるため、明確な条件や目的をプロンプトに加えることで、より正確かつ安全な出力を得ることが可能になります。具体的には、以下のような指示が有効です。

• 「参考文献を明記してください」と付け加える
• 「公的機関のデータに基づいて回答してください」と明示する
• 出力形式や言い回しを明確に指定する

プロンプトエンジニアリングの知識を社内で共有・標準化することで、生成AIの利活用におけるリスクを大幅に軽減できます。

プロンプトエンジニアリングとは？生成AIを業務で使いこなすための基本と実践のコツ

NTT東日本の生成AIサービスの詳細はこちら！

4. 生成AIサービス選びにお悩みならNTT東日本の「生成AIサービス」

SaaS型で提供するNTT東日本の「生成AIサービス」では、社内の営業データを活用できるチャット型のAIアシスタントとして日々の業務を強力に支援します。また、外部のデータベースから情報を検索し、信頼性の高い回答を出力する「RAG」の構築も可能です。RAGを活用すれば、生成AIの問題点やリスクを低減することができます。そのほかにも、プロンプトのテンプレート化や利用状況を可視化できるレポート機能なども提供。生成AIを効率的に利用するためのサポートや知識・技術習得のための研修などをオプションにて実施できます。適切な生成AI環境のカスタマイズをトータルでサポートいたしますので、生成AIの導入に課題を感じている方は、NTT東日本にご相談ください。

NTT東日本の生成AIサービスの詳細はこちら！

5. まとめ

生成AIの利活用は、業務効率化にとどまらず、組織全体の情報活用力を底上げする絶好の機会でもあります。信頼性の高い生成AIサービスを選定し、必要に応じて伴走支援を受けながら、段階的に活用を広げていくことが重要です。生成AIの導入をお考えの方は、ぜひNTT東日本にお任せください！