COLUMN

架電者のナレッジ補強のための社内データをRAG化したチャットアプリ構築にAmazon Bedrockを使ってみた

本コラムではコンタクトセンターでの活用を想定したチャットアプリをAWSの代表的なサービスであるAmazon BedrockやAmazon Lexなどを利用して構築した例を紹介します。

1. コンタクトセンターにおけるチャットアプリの活用

コンタクトセンターにおけるチャットアプリは、顧客※1に柔軟なサービスを提供する重要なツールです。通話の待ち時間を削減可能であり、AIを導入することで年中無休の対応を実現し、エージェント※2は高度な問題解決に専念できます。

チャットでのやりとりを蓄積し、目的の分析やサービス改善に役立てられる点も魅力です。多言語対応機能を組み合わせることで、グローバルな顧客基盤にも対応できます。チャットアプリは効率化やコスト削減、顧客体験向上を実現するコンタクトセンターの必須ツールと言えるでしょう。

※1 顧客:コンタクトセンターに電話をかけてこられるお客さま

※2 エージェント:コンタクトセンターで顧客対応を行う担当者

1-1. Amazon Connectとは

Amazon Connectは、クラウドベースのコンタクトセンターサービスで、柔軟性と拡張性を兼ね備えています。企業は電話やチャット、メールなどの多様なチャネルを統合し、一元的に管理することで顧客とのコミュニケーションを効率化できます。また、Contact Lensに代表されるAI機能を活用し、チャットボットや音声認識を通じて自動応答やナレッジサポートを提供し、エージェントの負担を軽減します。さらにクラウド基盤のため、利用規模に応じた柔軟なコスト管理ができ、リモートワークでの運用にも適しています。Amazon Connectは、顧客体験の向上、運用効率化、コスト削減を実現する次世代のコンタクトセンターソリューションです。

1-2. Amazon Lexについて

Amazon Lexは、音声およびテキスト対応の会話型インターフェース(チャットボット)を作成することができます。Lexは、自然言語を理解し顧客の意図を正確に把握することで、FAQの自動応答、タスクの実行、予約や注文の受付など、多岐にわたるユースケースに多言語で対応可能です。

NTT東日本では、生成AIを活用したIVRソリューションを提供しています。IVRソリューションの導入を検討している方は、ぜひお気軽にお問い合わせください。

2. 生成AIとRAGについて

生成AIとRAG(Retrieval-Augmented Generation)は、ビジネスの効率化と競争力強化を支える先進的な技術です。生成AIは、高度な自然言語処理により自動文章生成や要約、翻訳を可能にし、カスタマーサポートやマーケティング、コンテンツ制作を効率化します。一方、RAGは外部データや企業内データを参照しながら情報を生成するため、正確性が求められる業務や個別化された顧客対応に適しています。

これらの技術は、製造業での設計支援、医療分野での診断補助、教育現場での個別学習支援など、多様な業界で活用が進むと期待されます。

2-1. Amazon Bedrockとは

Amazon Bedrockは、AWSが提供する生成AIプラットフォームで、開発者が大規模言語モデル(LLM)やその他の生成AIモデルを活用してアプリケーションを構築できるサービスです。複数のAIパートナーによるモデルを選択でき、独自データを使用したカスタマイズも可能です。企業はBedrockを活用することで、開発コストを抑えながら顧客対応や業務プロセスを最適化できます。Amazon Bedrockは生成AIを迅速に導入し、ビジネス価値を向上させる強力なツールです。

2-2. Amazon Bedrock Knowledge Baseとは

Amazon Bedrock Knowledge Baseは、生成AIを活用して企業の内部情報を効率的に管理し、情報へのアクセスを最適化するためのソリューションです。Amazon Bedrockを通じて、LLMが企業内のドキュメントやデータベースから情報を抽出・要約し、ユーザーが自然言語で質問するだけで迅速かつ正確な回答を提供します。これにより従業員の情報検索時間を削減し、顧客サポートや内部プロセスの効率化を実現できます。AWSのスケーラブルでセキュアな環境を活用し、コスト効率よくナレッジ管理を強化できる点が特長です。

NTT東日本では、生成AIを活用したIVRソリューションを提供しています。IVRソリューションの導入を検討している方は、ぜひお気軽にお問い合わせください。

3. RAG構成をとるチャットアプリの構築例

以降ではRAG構成をとるチャットアプリを構築する手順を紹介します。

3-1. アプリの概要

構築するチャットアプリの要件はコンタクトセンターのエージェントが顧客対応中に特定の商品情報をチャットで確認できるものとします。

システムの概念図は以下になります。

Bedrockのナレッジベースに設定する参照用のデータはChatGPTで作成し、テキストファイルとして読み込みます。チャット機能はAmazon Lexを利用して構築します。検証はナレッジベースで読み込んだテキスト情報に含まれる情報を正確に出力できるかをテストします。

3-2. 実装の詳細

バックエンドからフロントエンド側の順で各設定を紹介します。

【Amazon Bedrockの準備】

まずはRAGの重要な要素である、Bedrockの設定を紹介します。

1. コンソールから「Bedrock」>「ナレッジベース」>「Create」> 「Knowledge Base with vector store」と進む

2. ナレッジベースの名前を選択し、データソースはS3を選択

3. S3の参照先や文章をベクトル化する際の各種設定を行う※変更不要です

4. 公開されていない社内情報として、架空のコーヒーの商品情報を用意

5. ベクトル化の際に使用するモデルは「Titan Embeddings」を選択

この時モデルの使用申請を行っていないとエラーとなってしまうためご注意ください。

ベクトルを保存するベクトルデータベースは「Amazon OpenSearch Serverless」を選択

本コラム執筆時の費用は1日で8ドルほど課金が発生しています。ご注意ください。

6. 確認を行い、「ナレッジベースの作成」を実行。5分程度で完了します

7. 完了後、ナレッジベースを選択 > 画面右からテストを行えます。新作のコーヒーについて尋ねると正確な回答が引用付きで返されていることを確認します

【AWS Lambdaの準備】

次にチャット機能を提供するAmazon Lexから入力を受け取った際に、先ほど作成したナレッジベースに問い合わせを行い、出力を返す処理をLambdaで実装します。

1. 関数を作成。ランタイムの初期値が3秒のため、10秒程度を目安に変更します

2. 問い合わせ用のコードです。今回はPythonで実装しています。6-13行目がLexからの入力を受け取る部分。15-28行目がナレッジベースへ問い合わせる部分。29-42行目がLexに値を返すために形式を整えている部分に相当します

【Amazon Lexの準備】

チャットボットの仕組みを用意するための設定を紹介します。具体的には入力された文字列をLambda関数に渡す仕組みを作ります。

1. コンソールから「Amazon Lex」>「Create bot」を選択

2. ボット名などを設定、他の設定は初期値のまま「Next」を選択

3. 言語設定は「Japanese(JP)」を選択 > 「Done」

4. NewIntentから「Sample utterances」に初期値を設定。今回は「こんにちは!」とします

5. NewIntentとFallbackIntentの各「Code hooks」のチェックボックスにチェック

6. Aliases を選択します

7. デフォルトのものから「Languages」>「Japanese」を選択

8. 前工程で作成したLambda関数を設定します

設定が完了した後、Intentの画面から「Build」 > 「Test」としてチャット画面から問い合わせをテストして挙動を確認してみましょう。

【AWS Amplifyを用いた公開】

チャットアプリのユーザーインターフェースはhtmlで簡単に作成し、Amazon Amplifyを利用して配信します。詳細は割愛しますがhtmlファイルを作成し、JavaScriptの内部に前工程で作成したAmazon LexのチャットボットのボットIDやエイリアスIDを埋め込むことで非常に簡単にチャットボットを作成することができます。

1. Amplifyから「Gitなしでデプロイ」を選択します

2. 作成したhtmlファイルを「index.html」としてS3バケットに保存した上で、保存したバケットのURIを参照先として設定します

3-3. 検証結果と考察

1. Amplifyから払い出されたURLをクリックしてチャットアプリに移動

2. 社内機密として設定したテキスト情報を、参照しつつ回答を出力できていることが確認できます

以上、簡易的ではありますがAWSを用いたRAG構成とチャットボットの実装例でした。

NTT東日本では、生成AIを活用したIVRソリューションを提供しています。IVRソリューションの導入を検討している方は、ぜひお気軽にお問い合わせください。

4. IVRシステムならNTT東日本のAI IVRをご検討ください

IVRシステムの導入をお考えでしたら、まずはNTT東日本にご相談ください。NTT東日本では、電話対応業務をAIが代行するIVRシステムを提供しています。

AI IVRシステムは、従来のIVRのように電話のプッシュボタンを押すことなく、お客さまの音声のみで操作することができるという新しいソリューションです。

AWSで開発しご提供するため、柔軟な拡張性、セキュリティの確保や先進テクノロジーの活用など、多くのクラウド利用のメリットを享受できます。また、NTT東日本のクラウドエンジニアがお客さまの電話業務に関わるお悩みに沿って、ご要望に応じ、カスタマイズして提供することが可能です。

NTT東日本では、生成AIを活用したIVRソリューションを提供しています。IVRソリューションの導入を検討している方は、ぜひお気軽にお問い合わせください。

5. まとめ

本コラムではコンタクトセンターでの活用を想定したチャットアプリの実装例を紹介しました。本コラムで想定した要件である、「Amazon Connectによる顧客対応中にAIに質問できる機能」は、Amazon Q in Connectというサービスですでに実装されています。ただし2024年12月現在、この機能は英語のみで提供されており日本語での提供がされておりません。そのため本コラムで紹介した実装例はAmazon Connectとは独立したインターフェースにおいて、チャットアプリを構築するニーズがある場合に役立つノウハウと考えています。

本コラムがAmazon Connectの活用に際してご参考になれば幸いです。

無料ダウンロード

自社のクラウド導入に必要な知識、ポイントを
このに総まとめ!

あなたはクラウド化の
何の情報を知りたいですか?

  • そもそも自社は本当にクラウド化すべき?オンプレとクラウドの違いは?
  • 【AWS・Azure・Google Cloud】
    どれが自社に最もマッチするの?
  • 情シス担当者の負荷を減らしてコストを軽減するクラウド化のポイントは?
  • 自社のクラウド導入を実現するまでの具体的な流れ・検討する順番は?

初めての自社クラウド導入、
わからないことが多く困ってしまいますよね。

NTT東日本では
そんなあなたにクラウド導入に必要な情報を

1冊の冊子にまとめました!

クラウド化のポイントを知らずに導入を進めると、以下のような事になってしまうことも・・・

  • システムインフラの維持にかかるトータルコストがあまり変わらない。。
  • 情シス担当者の負担が減らない。。
  • セキュリティ性・速度など、クラウド期待する効果を十分に享受できない。。
理想的なクラウド環境を実現するためにも、
最低限の4つのポイントを
抑えておきたいところです。
  • そもそも”クラウド化”とは?
    その本質的なメリット・デメリット
  • 自社にとって
    最適なクラウド環境構築のポイント
  • コストを抑えるため
    具体的なコツ
  • 既存環境からスムーズにクラウド化
    実現するためのロードマップ

など、この1冊だけで自社のクラウド化のポイントが簡単に理解できます。
またNTT東日本でクラウド化を実現し
問題を解決した事例や、
導入サポートサービスも掲載しているので、
ぜひダウンロードして読んでみてください。

クラウドのわからない・
面倒でお困りのあなたへ

クラウドのご相談できます!
無料オンライン相談窓口

NTT東日本なら貴社のクラウド導入設計から
ネットワーク環境構築・セキュリティ・運用まで
”ワンストップ支援”が可能です!

NTT東日本が選ばれる5つの理由

  • クラウド導入を
    0からワンストップでサポート可能!
  • 全体最適におけるコスト効率・業務効率の改善
    中立的にご提案
  • クラウド環境に問題がないか、
    第3者目線でチェック
    してもらいたい
  • 安心の24時間・365日の対応・保守
  • NTT東日本が保有する豊富なサービスの組み合わせで
    ”課題解決”と”コスト軽減”を両立

特に以下に当てはまる方はお気軽に
ご相談ください。

  • さまざまな種類やクラウド提供事業者があってどれが自社に適切かわからない
  • オンプレミスのままがよいのか、クラウド移行すべきなのか、迷っている
  • オンプレミスとクラウド移行した際のコスト比較を行いたい
  • AWSとAzure、どちらのクラウドが自社に適切かわからない
  • クラウド環境に問題がないか、第3者目線でチェックしてもらいたい
  • クラウド利用中、ネットワークの速度が遅くて業務に支障がでている

クラウドを熟知するプロが、クラウド導入におけるお客さまのLAN 環境や接続ネットワーク、
クラウドサービスまでトータルにお客さまのお悩みや課題の解決をサポートします。

ページ上部へ戻る

相談無料!プロが中立的にアドバイスいたします

クラウド・AWS・Azureでお困りの方はお気軽にご相談ください。