COLUMN

AWS re:Invent 2024 Workshop紹介：Amazon Novaを使用したテキスト生成（RAGの構築、Bedrock Agentの活用）

	こんにちは、中村です。

Amazon Novaの、テキスト生成を使用したWorkshop参加をレポートします。

このWorkshopに参加することで、今回発表されたAmazon Novaを利用した、RAGやシステム構築を体験することができます。本WorkshopはLevel300 - Advancedの設定で、やや難易度高めですがエンジニアの方であれば、特に問題なく進められる印象です。

NTT東日本では、AWSなどクラウドに関するお役立ち情報をメールマガジンにて発信していますので、ぜひこちらからご登録ください。

本Workshopの資料は公開されており、こちらから試すことができます。

aws-samples / amazon-nova-samples

このWorkshopのAmazon Novaは、画像・ビデオ生成のCanvasやReelではなく、テキスト生成モデルのMicro・Lite・Pro・Premierを紹介していました。

軽量・高速・低コスト・テキスト入力のみのMicroと、コストはかかるものの、テキスト・動画入力に対応した高機能なProがありその間にLiteが存在するといったイメージです。受講の時点で、Premierは未公開でしたが、Proより更に高機能な位置づけとなります。

全てにおいて、多言語対応（200+）、fine-tuning、Bedrockに対応しています。

Amazon Novaの、画像入力のデモの紹介がありました。画像内には金額に関わる重要なデータの記載がありますが、Novaが正しく内容を読み取れているようです。

また、歴代のAlexaが含まれた画像を入力し、それぞれの世代と特徴について表形式でまとめる、といったことも行っていました。

Workshopの内容ですが、Novaの理解と、RAGの構築、Bedrock Agentを活用したホテルの予約システムの構築となっています。昨年、ほぼ同じ内容をAmazon Titanで行うWorkshopが存在しており、今年はそのNova版、という位置づけのようです。

ホテルの予約については、Bedrock Agentを経由して、LambdaからDynamoDBに予約情報を格納します。一般的な問い合わせについては、RAGをベースにテキストで回答を行います。問い合わせの内容がホテルの予約なのか、一般的な問い合わせなのかについては、LLMで自動解釈される仕組みになっています。非常に簡単ですね。

RAG部分の構築は、Amazon Titanを埋め込みモデルとして用い、各種ドキュメントをマルチモーダルでナレッジベースに取り込みます。

本Workshopを行うことで、LLMを使用したシステム構築の理解が深まるのではないかと思います。現地で参加出来なかった方にもお勧めです。是非お試し下さい。

NTT東日本では、AWSなどクラウドに関するお役立ち情報をメールマガジンにて発信していますので、ぜひこちらからご登録ください。