COLUMN

2025.03.19 ｜ Writer：NTT東日本　アベ

生成AIにおけるパラメーター設定の重要性

生成AIは、膨大なデータを学習し、新しい文章や画像、音声などを自動生成する技術です。例えば、ChatGPTのような自然言語モデルは、人間の質問に対して自然な文章を作成したり、要約を行ったりすることができます。しかし、生成AIの出力をコントロールするためには、いくつかのパラメーター設定が必要です。これらのパラメーターを適切に調整することで、生成される内容の一貫性、創造性、正確性をコントロールすることができます。

これをうまく活用すれば、自由な発想が求められる場面では多様なアイデアを得ることができ、正確な情報が求められる場面では信頼性の高い出力を得ることができます。本コラムでは、生成AIで調整可能な主なパラメーターについて解説し、それぞれの用途に応じた適切な設定方法を紹介します。

1. 生成AIのパラメーターとは
2.生成AIで設定できるパラメーター: 2-1. temperature; 2-2. top-p; 2-3. top-k
3.用途別の推奨パラメーター設定: 3-1.正確性重視; 3-2.創造性重視; 3-3.要約; 3-4.対話
4.生成AIの活用ならNTT東日本にお任せください
5.まとめ

1. 生成AIのパラメーターとは

生成AIは、文章や画像などを自動で作り出す技術ですが、その出力をコントロールするためには、いくつかの設定が必要になります。この設定を「パラメーター」と呼びます。パラメーターを適切に調整することで、生成される内容の一貫性や創造性、正確性をコントロールできます。

例えば、同じ質問をしても、パラメーターの設定が異なれば異なる答えが返ってくることがあります。

生成AIの活用をご検討ならNTT東日本にお問合せください

2. 生成AIで設定できるパラメーター

生成AIの出力を調整するために、さまざまなパラメーターが用意されています。特に重要なものとして、temperature、top-p、top-kの3つがあります。これらは、AIが次に出力する単語や文章の選び方をコントロールする役割を果たします。

2-1. temperature

temperature（温度）は、生成される文章のランダム性を調整するパラメーターです。低い値に設定すると、AIは最も可能性の高い単語を選びやすくなり、安定した出力を返します。逆に、高い値に設定すると、よりランダムな単語の選択が行われ、多様性のある文章になります。

例えば、temperatureを0に近づけると、いつも同じような答えを返すようになり、事実に基づいた情報提供に適しています。一方で、temperatureを1以上にすると、AIはより多様な単語を選ぶため、創造的な文章が生まれやすくなります。ただし、値を上げすぎると、話の一貫性が損なわれたり、意味の通らない文章になることもあります。

※temperatureのイメージです。左上の文章の○○の部分を当てたいとします。生成AIは○○の部分を事前の文脈情報から右図のように確率的に判断し、回答を生成しています。

2-2. top-p

top-pは、AIが次に出力する単語を選ぶ際に、確率の高いものからどこまでを候補として考慮するかを決めるパラメーターです。top-pを1.0に設定すると、AIはすべての単語を候補として扱います。値を0.9にすると、確率の上位90%の単語だけが選択対象となり、それ以外の単語は使われません。この方法によって、極端に珍しい単語が出てくる可能性を減らし、より自然な文章を生成できます。

※top-pのイメージです。値を大きくすることで、回答候補となる単語の種類が増えることを示しています。

2-3. top-k

top-kは、AIが次の単語を決める際に、確率が高い上位k個の単語だけを考慮するパラメーターです。例えば、top-kを50に設定すると、確率の高い50個の候補の中から次の単語を選びます。top-kを低くすると、AIがより確実な単語を選ぶため、安定した出力が得られます。逆に、高い値にすると、より多くの単語を考慮するため、多様な文章が生まれやすくなります。ただし、top-kを上げすぎると、文脈に合わない単語が選ばれるリスクもあります。

※top-kのイメージです。top-pと異なり、確率ではなく、個数で回答候補を絞り込みます。

生成AIの活用をご検討ならNTT東日本にお問合せください

3.用途別の推奨パラメーター設定

生成AIのパラメーターは、用途によって適切な設定が異なります。ここでは、主な用途ごとの推奨設定を紹介します。それぞれの用途について、Azure OpenAI Serviceを利用して検証を行いました。検証時のモデルはChatGPT-4o miniとなります。

3-1. 正確性重視

ニュース記事やデータ分析のように、事実に基づいた正確な回答が求められる場合、AIがランダムに単語を選ぶ余地をできるだけ減らすことが重要です。そのため、temperatureを0に近づけ、top-pを0.8以下に設定すると、より確実性の高い回答が得られます。

2回の出力を行い、回答内容が重複している部分をオレンジ色で塗りました。

それぞれの結果を見てみると、一連の表現が完全に一致している文章が半分を占めました。その他の部分も内容の意味自体は同じ出力が多くみられました。

3-2. 創造性重視

小説の執筆やアイデアのブレインストーミングのように、自由な発想が求められる場合には、AIが幅広い表現を生み出せるようにする必要があります。

temperatureを0.7〜1.0の範囲に設定すると、より多様な表現が可能になります。さらに、top-pを0.9以上に設定すると、AIが多くの単語を候補として選び、ユニークな文章が生まれやすくなります。

それぞれの結果を見てみると、一連の表現が完全に一致している文章は少数となり、一致部分の文字数も小さくなる傾向が確認されました。またトピックごとに説明内容にメリハリがついたような印象を受けます。

3-3. 要約

要約や翻訳では、元の文章の意味を正しく保持しつつ、簡潔で分かりやすい表現が求められます。そのため、安定した出力を得ることが重要になります。

temperatureを0.3〜0.5程度に設定すると、無駄な装飾が少ない、シンプルな文章になります。また、top-pは0.8〜0.9程度に設定すると、元の文章から逸脱しない、適切な表現の回答が得られます。

温度とtop-pを低く設定すると、入力プロンプトである「3文で要約して」という要請に適切に対応しているのに対して、値を高く設定すると、形式の異なる出力が確認されました。

3-4. 対話

チャットボットやAIアシスタントのように、対話が求められる場合は、適度に多様な表現を持ちつつも、一貫性のある回答が必要です。

それぞれの結果を確認すると対話などの短い応答については、温度とtop-pの調整によって大きな変化は確認できませんでした。創造性や正確性検証の結果も鑑みると、期待する回答文章の長さによって、パラメーター操作の重要度や影響度も異なることが示唆されました。

生成AIの活用をご検討ならNTT東日本にお問合せください

4. 生成AIの活用ならNTT東日本にお任せください

NTT東日本では、生成AIの環境提供や活用促進に関するコンサルティング、生成AIのユースケース創出に向けた技術支援を行っております。

また、生成AI導入にあたってのガイドライン制定やセキュリティを遵守した生成AIシステム環境の構築などの支援を行っています。

NTT東日本の提供する生成AIソリューションについてはこちらからお気軽にお問い合わせください。

5. まとめ

生成AIのパラメーターは、生成される内容の一貫性や創造性、正確性をコントロールするための設定です。主なパラメーターとして、temperature、top-p、top-kがあり、これらはAIが次に出力する単語や文章の選び方を決定します。temperatureはランダム性を調整し、低い値で安定した出力、高い値で多様な出力が得られます。top-pは確率の高い単語をどこまで候補として考慮するかを決め、top-kは上位k個の単語だけを考慮します。

生成AIから適切な回答が得られないと感じるときは、正確性重視、創造性重視、要約、対話などの用途を明確にし、用途に応じて適切なパラメーター調整をぜひお試しください。

生成AIの活用をご検討ならNTT東日本にお問合せください