AI-103:Developing AI Apps and Agents on Azure 生成 AI とエージェント ソリューションの実装 問18
生成 AI とエージェント ソリューションの実装/生成AIシステムの最適化と運用化同じ入力に対して毎回ほぼ同じ(再現性の高い)回答を返させたい。創造的な表現の揺らぎは不要である。調整すべきパラメーターとその方向として最も適切なものはどれか。
当サイトのオリジナル問題(AI-103:Developing AI Apps and Agents on Azureの出題範囲「生成 AI とエージェント ソリューションの実装」に対応。実際の試験問題ではありません)
- A温度(temperature)を高く設定する
- B最大トークン数を増やす
- Cシステムメッセージを削除する
- D温度(temperature)を低く設定する(出力をより決定的にする)
正解:D
解説
温度(temperature)を低く設定すると、出力がより決定的になり、同じ入力に対する回答の再現性が高まります(Top-p を下げるのも同様の効果)。温度を高くすると多様性が増し再現性は下がります。最大トークン数は長さの上限、システムメッセージ削除は振る舞い指定の喪失であり、再現性の制御ではありません。
下線の用語は 用語集 で意味を確認できます。
選択肢ごとの解説
- A誤り。温度を高くすると出力が多様になり、再現性は下がります。
- B誤り。最大トークン数は長さの上限で、再現性の制御ではありません。
- C誤り。システムメッセージの削除は振る舞いの指定を失うだけで、再現性の制御ではありません。
- D正しい。再現性を高めるには温度を低く(決定的に)します。