AIF-C01：AWS Certified AI Practitioner 基盤モデルの応用 問2
基盤モデルの応用／基盤モデルを使うアプリの設計上の考慮（推論パラメーター・RAG・ベクターストア）請求書の文面から金額や期日を抽出して後続システムへ渡す処理に基盤モデルを使っています。同じ請求書を入力しても実行のたびに出力の表現がばらつき、後続処理が失敗することがあります。出力を安定させるために調整する推論パラメーターとして適切なものはどれか。
当サイトのオリジナル問題（AIF-C01：AWS Certified AI Practitionerの出題範囲「基盤モデルの応用」に対応。実際の試験問題ではありません）
- A最大トークン数（max tokens）を大きく設定し、生成できる出力の長さに余裕を持たせる
- Btop-k の値を大きく設定し、各ステップで候補として考慮するトークンの数を増やす
- Ctemperature を 0 に近い低い値に設定し、確率の高いトークンが選ばれやすいようにする
- Dtop-p を 1.0 に設定し、累積確率の対象となる候補の範囲をすべて含める
正解：C
解説
temperature は次のトークンを選ぶ際のランダム性を制御します。値を低くすると確率の高いトークンが選ばれやすくなり、同じ入力に対する出力が安定します。抽出のような決定的な結果が求められる用途に向いています。top-k や top-p を広げると候補が増えて出力の多様性が高まり、max tokens は出力の長さの上限を決めるだけでばらつきには影響しません。
選択肢ごとの解説
- A誤り。max tokens は生成する出力の最大長を決めるもので、出力のばらつきを抑える効果はありません。
- B誤り。top-k を大きくすると候補が増え、むしろ出力の多様性が高まってばらつきが大きくなります。
- C正しい。temperature を低くすることでランダム性が下がり、出力が安定します。
- D誤り。top-p を 1.0 にすると候補の絞り込みがなくなり、出力の多様性が高まる方向になります。